# 昇腾社区 llms-full.txt ## 昇腾社区官网-昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/ - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: Ascend,昇腾产业,昇腾创新中心,昇腾万里,昇腾开放资源,Powered by ascend - Detail: llms-content/index.md ## 人工智能计算中心-昇腾社区 - URL: https://www.hiascend.com/industries/ai-computing-center - Description: 开创“一中心四平台”的产业发展模式,打通“政产学研用” ,以AI算力集群赋能产业集群 - Keywords: 人工智能计算中心,昇腾社区,行业概述,一中心四平台,产业发展模式,解决方案,相关产品,成功案例 - Detail: llms-content/industries/zh_industries_ai-computing-center.md ## 昇腾教育行业应用-昇腾社区 - URL: https://www.hiascend.com/industries/education - Description: 加速科研创新,赋能人才培养 - Keywords: 昇腾教育行业应用,昇腾社区,行业概述,业务挑战,解决方案,方案亮点,相关产品,应用场景 - Detail: llms-content/industries/zh_industries_education.md ## 昇腾能源应用-昇腾社区 - URL: https://www.hiascend.com/industries/electricity - Description: 全场景AI助力构建智能电网 - Keywords: 昇腾能源应用,昇腾社区,行业概述,业务挑战,解决方案,相关产品,应用场景,行业案例 - Detail: llms-content/industries/zh_industries_electricity.md ## 昇腾金融行业应用-昇腾社区 - URL: https://www.hiascend.com/industries/fintech - Description: 携手AI拥抱创新,引领金融智能化 - Keywords: 昇腾金融行业应用,昇腾社区,行业概述,业务挑战,解决方案,相关产品,应用场景,行业案例 - Detail: llms-content/industries/zh_industries_fintech.md ## 昇腾医疗行业应用-昇腾社区 - URL: https://www.hiascend.com/industries/healthcare - Description: 拥抱智慧医疗,让AI服务于每一个生命 - Keywords: 昇腾医疗行业应用,昇腾社区,行业概述,业务挑战,解决方案,方案亮点,相关产品,应用场景 - Detail: llms-content/industries/zh_industries_healthcare.md ## 昇腾互联网行业应用-昇腾社区 - URL: https://www.hiascend.com/industries/internet - Description: 昇腾AI,加速互联网行业应用创新 - Keywords: 昇腾互联网行业应用,昇腾社区,行业概述,业务挑战,解决方案,相关产品,应用场景,行业案例 - Detail: llms-content/industries/zh_industries_internet.md ## 昇腾制造行业应用-昇腾社区 - URL: https://www.hiascend.com/industries/manufacturing - Description: AI赋能核心场景,重塑制造模式 - Keywords: 昇腾制造行业应用,昇腾社区,行业概述,业务挑战,解决方案,方案亮点,相关产品,行业案例 - Detail: llms-content/industries/zh_industries_manufacturing.md ## 昇腾智慧城市行业应用-昇腾社区 - URL: https://www.hiascend.com/industries/smartcity - Description: AI推进城市公共安全智能化转型 - Keywords: 昇腾智慧城市行业应用,昇腾社区,行业概述,业务挑战,核心优势,相关产品,生态伙伴,Atlas - Detail: llms-content/industries/zh_industries_smartcity.md ## 昇腾大规模专家并行解决方案-昇腾社区 - URL: https://www.hiascend.com/industries/solutions/large-model - Description: 高性能 | 高可用 | 业界领先 - Keywords: 昇腾大规模专,家并行解决方,昇腾社区,解决方案介绍,业务挑战,MoE,模型带来的模,型推理挑战 - Detail: llms-content/industries/zh_industries_solutions_large-model.md ## 城市智能中枢-昇腾社区 - URL: https://www.hiascend.com/industries/solutions/smart-city - Description: 让城市运转更聪明、更智慧 - Keywords: 城市智能中枢,昇腾社区,解决方案简述,业务挑战,方案组网架构,方案亮点,应用场景,成功案例 - Detail: llms-content/industries/zh_industries_solutions_smart-city.md ## 昇腾电信行业应用-昇腾社区 - URL: https://www.hiascend.com/industries/telecom - Description: AI赋能,推动电信行业智能化升级 - Keywords: 昇腾电信行业应用,昇腾社区,行业概述,业务挑战,解决方案,相关产品,行业案例,生态伙伴 - Detail: llms-content/industries/zh_industries_telecom.md ## 昇腾交通行业应用-昇腾社区 - URL: https://www.hiascend.com/industries/transportation - Description: AI使能,驱动交通数字化转型 - Keywords: 昇腾交通行业应用,昇腾社区,行业概述,业务挑战,相关产品,成功案例,生态伙伴,Atlas - Detail: llms-content/industries/zh_industries_transportation.md ## Atlas 加速卡-昇腾社区 - URL: https://www.hiascend.com/hardware/accelerator-card - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: Atlas,加速卡,昇腾社区,产品特性,技术规格,了解产品应用场景,获取开发支持与帮助,Duo - Detail: llms-content/hardware/zh_hardware_accelerator-card.md ## Atlas 200I A2加速模块-产品特性规格-资源文档-昇腾社区 - URL: https://www.hiascend.com/hardware/accelerator-module-A2 - Description: 集成于边端智能设备、机器人、无人机中,提供AI算力 - Keywords: Atlas,加速模块,产品特性规格,资源文档,昇腾社区,集成于边端智能设备,机器人,无人机中 - Detail: llms-content/hardware/zh_hardware_accelerator-module-A2.md ## Atlas 800 AI服务器-推理服务器-特性规格参数-用户指南-产品文档-昇腾社区 - URL: https://www.hiascend.com/hardware/ai-server - Description: Atlas 800 推理服务器 (型号:3000)最大可支持8个Atlas 300I/V Pro,提供强大的实时推理能力和视频分析能力,广泛应用于中心侧AI推理场景。 - Keywords: Atlas,AI,推理服务器,特性规格参数,用户指南,产品文档,昇腾社区,产品特性 - Detail: llms-content/hardware/zh_hardware_ai-server.md ## Atlas 900 A3 SuperPoD Atlas 900 AI 集群-Atlas 900 A2 PoD-技术规格参数-昇腾社区 - URL: https://www.hiascend.com/hardware/cluster - Description: Atlas 900 A3 SuperPoD 超节点满足互联网、运营商、金融等行业的大规模智算数据中心建设,支持更高效的大模型训练和推理,提供业界最佳液冷AI超节点方案,通过灵衢高速互联,实现384张NPU像一台计算机一样工作。 Atlas 900 A2 PoD 集群基础单元,具有极致算力密度、极高AI能效、极简交付部署等特点。该基础单元广泛应用于深度学习模型开发和训练,适用于人工智能计算中心、 - Keywords: Atlas,SuperPoD,AI,集群,PoD,技术规格参数,昇腾社区,产品特性 - Detail: llms-content/hardware/zh_hardware_cluster.md ## 兼容性查询助手-昇腾软件兼容性信息-操作系统兼容性-部件兼容性-昇腾社区 - URL: https://www.hiascend.com/hardware/compatibility - Description: 快速获取昇腾全栈软件的操作系统兼容性和硬件部件兼容性信息 - Keywords: 兼容性查询助手,昇腾软件兼容性信息,操作系统兼容性,部件兼容性,昇腾社区,NPU Atlas,Atlas,V Pro,CentOS - Detail: llms-content/hardware/zh_hardware_compatibility.md ## 硬件-developer-kit-a2-昇腾社区 - URL: https://www.hiascend.com/hardware/developer-kit-a2 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾社区官网,昇腾万里,让智能无所不及,智能助手 - Detail: llms-content/hardware/zh_hardware_developer-kit-a2.md ## 硬件-developer-kit-a2-项目-昇腾社区 - URL: https://www.hiascend.com/hardware/developer-kit-a2/project - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾社区官网,昇腾万里,让智能无所不及,智能助手 - Detail: llms-content/hardware/zh_hardware_developer-kit-a2_project.md ## /hardware/developer-kit-a2/resource - URL: https://www.hiascend.com/hardware/developer-kit-a2/resource ## 硬件-developer-kit-a2-规格-昇腾社区 - URL: https://www.hiascend.com/hardware/developer-kit-a2/specification - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾社区官网,昇腾万里,让智能无所不及,智能助手 - Detail: llms-content/hardware/zh_hardware_developer-kit-a2_specification.md ## 固件与驱动-昇腾设备环境部署-软件下载-昇腾社区 - URL: https://www.hiascend.com/hardware/firmware-drivers - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 固件与驱动,昇腾设备环境部署,软件下载,昇腾社区,扩展资源,Ascend HDK,Yum,Runfile - Detail: llms-content/hardware/zh_hardware_firmware-drivers.md ## 商用版-固件与驱动-昇腾社区 - URL: https://www.hiascend.com/hardware/firmware-drivers/commercial - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 商用版,固件与驱动,昇腾社区,Atlas,SoC,了解详情,加速模块,智能助手 - Detail: llms-content/hardware/zh_hardware_firmware-drivers_commercial.md ## 社区版-固件与驱动-昇腾社区 - URL: https://www.hiascend.com/hardware/firmware-drivers/community - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 社区版,固件与驱动,昇腾社区,Atlas,SoC,了解详情,加速模块,智能助手 - Detail: llms-content/hardware/zh_hardware_firmware-drivers_community.md ## /hardware/Intelligent-edge-A2 - URL: https://www.hiascend.com/hardware/Intelligent-edge-A2 ## 昇腾NPU处理器 - URL: https://www.hiascend.com/hardware/processor - Description: Ascend 950PR聚焦LLM大语言模型Prefill阶段以及高性能推荐业务,最大配备128GB、1.6TB/s高速片上内存,打造极致吞吐能力。 - Keywords: NPU,昇腾,处理器,产品特性,Ascend,PR,技术规格,获取产品资源 - Detail: llms-content/hardware/zh_hardware_processor.md ## pytorch - URL: https://www.hiascend.com/software/ai-frameworks ## 历史软件包-资源下载-昇腾社区 - URL: https://www.hiascend.com/software/ai-frameworks/tensorflow/community - Description: 勾选您想下载的资源,将为您自动进行版本配套 - Keywords: 历史软件包,资源下载,昇腾社区,TensorFlow CANN,AscendFAQ,CommuFunc,了解详情 - Detail: llms-content/software/zh_software_ai-frameworks_tensorflow_community.md ## 通用目标检测识别解决方案 - URL: https://www.hiascend.com/software/cann/detide - Description: 目标检测识别是计算机视觉领域的一项关键技术,随着深度学习的发展,应用场景也越来越广泛。但人工智能应用开发门槛高、周期长,各类AI软件栈理解成本高,AI模型与业务结合难,对AI领域开发人员技能要求高。为了降低开发门槛,CANN开源了通用目标检测识别解决方案,通过其强大的可定制、可扩展性,为AI开发者提供良好的编程选择。 - Keywords: 通用目标检测,识别解决方案,概述,定制开发,CANN,智能助手,了解详情 - Detail: llms-content/software/zh_software_cann_detide.md ## 基于深度学习的分子动力学 - URL: https://www.hiascend.com/software/cann/molecule - Description: 分子动力学是一套分子模拟方法,主要依靠牛顿力学来模拟分子体系运动,是研究微观世界的有效手段。但传统研究手段的时间复杂度较高,仅限于研究数千量级原子的小型系统,在应用中存在普遍局限性。深势科技提出的基于深度学习的分子动力学模拟方法(DeePMD)可将AI技术成功应用于分子动力学,实现了上亿原子体系的模拟,目前该项技术已经发展成为端到端的开源解决方案,以科学智能(AI for Science)为分子动 - Keywords: 基于深度学习,的分子动力学,DeePMD,工作流程,自定义高性能算子,高效协同昇腾,不同异构单元,自定义高性能,算子,网络优化 - Detail: llms-content/software/zh_software_cann_molecule.md ## 视频超分 - URL: https://www.hiascend.com/software/cann/vsr - Description: 随着互联网技术的高速发展,视频行业已进入以4K/8K为代表的超高清时代,观众对视频画质的要求越来越高。但很多早期的影视资料、经典电影和影视剧作品,受当时拍摄技术、存储介质、存储环境等因素影响,画面质量较低并且有不同程度劣化,严重影响了观看体验。传统的影像修复是通过人工方式,由有一定艺术功底的专业人员利用传统的图像处理算法来完成的,这种方式成本高、效率低,并且难以应对海量的修复内容。随着AI算法在视 - Keywords: 视频超分,超分体验,概述,模型介绍,EDVR,网络结构图,图片来自,软硬件优化 - Detail: llms-content/software/zh_software_cann_vsr.md ## CCAE-昇腾社区 - URL: https://www.hiascend.com/software/ccae - Description: CCAE是华为面向集群运维和管理的软件,致力于提供计算、网络、存储设备的一站式跨域管理,提供自动故障诊断等高阶能力。通过多种标准协议的API接口开放,支持开发者快速构建个性化运维监控系统 - Keywords: CCAE,昇腾社区,助力昇腾算力,高可靠,高可用,关键特性,扩展资源,AF - Detail: llms-content/software/zh_software_ccae.md ## 昇腾模型查询助手-昇腾社区 - URL: https://www.hiascend.com/software/mindie/modellist/show - Description: 提供昇腾推理和训练场景支持的模型清单及获取链接,方便开发者查询与使用。 - Keywords: 昇腾模型查询助手,昇腾社区,MindIE,SGLang,MoE,Mixture,Experts,Baichuan Bloom ChatGLM DeepSeek LLaMA Qwen - Detail: llms-content/software/zh_software_mindie_modellist_show.md ## MindStudio软件许可协议-昇腾社区 - URL: https://www.hiascend.com/software/mindstudio/protocol - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: MindStudio,软件许可协议,昇腾社区,许可,限制,无担保,无支持,无责任 - Detail: llms-content/software/zh_software_mindstudio_protocol.md ## 应用使能-昇腾社区 - URL: https://www.hiascend.com/software/mindx - Description: 昇腾应用使能组件集,包括昇腾亲和的极致性能应用对接SDK、极简易用的平设备纳管/调度/监控/故障诊断/断点续训等平台对接组件、昇腾推理引擎、昇腾大模型训练加速库 - Keywords: 应用使能,昇腾社区,支持与帮助,ModelArts HiAI Service,MindSDK,Vision SDK,Index,Rec - Detail: llms-content/software/zh_software_mindx.md ## MindCluster - URL: https://www.hiascend.com/software/mindx-dl - Keywords: MindCluster,产品堆栈,关键特性,开发者日历,获取,开源资源,BD,Master - Detail: llms-content/software/zh_software_mindx-dl.md ## MindEdge - URL: https://www.hiascend.com/software/mindx-edge - Keywords: MindEdge,产品堆栈,关键特性,开发者日历,获取,开源资源,BD,MEF Center - Detail: llms-content/software/zh_software_mindx-edge.md ## MindSDK - URL: https://www.hiascend.com/software/mindx-sdk - Keywords: MindSDK,产品堆栈,关键特性,开发者日历,获取,开源资源,BD,Vision SDK - Detail: llms-content/software/zh_software_mindx-sdk.md ## 开发软件-MindX-章程-昇腾社区 - URL: https://www.hiascend.com/software/mindx/charter - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾社区官网,昇腾万里,让智能无所不及,TC,SIG Maintainer,技术指导委员,社区治理,指导委员会委 - Detail: llms-content/software/zh_software_mindx_charter.md ## 开发软件-MindX-章程-detail-昇腾社区 - URL: https://www.hiascend.com/software/mindx/charter/detail - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾社区官网,昇腾万里,让智能无所不及,TC,SIG Maintainer,技术指导委员,社区治理,指导委员会委 - Detail: llms-content/software/zh_software_mindx_charter_detail.md ## 贡献路径 - URL: https://www.hiascend.com/software/mindx/contrib-guide - Description: 从了解社区到贡献社区的全流程路径指南,助力开发者轻松开启开源贡献之旅 - Keywords: 贡献路径,Ascend,MindIE,SD,MindSpeed,了解详情,智能助手 - Detail: llms-content/software/zh_software_mindx_contrib-guide.md ## Mind系列应用使能社区治理架构-昇腾社区 - URL: https://www.hiascend.com/software/mindx/gov-arch - Description: 呈现社区治理架构、技术决策机制、社区角色和权责和协作规则,为社区参与者和贡献者提供社区运作机制和规范,保障社区健康发展。 - Keywords: Mind,系列应用使能,社区治理架构,昇腾社区,昇腾开源软件,TSC,Ascend,TC - Detail: llms-content/software/zh_software_mindx_gov-arch.md ## 开源开放项目列表-昇腾社区 - URL: https://www.hiascend.com/software/mindx/open-map - Description: 昇腾软件技术生态开源开放项目全景,助你快速找到所需资源与协作方向 - Keywords: 开源开放项目列表,昇腾社区,MindSpeed,MindIE,MindCluster,MindEdge,MindSDK,MindStudio - Detail: llms-content/software/zh_software_mindx_open-map.md ## 应用使能-TC/SIG 中心-昇腾社区 - URL: https://www.hiascend.com/software/mindx/sigs - Description: TC 的全称是 Technical Committee,即“技术委员会”。SIG的全称是Special Interest Groups,即“特别兴趣小组”。昇腾社区按照不同的 TC/SIG 来组织,以便于更好的管理和改善工作流程。TC/SIG 组均是开放的,欢迎任何人来参与 - Keywords: 应用使能,TC,中心,昇腾社区,SIGs,SIG,Technical Committee,Interest Groups - Detail: llms-content/software/zh_software_mindx_sigs.md ## ModelZoo-课程-文档-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo - Description: 提供一站式模型开发与体验,包括丰富的各领域SOTA模型、全流程开发工具、ModelShow、AIGC创空间等在线体验,方便开发者快速开启昇腾模型之旅。 - Keywords: ModelZoo,课程,文档,昇腾社区,大模型,一站式模型开发与体验,开启昇腾模型之旅,获取开发支持与帮助 - Detail: llms-content/software/zh_software_modelzoo.md ## LLM语言大模型-昇腾大模型平台-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/big-models - Description: 一站式昇腾大模型服务平台,汇聚昇腾优势大模型,提供全流程昇腾大模型开发工具链,让昇腾大模型飞入千家万户 - Keywords: LLM,语言大模型,昇腾大模型平台,昇腾社区,Ascend,加速库,ModelShow,ModelZoo - Detail: llms-content/software/zh_software_modelzoo_big-models.md ## 权重库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/datasets - Description: 全量开源昇腾模型文件获取 - Keywords: 权重库,ModelZoo,昇腾社区,ModelShow,Documentation,LLM,ChatGLM,License - Detail: llms-content/software/zh_software_modelzoo_datasets.md ## MiniGPT4-7B-权重库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/datasets/detail/15cb8a5c214548d09951d495b6feb254 - Description: MiniGPT4-7B权重获取地址引导 - Keywords: MiniGPT,权重库,ModelZoo,昇腾社区,概述,简述,准备训练环境,准备环境 - Detail: llms-content/software/zh_software_modelzoo_datasets_detail_15cb8a5c214548d09951d495b6feb254.md ## ChatGLM-6B-权重库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/datasets/detail/1e5722281bab4071b8dcd8d95c872b7a - Description: ChatGLM-6B权重获取地址引导 - Keywords: ChatGLM,权重库,ModelZoo,昇腾社区,概述,简述,准备训练环境,准备环境 - Detail: llms-content/software/zh_software_modelzoo_datasets_detail_1e5722281bab4071b8dcd8d95c872b7a.md ## Diffuers-Stable Diffusion1.5-权重库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/datasets/detail/2648af2b135b44d4969dd78a8dc24123 - Description: Diffuers-Stable Diffusion1.5权重获取地址引导 - Keywords: Diffuers,Stable,Diffusion,权重库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_datasets_detail_2648af2b135b44d4969dd78a8dc24123.md ## 模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models - Description: 丰富的深度学习模型 - Keywords: 模型库,ModelZoo,昇腾社区,ModelShow,Documentation,Ascend,PyTorch,TensorFlow - Detail: llms-content/software/zh_software_modelzoo_models.md ## GaitSet-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/0019443205104a36be210f455e34d47a?index_id=0019443205104a36be210f455e34d47a - Description: 生态贡献模型 - Keywords: GaitSet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_0019443205104a36be210f455e34d47a.md ## 模型详情-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/02513b11ea0843e5bb08cf1560c02b70 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 模型详情,模型库,ModelZoo,昇腾社区,ModelShow,了解详情,主页,大模型 - Detail: llms-content/software/zh_software_modelzoo_models_detail_02513b11ea0843e5bb08cf1560c02b70.md ## 模型详情-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/05e97663fcba436cb116b65bd8bee0d6 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 模型详情,模型库,ModelZoo,昇腾社区,ModelShow,了解详情,主页,大模型 - Detail: llms-content/software/zh_software_modelzoo_models_detail_05e97663fcba436cb116b65bd8bee0d6.md ## FasterRCNN-Pytorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/06386b7af88c4fbebbe9d17b02a3aef1 - Description: FasterRCNN是一个目标检测网络,继承了FastRCNN的候选区域+目标识别架构,并在其基础上提出了候选区域网络(RPN)这一概念。 - Keywords: FasterRCNN,Pytorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_06386b7af88c4fbebbe9d17b02a3aef1.md ## DeepSeek-V3 全参微调-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/08545b6c7d3844afbc13553ec958b39f - Description: DeepSeek-V3 是一款卓越的专家混合(MoE)语言模型,具备总计 6710 亿参数,其中每个 token 激活约 370 亿参数。为了实现高效推理和经济实惠的训练,DeepSeek-V3 创新性地采用了多头潜在注意力(MLA)机制与 DeepSeek-MoE 架构。 - Keywords: DeepSeek,全参微调,模型库,ModelZoo,昇腾社区,准备训练环境,准备环境,准备模型权重 - Detail: llms-content/software/zh_software_modelzoo_models_detail_08545b6c7d3844afbc13553ec958b39f.md ## FOTS-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/08a980f7827b4e2db31524777b386ee4 - Description: 生态贡献模型 - Keywords: FOTS,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_08a980f7827b4e2db31524777b386ee4.md ## TextSnake-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/099c7b8a54ff4a47b3a527b259e6e8e5 - Description: 生态贡献模型 - Keywords: TextSnake,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_099c7b8a54ff4a47b3a527b259e6e8e5.md ## Qwen3-14B-Base-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/09fe63fc8218427daed8f18a82b07eb7 - Description: Qwen3是Qwen系列中最新一代的大型语言模型,提供了密集和混合专家\(MoE\)模型的全面套件。基于广泛的训练,Qwen3在推理、指令遵循、代理功能和多语言支持方面取得了很大的进展。 - Keywords: Qwen,Base,模型库,ModelZoo,昇腾社区,简介,权重,加载镜像 - Detail: llms-content/software/zh_software_modelzoo_models_detail_09fe63fc8218427daed8f18a82b07eb7.md ## 模型详情-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/0a4686dfd2fd44768440a26e2a053dda - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 模型详情,模型库,ModelZoo,昇腾社区,ModelShow,了解详情,主页,大模型 - Detail: llms-content/software/zh_software_modelzoo_models_detail_0a4686dfd2fd44768440a26e2a053dda.md ## DeepSpeed\_NPU-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/0ba7319811104666a8fae7bf23448b33 - Description: 通过 deepspeed\_npu,你可以在 Ascend910 芯片上使用 deepspeed,并基于 deepspeed 进行开发。目前,deepspeed\_npu 主要支持以下特性:FP16、Gradient Accumulation、Data Parallelism、Pipeline Parallelism、Tensor Parallelism等。 - Keywords: DeepSpeed,NPU,PyTorch,模型库,ModelZoo,昇腾社区,Ascend,适配 - Detail: llms-content/software/zh_software_modelzoo_models_detail_0ba7319811104666a8fae7bf23448b33.md ## InceptionResNetV2\_ID1779-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/0c41556ca5c8460697074707986307a5 - Description: 生态贡献模型 - Keywords: InceptionResNetV,ID,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_0c41556ca5c8460697074707986307a5.md ## 3d\_attention\_net-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/0d7a0be9d25342e49f2c18d77f4ddca9?index_id=0d7a0be9d25342e49f2c18d77f4ddca9 - Description: 生态贡献模型 - Keywords: PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境,准备环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_0d7a0be9d25342e49f2c18d77f4ddca9.md ## Qwen3-14B-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/0de1ceeec3c34510a9508ca429f3d766 - Description: Qwen3是Qwen系列中最新一代的大型语言模型,提供了密集和混合专家\(MoE\)模型的全面套件。基于广泛的训练,Qwen3在推理、指令遵循、代理功能和多语言支持方面取得了很大的进展。 - Keywords: Qwen,模型库,ModelZoo,昇腾社区,简介,权重,加载镜像,约束条件 - Detail: llms-content/software/zh_software_modelzoo_models_detail_0de1ceeec3c34510a9508ca429f3d766.md ## FairMOT-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/0e80b348e98d45efaebd0e3072fbb34a - Description: 生态贡献模型 - Keywords: FairMOT,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_0e80b348e98d45efaebd0e3072fbb34a.md ## DeepSeek-R1-Distill-Qwen-7B-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/11aa2a48479d4d229a9830b8e41fc011 - Description: DeepSeek-R1-Distill-Qwen-7B是DeepSeek AI从DeepSeek-R1模型中蒸馏出来的Qwen模型,比经过强化学习训练出来的小型稠密模型拥有更好的推理能力。 - Keywords: DeepSeek,Distill,Qwen,模型库,ModelZoo,昇腾社区,Usage,权重 - Detail: llms-content/software/zh_software_modelzoo_models_detail_11aa2a48479d4d229a9830b8e41fc011.md ## Xception\_ID1777-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/125be1bb26dd45b0a3cc8df75a5ce041?index_id=125be1bb26dd45b0a3cc8df75a5ce041 - Description: 生态贡献模型 - Keywords: Xception,ID,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_125be1bb26dd45b0a3cc8df75a5ce041.md ## Hugging Face Ascend-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/14ae18251d6a417d8d9fdf1c3754dae2 - Description: Hugging Face 核心套件 transformers 、 accelerate 、 peft 、 trl 已原生支持 Ascend NPU,相关功能陆续补齐中。 - Keywords: Hugging,Face,Ascend,PyTorch,模型库,ModelZoo,昇腾社区,简介 - Detail: llms-content/software/zh_software_modelzoo_models_detail_14ae18251d6a417d8d9fdf1c3754dae2.md ## PSPNet-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/176f7bf79a2e4dbea01d833b2543179f - Description: 生态贡献模型 - Keywords: PSPNet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_176f7bf79a2e4dbea01d833b2543179f.md ## Efficientnetv2-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/177d68907eea4e97be0fb2e47a114d52 - Description: EfficientNetV2是Efficient的改进版,accuracy达到了发布时的SOTA水平,而且训练速度更快参数来更少。相对EfficientNetV1系列只关注准确率,参数量以及FLOPs,V2版本更加关注模型的实际训练速度。 - Keywords: Efficientnetv,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_177d68907eea4e97be0fb2e47a114d52.md ## YOLOv5-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/17ac4ee6bfca48f6b8698752bd34bfad - Description: YOLOv5基于PyTorch框架开发,是一个经典的物体检测网络,将物体检测作为回归问题求解。 - Keywords: YOLOv,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_17ac4ee6bfca48f6b8698752bd34bfad.md ## ShuffleNetV2Plus\_ID162-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/189760f7bf0c4d48a9aa139b23ed8cf5 - Description: 生态贡献模型 - Keywords: ShuffleNetV,Plus,ID,PyTorch,模型库,ModelZoo,昇腾社区,概述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_189760f7bf0c4d48a9aa139b23ed8cf5.md ## SPACH-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/1990346118b348f397718ba1cf94a250 - Description: 生态贡献模型 - Keywords: SPACH,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_1990346118b348f397718ba1cf94a250.md ## DeepSeek-R1-Distill-Llama-8B-OrangePi-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/199a16c30e764c90aefefa1fd943f90f - Description: DeepSeek-R1-Distill-Llama-8B是DeepSeek AI从DeepSeek-R1模型中蒸馏出来的Llama模型,比经过强化学习训练出来的小型稠密模型拥有更好的推理能力。本模型支持OrangePi AiPro(20T/24GDDR)开发板。 - Keywords: DeepSeek,Distill,Llama,OrangePi,模型库,ModelZoo,昇腾社区,约束条件 - Detail: llms-content/software/zh_software_modelzoo_models_detail_199a16c30e764c90aefefa1fd943f90f.md ## DeepSeek-R1-Distill-Qwen-1.5B-OrangePi-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/1ca4ef12682a42999efe09c0c80c76d3 - Description: DeepSeek-R1-Distill-Qwen-1.5B是DeepSeek AI从DeepSeek-R1模型中蒸馏出来的Qwen模型,比经过强化学习训练出来的小型稠密模型拥有更好的推理能力。本模型支持OrangePi AiPro(20T/24GDDR)开发板。 - Keywords: DeepSeek,Distill,Qwen,OrangePi,模型库,ModelZoo,昇腾社区,Usage - Detail: llms-content/software/zh_software_modelzoo_models_detail_1ca4ef12682a42999efe09c0c80c76d3.md ## InceptionV4\_ID1778-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/1cf7b31fe4774ce6a0399ab79f82d18a?index_id=1cf7b31fe4774ce6a0399ab79f82d18a - Description: 生态贡献模型 - Keywords: InceptionV,ID,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_1cf7b31fe4774ce6a0399ab79f82d18a.md ## LightGCN\_ID2942\_for\_PyTorch-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/1e73beee8ca947598729636c5f60e62a - Description: 生态贡献模型 - Keywords: LightGCN,ID,PyTorch,模型库,ModelZoo,昇腾社区,基本信息,概述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_1e73beee8ca947598729636c5f60e62a.md ## MAE-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/208f3df7aa67438299b91960554aab70 - Description: 掩码自编码器\(MAE\)是可扩展的视觉表示学习预训练框架,是一种自监督方法。 - Keywords: MAE,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_208f3df7aa67438299b91960554aab70.md ## Efficient\_3DCNNs\_ID1230-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/218fe8ef085d4e2cbbbb33d2db710f32?index_id=218fe8ef085d4e2cbbbb33d2db710f32 - Description: 生态贡献模型 - Keywords: Efficient,DCNNs,ID,PyTorch,模型库,ModelZoo,昇腾社区,使用说明 - Detail: llms-content/software/zh_software_modelzoo_models_detail_218fe8ef085d4e2cbbbb33d2db710f32.md ## SCRFD-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/24e146e4f3b246f299fce0496da5bf96 - Description: SCRFD是通过NAS(神经网络搜索)得到的一个目标检测模型,通过使用ResNet作为主干网络,融入PAFPN、ATSS Assigner等模块,可以获得更好的精度、更高的性能。 - Keywords: SCRFD,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_24e146e4f3b246f299fce0496da5bf96.md ## GRU-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/25d8422a3e0648389f80e599be9a1ab8 - Description: GRU(Gate Recurrent Unit)是循环神经网络(Recurrent Neural Network, RNN)的一种。 和LSTM(Long-Short Term Memory)一样,也是为了解决长期记忆和反向传播中的梯度等问题而提出来的。 - Keywords: GRU,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_25d8422a3e0648389f80e599be9a1ab8.md ## PSENet-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/25fdeafd5b9c492497b866bd21fcef74 - Description: PSENet是一个用于自然文本检测的网络模型,可对任意形状的文本进行有效检测。 - Keywords: PSENet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_25fdeafd5b9c492497b866bd21fcef74.md ## MobileNetV3-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/2623d126e656443c849abff5dec5158f - Description: MobileNetV3结合了MobileNetV1的深度可分离卷积、MobileNetV2的Inverted Residuals和Linear Bottleneck、SE模块,利用NAS(神经结构搜索)来搜索网络的配置和参数,采用了新的非线性激活层h-swish,在精度和性能方面较MobileNetV2均有一定程度提高。 - Keywords: MobileNetV,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_2623d126e656443c849abff5dec5158f.md ## DeepSeek-R1-Distill-Qwen-14B-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/2a0d0cb1bc644eee8318a12429de67b6 - Description: DeepSeek-R1-Distill-Qwen-14B是DeepSeek AI从DeepSeek-R1模型中蒸馏出来的Qwen模型,比经过强化学习训练出来的小型稠密模型拥有更好的推理能力。 - Keywords: DeepSeek,Distill,Qwen,模型库,ModelZoo,昇腾社区,Usage,权重 - Detail: llms-content/software/zh_software_modelzoo_models_detail_2a0d0cb1bc644eee8318a12429de67b6.md ## LPTN\_ID2780-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/2a391aa70b6341aaaf61a3c4f448821e - Description: 生态贡献模型 - Keywords: LPTN,ID,PyTorch,模型库,ModelZoo,昇腾社区,基本信息,概述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_2a391aa70b6341aaaf61a3c4f448821e.md ## BLIP2-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/2aa5d99ab9254dc9afadbe01bea4a15a - Description: BLIP-2提出一种通用而有效的预训练策略,它从现成的冻结预训练图像编码器和冻结的大型语言模型中引导视觉语言预训练。 - Keywords: BLIP,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_2aa5d99ab9254dc9afadbe01bea4a15a.md ## FCOS-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/2dccf60a1aa44e44838d92253e951868 - Description: FCOS是一个全卷积的one-stage目标检测模型,相比其他目标检测模型FCOS没有锚框和提议,进而省去了相关的复杂计算。 - Keywords: FCOS,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_2dccf60a1aa44e44838d92253e951868.md ## Bert\_text classification\_SSL2-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/308786c294fc4a38b82bc1e971eb68a6 - Description: Bert\_text\_classification提供了bert文本分类的下游任务。 - Keywords: Bert,SSL,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_308786c294fc4a38b82bc1e971eb68a6.md ## Resnet50\_cifar-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/30e94dcac4294141b0895da3db1017fb - Description: MMClassification 是一款基于 PyTorch 的开源图像分类工具箱,是 OpenMMLab 项目的成员之一。主要特性:支持多样的主干网络与预训练模型;支持配置多种训练技巧;大量的训练配置文件;高效率和高可扩展性;功能强大的工具箱。 - Keywords: Resnet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_30e94dcac4294141b0895da3db1017fb.md ## FSAF-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/313cf2bf729647ababf7ddde2d88f360?index_id=313cf2bf729647ababf7ddde2d88f360 - Description: 生态贡献模型 - Keywords: FSAF,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_313cf2bf729647ababf7ddde2d88f360.md ## Gluon\_ResNet50\_v1b-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/36778536b8dc44238cbe45efc8d96f14 - Description: 支持huggingface下载的ResNet\_v1b。 - Keywords: Gluon,ResNet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_36778536b8dc44238cbe45efc8d96f14.md ## Fairseq\_Transformer-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/36f8b77d9f404f79b50d7cd09abbf9b9 - Description: Fairseq Transformer wmt18模型是Fairseq套件中基于Transformer结构的翻译模型,在wmt18 en2de数据集上训练和评估。 - Keywords: Fairseq,Transformer,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_36f8b77d9f404f79b50d7cd09abbf9b9.md ## baseline\_rawnet-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/3745a173fc7e447c8bd628be961b3e1a?index_id=3745a173fc7e447c8bd628be961b3e1a - Description: 生态贡献模型 - Keywords: PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境,准备环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_3745a173fc7e447c8bd628be961b3e1a.md ## CenterFace-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/37a0372a91b24038bd7919981d4d9185 - Description: Centerface是一种适用于边缘设备的实用无锚目标检测和对齐方法。此版本非官方版本,实现了速度和准确性之间的最佳平衡。 - Keywords: CenterFace,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_37a0372a91b24038bd7919981d4d9185.md ## RetinaNet\_contrib-PyTorch-模型库-ModelZoo-Atlas Community - URL: https://www.hiascend.com/software/modelzoo/models/detail/37d3666e19374e6bb7845d05708a8daa?index_id=37d3666e19374e6bb7845d05708a8daa - Description: 生态贡献模型 - Keywords: RetinaNet,PyTorch,模型库,ModelZoo,Atlas,Community,准备训练环境,准备环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_37d3666e19374e6bb7845d05708a8daa.md ## ResNet\_MMClassification-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/38384ed63f2f4ad7bdf1b7d62599c643 - Description: MMClassification 是一款基于 PyTorch 的开源图像分类工具箱,是 OpenMMLab 项目的成员之一。 - Keywords: ResNet,MMClassification,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_38384ed63f2f4ad7bdf1b7d62599c643.md ## StableDiffusion-1.5-模型库-ModelZoo-Atlas Community - URL: https://www.hiascend.com/software/modelzoo/models/detail/3906a16305bd4e9db29430a7d4eacc5d - Description: Stable Diffusion是AI绘画领域的核心模型,能够进行文生图和图生图等图像生成任务。StableDiffusion-1.5通过LTRGR\(Learning to Rank\)框架,实现了更精准的文本到图像的生成‌。同时采用了U-Net结构,结合了编码器和解码器,能够更好地处理图像和文本的融合‌。 - Keywords: StableDiffusion,模型库,ModelZoo,Atlas,Community,概述,输入输出数据,推理环境准备 - Detail: llms-content/software/zh_software_modelzoo_models_detail_3906a16305bd4e9db29430a7d4eacc5d.md ## SPNASNet\_100-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/3a6f2629d6fd4e64975b14b96547ba27 - Description: 生态贡献模型 - Keywords: SPNASNet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_3a6f2629d6fd4e64975b14b96547ba27.md ## ICNet\_ID1781-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/3aca3cc45e394409b96c9bc803e75e1e - Description: 生态贡献模型 - Keywords: ICNet,ID,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_3aca3cc45e394409b96c9bc803e75e1e.md ## 模型详情-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/3b83b41d690d4a1da5abb64b710a834c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 模型详情,模型库,ModelZoo,昇腾社区,ModelShow,了解详情,主页,大模型 - Detail: llms-content/software/zh_software_modelzoo_models_detail_3b83b41d690d4a1da5abb64b710a834c.md ## Awesome\_RecSystem\_ID2951\_others-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/3bef7356355a48458d7c4037ca3bb187 - Description: 生态贡献模型 - Keywords: Awesome,RecSystem,ID,PyTorch,模型库,ModelZoo,昇腾社区,基本信息 - Detail: llms-content/software/zh_software_modelzoo_models_detail_3bef7356355a48458d7c4037ca3bb187.md ## DynamicUnet-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/3cab5713a0ca48438d8154ef5266c02b - Description: DynamicUNet是图像分割模型,能够在像素级别精确地对图像的每个部分进行分类。 - Keywords: DynamicUnet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_3cab5713a0ca48438d8154ef5266c02b.md ## SimMIM-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/3ce7379575ea410ca996125c461bf26f - Description: SimMIM采用最简单的MIM方法:随机mask掉输入图像的一部分patch,然后通过encoder-decoder来预测masked patchs的原始像素值。 - Keywords: SimMIM,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_3ce7379575ea410ca996125c461bf26f.md ## CLIP-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/3d6b77d753044830b70ecede4ba19421 - Description: 适配huggingface/transformers中的CLIP模型 - Keywords: CLIP,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_3d6b77d753044830b70ecede4ba19421.md ## SPACH\_SMLP-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/3e4fa1a430ad4b6c89f8ca7906e9277c - Description: 生态贡献模型 - Keywords: SPACH,SMLP,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_3e4fa1a430ad4b6c89f8ca7906e9277c.md ## Lightweight\_OpenPose-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/3ec17679f1854c6c90c14b117708abac - Description: Lightweight\_OpenPose是对原OpenPose模型的改进版,可实现实时的单图多目标的关键点识别任务。 - Keywords: Lightweight,OpenPose,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_3ec17679f1854c6c90c14b117708abac.md ## Faster\_Mask\_RCNN-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/3f39b03b6533457eaa759c7bc101d893 - Description: FasterRCNN是一个业界领先的目标检测网络。 - Keywords: Faster,Mask,RCNN,PyTorch,模型库,ModelZoo,昇腾社区,概述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_3f39b03b6533457eaa759c7bc101d893.md ## InstructBLIP-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/40a173f1fd814358b9ab789c7784c6bd - Description: InstructBLIP是一种基于视觉语言指导的微调框架,通过统一的自然语言框架使通用模型能够解决广泛的视觉任务。 - Keywords: InstructBLIP,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_40a173f1fd814358b9ab789c7784c6bd.md ## StableDiffusion-XL-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/41d97a28a123489fa01054ed5808959a - Description: Stable Diffusion是AI绘画领域的核心模型,能够进行文生图和图生图等图像生成任务。StableDiffusion-XL在模型架构和功能上进行了多项优化和改进,并增加了一个独立的基于Latent的Refiner扩散模型,极大地提升了生成图像的精细化程度。 - Keywords: 模型库,ModelZoo,昇腾社区,概述,StableDiffusionxl,输入输出数据,推理环境准备,快速上手 - Detail: llms-content/software/zh_software_modelzoo_models_detail_41d97a28a123489fa01054ed5808959a.md ## ViT\_base-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/430cf6a75382497f8fc8519cc5cc0a5a - Description: ViT\_base将自然语言处理中的注意力模型移植到图像识别中,切割输入图片并加入位置嵌入,从而得到多个向量输入,然后将多个注意力模块和感知层结合,最后利用输出的class token得到特征向量,并使用感知层进行分类。 - Keywords: ViT,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_430cf6a75382497f8fc8519cc5cc0a5a.md ## RFCN-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/45213afa5b2b44128a351d8a79c3aee6 - Description: R-FCN是一个目标检测网络,它的提出是为了解决分类任务中位移不变性和检测任务中位移可变性直接的矛盾。 - Keywords: RFCN,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_45213afa5b2b44128a351d8a79c3aee6.md ## LSTM-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/46fe0872ddfd4e19a5104189913b5fee - Description: LSTM是RNN的一种,该模型克服了RNN的部分不足,通过一些设计来避免长期依赖的问题。 - Keywords: LSTM,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_46fe0872ddfd4e19a5104189913b5fee.md ## FocalTransformer-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/47fb5a1761264d6187b2c3588deb7a29?index_id=47fb5a1761264d6187b2c3588deb7a29 - Description: 生态贡献模型 - Keywords: FocalTransformer,PyTorch,模型库,ModelZoo,昇腾社区,ModelShow,了解详情,主页 - Detail: llms-content/software/zh_software_modelzoo_models_detail_47fb5a1761264d6187b2c3588deb7a29.md ## centernet2-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/4901fa3d39c94794be8f9ca45feddc7c?index_id=4901fa3d39c94794be8f9ca45feddc7c - Description: 生态贡献模型 - Keywords: PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境,准备环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_4901fa3d39c94794be8f9ca45feddc7c.md ## MobileNetV2-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/4927bc8a6a5f4ce5a4f3a1abd9f89f0a - Description: MobileNetV2在MobileNetV1的基础上新提出了Linear Bottleneck 和 Inverted Residuals两种方法,使能在保持类似精度的条件下显著的减少模型参数和计算量。 - Keywords: MobileNetV,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_4927bc8a6a5f4ce5a4f3a1abd9f89f0a.md ## TDNN-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/4928396d15264169be795f69f0c116a6 - Description: ECAPA-TDNN是一个用于声纹识别的深度学习模型,它基于传统TDNN模型进行了改进。 - Keywords: TDNN,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_4928396d15264169be795f69f0c116a6.md ## Bert\_CRF-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/49e174350ac94f2696c0af84c4f8b405 - Description: 基于PyTorch框架开发,以Bert为预训练模型的命名实体识别下游任务。提供人物、机构和地区3种实体的识别功能。 - Keywords: Bert,CRF,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_49e174350ac94f2696c0af84c4f8b405.md ## Centroids\_reid-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/4d06aeef1b194f1789d207a71ad28536?index_id=4d06aeef1b194f1789d207a71ad28536 - Description: 生态贡献模型 - Keywords: Centroids,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_4d06aeef1b194f1789d207a71ad28536.md ## DINO-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/4d2df45880b5434ca0926c9f9c4647ed - Description: DINO是一个非监督的图像语义分割模型。 - Keywords: DINO,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_4d2df45880b5434ca0926c9f9c4647ed.md ## Qwen3-32B-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/4d4ddb25b60d47bd880d4a2b1a218435 - Description: Qwen3是Qwen系列中最新一代的大型语言模型,提供了密集和混合专家\(MoE\)模型的全面套件。基于广泛的训练,Qwen3在推理、指令遵循、代理功能和多语言支持方面取得了很大的进展。 - Keywords: Qwen,模型库,ModelZoo,昇腾社区,简介,权重,加载镜像,约束条件 - Detail: llms-content/software/zh_software_modelzoo_models_detail_4d4ddb25b60d47bd880d4a2b1a218435.md ## PraNet-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/4d50964a492a41539ee4e442de352e39?index_id=4d50964a492a41539ee4e442de352e39 - Description: 生态贡献模型 - Keywords: PraNet,PyTorch,模型库,ModelZoo,昇腾社区,概述,准备训练环境,准备环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_4d50964a492a41539ee4e442de352e39.md ## Attention\_Unet-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/4dd570bd82614d85aa2578d6a66d70ce - Description: Attention U-Net 将注意力机制应用于UNet分割网络中,可以实现对有关区域的关注以及对无关区域的忽略。 - Keywords: Attention,Unet,PyTorch,模型库,ModelZoo,昇腾社区,概述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_4dd570bd82614d85aa2578d6a66d70ce.md ## QVQ-72B-Preview-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/4fd08c29f1cb4a819aacf7ef92c9df59 - Description: QVQ-72B-Preview 是阿里云研发的大规模视觉语言模型(Large Vision Language Model, LVLM),可以以图像、文本、视频作为输入,并以文本作为输出。 - Keywords: QVQ,Preview,模型库,ModelZoo,昇腾社区,准备模型,加载镜像,硬件要求 - Detail: llms-content/software/zh_software_modelzoo_models_detail_4fd08c29f1cb4a819aacf7ef92c9df59.md ## BertBase\_Chinese-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/512e8a36b324414eb49108ba3e317a11 - Description: 基于Pytorch框架、transformer库开发的Bert预训练模型,支持原生fill mask任务。 - Keywords: BertBase,Chinese,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_512e8a36b324414eb49108ba3e317a11.md ## DeepSeek-V3 Lora微调-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/52226fe32f7c472084aec868ce55f00c - Description: DeepSeek-V3 是一款卓越的专家混合(MoE)语言模型,具备总计 6710 亿参数,其中每个 token 激活约 370 亿参数。为了实现高效推理和经济实惠的训练,DeepSeek-V3 创新性地采用了多头潜在注意力(MLA)机制与 DeepSeek-MoE 架构。 - Keywords: DeepSeek,Lora,微调,模型库,ModelZoo,昇腾社区,准备训练环境,准备环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_52226fe32f7c472084aec868ce55f00c.md ## Twins\_ALTGVT\_S-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/525ecd03259842b58008e61d3e59e273 - Description: 生态贡献模型 - Keywords: Twins,ALTGVT,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_525ecd03259842b58008e61d3e59e273.md ## Conformer\_Ti-PyTorch-模型库-ModelZoo-Atlas Community - URL: https://www.hiascend.com/software/modelzoo/models/detail/53677124a0e54ddd8c0ebd632f4f93c6?index_id=53677124a0e54ddd8c0ebd632f4f93c6 - Description: 生态贡献模型 - Keywords: Conformer,Ti,PyTorch,模型库,ModelZoo,Atlas,Community,概述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_53677124a0e54ddd8c0ebd632f4f93c6.md ## DLRM-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/55841658efc640d9aff25ce57117a909 - Description: 生态贡献模型 - Keywords: DLRM,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_55841658efc640d9aff25ce57117a909.md ## YOLOv7-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/563509d4028c4514a9b7160182c9ac5f - Description: YOLO算法作为one-stage目标检测算法最典型的代表,其基于深度神经网络进行对象的识别和定位,运行速度很快,可以用于实时系统。YOLOV7是目前YOLO系列最先进的算法,在准确率和速度上超越了以往的YOLO系列。 - Keywords: YOLOv,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_563509d4028c4514a9b7160182c9ac5f.md ## StableDiffusion-2.1-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/5778d48c5e1543f589330c5713a430c2 - Description: Stable Diffusion是AI绘画领域的核心模型,能够进行文生图和图生图等图像生成任务。StableDiffusion-2.1引入了更高级的架构和优化算法,增强了否定提示能力,支持渲染非标准分辨率图像,提升了建筑和自然风光图像质量,进一步提高了图像生成的质量和速度‌。 - Keywords: StableDiffusion,模型库,ModelZoo,昇腾社区,概述,输入输出数据,推理环境准备,快速上手 - Detail: llms-content/software/zh_software_modelzoo_models_detail_5778d48c5e1543f589330c5713a430c2.md ## DeepLabV3-Pytorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/578c4447b3f74f5a9efa5ce34e8dcffd - Description: DeepLabV3是一个经典的语义分割网络,采用空洞卷积来代替池化解决分辨率的下降(由下采样导致),采用ASPP模型实现多尺度特征图融合,提出了更通用的框架,适用于更多网络。 - Keywords: DeepLabV,Pytorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_578c4447b3f74f5a9efa5ce34e8dcffd.md ## DeepSeek-R1-Safe-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/59763ca4f2b741519c36a9d264a1e787 - Description: DeepSeek-R1-Safe是由浙江大学网络空间安全学院和华为合作的基于DeepSeek衍生的安全大模型,在华为昇腾芯片和MindSpeedLLM等框架的基础上开发。 - Keywords: DeepSeek,Safe,模型库,ModelZoo,昇腾社区,项目介绍,安全语料,安全模型 - Detail: llms-content/software/zh_software_modelzoo_models_detail_59763ca4f2b741519c36a9d264a1e787.md ## MobileNetV1-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/5de793d5b18046b684eed7157ca480e0 - Description: MobileNetV1是一种基于流水线结构、使用深度级可分离卷积构建的轻量级神经网络。 - Keywords: MobileNetV,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_5de793d5b18046b684eed7157ca480e0.md ## ResNet152-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/61ca8aadafcf4ad7a2c18464786e481b - Description: 生态贡献模型 - Keywords: ResNet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_61ca8aadafcf4ad7a2c18464786e481b.md ## InternVL2\_5-38B-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/620c51154f0e4808b7ddd81f07664ba1 - Description: InternVL2\_5-38B 是一种多模态大模型,具有强大的图像和文本处理能力,通过开源组件缩小与商业多模态模型的差距——GPT-4V的开源替代方案。在聊天机器人中,InternVL可以通过解析用户的文字输入,结合图像信息,生成更加生动、准确的回复。 此外,InternVL还可以根据用户的图像输入,提供相关的文本信息,实现更加智能化的交互。 - Keywords: InternVL,模型库,ModelZoo,昇腾社区,加载镜像,硬件要求,新建容器,进入容器 - Detail: llms-content/software/zh_software_modelzoo_models_detail_620c51154f0e4808b7ddd81f07664ba1.md ## mBART-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/6225d8992dc1468abc2f2e5f96f72642 - Description: mBART采用序列到序列去噪自动编码器,是多语言翻译预训练模型。 - Keywords: BART,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_6225d8992dc1468abc2f2e5f96f72642.md ## 3D\_ResNet-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/632c391bcd344e8589328dd0e785c80c - Description: 3D\_ResNet是一个经典的动作识别网络。结构包括卷积层池化层等,训练好的模型输入图片后可以识别出人的动作,准确率高。 - Keywords: ResNet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_632c391bcd344e8589328dd0e785c80c.md ## InternVL2\_5-78B-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/64303baa306347d49b51cf4650c3797e - Description: InternVL2\_5-78B 是一种多模态大模型,具有强大的图像和文本处理能力,通过开源组件缩小与商业多模态模型的差距——GPT-4V的开源替代方案。在聊天机器人中,InternVL可以通过解析用户的文字输入,结合图像信息,生成更加生动、准确的回复。 此外,InternVL还可以根据用户的图像输入,提供相关的文本信息,实现更加智能化的交互。 - Keywords: InternVL,模型库,ModelZoo,昇腾社区,加载镜像,硬件要求,新建容器,进入容器 - Detail: llms-content/software/zh_software_modelzoo_models_detail_64303baa306347d49b51cf4650c3797e.md ## DeepSeek-V3-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/678bdeb4e1a64c9dae51d353d84ddd15 - Description: 我们推出了DeepSeek-V3,这是一个强大的混合专家(MoE)语言模型,总参数量为671B,每个token激活37B参数。为了实现高效的推理和成本效益的训练,DeepSeek-V3采用了多头潜在注意力(MLA)和DeepSeekMoE架构,这些架构在DeepSeek-V2中得到了充分验证。此外,DeepSeek-V3开创了一种无辅助损失的负载均衡策略,并设置了多token预测训练目标以获得更强 - Keywords: DeepSeek,模型库,ModelZoo,昇腾社区,硬件要求,FP,原始权重下载,Convert - Detail: llms-content/software/zh_software_modelzoo_models_detail_678bdeb4e1a64c9dae51d353d84ddd15.md ## DeepSeek-R1-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/68457b8a51324310aad9a0f55c3e56e3 - Description: DeepSeek R1 是由 DeepSeek 团队开发的先进 AI 模型,拥有 6710 亿参数,采用 MoE 架构,每个 token 激活 370 亿参数。它通过多阶段循环训练方式,如基础训练、强化学习、微调等,极大增强了深度思考能力。在数学、代码和自然语言推理等任务上表现优异,与 OpenAI 的 o1 模型相当。 - Keywords: DeepSeek,模型库,ModelZoo,昇腾社区,硬件要求,FP,原始权重下载,Convert - Detail: llms-content/software/zh_software_modelzoo_models_detail_68457b8a51324310aad9a0f55c3e56e3.md ## 模型详情-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/6c5a4411a30e41dfbcf3f1dc9846b538 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 模型详情,模型库,ModelZoo,昇腾社区,ModelShow,了解详情,主页,大模型 - Detail: llms-content/software/zh_software_modelzoo_models_detail_6c5a4411a30e41dfbcf3f1dc9846b538.md ## HRNet-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/6dcae9c1e6af465a87c30ff938e82085 - Description: HRNet是一个用于图像分类的高分辨网络。 - Keywords: HRNet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_6dcae9c1e6af465a87c30ff938e82085.md ## Qwen2.5-72B-Instruct-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/6e237ebd03c84ae5bf4cd9c62853d43e - Description: Qwen2.5 是最新的 Qwen 大语言模型系列。对于 Qwen2.5,发布了一系列基础语言模型和经过指令调优的语言模型,参数量从 0.5 亿到 720亿不等。 - Keywords: Qwen,Instruct,模型库,ModelZoo,昇腾社区,加载镜像,特性矩阵,路径变量解释 - Detail: llms-content/software/zh_software_modelzoo_models_detail_6e237ebd03c84ae5bf4cd9c62853d43e.md ## Bert\_base\_Squad-Pytorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/6e403ef94c2a472998b2944abe779630 - Description: 迁移自NVIDIA\_DeepLearningExamples套件,基于Bert-Base预训练模型的squad下游任务。 - Keywords: Bert,Squad,Pytorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_6e403ef94c2a472998b2944abe779630.md ## SwinTransformer-Pytorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/6f5353c4ffe94bb99412b58656b3d429 - Description: Swin-Transformer使用层级式的transformer和移动窗口将transformer应用到CV领域。其通过限制在窗口内使用自注意力,带来了更高的效率 ,通过移动,使得相邻两个窗口之间有了交互,上下层之间也就有了跨窗口连接,从而变相达到了一种全局建模的效果。 - Keywords: SwinTransformer,Pytorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_6f5353c4ffe94bb99412b58656b3d429.md ## CLIP\_transformers-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/7129ef612f4b4b8fafb526cce36441b8 - Description: huggingface-transformers库中支持的CLIP模型。 - Keywords: CLIP,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_7129ef612f4b4b8fafb526cce36441b8.md ## Qwen3-1.7B-Base-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/7251611717ac49588d96528d11fac0f1 - Description: Qwen3是Qwen系列中最新一代的大型语言模型,提供了密集和混合专家\(MoE\)模型的全面套件。基于广泛的训练,Qwen3在推理、指令遵循、代理功能和多语言支持方面取得了很大的进展。 - Keywords: Qwen,Base,模型库,ModelZoo,昇腾社区,简介,权重,加载镜像 - Detail: llms-content/software/zh_software_modelzoo_models_detail_7251611717ac49588d96528d11fac0f1.md ## Transformer\_SSL-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/725bdff6bd0946ddb7fd00318bddd0b9 - Description: Transformer-SSL 是一个以Swin-Transformer作为骨干网络的自监督模型,该模型通过将 MoCov2 和 BYOL 相结合,得到了MoBY模型。 - Keywords: Transformer,SSL,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_725bdff6bd0946ddb7fd00318bddd0b9.md ## EfficientNet\_B5-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/73dbdf80a4ce454188d8add7617134e6 - Description: EfficientNet通过一组固定的系数统一缩放,使其在网络深度,网络宽度,分辨率这三方面相较于其他模型有明显优势。这里是B5版本。 - Keywords: EfficientNet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_73dbdf80a4ce454188d8add7617134e6.md ## edsr\_x2-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/74a82742efff4dfaa2e01f7575eb784c - Description: 生态贡献模型 - Keywords: PyTorch,模型库,ModelZoo,昇腾社区,概述,准备训练环境,准备环境,准备数据集 - Detail: llms-content/software/zh_software_modelzoo_models_detail_74a82742efff4dfaa2e01f7575eb784c.md ## VAN\_Classification-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/752ac3c466bc45f2a72ba0c94383d482 - Description: 生态贡献模型 - Keywords: VAN,Classification,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_752ac3c466bc45f2a72ba0c94383d482.md ## CascadedMaskRCNN-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/753c1287a0a74edab43d8b051b35f02f - Description: 生态贡献模型 - Keywords: CascadedMaskRCNN,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_753c1287a0a74edab43d8b051b35f02f.md ## Ultra\_Fast\_Lane\_Detection-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/75425c0809324eebae63a0ac8ac49a6d - Description: 生态贡献模型 - Keywords: Ultra,Fast,Lane,Detection,PyTorch,模型库,ModelZoo,昇腾社区 - Detail: llms-content/software/zh_software_modelzoo_models_detail_75425c0809324eebae63a0ac8ac49a6d.md ## AlexNet\_ID2663-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/76f8033ed69b43c194881f1a48d43063?index_id=76f8033ed69b43c194881f1a48d43063 - Description: 生态贡献模型 - Keywords: AlexNet,ID,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_76f8033ed69b43c194881f1a48d43063.md ## Qwen3-0.6B-Base-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/77372e49918c4b7da1a91332d171a953 - Description: Qwen3是Qwen系列中最新一代的大型语言模型,提供了密集和混合专家\(MoE\)模型的全面套件。基于广泛的训练,Qwen3在推理、指令遵循、代理功能和多语言支持方面取得了很大的进展。 - Keywords: Qwen,Base,模型库,ModelZoo,昇腾社区,简介,权重,加载镜像 - Detail: llms-content/software/zh_software_modelzoo_models_detail_77372e49918c4b7da1a91332d171a953.md ## DeCLIP-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/77519a08a7764f0e9d6c141e52354a06 - Description: DeCLIP是一种数据高效的CLIP训练方法,通过利用图像-文本对之间的联系,DeCLIP可以更有效地学习通用视觉特征。 - Keywords: DeCLIP,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_77519a08a7764f0e9d6c141e52354a06.md ## AdvancedEAST-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/789da2a61c9949e7b36b15487a2d2ccf?index_id=789da2a61c9949e7b36b15487a2d2ccf - Description: 生态贡献模型 - Keywords: AdvancedEAST,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_789da2a61c9949e7b36b15487a2d2ccf.md ## CSWin\_Transformer-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/794587ec1c0b4c0198c96950bcfcb731?index_id=794587ec1c0b4c0198c96950bcfcb731 - Description: 生态贡献模型 - Keywords: CSWin,Transformer,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_794587ec1c0b4c0198c96950bcfcb731.md ## Gluon\_ResNet50\_v1c-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/7abe1fcb00b7485fad69e0803d9d485b - Description: 支持huggingface下载的ResNet\_v1c。 - Keywords: Gluon,ResNet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_7abe1fcb00b7485fad69e0803d9d485b.md ## QwQ-32B-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/7af7f0ddab754ccd9dfe31dacf56b149 - Description: QwQ 是 Qwen 系列的推理模型。与传统的指令调优模型相比,具备思考和推理能力的 QwQ 在下游任务中,特别是在解决难题时,能够显著提高性能。QwQ-32B 是一个中等规模的推理模型,其性能可以与当前最先进的推理模型(例如 DeepSeek-R1、o1-mini)相媲美。 - Keywords: QwQ,模型库,ModelZoo,昇腾社区,通义千问,简介,权重,加载镜像 - Detail: llms-content/software/zh_software_modelzoo_models_detail_7af7f0ddab754ccd9dfe31dacf56b149.md ## WideResNet50\_2\_ID1627\_for\_PyTorch-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/7c44d7ca386b400888c544bb85cb5c38?index_id=7c44d7ca386b400888c544bb85cb5c38 - Description: 生态贡献模型 - Keywords: PyTorch,模型库,ModelZoo,昇腾社区,WideResNet,ID,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_7c44d7ca386b400888c544bb85cb5c38.md ## Qwen2.5-1.5B-Instruct-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/82786553b4aa4139ac0cdb577be3b31d - Description: Qwen2.5 是最新的 Qwen 大语言模型系列。对于 Qwen2.5,发布了一系列基础语言模型和经过指令调优的语言模型,参数量从 0.5 亿到 720亿不等。 - Keywords: Qwen,Instruct,模型库,ModelZoo,昇腾社区,加载镜像,特性矩阵,路径变量解释 - Detail: llms-content/software/zh_software_modelzoo_models_detail_82786553b4aa4139ac0cdb577be3b31d.md ## FaceNet-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/850b949af18f416893a8ab30a56a73e3 - Description: FaceNet是一个用于目标识别网络,基于深度神经网络的图像映射方法和基于triplets的loss函数训练神经网络。 - Keywords: FaceNet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_850b949af18f416893a8ab30a56a73e3.md ## DeepSeek-R1-Distill-Llama-8B-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/8625241d99c64b528f1ff4dba7defb26 - Description: DeepSeek-R1-Distill-Llama-8B是DeepSeek AI从DeepSeek-R1模型中蒸馏出来的Llama模型,比经过强化学习训练出来的小型稠密模型拥有更好的推理能力。 - Keywords: DeepSeek,Distill,Llama,模型库,ModelZoo,昇腾社区,Usage,权重 - Detail: llms-content/software/zh_software_modelzoo_models_detail_8625241d99c64b528f1ff4dba7defb26.md ## DeepSeek-V3-MindSpore-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/865ba4b5c8044873800b70dace2dd136 - Description: DeepSeek-V3是由DeepSeek(深度求索)推出的一个强大的专家混合(MoE)语言模型,它拥有671B总参数,其中激活参数量为37B。为了实现高效推理和低成本训练,DeepSeek-V3采用了多头潜注意力(MLA)和DeepSeekMoE架构,这在DeepSeek-V2中得到了充分验证。此外,DeepSeek-V3 还率先采用了无辅助损失的负载均衡策略,并设定了多token预测训练目标, - Keywords: DeepSeek,MindSpore,模型库,ModelZoo,昇腾社区,模型描述,模型文件,模型权重下载 - Detail: llms-content/software/zh_software_modelzoo_models_detail_865ba4b5c8044873800b70dace2dd136.md ## Qwen2.5-32B-Instruct-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/868a43f2c5bd437094b2ef5334c1c264 - Description: Qwen2.5 是最新的 Qwen 大语言模型系列。对于 Qwen2.5,发布了一系列基础语言模型和经过指令调优的语言模型,参数量从 0.5 亿到 720亿不等。 - Keywords: Qwen,Instruct,模型库,ModelZoo,昇腾社区,加载镜像,特性矩阵,路径变量解释 - Detail: llms-content/software/zh_software_modelzoo_models_detail_868a43f2c5bd437094b2ef5334c1c264.md ## StableAudioOpen-1.0-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/88a593d3b4574b36866293f3660945fe - Description: StableAudioOpen-1.0是一个文本生成音频的模型,可以通过简单的文本提示生成长达47秒的高质量音频数据。该模型非常适合创建鼓点、乐器即兴演奏、环境声音、拟音录音和其他用于音乐制作和声音设计的音频样本,用户还可以根据自定义音频数据微调模型,从自己的鼓录音中创建新的节拍。 - Keywords: StableAudioOpen,模型库,ModelZoo,昇腾社区,概述,推理环境准备,快速上手,获取源码 - Detail: llms-content/software/zh_software_modelzoo_models_detail_88a593d3b4574b36866293f3660945fe.md ## FaceBoxes-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/8a943851eddd48feae25be7e26b0be15 - Description: 生态贡献模型 - Keywords: FaceBoxes,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_8a943851eddd48feae25be7e26b0be15.md ## Qwen3-4B-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/8d32550ad4154dc7a6eaf0d6927cfc02 - Description: Qwen3是Qwen系列中最新一代的大型语言模型,提供了密集和混合专家\(MoE\)模型的全面套件。基于广泛的训练,Qwen3在推理、指令遵循、代理功能和多语言支持方面取得了很大的进展。 - Keywords: Qwen,模型库,ModelZoo,昇腾社区,简介,权重,加载镜像,约束条件 - Detail: llms-content/software/zh_software_modelzoo_models_detail_8d32550ad4154dc7a6eaf0d6927cfc02.md ## Qwen3-8B-Base-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/8da31637ec0641c8889cdde3c5d863f2 - Description: Qwen3是Qwen系列中最新一代的大型语言模型,提供了密集和混合专家\(MoE\)模型的全面套件。基于广泛的训练,Qwen3在推理、指令遵循、代理功能和多语言支持方面取得了很大的进展。 - Keywords: Qwen,Base,模型库,ModelZoo,昇腾社区,简介,权重,加载镜像 - Detail: llms-content/software/zh_software_modelzoo_models_detail_8da31637ec0641c8889cdde3c5d863f2.md ## WeNet\_Conformer-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/8ddf64a7b5904fec8bb6b4c92856d118 - Description: Wenet是一款开源的、面向工业落地应用的语音识别工具包,它不仅采用了现阶段最先进的网络设计Conformer,还用到了U2结构实现流式与非流式框架的统一。 - Keywords: WeNet,Conformer,PyTorch,模型库,ModelZoo,昇腾社区,概述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_8ddf64a7b5904fec8bb6b4c92856d118.md ## BiLSTM\_CRF-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/8e9a1beb3c3940d6ab57faa3bfe0363a - Description: BiLSTM+CRF实现命名实体识别任务。 - Keywords: BiLSTM,CRF,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_8e9a1beb3c3940d6ab57faa3bfe0363a.md ## Qwen2.5-0.5B-Instruct-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/9436ea4e4cd44b4ca4016595da13541b - Description: Qwen2.5 是最新的 Qwen 大语言模型系列。对于 Qwen2.5,发布了一系列基础语言模型和经过指令调优的语言模型,参数量从 0.5 亿到 720亿不等。 - Keywords: Qwen,Instruct,模型库,ModelZoo,昇腾社区,加载镜像,特性矩阵,路径变量解释 - Detail: llms-content/software/zh_software_modelzoo_models_detail_9436ea4e4cd44b4ca4016595da13541b.md ## 模型详情-模型库-ModelZoo-Atlas Community - URL: https://www.hiascend.com/software/modelzoo/models/detail/95d981e69de148f6b17cde96d87e7372 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 模型详情,模型库,ModelZoo,Atlas,Community,ModelShow,了解详情,主页 - Detail: llms-content/software/zh_software_modelzoo_models_detail_95d981e69de148f6b17cde96d87e7372.md ## DBNet-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/983cc15e18474e6391825caf0a11d498 - Description: DBNet基于PyTorch框架开发,提供实时检测图片中英文文字功能。 - Keywords: DBNet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_983cc15e18474e6391825caf0a11d498.md ## CogVideoX-5B-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/99867e38cd464db1bfc2bb1ae7f9379e - Description: CogVideoX是一个大规模文本到视频的模型,设计了一种将文本、时间、空间三维一体融合的transformer架构,该模型可以有效解决现有视频模型存在的移动空间有限,持续时间短,难以生成基于文本的连续视频等问题。 - Keywords: CogVideoX,模型库,ModelZoo,昇腾社区,准备运行环境,CANN,MindIE,获取 - Detail: llms-content/software/zh_software_modelzoo_models_detail_99867e38cd464db1bfc2bb1ae7f9379e.md ## Awesome\_RecSystem\_ID2951-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/9ade0430aa77496aa848d24969613159?index_id=9ade0430aa77496aa848d24969613159 - Description: 生态贡献模型 - Keywords: Awesome,RecSystem,ID,PyTorch,模型库,ModelZoo,昇腾社区,基本信息 - Detail: llms-content/software/zh_software_modelzoo_models_detail_9ade0430aa77496aa848d24969613159.md ## CogView3-Plus-3B-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/a0107d1b782e4c16aa25412228f07ca7 - Description: CogView3是第一个在文本生成图像领域实现中继扩散的模型,通过首先创建低分辨率图像,然后应用基于中继的超分辨率来执行任务。CogView3-Plus-3B在CogView3的基础上采用了Zero-SNR扩散噪声调度,并引入了文本-图像联合注意力机制,以实现整体性能的进一步提升。 - Keywords: CogView,Plus,模型库,ModelZoo,昇腾社区,准备运行环境,CANN,MindIE - Detail: llms-content/software/zh_software_modelzoo_models_detail_a0107d1b782e4c16aa25412228f07ca7.md ## Lifespan\_ID2972-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/a0ff1e59fe8f41e09cb3c7766df160b6 - Description: 生态贡献模型 - Keywords: Lifespan,ID,PyTorch,模型库,ModelZoo,昇腾社区,准备训练环境,准备环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_a0ff1e59fe8f41e09cb3c7766df160b6.md ## GLIP-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/a158ec3ff1fe4a7080ec40c0621d0434 - Description: GLIP是一种用于视觉定位的语言-图像预训练模型,可以学习对象级、语言感知和语义丰富的视觉表示。 - Keywords: GLIP,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_a158ec3ff1fe4a7080ec40c0621d0434.md ## DenseNet201-Pytorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/a2f90ef8304d4e5e946efe36383ec05c - Description: DenseNet-201 是一个预训练模型,已经在 ImageNet 数据库的一个子集上进行了训练。 该模型接受了超过一百万张图像的训练,可以将图像分类为1000个对象类别(例如键盘,鼠标,铅笔和许多动物)。 - Keywords: DenseNet,Pytorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_a2f90ef8304d4e5e946efe36383ec05c.md ## Qwen3-4B-Base-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/a370d8c658a046f5b63889e68feab5a8 - Description: Qwen3是Qwen系列中最新一代的大型语言模型,提供了密集和混合专家\(MoE\)模型的全面套件。基于广泛的训练,Qwen3在推理、指令遵循、代理功能和多语言支持方面取得了很大的进展。 - Keywords: Qwen,Base,模型库,ModelZoo,昇腾社区,简介,权重,加载镜像 - Detail: llms-content/software/zh_software_modelzoo_models_detail_a370d8c658a046f5b63889e68feab5a8.md ## Se\_ResNext\_50\_32x4d-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/a4c715e35e8d440a820e7e12e53b7a20?index_id=a4c715e35e8d440a820e7e12e53b7a20 - Description: 生态贡献模型 - Keywords: Se,ResNext,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_a4c715e35e8d440a820e7e12e53b7a20.md ## RCAN-PyTorch-模型库-ModelZoo-Atlas Community - URL: https://www.hiascend.com/software/modelzoo/models/detail/a789b4d8ee3948bdb43c161fdb5708f7?index_id=a789b4d8ee3948bdb43c161fdb5708f7 - Description: 生态贡献模型 - Keywords: RCAN,PyTorch,模型库,ModelZoo,Atlas,Community,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_a789b4d8ee3948bdb43c161fdb5708f7.md ## CRNN-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/a8e0d3114a07400db91eef7e7ca13e9b - Description: CRNN是场景文本识别模型,将特征提取、序列建模和转录集成到一个统一的框架中,实现英文字体的识别。 - Keywords: CRNN,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_a8e0d3114a07400db91eef7e7ca13e9b.md ## Evo\_Levit\_256\_384-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/aaec53c5469c4c55bb662b4a23939108 - Description: 生态贡献模型 - Keywords: Evo,Levit,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_aaec53c5469c4c55bb662b4a23939108.md ## ResNet-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/aaf07e7ec5044c46a923d9a6ed199dc8 - Description: ResNet是非常经典的图像分类网络。 - Keywords: ResNet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_aaf07e7ec5044c46a923d9a6ed199dc8.md ## StarGAN-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/ab0779db8a1047fca0febd4546d4d04b - Description: StarGAN力争做到一个模型就可以进行多个领域的图像到图像的翻译。 - Keywords: StarGAN,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_ab0779db8a1047fca0febd4546d4d04b.md ## ESPnet2-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/ab15542b2b5540c3ba61946eef67c16f - Description: ESPNet2是一套基于E2E的开源工具包,可进行语音识别等任务。 - Keywords: ESPnet,PyTorch,模型库,ModelZoo,昇腾社区,概述,准备训练环境,准备环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_ab15542b2b5540c3ba61946eef67c16f.md ## Janus-Pro-1B-OrangePi-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/ac7a2ef7bff640f2a7a02a2d3b0380cd - Description: Janus-Pro是 DeepSeek 推出的开源AI模型,支持图像理解和图像生成,适配多元应用场景。 本模型支持OrangePi AiPro(20T/24GDDR)开发板。 - Keywords: Janus,Pro,OrangePi,模型库,ModelZoo,昇腾社区,版本配套,准备运行环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_ac7a2ef7bff640f2a7a02a2d3b0380cd.md ## Roberta-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/ae266208b0804093bcee6e62fdd8b136 - Description: RoBERTa模型是BERT的改进版本,在模型规模、算力和数据上,都有一定的提升。 - Keywords: Roberta,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_ae266208b0804093bcee6e62fdd8b136.md ## Wide&Deep-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/afafc707dbff4897984ae8992da6a2d4 - Description: Wide&Deep是一个同时具有Memorization和Generalization功能的CTR预估模型。 - Keywords: Wide,Deep,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_afafc707dbff4897984ae8992da6a2d4.md ## convmixer-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/b224d1243e78456a9087650cbf7e3d89?index_id=b224d1243e78456a9087650cbf7e3d89 - Description: 生态贡献模型 - Keywords: PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境,准备环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_b224d1243e78456a9087650cbf7e3d89.md ## SSD\_MobileNetV1-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/b3f5e17637bd4bc58befc4b72632c2ad - Description: 生态贡献模型 - Keywords: SSD,MobileNetV,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_b3f5e17637bd4bc58befc4b72632c2ad.md ## Mmseg\_swin-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/b44b52253e9f4fcdb857c3b24402242b - Description: 生态贡献模型 - Keywords: Mmseg,PyTorch,模型库,ModelZoo,昇腾社区,概述,准备训练环境,准备环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_b44b52253e9f4fcdb857c3b24402242b.md ## ResNet34\_ID1594-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/b4a6bfd81423499aa31bfd048081194b - Description: 生态贡献模型 - Keywords: ResNet,ID,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_b4a6bfd81423499aa31bfd048081194b.md ## DeepSeek-R1-Distill-Qwen-1.5B-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/b54367ef746f484188576c39f5706899 - Description: DeepSeek-R1-Distill-Qwen-1.5B是DeepSeek AI从DeepSeek-R1模型中蒸馏出来的Qwen模型,比经过强化学习训练出来的小型稠密模型拥有更好的推理能力。 - Keywords: DeepSeek,Distill,Qwen,模型库,ModelZoo,昇腾社区,Usage,权重 - Detail: llms-content/software/zh_software_modelzoo_models_detail_b54367ef746f484188576c39f5706899.md ## TResNet-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/b59089c426124470a94c030a67bb403a - Description: 生态贡献模型 - Keywords: TResNet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_b59089c426124470a94c030a67bb403a.md ## ChineseCLIP-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/b643fabb50584fbd9e8b8c62d74be025 - Description: 本项目为CLIP模型的中文版本,使用大规模中文数据进行训练(~2亿图文对),旨在帮助用户快速实现中文领域的图文特征&相似度计算、跨模态检索、零样本图片分类等任务。 - Keywords: ChineseCLIP,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_b643fabb50584fbd9e8b8c62d74be025.md ## GoogleNet\_ID1623-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/b6edee0217cc4bc6bd4387c3cbddc97a - Description: 生态贡献模型 - Keywords: GoogleNet,ID,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_b6edee0217cc4bc6bd4387c3cbddc97a.md ## Qwen3-0.6B-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/b9b87c34c33b47979156c1990f16ca86 - Description: Qwen3是Qwen系列中最新一代的大型语言模型,提供了密集和混合专家\(MoE\)模型的全面套件。基于广泛的训练,Qwen3在推理、指令遵循、代理功能和多语言支持方面取得了很大的进展。 - Keywords: Qwen,模型库,ModelZoo,昇腾社区,简介,权重,加载镜像,约束条件 - Detail: llms-content/software/zh_software_modelzoo_models_detail_b9b87c34c33b47979156c1990f16ca86.md ## Flux.1-DEV-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/bb06126c97854fada1350a47ab71d21f - Description: Flux.1-DEV是一个先进的大型文本到图像模型,从Flux.1-pro蒸馏而来,引入了混合架构、指导蒸馏、旋转位置嵌入和并行注意力层等技术,具有良好的提示词遵循、视觉质量、图像细节和输出多样性,在图像生成质量和性能上取得了显著突破。 - Keywords: Flux,DEV,模型库,ModelZoo,昇腾社区,准备运行环境,CANN,MindIE - Detail: llms-content/software/zh_software_modelzoo_models_detail_bb06126c97854fada1350a47ab71d21f.md ## Cascade\_RCNN-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/bd16938c36e546afb196b858c069afb9 - Description: Cascade\_RCNN通过级联网络实现视觉目标检测。 - Keywords: Cascade,RCNN,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_bd16938c36e546afb196b858c069afb9.md ## Qwen2.5-7B-Instruct-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/bd96097296c3426aa3827a8a7cbeb8c6 - Description: Qwen2.5 是最新的 Qwen 大语言模型系列。对于 Qwen2.5,发布了一系列基础语言模型和经过指令调优的语言模型,参数量从 0.5 亿到 720亿不等。 - Keywords: Qwen,Instruct,模型库,ModelZoo,昇腾社区,加载镜像,特性矩阵,路径变量解释 - Detail: llms-content/software/zh_software_modelzoo_models_detail_bd96097296c3426aa3827a8a7cbeb8c6.md ## EfficientNet\_B1-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/bdc433a3be0e4f1cb48a19a288b53b5f - Description: EfficientNet通过一组固定的系数统一缩放,使其在网络深度,网络宽度,分辨率这三方面相较于其他模型有明显优势。这里是B1版本。 - Keywords: EfficientNet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_bdc433a3be0e4f1cb48a19a288b53b5f.md ## ModelZoo-PyTorch-36个随版本演进模型-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/be13f47d41ba491491ea72e98e870df4 - Description: 目前ModelZoo-PyTorch随版本演进模型共有36个,这份文档对这些做了汇总以方便查看。使用经典模型时请优先使用该范围内模型。 - Keywords: ModelZoo,PyTorch,个随版本演进,模型库,昇腾社区,模型,欢迎使用,如何贡献 - Detail: llms-content/software/zh_software_modelzoo_models_detail_be13f47d41ba491491ea72e98e870df4.md ## ResNeXt101-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/c0e754e9da984d0baad9cb7fbcd03e53 - Description: 传统的要提高模型的准确率,都是加深或者加宽网络,但是随着超参数数量的增加(比如channels数,filter size等等),网络设计的难度和计算的开销也会增加。而ResNeXt结构可以在不增加参数复杂度的前提下提高准确率,同时还减少了超参数的数量。 - Keywords: ResNeXt,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_c0e754e9da984d0baad9cb7fbcd03e53.md ## DCN-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/c1a1ad0d18db4625b27ad11b7b842371 - Description: Deep & Cross Network(DCN),是谷歌和斯坦福大学在2017年提出的用于Ad Click Prediction的模型,通过结合DNN和cross network,更加高效的学习特定阶数的组合特征。 - Keywords: DCN,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_c1a1ad0d18db4625b27ad11b7b842371.md ## DeepMar-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/c480e8086cf94feea4c081dfd7742326 - Description: DeepMar是一个深度多属性联合学习模型,把行人属性识别当做了多标签分类问题,并且能够很好地利用属性之间的关联关系。 - Keywords: DeepMar,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_c480e8086cf94feea4c081dfd7742326.md ## Qwen2.5-14B-Instruct-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/c67794f848aa49dbac7557f68cbbed27 - Description: Qwen2.5 是最新的 Qwen 大语言模型系列。对于 Qwen2.5,发布了一系列基础语言模型和经过指令调优的语言模型,参数量从 0.5 亿到 720亿不等。 - Keywords: Qwen,Instruct,模型库,ModelZoo,昇腾社区,加载镜像,特性矩阵,路径变量解释 - Detail: llms-content/software/zh_software_modelzoo_models_detail_c67794f848aa49dbac7557f68cbbed27.md ## Super\_Resolution\_CNN\_ID3003-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/c944228b74c14d89a6efe697f51dfa84?index_id=c944228b74c14d89a6efe697f51dfa84 - Description: 生态贡献模型 - Keywords: Super,Resolution,CNN,ID,PyTorch,模型库,ModelZoo,昇腾社区 - Detail: llms-content/software/zh_software_modelzoo_models_detail_c944228b74c14d89a6efe697f51dfa84.md ## T2Vec-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/ca9e21c440c244ad8eef225ae46bf953 - Description: t2vec提出了一种基于深度学习的轨迹相似性计算方法,通过学习轨迹的表示向量来缓解轨迹数据中不一致采样率和噪声的影响。 - Keywords: Vec,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_ca9e21c440c244ad8eef225ae46bf953.md ## Qwen3-1.7B-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/cb464e81c74f44da9f33bd63431babc2 - Description: Qwen3是Qwen系列中最新一代的大型语言模型,提供了密集和混合专家\(MoE\)模型的全面套件。基于广泛的训练,Qwen3在推理、指令遵循、代理功能和多语言支持方面取得了很大的进展。 - Keywords: Qwen,模型库,ModelZoo,昇腾社区,简介,权重,加载镜像,约束条件 - Detail: llms-content/software/zh_software_modelzoo_models_detail_cb464e81c74f44da9f33bd63431babc2.md ## WideResNet101\_2-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/cc5987ff1ce64dcbb3ba85455c8bdb2d?index_id=cc5987ff1ce64dcbb3ba85455c8bdb2d - Description: 生态贡献模型 - Keywords: WideResNet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_cc5987ff1ce64dcbb3ba85455c8bdb2d.md ## Diffusers\_v0.18.1-PyTorch-模型库-ModelZoo-Atlas Community - URL: https://www.hiascend.com/software/modelzoo/models/detail/d1026a90706d484ea995ce0cc232c080 - Description: Diffusers v0.18.1版本 - Keywords: Diffusers,PyTorch,模型库,ModelZoo,Atlas,Community,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_d1026a90706d484ea995ce0cc232c080.md ## SiamMask-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/d227bdc7c6e7464d9b0f9e231c31b3ee - Description: SiamMask模型是一个实时执行视觉目标跟踪和视频目标分割的框架,实现了视觉目标跟踪和视频目标分割的统一框架。 - Keywords: SiamMask,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_d227bdc7c6e7464d9b0f9e231c31b3ee.md ## Hunyuan-DiT-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/d25e83e4a8384954b4ce0cd9c563b24f - Description: HunyuanDiT是一个高性能的文本到图像的扩散Transformer模型,具备细粒度的中英文理解能力,支持多轮对话,能够根据文本提示和上下文生成多分辨率的高质量图像。在中文到图像生成领域,HunyuanDiT达到了领先水平。 - Keywords: Hunyuan,DiT,模型库,ModelZoo,昇腾社区,准备运行环境,CANN,MindIE - Detail: llms-content/software/zh_software_modelzoo_models_detail_d25e83e4a8384954b4ce0cd9c563b24f.md ## EfficientNet\_B3-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/d55181ec4c4a432cbedf4bf7d41069b7 - Description: EfficientNet通过一组固定的系数统一缩放,使其在网络深度,网络宽度,分辨率这三方面相较于其他模型有明显优势。这里是B3版本。 - Keywords: EfficientNet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_d55181ec4c4a432cbedf4bf7d41069b7.md ## ResNet18\_ID1593-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/d551c5a72e654607b68542de248a7c6c - Description: 生态贡献模型 - Keywords: ResNet,ID,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_d551c5a72e654607b68542de248a7c6c.md ## MiniGPT4-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/d5b2be3f9ad84813976c0a1e071029fa - Description: MiniGPT-4使用一个投影层将来自BLIP-2的冻结视觉编码器与冻结的LLM Vicuna对齐。通过两个阶段来训练MiniGPT-4,先是用500万图文对训练,然后再用一个3500对高质量数据集训练。 - Keywords: MiniGPT,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_d5b2be3f9ad84813976c0a1e071029fa.md ## FAN-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/d5d981a0951e417db91b2e7796a851f3 - Description: 生态贡献模型 - Keywords: FAN,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_d5d981a0951e417db91b2e7796a851f3.md ## MnasNet-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/d67394b8c2fb4ddbaf2ff326843b4487 - Description: 生态贡献模型 - Keywords: MnasNet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_d67394b8c2fb4ddbaf2ff326843b4487.md ## Qwen3-8B-模型库-ModelZoo-Atlas Community - URL: https://www.hiascend.com/software/modelzoo/models/detail/d74eedc9388045ffa717666e671e559e - Description: Qwen3是Qwen系列中最新一代的大型语言模型,提供了密集和混合专家\(MoE\)模型的全面套件。基于广泛的训练,Qwen3在推理、指令遵循、代理功能和多语言支持方面取得了很大的进展。 - Keywords: Qwen,模型库,ModelZoo,Atlas,Community,简介,权重,加载镜像 - Detail: llms-content/software/zh_software_modelzoo_models_detail_d74eedc9388045ffa717666e671e559e.md ## Wav2vec2.0-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/d8044cd23b0849d8af86e9fb09885c37 - Description: Wav2vec2.0是Meta在2020年发表的无监督语音预训练模型。它的核心思想是通过向量量化构造自建监督训练目标,对输入做大量掩码后利用对比学习损失函数进行训练。 - Keywords: Wav,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_d8044cd23b0849d8af86e9fb09885c37.md ## Pix2Pix-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/d9eaa93cdead46d6bcc6bbeb754b1af6 - Description: 生态贡献模型 - Keywords: Pix,PyTorch,模型库,ModelZoo,昇腾社区,精度性能,自验报告,是否正确输出 - Detail: llms-content/software/zh_software_modelzoo_models_detail_d9eaa93cdead46d6bcc6bbeb754b1af6.md ## Super\_Resolution\_Implementations\_ID3004-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/dc3364396a6241e39edd4da34bf51579?index_id=dc3364396a6241e39edd4da34bf51579 - Description: 生态贡献模型 - Keywords: Super,Resolution,Implementations,ID,PyTorch,模型库,ModelZoo,昇腾社区 - Detail: llms-content/software/zh_software_modelzoo_models_detail_dc3364396a6241e39edd4da34bf51579.md ## EfficientNet\_B5\_ID1621-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/dec25c85889c4b248a1522b5839b3397 - Description: 生态贡献模型 - Keywords: EfficientNet,ID,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_dec25c85889c4b248a1522b5839b3397.md ## StableDiffusion\_2.1-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/def4c34cbb424a25976f7640c3bb6198 - Description: StableDiffusion是StabilityAI公司于2022年提出的图片生成的预训练模型,论文和代码均已开源,下游任务包括文生图、图生图、图片压缩等等。 - Keywords: StableDiffusion,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_def4c34cbb424a25976f7640c3bb6198.md ## InternVL2-8B-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/e2b3045499c84120b1a62b2884f7a8ce - Description: InternVL2-8B 是一种多模态大模型,具有强大的图像和文本处理能力,通过开源组件缩小与商业多模态模型的差距——GPT-4V的开源替代方案。在聊天机器人中,InternVL可以通过解析用户的文字输入,结合图像信息,生成更加生动、准确的回复。 此外,InternVL还可以根据用户的图像输入,提供相关的文本信息,实现更加智能化的交互。 - Keywords: InternVL,模型库,ModelZoo,昇腾社区,准备模型,加载镜像,硬件要求,新建容器 - Detail: llms-content/software/zh_software_modelzoo_models_detail_e2b3045499c84120b1a62b2884f7a8ce.md ## 模型详情-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/e2d3d22cde464ce785f35f36d8774b3b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 模型详情,模型库,ModelZoo,昇腾社区,ModelShow,了解详情,主页,大模型 - Detail: llms-content/software/zh_software_modelzoo_models_detail_e2d3d22cde464ce785f35f36d8774b3b.md ## Diffusers\_v0.17.0-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/e42d43e2c7e64f13820724fb30fdd7b3 - Description: 扩散模型 \(Diffusion Models\) 是一种生成模型,可生成各种各样的高分辨率图像。Diffusers 是Huggingface发布的模型套件,包含基于扩散模型的多种下游任务训练与推理,可用于生成图像、音频,甚至分子的 3D 结构。 - Keywords: Diffusers,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_e42d43e2c7e64f13820724fb30fdd7b3.md ## FSRCNN\_ID2990-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/e592f195722544f7af26f8708b451940?index_id=e592f195722544f7af26f8708b451940 - Description: 生态贡献模型 - Keywords: FSRCNN,ID,PyTorch,模型库,ModelZoo,昇腾社区,训练,概述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_e592f195722544f7af26f8708b451940.md ## Deepseek-V2-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/e5b40a18937b496a85112aae924343fd - Description: DeepSeek-V2,这是一个强大的混合专家(Mixture-of-Experts,MoE)语言模型,其特点是训练经济、推理高效。该模型总共有2360亿参数,每处理一个token激活210亿参数。与DeepSeek 67B相比,DeepSeek-V2实现了更强大的性能,同时节省了42.5%的训练成本,减少了KV缓存93.3%,并将最大生成吞吐量提升至5.76倍。 - Keywords: Deepseek,模型库,ModelZoo,昇腾社区,特性矩阵,路径变量解释,生成量化权重,CANN - Detail: llms-content/software/zh_software_modelzoo_models_detail_e5b40a18937b496a85112aae924343fd.md ## ADNet-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/e60d566cce4f4f478a188650c6d029e3?index_id=e60d566cce4f4f478a188650c6d029e3 - Description: 生态贡献模型 - Keywords: ADNet,PyTorch,模型库,ModelZoo,昇腾社区,交付件基本信息,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_e60d566cce4f4f478a188650c6d029e3.md ## StableDiffusion-3-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/e6356162fa24432dbdcef99a15c7b258 - Description: Stable Diffusion是AI绘画领域的核心模型,能够进行文生图和图生图等图像生成任务。StableDiffusion-3采用了Diffusion Transformer\(DiT\)架构,并引入了多项技术和改进。相比之前的版本在多主题提示词的控制编辑一致性能力、文字渲染控制能力以及图像生成的整体质量上都有大幅提升‌‌。 - Keywords: StableDiffusion,模型库,ModelZoo,昇腾社区,概述,输入输出数据,推理环境准备,快速上手 - Detail: llms-content/software/zh_software_modelzoo_models_detail_e6356162fa24432dbdcef99a15c7b258.md ## Transformer-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/e664171c797d43649f7082eaf9079063 - Description: Transformer模型通过跟踪序列数据中的关系来学习上下文并因此学习含义。 - Keywords: Transformer,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_e664171c797d43649f7082eaf9079063.md ## BertNER-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/e69c85d0051f40039dddcaef5636c65a - Description: BERT-NER-Pytorch of lonePatient - Keywords: BertNER,PyTorch,模型库,ModelZoo,昇腾社区,BERT,NER,CRF - Detail: llms-content/software/zh_software_modelzoo_models_detail_e69c85d0051f40039dddcaef5636c65a.md ## OpenSoraPlan-1.3-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/e6bc98883e4d47ceb7cffd9c683162a6 - Description: OpenSoraPlan是一个大型文本生成视频模型,可以根据各种用户输入生成所需的高分辨率长时视频。通过设计高效的小波流变分自编码器、联合图像-视频跳跃解析去噪器以及各种条件控制器,OpenSoraPlan取得了令人印象深刻的视频生成结果。 - Keywords: OpenSoraPlan,模型库,ModelZoo,昇腾社区,介绍,二,安装依赖,安装驱动和固件 - Detail: llms-content/software/zh_software_modelzoo_models_detail_e6bc98883e4d47ceb7cffd9c683162a6.md ## EfficientNet\_B2-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/e7dff2b1ee104eae99a1691c719e9af5 - Description: EfficientNet通过一组固定的系数统一缩放,使其在网络深度,网络宽度,分辨率这三方面相较于其他模型有明显优势。这里是B2版本。 - Keywords: EfficientNet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_e7dff2b1ee104eae99a1691c719e9af5.md ## VisualGLM-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/e8592f15109a48cd87760a6a6515a37f - Description: VisualGLM-6B 是一个开源的,支持图像、中文和英文的多模态对话语言模型,语言模型基于 ChatGLM-6B,具有 62 亿参数;图像部分通过训练 BLIP2-Qformer 构建起视觉模型与语言模型的桥梁,整体模型共78亿参数。 - Keywords: VisualGLM,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_e8592f15109a48cd87760a6a6515a37f.md ## DAL-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/e99cf2cd23184e9483289b28b32fc001 - Description: DAL模型是一个高效的目标检测模型,它提出了匹配度度量来评估动态锚点的定位潜力,以此来更有效地分配标签。 - Keywords: DAL,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_e99cf2cd23184e9483289b28b32fc001.md ## Twins-PCPVT-S-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/ea18b4d803a840608d2e02bdfc09c592 - Description: 生态贡献模型 - Keywords: Twins,PCPVT,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_ea18b4d803a840608d2e02bdfc09c592.md ## Vit\_small\_patch16\_224-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/eb04ecf57d11493bb3c2183b7d5eb2a8?index_id=eb04ecf57d11493bb3c2183b7d5eb2a8 - Description: 生态贡献模型 - Keywords: Vit,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_eb04ecf57d11493bb3c2183b7d5eb2a8.md ## GoogleNet-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/eb95b482d9224f468d7c2e7ecf9f29e5 - Description: GoogLeNet把多个卷积或池化操作,放在一起组装成一个网络模块,设计神经网络时以模块为单位去组装整个网络结构。 - Keywords: GoogleNet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_eb95b482d9224f468d7c2e7ecf9f29e5.md ## DeepSeek-R1-Distill-Qwen-32B-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/ed4a8911f1a74613a82dc50b1661208c - Description: DeepSeek-R1-Distill-Qwen-32B是DeepSeek AI从DeepSeek-R1模型中蒸馏出来的Qwen模型,比经过强化学习训练出来的小型稠密模型拥有更好的推理能力。 - Keywords: DeepSeek,Distill,Qwen,模型库,ModelZoo,昇腾社区,Usage,权重 - Detail: llms-content/software/zh_software_modelzoo_models_detail_ed4a8911f1a74613a82dc50b1661208c.md ## DeepSeek-R1-Distill-Llama-70B-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/ee3f9897743a4341b43710f8d204733a - Description: DeepSeek-R1-Distill-Llama-70B是DeepSeek AI从DeepSeek-R1模型中蒸馏出来的Llama模型,比经过强化学习训练出来的小型稠密模型拥有更好的推理能力。 - Keywords: DeepSeek,Distill,Llama,模型库,ModelZoo,昇腾社区,Usage,权重 - Detail: llms-content/software/zh_software_modelzoo_models_detail_ee3f9897743a4341b43710f8d204733a.md ## SE\_ResNet\_50-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/ef0ed976d093405dbc0d847e78959684 - Description: 生态贡献模型 - Keywords: SE,ResNet,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述 - Detail: llms-content/software/zh_software_modelzoo_models_detail_ef0ed976d093405dbc0d847e78959684.md ## YOLACT-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/f0356524c8a9448ca2fef2c57ebbe09d?index_id=f0356524c8a9448ca2fef2c57ebbe09d - Description: 生态贡献模型 - Keywords: YOLACT,PyTorch,模型库,ModelZoo,昇腾社区,准备训练环境,准备环境,准备数据集 - Detail: llms-content/software/zh_software_modelzoo_models_detail_f0356524c8a9448ca2fef2c57ebbe09d.md ## FCN8s-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/f2080c400d054ea1b0a017c1bd417cca - Description: 生态贡献模型 - Keywords: FCN,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_f2080c400d054ea1b0a017c1bd417cca.md ## DenseNet169-Pytorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/f2ca10e97b8d4d10aa1363e907401d8c - Description: DenseNet-169是一个经典的图像分类网络,对于一个L层的网络,DenseNet共包含L*(L+1)/2个连接,相比ResNet,这是一种密集连接,他的名称也由此而来,另一大特色为通过特征在channel上的连接来实现特征重用(feature reuse),这些特点让DenseNet在参数和计算成本更少的情形下实现比ResNet更优的性能。 - Keywords: DenseNet,Pytorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_f2ca10e97b8d4d10aa1363e907401d8c.md ## Qwen2-VL-7B-Instruct-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/f2fdfa4188184630a246e0468692612a - Description: Qwen2-VL-7B-Instruct是阿里云研发的大规模视觉语言模型(Large Vision Language Model, LVLM),可以以图像、文本、视频作为输入,并以文本作为输出。 - Keywords: Qwen,VL,Instruct,模型库,ModelZoo,昇腾社区,准备模型,加载镜像 - Detail: llms-content/software/zh_software_modelzoo_models_detail_f2fdfa4188184630a246e0468692612a.md ## OpenSora-1.2-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/f3ea9377556349b7bb14c3d2eb866955 - Description: Open-Sora是一项致力于高效制作高质量视频的计划。Open-Sora 不仅使高级视频生成技术的使用变得民主化,而且还提供了一个简化且用户友好的平台,简化了视频生成的复杂性。 - Keywords: OpenSora,模型库,ModelZoo,昇腾社区,准备运行环境,CANN,MindIE,获取 - Detail: llms-content/software/zh_software_modelzoo_models_detail_f3ea9377556349b7bb14c3d2eb866955.md ## Pointnetplus\_detection-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/f453746dbc8240b8bf6ec2e6638e367d - Description: 生态贡献模型 - Keywords: Pointnetplus,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_f453746dbc8240b8bf6ec2e6638e367d.md ## CenterNet-Pytorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/f59fcd23aefa43d4bdeb9f41e000f527 - Description: CenterNet使用关键点检测的方法去预测目标边框的中心点,然后回归出目标的其他属性,例如大小、3D位置、方向甚至是其姿态。而且这个方向相比之前的目标检测器,实现起来更加简单,推理速度更快,精度更高。 - Keywords: CenterNet,Pytorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_f59fcd23aefa43d4bdeb9f41e000f527.md ## BiseNetV1-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/f6593d5c80744167ae05442e71e756ec - Description: BiseNetV1模型是基于mmsegmentation框架在CityScapes数据集上进行训练的分割模型。 - Keywords: BiseNetV,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_f6593d5c80744167ae05442e71e756ec.md ## Baichuan2-13B-pyTorch-模型库-ModelZoo-Atlas Community - URL: https://www.hiascend.com/software/modelzoo/models/detail/f68b63621d7046798a52ce7fde28f58e - Description: Baichuan 2 是\[百川智能\]推出的新一代开源大语言模型,采用 2.6 万亿 Tokens 的高质量语料训练,在权威的中文和英文 benchmark 上均取得同尺寸最好的效果。Baichuan 2系列模型有 7B、13B 的 Base 和 Chat 版本,并提供了 Chat 版本的 4bits 量化,所有版本不仅对学术研究完全开放,开发者也仅需\[邮件申请\]并获得官方商用许可后,即可 - Keywords: Baichuan,Torch,模型库,ModelZoo,Atlas,Community,准备训练环境,准备环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_f68b63621d7046798a52ce7fde28f58e.md ## SwinIR-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/f7c66e46b05f438ea038ecd92e5dee87?index_id=f7c66e46b05f438ea038ecd92e5dee87 - Description: 生态贡献模型 - Keywords: SwinIR,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_f7c66e46b05f438ea038ecd92e5dee87.md ## SOLOv1-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/f83f22c9322c45299c18dab21d413d98 - Description: 生态贡献模型 - Keywords: SOLOv,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_f83f22c9322c45299c18dab21d413d98.md ## DeepSeek-V3-0324-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/fb0f08f5d1c54c28b0d4457bc4301f39 - Description: 我们推出了DeepSeek-V3,这是一个强大的混合专家(MoE)语言模型,总参数量为685B,每个token激活37B参数。为了实现高效的推理和成本效益的训练,DeepSeek-V3采用了多头潜在注意力(MLA)和DeepSeekMoE架构,这些架构在DeepSeek-V2中得到了充分验证。此外,DeepSeek-V3开创了一种无辅助损失的负载均衡策略,并设置了多token预测训练目标以获得更强 - Keywords: DeepSeek,模型库,ModelZoo,昇腾社区,硬件要求,FP,原始权重下载,Convert - Detail: llms-content/software/zh_software_modelzoo_models_detail_fb0f08f5d1c54c28b0d4457bc4301f39.md ## C3D-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/fbe16a270a764d7da5f8ea4b4c1bc8e9 - Description: C3D使用3D卷积网络学习时空特征,实现视频上的行为分析。 - Keywords: PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境,准备环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_fbe16a270a764d7da5f8ea4b4c1bc8e9.md ## DETR-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/fdabe2382f0047c3bd60e0eeec22fa58 - Description: DETR是基于Transformer的端到端目标检测方法。 - Keywords: DETR,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_fdabe2382f0047c3bd60e0eeec22fa58.md ## DeepSeek-R1-Distill-Qwen-7B-OrangePi-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/fe210c6671554ecb84fd3a09051f0844 - Description: DeepSeek-R1-Distill-Qwen-7B是DeepSeek AI从DeepSeek-R1模型中蒸馏出来的Qwen模型,比经过强化学习训练出来的小型稠密模型拥有更好的推理能力。本模型支持OrangePi AiPro(20T/24GDDR)开发板。 - Keywords: DeepSeek,Distill,Qwen,OrangePi,模型库,ModelZoo,昇腾社区,Usage - Detail: llms-content/software/zh_software_modelzoo_models_detail_fe210c6671554ecb84fd3a09051f0844.md ## 模型详情-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/fe7ee1f26f83485c8901723dca5a53ed - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 模型详情,模型库,ModelZoo,昇腾社区,ModelShow,了解详情,主页,大模型 - Detail: llms-content/software/zh_software_modelzoo_models_detail_fe7ee1f26f83485c8901723dca5a53ed.md ## YOLACT\_plus-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/fecde923c39d4b21b1f0b7470056987b?index_id=fecde923c39d4b21b1f0b7470056987b - Description: 生态贡献模型 - Keywords: YOLACT,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_fecde923c39d4b21b1f0b7470056987b.md ## SSD-PyTorch-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/ffc06c50ec6d464c986641775b3e5f44 - Description: SSD 模型利用不同尺度的特征图进行目标的检测,SSD 采用多个尺度检测方法是将 VGG16 网络输出的大特征图逐步采用步长为 2的卷积操作,生成不同大小的特征图。 - Keywords: SSD,PyTorch,模型库,ModelZoo,昇腾社区,概述,简述,准备训练环境 - Detail: llms-content/software/zh_software_modelzoo_models_detail_ffc06c50ec6d464c986641775b3e5f44.md ## Janus-Pro-模型库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/models/detail/ffe1a0f4e8ba43aeb989251a3f0308e9 - Description: JanusPro是DeepSeek推出的开源多模态AI模型,采用创新架构与自研技术,训练流程优化,有1B和7B参数版本。它能处理20+跨模态任务,在文生图、视觉问答等表现出色,生成图像稳定,已在创意、内容创作等领域崭露头角 。 - Keywords: Janus,Pro,模型库,ModelZoo,昇腾社区,版本配套,准备运行环境,CANN - Detail: llms-content/software/zh_software_modelzoo_models_detail_ffe1a0f4e8ba43aeb989251a3f0308e9.md ## 昇腾NPU与GPU模型效果对比|ModelShow-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/modelshow - Description: 直观对比昇腾NPU与GPU模型效果 - Keywords: NPU,GPU,模型效果对比,昇腾社区,ModelZooModelShow,ModelShow,ModelZoo,Documentation - Detail: llms-content/software/zh_software_modelzoo_modelshow.md ## Ascend 工具库-ModelZoo-昇腾社区 - URL: https://www.hiascend.com/software/modelzoo/tools - Description: 全流程昇腾AI模型开发工具 - Keywords: Ascend,工具库,ModelZoo,昇腾社区,设置环境变量,PYTHONPATH,CANN,包安装目录 - Detail: llms-content/software/zh_software_modelzoo_tools.md ## 华为软件许可协议-昇腾社区 - URL: https://www.hiascend.com/software/protocol - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 华为软件许可协议,昇腾社区,许可,限制,无担保,无责任,赔偿,终止 - Detail: llms-content/software/zh_software_protocol.md ## CANN-昇腾异构计算架构-昇腾社区 - URL: https://www.hiascend.com/cann - Description: CANN是华为针对AI场景推出的异构计算架构,对上支持多种AI框架,对下服务AI处理器与编程,发挥承上启下的关键作用,是提升昇腾AI处理器计算效率的关键平台。同时针对多样化应用场景,提供高效易用的编程接口,支持用户快速构建基于昇腾平台的AI应用和业务 - Keywords: CANN,昇腾异构计算架构 - Detail: llms-content/cann/zh_cann.md ## CANN-领域加速库-昇腾社区 - URL: https://www.hiascend.com/cann/aal - Description: 领域加速库是针对特定领域的算子和算法的结合。根据需要每个加速库可以需要提供不同形式的功能:包括但不限于本领域算子的补充、特定算法或机制、特定辅助类工具等 - Keywords: 领域加速库,昇腾社区,BB,AFatb,CANNCommunityEdition,BA,BE,AF - Detail: llms-content/cann/zh_cann_aal.md ## CANN-算子库-昇腾社区 - URL: https://www.hiascend.com/cann/aol - Description: 提供了丰富的深度优化、硬件亲和的高性能算子,包括神经网络库、数学库、计算机视觉库和Transformer库等,为神经网络在昇腾硬件上加速计算奠定了基础 - Keywords: CANN,算子库,昇腾社区,QUICKSTART,BD,BC,了解详情,数学库 - Detail: llms-content/cann/zh_cann_aol.md ## AscendC与CANN算子开发 | asc算子开发 - URL: https://www.hiascend.com/cann/ascend-c - Description: AscendC算子开发\(asc算子开发\)是针对CANN算子开发场景推出的编程语言,原生支持C和C++标准规范,最大化匹配用户开发习惯;通过多层接口抽象、自动并行计算、孪生调试等关键技术,极大提高算子开发效率,助力AI开发者低成本完成算子开发和模型调优部署。 - Keywords: 算子开发,NPU,Ascend C,CannCommunityAscendCQuick,README,CannCommunityAscendCProgramModel,SIMD,CannCommuni - Detail: llms-content/cann/zh_cann_ascend-c.md ## CANN编译器 - URL: https://www.hiascend.com/cann/bisheng - Description: CANN编译器:毕昇昇腾编译器是连接AI开发者与昇腾硬件的关键纽带,提供Host-Device异构编程编译能力,利用微架构精准编译优化释放昇腾芯片极致性能,提供完备二进制调试信息与二进制工具链,支撑AI开发者自主调试调优,构建差异化竞争力 - Keywords: CANN,编译器,IR,Triton,Ascend,TileLang,DLCompiler,DeepLink - Detail: llms-content/cann/zh_cann_bisheng.md ## CANN-社区章程-昇腾社区 - URL: https://www.hiascend.com/cann/charter - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: CANN,社区章程,昇腾社区,SIG,Special Interest Group,技术指导委员,智能助手,会治理章程 - Detail: llms-content/cann/zh_cann_charter.md ## CANN-社区章程-昇腾社区 - URL: https://www.hiascend.com/cann/charter/detail - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: CANN,社区章程,昇腾社区,SIG,Special Interest Group,技术指导委员,智能助手,会治理章程 - Detail: llms-content/cann/zh_cann_charter_detail.md ## CANN-贡献路径-昇腾社区 - URL: https://www.hiascend.com/cann/contrib-guide - Description: 为开发者提供从入门到深度参与开源项目的阶梯式指南,呈现从提交首个PR到成为核心维护者的成长路径。 - Keywords: CANN,贡献路径,昇腾社区,FAQ,README,了解详情 - Detail: llms-content/cann/zh_cann_contrib-guide.md ## CANN-社区-贡献看板 - URL: https://www.hiascend.com/cann/contribution-dashboard - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: CANN,社区,贡献看板,User,Contributor,Organization Member,PR,Issue - Detail: llms-content/cann/zh_cann_contribution-dashboard.md ## CANN-开发-昇腾社区 - URL: https://www.hiascend.com/cann/develop - Description: 华为昇腾CANN开发,涵盖核心组件简介、开源开放资源获取方式及社区贡献途径,助力开发者基于昇腾CANN高效构建AI工作流 - Keywords: CANN,开发,昇腾社区,获取开源开放资源,参与贡献,GE,Graph Engine,PyTorch - Detail: llms-content/cann/zh_cann_develop.md ## CANN-文档-昇腾社区 - URL: https://www.hiascend.com/cann/document - Description: 华为昇腾CANN文档聚合页,涵盖开发指南、API参考、部署教程、故障排查及主流框架适配说明等,助力开发者快速掌握CANN核心能力、高效完成基于昇腾CANN的AI业务开发 - Keywords: CANN,文档,昇腾社区,的关键特性,查阅,Compute Architecture,Neural Networks,PyTorch - Detail: llms-content/cann/zh_cann_document.md ## CANN安装部署-昇腾社区 - URL: https://www.hiascend.com/cann/download - Description: CANN下载:华为昇腾CANN 安装一站式页面,提供最新版本CANN下载、CANN安装、CANN部署命令,支持Linux多架构与主流发行版适配,提供在线、离线等安装类型选择,直观选型引导助力开发者快速完成环境部署 - Keywords: CANN,安装部署,昇腾社区,扩展资源,Weekly,Yum,Conda,Runfile - Detail: llms-content/cann/zh_cann_download.md ## CANN驱动 - URL: https://www.hiascend.com/cann/driver - Description: CANN驱动:华为昇腾驱动\(昇腾NPU底软驱动\),昇腾设备的基础环境部署,使能昇腾硬件 - Keywords: CANN,驱动,昇腾,设备管理,智能助手,计算资源管理 - Detail: llms-content/cann/zh_cann_driver.md ## CANN-治理架构-昇腾社区 - URL: https://www.hiascend.com/cann/gov-arch - Description: 呈现社区治理架构、技术决策机制、社区角色和权责和协作规则,为社区参与者和贡献者提供社区运作机制和规范,保障社区健康发展。 - Keywords: CANN,昇腾社区,社区治理架构,TSC,README,Special Interest Group,PMC,SIG - Detail: llms-content/cann/zh_cann_gov-arch.md ## CANN-Graph Engine-昇腾社区 - URL: https://www.hiascend.com/cann/graph-engine - Description: 图引擎( Graph Engine ,简称GE)是计算图编译和运行的控制中心,提供图优化、图编译管理以及图执行控制等功能。GE通过统一的图开发接口提供多种AI框架的支持,不同AI框架的计算图可以实现到Ascend图的转换 - Keywords: 昇腾社区,GE,Graph Engine,PyTorch,TensorFlow,README,CannCommunityAscendGraphApi,CannCommunityAtc - Detail: llms-content/cann/zh_cann_graph-engine.md ## CANN-通信库-昇腾社区 - URL: https://www.hiascend.com/cann/hccl - Description: 集合通信库( Huawei Collective Communication Library ,简称HCCL)是基于昇腾硬件的高性能集合通信库,提供单机多卡以及多机多卡间的数据并行、模型并行集合通信方案。HCCL支持AllReduce、Broadcast、Allgather、ReduceScatter、AlltoAll等通信原语,Ring、Mesh、HD等通信算法,在HCCS、RoCE和PCIe高 - Keywords: CANN,通信库,昇腾社区,Huawei Collective Communication Library,Ring,AllReduce,ReduceScatter,Reduce,BF - Detail: llms-content/cann/zh_cann_hccl.md ## CANN-学习中心-昇腾社区 - URL: https://www.hiascend.com/cann/learn - Description: 参与 CANN 官方技术培训,覆盖多框架适配(TensorFlow/PyTorch/ 昇腾)、端云协同开发、1400 + 优化算子等核心内容习得的实操技能可直接落地智能城市、矿山、大模型等真实行业场景,适配从边缘推理到大规模集群训练的全需求 - Keywords: CANN,学习中心,昇腾社区,知识上新,学习路径,更多学习内容,Ascend C,PyPTO - Detail: llms-content/cann/zh_cann_learn.md ## CANN-线上会议-昇腾社区 - URL: https://www.hiascend.com/cann/meeting - Description: 社区提供了TSC/PMC/SIGs等例行会议、社区技术直播、峰会等活动,欢迎各位社区开发者参加! - Keywords: CANN,线上会议,昇腾社区,开发者日历,PMC,智能助手,全部,会议,活动 - Detail: llms-content/cann/zh_cann_meeting.md ## CANN-CANN开源项目列表-昇腾社区 - URL: https://www.hiascend.com/cann/open-map - Description: 展示开源生态中的原生组件以及扩展项目,呈现核心技术与扩展应用的关联关系。帮助开发者快速定位资源,识别开放协作和创新路径 - Keywords: CANN,开源项目列表,昇腾社区,智能助手,并以开源许可,协议发布的软,件项目 - Detail: llms-content/cann/zh_cann_open-map.md ## CANN运行时 - URL: https://www.hiascend.com/cann/runtime - Description: CANN运行时(CANN Runtime)提供了高效的硬件资源管理、媒体数据预处理、单算子加载执行、模型推理等开发接口,供开发者轻松构建高性能人工智能应用 - Keywords: CANN,运行时,Ascend,Core,AI,ACL Graph,了解详情,管理 - Detail: llms-content/cann/zh_cann_runtime.md ## CANN-SIG 中心-昇腾社区 - URL: https://www.hiascend.com/cann/sig - Description: SIG 全称是 Special Interest Group(特别兴趣小组),CANN社区按照不同的 SIG 来组织,以便更好地管理和改善工作流程;SIG 组均是开放的,欢迎任何人来参与 - Keywords: CANN,中心,昇腾社区,欢迎参与,SIGs,Special Interest Group,SIG,PR - Detail: llms-content/cann/zh_cann_sig.md ## 昇腾AI市场主页-昇腾社区 - URL: https://www.hiascend.com/marketplace - Description: 昇腾产业生态伙伴及人工智能行业解决方案的展示交流平台 - Keywords: 原生大模型、AI市场、昇腾AI市场、解决方案、PBA、Powered by Ascend - Detail: llms-content/marketplace/zh_marketplace.md ## 昇腾AI应用案例-昇腾社区 - URL: https://www.hiascend.com/marketplace/case-studies - Description: 昇腾AI应用,探索人工智能的无限可能,使能千行百业 - Keywords: AI,应用案例,昇腾社区,AscendCL,了解详情,图像处理,智能助手,昇腾 - Detail: llms-content/marketplace/zh_marketplace_case-studies.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/cases - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区,昇腾,智能助手,客户案例 - Detail: llms-content/marketplace/zh_marketplace_cases.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/industry - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区,GeoGlobe Desktop,了解详情,智能助手,昇腾,按行业 - Detail: llms-content/marketplace/zh_marketplace_industry.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/0f57d42d-90af-4216-8664-7e4611c56f17 - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_0f57d42d-90af-4216-8664-7e4611c56f17.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/0f771d13-273d-4d0e-a505-9a37befaf209 - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_0f771d13-273d-4d0e-a505-9a37befaf209.md ## 应用案例1-昇腾社区 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/15d45967-035c-48a0-9d2f-773ca9b33c39 - Description: 昇腾社区首页 - Keywords: 应用案例,昇腾社区,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered,Rated - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_15d45967-035c-48a0-9d2f-773ca9b33c39.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/25b8219c-933d-4849-803b-a415834205f2 - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_25b8219c-933d-4849-803b-a415834205f2.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/29d30a79-31cb-428a-97fb-51511bad6184 - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_29d30a79-31cb-428a-97fb-51511bad6184.md ## 应用案例1-昇腾社区 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/3202596e-b529-4e0c-8485-fcab4abad67e - Description: 昇腾社区首页 - Keywords: 应用案例,昇腾社区,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered,Rated - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_3202596e-b529-4e0c-8485-fcab4abad67e.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/34e4d91e-af6b-4370-a134-94fe3dd2987d - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_34e4d91e-af6b-4370-a134-94fe3dd2987d.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/4279dab9-be1a-4d02-a1e1-991b8dc67ac3 - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_4279dab9-be1a-4d02-a1e1-991b8dc67ac3.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/4698d6be-6156-4a1d-b747-d49dff77659a - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_4698d6be-6156-4a1d-b747-d49dff77659a.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/48a89f75-afef-4a9d-a9fa-02d35f7b34cb - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_48a89f75-afef-4a9d-a9fa-02d35f7b34cb.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/514d29c1-a533-4f42-bd30-ae85c56f7400 - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_514d29c1-a533-4f42-bd30-ae85c56f7400.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/62c4982c-2be5-4590-9503-8849c172b4ed - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_62c4982c-2be5-4590-9503-8849c172b4ed.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/63fe2936-fac5-4ceb-90ab-da25f0d9c9b4 - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_63fe2936-fac5-4ceb-90ab-da25f0d9c9b4.md ## 应用案例1-昇腾社区 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/68adfc26-ca83-4200-b86f-0affc6a2afe6 - Description: 昇腾社区首页 - Keywords: 应用案例,昇腾社区,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered,Rated - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_68adfc26-ca83-4200-b86f-0affc6a2afe6.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/6f1dae64-bdd7-4d36-90b1-5951e2795a34 - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_6f1dae64-bdd7-4d36-90b1-5951e2795a34.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/784ead61-e855-4c36-87b4-5e965f22f79b - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_784ead61-e855-4c36-87b4-5e965f22f79b.md ## 应用案例1-昇腾社区 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/83995e93-3a27-4b42-b7ad-4793adaee341 - Description: 昇腾社区首页 - Keywords: 应用案例,昇腾社区,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered,Rated - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_83995e93-3a27-4b42-b7ad-4793adaee341.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/a0bfc98e-eed1-4493-aa8c-7463a1e6bb7e - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_a0bfc98e-eed1-4493-aa8c-7463a1e6bb7e.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/a3d746f6-0a6e-4f01-9f6a-9de0304965ef - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_a3d746f6-0a6e-4f01-9f6a-9de0304965ef.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/aagtyu31-6c6c-4f72-8211-41b5417754af - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_aagtyu31-6c6c-4f72-8211-41b5417754af.md ## 应用案例1-昇腾社区 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/b019d599-a9b7-43be-b9bc-950a0b445545 - Description: 昇腾社区首页 - Keywords: 应用案例,昇腾社区,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered,Rated - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_b019d599-a9b7-43be-b9bc-950a0b445545.md ## 应用案例1-昇腾社区 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/b6eea89b-971a-40f3-b0f7-3ad11c40959a - Description: 昇腾社区首页 - Keywords: 应用案例,昇腾社区,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered,Rated - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_b6eea89b-971a-40f3-b0f7-3ad11c40959a.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/b89d95aa-05b6-4f07-aca9-3d01f7a80eb6 - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_b89d95aa-05b6-4f07-aca9-3d01f7a80eb6.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/bb835e4c-b365-44c6-8704-992f76bc5c9b - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_bb835e4c-b365-44c6-8704-992f76bc5c9b.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/c34603bb-0d0c-475d-911e-d07cfffe2c7b - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_c34603bb-0d0c-475d-911e-d07cfffe2c7b.md ## 应用案例1-昇腾社区 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/c9fc0559-9329-4a37-97d4-1ae12ad87ea8 - Description: 昇腾社区首页 - Keywords: 应用案例,昇腾社区,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered,Rated - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_c9fc0559-9329-4a37-97d4-1ae12ad87ea8.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/d0bf1eed-23ec-405a-8d59-2e233641250e - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_d0bf1eed-23ec-405a-8d59-2e233641250e.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/da636c80-d5eb-4c5a-8a41-6d3314b5013d - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_da636c80-d5eb-4c5a-8a41-6d3314b5013d.md ## 应用案例1-昇腾社区 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/e619819a-324a-4969-b30a-9ca9d82ccbce - Description: 昇腾社区首页 - Keywords: 应用案例,昇腾社区,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered,Rated - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_e619819a-324a-4969-b30a-9ca9d82ccbce.md ## 应用案例1-昇腾社区 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/e8463301-f34c-4d01-97ca-5a00bf6ebd35 - Description: 昇腾社区首页 - Keywords: 应用案例,昇腾社区,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered,Rated - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_e8463301-f34c-4d01-97ca-5a00bf6ebd35.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/edfb8c6c-8581-41e7-8409-2bb9d7c3787c - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_edfb8c6c-8581-41e7-8409-2bb9d7c3787c.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/marketplace/mindx-sdk/case-studies/f0b290fc-9091-47de-8528-c61da71c965c - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/marketplace/zh_marketplace_mindx-sdk_case-studies_f0b290fc-9091-47de-8528-c61da71c965c.md ## 原生大模型-昇腾社区 - URL: https://www.hiascend.com/marketplace/native-large-model - Description: 基于昇腾软硬件平台完成从训练到推理全流程开发的大模型产品 - Keywords: 原生大模型,昇腾社区,GeoGlobe Desktop,了解详情,智能助手,智能体一体机,基于大模型技 - Detail: llms-content/marketplace/zh_marketplace_native-large-model.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/partner - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区,GeoGlobe Desktop,了解详情,智能助手,昇腾,按伙伴 - Detail: llms-content/marketplace/zh_marketplace_partner.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/product - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区,GeoGlobe Desktop,了解详情,智能助手,按昇腾产品 - Detail: llms-content/marketplace/zh_marketplace_product.md ## 昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution - Description: 昇腾产业伙伴、联合解决方案的展示和互动平台 - Keywords: AI,昇腾社区,GeoGlobe Desktop,了解详情,智能助手,昇腾,按解决方案类 - Detail: llms-content/marketplace/zh_marketplace_solution.md ## 华菱湘钢智能转钢系统,使能智慧钢厂-昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/1 - Description: 制造业作为我国国民经济的主体,是立国之本、强国之基,“十四五”规划纲要明确提出未来创新的重点在实体经济,更在制造业。然而当前钢铁智能制造整体处于起步阶段,尤其在传统的粗轧钢坯生产车间中,工作条件恶劣,工人每天都需要在强光、高温、高噪音的现场工作环境中进行记录和手动转钢操作,以确保生产不出意外。对于工人的转钢操作经验过度依赖,精神需要高度集中,导致工人身心俱疲。 通过华为Atlas 800 推理服务 - Keywords: 华菱湘钢智能转钢系统,使能智慧钢厂,AI,解决方案,昇腾社区,OCR,背景与挑战,方案亮点 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_1.md ## 宝德计算机引入昇腾智造AI质检方案,实现提质增效-昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/10 - Description: 宝德与华为深度合作,应用AI质检技术到宝德工厂产线,实现信创台式机、服务器组装和包装制程质量检测的智能化和可回溯,打破过去操作不规范、工序不防呆、信息化水平较低、招工用人成本高等痛点问题,并提升质检效率和精度,巩固产品质量。 昇腾智造解决方案赋能宝德产线制程质量管理,覆盖PCB主板放置、主板和内存条安装、固定、接线、理线、盖板和下料等多道工序,检测准确率超过99%。 - Keywords: AI,宝德计算机引,入昇腾智造,质检方案,实现提质增效,解决方案,昇腾社区,OCR - Detail: llms-content/marketplace/zh_marketplace_solution_detail_10.md ## 富士康实现智能光伏控制器AI质检,加速产线智能化升级-昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/11 - Description: 在深圳富士康光伏控制器产线,产品总共3种型号,11种配置,需要每天换线2-3次,每种型号的硅脂位置、颜色、铭牌种类均有差别。而光伏控制器生产过程的硅脂涂抹、标签检测等环节,传统工业质检的主要方法是人工检测。刷硅脂工位检测硅脂的颜色是否正确以及硅脂是否少涂、漏涂;铭牌工位检测铭牌是否漏贴、倒贴和错贴。硅脂的涂刷错误会导致后续老化测试故障,返修耗费人力、物力。传统人工人工检测受疲劳累计的影响,检测准确 - Keywords: AI,富士康实现智,能光伏控制器,质检,加速产线智能化升级,解决方案,昇腾社区,OCR - Detail: llms-content/marketplace/zh_marketplace_solution_detail_11.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/118 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_118.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/119 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_119.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/12 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_12.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/120 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_120.md ## 黄河信产智造AI质检解决方案-昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/121 - Description: 质量检测是制造业中产品生产线的重要环节,然而,传统光学检测存在精度不足和柔性不足等问题,难免产生错检、漏检,给产品的使用性能以及企业的口碑带来难以估计的不良影响。 针对制造产业的质检难题,黄河信产基于昇腾,利用AI算法,从底层训练模型的研发,到技术参数的设计,再到整套系统运行的优化,推出企业级平台化的智造AI质检解决方案。 - Keywords: AI,黄河信产智造,质检解决方案,解决方案,昇腾社区,Printed Circuit Board,背景与挑战,方案亮点 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_121.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/122 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_122.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/123 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_123.md ## 中原人工智能反诈骗创新解决方案-昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/124 - Description: 在反诈新形势的要求下,河南信大网御科技有限公司不断创新思路,基于昇腾AI打造人工智能反诈骗创新解决方案。 该方案基于昇腾AI软硬件平台和预训练大模型的深度学习能力,通过对网站里面的源码、文本、音视频等进行识别和目标检测,快速精准识别诈骗网站。目前,该模型已覆盖网络刷单、仿冒网络贷款诈骗、仿冒网络赌博、杀猪盘诈骗、仿冒机构退款诈骗等10余种主流诈骗类型, 识别准确率达99%以上。 - Keywords: 中原人工智能,反诈骗创新解,AI,解决方案,昇腾社区,背景与挑战,方案亮点,决方案 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_124.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/125 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_125.md ## 东声智能锂电领域工业缺陷检测AI行业解决方案-昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/126 - Description: 目前锂电池包括硬壳和软包电池,硬壳则可分为圆柱电池和方形电池。其中方形电池凭借其充放电倍率、循环寿命、安全性等方面的优势,成为一种主流的电池封装应用。方形锂电池工艺链分为前、中、后三段,以方形电池为例,其工艺链中存在大量的质检需求,传统视觉检测仅可满足工艺环节的定位和纠偏应用,在极片、焊缝、绝缘隔膜等需要检测表面缺陷的工序中引入深度学习算法,解决了锂电检测当前的困局。 该方案基于东声Handdle - Keywords: AI,东声智能锂电,领域工业缺陷,检测,行业解决方案,解决方案,昇腾社区,NG - Detail: llms-content/marketplace/zh_marketplace_solution_detail_126.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/127 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_127.md ## 梦蝶幻像濒危鸟类目标识别和实时定位系统-昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/128 - Description: 近年来,加强野生动物保护已成为生态文明建设的重要内容,目前已建立各级各类自然保护地1.18万处。工作人员对野生动物、特别是濒危动物的研究需求日益增多,虽然红外触发相机可以在一定程度上代替人力跋山涉水,但由于其可感应区域较小,树枝摆动、树叶下落均有可能触发误拍,产生的图片信息数量非常庞大,仅靠人工筛选几乎难以为继,大量宝贵的时间被耗费在繁复的工作之中,效率极低。 该系统依托昇腾Atlas系列硬件,通 - Keywords: 梦蝶幻像濒危,鸟类目标识别,和实时定位系,AI,解决方案,昇腾社区,背景与挑战,方案亮点 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_128.md ## 百信AI科研云平台-昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/129 - Description: 异构计算作为当前算力突破的新抓手,是人工智能领域的珍稀资源。然而在传统模式下,用户和设备做绑定,形成独占式的异构算力节点使用方式,建设成本居高不下的同时,算力资源整体利用率不高;此外,用户在AI开发过程中需要频繁切换工具与平台,重复进行繁琐的环境配置与准备,耗时费力,阻碍工作效率提升。 该平台基于昇腾AI基础软硬件平台,具有敏捷、弹性、异构、全栈的特点,为高校、企业提供轻量级、一体化的AI应用平台 - Keywords: AI,百信,科研云平台,解决方案,昇腾社区,Mlab,MLOps,背景与挑战 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_129.md ## 变电站远程智能巡视,实现变电站无人值守-昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/13 - Description: 变电作为电力行业的重要环节之一,变电站运检和维护巡视尤其重要,然而当前变电站的运维工作主要还是依赖人工,存在设备状态看护效率低、周界环境险情记录不及时、人工在进行检修和维护时的安全规范难保障等系列问题。变电站智能化升级是解决以上挑战的重要手段。 智能变电站巡检解决方案基于昇腾AI基础软硬件以及亚联发展提供的系列算法,通过Atlas 500 Pro 智能边缘服务器实时分析采集前端画面,有效预警周边环 - Keywords: 变电站远程智能巡视,实现变电站无人值守,AI,解决方案,昇腾社区,Pro,OCR,背景与挑战 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_13.md ## 软通动力AI端云一体化产品-昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/131 - Description: 软通动力的AI端云一体化产品(昇腾版)已被应用于企业财务助手、制造供应链助手、智能合同管理、押品登记自动化等百余个场景中,覆盖金融、制造、教育、汽车、银行、保险等诸多行业领域。其中,最能为企业优化流程、降本增效的三大典型场景是企业财务助手、制造供应链助手和智能合同管理。 该产品基于昇腾AI基础软硬件平台,通过端侧AI和自动化能力的延伸,形成全面的深度融入企业客户的智能化创新产品和服务,实现开箱即用 - Keywords: AI,软通动力,端云一体化产,解决方案,昇腾社区,NLP,背景与挑战,方案亮点 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_131.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/132 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_132.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/133 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_133.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/134 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_134.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/135 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_135.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/136 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_136.md ## 航天宏图城市变化遥感监测平台-昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/137 - Description: 遥感变化监测技术在智慧农林、智慧国土、智慧环保、智慧灾评和智慧城市领域的应用越来越广泛,但在应用落地中,存在大体量数据样本标注困难、低质遥感图像影响监测精度、智能解译应用推广存在挑战等难题。 本方案依托昇腾AI基础软硬件平台,融合智能数据管理标注和多种先进解译算法,推出了城市变化遥感监测平台,从数据、算力、算法三个维度推动了城市变化监测技术的推广和落地。 - Keywords: 航天宏图城市,变化遥感监测,平台,AI,解决方案,昇腾社区,背景与挑战,方案亮点 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_137.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/138 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_138.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/139 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_139.md ## 加油站智能无感支付,加油效率2.4倍提升-昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/14 - Description: 当前加油站存在整体加油效率低,容易形成加油站拥堵,客户体验差,并影响加油站收入的情况。传统加油站信息化程度整体有待提高,在加油环节支付油费需要熄火锁车到专门的收费柜台去支付。数据表明,加油站平均加油时长6分钟,超过50%的时间是由费用支付环节耗费。 华为联合云化科技推出基于昇腾AI基础软硬件的“AI无感加油”解决方案。加油站中的摄像机采集视频图像数据传送到边缘计算设备Atlas 500 智能小站进 - Keywords: 加油站智能无感支付,加油效率,倍提升,AI,解决方案,昇腾社区,OCR,背景与挑战 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_14.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/140 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_140.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/141 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_141.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/142 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_142.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/144 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_144.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/145 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_145.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/146 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_146.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/147 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_147.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/148 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_148.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/149 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_149.md ## 加油站安全生产智能监测,实现全面感知、自动预警-昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/15 - Description: 加油站运营安全至关重要,但在车辆加油、油车卸油等关键环节,安全记录管理缺少数字化和智能化的的手段。尤其卸油过程最容易发生安全隐患,油罐车动态管理困难,卸油过程没有实时视频、数据分析、告警机制等,事后的调查取证也存在巨大困难。 基于昇腾AI基础软硬件及中盛益华提供的识别算法联合打造加油站安全管理系统,通过在加油站进行智能化升级,集成关键监管点位摄像机、传感器等数据采集,在边缘侧基于Atlas 500 - Keywords: 加油站安全生,产智能监测,实现全面感知,自动预警,AI,解决方案,昇腾社区,Pro - Detail: llms-content/marketplace/zh_marketplace_solution_detail_15.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/150 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_150.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/151 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_151.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/152 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_152.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/153 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_153.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/154 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_154.md ## 许继变电站运维图像识别分析解决方案-昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/157 - Description: 传统的变电站运维管理工作由总控室的运维管理人员负责看管整个供电网络,当出现问题时,需要技术人员进入变电站现场进行技术检测和维护,不仅存在时间上的延误,也产生了诸多现场工作的安全风险。 该方案通过昇思MindSpore AI框架实现算法服务的开发与部署,以图像识别算法作为服务层,通过统一接口规范接入变电站监测系统,或将服务封装以sdk形式部署于变电站终端设备,实现对人员和设备的管理。 - Keywords: 许继变电站运,维图像识别分,析解决方案,AI,解决方案,昇腾社区,背景与挑战,方案亮点 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_157.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/16 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_16.md ## 实时智能高速收费稽核,助力湖南高速年均挽回超2亿损失 -昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/17 - Description: 高速省界收费站取消后,车辆通行效率显著提升,大众出行得到了极大便利。但与此同时也伴随着局部新ETC系统收费不精准问题,如同路不同价、出口无费用显示、收费不合理等问题,因此会出现高速费用争议及逃费的可能性,也给交通行业从业者及出行百姓带来了严重负担。 基于Atlas 500 Pro 智能边缘服务器及拓维信息提供的AI稽核算法共同孵化的高速收费稽核解决方案,可实现对车辆特征的AI取证识别,结合AI稽核 - Keywords: 实时智能高速收费稽核,助力湖南高速,年均挽回超,亿损失,AI,解决方案,昇腾社区,Pro - Detail: llms-content/marketplace/zh_marketplace_solution_detail_17.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/18 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_18.md ## 公路高效智能执法,助力浙江丽水交警执法效率70%提升-昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/19 - Description: 当前公路拍摄摄像设备前端分析能力不足,无法应对新型违章行为。同时人工巡逻执法效率低,实时抓拍违法车辆难。在违法审核阶段对人工也有过多依赖且效率低下,因此面临巨大人力投入挑战。目前急需通过高效的智能方案提升公路违章执法效率,使其社会拥有更井然有序的交通环境。 基于Atlas 800 推理服务器及浩腾科技提供的AI分析算法共同孵化出智能非现场交通执法解决方案,可实现违法预审模块与现网系统无缝对接。对前 - Keywords: 公路高效智能执法,助力浙江丽水,交警执法效率,提升,AI,解决方案,昇腾社区,OCR - Detail: llms-content/marketplace/zh_marketplace_solution_detail_19.md ## 家用灶具品控智能化,美的研究院评估效率10倍提升-昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2 - Description: 灶具作为生活中常用必需品,对于质量的要求极为严苛,而当前灶具火焰的品控一直面临着如下挑战及技术难点:人为主观判断差异及人工疲劳引起的误判,缺少真实数据且无法具象化;取像环境差,燃烧时取像环境温度整体偏高,且动态火焰不可控,造成取像数据误差,影响检测结果;人力成本高,单一质检环节的人力的培养和投入对企业造成了高昂成本。 通过将华为Atlas 200 AI加速模块集成至火焰检测工业相机当中,使之具备强 - Keywords: 家用灶具品控智能化,美的研究院评,估效率,倍提升,AI,解决方案,昇腾社区,OCR - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2.md ## 招商银行深圳分行打造“体验型”+“营销型”智慧网点-昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/20 - Description: 银行网点作为服务客户的最前线,承担着重要作用。然而当前银行网点的智能化升级存在如下挑战。如重要客户难以甄别,要客仍然以取号机来获取服务;获客手段单一,无特定人群精准营销;价值数据未能充分利用;客户体验不佳,业务等待时间长等问题。 基于Atlas 500 智能小站提供的超强AI算力及高重科技、眼神科技提供的AI分析算法联合孵化智慧网点解决方案。结合营业厅前端获取的信息,进行实时智能分析。做到第一时间 - Keywords: 招商银行深圳,分行打造,体验型,营销型,智慧网点,AI,昇腾,解决方案 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_20.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2014 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2014.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2020 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2020.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2097 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2097.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/21 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_21.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2122 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2122.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2150 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2150.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2154 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2154.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2158 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2158.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2159 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2159.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2162 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2162.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2164 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2164.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2165 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2165.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2166 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2166.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2167 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2167.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2173 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2173.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2175 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2175.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/22 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_22.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2209 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2209.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2222 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2222.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2225 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2225.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2255 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2255.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2256 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2256.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2289 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2289.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2294 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2294.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/23 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_23.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2310 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2310.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2326 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2326.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2327 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2327.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2329 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2329.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2335 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2335.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2336 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2336.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2341 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2341.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2347 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2347.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2372 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2372.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2377 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2377.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2378 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2378.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2389 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2389.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2391 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2391.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2406 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2406.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2419 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2419.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2420 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2420.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2421 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2421.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2422 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2422.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2423 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2423.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2435 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2435.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2441 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2441.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2445 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2445.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2447 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2447.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2451 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2451.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2452 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2452.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2454 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2454.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2458 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2458.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2459 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2459.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2461 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2461.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2463 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2463.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2465 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2465.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2466 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2466.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2469 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2469.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2470 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2470.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2472 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2472.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2474 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2474.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2476 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2476.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2477 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2477.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2480 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2480.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2482 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2482.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2485 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2485.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2486 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2486.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2488 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2488.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2489 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2489.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2491 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2491.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2492 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2492.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2495 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2495.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2496 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2496.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2497 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2497.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2498 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2498.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/25 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_25.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2503 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2503.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2504 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2504.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2507 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2507.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/2508 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_2508.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/253 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_253.md ## 昇腾AI支撑中国移动,打造运营商领域最大规模AI中心 -昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/26 - Description: 随着人工智能的兴起,中国移动2019~2020年人工智能服务器集中采购项目规划了训练型、均衡型和推理型标段的AI服务器。中移动凭借运营商网络带宽优势,计划建设AI资源池,更好的对内外部提供服务,规划包括:智慧营业厅、工单稽核、手机语音、智慧审计等多个应用。并在计划未来提供丰富的云上和云下AI应用。 华为共提供850台Atlas 800服务器用于推理型(V1标段)+训练型(V2标段)两类场景,帮助中 - Keywords: AI,支撑中国移动,打造运营商领,域最大规模,中心,解决方案,昇腾社区,OCR - Detail: llms-content/marketplace/zh_marketplace_solution_detail_26.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/27 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_27.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/28 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_28.md ## 餐饮服务智能化升级,大幅提升就餐体验及效率 -昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/29 - Description: 传统的就餐过程,缺少个性化的健康管理指导服务,而且在企业、院校及大型活动的就餐高峰期间经常出现结算慢、排队时间长等问题,极大地影响了用餐者感受到的服务体验。引入智能化的手段改善用餐者的就餐体验,提升餐饮服务效率,已成为餐饮行业的一大趋势。 基于昇腾AI基础软硬件平台以及朴食科技提供的菜品AI识别算法共同孵化的“智眼”智能结算创新方案,把AI图像识别引入顾客结算环节,实现菜品的自动识别,自助计价,并 - Keywords: 餐饮服务智能化升级,大幅提升就餐,体验及效率,AI,解决方案,昇腾社区,OCR,背景与挑战 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_29.md ## 烟草质检智能化升级,缺陷检出率提升至99.9%+ -昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/3 - Description: 为应对烟草市场供需关系的波动,烟草企业需采用“小批量多品种”生产模式,这种生产模式对于卷烟生产企业柔性的生产能力要求高。目前烟草行业缺陷检测普遍存在人工检测做不了、做不好和不划算的问题。传统视觉检测是基于规则的模式匹配算法,存在漏检多、误检高、标准不统一、无法统一管理等问题。 小包外观检测系统通过对外包装进行高速拍照,拍照信息上传至华为Atlas 800 推理服务器后对图像进行AI推理,如果判断是 - Keywords: 烟草质检智能化升级,缺陷检出率提,升至,AI,解决方案,昇腾社区,OCR,背景与挑战 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_3.md ## 电梯服务智能化升级,实现乘梯场景异常记录、及时告警 -昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/30 - Description: 自动扶梯的广泛应用虽然给人们的通行带来巨大便利,但不当的乘梯行为和过大的客流量也会带来潜在危险,而传统的管理模式很难做到对安全隐患以及乘梯事故的及时发现和处理。 通过对扶梯中一些异常情况的智能判断,实现了对于这部分区域公共安全的一个实时管控。基于Atlas 800 推理服务器提供的强大算力及合作伙伴创新奇智提供的识别算法,当在电梯中出现逆行、摔倒、携带大件货物等情景时,系统能够智能识别出来,并及时 - Keywords: 电梯服务智能化升级,实现乘梯场景异常记录,及时告警,AI,解决方案,昇腾社区,OCR,背景与挑战 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_30.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/4 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_4.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/5 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_5.md ## 光伏组件表面缺陷智能检测,缺陷检出率实现99.9%以上 -昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/6 - Description: 光伏组件在出厂前都需要完成外观检查和EL检测,当前在这两项检测上主要依赖于人工检测和传统机器视觉检测。人工检测的效率较低难以满足如此高强度的检测需求,而传统机器视觉检测方式的准确率无法保障导致误检率较高,因此在光伏组件的缺陷检测环节急需引入AI技术来提升质检效率与准确率,以最终提升组件质量。 基于昇腾AI基础软硬件以及聚时科技提供的光伏组件缺陷检测算法,智能光伏组件质检解决方案可提供产线级、车间级 - Keywords: 光伏组件表面,缺陷智能检测,缺陷检出率实,以上,AI,解决方案,昇腾社区,OCR - Detail: llms-content/marketplace/zh_marketplace_solution_detail_6.md ## 昇腾AI市场-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/7 - Description: 昇腾AI市场 - Keywords: AI,市场,昇腾社区 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_7.md ## 集成电路SmartAOI智能检测,提升50% AOI直通率 -昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/8 - Description: 集成电路的质检主要依赖于AOI检测,传统机器视觉检测由于器件的批次差异、光源不稳定等原因导致识别率不高,误检过多,使得产线的直通率受到影响。 SmartAOI智能检测解决方案:在工位部署AI工控机,工控机内部由Atlas 200 AI加速模块和Atlas 300I 推理卡提供AI算力,基于mxManufacture SDK完成质检应用的开发,可实现从来料检测到生产过程中焊点、标签等智能检测,有效提 - Keywords: SmartAOI,集成电路,智能检测,提升,AOI,直通率,AI,昇腾 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_8.md ## 药品泡罩智能质检,检测准确率达99%以上-昇腾AI解决方案-昇腾社区 - URL: https://www.hiascend.com/marketplace/solution/detail/9 - Description: 药品泡罩包装市场空间大,而传统AOI检测技术存在检测缺陷种类有限、误判率高、大量的人工二次核验工作等挑战,成为制约生产能力的重要瓶颈。基于传统的图像识别的算法也已无法满足当前的胶囊生产检测需求,随着AI的成熟,使用深度学习减少人工二次核验工作是大势所趋。 基于昇腾AI基础软硬件,联合天津瑟威兰斯科技共同孵化出胶囊泡罩缺陷检测解决方案。该方案基于Atlas 300I 推理卡加载胶囊泡罩缺陷检测模型算 - Keywords: 药品泡罩智能质检,检测准确率达,以上,AI,解决方案,昇腾社区,OCR,背景与挑战 - Detail: llms-content/marketplace/zh_marketplace_solution_detail_9.md ## 合作伙伴主页-昇腾社区 - URL: https://www.hiascend.com/ecosystem - Description: 致力于帮助昇腾生态伙伴构建产业竞争力、联接客户创造商机 - Keywords: 合作伙伴、昇腾技术认证 昇腾万里伙伴计划 - Detail: llms-content/ecosystem/zh_ecosystem.md ## 昇腾众智计划-昇腾社区 - URL: https://www.hiascend.com/ecosystem/all-wisdom - Description: 昇腾计算产业的发展需要整个产业链的共同参与,打造强大的昇腾计算产业生态。 - Keywords: 昇腾众智计划,昇腾社区,项目列表,参与流程,相关资源,玩转昇腾,TriDao FlashAttention,Transformer - Detail: llms-content/ecosystem/zh_ecosystem_all-wisdom.md ## 昇腾众智荣誉展播-昇腾社区 - URL: https://www.hiascend.com/ecosystem/all-wisdom/award - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾众智荣誉展播,昇腾社区,AI,名单,昇腾众智计划,现场,昇腾众智金质 - Detail: llms-content/ecosystem/zh_ecosystem_all-wisdom_award.md ## 生态伙伴推荐规划 - URL: https://www.hiascend.com/ecosystem/all-wisdom/partner-rec - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 生态伙伴推荐规划,生态伙伴推荐 - Detail: llms-content/ecosystem/zh_ecosystem_all-wisdom_partner-rec.md ## 昇腾科研创新使能计划-昇腾社区 - URL: https://www.hiascend.com/ecosystem/ascend_sci-res-innov_program - Description: 昇腾科研创新使能计划,旨在使能国内高校和科研院所依托昇腾人工智能基础软硬件平台开展科学技术研究和自主可信软件研发与技术攻关工作 - Keywords: 合作伙伴、昇腾技术认证 昇腾万里伙伴计划 - Detail: llms-content/ecosystem/zh_ecosystem_ascend_sci-res-innov_program.md ## 昇腾兼容性认证硬件目录-昇腾社区 - URL: https://www.hiascend.com/ecosystem/ascendpartner/qualified-servers-catalog - Description: 华为昇腾与整机/硬件伙伴协作,确保伙伴服务器/硬件与昇腾NPU匹配运行。您可根据需求筛选产品,简化采购流程;客户可从昇腾硬件伙伴处获得针对这些硬件的企业支持 - Keywords: 合作伙伴、昇腾技术认证 昇腾万里伙伴计划 - Detail: llms-content/ecosystem/zh_ecosystem_ascendpartner_qualified-servers-catalog.md ## 昇腾技术认证书查询下载-昇腾社区 - URL: https://www.hiascend.com/ecosystem/certificate-query - Description: 可根据行业、产品类型、伙伴名称,查询下载技术认证书 - Keywords: 合作伙伴、昇腾技术认证 昇腾万里伙伴计划 - Detail: llms-content/ecosystem/zh_ecosystem_certificate-query.md ## 华为昇腾专家(HAE)-昇腾社区 - URL: https://www.hiascend.com/ecosystem/hae - Description: 华为昇腾专家(简称HAE),是华为公司授予人工智能计算领域行业意见领袖和技术专业人士的荣誉。他们拥有多种专业知识,并积极参与昇腾社区活动,乐于分享传授专业知识和经验,为生态建设作出专业贡献,受人尊重与信任,享有特殊权益,并肩负共建昇腾生态的使命 - Keywords: HAE,华为昇腾专家,昇腾社区,专访,权益,使命,申请流程,HUAWEI Ascend Expert - Detail: llms-content/ecosystem/zh_ecosystem_hae.md ## 昇腾计算产业概述-昇腾社区 - URL: https://www.hiascend.com/ecosystem/industry - Description: 昇腾计算产业是基于昇腾系列(HUAWEI Ascend)处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN(Compute Architecture for Neural Networks,异构计算架构)、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾计算产业概述,昇腾社区,什么是昇腾计算产业,昇腾计算产业全景,行业实践,行业产业组织,产业价值,硬件开放 - Detail: llms-content/ecosystem/zh_ecosystem_industry.md ## 昇腾万里伙伴计划-加入流程指南-昇腾社区 - URL: https://www.hiascend.com/ecosystem/partner-program - Description: 昇腾万里伙伴计划是基于昇腾AI基础软硬件平台推出的一项合作伙伴计划,华为向合作伙伴提供培训、技术、营销和市场的全面支持 - Keywords: 合作伙伴、昇腾技术认证 昇腾万里伙伴计划 - Detail: llms-content/ecosystem/zh_ecosystem_partner-program.md ## TriDao FlashAttention 众智任务-昇腾社区 - URL: https://www.hiascend.com/ecosystem/wisdom-detail/1a06b3e6cf5e4c85afc9681e8ab78f6d/1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 众智任务,昇腾社区,TriDao FlashAttention,Transformer,CATLASS,LLM,CANN,详见项目任务 - Detail: llms-content/ecosystem/zh_ecosystem_wisdom-detail_1a06b3e6cf5e4c85afc9681e8ab78f6d_1.md ## 昇腾众智计划 - URL: https://www.hiascend.com/ecosystem/wisdom-detail/9db4a9c8ffd74613a507e5873b2ed05c/1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾众智计划 - Detail: llms-content/ecosystem/zh_ecosystem_wisdom-detail_9db4a9c8ffd74613a507e5873b2ed05c_1.md ## Powered by Ascend-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend - Description: 昇腾新生态 共赢新时代 - Keywords: Powered,Ascend,昇腾社区,简介,生态合作伙伴,甄选解决方案获奖名单,相关资源,KunLun - Detail: llms-content/poweredbyascend/zh_poweredbyascend.md ## 安擎-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/anqing - Description: 中国领先的AI服务器及定制化方案提供商 - Keywords: 安擎,昇腾社区,Powered,Ascend,SATA,TOPS,TFLOPS,DC - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_anqing.md ## 百信-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/baixin - Description: 让自主创新计算机走向世界 - Keywords: 百信,昇腾社区,Powered,Ascend,Atlas,SAS,SATA,NVMe - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_baixin.md ## 宝德-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/baode - Description: 计算驱动未来! - Keywords: 宝德,昇腾社区,Powered,Ascend,PC,POD,TOPS,SAS - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_baode.md ## 北联国芯-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/blgx - Description: 智造改变世界,融合创新未来 - Keywords: 北联国芯,昇腾社区,Powered,Ascend,Pro,GI,TOPS,GB - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_blgx.md ## 长江计算-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/cjCalculation - Description: 多样性算力基础设施及解决方案提供商 - Keywords: 长江计算,昇腾社区,Powered,Ascend,TOPS,MT,SAS,SATA - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_cjCalculation.md ## 得成信息-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/decheng - Description: 湖南得成信息技术有限公司成立于2018年,注册资金人民币1000万元,是由一批拥有20余年的信息化行业背景的资深人员创建,是华为公司湖南省的重要合作伙伴,公司的产品和服务已在多个行业应用包括数字政府、文教、医卫、企业、银行金融、军警、交通、能源电力等,公司以市场需求、产业发展服务为导向,以务实创新为驱动,以技术应用为核心,积极推进人工智能、物联网、云计算、高性能信息处理、智能数据挖掘分析统计等IC - Keywords: 得成信息,昇腾社区,Powered,Ascend,DC,AI,TOPS,TFLOPS - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_decheng.md ## 广电五舟-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/gdwz - Description: 智能算力产品与解决方案提供商 - Keywords: 广电五舟,昇腾社区,Powered,Ascend,SAS,SATA,TOPS,PCle - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_gdwz.md ## 黄河-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/hh - Description: 新计算 新超越 - Keywords: 黄河,昇腾社区,Powered,Ascend,Huanghe OceanAI,Pro,PFLOPS,SATA - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_hh.md ## 华鲲振宇-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/hkzy - Description: 华鲲踏浪振寰宇 天宫凌霄贯长虹 - Keywords: 华鲲振宇,昇腾社区,Powered,Ascend,MKT,Pro Model,Model,TOPS - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_hkzy.md ## 华启智慧-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/hqzh - Description: 浙江华启智慧科技有限公司(以下简称华启智慧),是一家以新计算技术为主导的高科技企业,聚焦算力基础设施的研发、生产、销售、服务、生态构建,致力于成为中国领先的计算企业,支持国家科技创新和行业数字化转型。 华启智慧依托基础研发的长期投入、服务器硬件开发能力、全栈的软件开发能力、丰富的场景解决方案、健全的软件生态和服务体系等优势,打造性能强劲、稳定可靠、可持续演进的通用计算和AI计算系列服务器及软硬一体 - Keywords: 华启智慧,昇腾社区,Powered,Ascend,V Pro,Duo,SAS,SATA - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_hqzh.md ## 深圳华强半导体集团有限公司-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/huaqiang - Description: 华强半导体集团是资源集成、高效运营、价值共创、利益共享的分销服务平台。华强半导体集团作为专业的大型电子元器件授权分销商,充分发挥大平台优势,以多年沉淀的产品分销管理能力、产品技术能力、市场研究能力、资金实力和积累的行业经验,为合作的原厂、客户提供有价值、可信赖的服务,致力于成就世界一流的电子元器件分销商和生态赋能者。 - Keywords: 深圳华强半导,体集团有限公,昇腾社区,Powered,Ascend,CH,FPGA,NPU - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_huaqiang.md ## 北京杰创科技-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/jiechuang - Description: 北京杰创永恒科技有限公司成立于2007年,是国家级高新技术企业、中关村瞪羚企业和专精特新企业。深耕电子信息领域实践能力培养17载,公司以“专业赋能,创新引领,教育为先”为核心理念,专注构建智能硬件全生态产教融合体系。作为教育部协同育人项目合作单位及现场工程师专项培养计划入库企业,主导获批智能硬件装调员新职业,牵头制定国家职业标准及起草智能硬件应用开发1+X技能标准,并创办“圆梦杯”全国大学生智能硬 - Keywords: 北京杰创科技,昇腾社区,Powered,Ascend,Sales,Fi,Atlas,DK - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_jiechuang.md ## 科思科技-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/kesi - Description: 深圳市科思科技股份有限公司成立于2004年2月27日,总部位于深圳市南山区,是一家国家级高新技术企业,公司以“科学精神,思想创造”为核心理念,以“自主可控技术底座+全域场景赋能”为核心战略,自2015年起,科思科技围绕智能无人作战体系建设与人工智能装备发展开始布局,依托“智能芯片-智能装备-智能系统-人工智能大模型应用”垂直整合能力,打造覆盖“感知-决策-控制-评估”全链路的智能无人装备体系,提供 - Keywords: 科思科技,昇腾社区,Powered,Ascend,TOPS,载重无人车,智能助手,昇腾 - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_kesi.md ## 昆仑技术-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/kunlun - Description: 成为领先的信息创新技术与服务提供者 - Keywords: 昆仑技术,昇腾社区,Powered,Ascend,KunLun,TOPS,SAS,SATA - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_kunlun.md ## 旷智中科-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/kzzk - Description: 旷智中科\(北京\)技术有限公司是一家专注于特种行业人工智能硬件解决方案的高新技术企业,公司规模:50+人,办公面积700平米。成立时间:2017年,注册资金:5000万核心产品:中心侧&训练端: 1.AI平台建设--智能体仿真训练平台边端侧&推理端 2.基于华为/复旦微FPGA等芯片路线的智能硬件产品 3.QuantzAISphere AI中台管理软件、QuantzMADSAI模型自动化部署系统并提 - Keywords: 旷智中科,昇腾社区,Powered,Ascend,QuantzAISphere,Atlas,Ubuntu,高可靠模组开 - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_kzzk.md ## 品立科技-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/pinli - Description: 品立科技专注于智能计算产品的开发,是工业以及民用智能化设备整体解决方案知名品牌,始终坚持“创新+效率+智能”的核心理念,专注将产品与应用产业紧密结合,深入探索云到端的整体解决方案。以服务器、嵌入式AI一体机产品为主导,服务于云服务、智慧医疗、智慧农业、智慧物流、智慧城市、工业自动化、教育科研等行业,助推各行业领域的传统生产模式向智能化模式的转型。 - Keywords: 品立科技,昇腾社区,Powered,Ascend,WIFI,TOPS,TFLOPS,GB - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_pinli.md ## 全爱科技-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/qakj - Description: 全爱科技是智能计算知名品牌,高新技术企业,上海市专精特新,华为昇腾官方合作伙伴,是华为认证I H V、I S V、昇腾A P N。全爱科技提供人工智能计算解决方案,A I计算机、智能小站、工控机、服务器、图像采集卡、智能载荷等产品。全爱科技以全场景AI为愿景,推动人工智能技术的广泛应用; 以软件开源、硬件开放助力华为昇腾人工智能计算生态发展。全爱科技勇于承担社会责任,承担并完成上海市、中船、航空、 - Keywords: 全爱科技,昇腾社区,Powered,Ascend,H V,I S V,P N,AI - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_qakj.md ## 同方计算机-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/qhtf - Description: 用心做中国电脑 - Keywords: 同方计算机,昇腾社区,Powered,Ascend,SAS,SATA,NVMe,TOPS - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_qhtf.md ## 擎问科技-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/qingwen - Description: 擎问科技是一家专注于全栈国产化AI解决方案的高科技企业,核心团队由华为及重点高校专家组成。2023年成为华为昇腾中西部首家APN伙伴,与清华大学苏州汽车研究院战略合作,开发基于鲲鹏和昇腾模组的细分行业自动驾驶解决方案及适应极端环境环境的专用设备。公司依托“一平台四中心”布局,聚焦昇腾+海思芯片的软硬一体化AI解决方案,赋能矿山,智能制造等行业。未来,擎问科技将持续携手生态伙伴,推动国产AI技术自主 - Keywords: 擎问科技,昇腾社区,Powered,Ascend,AI,Al Core,PCIe,接口 - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_qingwen.md ## 融科联创-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/rklc - Description: 融科联创(天津)信息技术有限公司,总部位于天津市武清区京津科技谷,是一家集服务器研发、生产、营销为一体的国家级专精特新“小巨人”企业。公司建有专业的服务器定制化生产基地,可实现年产量20万台,并在北京、成都、杭州、长沙、深圳、武汉、西安、南京等地设立分支业务机构。目前,公司业务先后在云计算数据中心、高校AI教育、冷冻电镜生物分子研究、基因测序、广播电视录播系统、铁路智能安检、人脸识别、高性能计算平 - Keywords: 融科联创,昇腾社区,Powered,Ascend,Atlas,V Pro,Duo,Kunpeng - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_rklc.md ## 容天汇海-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/rthh - Description: 北京容天汇海科技有限公司成立于2005年,公司专注于为全行业提供前沿的产业数智化转型解决方案,涵盖算力中心的建设、大模型训推以及人工智能领域的研发与运营服务,致力于推动行业智能化升级。容天汇海科技有限公司倾力打造多元化产品生态,深耕智能制造、教育科研、医疗健康与新能源等关键领域,为行业注入创新活力。助力客户建立面向未来的竞争优势,加速数字化与智能化转型步伐,共同推动社会产业升级与核心能力的全面提升 - Keywords: 容天汇海,昇腾社区,Powered,Ascend,Atlas,Duo,TFLOPS,NVME SSD - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_rthh.md ## 软通华方-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/ruantong - Description: 软通华方是中国领先的全场景智算产品及服务提供商,作为清华同方计算产品唯一传承品牌,延续其近三十载品牌基因、核心团队、技术专利及服务网络等,是国家信息产业“四梁八柱”企业之一,秉承“创业创新、责任担当、开放包容、合作共赢”的价值观,始终致力于为千行百业提供自主创新、软硬一体、安全可靠的智算产品、解决方案及全栈服务,已成为中国数字化建设中的重要支撑力量。 - Keywords: 昇腾社区,Powered,Ascend,Duo,Mini,软通华方超炫,系列工作站,智能助手 - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_ruantong.md ## 四川赛狄-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/saidi - Description: 四川赛狄信息技术股份公司创立于2003年,拥有30亩自主产业园和350余人的员工规模,专注于高性能处理、高速数据采集、图像处理、大容量存储、人工智能、测试与管理、高端制造等技术的产品开发、生产、销售和服务,产品广泛用于AI计算中心、无人机、机器人、能源、互联网、医疗、交通、金融、制造业、电信等领域。四川赛狄产品覆盖多元信息感知、数据采集、信号处理与传输,信号处理及存储等数字系统硬件全链条。同时作为 - Keywords: 四川赛狄,昇腾社区,Powered,Ascend,Atlas,TOPS,TFLOPS,GB - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_saidi.md ## 深圳市斯贝达电子有限公司-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/sibeida - Description: 深圳市斯贝达电子有限公司(以下简称:斯贝达电子)成立于2009年,总部设立在深圳,在全国设有14家分公司及办事处。其中在深圳、成都、郑州、长沙设立研发中心,面向科研院所、电力、通信、轨道交通等领域提供AI智能产品、嵌入式整机和部件、产品定制开发服务。斯贝达电子的主要技术平台包括华为计算产品平台、华为海思多媒体产品平台、瑞芯微产品平台。斯贝达电子的全资子公司鹏城检测(深圳)有限公司,为全国产化、高可 - Keywords: 深圳市斯贝达,电子有限公司,昇腾社区,Powered,Ascend,AI Core,TOPS,TFLOPS - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_sibeida.md ## 思腾合力-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/siteng - Description: 思腾合力(天津)科技有限公司,聚焦高性能计算及算力底座解决方案。我们紧跟AI发展趋势,专注于为AI应用提供高效算力支持,致力于成为卓越的算力解决方案引领者,构筑AI世界的无限可能。建立了完善的研发、生产、制造基地,通过自主创新的软硬件结合,打造了完整且自主可控的产品生态系统,涵盖深度学习、高性能计算、虚拟化、分布式存储、AI集群管理及云计算等多个领域。我们坚持客户至上,核心产品线包括自研AI管理软 - Keywords: 思腾合力,昇腾社区,Powered,Ascend,GPU,CPU,MT,GB - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_siteng.md ## 神州鲲泰-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/szkt - Description: 打造自主创新技术,以信息创新赋能数字变革 - Keywords: 神州鲲泰,昇腾社区,Powered,Ascend,KunTai,RDIMM,SEC,DED - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_szkt.md ## 新华三-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/xhs - Description: 融绘数字未来,共享美好生活 - Keywords: 新华三,昇腾社区,Powered,Ascend,UniServer,PFLOPS,MT,GB - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_xhs.md ## 湘江鲲鹏-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/xjkp - Description: 构筑数字中国底座,助力千亿产业聚集 - Keywords: 湘江鲲鹏,昇腾社区,Powered,Ascend,POPS,SAS,SATA,FPS - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_xjkp.md ## 深圳市迅龙软件有限公司-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/xunlong - Description: 迅龙软件是一家专注于智能硬件设计与AIoT解决方案的国家级高新技术企业,工信部第七批专精特新小巨人企业,全球领先的开源硬件和开源软件品牌商。核心产品OrangePi系列开发板市场销量国内第一、全球第二,细分领域龙头企业。成立于2005年,研发人员占比超70%。业务范围遍及美国、欧洲、南非、东南亚等100多个国家和地区。迅龙主导产品为子品牌香橙派(Orange Pi)系列开源硬件和开源软件,包括:1 - Keywords: 深圳市迅龙软,件有限公司,昇腾社区,Powered,Ascend,Orange Pi,Orange,Pi OS - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_xunlong.md ## 研华科技-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/yanhua - Description: 研华成立于1983年,以“智能地球的推手”作为企业品牌愿景,一直专注于工业物联网、嵌入式物联网及智慧城市三大市场。为迎接AIoT与人工智能发展大趋势,研华以Sector Driven策略全面展开布署并聚焦七大产业,长期深耕行业市场,提升核心竞争力;同时,也以AIoT + Edge Computing边缘硬件平台产品群、工业物联网软件平台WISE-IoT,再加入产业AI解决方案及行业知识,融合成为产 - Keywords: 研华科技,昇腾社区,Powered,Ascend,IoT,MIC,Edge System,TOPS - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_yanhua.md ## 山东怡然-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/yiran - Description: 山东怡然信息技术有限公司,坐落于济南市高新区,公司2012年5月注册成立,注册资金2015万,是一家专注计算机相关产品销售、软件开发、软件技术服务、虚拟化及超融合数据中心建设、耗材供应,显卡、软件进出口以及第三方维保的高科技企业。从技术到设备,从产品销售到软性服务,公司主营业务立足科技信息化,致力做好以客户需求为中心的集成服务。 - Keywords: 山东怡然,昇腾社区,Powered,Ascend,Pro,Atlas,Duo,CPU - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_yiran.md ## 英码科技-昇腾社区 - URL: https://www.hiascend.com/poweredbyascend/hardware/ymkj - Description: 广州英码信息科技有限公司成立于2006年,是一家致力提供“云-边-端”协同的AI计算产品与细分场景解决方案的人工智能企业。公司作为业内较早一批专注研发、生产算力硬件的企业,推出了一系列面向细分应用场景的国产算力硬件产品,包括边缘计算盒子、AI边缘服务器、加速卡等,并已在安全生产、智慧交通、智慧校园等多个AI场景得到成功应用。英码科技以“感知万物,智算赋能”为核心理念,软硬结合赋能千行百业智能化转型 - Keywords: 英码科技,昇腾社区,Powered,Ascend,PRO,DUO,NTP,PTP - Detail: llms-content/poweredbyascend/zh_poweredbyascend_hardware_ymkj.md ## 昇腾开发者主页-开发者中心-开发资源-昇腾社区 - URL: https://www.hiascend.com/developer - Description: 与昇腾AI一起,进行观点碰撞、技术交流、开发实战、AI创作、学习成长。 - Keywords: 昇腾开发者主页,开发者中心,昇腾社区,了解技术热点,获取开发资源,开启学习成长,参与互动交流,加入开发者计划 - Detail: llms-content/developer/zh_developer.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/developer/AAIC2024 - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/developer/zh_developer_AAIC2024.md ## 昇腾AI创新大赛2025-昇腾社区 - URL: https://www.hiascend.com/developer/AAIC2025 - Description: 昇腾社区首页 - Keywords: AI,创新大赛,昇腾社区,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/developer/zh_developer_AAIC2025.md ## 昇腾AI创新大赛2026-昇腾社区 - URL: https://www.hiascend.com/developer/AAIC2026 - Description: 昇腾AI创新大赛是面向AI开发者打造的顶级赛事,旨在鼓励全产业开发者基于昇腾AI技术和产品,打造软/硬件解决方案、探索模型算法,加速AI与行业融合,促进开发者能力提升。大赛以“数智未来,因你而来”为主题,在新一代人工智能产业技术创新战略联盟(AITISA)和中国人工智能产业发展联盟(AIIA)指导下,由全国各昇腾生态创新中心与华为主办、OpenI启智社区协办,与广大AI开发者共同推动人工智能产业应 - Keywords: AI,创新大赛,昇腾社区,大赛简介,重磅赛事,当前赛季,奖金及权益,奖金为人民币 - Detail: llms-content/developer/zh_developer_AAIC2026.md ## 昇腾AI开发者创享日-创未来享非凡-昇腾开发者活动-昇腾社区 - URL: https://www.hiascend.com/developer/activities-pro/Ascend-AI-Inspire-Day/2025guangdong - Description: 华为近年来持续加大人工智能领域投入,昇腾AI从“新技术、新体验、新机会”三个维度为开发者创造新价值,面向开发者不断丰富功能,培养中国AI人才。为此推出昇腾AI开发者创享日(Ascend Al Inspire Day),打造线下顶尖人才汇聚的开发者盛会。 - Keywords: AI,开发者创享日,创未来享非凡,昇腾开发者活动,昇腾社区 - Detail: llms-content/developer/zh_developer_activities-pro_Ascend-AI-Inspire-Day_2025guangdong.md ## 昇腾AI开发者创享日-创未来享非凡-昇腾开发者活动-昇腾社区 - URL: https://www.hiascend.com/developer/activities-pro/Ascend-AI-Inspire-Day/2025zhejiang - Description: 华为近年来持续加大人工智能领域投入,昇腾AI从“新技术、新体验、新机会”三个维度为开发者创造新价值,面向开发者不断丰富功能,培养中国AI人才。为此推出昇腾AI开发者创享日(Ascend Al Inspire Day),打造线下顶尖人才汇聚的开发者盛会。 - Keywords: AI,开发者创享日,创未来享非凡,昇腾开发者活动,昇腾社区 - Detail: llms-content/developer/zh_developer_activities-pro_Ascend-AI-Inspire-Day_2025zhejiang.md ## “创未来 享非凡”昇腾AI开发者创享日-北京站-昇腾社区 - URL: https://www.hiascend.com/developer/activities-pro/Ascend-AI-Inspire-Day/beijing - Description: 华为近年来持续加大人工智能领域投入,昇腾AI从“新技术、新体验、新机会”三个维度为开发者创造新价值,面向开发者不断丰富功能,培养中国AI人才。为此推出昇腾AI开发者创享日(Ascend Al Inspire Day),打造线下顶尖人才汇聚的开发者盛会。 - Keywords: 创未来,AI,享非凡,开发者创享日,北京站,昇腾社区,智能助手 - Detail: llms-content/developer/zh_developer_activities-pro_Ascend-AI-Inspire-Day_beijing.md ## 昇腾AI开发者创享日-创未来享非凡-昇腾开发者活动-昇腾社区 - URL: https://www.hiascend.com/developer/activities-pro/Ascend-AI-Inspire-Day/guangdong - Description: 华为近年来持续加大人工智能领域投入,昇腾AI从“新技术、新体验、新机会”三个维度为开发者创造新价值,面向开发者不断丰富功能,培养中国AI人才。为此推出昇腾AI开发者创享日(Ascend Al Inspire Day),打造线下顶尖人才汇聚的开发者盛会。 - Keywords: AI,开发者创享日,创未来享非凡,昇腾开发者活动,昇腾社区 - Detail: llms-content/developer/zh_developer_activities-pro_Ascend-AI-Inspire-Day_guangdong.md ## 昇腾AI开发者创享日-创未来享非凡-昇腾开发者活动-昇腾社区 - URL: https://www.hiascend.com/developer/activities-pro/Ascend-AI-Inspire-Day/guangzhou - Description: 华为近年来持续加大人工智能领域投入,昇腾AI从“新技术、新体验、新机会”三个维度为开发者创造新价值,面向开发者不断丰富功能,培养中国AI人才。为此推出昇腾AI开发者创享日(Ascend Al Inspire Day),打造线下顶尖人才汇聚的开发者盛会。 - Keywords: AI,开发者创享日,创未来享非凡,昇腾开发者活动,昇腾社区 - Detail: llms-content/developer/zh_developer_activities-pro_Ascend-AI-Inspire-Day_guangzhou.md ## 昇腾AI开发者创享日-创未来享非凡-昇腾开发者活动-昇腾社区 - URL: https://www.hiascend.com/developer/activities-pro/Ascend-AI-Inspire-Day/shenyang - Description: 华为近年来持续加大人工智能领域投入,昇腾AI从“新技术、新体验、新机会”三个维度为开发者创造新价值,面向开发者不断丰富功能,培养中国AI人才。为此推出昇腾AI开发者创享日(Ascend Al Inspire Day),打造线下顶尖人才汇聚的开发者盛会。 - Keywords: AI,开发者创享日,创未来享非凡,昇腾开发者活动,昇腾社区 - Detail: llms-content/developer/zh_developer_activities-pro_Ascend-AI-Inspire-Day_shenyang.md ## 昇腾AI开发者创享日-创未来享非凡-昇腾开发者活动-昇腾社区 - URL: https://www.hiascend.com/developer/activities-pro/Ascend-AI-Inspire-Day/tianjin - Description: 华为近年来持续加大人工智能领域投入,昇腾AI从“新技术、新体验、新机会”三个维度为开发者创造新价值,面向开发者不断丰富功能,培养中国AI人才。为此推出昇腾AI开发者创享日(Ascend Al Inspire Day),打造线下顶尖人才汇聚的开发者盛会。 - Keywords: AI,开发者创享日,创未来享非凡,昇腾开发者活动,昇腾社区 - Detail: llms-content/developer/zh_developer_activities-pro_Ascend-AI-Inspire-Day_tianjin.md ## 昇腾AI开发者创享日-创未来享非凡-昇腾开发者活动-昇腾社区 - URL: https://www.hiascend.com/developer/activities-pro/Ascend-AI-Inspire-Day/wuhan - Description: 华为近年来持续加大人工智能领域投入,昇腾AI从“新技术、新体验、新机会”三个维度为开发者创造新价值,面向开发者不断丰富功能,培养中国AI人才。为此推出昇腾AI开发者创享日(Ascend Al Inspire Day),打造线下顶尖人才汇聚的开发者盛会。 - Keywords: AI,开发者创享日,创未来享非凡,昇腾开发者活动,昇腾社区 - Detail: llms-content/developer/zh_developer_activities-pro_Ascend-AI-Inspire-Day_wuhan.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/developer/activities/Ascend-AI-Inspire-Day/nanjing - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/developer/zh_developer_activities_Ascend-AI-Inspire-Day_nanjing.md ## 昇腾开发者训练营 - URL: https://www.hiascend.com/developer/activities/ascend-developer-camp/kaifaban - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾开发者训练营 - Detail: llms-content/developer/zh_developer_activities_ascend-developer-camp_kaifaban.md ## 2024昇腾CANN技术行—算子开发专场(武汉站)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/00002ef5cbc544e79910dbc38cbae5d3 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,技术行,算子开发专场,武汉站,昇腾社区,Ascend,活动议程,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_00002ef5cbc544e79910dbc38cbae5d3.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/0054b8d19ff14b8ea77f702141a7b6d1 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_0054b8d19ff14b8ea77f702141a7b6d1.md ## 上海人工智能产教论坛暨昇腾AI开发者创享日-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/007e6f2ecd23475fa5d9f85106b76009 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: AI,上海人工智能,产教论坛暨昇,开发者创享日,昇腾社区,智能助手,已结束,上海市杨浦区 - Detail: llms-content/developer/zh_developer_activities_details_007e6f2ecd23475fa5d9f85106b76009.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/01722f42cd3d47b88ec080e89fbf1056 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_01722f42cd3d47b88ec080e89fbf1056.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/024ebcf7b3c74f18a47b097efe003f1a - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_024ebcf7b3c74f18a47b097efe003f1a.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/02d6a572b4cb4a9a90bcd6721e9918aa - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_02d6a572b4cb4a9a90bcd6721e9918aa.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/039bf8bcf812408baab388d78a5dc718 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_039bf8bcf812408baab388d78a5dc718.md ## 昇腾无人飞艇开发者体验活动-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/0557045eaf724f22841072642994a639 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 昇腾无人飞艇,开发者体验活,昇腾社区,活动背景,基础理论,智能助手,昇腾 - Detail: llms-content/developer/zh_developer_activities_details_0557045eaf724f22841072642994a639.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/060d92935c88454fb3f101dc92404cf6 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_060d92935c88454fb3f101dc92404cf6.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/067d34963c6f44bb9182cf1fbfb4f845 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_067d34963c6f44bb9182cf1fbfb4f845.md ## 上海昇思生态创新中心开业仪式-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/06f9210445ed430bbe93904a30c78427 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 上海昇思生态,创新中心开业,仪式,昇腾社区,AI,活动介绍,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_06f9210445ed430bbe93904a30c78427.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/070f7373940c4f2e9cda4107c15c6c7b - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_070f7373940c4f2e9cda4107c15c6c7b.md ## 昇腾CANN技术行—算子开发专场(河北站)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/07ef402fd65148709c5d9877ef603298 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,技术行,算子开发专场,河北站,昇腾社区,签到,Ascend,算子开发入门 - Detail: llms-content/developer/zh_developer_activities_details_07ef402fd65148709c5d9877ef603298.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/0831432d7f7944f3a198155778281863 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_0831432d7f7944f3a198155778281863.md ## 昇腾社区 AI智能助手beta版内测体验活动-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/0bbeaa85740d489c89b3b292655cdec3 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 昇腾社区,AI,智能助手,版内测体验活,了解详情,活动时间,面向用户 - Detail: llms-content/developer/zh_developer_activities_details_0bbeaa85740d489c89b3b292655cdec3.md ## MindSpeed Meetup·杭州站-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/0c100ae4376943fe85819cdf53cce332 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 杭州站,昇腾社区,MindSpeed Meetup,Lab,MindSpeed LLM,Lumina,DiMOO,Sora Plan - Detail: llms-content/developer/zh_developer_activities_details_0c100ae4376943fe85819cdf53cce332.md ## 2024CANN训练营《图片分类模型增量训练》-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/0d8789a1a4d24623a39623ef3d24b5d8 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,训练营,图片分类模型,增量训练,昇腾社区,直播详情,回看链接,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_0d8789a1a4d24623a39623ef3d24b5d8.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/0faeb2ed44ad41e69ca6f3b67921e73a - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_0faeb2ed44ad41e69ca6f3b67921e73a.md ## 活动报名-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/1055d50b073e4983be633d9f8480dd96/signup - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动报名,昇腾社区 - Detail: llms-content/developer/zh_developer_activities_details_1055d50b073e4983be633d9f8480dd96_signup.md ## 昇腾CANN技术行—算子开发专场(上海站)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/10d100715c3f4a309cc34de5330079a9 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,技术行,算子开发专场,上海站,昇腾社区,签到,Ascend,算子开发入门 - Detail: llms-content/developer/zh_developer_activities_details_10d100715c3f4a309cc34de5330079a9.md ## CANN社区任务2026-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/11014a50a8794171a4a08688fd398774 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,社区任务,昇腾社区,注意事项,点击了解开发,流程及注意事,MatMul,ELU - Detail: llms-content/developer/zh_developer_activities_details_11014a50a8794171a4a08688fd398774.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/114c2f0287504081998d170b314a9a4c - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_114c2f0287504081998d170b314a9a4c.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/118b868aa5fe4b759d9e407e914db905 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_118b868aa5fe4b759d9e407e914db905.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/118e6498130d48a29598ef307735f8cb - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_118e6498130d48a29598ef307735f8cb.md ## 邀请好友看直播,赢华为精美礼品-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/135249d8d8f94d048699d7f8d310e464 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 邀请好友看直播,赢华为精美礼品,昇腾社区,IAM,积分,的用户,可获得,名额 - Detail: llms-content/developer/zh_developer_activities_details_135249d8d8f94d048699d7f8d310e464.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/14069ed685054a5eb56580ff0c6de77b - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_14069ed685054a5eb56580ff0c6de77b.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/14d0cc97384a461a99b4b416f451e100 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_14d0cc97384a461a99b4b416f451e100.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/1687ab1f7db84386b3ee66c6618c4268 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_1687ab1f7db84386b3ee66c6618c4268.md ## 香橙派尝鲜计划-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/169a1ff85f624280bda2f5a22b8a1b15 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 香橙派尝鲜计划,昇腾社区,尝鲜福利,心实意,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_169a1ff85f624280bda2f5a22b8a1b15.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/16f1b0c87d0c4738824e4d9e1d5edb61 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_16f1b0c87d0c4738824e4d9e1d5edb61.md ## 2025北京昇腾生态创新中心D2-H2-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/174bf467ed2a41d78a219f32af81916d - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 北京昇腾生态,创新中心,昇腾社区,智能助手,已结束 - Detail: llms-content/developer/zh_developer_activities_details_174bf467ed2a41d78a219f32af81916d.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/1843ee439cb14122b2c98ed09eb2fbbd - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_1843ee439cb14122b2c98ed09eb2fbbd.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/1dc277ed9e9d42d389b7eac0b9f27d12 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_1dc277ed9e9d42d389b7eac0b9f27d12.md ## 以DeepSeek为马,亮出你的AI想法-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/2037b0315748448684d211851b8516bd - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: DeepSeek,为马,AI,亮出你的,想法,昇腾社区,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_2037b0315748448684d211851b8516bd.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/204107f7d7974815a9ceb9359f90799c - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_204107f7d7974815a9ceb9359f90799c.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/209a5d20ee2e48fe940bdcd3a11ae8b7 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_209a5d20ee2e48fe940bdcd3a11ae8b7.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/218ef820ef594a1fae6991681d7680c4 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_218ef820ef594a1fae6991681d7680c4.md ## 昇腾AI体验官MindStudio体验官第一期-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/22443b3e07e046cca14d56223a0a7b0f - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: AI,MindStudio,体验官第一期,昇腾社区,昇腾,体验官,活动信息,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_22443b3e07e046cca14d56223a0a7b0f.md ## 鲲鹏昇腾创享周-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/22aaf88896784a1bb4edbfffe1c8a87a - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 鲲鹏昇腾创享周,昇腾社区,KADC,进入,Online,直播间,精彩看不停,点击预约 - Detail: llms-content/developer/zh_developer_activities_details_22aaf88896784a1bb4edbfffe1c8a87a.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/2361644cd3f44dd7857e4b9213ecab8b - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_2361644cd3f44dd7857e4b9213ecab8b.md ## 活动报名-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/2369e187859649c4b0c4e84fd1b29790/signup - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动报名,昇腾社区 - Detail: llms-content/developer/zh_developer_activities_details_2369e187859649c4b0c4e84fd1b29790_signup.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/24bf6895155d49899e9955ce1658cc25 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_24bf6895155d49899e9955ce1658cc25.md ## CANN训练营2026暑期季 – 西北工业大学专场-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/26cc49f8da574c74a95ee8508a5d05e3 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,训练营,暑期季,西北工业大学专场,昇腾社区,活动介绍,任务介绍,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_26cc49f8da574c74a95ee8508a5d05e3.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/2ce77bc65e3249ff8db252f30926828d - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_2ce77bc65e3249ff8db252f30926828d.md ## 昇腾CANN开源开放沙龙·福建站-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/2cf4c0a073464adea1e575c48bc1105d - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,开源开放沙龙,福建站,昇腾社区,活动详情,智能助手,昇腾,福建省人工智 - Detail: llms-content/developer/zh_developer_activities_details_2cf4c0a073464adea1e575c48bc1105d.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/2ea0df76cf3a4de58f85ed1307d858ea - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_2ea0df76cf3a4de58f85ed1307d858ea.md ## 昇腾开发者满意度调查(2026年8月)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/2f256be8dfc3402e9a2be48f9034af18 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 昇腾开发者满,意度调查,昇腾社区,Activities,了解详情,已公示 - Detail: llms-content/developer/zh_developer_activities_details_2f256be8dfc3402e9a2be48f9034af18.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/2f3c5fb6805649cdacaa6b6d1a45b7fd - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_2f3c5fb6805649cdacaa6b6d1a45b7fd.md ## 昇腾AI训练营2026:学习认证专场(暑期季)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/2f73ab341a6548119bbec0843ea1b3d0?channelCode=S4 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: AI,训练营,学习认证专场,暑期季,昇腾社区,认证入口点这,任务,通关幸运轮 - Detail: llms-content/developer/zh_developer_activities_details_2f73ab341a6548119bbec0843ea1b3d0.md ## 昇思高校行走进同济大学暨第九届华为ICT大赛上海省赛启动仪式-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/2fb50e6a186d4fd5a5b2d9e6fc1f97aa - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: ICT,昇思高校行走,进同济大学暨,第九届华为,大赛上海省赛,启动仪式,昇腾社区,议程 - Detail: llms-content/developer/zh_developer_activities_details_2fb50e6a186d4fd5a5b2d9e6fc1f97aa.md ## 2024昇腾AI金种子实训班·河北站-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/302c19d1814942e6885e5157e1a936b4 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: AI,金种子实训班,河北站,昇腾社区,培训议程,智能助手,昇腾 - Detail: llms-content/developer/zh_developer_activities_details_302c19d1814942e6885e5157e1a936b4.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/314544f8dad04d52afcacac104405aac - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_314544f8dad04d52afcacac104405aac.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/319b2921c0a84f33826daaf76642f012 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_319b2921c0a84f33826daaf76642f012.md ## 香橙派全球开发者峰会·2024春季-线上预约直播活动-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/338a4abba70845c99071d63971837f97 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 香橙派全球开发者峰会,春季,线上预约直播活动,昇腾社区,AI,香橙派全球开,发者峰会,线上预约直播 - Detail: llms-content/developer/zh_developer_activities_details_338a4abba70845c99071d63971837f97.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/358f14de111546f0b6117546e899d725 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_358f14de111546f0b6117546e899d725.md ## 【奖品置换】100元京东卡置换表单-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/35d41e01f7004eecad4c7bdff995ce58 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 奖品置换,元京东卡置换,表单,昇腾社区,说明,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_35d41e01f7004eecad4c7bdff995ce58.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/361b8c7acbbd4e9894569d8269d4928e - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_361b8c7acbbd4e9894569d8269d4928e.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/377bb1162c3140649c1441fe7bdbd68f - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_377bb1162c3140649c1441fe7bdbd68f.md ## 昇腾社区定制新年台历,pick你最喜欢的风格~-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/37c47e39b0814d80a04ff7f2784dfb52 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 昇腾社区定制新年台历,你最喜欢的风,昇腾社区,活动详情,智能助手,已结束,码上报名 - Detail: llms-content/developer/zh_developer_activities_details_37c47e39b0814d80a04ff7f2784dfb52.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/38011281315b42f7ad228952a08cbaa9 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_38011281315b42f7ad228952a08cbaa9.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/38128a78d01a40be8b6fbd14ec31fcc5 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_38128a78d01a40be8b6fbd14ec31fcc5.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/38f21513162448968f4cff1c778e3d28 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_38f21513162448968f4cff1c778e3d28.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/3a4e6bab821847f3b4b873e18f6d43fa - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_3a4e6bab821847f3b4b873e18f6d43fa.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/3b1b40177f0446af8983dca836687202 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_3b1b40177f0446af8983dca836687202.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/3df54b3efb32463a80738a8e139660cd - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_3df54b3efb32463a80738a8e139660cd.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/3e1e74e255f04260a0c75c6b264a268e - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_3e1e74e255f04260a0c75c6b264a268e.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/3f3bac1073d84dab80d7c6ca6ffd61a6 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_3f3bac1073d84dab80d7c6ca6ffd61a6.md ## 昇腾开发者计划2025扩展行动来了!-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/3f9947fecf3149bc88888402bd62e320 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 昇腾开发者计,扩展行动来了,昇腾社区,助新人启航,赢巅峰大奖,活动时间,共计,活动一 - Detail: llms-content/developer/zh_developer_activities_details_3f9947fecf3149bc88888402bd62e320.md ## 用户登录-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/443928e8a1ee416b97c556e310d71527/signup - Description: 用户登录 - Keywords: 用户登录,昇腾社区,CAS,了解详情,登录 - Detail: llms-content/developer/zh_developer_activities_details_443928e8a1ee416b97c556e310d71527_signup.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/4444b34790b744bebb52fb032dca81a1 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_4444b34790b744bebb52fb032dca81a1.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/44de441ef599450596131c8cb52f7f8c - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_44de441ef599450596131c8cb52f7f8c.md ## 活动报名-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/46cee9f7db0d454caa5f5708fa0b7108/signup - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动报名,昇腾社区 - Detail: llms-content/developer/zh_developer_activities_details_46cee9f7db0d454caa5f5708fa0b7108_signup.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/4769f65c481c4426a9111f9731587069 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_4769f65c481c4426a9111f9731587069.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/48d20b1f1e0b49e4ae1ac0e0fdd2d848 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_48d20b1f1e0b49e4ae1ac0e0fdd2d848.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/4acc2589fcee43b2bca3abbbc096861a - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_4acc2589fcee43b2bca3abbbc096861a.md ## 【已公示】昇腾开发者满意度调查(2026年7月)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/4c93f5c1eb5d4488b02d828fd6093d28 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 已公示,昇腾开发者满,意度调查,昇腾社区,Activities,了解详情 - Detail: llms-content/developer/zh_developer_activities_details_4c93f5c1eb5d4488b02d828fd6093d28.md ## 昇腾学堂-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/4d0b5bc844d64dc7a4021b4d5d4992a7 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 昇腾学堂,昇腾社区,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_4d0b5bc844d64dc7a4021b4d5d4992a7.md ## 用户登录-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/4d0b5bc844d64dc7a4021b4d5d4992a7/signup - Description: 用户登录 - Keywords: 用户登录,昇腾社区,CAS,了解详情,登录 - Detail: llms-content/developer/zh_developer_activities_details_4d0b5bc844d64dc7a4021b4d5d4992a7_signup.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/4d30ba94db694339ac8a3dbc7823e10b - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_4d30ba94db694339ac8a3dbc7823e10b.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/4e5366f414c04c97a08fc6291d69fdbd - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_4e5366f414c04c97a08fc6291d69fdbd.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/4f0108d427be4c7aaa4124e3bdc66cfd - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_4f0108d427be4c7aaa4124e3bdc66cfd.md ## 昇腾CANN技术行—算子开发专场(西安站)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/4fd2f0cd8f23418da5b5aa39e551cdce - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,技术行,算子开发专场,西安站,昇腾社区,签到,Ascend,算子开发入门 - Detail: llms-content/developer/zh_developer_activities_details_4fd2f0cd8f23418da5b5aa39e551cdce.md ## 2024昇腾AI开发者技术沙龙—合肥站-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/5027e4e132d546f7b1e8c4c9b881ab74 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: AI,开发者技术沙,合肥站,昇腾社区,昇腾,活动议程,智能助手,公司 - Detail: llms-content/developer/zh_developer_activities_details_5027e4e132d546f7b1e8c4c9b881ab74.md ## “津”彩纷呈,昇腾AI创享日直播等你来看-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/50407d4840304e96ab09060157bd038a - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 彩纷呈,AI,创享日直播等,你来看,昇腾社区,Ascend Al Inspire Day,昇腾,活动 - Detail: llms-content/developer/zh_developer_activities_details_50407d4840304e96ab09060157bd038a.md ## 【昇腾社区龙年新春福利活动】· 限时分享,邀好友同享龙年定制福利-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/5136ce72b2e643aeac3d1c806273ee14 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 昇腾社区龙年,新春福利活动,限时分享,邀好友同享龙,年定制福利,昇腾社区,活动规则,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_5136ce72b2e643aeac3d1c806273ee14.md ## 活动报名-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/51dd874093444320a82fe357ddea793e/signup - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动报名,昇腾社区 - Detail: llms-content/developer/zh_developer_activities_details_51dd874093444320a82fe357ddea793e_signup.md ## 用户登录-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/520b76a1119c42489a35314a27ffbd13/signup - Description: 用户登录 - Keywords: 用户登录,昇腾社区,CAS,了解详情,登录 - Detail: llms-content/developer/zh_developer_activities_details_520b76a1119c42489a35314a27ffbd13_signup.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/529721c2ca0144c28b8e707b098d0cf7 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_529721c2ca0144c28b8e707b098d0cf7.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/53a3a22229b74b508ac31d1272ea1719 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_53a3a22229b74b508ac31d1272ea1719.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/543bd7632e9b40d9aae617fba440879a - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_543bd7632e9b40d9aae617fba440879a.md ## 用户登录-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/58bad1926a4144b7a3eb63020edb803d/signup - Description: 用户登录 - Keywords: 用户登录,昇腾社区,CAS,了解详情,登录 - Detail: llms-content/developer/zh_developer_activities_details_58bad1926a4144b7a3eb63020edb803d_signup.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/595b41fcb5b64f0f95b135d30f9cf82c - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_595b41fcb5b64f0f95b135d30f9cf82c.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/5b19605b5bdb40eb9cc803358c22fd1f - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_5b19605b5bdb40eb9cc803358c22fd1f.md ## “淬火金种子”伙伴能力提升专项行动——南京专场-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/5b42dc3be3dc45ebb6d34144cb8d78a7 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 淬火金种子,伙伴能力提升,专项行动,南京专场,昇腾社区,了解昇腾软硬,件技术栈的基,础能力 - Detail: llms-content/developer/zh_developer_activities_details_5b42dc3be3dc45ebb6d34144cb8d78a7.md ## “创未来 享非凡”昇腾AI开发者创享日-成都站-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/5cfcb1658a7749ca85217e8af8597464 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 创未来,享非凡,开发者创享日,成都站,昇腾社区,VfqqQr,CAAI,CN - Detail: llms-content/developer/zh_developer_activities_details_5cfcb1658a7749ca85217e8af8597464.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/5d8812b6eab5413287b582d5f823a4f7 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_5d8812b6eab5413287b582d5f823a4f7.md ## 昇腾开源软件社区任务上线啦!-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/5dbf59b2dce14f91afb157f5a52f332d - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 昇腾开源软件,社区任务上线,昇腾社区,MindSpeed,Ascend,Ops,LLM,MM - Detail: llms-content/developer/zh_developer_activities_details_5dbf59b2dce14f91afb157f5a52f332d.md ## 与AI同行丨中国人民警察大学专场-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/5f293561dc434ff58c85e2fcf285d2f5 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: AI,同行丨中国人,民警察大学专,昇腾社区,活动议程,智能助手,中国人民警察 - Detail: llms-content/developer/zh_developer_activities_details_5f293561dc434ff58c85e2fcf285d2f5.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/60bda0df58ec4461986edaad4629d7c0 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_60bda0df58ec4461986edaad4629d7c0.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/6260ef62d27243128f54d930f855fc2b - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_6260ef62d27243128f54d930f855fc2b.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/637de525f3fd47f1bb25f5a83dd15630 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_637de525f3fd47f1bb25f5a83dd15630.md ## 昇腾AI金种子实训班·走进半导体行业(合肥站)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/63bc81554e1c42f4aae5791ef036fb3d - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: AI,金种子实训班,走进半导体行,合肥站,昇腾社区,Device,Context,Stream - Detail: llms-content/developer/zh_developer_activities_details_63bc81554e1c42f4aae5791ef036fb3d.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/64391ed3d02844e5bcba63a1a6551c75 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_64391ed3d02844e5bcba63a1a6551c75.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/6551d0011215439da4afda4d9ffc7180 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_6551d0011215439da4afda4d9ffc7180.md ## 2025昇腾日·走进云鼎-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/658f6d4ad0b3470ea1174221f277bc5f - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 昇腾日,走进云鼎,昇腾社区,活动议程,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_658f6d4ad0b3470ea1174221f277bc5f.md ## 2025昇腾福建技术行——莆田师资培训专班-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/66edc28248c14afeaf3518906ce0a693 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 昇腾福建技术,莆田师资培训专班,昇腾社区,活动议程,智能助手,莆田师资培训 - Detail: llms-content/developer/zh_developer_activities_details_66edc28248c14afeaf3518906ce0a693.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/682a10e90f4b4bfb82c355bd0576b625 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_682a10e90f4b4bfb82c355bd0576b625.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/68b26346e3944841a419138f12cfa6fa - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_68b26346e3944841a419138f12cfa6fa.md ## 北理孵化中心-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/69556d81cc9a4666b548d4ccfb7591fe - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 北理孵化中心,昇腾社区,智能助手,已结束 - Detail: llms-content/developer/zh_developer_activities_details_69556d81cc9a4666b548d4ccfb7591fe.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/6974c59c2040488fadd082d34abe5e26 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_6974c59c2040488fadd082d34abe5e26.md ## 【昇腾社区推荐官】新年赢好礼,邀好友赢华为Mate 60 Pro-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/6a370fcc7e2745e5803ebb3a5caff583 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 新年赢好礼,Mate,邀好友赢华为,Pro,了解详情,昇腾社区推荐 - Detail: llms-content/developer/zh_developer_activities_details_6a370fcc7e2745e5803ebb3a5caff583.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/6b3b14f321a74da5b51a35de91604d03 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_6b3b14f321a74da5b51a35de91604d03.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/6c255bdca2c945baa43d1f38c4d5e9b3 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_6c255bdca2c945baa43d1f38c4d5e9b3.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/6e37fe4aac3f430fb6bf72f67053c333 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_6e37fe4aac3f430fb6bf72f67053c333.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/6f1bdaa827c1408e903ee9b4c36dd4b5 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_6f1bdaa827c1408e903ee9b4c36dd4b5.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/705ee559b42142d0aa0084e0459e770d - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_705ee559b42142d0aa0084e0459e770d.md ## 【创享日·昇腾AI体验官】CANN体验官-成都专场-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/70b93c9b0a934667b9acb76efca7b6ff - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 创享日,AI,CANN,成都专场,昇腾社区,寻找,首席体验官,体验项目 - Detail: llms-content/developer/zh_developer_activities_details_70b93c9b0a934667b9acb76efca7b6ff.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/718fee87fa2348c9aa6909f4a1e67e46 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_718fee87fa2348c9aa6909f4a1e67e46.md ## 2026昇腾AI高校行 阜阳幼儿师范高等专科学校-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/71acbfcb48ff434abb0f5497686b29b6 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: AI,高校行,阜阳幼儿师范,高等专科学校,昇腾社区,延伸学习,智能助手,昇腾,已结束 - Detail: llms-content/developer/zh_developer_activities_details_71acbfcb48ff434abb0f5497686b29b6.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/72819238cee5403a9e4627bb1a3828ce - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_72819238cee5403a9e4627bb1a3828ce.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/72d8274d1bf24cc8b3ada446f8932966 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_72d8274d1bf24cc8b3ada446f8932966.md ## 2025昇腾CANN技术行—算子开发专场(合肥站)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/732ba8fac97f409d9ae6a4e3b7fea710 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,技术行,算子开发专场,合肥站,昇腾社区,Ascend C,Ascend,活动议程 - Detail: llms-content/developer/zh_developer_activities_details_732ba8fac97f409d9ae6a4e3b7fea710.md ## 软件试用-2025CANN训练营第二季社区任务-Atlas 800I A2推理服务器-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/7330410b31774c08aa94d45f3589f416 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 软件试用,CANN,训练营第二季,社区任务,Atlas,推理服务器,昇腾社区,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_7330410b31774c08aa94d45f3589f416.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/742c843d8c3246ebbe8189e06887731d - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_742c843d8c3246ebbe8189e06887731d.md ## 昇腾CANN技术行算子开发专场·北京站(北方工业大学)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/749f83e5fd46402f908b0def0eb0c973 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,技术行算子开,发专场,北京站,北方工业大学,昇腾社区,Ascend,Pro - Detail: llms-content/developer/zh_developer_activities_details_749f83e5fd46402f908b0def0eb0c973.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/75a4bbc1e225405da2fb54b0c6ab4677 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_75a4bbc1e225405da2fb54b0c6ab4677.md ## 2026昇腾AI高校行 淮南职业技术学院站-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/75fa2e65570a464e982910a1bab2997b - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: AI,高校行,淮南职业技术学院站,昇腾社区,延伸学习,智能助手,昇腾,淮南职业技术 - Detail: llms-content/developer/zh_developer_activities_details_75fa2e65570a464e982910a1bab2997b.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/75fc1fda34e7464d9af17cc4982987c1 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_75fc1fda34e7464d9af17cc4982987c1.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/76569ba5b7be47f4a4aad2b225b1361a - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_76569ba5b7be47f4a4aad2b225b1361a.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/76dd21c4c639445fa10c648d23840cd9 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_76dd21c4c639445fa10c648d23840cd9.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/7771a492c3174b419d6da8fb3d76f6e9 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_7771a492c3174b419d6da8fb3d76f6e9.md ## 昇腾AI金种子实训班·走进泛互联网行业(杭州站)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/77e598be4d0f4608bb3c3f42bd45cc7a - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: AI,金种子实训班,走进泛互联网,行业,杭州站,昇腾社区,Ascend,昇腾,培训议程 - Detail: llms-content/developer/zh_developer_activities_details_77e598be4d0f4608bb3c3f42bd45cc7a.md ## 用户登录-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/7933d59cf4624827a67404d42ef48512/signup - Description: 用户登录 - Keywords: 用户登录,昇腾社区,CAS,了解详情,登录 - Detail: llms-content/developer/zh_developer_activities_details_7933d59cf4624827a67404d42ef48512_signup.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/79df82f8c6f344f0b3d6a65caa9e654e - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_79df82f8c6f344f0b3d6a65caa9e654e.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/79f4b33904c34079a2d394bfe201842e - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_79f4b33904c34079a2d394bfe201842e.md ## 活动报名-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/7df6eaca372945afbd278a8020e4a56a/signup - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动报名,昇腾社区 - Detail: llms-content/developer/zh_developer_activities_details_7df6eaca372945afbd278a8020e4a56a_signup.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/7dfb3c0b2d034c70bdd6630be57c7fae - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_7dfb3c0b2d034c70bdd6630be57c7fae.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/7ec8486d93574c30900da94b869cd9c0 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_7ec8486d93574c30900da94b869cd9c0.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/7efd7f8cd04b4a3aa8d41d355121e7a8 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_7efd7f8cd04b4a3aa8d41d355121e7a8.md ## 【成长值】新升级!加入昇腾 AI,享开发者专属定制好礼!-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/819e9ee2aac040d19abf7b2ceb9bdc65 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 成长值,新升级,加入昇腾,AI,享开发者专属,定制好礼,昇腾社区,本链接仅用于 - Detail: llms-content/developer/zh_developer_activities_details_819e9ee2aac040d19abf7b2ceb9bdc65.md ## 昇腾CANN技术行—算子开发专场(广州站)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/8234c5eb685143ca84f55eefbeee90a9 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,技术行,算子开发专场,广州站,昇腾社区,签到,Ascend,算子开发入门 - Detail: llms-content/developer/zh_developer_activities_details_8234c5eb685143ca84f55eefbeee90a9.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/8381c68923924bd59d0b1827da4ffb1a - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_8381c68923924bd59d0b1827da4ffb1a.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/845f718cf2ad4645844236b7f779d8d0 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_845f718cf2ad4645844236b7f779d8d0.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/85fe3f05d3f54491a7a4ee5041a49241 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_85fe3f05d3f54491a7a4ee5041a49241.md ## 编程考试-0516北京场试认证-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/8651508f5a8e42a589c23cbd3da92d6e - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 编程考试,北京场试认证,昇腾社区,考试要求,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_8651508f5a8e42a589c23cbd3da92d6e.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/870fcf01272b4e9c8e04fda4014d2525 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_870fcf01272b4e9c8e04fda4014d2525.md ## 【技术公开课】基于昇腾算子模板库的矩阵计算类算子高效开发-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/89f12719556440de96b5b6d67dad908d - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 技术公开课,基于昇腾算子,模板库的矩阵,计算类算子高,效开发,昇腾社区,KADC,Online - Detail: llms-content/developer/zh_developer_activities_details_89f12719556440de96b5b6d67dad908d.md ## 软件试用-CANN训练营社区任务-Atlas 800I A2推理服务器-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/8b0b375030224df6b7adeeedb0fb1ba1 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 软件试用,CANN,训练营社区任,Atlas,推理服务器,昇腾社区,智能助手,了解详情 - Detail: llms-content/developer/zh_developer_activities_details_8b0b375030224df6b7adeeedb0fb1ba1.md ## 用户登录-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/8c67128afa194d38b1a9e5d0e6332a3c/signup - Description: 用户登录 - Keywords: 用户登录,昇腾社区,CAS,了解详情,登录 - Detail: llms-content/developer/zh_developer_activities_details_8c67128afa194d38b1a9e5d0e6332a3c_signup.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/8cb99c5bcb4a45e1b29da4fc329b0e6b - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_8cb99c5bcb4a45e1b29da4fc329b0e6b.md ## 活动报名-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/8d1abee0d2064180887fce3527fe25fd/signup - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动报名,昇腾社区 - Detail: llms-content/developer/zh_developer_activities_details_8d1abee0d2064180887fce3527fe25fd_signup.md ## 与AI同行丨防灾科技学院专场-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/8ddfbc1f4f504b7eb214fdb478f7d010 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: AI,同行丨防灾科,技学院专场,昇腾社区,整体议程,智能助手,防灾科技学院 - Detail: llms-content/developer/zh_developer_activities_details_8ddfbc1f4f504b7eb214fdb478f7d010.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/8e22708639694cef8728d9abe31e1890 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_8e22708639694cef8728d9abe31e1890.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/8e932dac1d834562bf9e7aa120835b67 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_8e932dac1d834562bf9e7aa120835b67.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/90371cada08544809a01bce9102f9149 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_90371cada08544809a01bce9102f9149.md ## CANN Meetup杭州站-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/9049fbe362ff42bda34a858cda1a10c5 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,Meetup,杭州站,昇腾社区,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_9049fbe362ff42bda34a858cda1a10c5.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/90cdc94d7961438eaeb07cfec3a507e6 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_90cdc94d7961438eaeb07cfec3a507e6.md ## 鲲鹏&昇腾开发者满意度调查(2026年5月)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/91465f079ce94b739b7e3d3944e45b7c - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 鲲鹏,昇腾开发者满,意度调查,昇腾社区,一等奖,二等奖 - Detail: llms-content/developer/zh_developer_activities_details_91465f079ce94b739b7e3d3944e45b7c.md ## 【已公示】昇腾开发者满意度调查(2026年6月)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/9282be2164104b58b1a6f5970d31ea33 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 已公示,昇腾开发者满,意度调查,昇腾社区,DeepDeep,LiuTC,TimJia,二等奖 - Detail: llms-content/developer/zh_developer_activities_details_9282be2164104b58b1a6f5970d31ea33.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/929bb83b592546e8a872b0c54a43c187 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_929bb83b592546e8a872b0c54a43c187.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/92b3507834d4460ea78828603ed0d1cd - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_92b3507834d4460ea78828603ed0d1cd.md ## CANN体验官第五期-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/92d2fc5b8a044ed3a40eb5ffc8070ac8 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,体验官第五期,昇腾社区,寻找,首席体验官,通用目标检测,与识别一站式,方案 - Detail: llms-content/developer/zh_developer_activities_details_92d2fc5b8a044ed3a40eb5ffc8070ac8.md ## 2026安徽ISV伙伴走进华为-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/93066ad0929a4d5bb836d1fa3d7eabb5 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: ISV,安徽,伙伴走进华为,昇腾社区,活动议程,智能助手,已结束 - Detail: llms-content/developer/zh_developer_activities_details_93066ad0929a4d5bb836d1fa3d7eabb5.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/93c7aee17f2048d2959a04f3866939c9 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_93c7aee17f2048d2959a04f3866939c9.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/9429f9541dd0440e94cae6ed45f0be51 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_9429f9541dd0440e94cae6ed45f0be51.md ## 昇腾万里开发者账号匹配-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/946092fa3c4e4f0e947d65a919aaf625 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 昇腾万里开发,者账号匹配,昇腾社区,本活动仅用于匹配账号,发放积分,不做它用,点击下载昇腾,万里开发者积 - Detail: llms-content/developer/zh_developer_activities_details_946092fa3c4e4f0e947d65a919aaf625.md ## 昇腾AI开发者创享日·中国海洋大学-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/95d024a744f44e01a33f22a93a781839 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: AI,开发者创享日,中国海洋大学,昇腾社区,Ascend,与昇腾,一起,昇腾,引领科学智能 - Detail: llms-content/developer/zh_developer_activities_details_95d024a744f44e01a33f22a93a781839.md ## 软件试用-CANN体验第一期(定邀)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/964aff9a282f4ebe837bc0991da06560 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 软件试用,CANN,体验第一期,定邀,昇腾社区,Ascend,算子开发任务,温馨提示 - Detail: llms-content/developer/zh_developer_activities_details_964aff9a282f4ebe837bc0991da06560.md ## 昇腾AI开发者技术沙龙之走进川藏高校-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/993065c794c04bb381c4a245892394a9 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: AI,开发者技术沙,龙之走进川藏,高校,昇腾社区,Ascend C,Ascend,活动议程 - Detail: llms-content/developer/zh_developer_activities_details_993065c794c04bb381c4a245892394a9.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/9a09cef545e24fa696b86a7d4aa78708 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_9a09cef545e24fa696b86a7d4aa78708.md ## 活动报名-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/9a1c958dae3e4a88a897a7525402e33d/signup - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动报名,昇腾社区 - Detail: llms-content/developer/zh_developer_activities_details_9a1c958dae3e4a88a897a7525402e33d_signup.md ## 昇腾CANN技术行算子开发专场讯方站 -昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/9a6ef5100990451f97a540a7d73f6c05 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,技术行算子开,发专场讯方站,昇腾社区,Ascend,Pro,活动议程,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_9a6ef5100990451f97a540a7d73f6c05.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/9b33b044f1c24773bf0404be5004c291 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_9b33b044f1c24773bf0404be5004c291.md ## 2025昇腾日.走进数丝科技——南宁AICC大模型开发培训赋能专场活动-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/9d9e0e4e531d4931b4485d05405d40ad - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 昇腾日,走进数丝科技,AICC,南宁,大模型开发培,训赋能专场活,昇腾社区,活动议程 - Detail: llms-content/developer/zh_developer_activities_details_9d9e0e4e531d4931b4485d05405d40ad.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/9da0a08c4cca49e3afb8d107a8d5a1d5 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_9da0a08c4cca49e3afb8d107a8d5a1d5.md ## 25年昇腾技术加油站-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/9dccba8b9fe74d5aab3a306f577169fc - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 年昇腾技术加,油站,昇腾社区,参与昇腾技术,学习,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_9dccba8b9fe74d5aab3a306f577169fc.md ## 昇腾AI开发者创享日·浙江站(线下参会)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/9e5d749667c84f39be24ac03b47e4355 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: AI,开发者创享日,浙江站,线下参会,昇腾社区,活动详情,智能助手,昇腾,已结束 - Detail: llms-content/developer/zh_developer_activities_details_9e5d749667c84f39be24ac03b47e4355.md ## 活动报名-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/9e9d210082124342a3908f17bc39a05a/signup - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动报名,昇腾社区 - Detail: llms-content/developer/zh_developer_activities_details_9e9d210082124342a3908f17bc39a05a_signup.md ## 昇腾“淬火金种子”伙伴能力提升专项活动——浙江专场-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/a0d031ea9f52474e8bec46081c380f3f - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 淬火金种子,伙伴能力提升,专项活动,浙江专场,昇腾社区,PodC,Ascend,CATLASS - Detail: llms-content/developer/zh_developer_activities_details_a0d031ea9f52474e8bec46081c380f3f.md ## 用户登录-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/a1367e3d7ae948c5ba24464722bbe5d5/signup - Description: 用户登录 - Keywords: 用户登录,昇腾社区,CAS,了解详情,登录 - Detail: llms-content/developer/zh_developer_activities_details_a1367e3d7ae948c5ba24464722bbe5d5_signup.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/a298d021f676411a9c1f5136245c8b42 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_a298d021f676411a9c1f5136245c8b42.md ## 昇腾AI人才培养活动 · 成都职业技术学院站-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/a33812110e6b4c7d97c7258aa2381a99 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 人才培养活动,成都职业技术学院站,昇腾社区,活动背景,活动亮点,AI Agent,昇腾,成都职业技术,活动简介 - Detail: llms-content/developer/zh_developer_activities_details_a33812110e6b4c7d97c7258aa2381a99.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/a36e517ebe164bb09518c0c3ff05691e - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_a36e517ebe164bb09518c0c3ff05691e.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/a4aa1543c1a346dc95df56072ab04dda - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_a4aa1543c1a346dc95df56072ab04dda.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/a57dd19148bb4a499a5fda495c5adb01 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_a57dd19148bb4a499a5fda495c5adb01.md ## 活动报名-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/a5f330f9d6fc474dba6a4530ec0984bf/signup - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动报名,昇腾社区 - Detail: llms-content/developer/zh_developer_activities_details_a5f330f9d6fc474dba6a4530ec0984bf_signup.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/a630e91782c4417a99db003b240b8003 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_a630e91782c4417a99db003b240b8003.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/a64c5a92b1da4f57a829d56aa25eea3e - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_a64c5a92b1da4f57a829d56aa25eea3e.md ## CANN Meetup 北京站-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/a678e740afe346c18abb99517a75ab11 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 北京站,昇腾社区,CANN Meetup,活动详情,智能助手,北京市海淀区 - Detail: llms-content/developer/zh_developer_activities_details_a678e740afe346c18abb99517a75ab11.md ## 昇腾开源技术沙龙 北京站-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/a6c9cb8a9f4a4e2181e6ac0def859917 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 昇腾开源技术沙龙,北京站,昇腾社区,详情页,智能助手,昇腾开源技术,沙龙 - Detail: llms-content/developer/zh_developer_activities_details_a6c9cb8a9f4a4e2181e6ac0def859917.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/a72ff6c071bd48429922234e2cabfe1d - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_a72ff6c071bd48429922234e2cabfe1d.md ## 与AI同行丨石家庄学院专场-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/a7871928935243b390fc16c3baf5e4e3 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: AI,同行丨石家庄,学院专场,昇腾社区,整体议程,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_a7871928935243b390fc16c3baf5e4e3.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/a86b8659cfa14221a69326bf097c5d6d - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_a86b8659cfa14221a69326bf097c5d6d.md ## 昇腾开发者认证·工作级试认证(北京专场)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/a9747c044e1f419db2b6e025144bd23e - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 昇腾开发者认证,工作级试认证,北京专场,昇腾社区,Ascend,学习内容,活动议程,考试形式 - Detail: llms-content/developer/zh_developer_activities_details_a9747c044e1f419db2b6e025144bd23e.md ## 活动报名-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/aa098fb1cc34446a8da5a066488ddd37/signup - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动报名,昇腾社区 - Detail: llms-content/developer/zh_developer_activities_details_aa098fb1cc34446a8da5a066488ddd37_signup.md ## 昇腾AI框架Meetup·北京站暨MiniCPM X 昇腾推理性能优化和应用创新挑战赛解读-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/aaa1844fb06244c9b51793737ee50232 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: AI,Meetup,框架,MiniCPM,北京站暨,昇腾推理性能,优化和应用创,新挑战赛解读 - Detail: llms-content/developer/zh_developer_activities_details_aaa1844fb06244c9b51793737ee50232.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/ac179bcabce049238b55d77e0f388760 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_ac179bcabce049238b55d77e0f388760.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/ac3e6cf9c07f4cc39299d6408ecc8e8c - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_ac3e6cf9c07f4cc39299d6408ecc8e8c.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/af19bb74d8ed440392ccb83c6102eda8 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_af19bb74d8ed440392ccb83c6102eda8.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/af73e12075b545eda2bd1cd7396e1cb1 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_af73e12075b545eda2bd1cd7396e1cb1.md ## 算力激励活动·邀好友赢昇腾算力资源,最高可享10000元算力激励-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/afadfcb9073743b1808590b354167bf2 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 算力激励活动,邀好友赢昇腾算力资源,最高可享,元算力激励,参加本次社区,活动的用户必,须为昇腾社区,注册用户 - Detail: llms-content/developer/zh_developer_activities_details_afadfcb9073743b1808590b354167bf2.md ## 昇腾AI金种子实训班·走进金融行业(深圳站)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/afb5c0b705794e66a988da6b2c8be527 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: AI,金种子实训班,走进金融行业,深圳站,昇腾社区,Ascend,昇腾,精讲 - Detail: llms-content/developer/zh_developer_activities_details_afb5c0b705794e66a988da6b2c8be527.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/b077dbbef28e4b2abba8c3b2f8c9033a - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_b077dbbef28e4b2abba8c3b2f8c9033a.md ## 2025年昇腾社区学习技能 buff 大集锦-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/b081fbfdbbe94c47a5839713c26af2bb - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 年昇腾社区学,习技能,大集锦,昇腾社区,Buff,加入计划,昇腾技能提升,之路 - Detail: llms-content/developer/zh_developer_activities_details_b081fbfdbbe94c47a5839713c26af2bb.md ## CANN训练营 – 西安邮电大学专场-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/b13ced90099345f5bf63c9a317108c29 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,训练营,西安邮电大学专场,昇腾社区,活动介绍,智能助手,了解详情 - Detail: llms-content/developer/zh_developer_activities_details_b13ced90099345f5bf63c9a317108c29.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/b1902d08acc342a7a9ebc7c3b00c73de - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_b1902d08acc342a7a9ebc7c3b00c73de.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/b200b3a8261b47c891d69477c7318087 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_b200b3a8261b47c891d69477c7318087.md ## 2025昇腾日暨CANN原动力·走进移动九天算子原生赋能专场-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/b282a4b86f244a0a93c2d345976fa7ac - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,昇腾日暨,原动力,走进移动九天,算子原生赋能,专场,昇腾社区,Ascend - Detail: llms-content/developer/zh_developer_activities_details_b282a4b86f244a0a93c2d345976fa7ac.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/ba39d706eade41559ff4ae5053820ded - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_ba39d706eade41559ff4ae5053820ded.md ## 昇腾CANN技术行—算子开发专场(天津站)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/ba4ce1e282f04a4a91d61d798dfe65d7 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,技术行,算子开发专场,天津站,昇腾社区,温馨提示,请各位开发者,携带笔记本电 - Detail: llms-content/developer/zh_developer_activities_details_ba4ce1e282f04a4a91d61d798dfe65d7.md ## 昇腾CANN技术行-算子开发专场(北京集智未来站)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/bde636a0728849658eaab74aea4502d3 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,技术行,算子开发专场,北京集智未来,昇腾社区,Ascend C,Ascend,温馨提示 - Detail: llms-content/developer/zh_developer_activities_details_bde636a0728849658eaab74aea4502d3.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/bfac87dcbb80421e9b0fea089ceae520 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_bfac87dcbb80421e9b0fea089ceae520.md ## 用户登录-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/c10f55c5c0ea45fd891adffcd19d70f0/signup - Description: 用户登录 - Keywords: 用户登录,昇腾社区,CAS,了解详情,登录 - Detail: llms-content/developer/zh_developer_activities_details_c10f55c5c0ea45fd891adffcd19d70f0_signup.md ## 用户登录-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/c3194922df08400b92e19b68b76af1f5/signup - Description: 用户登录 - Keywords: 用户登录,昇腾社区,CAS,了解详情,登录 - Detail: llms-content/developer/zh_developer_activities_details_c3194922df08400b92e19b68b76af1f5_signup.md ## 2025昇腾福建技术行——厦门师资培训专班-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/c33e7d4a0da44b9a9952b51c3477e004 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 昇腾福建技术,厦门师资培训专班,昇腾社区,活动议程,智能助手,厦门师资培训 - Detail: llms-content/developer/zh_developer_activities_details_c33e7d4a0da44b9a9952b51c3477e004.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/c3b88f615c8c42eaaa89dc53e574f8fd - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_c3b88f615c8c42eaaa89dc53e574f8fd.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/c4c37be9f674419e8409809ba31afbc1 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_c4c37be9f674419e8409809ba31afbc1.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/c9cf29637ed2415489a5a62d6083bc9a - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_c9cf29637ed2415489a5a62d6083bc9a.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/cc5dd74ac08c4d86ad9518e5e8142247 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_cc5dd74ac08c4d86ad9518e5e8142247.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/cee529f42a2949cb8a0ec5285ce33fcc - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_cee529f42a2949cb8a0ec5285ce33fcc.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/d1255b111f2e44cda4032c0ba56725e9 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_d1255b111f2e44cda4032c0ba56725e9.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/d16d7e373aec42b19c98d7a8d7a92868 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_d16d7e373aec42b19c98d7a8d7a92868.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/d53f1b9aad5046888bd431c53e84b603 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_d53f1b9aad5046888bd431c53e84b603.md ## 2024昇腾AI开发者技术沙龙—合肥工业大学站-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/d58dfbac73514109b2a8d2717e276de5 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: AI,开发者技术沙,合肥工业大学站,昇腾社区,昇腾,活动议程,智能助手,合肥工业大学 - Detail: llms-content/developer/zh_developer_activities_details_d58dfbac73514109b2a8d2717e276de5.md ## 狂暑季·组队学习考微认证,赢昇腾AIPro开发板-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/d5a2e8b354e14460aa241667a6df9300 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 狂暑季,组队学习考微认证,AIPro,赢昇腾,开发板,昇腾社区,请以上获奖用,户在 - Detail: llms-content/developer/zh_developer_activities_details_d5a2e8b354e14460aa241667a6df9300.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/d5e059a6466e42d7b03031d0fbade2e6 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_d5e059a6466e42d7b03031d0fbade2e6.md ## 昇腾CANN技术行—算子开发专场(杭州站)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/d6122d3b43d6497794de97b37b7e8700 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,技术行,算子开发专场,杭州站,昇腾社区,签到,Ascend,算子开发入门 - Detail: llms-content/developer/zh_developer_activities_details_d6122d3b43d6497794de97b37b7e8700.md ## “淬火行动”伙伴能力提升专项——山东专场-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/d963c39f40c84f8bad6fb399d660ac75 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 淬火行动,伙伴能力提升,专项,山东专场,昇腾社区,CANN,Ascend,MindSpeed - Detail: llms-content/developer/zh_developer_activities_details_d963c39f40c84f8bad6fb399d660ac75.md ## 活动报名-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/dac8cbc22eb14951bb58a34cac566a21/signup - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动报名,昇腾社区 - Detail: llms-content/developer/zh_developer_activities_details_dac8cbc22eb14951bb58a34cac566a21_signup.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/dd0fb0d0a4c940e7a6e7b870c5d3ccc2 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_dd0fb0d0a4c940e7a6e7b870c5d3ccc2.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/df17cd0583c848ba8a45eceb1dc84157 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_df17cd0583c848ba8a45eceb1dc84157.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/dfee0bebb9704c388593a628b10924f5 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_dfee0bebb9704c388593a628b10924f5.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/e00ab01862ef476f89a8312567d538a6 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_e00ab01862ef476f89a8312567d538a6.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/e03c9b07df39415d95d9c6ea961587b0 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_e03c9b07df39415d95d9c6ea961587b0.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/e0768473db774c42958a48094cecb2b5 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_e0768473db774c42958a48094cecb2b5.md ## 昇腾开发者训练营:Ascend C算子编程课堂 中南大学专场-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/e124b5df68cf429fbd3057ec850cddf9 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: Ascend,昇腾开发者训,练营,算子编程课堂,中南大学专场,昇腾社区 - Detail: llms-content/developer/zh_developer_activities_details_e124b5df68cf429fbd3057ec850cddf9.md ## 2025昇腾日·走进亚信科技(中国)有限公司-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/e159389febb145549d95375aba1c7405 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 昇腾日,走进亚信科技,中国,有限公司,昇腾社区,Ascend,日全天议程,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_e159389febb145549d95375aba1c7405.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/e28e9c5f27c440faa958db1d99c48a48 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_e28e9c5f27c440faa958db1d99c48a48.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/e2a7b1ed27c74ef3a7d88bdfca5f485b - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_e2a7b1ed27c74ef3a7d88bdfca5f485b.md ## 活动报名-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/e2aa36cf33674547ba6b498257c78548/signup - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动报名,昇腾社区 - Detail: llms-content/developer/zh_developer_activities_details_e2aa36cf33674547ba6b498257c78548_signup.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/e310d1f37fdc47e4b64ab3d92f7cd0c7 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_e310d1f37fdc47e4b64ab3d92f7cd0c7.md ## 2024CANN训练营《Ascend C Add算子开发体验》-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/e3b44ac6401f401294d6ab3d71088b3b - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,训练营,Add,算子开发体验,昇腾社区,点此直达直播,Ascend C,直播内容 - Detail: llms-content/developer/zh_developer_activities_details_e3b44ac6401f401294d6ab3d71088b3b.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/e40a1618937b45a49304f2f2b1e82c8c - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_e40a1618937b45a49304f2f2b1e82c8c.md ## 算子开发者认证-工作级-测试-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/e5348e9ca232487da69fea62bcd398b5 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 算子开发者认证,工作级,测试,昇腾社区,智能助手,算子开发者认 - Detail: llms-content/developer/zh_developer_activities_details_e5348e9ca232487da69fea62bcd398b5.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/e57cd64225ea417f983151c47ca86b8c - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_e57cd64225ea417f983151c47ca86b8c.md ## 探索人工智能+主题沙龙-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/e5c99130119a41e2a39d7954e451e2f6 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 探索人工智能,主题沙龙,昇腾社区,整体议程,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_e5c99130119a41e2a39d7954e451e2f6.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/e6496c0ea91b42afafd8cad7630b21f1 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_e6496c0ea91b42afafd8cad7630b21f1.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/e90a02d226804cb0999a2e7b95fc3dd9 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_e90a02d226804cb0999a2e7b95fc3dd9.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/ea75d453f81d406a9e644b3a30817aff - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_ea75d453f81d406a9e644b3a30817aff.md ## 智能工业软件与新型工业化发展 暨昇腾AI开发者创享日南京站-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/eb2def140dd04b0ea9d1fb1865bfce43 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 智能工业软件,与新型工业化,发展,AI,暨昇腾,开发者创享日,南京站,昇腾社区 - Detail: llms-content/developer/zh_developer_activities_details_eb2def140dd04b0ea9d1fb1865bfce43.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/eb475fd2c858425eb494e9dfebc4d5ed - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_eb475fd2c858425eb494e9dfebc4d5ed.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/ebe6f8d4837f4d9489cda758ba2cb9af - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_ebe6f8d4837f4d9489cda758ba2cb9af.md ## 2024昇腾CANN技术行(福建站)-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/edad612e5fb54125a05836de917d33f7 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,技术行,福建站,昇腾社区,Ascend,活动议程,智能助手,昇腾,已结束 - Detail: llms-content/developer/zh_developer_activities_details_edad612e5fb54125a05836de917d33f7.md ## 2025昇腾日.走进中移在线-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/efd9eb7a95fe4d62aa35bdd676ce901b - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 昇腾日,走进中移在线,昇腾社区,活动议程,智能助手,已结束 - Detail: llms-content/developer/zh_developer_activities_details_efd9eb7a95fe4d62aa35bdd676ce901b.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/f105f3c19e1c418aa9b655a5f86a2875 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_f105f3c19e1c418aa9b655a5f86a2875.md ## 【CANN训练营25年第二季】优秀嘉宾分享招募计划-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/f17fa50a85324259bfa60d568450481f - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,训练营,年第二季,优秀嘉宾分享,招募计划,昇腾社区,布道师招募计,划参与流程 - Detail: llms-content/developer/zh_developer_activities_details_f17fa50a85324259bfa60d568450481f.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/f3e17f146f834658a5c9f2955d0734b1 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_f3e17f146f834658a5c9f2955d0734b1.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/f441d5bd42574b32900afd17e9ea28c8 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_f441d5bd42574b32900afd17e9ea28c8.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/f4c2decf5ca949429cb52deddfd3e564 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_f4c2decf5ca949429cb52deddfd3e564.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/f6531363414b4460ae1a9691f263dd0d - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_f6531363414b4460ae1a9691f263dd0d.md ## CANN训练营2026暑期季 – 西安交通大学专场-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/f6881bb702ee43f9b8668d2fa42acb4c - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,训练营,暑期季,西安交通大学专场,昇腾社区,活动介绍,任务介绍,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_f6881bb702ee43f9b8668d2fa42acb4c.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/f866e17b03284279bddd925a9f8950e7 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_f866e17b03284279bddd925a9f8950e7.md ## 【社区活动】昇腾社区喊你来打卡,评论区分享大会相关收获,可参与昇腾社区定制周边抽奖-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/f8e8753abd0f41719586b1a232b4b55c - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 社区活动,昇腾社区喊你,来打卡,评论区分享大,会相关收获,可参与昇腾社,区定制周边抽,昇腾社区,本链接仅用于 - Detail: llms-content/developer/zh_developer_activities_details_f8e8753abd0f41719586b1a232b4b55c.md ## 昇腾CANN开源开放沙龙·上海站-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/fa0c44075d864695b26ed44f02c76014 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,开源开放沙龙,上海站,昇腾社区,昇腾,议程,智能助手 - Detail: llms-content/developer/zh_developer_activities_details_fa0c44075d864695b26ed44f02c76014.md ## 活动报名-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/fdbf2b2c083a4b84a75d4c93a1da7862/signup - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动报名,昇腾社区 - Detail: llms-content/developer/zh_developer_activities_details_fdbf2b2c083a4b84a75d4c93a1da7862_signup.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/fdf319fe65244cfdb79ad14d0a23f427 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_fdf319fe65244cfdb79ad14d0a23f427.md ## 2024CANN训练营《基于目标检测模型扩展推理应用》-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/fe076a2eb1b046bbb2998accd080bafc - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: CANN,训练营,基于目标检测,模型扩展推理,应用,昇腾社区,点击获取直播链接,直播内容 - Detail: llms-content/developer/zh_developer_activities_details_fe076a2eb1b046bbb2998accd080bafc.md ## 智能基座昇腾高校行·杭州电子科技大学-昇腾社区 - URL: https://www.hiascend.com/developer/activities/details/fee0aae3acce4536b06b3868c9da930f - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 智能基座昇腾高校行,杭州电子科技大学,昇腾社区,活动详情,智能助手,杭州电子科技 - Detail: llms-content/developer/zh_developer_activities_details_fee0aae3acce4536b06b3868c9da930f.md ## 活动详情页 - URL: https://www.hiascend.com/developer/activities/details/ff59ac8c545a4e81b87bff8c68ec0187 - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 活动详情页 - Detail: llms-content/developer/zh_developer_activities_details_ff59ac8c545a4e81b87bff8c68ec0187.md ## 学习主页-昇腾社区 - URL: https://www.hiascend.com/developer/Ascend-School - Description: 提供由浅入深的培训课程以及详细的开发指导。通过学、练、考、证全流程服务,让你快速成为昇腾人才 - Keywords: 学习主页,昇腾社区,热门排行,学习路径,学习资源,更多学习内容,互动交流与咨询,Ascend - Detail: llms-content/developer/zh_developer_Ascend-School.md ## 昇腾镜像仓库-昇腾社区 - URL: https://www.hiascend.com/developer/ascendhub - Description: 昇腾开放Docker镜像仓库,提供昇腾软件Docker镜像 - Keywords: 昇腾镜像仓库,昇腾社区,CANN,MindIE,Continuous Batching,PagedAttention,FlashDecoding,Compute Architecture - Detail: llms-content/developer/zh_developer_ascendhub.md ## agentsdk - URL: https://www.hiascend.com/developer/ascendhub/detail/agentsdk - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,Agent,SDK,快速参考,Aura,简介,支持的,Tags - Detail: llms-content/developer/zh_developer_ascendhub_detail_agentsdk.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/aisbench_benchmark - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_aisbench_benchmark.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/ascend-k8sdeviceplugin - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_ascend-k8sdeviceplugin.md ## ascend-operator - URL: https://www.hiascend.com/developer/ascendhub/detail/ascend-operator - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,集群调度组件,Ascend,Operator,快速参考,应用场景,组件功能,组件上下游依赖 - Detail: llms-content/developer/zh_developer_ascendhub_detail_ascend-operator.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/ascend-pytorch - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_ascend-pytorch.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/bailing - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_bailing.md ## bge-large-zh-v1.5 - URL: https://www.hiascend.com/developer/ascendhub/detail/bge-large-zh-v1.5 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,Getting,Started,推理微服务,下载前必读,环境要求,硬件,版本配套 - Detail: llms-content/developer/zh_developer_ascendhub_detail_bge-large-zh-v15.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/bge-m3 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_bge-m3.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/bge-reranker-large - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_bge-reranker-large.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/bge-reranker-v2-m3 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_bge-reranker-v2-m3.md ## cann - URL: https://www.hiascend.com/developer/ascendhub/detail/cann - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,昇腾,CANN,镜像下载,基础镜像,开发版镜像,支持的,Tags - Detail: llms-content/developer/zh_developer_ascendhub_detail_cann.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/centos - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_centos.md ## clip-service - URL: https://www.hiascend.com/developer/ascendhub/detail/clip-service - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,概述,配套软件版本,使用前提,如何使用镜像,镜像下载,启用镜像,已测试支持的模型 - Detail: llms-content/developer/zh_developer_ascendhub_detail_clip-service.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/clusterd - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_clusterd.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/cosyvoice2-0.5b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_cosyvoice2-05b.md ## deepseek-r1-distill-llama-70b - URL: https://www.hiascend.com/developer/ascendhub/detail/deepseek-r1-distill-llama-70b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,Getting,Started,推理微服务,下载前必读,环境要求,硬件,版本配套 - Detail: llms-content/developer/zh_developer_ascendhub_detail_deepseek-r1-distill-llama-70b.md ## deepseek-r1-distill-llama-8b - URL: https://www.hiascend.com/developer/ascendhub/detail/deepseek-r1-distill-llama-8b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,Getting,Started,推理微服务,下载前必读,环境要求,硬件,版本配套 - Detail: llms-content/developer/zh_developer_ascendhub_detail_deepseek-r1-distill-llama-8b.md ## deepseek-r1-distill-qwen-1.5b - URL: https://www.hiascend.com/developer/ascendhub/detail/deepseek-r1-distill-qwen-1.5b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,Getting,Started,推理微服务,下载前必读,环境要求,硬件,版本配套 - Detail: llms-content/developer/zh_developer_ascendhub_detail_deepseek-r1-distill-qwen-15b.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/deepseek-r1-distill-qwen-14b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_deepseek-r1-distill-qwen-14b.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/deepseek-r1-distill-qwen-32b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_deepseek-r1-distill-qwen-32b.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/deepseek-r1-distill-qwen-7b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_deepseek-r1-distill-qwen-7b.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/drivingsdk - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_drivingsdk.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/groundingdino - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_groundingdino.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/hccl-controller - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_hccl-controller.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/indexsdk - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_indexsdk.md ## infer-operator - URL: https://www.hiascend.com/developer/ascendhub/detail/infer-operator - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,集群调度组件,Infer,Operator,快速参考,应用场景,组件功能,组件上下游依赖 - Detail: llms-content/developer/zh_developer_ascendhub_detail_infer-operator.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/llama-3.2-1b-instruct - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_llama-32-1b-instruct.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/llama-3.2-3b-instruct - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_llama-32-3b-instruct.md ## llama-3.3-70b-instruct - URL: https://www.hiascend.com/developer/ascendhub/detail/llama-3.3-70b-instruct - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,Getting,Started,推理微服务,下载前必读,环境要求,硬件,版本配套 - Detail: llms-content/developer/zh_developer_ascendhub_detail_llama-33-70b-instruct.md ## milvus - URL: https://www.hiascend.com/developer/ascendhub/detail/milvus - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,概述,配套软件版本,使用前提,依赖安装,驱动与固件,如何使用镜像,镜像下载 - Detail: llms-content/developer/zh_developer_ascendhub_detail_milvus.md ## mindformers - URL: https://www.hiascend.com/developer/ascendhub/detail/mindformers - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,MindSpore,Transformers,快速参考,支持的,Tags,Dockerfile,使用方法 - Detail: llms-content/developer/zh_developer_ascendhub_detail_mindformers.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/mindie - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_mindie.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/mindie-motor - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_mindie-motor.md ## mindiesd - URL: https://www.hiascend.com/developer/ascendhub/detail/mindiesd - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,MindIE,SD,快速参考,镜像介绍,Tag,Dockerfile,镜像,说明及 - Detail: llms-content/developer/zh_developer_ascendhub_detail_mindiesd.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/mindspeed_rl_pt25_25rc3 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_mindspeed_rl_pt25_25rc3.md ## mindspeed-core - URL: https://www.hiascend.com/developer/ascendhub/detail/mindspeed-core - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,MindSpeed,Core,Docker,镜像概述,快速参考,镜像,Tag - Detail: llms-content/developer/zh_developer_ascendhub_detail_mindspeed-core.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/mindspeed-llm - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_mindspeed-llm.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/mindspeed-mm - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_mindspeed-mm.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/mindspore - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_mindspore.md ## mineru - URL: https://www.hiascend.com/developer/ascendhub/detail/mineru - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,MinerU,加速镜像,快速参考,支持的硬件,支持的模型,支持的,Tags - Detail: llms-content/developer/zh_developer_ascendhub_detail_mineru.md ## mineru2.5-2509-1.2b - URL: https://www.hiascend.com/developer/ascendhub/detail/mineru2.5-2509-1.2b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开停止维护,Getting,Started,推理微服务,下载前必读,环境要求,硬件,版本配套 - Detail: llms-content/developer/zh_developer_ascendhub_detail_mineru25-2509-12b.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/minicpm-v-2_6 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_minicpm-v-2_6.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/mis-tei - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_mis-tei.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/model-agent - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_model-agent.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/multimodalsdk - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_multimodalsdk.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/noded - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_noded.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/npu-exporter - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_npu-exporter.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/openclaw - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_openclaw.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/paddleocr-vl - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_paddleocr-vl.md ## qwen2.5-0.5b-instruct - URL: https://www.hiascend.com/developer/ascendhub/detail/qwen2.5-0.5b-instruct - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,Getting,Started,推理微服务,下载前必读,环境要求,硬件,版本配套 - Detail: llms-content/developer/zh_developer_ascendhub_detail_qwen25-05b-instruct.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/qwen2.5-1.5b-instruct - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_qwen25-15b-instruct.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/qwen2.5-14b-instruct - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_qwen25-14b-instruct.md ## qwen2.5-32b-instruct - URL: https://www.hiascend.com/developer/ascendhub/detail/qwen2.5-32b-instruct - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,Getting,Started,推理微服务,下载前必读,环境要求,硬件,版本配套 - Detail: llms-content/developer/zh_developer_ascendhub_detail_qwen25-32b-instruct.md ## qwen2.5-3b-instruct - URL: https://www.hiascend.com/developer/ascendhub/detail/qwen2.5-3b-instruct - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,Getting,Started,推理微服务,下载前必读,环境要求,硬件,版本配套 - Detail: llms-content/developer/zh_developer_ascendhub_detail_qwen25-3b-instruct.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/qwen2.5-72b-instruct - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_qwen25-72b-instruct.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/qwen2.5-7b-instruct - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_qwen25-7b-instruct.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/qwen2.5-omni-3b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_qwen25-omni-3b.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/qwen2.5-omni-7b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_qwen25-omni-7b.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/qwen2.5-vl-32b-instruct - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_qwen25-vl-32b-instruct.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/qwen2.5-vl-7b-instruct - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_qwen25-vl-7b-instruct.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/qwen3-14b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_qwen3-14b.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/qwen3-235b-a22b-w8a8 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_qwen3-235b-a22b-w8a8.md ## qwen3-30b-a3b - URL: https://www.hiascend.com/developer/ascendhub/detail/qwen3-30b-a3b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,Getting,Started,推理微服务,下载前必读,环境要求,硬件,版本配套 - Detail: llms-content/developer/zh_developer_ascendhub_detail_qwen3-30b-a3b.md ## qwen3-32b - URL: https://www.hiascend.com/developer/ascendhub/detail/qwen3-32b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,Getting,Started,推理微服务,下载前必读,环境要求,硬件,版本配套 - Detail: llms-content/developer/zh_developer_ascendhub_detail_qwen3-32b.md ## qwen3-8b - URL: https://www.hiascend.com/developer/ascendhub/detail/qwen3-8b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,Getting,Started,推理微服务,下载前必读,环境要求,硬件,版本配套 - Detail: llms-content/developer/zh_developer_ascendhub_detail_qwen3-8b.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/qwen3-coder-30b-a3b-instruct - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_qwen3-coder-30b-a3b-instruct.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/qwen3-vl-32b-instruct - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_qwen3-vl-32b-instruct.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/qwq-32b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_qwq-32b.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/ragsdk - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_ragsdk.md ## rec\_sdk-tf1 - URL: https://www.hiascend.com/developer/ascendhub/detail/rec_sdk-tf1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,样例使用介绍,容器内配套指南,使用前提,启动容器,样例介绍,DLRM,FAQ - Detail: llms-content/developer/zh_developer_ascendhub_detail_rec_sdk-tf1.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/rec_sdk-tf2 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_rec_sdk-tf2.md ## rec\_sdk-torch - URL: https://www.hiascend.com/developer/ascendhub/detail/rec_sdk-torch - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,快速参考,RecSDK,支持的,Tags,Dockerfile,使用方法,Tag,规范 - Detail: llms-content/developer/zh_developer_ascendhub_detail_rec_sdk-torch.md ## resilience-controller - URL: https://www.hiascend.com/developer/ascendhub/detail/resilience-controller - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,支持与帮助,镜像使用,Resilience,Controller,启动,组件,MB - Detail: llms-content/developer/zh_developer_ascendhub_detail_resilience-controller.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/sensevoice-small - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_sensevoice-small.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/torch-npu - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_torch-npu.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/torch-onnx-inference - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_torch-onnx-inference.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/triton-inference-server-ge-backend - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_triton-inference-server-ge-backend.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/ubuntu - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_ubuntu.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/vc-controller-manager - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_vc-controller-manager.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/vc-scheduler - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_vc-scheduler.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/verl_pt27_2025rc3 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_verl_pt27_2025rc3.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/verl_pt27_25rc3 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_verl_pt27_25rc3.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/verl_pt27_25rc4 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_verl_pt27_25rc4.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/visionsdk - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_visionsdk.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/vit-b-16 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_vit-b-16.md ## vit-h-14 - URL: https://www.hiascend.com/developer/ascendhub/detail/vit-h-14 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 公开,Getting,Started,推理微服务,下载前必读,环境要求,硬件,版本配套 - Detail: llms-content/developer/zh_developer_ascendhub_detail_vit-h-14.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/whisper-large-v3 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_whisper-large-v3.md ## yolov12l - URL: https://www.hiascend.com/developer/ascendhub/detail/yolov12l - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 停止维护,Getting,Started,推理微服务,下载前必读,环境要求,硬件,版本配套 - Detail: llms-content/developer/zh_developer_ascendhub_detail_yolov12l.md ## 昇腾镜像仓库详情 - URL: https://www.hiascend.com/developer/ascendhub/detail/yolov12x - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾镜像仓库详情 - Detail: llms-content/developer/zh_developer_ascendhub_detail_yolov12x.md ## 昇腾博客 - 昇腾AI技术深度解析与交流分享 | 昇腾社区 - URL: https://www.hiascend.com/developer/blog - Description: 昇腾博客是昇腾AI开发者社区的技术分享平台,提供关于CANN、MindSpore、模型训练、推理优化、硬件配置等领域的深度技术文章、实践案例与行业洞察。加入我们,获取最新的昇腾AI技术动态,学习开发者实践经验,探索AI创新的无限可能。 - Keywords: 昇腾博客,昇腾AI技术文章,CANN技术解析,MindSpore实践分享,AI模型训练案例,模型推理优化指南,昇腾硬件配置教程,AI开发者实践,深度学习技术分享,Ascend C算子开发 - Detail: llms-content/developer/zh_developer_blog.md ## 【云贵赛区-企业赛道】昇腾AI创新大赛2024-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/01b6696b840e4af181a12235732578c2 - Description: 昇腾AI创新大赛2024 - Keywords: 云贵赛区,AI,企业赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_01b6696b840e4af181a12235732578c2.md ## 昇腾AI创新算子挑战赛(S4赛季)【挑战性能命题】-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/05fe075a8736450ca6e55eefadd53606 - Description: 加速AI与行业融合 促进开发者能力提升 - Keywords: AI,创新算子挑战,赛季,挑战性能命题,昇腾社区,赛事简介,参赛对象,参赛要求 - Detail: llms-content/developer/zh_developer_contests_details_05fe075a8736450ca6e55eefadd53606.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/06526b6a44bb4d26911510e977c2f266 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_06526b6a44bb4d26911510e977c2f266.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/0bebaf41395247a1a1ac612472e09e68 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_0bebaf41395247a1a1ac612472e09e68.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/1465a3e8a54d4fd6b81c327575287f75 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_1465a3e8a54d4fd6b81c327575287f75.md ## 【沈阳赛区-企业赛道】昇腾AI创新大赛2024-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/16231017f2c640618a6b3a9a12559314 - Description: 昇腾AI创新大赛2024 - Keywords: 沈阳赛区,AI,企业赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_16231017f2c640618a6b3a9a12559314.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/19fa42bacdfb4ca590d4a00d526486fd - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_19fa42bacdfb4ca590d4a00d526486fd.md ## 【吉林赛区-高校赛道】昇腾AI创新大赛2025-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/1b19091b38ef471da1dc7aad948b8b33 - Description: 昇腾AI创新大赛2025 - Keywords: 吉林赛区,AI,高校赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_1b19091b38ef471da1dc7aad948b8b33.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/1ded5ffa1db34f81a43d671e196d84d7 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_1ded5ffa1db34f81a43d671e196d84d7.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/1e94862dc9674390bd18443236502594 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_1e94862dc9674390bd18443236502594.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/1ee7dab9ffa445ff8357131d84e2ba34 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_1ee7dab9ffa445ff8357131d84e2ba34.md ## 【福建赛区-企业赛道】昇腾AI创新大赛2024-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/1f816275673d4648a95b29af0a51b6dd - Description: 昇腾AI创新大赛2024 - Keywords: 福建赛区,AI,企业赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_1f816275673d4648a95b29af0a51b6dd.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/201bfd6701c14f3bb40ae53e11abd6e8 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_201bfd6701c14f3bb40ae53e11abd6e8.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/206da05616f746c5b9e524f1db2ad173 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_206da05616f746c5b9e524f1db2ad173.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/21fb5fd2c1844bb880b584ed8c339f50 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_21fb5fd2c1844bb880b584ed8c339f50.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/21ffd6733ab54dc4b6b686a242c5d586 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_21ffd6733ab54dc4b6b686a242c5d586.md ## 【江苏赛区-高校赛道】昇腾AI创新大赛2025-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/241e476afd304df0a004d340e649efc5 - Description: 昇腾AI创新大赛2025 - Keywords: 江苏赛区,AI,高校赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_241e476afd304df0a004d340e649efc5.md ## 【天津赛区】昇腾AI创新大赛2023-开发者套件创新赛道-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/25c2cfd585f448398a47f3b120785a60 - Keywords: 天津赛区,创新大赛,开发者套件创新赛道,昇腾社区,AITISA,AIIA,BEAI,AF - Detail: llms-content/developer/zh_developer_contests_details_25c2cfd585f448398a47f3b120785a60.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/2802b3b38c054fc8816e15abb80afc64 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_2802b3b38c054fc8816e15abb80afc64.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/2837c831da0348ea9a54dd03791fe8d3 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_2837c831da0348ea9a54dd03791fe8d3.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/29dac258f69a429eaf46a59ff406e805 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_29dac258f69a429eaf46a59ff406e805.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/2a5ddc9a095f4867952524dd600a5edd - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_2a5ddc9a095f4867952524dd600a5edd.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/2b74417160de458da907995289035f63 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_2b74417160de458da907995289035f63.md ## 【沈阳赛区】昇腾AI创新大赛2023-开发者套件创新赛道-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/2d55cb9a9b11486aa1253667574c5452 - Description: 昇腾AI创新大赛2023 - Keywords: AI,沈阳赛区,创新大赛,开发者套件创新赛道,昇腾社区,赛事简介,参赛对象,参赛要求 - Detail: llms-content/developer/zh_developer_contests_details_2d55cb9a9b11486aa1253667574c5452.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/2de21f30c0534b8aa9b1f36ad3563cb2 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_2de21f30c0534b8aa9b1f36ad3563cb2.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/2e410caf70314ede8b569054a5b876ab - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_2e410caf70314ede8b569054a5b876ab.md ## 【湖南赛区-企业赛道】昇腾AI创新大赛2024-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/2f6a333eb5de48faaa5ae9e7431a52d3 - Description: 昇腾AI创新大赛2024 - Keywords: 湖南赛区,AI,企业赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_2f6a333eb5de48faaa5ae9e7431a52d3.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/34f237fd254f40e58ba6b3e540badd81 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_34f237fd254f40e58ba6b3e540badd81.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/35770ea2cc9047dda7042f8c834dced1 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_35770ea2cc9047dda7042f8c834dced1.md ## 【江苏赛区】昇腾AI创新大赛2023-开发者套件创新赛道-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/39635eb826a945fba04d54a91d657dbf - Keywords: AI,江苏赛区,创新大赛,开发者套件创新赛道,昇腾社区,赛事简介,参赛对象,参赛要求 - Detail: llms-content/developer/zh_developer_contests_details_39635eb826a945fba04d54a91d657dbf.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/3a5bddb2e7da4dd0a7b1f78fd698d700 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_3a5bddb2e7da4dd0a7b1f78fd698d700.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/3c4af5c16a1342b7b0ea80a751214356 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_3c4af5c16a1342b7b0ea80a751214356.md ## 昇思MindSpore模型开发挑战赛【模型微调赛题】-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/3e40e521c6304c4294317c0c1a70ff5e - Keywords: MindSpore,昇思,模型开发挑战,模型微调赛题,昇腾社区,第一阶段报名,及作品提交时,日第一阶段获 - Detail: llms-content/developer/zh_developer_contests_details_3e40e521c6304c4294317c0c1a70ff5e.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/3fdb6c9ca33f4e68a42b7606fa25090c - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_3fdb6c9ca33f4e68a42b7606fa25090c.md ## 【湖北赛区-高校赛道】昇腾AI创新大赛2024-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/40a71dd30f444c369aca0e673a8555c6 - Description: 昇腾AI创新大赛2024 - Keywords: 湖北赛区,AI,高校赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_40a71dd30f444c369aca0e673a8555c6.md ## 昇腾AI创新大赛-算子挑战赛(S9赛季)-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/41ffbad2024e4ccfa43520c57ffa7b9e - Description: 加速AI与行业融合 促进开发者能力提升 - Keywords: AI,创新大赛,算子挑战赛,赛季,昇腾社区,赛事简介,参赛对象,参赛要求 - Detail: llms-content/developer/zh_developer_contests_details_41ffbad2024e4ccfa43520c57ffa7b9e.md ## 昇腾AI创新大赛-算子挑战赛(S6赛季)【基础性能命题】-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/4252afe2506e4f6eaa5cdf6696afadbf - Description: 加速AI与行业融合 促进开发者能力提升 - Keywords: AI,创新大赛,算子挑战赛,赛季,基础性能命题,昇腾社区,赛事简介,参赛对象 - Detail: llms-content/developer/zh_developer_contests_details_4252afe2506e4f6eaa5cdf6696afadbf.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/4270188c3fdc420ca9cb9465a9cb067b - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_4270188c3fdc420ca9cb9465a9cb067b.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/4783d4f32f034e01b922fa64a03ce5e2 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_4783d4f32f034e01b922fa64a03ce5e2.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/4808cf50827c41aeac409933425a2741 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_4808cf50827c41aeac409933425a2741.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/48d47a4309744fc08f371f9e86e0e70a - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_48d47a4309744fc08f371f9e86e0e70a.md ## 【沈阳赛区-高校赛道】昇腾AI创新大赛2024-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/4a110e7e46e04be89395bae2b4396c92 - Description: 昇腾AI创新大赛2024 - Keywords: 沈阳赛区,AI,高校赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_4a110e7e46e04be89395bae2b4396c92.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/4b000f8dd4624cd6936cdde5da93cbeb - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_4b000f8dd4624cd6936cdde5da93cbeb.md ## 【大连赛区】昇腾AI创新大赛2023-应用赛道-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/4bd654b7695f4a9d925c350e0ee2c1e4 - Description: 昇腾AI创新大赛2023 - Keywords: AI,大连赛区,创新大赛,应用赛道,昇腾社区,赛事简介,参赛对象,参赛要求 - Detail: llms-content/developer/zh_developer_contests_details_4bd654b7695f4a9d925c350e0ee2c1e4.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/4e4b844b385e4a339ca06082bea9686a - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_4e4b844b385e4a339ca06082bea9686a.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/4eb6f2c36db242bf93b888273bcf39a4 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_4eb6f2c36db242bf93b888273bcf39a4.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/4fd74c3e4678497db86353e7ec1130a0 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_4fd74c3e4678497db86353e7ec1130a0.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/513ccb886ab042ca9807405915e3c3fb - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_513ccb886ab042ca9807405915e3c3fb.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/52a4b93be4954660a3c2c9efa3bb279d - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_52a4b93be4954660a3c2c9efa3bb279d.md ## 昇腾AI原生创新算子挑战赛(S3赛季)【基础算子开发命题】-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/52d7b02fc84d4afaac45ce652b155772 - Description: 加速AI与行业融合 促进开发者能力提升 - Keywords: AI,原生创新算子,挑战赛,赛季,基础算子开发,命题,昇腾社区,赛事简介 - Detail: llms-content/developer/zh_developer_contests_details_52d7b02fc84d4afaac45ce652b155772.md ## 【天津赛区-企业赛道】昇腾AI创新大赛2025-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/537ae97e718e49c2ae67b61859305c55 - Description: 昇腾AI创新大赛2025 - Keywords: 天津赛区,AI,企业赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_537ae97e718e49c2ae67b61859305c55.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/546fdaa9cf88435d9d19260a029fb1ff - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_546fdaa9cf88435d9d19260a029fb1ff.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/579d6af42a934d469932a256b858b01a - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_579d6af42a934d469932a256b858b01a.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/58b17fa3889f40abb29d22e9edf23571 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_58b17fa3889f40abb29d22e9edf23571.md ## 【河北赛区】昇腾AI创新大赛2023-开发者套件创新赛道-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/5972444a8f3247109a2753a6d53840c5 - Keywords: AI,河北赛区,创新大赛,开发者套件创新赛道,昇腾社区,赛事简介,参赛对象,参赛要求 - Detail: llms-content/developer/zh_developer_contests_details_5972444a8f3247109a2753a6d53840c5.md ## 【深圳赛区-高校赛道】昇腾AI创新大赛2024-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/5e2c1efff33b4bdfb19eb7b4a0a34b46 - Description: 昇腾AI创新大赛2024 - Keywords: 深圳赛区,AI,高校赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_5e2c1efff33b4bdfb19eb7b4a0a34b46.md ## 【上海赛区】昇腾AI创新大赛2023-开发者套件创新赛道-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/5e5f802449d14a9dbf74b63e193778d2 - Description: 昇腾AI创新大赛2023 - Keywords: AI,上海赛区,创新大赛,开发者套件创新赛道,昇腾社区,赛事简介,参赛对象,参赛要求 - Detail: llms-content/developer/zh_developer_contests_details_5e5f802449d14a9dbf74b63e193778d2.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/63a3255c54f54e7189e5be650d54e04e - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_63a3255c54f54e7189e5be650d54e04e.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/646d96d1ffa74b0585c8d56f4604f33c - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_646d96d1ffa74b0585c8d56f4604f33c.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/64dfc86ebadb4184b96835bece4374f2 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_64dfc86ebadb4184b96835bece4374f2.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/652927ee5e7240faa28e483e087dd931 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_652927ee5e7240faa28e483e087dd931.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/65a877c0f23141a1b6d5e8664a933c5c - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_65a877c0f23141a1b6d5e8664a933c5c.md ## 【广西赛区-高校赛道】昇腾AI创新大赛2024-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/665cf27c653f4fb58886126012c0e6be - Description: 昇腾AI创新大赛2024 - Keywords: 广西赛区,AI,高校赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_665cf27c653f4fb58886126012c0e6be.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/68ec6d6e842a4ce8b1a65341513baf81 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_68ec6d6e842a4ce8b1a65341513baf81.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/690885c8c3264eb4947b353e4c2ecb04 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_690885c8c3264eb4947b353e4c2ecb04.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/693b2ae0cd0e4c57a08ae264ba736113 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_693b2ae0cd0e4c57a08ae264ba736113.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/698aca59975244d284aba384de7b0ff4 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_698aca59975244d284aba384de7b0ff4.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/6ca5cfd0e8c14429918a3d599240d3f3 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_6ca5cfd0e8c14429918a3d599240d3f3.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/6d03e12bd5754014b3cc72971fe3fc4d - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_6d03e12bd5754014b3cc72971fe3fc4d.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/6f2d286058d6418b91a96c35aad64298 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_6f2d286058d6418b91a96c35aad64298.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/6f46a3552a404eb69ddec9d07018072a - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_6f46a3552a404eb69ddec9d07018072a.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/6f5c49c37ef04fdc9457f42a805461c1 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_6f5c49c37ef04fdc9457f42a805461c1.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/70c12edbfda34bf38dba9a652b6ca2f8 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_70c12edbfda34bf38dba9a652b6ca2f8.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/722f249839a84d4aa634ecd7bec3efe0 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_722f249839a84d4aa634ecd7bec3efe0.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/764abdc041214e72894efd30114fdbed - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_764abdc041214e72894efd30114fdbed.md ## 【四川赛区-企业赛道】昇腾AI创新大赛2024-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/7667736dc05b4a01bb7862f8d41abde5 - Description: 昇腾AI创新大赛2024 - Keywords: 四川赛区,AI,企业赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_7667736dc05b4a01bb7862f8d41abde5.md ## 昇腾AI创新大赛-算子挑战赛(S7赛季)【挑战性能命题】-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/769391f54a104a349b3d1b1e72035388 - Description: 加速AI与行业融合 促进开发者能力提升 - Keywords: AI,创新大赛,算子挑战赛,赛季,挑战性能命题,昇腾社区,赛事简介,参赛对象 - Detail: llms-content/developer/zh_developer_contests_details_769391f54a104a349b3d1b1e72035388.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/77537a6c19bf451d9318cbbfba69998f - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_77537a6c19bf451d9318cbbfba69998f.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/7777842923dc44c48045738e95b6db6d - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_7777842923dc44c48045738e95b6db6d.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/7ac183142f1d4213ae65a3b37a3897f7 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_7ac183142f1d4213ae65a3b37a3897f7.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/7ccd9fc95e694fcfad14d7521ab9ad32 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_7ccd9fc95e694fcfad14d7521ab9ad32.md ## 昇腾AI创新大赛2023-昇思赛道-算法创新赛题-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/7e51ee21cd604773b5b91b974cef30be - Keywords: AI,创新大赛,昇思赛道,算法创新赛题,昇腾社区,赛事简介,参赛对象,参赛要求 - Detail: llms-content/developer/zh_developer_contests_details_7e51ee21cd604773b5b91b974cef30be.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/7f5198eea15045c5a504daa48af08f92 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_7f5198eea15045c5a504daa48af08f92.md ## 【河南赛区】昇腾AI创新大赛2023-开发者套件创新赛道-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/7fe7c53a29b04afaac6bb9fc025acbfc - Keywords: AI,河南赛区,创新大赛,开发者套件创新赛道,昇腾社区,赛事简介,参赛对象,参赛要求 - Detail: llms-content/developer/zh_developer_contests_details_7fe7c53a29b04afaac6bb9fc025acbfc.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/80a65b456dd04552a6df49b6d9f8d36d - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_80a65b456dd04552a6df49b6d9f8d36d.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/81cbd803caa14ce3876f574321bf3114 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_81cbd803caa14ce3876f574321bf3114.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/85335c7ee2524e909ec070527a8a50a7 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_85335c7ee2524e909ec070527a8a50a7.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/86c4b312a5744ba28912ac1900481e5a - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_86c4b312a5744ba28912ac1900481e5a.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/86edb35376aa455ca25b59ef6ff67fc8 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_86edb35376aa455ca25b59ef6ff67fc8.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/874536dfbf82408f8460af996808ecab - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_874536dfbf82408f8460af996808ecab.md ## 【江苏赛区-企业赛道】昇腾AI创新大赛2024-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/87f991c0952d4159ab96fa5d80d1d9cc - Description: 昇腾AI创新大赛2024 - Keywords: 江苏赛区,AI,企业赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_87f991c0952d4159ab96fa5d80d1d9cc.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/908698d55ad8478db24aec549342a905 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_908698d55ad8478db24aec549342a905.md ## 【哈尔滨工业大学专场】昇腾AI创新大赛2025-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/90bb2152d8134d0393e97dff94af6d0a - Description: 昇腾AI创新大赛2025 - Keywords: AI,哈尔滨工业大,学专场,创新大赛,昇腾社区,赛事简介,参赛对象,参赛要求 - Detail: llms-content/developer/zh_developer_contests_details_90bb2152d8134d0393e97dff94af6d0a.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/9190191db22149de8c1bd14602cd6e98 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_9190191db22149de8c1bd14602cd6e98.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/953ef85e82a7495aa6294980bcc90d3d - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_953ef85e82a7495aa6294980bcc90d3d.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/9803e0a7ba5e4a299c47f58147b6466d - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_9803e0a7ba5e4a299c47f58147b6466d.md ## 【辽宁赛区-企业赛道】昇腾AI创新大赛2025-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/986858e7216c410e995d72c31e16b0eb - Description: 昇腾AI创新大赛2025 - Keywords: 辽宁赛区,AI,企业赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_986858e7216c410e995d72c31e16b0eb.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/9989b4c89f354e0bb653a3542b705a7f - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_9989b4c89f354e0bb653a3542b705a7f.md ## 【广东赛区】昇腾AI创新大赛2023-开发者套件创新赛道-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/9bd03e1660664655862fe827eb39a432 - Keywords: AI,广东赛区,创新大赛,开发者套件创新赛道,昇腾社区,赛事简介,参赛对象,参赛要求 - Detail: llms-content/developer/zh_developer_contests_details_9bd03e1660664655862fe827eb39a432.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/9ca04ee870104f35b68c02cb834d5757 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_9ca04ee870104f35b68c02cb834d5757.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/a1562d23cd3e4cafaee5d970606dd3f0 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_a1562d23cd3e4cafaee5d970606dd3f0.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/a165508b04664a9593a53d24c032a793 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_a165508b04664a9593a53d24c032a793.md ## 【河南赛区-高校赛道】昇腾AI创新大赛2024-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/a177144bbae64acd988ded69dc2a94ec - Description: 昇腾AI创新大赛2024 - Keywords: 河南赛区,AI,高校赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_a177144bbae64acd988ded69dc2a94ec.md ## 2024昇腾AI原生创新算子挑战赛(S1赛季)决赛-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/a426f625804c40f0b16121cb1f22b26d - Description: 加速AI与行业融合 促进开发者能力提升 - Keywords: 原生创新算子,挑战赛,赛季,决赛,昇腾社区,Pi AIpro,Atlas,DK - Detail: llms-content/developer/zh_developer_contests_details_a426f625804c40f0b16121cb1f22b26d.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/a4530505a0bd40fb9868a2cec1423fde - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_a4530505a0bd40fb9868a2cec1423fde.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/a4624530e60a4ac19b84768a47fc490a - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_a4624530e60a4ac19b84768a47fc490a.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/a52d013308ff494ebea020fb522f7826 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_a52d013308ff494ebea020fb522f7826.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/a5b82c0f029640519df3ab2639d99623 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_a5b82c0f029640519df3ab2639d99623.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/a5cb3760eace4975835e3369eec7b534 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_a5cb3760eace4975835e3369eec7b534.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/ab1ff2fc99b049fd9d716d8ff3aba8d9 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_ab1ff2fc99b049fd9d716d8ff3aba8d9.md ## 【湖南赛区-高校赛道】昇腾AI创新大赛2024-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/ad041af55720419b9d872164e34f4635 - Description: 昇腾AI创新大赛2024 - Keywords: 湖南赛区,AI,高校赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_ad041af55720419b9d872164e34f4635.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/af7e0bc04f9b487dbbfabfe662cc7ff5 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_af7e0bc04f9b487dbbfabfe662cc7ff5.md ## 2024华为“未名·9\#”杯全国程序设计邀请赛·算子练习命题-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/aff8b3f753fe4e249a9982390120b75c - Keywords: 华为,未名,杯全国程序设,计邀请赛,算子练习命题,昇腾社区,BA,AE - Detail: llms-content/developer/zh_developer_contests_details_aff8b3f753fe4e249a9982390120b75c.md ## 昇腾AI创新大赛2025初创赛道(已结束)-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/b1eeabb42d234228886920b3372a54e5 - Keywords: AI,创新大赛,初创赛道,已结束,昇腾社区,赛事介绍,参赛对象,参赛要求 - Detail: llms-content/developer/zh_developer_contests_details_b1eeabb42d234228886920b3372a54e5.md ## 昇腾AI原生创新算子挑战赛(S3赛季)华中科技大学专场-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/b2817af2f50b4a47b5cc536220e29d2e - Description: 加速AI与行业融合 促进开发者能力提升 - Keywords: AI,原生创新算子,挑战赛,赛季,华中科技大学,专场,昇腾社区,昇腾 - Detail: llms-content/developer/zh_developer_contests_details_b2817af2f50b4a47b5cc536220e29d2e.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/b4a382775f0348b390b1ba09215104e4 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_b4a382775f0348b390b1ba09215104e4.md ## 昇思MindSpore模型开发挑战赛【模型迁移赛题第二阶段】-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/b51e749ad7c148308f11ef64904a33e9 - Keywords: MindSpore,昇思,模型开发挑战,模型迁移赛题,第二阶段,昇腾社区,Tel,Email - Detail: llms-content/developer/zh_developer_contests_details_b51e749ad7c148308f11ef64904a33e9.md ## 昇腾AI创新大赛-算子挑战赛2024年度冠军赛【基础性能命题】-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/b66391d4e8b64ff69dbf3d0203eaa1bb - Description: 加速AI与行业融合 促进开发者能力提升 - Keywords: AI,创新大赛,算子挑战赛,年度冠军赛,基础性能命题,昇腾社区,赛事简介,参赛对象 - Detail: llms-content/developer/zh_developer_contests_details_b66391d4e8b64ff69dbf3d0203eaa1bb.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/b6c4bb9089c74c90af9faeec114da25c - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_b6c4bb9089c74c90af9faeec114da25c.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/b97afd3b4fac434abc9dc8c887c5e92a - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_b97afd3b4fac434abc9dc8c887c5e92a.md ## 【河北赛区】昇腾AI创新大赛2023-应用赛道-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/ba0741d7fe24406c8f273ced62a1f965 - Keywords: AI,河北赛区,创新大赛,应用赛道,昇腾社区,赛事简介,参赛对象,参赛要求 - Detail: llms-content/developer/zh_developer_contests_details_ba0741d7fe24406c8f273ced62a1f965.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/baffb02a10e443989ffdf6cfe1a3199a - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_baffb02a10e443989ffdf6cfe1a3199a.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/c20d7e4de08e4f4d9322873cac93a242 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_c20d7e4de08e4f4d9322873cac93a242.md ## 昇腾AI原生创新算子挑战赛(S3赛季)【算子性能挑战命题】-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/c2756e54572b41d88d1f437eafbbec53 - Description: 加速AI与行业融合 促进开发者能力提升 - Keywords: AI,原生创新算子,挑战赛,赛季,算子性能挑战,命题,昇腾社区,赛事简介 - Detail: llms-content/developer/zh_developer_contests_details_c2756e54572b41d88d1f437eafbbec53.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/c40cacdb4fa347bd8b378ad881e1e80e - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_c40cacdb4fa347bd8b378ad881e1e80e.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/c4ee8648a29c46c8ab9b8ce5c6aea4ab - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_c4ee8648a29c46c8ab9b8ce5c6aea4ab.md ## 【北京赛区】创客北京·昇腾AI创新大赛2023·开发者套件创新赛道-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/c6071c5b90344061bf8140e0fc7903b6 - Description: 昇腾AI创新大赛2023 - Keywords: 北京赛区,创客北京,AI,创新大赛,开发者套件创新赛道,昇腾社区,北京区域其他,权益 - Detail: llms-content/developer/zh_developer_contests_details_c6071c5b90344061bf8140e0fc7903b6.md ## 2024昇腾AI原生创新算子挑战赛(S1赛季)-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/c639eda60fda4188bd7dce3a2daadebd - Description: 加速AI与行业融合 促进开发者能力提升 - Keywords: 原生创新算子,挑战赛,赛季,昇腾社区,Pi AIpro,Atlas,DK,Email - Detail: llms-content/developer/zh_developer_contests_details_c639eda60fda4188bd7dce3a2daadebd.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/c6b6e46a92b44539a4f8e799b64fcd84 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_c6b6e46a92b44539a4f8e799b64fcd84.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/c6bf23d257a1412eb7d73550e09db572 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_c6bf23d257a1412eb7d73550e09db572.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/c90b305a31ca41d2839f81a8ad1e5f20 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_c90b305a31ca41d2839f81a8ad1e5f20.md ## 【重庆赛区-企业赛道】昇腾AI创新大赛2024-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/cc0f2c46a4564782988e58bd6b55c9c1 - Description: 昇腾AI创新大赛2024 - Keywords: 重庆赛区,AI,企业赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_cc0f2c46a4564782988e58bd6b55c9c1.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/cec157a543474655b9db82c2e83149f0 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_cec157a543474655b9db82c2e83149f0.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/cedb02a4554a41dd9468007615cf6f0f - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_cedb02a4554a41dd9468007615cf6f0f.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/cf1d21288af64dca92ea6dfdc8ea028c - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_cf1d21288af64dca92ea6dfdc8ea028c.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/cfee19eef7a94188ad0efbe50c15ce3c - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_cfee19eef7a94188ad0efbe50c15ce3c.md ## 【北京赛区-企业赛道】创客北京·昇腾AI创新大赛2024-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/cff66718353645d2a6316bfa63547728 - Description: 创客北京·昇腾AI创新大赛2024 - Keywords: 北京赛区,企业赛道,创客北京,AI,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_cff66718353645d2a6316bfa63547728.md ## 【大连赛区-高校赛道】昇腾AI创新大赛2024-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/d15f4c5b59da48569fced161fa16f4c7 - Description: 昇腾AI创新大赛2024 - Keywords: 大连赛区,AI,高校赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_d15f4c5b59da48569fced161fa16f4c7.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/d32c4a9d4e014d23b3767f0fb74f120a - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_d32c4a9d4e014d23b3767f0fb74f120a.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/d5dba215e35d4ecb9d60b1041f74f0c3 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_d5dba215e35d4ecb9d60b1041f74f0c3.md ## 【北京赛区】创客北京·昇腾AI创新大赛2023-应用赛道-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/d727460de58c414581570b4c8a25f8db - Description: 昇腾AI创新大赛2023·北京赛区与创客中国·北京赛区联合举办 - Keywords: 北京赛区,创客北京,AI,创新大赛,应用赛道,昇腾社区,赛事简介,参赛对象 - Detail: llms-content/developer/zh_developer_contests_details_d727460de58c414581570b4c8a25f8db.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/d7c4f860492d4091a91b0c15f25269bc - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_d7c4f860492d4091a91b0c15f25269bc.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/d978147eb3774405b63827b90601f158 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_d978147eb3774405b63827b90601f158.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/d979c9baa4a347c9a928e0fcb6a605cf - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_d979c9baa4a347c9a928e0fcb6a605cf.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/da5ec44dc42c4befb3951d89fdb76fb5 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_da5ec44dc42c4befb3951d89fdb76fb5.md ## 【云贵赛区-高校赛道】昇腾AI创新大赛2024-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/db93c5faa96f452ba14df6263c3ba510 - Description: 昇腾AI创新大赛2024 - Keywords: 云贵赛区,AI,高校赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_db93c5faa96f452ba14df6263c3ba510.md ## 2024年福建省大学生人工智能创意赛暨昇腾AI创新大赛-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/e00f27b3362745b69f185894d4935b35 - Description: 昇腾AI创新大赛2024 - Keywords: AI,年福建省大学,生人工智能创,意赛暨昇腾,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_e00f27b3362745b69f185894d4935b35.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/e08fc5b16197428e84f6fa969cdd8bb0 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_e08fc5b16197428e84f6fa969cdd8bb0.md ## 【云贵赛区-高校赛道】昇腾AI创新大赛2024-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/e15403ada9da4af4987b6a7cae57ba34 - Description: 昇腾AI创新大赛2024 - Keywords: 云贵赛区,AI,高校赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_e15403ada9da4af4987b6a7cae57ba34.md ## 【大连赛区-企业赛道】昇腾AI创新大赛2024-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/e4395428ae294477864545ebef9959d6 - Description: 昇腾AI创新大赛2024 - Keywords: 大连赛区,AI,企业赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_e4395428ae294477864545ebef9959d6.md ## 【河北赛区-企业赛道】昇腾AI创新大赛2024-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/eb0278d0827d4ee28d7669d5bb2054d2 - Description: 昇腾AI创新大赛2024 - Keywords: 河北赛区,AI,企业赛道,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的 - Detail: llms-content/developer/zh_developer_contests_details_eb0278d0827d4ee28d7669d5bb2054d2.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/ecd0621e423942d6964cefd271c37e07 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_ecd0621e423942d6964cefd271c37e07.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/ecdac302dbd04f76afc9d02e1350f28c - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_ecdac302dbd04f76afc9d02e1350f28c.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/ed27c959fbf74c76ae66a777ed241f99 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_ed27c959fbf74c76ae66a777ed241f99.md ## 【吉林赛区】昇腾AI创新大赛2023-开发者套件创新赛道-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/ef759dcb28284fd6afbd21bb499a649f - Description: AI赋吉林 智算创未来 昇腾AI创新大赛2023 - Keywords: AI,吉林赛区,创新大赛,开发者套件创新赛道,昇腾社区,赛事简介,参赛对象,参赛要求 - Detail: llms-content/developer/zh_developer_contests_details_ef759dcb28284fd6afbd21bb499a649f.md ## 【北京大学专场】昇腾AI创新大赛2025-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/f9c0b6dc33e24271b2bfcf349d912260 - Description: 昇腾AI创新大赛2025 - Keywords: AI,北京大学专场,昇腾社区,赛事简介,昇腾,创新大赛是面,开发者打造的,赛事 - Detail: llms-content/developer/zh_developer_contests_details_f9c0b6dc33e24271b2bfcf349d912260.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/fa39869252e940aabbc8ca2a135cdc5f - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_fa39869252e940aabbc8ca2a135cdc5f.md ## 昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/fa51c7d841724d32a57c85f9fcf937d9 - Keywords: 昇腾社区 - Detail: llms-content/developer/zh_developer_contests_details_fa51c7d841724d32a57c85f9fcf937d9.md ## 昇腾AI原生创新算子挑战赛(S2赛季)【算子性能挑战命题】-昇腾社区 - URL: https://www.hiascend.com/developer/contests/details/ff0aff992d2343d0bd7653f0f77c8609 - Description: 加速AI与行业融合 促进开发者能力提升 - Keywords: AI,原生创新算子,挑战赛,赛季,算子性能挑战,命题,昇腾社区,赛事简介 - Detail: llms-content/developer/zh_developer_contests_details_ff0aff992d2343d0bd7653f0f77c8609.md ## 在线课程详情 - URL: https://www.hiascend.com/developer/courses/detail/1547101767027232770 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1547101767027232770.md ## DeepSeek专区-昇腾社区 - URL: https://www.hiascend.com/developer/deepseek - Description: 聚焦DeepSeek前沿技术在昇腾计算生态的实现,专区提供官方技术文章文档、模型运行教程及实战案例,覆盖算法优化、模型推理、部署等流程,助力开发者在昇腾硬件快速上手与实践DeepSeek系列模型。为开发者提供基于昇腾设备的DeepSeek技术资源共享、技术问题交流平台 - Keywords: DeepSeek、昇腾社区、AI、人工智能、模型迁移、深度学习、实战案例 - Detail: llms-content/developer/zh_developer_deepseek.md ## 开发板-昇腾社区 - URL: https://www.hiascend.com/developer/devboard - Description: 高算力人工智能开发板,性能卓越,广泛应用于各种AI场景 - Keywords: 开发板,昇腾社区,了解产品规格,产品性能简介,及技术规格信,安装使用指导,提供丰富的配套资源,助力您打造属 - Detail: llms-content/developer/zh_developer_devboard.md ## 产品技术规格表-昇腾社区 - URL: https://www.hiascend.com/developer/devboard/spec - Description: 高算力人工智能开发板,性能卓越,广泛应用于各种AI场景 - Keywords: 产品技术规格表,昇腾社区,OrangePi Alpro,Ubuntu,LTS,Linux,USB Type,HOST - Detail: llms-content/developer/zh_developer_devboard_spec.md ## 昇腾开发资源下载中心-昇腾社区 - URL: https://www.hiascend.com/developer/download - Description: 一站式资源聚合下载。满足商用标准的稳定版本。 - Keywords: 昇腾开发资源下载中心,昇腾社区,下载资源,获取历史软件包,其他资源,Ascend HDK,CANN,PyTorch - Detail: llms-content/developer/zh_developer_download.md ## 昇腾开发资源下载中心-昇腾社区 - URL: https://www.hiascend.com/developer/download/commercial - Description: 一站式资源聚合下载。满足商用标准的稳定版本。 - Keywords: 昇腾开发资源下载中心,昇腾社区,下载资源,获取历史软件包,其他资源,Ascend HDK,CANN,PyTorch - Detail: llms-content/developer/zh_developer_download_commercial.md ## 商用版资源下载-资源下载中心-昇腾社区 - URL: https://www.hiascend.com/developer/download/commercial/result?module=cann - Description: 选择您的硬件信息和解决方案版本,将为你自动生成配套资源。 - Keywords: 商用版资源下载,资源下载中心,昇腾社区,Atlas,Pro,CANN,MindSpore,PyTorch - Detail: llms-content/developer/zh_developer_download_commercial_result.md ## 昇腾开发资源下载中心-昇腾社区 - URL: https://www.hiascend.com/developer/download/community - Description: 一站式资源聚合下载。满足商用标准的稳定版本。 - Keywords: 昇腾开发资源下载中心,昇腾社区,下载资源,获取历史软件包,其他资源,Ascend HDK,CANN,PyTorch - Detail: llms-content/developer/zh_developer_download_community.md ## 历史软件包-资源下载-昇腾社区 - URL: https://www.hiascend.com/developer/download/community/result?module=cann - Description: 勾选您想下载的资源,将为您自动进行版本配套 - Keywords: 历史软件包,资源下载,昇腾社区,AscendFAQ,CommuFunc,CANNCommunityEdition,Ascend,CANN,Atlas - Detail: llms-content/developer/zh_developer_download_community_result.md ## 版本配套查询助手 - URL: https://www.hiascend.com/developer/download/compatibility - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 版本配套查询助手,MindSDK MindCluster MindEdge MindSpeed MindIE,PyTorch,MindSpore,CANN Ascend HDK MindS - Detail: llms-content/developer/zh_developer_download_compatibility.md ## 社区版-昇腾开发资源下载中心-昇腾社区 - URL: https://www.hiascend.com/developer/download/old - Description: 一站式资源聚合下载。快速提供新特性的体验版,供开发者提前试用; - Keywords: 社区版,昇腾开发资源下载中心,昇腾社区,其他资源,MindSDK MindCluster MindEdge MindSpeed MindIE,PyTorch TensorFlow,MindS - Detail: llms-content/developer/zh_developer_download_old.md ## 圈子 - 互动交流 · 资源共享 · 赛事活动资讯 - 昇腾AI开发者聚集地 | 昇腾论坛 - URL: https://www.hiascend.com/developer/group - Description: 加入昇腾论坛圈子,与志同道合的开发者精准连接。在专属场景下交流经验、资源互通、答疑解惑、获取最新赛事活动资讯。聚焦有价值的技术对话,助力开发者高效成长。立即加入,参与讨论! - Keywords: 昇腾社区,昇腾论坛圈子, 大赛,昇腾开发者活动, 昇腾训练营, 高校社团, 技术交流,AI,人工智能 - Detail: llms-content/developer/zh_developer_group.md ## 昇腾荣誉顾问-昇腾社区 - URL: https://www.hiascend.com/developer/honorary-consultant - Description: 昇腾荣誉顾问是昇腾AI产业发展的核心牵引力量,他们推动核心技术研究突破,助力昇腾AI迸发强劲动能,为人工智能产业繁荣发展构建起强健、稳固的基石,定义行业标准,规划生态体系,引领产业方向,加速人工智能在各行各业走深向实,共创数智未来 - Keywords: 昇腾社区,昇腾荣誉顾问大事记,昇腾荣誉顾问权益,昇腾荣誉顾问使命,昇腾荣誉顾问评选,昇腾荣誉顾问,昇腾,中国科学院院 - Detail: llms-content/developer/zh_developer_honorary-consultant.md ## 推理开发-昇腾社区 - URL: https://www.hiascend.com/developer/inference - Description: 根据大语言模型推理、多模态推理场景提供三大推理框架,为开发者提供文档、软件/工具丰富的模型资源库及最佳实践案例,帮助开发者快速掌握昇腾推理开发 - Keywords: 推理开发,昇腾社区,用户旅程,SGLang,MindIE,Ascend,FrameworkPTAdapter,Omni - Detail: llms-content/developer/zh_developer_inference.md ## 学习主页-昇腾社区 - URL: https://www.hiascend.com/developer/learn - Description: 提供由浅入深的培训课程以及详细的开发指导。通过学、练、考、证全流程服务,让你快速成为昇腾人才 - Keywords: 学习主页,昇腾社区,热门排行,学习路径,学习资源,更多学习内容,互动交流与咨询,Ascend - Detail: llms-content/developer/zh_developer_learn.md ## 用户登录-昇腾社区 - URL: https://www.hiascend.com/developer/legal/authentification - Description: 用户登录 - Keywords: 用户登录,昇腾社区,CAS,了解详情,登录 - Detail: llms-content/developer/zh_developer_legal_authentification.md ## 用户登录-昇腾社区 - URL: https://www.hiascend.com/developer/legal/service - Description: 用户登录 - Keywords: 用户登录,昇腾社区,CAS,了解详情,登录 - Detail: llms-content/developer/zh_developer_legal_service.md ## 昇腾模型查询助手-昇腾社区 - URL: https://www.hiascend.com/developer/models - Description: 提供昇腾推理和训练场景支持的模型清单及获取链接,方便开发者查询与使用。 - Keywords: 昇腾模型查询助手,昇腾社区,MindSpeed LLM MindSpeed MM Driving SDK LlamaFactory,VeOmni,ROLL,MindSpeed LLM,Atlas - Detail: llms-content/developer/zh_developer_models.md ## 昇腾MVP-昇腾社区 - URL: https://www.hiascend.com/developer/MVP - Description: 昇腾MVP是在人工智能等前沿科技领域有重要影响力的产学研领军人物。他们积极参与昇腾产业发展和影响力构建,是重大技术突破、生态繁荣发展、产业影响力提升的核心推动力量。 - Keywords: MVP,昇腾社区,大事记,权益,使命,昇腾,评选,FAQ - Detail: llms-content/developer/zh_developer_MVP.md ## 昇腾原生开发-昇腾社区 - URL: https://www.hiascend.com/developer/native-development - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾社区,原生大模型,了解昇腾原生开发,一套开发体系,三种开发场景,多路径使能大模型创新,昇腾原生开发权益,原生创新汇 - Detail: llms-content/developer/zh_developer_native-development.md ## 昇腾开放资源-昇腾社区 - URL: https://www.hiascend.com/developer/opensource - Description: 基于华为昇腾解决方案使能原生创新 - Keywords: 昇腾开放资源,昇腾社区,Ascend C,AOL,HCCL,GE,Ascend,PyTorch - Detail: llms-content/developer/zh_developer_opensource.md ## 昇腾算子开发场景-昇腾社区 - URL: https://www.hiascend.com/developer/operator - Description: 面向算子开发场景,匹配用户开发习惯,支持算子极简编程,针对Python化编程需求,提供Triton语言支持,大幅降低算子开发门槛 - Keywords: 昇腾算子开发场景,昇腾社区,用户旅程,Ascend,CATLASS,Triton,MindStudio Insight,MindStudioInsight - Detail: llms-content/developer/zh_developer_operator.md ## 昇腾AI原生创新算子挑战赛-昇腾社区 - URL: https://www.hiascend.com/developer/ops - Description: 昇腾AI原生创新算子挑战赛是面向AI开发者打造的顶级赛事,旨在培养一批精通Ascend C算子开发的开发者,鼓励开发者基于昇腾AI云服务、CANN的基础能力进行深度创新与实践,加速AI与行业融合,促进开发者能力提升。 - Keywords: AI,原生创新算子,挑战赛,昇腾社区,Ascend C,Ascend,昇腾,创新大赛 - Detail: llms-content/developer/zh_developer_ops.md ## 昇腾优秀开发者-昇腾社区 - URL: https://www.hiascend.com/developer/OutstandingDeveloper - Description: 对昇腾社区做出重要贡献的开发者,不限于合作伙伴、高校老师、学生、个人开发者等,积极向昇腾社区贡献代码、发帖、评论等,积极参与昇腾社区各类活动,积极推广昇腾社区等,帮助社区持续成长 - Keywords: 昇腾优秀开发者,昇腾社区,开发者故事,Model,Horizons,Nature Communications,Nano Letters,Advanced Functional - Detail: llms-content/developer/zh_developer_OutstandingDeveloper.md ## 推荐开发-昇腾社区 - URL: https://www.hiascend.com/developer/recommendation - Description: 推荐开发基于昇腾平台提供完整的推荐系统训练框架和加速库全栈能力,支撑超大规模推荐场景,助力高效完成昇腾平台上推荐模型的训练与部署。 - Keywords: 推荐开发,昇腾社区,用户旅程,CATLASS,TorchRec,Rec SDK,Recsys,GR - Detail: llms-content/developer/zh_developer_recommendation.md ## 积分兑换中心-昇腾社区 - URL: https://www.hiascend.com/developer/rewards - Description: 开发者通过技术内容创作(如代码贡献、技术文章等)积累积分,可以在积分兑换中心进行礼品或者权益的兑换。兑换中心的礼物和福利,不定时更新。 - Keywords: 积分、兑换中心、福利、兑换、礼物 - Detail: llms-content/developer/zh_developer_rewards.md ## 昇腾学堂活动广场-昇腾社区 - URL: https://www.hiascend.com/developer/School-Magnetic-Space - Description: 打造人工智能技术学习平台,做你的技术加油站昇腾学堂包含学习营地(学习AI技术知识主课堂)、活动广场(搭配主课堂建立的活动专区) - Keywords: 昇腾学堂活动广场,昇腾社区,School,Magnetic,Space,DK,Ascend Computing Language,CANN - Detail: llms-content/developer/zh_developer_School-Magnetic-Space.md ## pytorch - URL: https://www.hiascend.com/developer/software/ai-frameworks/pytorch - Keywords: 产品堆栈,开发者日历,获取,开源资源,活动与资讯,PyTorch Ascend Extension,PyTorch,Dtensor - Detail: llms-content/developer/zh_developer_software_ai-frameworks_pytorch.md ## Ascend Extension for PyTorch-文档-昇腾社区 - URL: https://www.hiascend.com/developer/software/ai-frameworks/pytorch/document - Description: 华为昇腾Ascend Extension for PyTorch文档聚合页,涵盖框架特性指南、API参考、环境变量、故障处理等,助力开发者快速掌握昇腾PyTorch适配版本的核心能力、高效完成基于昇腾硬件的AI业务开发 - Keywords: Ascend Extension for PyTorch文档、昇腾PyTorch文档、torch-npu文档 - Detail: llms-content/developer/zh_developer_software_ai-frameworks_pytorch_document.md ## PyTorch Ascend安装部署-昇腾社区 - URL: https://www.hiascend.com/developer/software/ai-frameworks/pytorch/download - Description: PyTorch Ascend下载:昇腾PyTorch适配版本,和PyTorch社区同步发布和演进,支持PyTorch主流三方生态,提供最新版本PyTorch Ascend下载、PyTorch Ascend安装、PyTorch Ascend部署命令,包含物理机、容器、虚拟机场景下,安装驱动、固件、CANN软件、PyTorch框架和torch\_npu插件的方案。 - Keywords: PyTorch,Ascend,安装部署,昇腾社区,TorchNPU,NPU,AI,Ubuntu - Detail: llms-content/developer/zh_developer_software_ai-frameworks_pytorch_download.md ## Ascend Extension for PyTorch-学习-昇腾社区 - URL: https://www.hiascend.com/developer/software/ai-frameworks/pytorch/learn - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: PyTorch,学习,昇腾社区,Ascend Extension,FrameworkPTAdapter,Ascend,MindSpeed,MM - Detail: llms-content/developer/zh_developer_software_ai-frameworks_pytorch_learn.md ## TensorFlow 框架适配-昇腾社区 - URL: https://www.hiascend.com/developer/software/ai-frameworks/tensorflow - Description: 兼容TensorFlow主流深度学习框架,实现TensorFlow网络在昇腾平台上加速执行 - Keywords: 框架适配,昇腾社区,开发场景,开发资源,支持与服务,TensorFlowCommercial,CANNCommunityEdition,Ascendcopdevg - Detail: llms-content/developer/zh_developer_software_ai-frameworks_tensorflow.md ## MindCluster - URL: https://www.hiascend.com/developer/software/mindcluster - Keywords: MindCluster,产品堆栈,关键特性,开发者日历,获取,开源资源,BD,Master - Detail: llms-content/developer/zh_developer_software_mindcluster.md ## MindCluster-文档-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindcluster/document - Description: 华为昇腾MindCluster文档聚合页,涵盖安装指南、快速入门、特性指南等,帮助开发者掌握MindCluster相关知识,为训练和推理任务提供集群级解决方案 - Keywords: MindCluster、集群调度、Toolbox工具、Ascend Deployer、故障诊断、Ascend Faultdiag、MindCluster文档 - Detail: llms-content/developer/zh_developer_software_mindcluster_document.md ## MindCluster安装部署-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindcluster/download - Description: MindCluster下载:华为昇腾MindCluster一站式安装平。提供昇腾设备发现组件、昇腾容器运行时插件,昇腾亲和性调度组件,昇腾指标上报组件,CKPT保存与加载优化插件,昇腾软件一键式安装工具、昇腾硬件性能测试工具、训练任务故障诊断工具的下载、安装、部署命令。 - Keywords: MindCluster,安装部署,昇腾社区,扩展资源,CANN,Runfile,了解详情,下载 - Detail: llms-content/developer/zh_developer_software_mindcluster_download.md ## MindCluster-学习-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindcluster/learn - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: MindCluster,学习,昇腾社区,了解详情,昇腾集群调度,方案 - Detail: llms-content/developer/zh_developer_software_mindcluster_learn.md ## MindCluster-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindcluster/stack - Description: 使能昇腾AI处理器构建集群作业运行全流程,为集群作业调度、运维监控、故障恢复等功能提供系统软件支持 - Keywords: MindCluster,昇腾社区,产品堆栈,关键特性,开源开放专区,开发资源,学习资源,支持与帮助 - Detail: llms-content/developer/zh_developer_software_mindcluster_stack.md ## MindEdge - URL: https://www.hiascend.com/developer/software/mindedge - Keywords: MindEdge,产品堆栈,关键特性,开发者日历,获取,开源资源,BD,MEF Center - Detail: llms-content/developer/zh_developer_software_mindedge.md ## MindEdge-文档-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindedge/document - Description: 华为昇腾MindEdge文档聚合页,涵盖安装指南、使用指导、二次开发指南等,帮助开发者熟悉边缘与云及数据中心协同的边缘计算解决方案,使能用户快速构建边缘AI业务 - Keywords: MindEdge、MEF、OM SDK、Framework、MindEdge Framework、OM SDK使用、OM SDK二次开发、MindEdge文档 - Detail: llms-content/developer/zh_developer_software_mindedge_document.md ## MindEdge-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindedge/feature - Description: 提供轻量化端边云协同使能框架和开放的边缘设备运维管理框架,具备安全、可信、完整的端边云协同以及边缘应用全生命周期管理能力,使能客户快速构建边云协同平台和边缘AI业务 - Keywords: MindEdge,昇腾社区,产品堆栈,关键特性,开源开放专区,开发资源,支持与帮助,MEF Center - Detail: llms-content/developer/zh_developer_software_mindedge_feature.md ## MindEdge-学习-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindedge/learn - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: MindEdge,学习,昇腾社区,查看详情,了解详情,智能助手 - Detail: llms-content/developer/zh_developer_software_mindedge_learn.md ## MindEdge-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindedge/stack - Description: 提供轻量化端边云协同使能框架和开放的边缘设备运维管理框架,具备安全、可信、完整的端边云协同以及边缘应用全生命周期管理能力,使能客户快速构建边云协同平台和边缘AI业务 - Keywords: MindEdge,昇腾社区,产品堆栈,关键特性,开源开放专区,开发资源,支持与帮助,MEF Center - Detail: llms-content/developer/zh_developer_software_mindedge_stack.md ## MindIE - URL: https://www.hiascend.com/developer/software/mindie - Keywords: MindIE,助力昇腾易部,高性能推理,关键特性,开发者日历,获取,开源资源,活动与资讯 - Detail: llms-content/developer/zh_developer_software_mindie.md ## MindIE-文档-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindie/document - Description: 华为昇腾MindIE文档聚合页,涵盖快速入门、部署教程、开发指南、API参考及主流框架适配说明等,助力开发者快速掌握MindIE核心能力、高效完成基于昇腾MindIE的推理业务开发 - Keywords: MindIE、Mind Inference Engine、昇腾MindIE、昇腾推理、MindIE文档、MindIE LLM、MindIE SD、MindIE Motor、MindIE Turbo - Detail: llms-content/developer/zh_developer_software_mindie_document.md ## MindIE安装部署-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindie/download - Description: MindIE下载:MindIE一站式安装页面,提供最新版本MindIE安装部署命令。提供基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能深度学习推理框架。 - Keywords: MindIE,安装部署,昇腾社区,扩展资源,CANN,PyTorch,Torch,Whl - Detail: llms-content/developer/zh_developer_software_mindie_download.md ## MindIE-学习-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindie/learn - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: MindIE,学习,昇腾社区,MLOps,了解详情,小时,课程,初级 - Detail: llms-content/developer/zh_developer_software_mindie_learn.md ## MindIE-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindie/model - Description: 昇腾推理引擎,是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎,分层开放满足各类需求,统一接口使能极简开发,沉淀能力构筑极致性能 - Keywords: MindIE,昇腾社区,助力昇腾易部,高性能推理,关键特性,开源开放专区,开发资源,学习资源 - Detail: llms-content/developer/zh_developer_software_mindie_model.md ## MindIE-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindie/stack-detail - Description: 昇腾推理引擎,是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎,分层开放满足各类需求,统一接口使能极简开发,沉淀能力构筑极致性能 - Keywords: MindIE,昇腾社区,助力昇腾易部,高性能推理,关键特性,开源开放专区,开发资源,学习资源 - Detail: llms-content/developer/zh_developer_software_mindie_stack-detail.md ## MindSDK - URL: https://www.hiascend.com/developer/software/mindsdk - Keywords: MindSDK,产品堆栈,关键特性,开发者日历,获取,开源资源,BD,Vision SDK - Detail: llms-content/developer/zh_developer_software_mindsdk.md ## MindSDK-文档-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindsdk/document - Description: 华为昇腾MindSDK文档聚合页,涵盖安装指南、快速入门等,帮助开发者使用昇腾AI处理器加速的各类AI软件开发套件(SDK),加速高性能AI应用的开发 - Keywords: MindSDK、Rec SDK、Vision SDK、Index SDK、RAG SDK、Multimodal SDK、Agent SDK、Mind Inference Services、搜索推荐、视 - Detail: llms-content/developer/zh_developer_software_mindsdk_document.md ## MindSDK安装部署-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindsdk/download - Description: MindSDK下载:华为昇腾MindSDK安装一站式页面,提供最新版本Rec SDK、Index SDK、 RAG SDK、 Vision SDK、Driving SDK等下载安装部署命令,支持Linux多架构与主流发行版适配,包含物理机、容器等安装形式。 - Keywords: MindSDK,安装部署,昇腾社区,扩展资源,Vision SDK,Index SDK,Rec SDK,RAG SDK - Detail: llms-content/developer/zh_developer_software_mindsdk_download.md ## MindSDK-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindsdk/feature - Description: 沉淀行业能力,使能行业应用极简开发、极致性能,赋能千行百业 - Keywords: MindSDK,昇腾社区,产品堆栈,关键特性,开源开放专区,开发资源,支持与帮助,Vision SDK - Detail: llms-content/developer/zh_developer_software_mindsdk_feature.md ## MindSDK-学习-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindsdk/learn - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: MindSDK,学习,昇腾社区,RAG,Index,Retrieval,Augmented Generation,了解详情 - Detail: llms-content/developer/zh_developer_software_mindsdk_learn.md ## MindSDK-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindsdk/stack - Description: 沉淀行业能力,使能行业应用极简开发、极致性能,赋能千行百业 - Keywords: MindSDK,昇腾社区,产品堆栈,关键特性,开源开放专区,开发资源,支持与帮助,Vision SDK - Detail: llms-content/developer/zh_developer_software_mindsdk_stack.md ## MindSpeed - URL: https://www.hiascend.com/developer/software/mindspeed - Keywords: MindSpeed,产品堆栈,关键特性,开发者日历,获取,开源资源,活动与资讯,LLM - Detail: llms-content/developer/zh_developer_software_mindspeed.md ## MindSpeed-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindspeed/content - Description: 基于昇腾硬件的训练加速库,提供多维度加速算法,支持主流大语言、多模态大模型。 - Keywords: MindSpeed,昇腾社区,产品堆栈,关键特性,开源开放专区,开发资源,学习资源,活动与资讯 - Detail: llms-content/developer/zh_developer_software_mindspeed_content.md ## MindSpeed-文档-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindspeed/document - Description: 华为昇腾MindSpeed文档聚合页,涵盖安装指南、快速入门、迁移指南等,助力开发者快速掌握MindSpeed核心能力、高效完成基于昇腾MindSpeed的AI业务开发 - Keywords: MindSpeed LLM文档、 MindSpeed文档、 MindSpeed MM文档、MindSpeed Core文档、MindSpeed-LLM文档、 MindSpeed文档、MindSpeed - Detail: llms-content/developer/zh_developer_software_mindspeed_document.md ## MindSpeed安装部署-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindspeed/download - Description: MindSpeed下载:华为昇腾MindSpeed安装一站式页面,提供最新版本MindSpeed Core、MindSpeed LLM、MindSpeed MM等下载安装部署命令,提供丰富加速算法和模型,使能训练全流程加速 - Keywords: MindSpeed,安装部署,昇腾社区,扩展资源,CANN,TorchNPU,Atlas,Torch,Megatron - Detail: llms-content/developer/zh_developer_software_mindspeed_download.md ## MindSpeed-学习-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindspeed/learn - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 学习,昇腾社区,MindSpeed LLM,了解详情,小时,课程,中级 - Detail: llms-content/developer/zh_developer_software_mindspeed_learn.md ## MindStudio - URL: https://www.hiascend.com/developer/software/mindstudio - Keywords: MindStudio,助力昇腾高效,关键特性,开发者日历,获取,开源资源,活动与资讯,SDK - Detail: llms-content/developer/zh_developer_software_mindstudio.md ## MindStudio 全流程开发工具链 - URL: https://www.hiascend.com/developer/software/mindstudio/Case - Description: MindStudio是华为面向昇腾AI开发者提供的全流程工具链,致力于提供端到端的昇腾AI应用开发解决方案,使能开发者高效完成训练开发、推理开发和算子开发 - Keywords: MindStudio,全流程开发工具链,助力昇腾高效,开发,关键特性,开源开放专区,实践案例,学习资源 - Detail: llms-content/developer/zh_developer_software_mindstudio_Case.md ## MindStudio-文档-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindstudio/document - Description: 华为昇腾MindStudio文档聚合页,涵盖安装指南、快速入门、用户指南等,助力开发者快速掌握MindStudio核心能力、高效完成基于昇腾MindStudio的AI业务开发 - Keywords: MindStudio、MindStudio 全流程开发工具链、、MindStudio 开发工具链、算子设计 msKPP、算子工程 msOpGen、算子调试 msDebug、算子调优 msOpProf、 - Detail: llms-content/developer/zh_developer_software_mindstudio_document.md ## MindStudio安装部署-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindstudio/download - Description: MindStudio下载:华为昇腾MindStudio安装一站式页面,提供最新训练、推理、算子等场景调试调优工具,支持Linux多架构与主流发行版适配. - Keywords: MindStudio,安装部署,昇腾社区,扩展资源,CANN,下载,了解详情,智能助手 - Detail: llms-content/developer/zh_developer_software_mindstudio_download.md ## MindStudio-学习-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindstudio/learn - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: MindStudio,学习,昇腾社区,了解详情,小时,初级 - Detail: llms-content/developer/zh_developer_software_mindstudio_learn.md ## MindStudio 全流程开发工具链 - URL: https://www.hiascend.com/developer/software/mindstudio/stack - Description: MindStudio是华为面向昇腾AI开发者提供的全流程工具链,致力于提供端到端的昇腾AI应用开发解决方案,使能开发者高效完成训练开发、推理开发和算子开发 - Keywords: MindStudio,全流程开发工具链,助力昇腾高效,开发,关键特性,开源开放专区,实践案例,学习资源 - Detail: llms-content/developer/zh_developer_software_mindstudio_stack.md ## 应用使能-昇腾社区 - URL: https://www.hiascend.com/developer/software/mindx - Description: 昇腾应用使能组件集,包括昇腾亲和的极致性能应用对接SDK、极简易用的平设备纳管/调度/监控/故障诊断/断点续训等平台对接组件、昇腾推理引擎、昇腾大模型训练加速库 - Keywords: 应用使能,昇腾社区,开源开放专区,学习路径,开发资源,学习资源,活动与资讯,支持与帮助 - Detail: llms-content/developer/zh_developer_software_mindx.md ## 用户登录-昇腾社区 - URL: https://www.hiascend.com/developer/submit-ideas - Description: 用户登录 - Keywords: 用户登录,昇腾社区,CAS,了解详情,登录 - Detail: llms-content/developer/zh_developer_submit-ideas.md ## 昇腾开发技术文章-应用案例-技术视频-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles - Description: 提供昇腾相关技术文章、应用案例、文档速递和技术视频,方便用户快速学习成长。 - Keywords: 昇腾开发技术文章,应用案例,技术视频,昇腾社区,官方技术文章,FAQ,Function Call,ID - Detail: llms-content/developer/zh_developer_techArticles.md ## OpenClaw多实例docker部署使用指南-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20211101-5?envFlag=1 - Description: 本文档旨在详细阐述如何在 Docker 环境下,通过 Docker Compose 工具实现 OpenClaw 应用(2026.2.2版本)的多实例部署方案。该方案允许多个 OpenClaw 实例作为独立客户端,并发访问本地的大语言模型推理服务 \(主要以vLLM推理引擎为例\)。每个 OpenClaw 实例均运行于独立的容器之中,拥有独立的配置文件目录,并通过不同的端口提供服务,以确保实例间的相互隔 - Keywords: OpenClaw,多实例,部署使用指南,官方技术文章,昇腾社区,核心组件,环境准备,部署流程 - Detail: llms-content/developer/zh_developer_techArticles_20211101-5.md ## AI实战分享 | 基于CANN的辅助驾驶应用案例-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20220223-1?envFlag=1 - Description: 导读:基于昇腾AI异构计算架构CANN的辅助驾驶AI应用实战开发案例,不仅可以实时检测路面车辆,还能计算出车距,辅助驾驶员进行决策。此项目源码全部开源,传送门已开启,小伙伴们快来体验吧! - Keywords: AI,实战分享,CANN,的辅助驾驶应,用案例,官方技术文章,昇腾社区,导读 - Detail: llms-content/developer/zh_developer_techArticles_20220223-1.md ## 一键抠除路人甲,昇腾CANN带你识破神秘的“AI消除术”-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20220223-2?envFlag=1 - Description: 旅途归来,重温美好却被秀丽河山前的路人甲搅乱了心情;街拍打卡,造型已凹竟被不远处几个垃圾桶抢占了C位;自拍臭美,表情到位但无奈于嘴角的痘痘太强势太出境… 此时,你心急如焚,多希望能一键抠去照片中的多余部分,不留痕迹。 救兵已来,接下来便是见证奇迹的时刻:https://www.hiascend.com/zh/developer/mindx-sdk/imageInpainting 都说人工智能改变了 - Keywords: 一键抠除路人甲,CANN,AI,带你识破神秘,消除术,官方技术文章,昇腾社区,引语 - Detail: llms-content/developer/zh_developer_techArticles_20220223-2.md ## 没想到,学棋五年的我竟然输给了昇腾CANN!-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20220223-3?envFlag=1 - Description: 近日,一位神秘“人物”亮相华为昇腾CANN技术开放日现场,引得众人簇拥,吸粉无数。从现场AI棋艺大战的画面中我们可以看到,一边是眉头紧锁苦苦思考的玩家,一边则是本场的主角----基于昇腾CANN开发的AI对弈机器人。 和一筹莫展的小棋友相比,我们的主角着实看起来起来轻松不少,不仅能在短短十几秒内化解玩家攻势,还能防不胜防精心布局,让胜利的天平逐渐向自己倾斜。整整两天,上百场对弈,竟然未尝一败,真是 - Keywords: 没想到,CANN,学棋五年的我,竟然输给了昇,官方技术文章,昇腾社区,五大模块功能解读,火眼金睛精准 - Detail: llms-content/developer/zh_developer_techArticles_20220223-3.md ## 【CANN5.0黑科技解密】算力虚拟化,让AI普惠万家-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20220223-4 - Description: 近年来,以华为云为代表的云计算平台,为企业和用户提供了安全、便捷的资源共享途径,成为了智能世界的“黑土地”。 在算力就是生产力的时代,随着开源网络模型的日益普及,大家对AI算力的诉求类型也越来越广泛。 例如,在某些算力要求不高的场景下,AI模型在训练或推理时并不需要占用整张AI计算卡,希望更低的资源配置满足要求,比如1/4切片;再或者,在教学场景,一台AI服务器(可由单张或多张计算卡组成)希望可共 - Keywords: CANN,黑科技解密,AI,普惠万家,官方技术文章,昇腾社区,为什么要做算力虚拟化,业界常见虚拟化技术 - Detail: llms-content/developer/zh_developer_techArticles_20220223-4.md ## 官方技术文章 - URL: https://www.hiascend.com/developer/techArticles/20220223-5?envFlag=1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 官方技术文章,By,View Details,了解详情 - Detail: llms-content/developer/zh_developer_techArticles_20220223-5.md ## 【CANN5.0黑科技解密】别眨眼!哆啦A梦的缩小隧道,让你的模型身轻如燕!-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20220223-6 - Description: 随着深度学习的发展,推理模型巨大的参数量和计算量,需要耗费越来越多的硬件资源,也给模型在移动端的部署带来了新的挑战。 能不能像哆啦A梦一样,变出一个缩小隧道,不管再大的模型,塞进去后就能变小变轻,在寸土寸金的AI硬件资源上身轻如燕… 答案是:当然可以! - Keywords: CANN,黑科技解密,别眨眼,哆啦,梦的缩小隧道,让你的模型身,轻如燕,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20220223-6.md ## 模型训练精度就差那么一点点,该如何提升?-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20220223-7 - Description:

当训练模型从其他平台迁移到昇腾AI平台时,由于平台切换不可避免地会遇到模型训练精度相关问题,比如loss曲线、验证准确度不符合预期等等。而这些问题在定位起来还是有不小的难度的,有正在挣扎中的小伙伴么?

在本期“技术分享”中,我们邀请昇腾领域技术专家Alvin,为开发者们分享他在TensorFlow训练模型精度调优过程中的一些经验总结,这其中使用了昇腾AI异构计算架构CANN的最新 - Keywords: 模型训练精度,就差那么一点,该如何提升,官方技术文章,昇腾社区,昇腾 - Detail: llms-content/developer/zh_developer_techArticles_20220223-7.md ## 快,还想再快一点!基于CANN分析和优化TensorFlow模型训练性能-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20220223-8 - Description:

对于模型训练场景,性能调优的目的是提升训练效率,训练效率的直观指标就是吞吐率,如何提高单位时间的吞吐量是CANN需要解决的主要问题。
近期,昇腾领域技术专家Alvin,在昇腾CANN训练营活动中,为开发者们分享了他在模型性能调优过程中的一些经验总结,希望能有助于大家解决实际训练过程中的性能问题,提升训练效率。

- Keywords: CANN,TensorFlow,还想再快一点,分析和优化,模型训练性能,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20220223-8.md ## 【CANN文档速递01期】如何获取昇腾CANN官方文档-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20220228-1 - Description: CANN(Compute Architecture for Neural Networks)作为昇腾处理器的AI异构计算架构,支持业界多种主流的AI框架,包括MindSpore、TensorFlow、Pytorch、Caffe等,并提供上千个高性能算子。 同时,CANN具有开放易用的AscendCL(Ascend Computing Language)编程接口、实现对网络模型进行图级和算子级的编译 - Keywords: CANN,文档速递,如何获取昇腾,官方技术文章,昇腾社区,获取官方文档,获取学习课程,社区资源 - Detail: llms-content/developer/zh_developer_techArticles_20220228-1.md ## 【CANN文档速递02期】TensorFlow一站式模型开发向导-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20220228-2?envFlag=1 - Description: 昇腾910 AI处理器(简称NPU)是华为在2019年发布的人工智能(AI)专用的神经网络处理器。当前业界大多数训练脚本基于TensorFlow的Python API开发,默认运行在CPU/GPU/TPU上,为了使其能够利用昇腾910 AI处理器的澎湃算力执行训练,提升训练性能,我们需要对训练网络脚本进行迁移适配。 - Keywords: CANN,TensorFlow,文档速递,一站式模型开,发向导,官方技术文章,昇腾社区,可能面临的困扰 - Detail: llms-content/developer/zh_developer_techArticles_20220228-2.md ## 【CANN文档速递03期】带你解锁「训练网络精度调优」-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20220228-3 - Description: 昇腾开发者迁移好的模型在昇腾AI处理器上执行训练时,可能会存在如下精度问题: 1.loss曲线与参考基准差异不符合预期 2.验证准确度与参考基准差异不符合预期 这些精度问题往往由于具有以下特征而定位困难: 1.训练正常结束 2.日志无任何异常 3.与参考基准对比时才发现结果不符合预期 - Keywords: CANN,文档速递,带你解锁,训练网络精度,官方技术文章,昇腾社区,精度调优流程,调优前检查 - Detail: llms-content/developer/zh_developer_techArticles_20220228-3.md ## 【CANN文档速递04期】揭秘昇腾CANN算子开发-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20220513-1?envFlag=1 - Description: 本期我们主要带您了解CANN自定义算子的类型,编译、运行逻辑架构,以及算子的开发流程等,让您对CANN算子有宏观的了解。 - Keywords: CANN,文档速递,揭秘昇腾,算子开发,官方技术文章,昇腾社区,自定义算子类,算子编译 - Detail: llms-content/developer/zh_developer_techArticles_20220513-1.md ## 【CANN文档速递05期】一文让您了解什么是算子-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20220513-2 - Description: 深度学习算法由一个个计算单元组成,我们称这些计算单元为算子(Operator,简称OP)。在网络模型中,算子对应层中的计算逻辑,例如:卷积层(Convolution Layer)是一个算子;全连接层(Fully-connected Layer, FC layer)中的权值求和过程,是一个算子。 - Keywords: CANN,文档速递,一文让您了解,什么是算子,官方技术文章,昇腾社区,Name,Type - Detail: llms-content/developer/zh_developer_techArticles_20220513-2.md ## 【CANN文档速递06期】初识TBE DSL算子开发-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20220513-3?envFlag=1 - Description: 昇腾开发者可以基于TBE(Tensor Boost Engine)提供的python接口进行自定义算子开发,TBE算子开发有DSL ( Domain-Specific Language )和TIK ( Tensor Iterator Kernel )两种方式。 - Keywords: CANN,TBE,文档速递,初识,DSL,算子开发,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20220513-3.md ## 训练千亿参数模型的法宝,昇腾CANN异构计算架构来了-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20220527-1 - Description: 盘古的训练以「昇腾AI处理器」为基座,同时借助了「CANN 异构计算架构」,让硬件算力得以充分释放,大大缩短了训练时间! - Keywords: 训练千亿参数,模型的法宝,CANN,异构计算架构,来了,官方技术文章,昇腾社区,什么是 - Detail: llms-content/developer/zh_developer_techArticles_20220527-1.md ## 【CANN文档速递07期】模型转换浅谈-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20220527-2?envFlag=1 - Description: 昇腾张量编译器(Ascend Tensor Compiler,简称ATC)是昇腾CANN架构体系下的模型转换工具。 - Keywords: CANN,文档速递,模型转换浅谈,官方技术文章,昇腾社区,ATC,什么是,它能做什么 - Detail: llms-content/developer/zh_developer_techArticles_20220527-2.md ## 【CANN文档速递08期】应用开发向导-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20220527-3?envFlag=1 - Description: AscendCL(Ascend Computing Language,昇腾计算语言)是昇腾计算开放编程框架,是对底层昇腾计算服务接口的封装,它提供运行时资源(例如设备、内存等)管理、模型加载与执行、算子加载与执行、图片数据编解码/裁剪/缩放处理等API库,实现在昇腾CANN平台上进行深度学习推理计算、图形图像预处理、单算子加速计算等能力。 - Keywords: CANN,文档速递,应用开发向导,官方技术文章,昇腾社区,AscendCL,认识,开发流程 - Detail: llms-content/developer/zh_developer_techArticles_20220527-3.md ## 【CANN文档速递09期】应用开发之推理场景-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20220527-4 - Description: 本期我们来深入讲解网络模型推理场景下,具体怎么做。 - Keywords: CANN,文档速递,应用开发之推,理场景,官方技术文章,昇腾社区,AscendCL,初始化与去初 - Detail: llms-content/developer/zh_developer_techArticles_20220527-4.md ## 【AI玩家养成记 01集】玩AI,你知道昇腾么?-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20220804-1?envFlag=1 - Description:

        你知道当前人工智能面临最大的阻碍是什么么?你知道未来人工智能技术发展趋势是什么么?AI时代背景下,如何扫除眼前障碍,跨越技术鸿沟?一起来看看异构计算架构CANN如何使能昇腾AI提供超高的计算效率的和高效的AI业务构建方式!

- Keywords: AI,玩家养成记,你知道昇腾么,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20220804-1.md ## 【AI玩家养成记 02集】用AI识别邻居家旺财是什么品种-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20220805-1 - Description:

        如今,人工智能简直是无所不能,只需给定主题,便能生成一篇韵律自然的乐府诗;不需要漫画功底,就可将现实世界一键定格成漫画风;仅需扫描图像,就能轻松分类垃圾,彻底解放双手和大脑…好奇宝宝在线么?看完本期视频,教你用AI识别邻居家旺财是什么品种!

- Keywords: AI,玩家养成记,识别邻居家旺,财是什么品种,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20220805-1.md ## 【AI玩家养成记 03集】AI开发者必备!史上最适合新手的昇腾AI环境搭建教程-官方技术文章-Atlas Community - URL: https://www.hiascend.com/developer/techArticles/20220805-2?envFlag=1 - Description:

        AI新手速成!本期视频将全流程演示如何在Atlas 300I推理卡上搭建CANN开发环境,教你轻松搭建昇腾环境,玩转AI,畅享AI开发的无限乐趣!

- Keywords: AI,玩家养成记,开发者必备,史上最适合新,手的昇腾,环境搭建教程,官方技术文章,Atlas - Detail: llms-content/developer/zh_developer_techArticles_20220805-2.md ## 官方技术文章 - URL: https://www.hiascend.com/developer/techArticles/20220817-1?envFlag=1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20220817-1.md ## 官方技术文章 - URL: https://www.hiascend.com/developer/techArticles/20220817-2?envFlag=1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20220817-2.md ## 【独家】被一只机器狗秀到了!当它有了手,又有了昇腾CANN赋能之后...-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20220817-3?envFlag=1 - Description:

机器狗➕AI机械臂智能巡检方案首次亮相,超燃硬核瞬间,尽在昇腾AI开发者创享日·南京站

- Keywords: 独家,被一只机器狗,秀到了,当它有了手,CANN,又有了昇腾,赋能之后,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20220817-3.md ## 大力出奇迹,揭秘昇腾CANN的AI超能力-官方技术文章-Atlas Community - URL: https://www.hiascend.com/developer/techArticles/20221103-1?envFlag=1 - Description: CANN(Compute Architecture for Neural Networks)异构计算架构,是以提升用户开发效率和释放昇腾AI处理器极致算力为目标,专门面向AI场景的异构计算架构。对上支持主流前端框架,向下对用户屏蔽系列化芯片的硬件差异,以全场景、低门槛、高性能的优势,满足用户全方位的人工智能诉求。 - Keywords: 大力出奇迹,CANN,AI,揭秘昇腾,超能力,官方技术文章,Atlas,Community - Detail: llms-content/developer/zh_developer_techArticles_20221103-1.md ## CANN 5.0硬核技术抢先看-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20221103-2 - Description: CANN5.0相比于3.0版本,在典型推理场景,性能可实现30%到140%的提升;大规模集群训练及常用模型训练,更可达到性能翻番!那么,CANN 5.0性能大幅提升背后的关键技术有哪些呢? - Keywords: CANN,硬核技术抢先,官方技术文章,昇腾社区,引言,核心技术铸就极致性能,任务自动流水,算子深度融合 - Detail: llms-content/developer/zh_developer_techArticles_20221103-2.md ## 这就是华为速度:2.69分钟完成BERT训练!新发CANN 5.0加持,还公开了背后技术-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20221103-3?envFlag=1 - Description: 快,着实有点快。 现在,经典模型BERT只需2.69分钟、ResNet只需16秒。 啪的一下,就能完成训练! - Keywords: BERT,CANN,这就是华为速,分钟完成,训练,新发,加持,还公开了背后技术 - Detail: llms-content/developer/zh_developer_techArticles_20221103-3.md ## 昇腾AI异构计算架构CANN 6.0全新开放升级,全面释放AI生产力-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20221114-1?envFlag=1 - Description: 11月9日,在华为全联接大会2022期间,华为正式官宣昇腾AI异构计算架构CANN 6.0版本将在年底正式发布。 - Keywords: AI,CANN,昇腾,异构计算架构,全新开放升级,全面释放,生产力,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20221114-1.md ## 基于昇腾计算语言AscendCL开发AI推理应用-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20230214-1?envFlag=1 - Description: 本文介绍了昇腾计算语言AscendCL的基本概念,并以示例代码的形式介绍了如何基于AscendCL开发AI推理应用,最后配以实际的操作演示说明如何编译运行应用。 - Keywords: AscendCL,AI,基于昇腾计算,语言,开发,推理应用,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20230214-1.md ## 昇腾CANN算子开发揭秘-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20230321-1?envFlag=1 - Description: 本文介绍了CANN自定义算子开发的几种开发方式和算子的编译运行流程。然后以开发一个DSL Add算子为例,讲解算子开发的基本流程。 - Keywords: CANN,算子开发揭秘,官方技术文章,昇腾社区,算子基本概念,二,自定义算子开,发方式 - Detail: llms-content/developer/zh_developer_techArticles_20230321-1.md ## 官方技术文章 - URL: https://www.hiascend.com/developer/techArticles/20230321-2?envFlag=1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20230321-2.md ## 如何查看并读懂昇腾平台的应用日志-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20230321-3?envFlag=1 - Description: 本文介绍了昇腾平台日志分类、日志级别设置、日志内容格式,以及如何获取日志文件的方法。 - Keywords: 如何查看并读,懂昇腾平台的,应用日志,官方技术文章,昇腾社区,了解日志分类,如何获取日志文件,EP - Detail: llms-content/developer/zh_developer_techArticles_20230321-3.md ## 在昇腾平台上对TensorFlow网络进行性能调优-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20230321-4 - Description: 用户将TensorFlow训练网络迁移到昇腾平台后,如果存在性能不达标的问题,就需要进行调优。本文就带大家了解在昇腾平台上对TensorFlow训练网络进行性能调优的常用手段。 - Keywords: TensorFlow,在昇腾平台上,网络进行性能,调优,官方技术文章,昇腾社区,使能自动混合精度,亲和接口替换 - Detail: llms-content/developer/zh_developer_techArticles_20230321-4.md ## 了解AscendCL数据预处理的两种方式:AIPP和DVPP-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20230321-5?envFlag=1 - Description: 本文介绍了昇腾CANN提供的两种数据预处理的方式:DVPP和AIPP,介绍了两者的功能、差别及联系,并以具体代码示例介绍了如何使用DVPP和AIPP的功能。 - Keywords: AscendCL,AIPP,DVPP,数据预处理的,两种方式,官方技术文章,昇腾社区,典型使用场景 - Detail: llms-content/developer/zh_developer_techArticles_20230321-5.md ## 自动调优工具AOE,让你的模型在昇腾平台上高效运行-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20230324-1 - Description: 当算子性能或者网络性能不佳时,可以使用AOE进行调优。本文就带大家了解自动调优工具AOE,让你的模型在昇腾平台上高效运行。 - Keywords: AOE,自动调优工具,让你的模型在,昇腾平台上高,效运行,官方技术文章,昇腾社区,什么是 - Detail: llms-content/developer/zh_developer_techArticles_20230324-1.md ## 官方技术文章 - URL: https://www.hiascend.com/developer/techArticles/20230418-1?envFlag=1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20230418-1.md ## 手把手教你在昇腾平台上搭建PyTorch训练环境-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20230526-1 - Description: 在昇腾平台上运行PyTorch业务时,需要搭建异构计算架构CANN软件开发环境,并安装PyTorch 框架,从而实现训练脚本的迁移、开发和调试。本文就带你了解如何搭建PyTorch训练环境。 - Keywords: PyTorch,手把手教你在,昇腾平台上搭,训练环境,官方技术文章,昇腾社区,环境检查,安装驱动和固件 - Detail: llms-content/developer/zh_developer_techArticles_20230526-1.md ## 基于CANN的AI推理最佳实践丨多路极致性能目标检测应用设计解密-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20230706-1?envFlag=1 - Description: 基于CANN的多路极致性能目标检测最佳实践涉及解密。 - Keywords: CANN,AI,推理最佳实践,丨多路极致性,能目标检测应,用设计解密,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20230706-1.md ## Ascend C背后的魔法:深度理解多核并行/流水计算/dobule buffer技术-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20230807-1?envFlag=1 - Description: 本文试图对隐藏在多核并行,流水计算、dobule buffer背后的CANN Ascend C算子魔法进行摸索和理解,是什么样的技术让用户编写的简单代码可以先实现上述神奇的功能。 - Keywords: Ascend,背后的魔法,深度理解多核,并行,流水计算,官方技术文章,昇腾社区,硬件基础 - Detail: llms-content/developer/zh_developer_techArticles_20230807-1.md ## 推荐几个不错的昇腾AscendCL学习资源-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20230817-1?envFlag=1 - Description: 常有同学留言问我,想要学习昇腾AscendCL开发应该从何入手,有什么教程推荐?于是我就帮大家整理了一些网上的学习资源,分享给大家~ - Keywords: AscendCL,推荐几个不错,的昇腾,学习资源,官方技术文章,昇腾社区,官方文档,书籍 - Detail: llms-content/developer/zh_developer_techArticles_20230817-1.md ## 昇腾Ascend C编程入门教程(纯干货)-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20230830-1?envFlag=1 - Description: 一文get昇腾Ascend C编程入门全部知识点,只需要了解C++编程、理解对列通信与内存申请释放机制、通过调用相应的计算接口与搬运接口,就可以高效写出运行在昇腾AI处理器上的高性能算子。 - Keywords: Ascend,编程入门教程,纯干货,官方技术文章,昇腾社区,AI,昇腾,软硬件基础 - Detail: llms-content/developer/zh_developer_techArticles_20230830-1.md ## Ascend C保姆级教程:我的第一份Ascend C代码-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20230830-2 - Description: Ascend C是昇腾AI异构计算架构CANN针对算子开发场景推出的编程语言,原生支持C和C++标准规范,最大化匹配用户开发习惯;通过多层接口抽象、自动并行计算、孪生调试等关键技术,极大提高算子开发效率,助力AI开发者低成本完成算子开发和模型调优部署。 - Keywords: Ascend,保姆级教程,我的第一份,代码,官方技术文章,昇腾社区,本文提供,从一个简单的实例出发 - Detail: llms-content/developer/zh_developer_techArticles_20230830-2.md ## 昇腾AscendCL推理应用开发入门教程(基于Python语言)-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20231020-1?envFlag=1 - Description: 利用Python语言的AscendCL接口可开发深度学习推理应用,本文将基于ONNX框架的ResNet50模型开发图片分类应用,帮您了解开发AI应用的基本过程。 - Keywords: AscendCL,Python,推理应用开发,入门教程,语言,官方技术文章,昇腾社区,工程创建 - Detail: llms-content/developer/zh_developer_techArticles_20231020-1.md ## 昇腾CANN 7.0 黑科技:大模型训练性能优化之道-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20231020-2 - Description: 目前,大模型凭借超强的学习能力,已经在搜索、推荐、智能交互、AIGC、生产流程变革、产业提效等场景表现出巨大的潜力。大模型经过海量数据的预训练,通常具有良好的通用性和泛化性。用户基于“大模型预训练+微调”开发范式即可在实际业务场景取得理想的效果。从经济成本和时间成本来看,预训练是构筑各种行业模型的主要部分,优化大模型预训练具有非常重要的意义。 - Keywords: CANN,黑科技,大模型训练性,能优化之道,官方技术文章,昇腾社区,充分发挥昇腾算力,提升计算效率 - Detail: llms-content/developer/zh_developer_techArticles_20231020-2.md ## TensorFlow模型训练常见案例-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20231106-1 - Description: 基于TensorFlow的Python API开发的训练脚本默认运行在CPU/GPU/TPU上,为了使这些脚本能够利用昇腾AI处理器的强大算力,需要将其迁移到昇腾平台。 - Keywords: TensorFlow,模型训练常见,案例,官方技术文章,昇腾社区,数据预处理中,存在资源类算,导致训练异常 - Detail: llms-content/developer/zh_developer_techArticles_20231106-1.md ## AOE性能调优问题案例-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20231106-2 - Description: AOE(Ascend Optimization Engine)是一款自动性能调优工具,目的是为了充分利用有限的硬件资源,满足算子和整网的性能要求。 - Keywords: AOE,性能调优问题,案例,官方技术文章,昇腾社区,调优过程中进,程异常退出,问题现象描述 - Detail: llms-content/developer/zh_developer_techArticles_20231106-2.md ## 昇腾CANN 7.0 黑科技:大模型推理部署技术解密-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20231110-1 - Description: 近期,随着生成式AI大模型进入公众视野,越来越多的人意识到抓住AI的爆发就是抓住未来智能化变革的契机。AI基础设施如何快速部署使用,以及如何提升推理性能,逐渐成为众多企业关注的焦点。 - Keywords: CANN,黑科技,大模型推理部,署技术解密,官方技术文章,昇腾社区,自动并行切分,实现大模型分 - Detail: llms-content/developer/zh_developer_techArticles_20231110-1.md ## 昇腾CANN 7.0 黑科技:DVPP硬件加速训练数据预处理,友好解决Host CPU预处理瓶颈-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20231110-2?envFlag=1 - Description: 随着人工智能的快速发展,越来越多的应用场景需要使用机器学习和深度学习模型。AI网络模型的训练一般分成两个关键部分,一个是训练数据预处理,一个是模型训练,如何提升两者的处理性能成为提升模型训练性能的关键。一般情况下,数据加载预处理由host CPU处理,而模型训练计算是在NPU或GPU上处理的,两者一般并行执行,因此训练一次迭代的时间通常是两个处理时间的最大值 - Keywords: CANN,昇腾,DVPP,黑科技,硬件加速训练,数据预处理,Host,友好解决 - Detail: llms-content/developer/zh_developer_techArticles_20231110-2.md ## 好课推荐!Ascend C算子开发课程上线啦!适合新手入门/进阶提升,AI学习叠满BUFF~-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20231114-1 - Description: 昇腾全新推出Ascend C系列视频课程,通过这门课程的学习,您将掌握Ascend C编程语言的核心概念和技巧,了解如何编写高性能AI算子,并利用华为昇腾AI处理器加速您的AI应用。从入门到进阶,让您随时随地开启学习之旅! - Keywords: Ascend,好课推荐,算子开发课程,上线啦,适合新手入门,进阶提升,AI,BUFF - Detail: llms-content/developer/zh_developer_techArticles_20231114-1.md ## DVPP媒体数据处理视频解码问题案例(2)-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20231215-1?envFlag=1 - Description: DVPP(Digital Vision Pre-Processing)是昇腾AI处理器内置的图像处理单元,通过AscendCL媒体数据处理接口提供强大的媒体处理硬加速能力,主要功能包括图像编解码、视频编解码、图像抠图缩放等。 - Keywords: DVPP,媒体数据处理,视频解码问题,案例,官方技术文章,昇腾社区,视频解码丢帧,丢包 - Detail: llms-content/developer/zh_developer_techArticles_20231215-1.md ## 一文掌握Ascend C孪生调试-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20231215-2 - Description: 本文介绍Ascend C孪生调试方法,助力发开者在CPU域模拟NPU域的行为。 - Keywords: Ascend,一文掌握,官方技术文章,昇腾社区,What,什么是孪生调试,How,如何进行调试 - Detail: llms-content/developer/zh_developer_techArticles_20231215-2.md ## 昇腾Profiling性能分析工具使用问题案例-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20231222-1?envFlag=1 - Description: 本期分享几个关于Profiling性能分析工具使用过程中的常见问题案例,并给出原因分析及解决方法。 - Keywords: Profiling,性能分析工具,使用问题案例,官方技术文章,昇腾社区,AI,执行,命令未采集到 - Detail: llms-content/developer/zh_developer_techArticles_20231222-1.md ## Ascend C算子开发常见问题案例-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240106-1?envFlag=1 - Description: Ascend C是CANN针对算子开发场景推出的编程语言,原生支持C和C++标准规范,最大化匹配用户开发习惯;通过自动并行计算、孪生调试等关键技术,极大提高算子开发效率,助力AI开发者低成本完成算子开发和模型调优部署。 本期分享几个Ascend C算子开发过程中常见问题的典型案例,并给出原因分析及解决方法。 - Keywords: Ascend,算子开发常见,问题案例,官方技术文章,昇腾社区,核函数运行验,证时算子存在,精度问题 - Detail: llms-content/developer/zh_developer_techArticles_20240106-1.md ## 中冶赛迪:基于昇腾打造端边云协同的智慧城市视觉应用解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240108-1?envFlag=1 - Description: 目前机器视觉主要聚焦于智慧安防等相关标准化程度高的头部场景,但在产业园区、地下综合管廊、市政交通等领域仍存在大量碎片化场景需求。为满足对大量碎片化场景的统一管理需求,中冶赛迪基于昇腾软硬件平台打造了端边云协同的智慧城市视觉应用解决方案。 - Keywords: 中冶赛迪,基于昇腾打造,端边云协同的,智慧城市视觉,应用解决方案,官方技术文章,昇腾社区,平台亮点 - Detail: llms-content/developer/zh_developer_techArticles_20240108-1.md ## 香橙派AIpro快速上手指南-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240301-1?envFlag=1 - Description: 本文介绍如何快速上手香橙派AIpro - Keywords: AIpro,香橙派,快速上手指南,官方技术文章,昇腾社区,前言,硬件准备,远程登录模式 - Detail: llms-content/developer/zh_developer_techArticles_20240301-1.md ## 香橙派AIpro外设接口样例大全(附源码)-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240307-1?envFlag=1 - Description: 本文介绍香橙派AIpro外设接口相关样例(附源码) - Keywords: AIpro,香橙派,外设接口样例,大全,附源码,官方技术文章,昇腾社区,前言 - Detail: llms-content/developer/zh_developer_techArticles_20240307-1.md ## 香橙派AIpro开发板开箱测评-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240311-1?envFlag=1 - Description: 香橙派AIpro开发板到底长什么样?到底有哪些优势?具体开放了哪些外设接口?搭载昇腾AI处理器后跑AI推理性能咋样?快来一睹为快吧~ - Keywords: AIpro,香橙派,开发板开箱测,官方技术文章,昇腾社区,前言,端到端开箱完整版,快递开箱 - Detail: llms-content/developer/zh_developer_techArticles_20240311-1.md ## 如何基于香橙派AIpro开发AI推理应用-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240326-1 - Description: 本文介绍如何基于香橙派AIpro开发AI推理应用。 - Keywords: AIpro,AI,如何基于香橙,开发,推理应用,官方技术文章,昇腾社区,简介 - Detail: llms-content/developer/zh_developer_techArticles_20240326-1.md ## 如何在香橙派AIpro开发板升级CANN软件包-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240402-1?envFlag=1 - Description: 本文介绍如何在香橙派AIpro开发板升级CANN软件包。 - Keywords: AIpro,CANN,如何在香橙派,开发板升级,软件包,官方技术文章,昇腾社区,ALT - Detail: llms-content/developer/zh_developer_techArticles_20240402-1.md ## 如何基于香橙派AIpro将开源框架模型转换为昇腾模型-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240409-1 - Description: 本文介绍如何基于香橙派AIpro将开源框架模型转换为昇腾模型。 - Keywords: AIpro,如何基于香橙,将开源框架模,型转换为昇腾,模型,官方技术文章,昇腾社区,前言 - Detail: llms-content/developer/zh_developer_techArticles_20240409-1.md ## 如何基于香橙派AIpro对视频/图像数据进行预处理-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240416-1 - Description: 本文章介绍如何基于香橙派AIpro对视频/图像数据进行预处理。 - Keywords: AIpro,如何基于香橙,对视频,图像数据进行,预处理,官方技术文章,昇腾社区,前言 - Detail: llms-content/developer/zh_developer_techArticles_20240416-1.md ## 一文教你如何调用Ascend C算子-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240523-1?envFlag=1 - Description: 本文介绍如何调用Ascend C算子。 - Keywords: Ascend,一文教你如何,调用,算子,官方技术文章,昇腾社区,前言,三种常见的 - Detail: llms-content/developer/zh_developer_techArticles_20240523-1.md ## Ascend C教程文档全新来袭!囊括最佳实践、硬核原理、开发技巧...快来get新技能~-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240531-1?envFlag=1 - Description: 本文介绍Ascend C教程文档的近期改进亮点。 - Keywords: Ascend,教程文档全新,来袭,囊括最佳实践,硬核原理,开发技巧,快来,新技能 - Detail: llms-content/developer/zh_developer_techArticles_20240531-1.md ## 基于Ascend C的FlashAttention算子性能优化最佳实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240607-1?envFlag=1 - Description: 本文介绍基于Ascend C的FlashAttention算子性能优化最佳实践。 - Keywords: Ascend,FlashAttention,算子性能优化,最佳实践,官方技术文章,昇腾社区,前言,算法简介 - Detail: llms-content/developer/zh_developer_techArticles_20240607-1.md ## Ascend C 2.0新特性详解,支撑大模型融合算子高效开发-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240613-1?envFlag=1 - Description: 本文介绍Ascend C 2.0新特性,支撑大模型融合算子高效开发。 - Keywords: Ascend,新特性详解,支撑大模型融,合算子高效开,官方技术文章,昇腾社区,前言,API - Detail: llms-content/developer/zh_developer_techArticles_20240613-1.md ## 深度解读昇腾CANN计算图优化技术,提升算法计算效率-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240621-1?envFlag=1 - Description: 本文主要介绍深度解读昇腾CANN计算图优化技术,提升算法计算效率。 - Keywords: CANN,深度解读昇腾,计算图优化技,提升算法计算效率,官方技术文章,昇腾社区,前言,Eager - Detail: llms-content/developer/zh_developer_techArticles_20240621-1.md ## 深度解读昇腾CANN内存复用技术,降低网络内存占用-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/202407005-1 - Description: 本文深度解读昇腾CANN内存复用技术&\#xff0c;降低网络内存占用 - Keywords: CANN,深度解读昇腾,降低网络内存占用,官方技术文章,昇腾社区,前言,常规内存复用技术,GE - Detail: llms-content/developer/zh_developer_techArticles_202407005-1.md ## 深度解读昇腾CANN多流并行技术,提高硬件资源利用率-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240701-1 - Description: 本文深度解读昇腾CANN多流并行技术&\#xff0c;提高硬件资源利用率。 - Keywords: CANN,深度解读昇腾,提高硬件资源利用率,官方技术文章,昇腾社区,前言,多流并行技术实现,多流并行执行效果 - Detail: llms-content/developer/zh_developer_techArticles_20240701-1.md ## 深度解读昇腾CANN模型下沉技术,提升模型调度性能-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240715-1?envFlag=1 - Description: 本文深度解读昇腾CANN模型下沉技术,提升模型调度性能 - Keywords: CANN,深度解读昇腾,模型下沉技术,提升模型调度性能,官方技术文章,昇腾社区,前言,Host - Detail: llms-content/developer/zh_developer_techArticles_20240715-1.md ## 深度解读昇腾CANN小shape算子计算优化技术,进一步减少调度开销-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240726-1?envFlag=1 - Description: 本文深度解读昇腾CANN小shape算子计算优化技术,进一步减少调度开销。 - Keywords: CANN,深度解读昇腾,算子计算优化,进一步减少调度开销,官方技术文章,昇腾社区,前言,Host - Detail: llms-content/developer/zh_developer_techArticles_20240726-1.md ## 一文了解AOL算子加速库-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240729-1 - Description: 本文介绍AOL算子加速库。 - Keywords: AOL,一文了解,官方技术文章,昇腾社区,前言,为什么需要算子加速库,昇腾基础算子加速库,昇腾融合算子加速库 - Detail: llms-content/developer/zh_developer_techArticles_20240729-1.md ## HCCL——昇腾高性能集合通信库-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240809-1?envFlag=1 - Description: 本文介绍HCCL——昇腾高性能集合通信库 - Keywords: HCCL,昇腾高性能集合通信库,官方技术文章,昇腾社区,前言,什么是,的主要特点,的安装 - Detail: llms-content/developer/zh_developer_techArticles_20240809-1.md ## 基于Ascend C的Matmul算子性能优化最佳实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240816-1 - Description: 本文介绍基于Ascend C的Matmul算子性能优化最佳实践。 - Keywords: Ascend,Matmul,算子性能优化,最佳实践,官方技术文章,昇腾社区,前言,分析主要瓶颈点 - Detail: llms-content/developer/zh_developer_techArticles_20240816-1.md ## Ascend C算子性能优化实用技巧01——流水优化-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240819-1?envFlag=1 - Description: 本文介绍Ascend C算子性能优化实用技巧1:流水优化。 - Keywords: Ascend,算子性能优化,实用技巧,流水优化,官方技术文章,昇腾社区,前言,AI - Detail: llms-content/developer/zh_developer_techArticles_20240819-1.md ## Ascend C算子性能优化实用技巧02——内存优化-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240823-1?envFlag=1 - Description: 本文介绍Ascend C算子性能优化实用技巧02——内存优化。 - Keywords: Ascend,算子性能优化,实用技巧,内存优化,官方技术文章,昇腾社区,前言,AI - Detail: llms-content/developer/zh_developer_techArticles_20240823-1.md ## HCCL集合通信算法开发Hello World示例(超详细)-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240903-1?envFlag=1 - Description: 本文介绍HCCL集合通信算法开发Hello World示例(超详细)。 - Keywords: HCCL,Hello,集合通信算法,开发,World,示例,超详细,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20240903-1.md ## Ascend C算子性能优化实用技巧03——搬运优化-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240906-1?envFlag=1 - Description: 本文介绍Ascend C算子性能优化实用技巧03——搬运优化。 - Keywords: Ascend,算子性能优化,实用技巧,搬运优化,官方技术文章,昇腾社区,前言,尽量一次搬运 - Detail: llms-content/developer/zh_developer_techArticles_20240906-1.md ## 昇腾AI异构计算架构CANN——高效使能AI原生创新-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240914-1?envFlag=1 - Description: 本文介绍昇腾AI异构计算架构CANN——高效使能AI原生创新。 - Keywords: AI,CANN,异构计算架构,高效使能,原生创新,官方技术文章,昇腾社区,前言 - Detail: llms-content/developer/zh_developer_techArticles_20240914-1.md ## Ascend C算子优化实用技巧04——Tiling优化-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240920-1 - Description: 本文介绍Ascend C算子优化实用技巧04——Tiling优化。 - Keywords: Ascend,算子优化实用,技巧,Tiling,优化,官方技术文章,昇腾社区,简介 - Detail: llms-content/developer/zh_developer_techArticles_20240920-1.md ## HCCL集合通信常见问题定位思路-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20240930-1?envFlag=1 - Description: 本文介绍HCCL集合通信常见问题定位思路。 - Keywords: HCCL,集合通信常见,问题定位思路,官方技术文章,昇腾社区,前言,集合通信问题定位难点,了解集合通信 - Detail: llms-content/developer/zh_developer_techArticles_20240930-1.md ## 上课了!老谭带你学习Ascend C,深入浅出,轻松掌握~-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20241012-1?envFlag=1 - Description: 本文介绍老谭带你学习Ascend C,深入浅出,轻松掌握~ - Keywords: Ascend,上课了,老谭带你学习,深入浅出,轻松掌握,官方技术文章,昇腾社区,了解详情 - Detail: llms-content/developer/zh_developer_techArticles_20241012-1.md ## 昇腾CANN 8.0正式发布,多项核心技术引领大模型原生创新-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20241017-1?envFlag=1 - Description: 昇腾CANN 8.0正式发布,多项核心技术引领大模型原生创新 - Keywords: CANN,正式发布,多项核心技术,引领大模型原,生创新,官方技术文章,昇腾社区,前言 - Detail: llms-content/developer/zh_developer_techArticles_20241017-1.md ## 文档上新:集合通信用户指南全新发布,欢迎登录昇腾社区体验~-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20241025-1?envFlag=1 - Description: 文档上新:集合通信用户指南全新发布,欢迎登录昇腾社区体验~ - Keywords: 文档上新,集合通信用户,指南全新发布,欢迎登录昇腾,社区体验,官方技术文章,昇腾社区,前言 - Detail: llms-content/developer/zh_developer_techArticles_20241025-1.md ## Ascend C算子性能优化实用技巧05——API使用优化-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20241107-1?envFlag=1 - Description: 本文介绍Ascend C算子性能优化实用技巧05——API使用优化 - Keywords: Ascend,算子性能优化,实用技巧,API,使用优化,官方技术文章,昇腾社区,简介 - Detail: llms-content/developer/zh_developer_techArticles_20241107-1.md ## 深度学习的分布式训练与集合通信(一)-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20241111-1?envFlag=1 - Description: 本文介绍深度学习的分布式训练与集合通信(一)。 - Keywords: 深度学习的分,布式训练与集,合通信,官方技术文章,昇腾社区,导言,模型训练流程,基础通信操作 - Detail: llms-content/developer/zh_developer_techArticles_20241111-1.md ## 昇腾CANN 8.0基于LLM P-D分离部署方案发布LLM-DataDist组件:高效低成本,简单易集成-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20241114-1?envFlag=1 - Description: 本文介绍昇腾CANN 8.0基于LLM P-D分离部署方案发布LLM-DataDist组件:高效低成本,简单易集成 - Keywords: CANN,昇腾,LLM,分离部署方案,发布,DataDist,组件,高效低成本 - Detail: llms-content/developer/zh_developer_techArticles_20241114-1.md ## 深度学习的分布式训练与集合通信(二)-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20241122-1?envFlag=1 - Description: 本文介绍深度学习的分布式训练与集合通信(二)。 - Keywords: 深度学习的分,布式训练与集,合通信,官方技术文章,昇腾社区,前言,Pipeline,流水并行 - Detail: llms-content/developer/zh_developer_techArticles_20241122-1.md ## Ascend C文档体验再提升!接口更易查、功能更易懂、案例更丰富-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20241211-1 - Description: 本文介绍Ascend C文档体验再提升&\#xff01;接口更易查、功能更易懂、案例更丰富。 - Keywords: Ascend,文档体验再提,接口更易查,功能更易懂,案例更丰富,官方技术文章,昇腾社区,昇腾 - Detail: llms-content/developer/zh_developer_techArticles_20241211-1.md ## HCCL集合通信课程全网首发!四节精讲课程助您快速入门-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20241213-1?envFlag=1 - Description: 本文介绍HCCL集合通信课程全网首发!四节精讲课程助您快速入门。 - Keywords: HCCL,集合通信课程,全网首发,四节精讲课程,助您快速入门,官方技术文章,昇腾社区,了解详情 - Detail: llms-content/developer/zh_developer_techArticles_20241213-1.md ## GE图引擎文档优化上新啦~助您全面了解昇腾图模式开发-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20241216-1 - Description: 本文介绍GE图引擎文档优化上新啦~助您全面了解昇腾图模式开发 - Keywords: GE,图引擎文档优,化上新啦,助您全面了解,昇腾图模式开,官方技术文章,昇腾社区,LINK - Detail: llms-content/developer/zh_developer_techArticles_20241216-1.md ## Ascend C常见问题案例:含有Matmul高层API的算子精度问题-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250107-1?envFlag=1 - Description: 本文介绍Ascend C常见问题案例:含有Matmul高层API的算子精度问题。 - Keywords: Ascend,Matmul,API,常见问题案例,含有,高层,的算子精度问,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20250107-1.md ## 昇腾服务器/昇腾开发板部署DeepSeek-32Bw8a8+Dify知识库应用-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250203-5?envFlag=1 - Description:

基本思想:使用昇腾NPU处理芯片+昇腾Mindie推理框架+embeding分词+排序进行dify支撑,对外部客户使用,因为整套昇腾昇腾处理架构为aarch64位,所以整体docker镜像使用arm镜像,本教程以Atlas 800 9000为基础进行部署和测试,镜像文件和教程仅限于目前官方支持的驱动版本,后续官方有版本更新,一切以昇腾官网为基准;目前测试昇腾的硬件平台都是支持本文部署,抛开项 - Keywords: DeepSeek,昇腾服务器,昇腾开发板部,Bw,Dify,知识库应用,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20250203-5.md ## 深度学习的分布式训练与集合通信(三)-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250207-1?envFlag=1 - Description: 本文介绍深度学习的分布式训练与集合通信(三)。 - Keywords: 深度学习的分,布式训练与集,合通信,官方技术文章,昇腾社区,前言,序列并行,上下文并行 - Detail: llms-content/developer/zh_developer_techArticles_20250207-1.md ## DeepSeek R1应用最佳实践-提示词优化-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250221-1?envFlag=1 - Description: 本次实践是对本地部署的DeepSeek R1模型效果进行Prompt优化,优化后回答效果,从效果丰富度、想象力、稳定性三块均有大幅提升 - Keywords: DeepSeek,应用最佳实践,提示词优化,官方技术文章,昇腾社区,推理模型和通,用模型差异,推理应用输出说明 - Detail: llms-content/developer/zh_developer_techArticles_20250221-1.md ## DeepSeek 应用最佳实践之量化-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250222-1?envFlag=1 - Description: DeepSeek模型当前已验证的量化方法 W8A8量化:DeepSeek-V2-Lite-Chat-16B, DeepSeek-V2-Chat-236B, DeepSeek-V3, DeepSeek-R1 W8A16量化:DeepSeek-V2-Lite-Chat-16B, DeepSeek-V2-Chat-236B 此模型仓已适配的模型版本 Deepseek-V2-Chat - Keywords: DeepSeek,应用最佳实践之量化,官方技术文章,昇腾社区,环境配置,运行前必检,量化权重生成,使用案例 - Detail: llms-content/developer/zh_developer_techArticles_20250222-1.md ## DeepSeek应用最佳实践之蒸馏模型-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250224-1 - Description: 知识蒸馏模型是什么&\#xff1f;知识蒸馏&\#xff08;Knowledge Distillation&\#xff09;是一种通过“师生学习”框架提升模型效率的技术。其核心思想是将一个庞大且高性能的“教师模型”的知识&\#xff08;如逻辑推理能力、语义理解等&\#xff09;迁移到更轻量的“学生模型”中。通常&\#xff0c;教师模型通过生成软标签&\#xff08;Soft Labels&\#xff0c;包 - Keywords: DeepSeek,应用最佳实践,之蒸馏模型,官方技术文章,昇腾社区,蒸馏模型,模型权重下载,MindIE - Detail: llms-content/developer/zh_developer_techArticles_20250224-1.md ## 昇腾DeepSeek模型部署优秀实践及FAQ-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250224-2?envFlag=1 - Description: 2024年12月26日,DeepSeek-V3横空出世,以其卓越性能备受瞩目。该模型发布即支持昇腾,用户可在昇腾硬件和MindIE推理引擎上实现高效推理,但在实际操作中,部署流程与常见问题困扰着不少开发者。本文将为你详细阐述昇腾 DeepSeek 模型部署的优秀实践,同时解答常见问题。 - Keywords: DeepSeek,FAQ,模型部署优秀,实践及,官方技术文章,昇腾社区,在昇腾上的模,型部署优秀实 - Detail: llms-content/developer/zh_developer_techArticles_20250224-2.md ## 一文吃透模型量化,解锁DeepSeek轻量级部署密码-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250225-1 - Description: 小伙伴们&\#xff0c;最近 AI 圈可以说是被新晋“顶流”DeepSeek刷屏了&\#xff0c;新发布的 V3/R1 系列模型&\#xff0c;直接在全球火出圈&\#xff0c;它的性能强劲到足以和全球那些顶尖模型一较高下&\#xff01;不过你知道吗&\#xff1f;虽然网络版和App版已经足够好用&\#xff0c;但只有把模型搬进自家地盘&\#xff0c;进行本地部署&\#xff0c;你才能享受到真正的“ - Keywords: 一文吃透模型量化,DeepSeek,解锁,轻量级部署密,官方技术文章,昇腾社区,什么是大模型量化,减少内存 - Detail: llms-content/developer/zh_developer_techArticles_20250225-1.md ## 手把手教你玩转DeepSeek-R1量化模型-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250225-2?envFlag=1 - Description: 2024年2月4日,DeepSeek V3、R1模型快速已昇腾社区,献上开工大礼,包括DeepSeek-V3、R1、Janus-Pro以及基于DeepSeek-R1的6个蒸馏模型已全面适配昇腾开箱部署。为了更好提升推理性能,让企业使用DeepSeek模型服务更高效,昇腾提供了DeepSeek INT8量化模型,欢迎开发者从昇腾社区获取使用。 - Keywords: DeepSeek,手把手教你玩,量化模型,官方技术文章,昇腾社区,模型支持及设备选型,硬件要求,模型权重 - Detail: llms-content/developer/zh_developer_techArticles_20250225-2.md ## MindIE+香橙派,边缘开发板部署DeepSeek系列蒸馏模型-官方技术文章-Atlas Community - URL: https://www.hiascend.com/developer/techArticles/20250225-3?envFlag=1 - Description: 让DeepSeek系列蒸馏模型跑在香橙派上 - Keywords: MindIE,香橙派,DeepSeek,边缘开发板部,系列蒸馏模型,官方技术文章,Atlas,Community - Detail: llms-content/developer/zh_developer_techArticles_20250225-3.md ## ZStack智塔+昇腾AI,支持DeepSeek三种模型私有化部署-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250225-4?envFlag=1 - Description: DeepSeek为人工智能AI产业带来一场革命,为企业级AI应用私有化部署场景(Private AI)注入强劲动力。作为企业级私有化AI Infra平台,云轴科技ZStack智塔携手昇腾AI实现了DeepSeek V3/R1/ Janus Pro三种模型的高效部署,并充分发挥DeepSeek开源模型和低成本高性能特点,为企业提供安全高效的AI基础设施方案,进一步推动AI的企业级商用进程。 - Keywords: ZStack,AI,智塔,昇腾,DeepSeek,三种模型私有,化部署,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20250225-4.md ## 昇腾MindStudio全流程工具链助力移动智能家居解决方案快速上线-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250227-1?envFlag=1 - Description: MindStudio推理调试调优工具、模型压缩工具助力解决智家中心模型适配精度问题与资源优化问题,保障模型快速部署,显著提升推理性能。昇腾联合中国移动,助力AI服务触手可及。 - Keywords: MindStudio,全流程工具链,助力移动智能,家居解决方案,快速上线,官方技术文章,昇腾社区,调试调优工具 - Detail: llms-content/developer/zh_developer_techArticles_20250227-1.md ## 昇腾CANN《AOL算子加速库文档》上新,快来昇腾社区文档中心体验吧!-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250303-1?envFlag=1 - Description: 昇腾CANN《AOL算子加速库文档》上新,快来昇腾社区文档中心体验吧! - Keywords: CANN,AOL,算子加速库文,上新,快来昇腾社区,文档中心体验,官方技术文章,昇腾社区,前言 - Detail: llms-content/developer/zh_developer_techArticles_20250303-1.md ## 科大讯飞率先实现昇腾算力大规模跨节点专家并行集群推理大EP,单卡吞吐提升超3倍,时延降低超50%-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250311-1?envFlag=1 - Description: 近日,科大讯飞率先实现昇腾算力大规模跨节点专家并行集群推理,这是继DeepSeek公布其MoE模型训练推理方案后,业界首个基于自研算力的全新解决方案。 - Keywords: EP,科大讯飞率先,实现昇腾算力,大规模跨节点,专家并行集群,推理大,单卡吞吐提升,时延降低超 - Detail: llms-content/developer/zh_developer_techArticles_20250311-1.md ## MindIE自动化部署工具,支持DeepSeek满血版部署,十倍效率提升-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250312-1?envFlag=1 - Description: 这是一篇正经的种草文章,全文阅读约3分钟,但是可为您之后用到集群部署时节省10小时以上的时间,集群规模越大节省时间越多。 - Keywords: MindIE,自动化部署工,DeepSeek,满血版部署,十倍效率提升,官方技术文章,昇腾社区,这是一篇正经 - Detail: llms-content/developer/zh_developer_techArticles_20250312-1.md ## 基于Atlas 800I A2的RAG端到端实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250313-1 - Description: 随着DeepSeek在各行业快速应用落地&\#xff0c;如何基于DeepSeek构建上层业务应用已成为推动行业进步的关键&\#xff0c;开源社区提供了很多可选的应用套件&\#xff0c;本文以Dify为例&\#xff0c;介绍了从0开始基于DeepSeek蒸馏模型&\#xff0c;构建RAG系统的端到端实践。 - Keywords: Atlas,RAG,端到端实践,官方技术文章,昇腾社区,什么是,二,TEI - Detail: llms-content/developer/zh_developer_techArticles_20250313-1.md ## 官方技术文章 - URL: https://www.hiascend.com/developer/techArticles/20250325-1?envFlag=1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20250325-1.md ## vLLM核心加速特性全量支持昇腾-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250403-1?envFlag=1 - Description: 2025年迎来推理应用的持续爆发。开源社区vLLM提供了一系列的大模型推理加速技术,得到用户的支持与认可,越来越多应用基于vLLM构建和部署。近日,昇腾联合vLLM社区,推出全新的多样化算力接入机制,并创建vLLM昇腾开源项目,率先在昇腾上完成了最佳实践,使能vLLM全面支持昇腾推理。 - Keywords: LLM,核心加速特性,全量支持昇腾,官方技术文章,昇腾社区,昇腾首创多样,化算力动态加,载接入机制 - Detail: llms-content/developer/zh_developer_techArticles_20250403-1.md ## 【昇腾大规模专家并行技术解码】All to All 通信优化-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250408-1?envFlag=1 - Description: 随着DeepSeek火爆全网,混合专家(Mixture of Experts, MoE)技术也成功出圈。凭借优秀的性能,MoE成为大语言模型(LLM)界的顶流。在各行各业加速接入国产开源大模型DeepSeek的同时,人工智能领域大范围落地应用也带来了庞大的算力需求,业界的大模型推理系统开始采用大规模专家并行方案,大规模专家并行集群推理能够提升吞吐和降低时延,也在推理过程中带来了通信时延长、负载不均 - Keywords: 昇腾大规模专,家并行技术解,通信优化,官方技术文章,昇腾社区,传统专家并行,架构的挑战,的不足 - Detail: llms-content/developer/zh_developer_techArticles_20250408-1.md ## 昇腾 DeepSeek:基于昇思MindSpore的Janus-Pro开发实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250414-1?envFlag=1 - Description: 我们基于昇思MindSpore AI框架和MindSpore NLP套件在香橙派AIpro(20T)24G开发板上,部署了Janus-Pro 模型,希望通过我们的努力,能够为 AI 社区的发展贡献一份力量,让更多人能够参与到 AI 的浪潮中来。 - Keywords: 昇腾,DeepSeek,MindSpore,Janus,基于昇思,Pro,开发实践,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20250414-1.md ## 基于香橙派AIpro的MindSpore快速入门-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250422-1?envFlag=1 - Description: 本案例介绍在OrangePi AIpro开发板上基于MindSpore框架快速完成手写体数字识别的训练推理实验。 - Keywords: AIpro,MindSpore,基于香橙派,快速入门,官方技术文章,昇腾社区,引言,环境准备 - Detail: llms-content/developer/zh_developer_techArticles_20250422-1.md ## 基于香橙派AIpro+MindSpore实现ResNet50图像分类-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250422-2?envFlag=1 - Description: 图像分类是最基础的计算机视觉应用,属于有监督学习类别,如给定一张图像,判断图像所属的类别。本案例介绍在OrangePi AIpro开发板上基于MindSpore框架使用ResNet50对CIFAR-10数据集进行分类。 - Keywords: AIpro,MindSpore,ResNet,基于香橙派,图像分类,官方技术文章,昇腾社区,引言 - Detail: llms-content/developer/zh_developer_techArticles_20250422-2.md ## 基于香橙派AIpro开发板+MindSpore实现FCN语义分割-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250422-3 - Description: 图像语义分割&\#xff08;semantic segmentation&\#xff09;是图像处理和机器视觉技术中关于图像理解的重要一环&\#xff0c;AI领域中一个重要分支&\#xff0c;常被应用于人脸识别、物体检测、医学影像、卫星图像分析、自动驾驶感知等领域。本案例介绍在OrangePi AIpro开发板上基于MindSpore框架使用FCN对VOC2012数据集进行分类。 - Keywords: AIpro,MindSpore,FCN,基于香橙派,开发板,语义分割,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20250422-3.md ## 【昇腾大规模专家并行技术解码】PD分离,让推理性能再提速30%!-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250423-1 - Description: 随着大语言模型&\#xff08;LLM&\#xff09;的快速发展&\#xff0c;提升用户体验、增加吞吐和并发成为关键。昇腾推出大规模专家并行推理方案&\#xff0c;通过优化专家分布、通信计算加速&\#xff0c;将单卡吞吐提升了3倍以上。然而&\#xff0c;LLM的Prefill和Decode阶段“混合部署”在吞吐和时延上仍存在瓶颈&\#xff0c;针对这一问题&\#xff0c;昇腾使用PD分离技术&\#x - Keywords: PD,昇腾大规模专,家并行技术解,分离,让推理性能再,提速,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20250423-1.md ## 官方技术文章 - URL: https://www.hiascend.com/developer/techArticles/20250424-1?envFlag=1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20250424-1.md ## 基于香橙派AIpro+MindSpore实现GAN图像生成-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250424-2 - Description: 生成式对抗网络\(Generative Adversarial Networks&\#xff0c;GAN\)是一种生成式机器学习模型&\#xff0c;是近年来复杂分布上无监督学习最具前景的方法之一。本案例介绍在OrangePi AIpro开发板上基于MindSpore框架实现GAN图像生成。 - Keywords: AIpro,MindSpore,GAN,基于香橙派,图像生成,官方技术文章,昇腾社区,引言 - Detail: llms-content/developer/zh_developer_techArticles_20250424-2.md ## 基于香橙派AIpro+MindSpore实现Qwen聊天机器人-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250424-3?envFlag=1 - Description: 通义千问Qwen是阿里云自主研发的大语言模型,Qwen-1.5-0.5B 为其轻量版,拥有5亿参数,具备低成本和高效文本生成能力。适用于文字创作、文本处理、编程辅助、翻译服务和对话模拟等场景。在案例介绍在OrangePi AIpro开发板上基于MindSpore框架实现Qwen-1.5-0.5B模型,体验和模型的对话互动,完成和聊天机器人对话。 - Keywords: AIpro,MindSpore,Qwen,基于香橙派,聊天机器人,官方技术文章,昇腾社区,引言 - Detail: llms-content/developer/zh_developer_techArticles_20250424-3.md ## 昇腾CANN集合通信技术解读——细粒度分级流水算法-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250427-1 - Description: 在分级网络中&\#xff0c;采用Server内Server间的分级算法往往存在带宽利用率低的问题&\#xff0c;昇腾CANN通过HCCL细粒度分级流水算法可有效提升算法性能&\#xff0c;本文将围绕该技术展开详细介绍&\#xff0c;使能高性能分布式训练与推理业务。 - Keywords: CANN,集合通信技术,解读,细粒度分级流水算法,官方技术文章,昇腾社区,引言,简单分级算法 - Detail: llms-content/developer/zh_developer_techArticles_20250427-1.md ## 【昇腾大规模专家并行技术解码】CANN独创NB 2.0通信算法,MoE模型集合通信性能倍增-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250428-1?envFlag=1 - Description: 在超节点架构下引入NB 2.0通信算法,通过软硬协同实现MoE模型跨节点通信性能突破。 - Keywords: CANN,NB,昇腾大规模专,家并行技术解,独创,通信算法,MoE,模型集合通信 - Detail: llms-content/developer/zh_developer_techArticles_20250428-1.md ## 南方航空+DeepSeek+昇腾,探索人工智能算力底座实践新路径-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250429-1 - Description: 当前&\#xff0c;以DeepSeek为代表的人工智能大模型蓬勃发展&\#xff0c;为各行各业带来了深刻变化和新的发展机遇。基于南方航空数字化转型对于人工智能的战略要求&\#xff0c;算力底座的建设成为至关重要的支撑项目&\#xff0c;是加速构建航司AI能力的坚实基础。为抢抓技术变革窗口期&\#xff0c;南航数科携手昇腾&\#xff0c;完成了基于昇腾算力底座的千亿参数大模型“DeepSeekR1- - Keywords: DeepSeek,南方航空,探索人工智能,算力底座实践,新路径,官方技术文章,昇腾社区,前言 - Detail: llms-content/developer/zh_developer_techArticles_20250429-1.md ## 昇腾多模态SDK视频总结问答应用开发实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/202505016-1?envFlag=1 - Description: 多模态视频总结问答应用实际。本应用以Atlas 800I A2推理产品为硬件平台;基于多模态SDK、RAG SDK的加速能力提供多模态视频总结问答微服务;结合开箱即用的推理微服务共同提供一个视频总结问答应用。 - Keywords: SDK,昇腾多模态,视频总结问答,应用开发实践,官方技术文章,昇腾社区,简介,多模态视频总 - Detail: llms-content/developer/zh_developer_techArticles_202505016-1.md ## 10分钟快速搭建基于推理微服务的RAG对话机器人应用-官方技术文章-Atlas Community - URL: https://www.hiascend.com/developer/techArticles/20250521-2?envFlag=1 - Description: 10分钟快速搭建基于推理微服务的RAG对话机器人应用 - Keywords: RAG,分钟快速搭建,基于推理微服,务的,对话机器人应,官方技术文章,Atlas,Community - Detail: llms-content/developer/zh_developer_techArticles_20250521-2.md ## 【CANN全新升级】CANN创新MLAPO算子,DeepSeek模型推理效率倍增-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250526-1?envFlag=1 - Description: 创新MLAPO算子,融合MLA前处理阶段十三个小算子,计算优化释放硬件算力,提升DeepSeek系列模型性能。 - Keywords: CANN,MLAPO,全新升级,创新,算子,DeepSeek,模型推理效率,倍增 - Detail: llms-content/developer/zh_developer_techArticles_20250526-1.md ## 基于应用使能套件的行业模型微调实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250526-2 - Description: 目前业界的模型微调实践主要集中在特定任务&\#xff0c;行业模型的开发实践较少&\#xff0c;一方面由于领域知识复杂、高质量数据稀缺、模型性能难以评估导致开发技术要求高、流程复杂&\#xff0c;另一方面行业模型开发完成通常会直接应用该领域&\#xff0c;导致开发细节较少公开。 本文以法律行业为背景&\#xff0c;介绍利用应用使能套件开发行业模型微调训练的端到端流程&\#xff0c;开发的模型在Law - Keywords: 基于应用使能,套件的行业模,型微调实践,官方技术文章,昇腾社区,引言,实践任务介绍,资源依赖和评估结果 - Detail: llms-content/developer/zh_developer_techArticles_20250526-2.md ## 基于香橙派AIpro+MindSpore的DeepSeek-R1-Distill- Qwen1.5B开发实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250526-20 - Description: 本案例是在香橙派AIpro开发板&\#xff08;20T\\24G&\#xff09;部署DeepSeek-R1-Distill-Qwen-1.5B模型&\#xff0c;模型的推理过程转化为一个可交互的对话机器人&\#xff0c;以增强用户体验和实用性。 - Keywords: AIpro,MindSpore,DeepSeek,基于香橙派,Distill,Qwen,开发实践,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20250526-20.md ## CANN全面开放,解锁创新范式,定义智能未来-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250527-1?envFlag=1 - Description: CANN(Compute Architecture for Neural Networks)作为昇腾AI的核心基础软件平台,搭起了AI框架与昇腾硬件的桥梁,始终以“使能每一位创新者”为目标,坚持深度开放策略,持续技术创新,释放硬件极致潜能,推动AI开发效率与性能的双重突破。 - Keywords: CANN,全面开放,解锁创新范式,定义智能未来,官方技术文章,昇腾社区,Ascend,开源 - Detail: llms-content/developer/zh_developer_techArticles_20250527-1.md ## 【CANN全新升级】毕昇编译器全新升级,开放AscendNPU IR,全面支持Triton-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250529-1?envFlag=1 - Description: 毕昇编译器以“全链路优化+生态兼容”为核心,打造开发者友好型工具链。在编译优化层面,前端支持异构混合编程编译,使能高性能Ascend C算子开发;中端通过昇腾亲和优化技术,提升算子性能20%以上;后端实现内存问题的分钟级定位。同时,开放AscendNPU IR接口,为开发者带来“快速开发”的编程体验,通过开源社区持续输出前沿技术能力,无感对接Triton、FlagTree等第三方编程框架,共建开放 - Keywords: CANN,全新升级,毕昇编译器全,新升级,AscendNPU,开放,IR,Triton - Detail: llms-content/developer/zh_developer_techArticles_20250529-1.md ## 【CANN全新升级】CATLASS算子模板库分层设计,助力GEMM类算子开发效率翻倍-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250604-1?envFlag=1 - Description: CATLASS昇腾算子模板库,采用分层模块化设计,通过将GEMM计算解耦为数据分块策略、计算单元配置等多个可灵活组合的功能组件,构建了一套支持快速搭建与组合的开发范式。开发者能够基于模块化组装方式,快速完成计算流水线编排。同时,也可以根据具体硬件特性和计算需求,灵活定制计算内核实现方案,在确保高性能的同时,显著提升开发效率。 - Keywords: CANN,CATLASS,全新升级,算子模板库分,层设计,GEMM,助力,类算子开发效 - Detail: llms-content/developer/zh_developer_techArticles_20250604-1.md ## 联创首发-基于昇腾MindSpeed MM玩转Open-Sora Plan V1.5模型-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250605-1?envFlag=1 - Description: 文生视频(Text-to-Video)技术的迅猛发展提升了内容生产的效率,催生了从影视制作到广告设计等多个领域的多样化创意需求,更赋予普通人以强大的创作能力,使“人人皆可创作”成为可能。Open-Sora Plan系列模型自2024年3月首次发布以来,凭借其开放的技术架构和出色的生成能力,迅速吸引了学术界与工业界的广泛关注与支持。在北京大学深圳研究生院袁粒团队与昇腾研发团队的共同努力下,2025年 - Keywords: 联创首发,MindSpeed,基于昇腾,MM,Open,玩转,Sora,Plan - Detail: llms-content/developer/zh_developer_techArticles_20250605-1.md ## 昇腾CANN LLM-DataDist开发指南全新发布,快来社区体验吧-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250605-2 - Description: 本文介绍昇腾CANN LLM-DataDist开发指南全新发布的相关内容 - Keywords: CANN,昇腾,LLM,DataDist,开发指南全新,发布,快来社区体验吧,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20250605-2.md ## 东南大学携手DeepSeek与昇腾,点亮学术探索新灯塔-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250606-1?envFlag=1 - Description: 在科技迅猛发展的当下,人工智能已成为推动学术进步的核心动力。东南大学始终站在教育与科技融合的前沿,在人工智能算力服务及应用探索方面超前布局规划,驱动AI成为高校学术创新的核心引擎。 - Keywords: DeepSeek,东南大学携手,与昇腾,点亮学术探索新灯塔,官方技术文章,昇腾社区,昇腾率先部署,高校 - Detail: llms-content/developer/zh_developer_techArticles_20250606-1.md ## MindSpeed加速特性-Swap&DualPipeV,实现训练内存优化20%+,通信掩盖比例高达85%+-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250610-1?envFlag=1 - Description: MoE大模型的参数和所需要的AI集群规模持续摸高,模型训练的内存占用大和通信时延高等问题成为大参数模型训练的核心瓶颈,MindSpeed基于昇腾硬件特点,实现了Swap内存交换和DualPipeV流水排布特性,让内存在CPU和NPU之间高效交换,All2All通信与无依赖关系的计算相互掩盖,支撑更大规模的模型训练对内存和通信掩盖的需求。 - Keywords: MindSpeed,加速特性,Swap,DualPipeV,实现训练内存,优化,通信掩盖比例,高达 - Detail: llms-content/developer/zh_developer_techArticles_20250610-1.md ## Ascend C矢量编程文档升级:带你掌握多核复杂场景下的Tiling数据切分-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250611-2?envFlag=1 - Description: Ascend C矢量编程文档升级:带你掌握多核复杂场景下的Tiling数据切分 - Keywords: Ascend,Tiling,矢量编程文档,升级,带你掌握多核,复杂场景下的,数据切分,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20250611-2.md ## 基于香橙派AIpro+MindSpore实现MiniCPM聊天机器人-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250612-1?envFlag=1 - Description: 在本次实践中,我们将基于昇思MindSpore在香橙派开发板上运行MiniCPM3-4B模型,体验和模型的对话互动,完成和聊天机器人对话。 - Keywords: AIpro,MindSpore,MiniCPM,基于香橙派,聊天机器人,官方技术文章,昇腾社区,引言 - Detail: llms-content/developer/zh_developer_techArticles_20250612-1.md ## CCAE智能运维,助力昇腾384超节点超可靠-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250613-1?envFlag=1 - Description: CCAE(集群自智引擎)运维软件,助力超节点有效管理和快速除患排障。CCAE通过一键式健康检查、集群故障快速诊断、自动优雅隔离故障光模块、Pingmesh的静默丢包检测算法、ZTP零配置自动部署等特性,实现超节点健康长稳运行。 - Keywords: CCAE,智能运维,助力昇腾,超节点超可靠,官方技术文章,昇腾社区,大规模集群管,理和运维挑战 - Detail: llms-content/developer/zh_developer_techArticles_20250613-1.md ## 昇腾推理微服务MIS:2步部署高性能模型服务,AI应用小时级构建-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250619-1?envFlag=1 - Description: 昇腾推理微服务MIS内置多引擎配置,多硬件调优,弹性化扩展,实现2步部署模型服务,助力用户小时级构建AI应用。 - Keywords: MIS,昇腾推理微服,步部署高性能,模型服务,AI,应用小时级构,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20250619-1.md ## 基于昇腾MindSpeed LLM的大模型微调训练实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250623-1 - Description: 近年来&\#xff0c;大语言模型的技术发展呈现出两大特征&\#xff1a;模型参数规模增大&\#xff0c;从百亿千亿到万亿参数&\#xff1b;模型架构持续优化&\#xff0c;从密集参数向混合专家&\#xff08;MoE&\#xff09;等高效架构演进。同时&\#xff0c;微调技术取得重要突破&\#xff0c;以R1范式为代表的推理增强型方法通过思维链数据注入和强化学习优化&\#xff0c;显著提升了模型的专 - Keywords: MindSpeed,基于昇腾,LLM,的大模型微调,训练实践,官方技术文章,昇腾社区,微调训练关键 - Detail: llms-content/developer/zh_developer_techArticles_20250623-1.md ## 【昇腾热点算子大解密】消除冗余计算,释放硬件潜力,FlashAttention如何在大模型训练提速30%-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250625-1 - Description: 在当下大模型技术的前沿探索中&\#xff0c;多头潜在注意力&\#xff08;Multi-Head Latent Attention, MLA&\#xff09;架构凭借其卓越的算效优势和经济性效益&\#xff0c;已逐步跻身基座模型设计的标杆方案。为充分发挥MLA架构的潜能&\#xff0c;创新性地提出了Redundancy-Eliminated Cache Tiling FA&\#xff08;RECT-FA - Keywords: 昇腾热点算子,大解密,消除冗余计算,释放硬件潜力,FlashAttention,如何在大模型,训练提速,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20250625-1.md ## 昇腾MindSpeed MM支持全模态大模型分布式训练-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250626-1?envFlag=1 - Description: 2025年3月底通义系列首个端到端全模态大模型通义千问Qwen2.5-Omni-7B开源发布,可同时处理文本、图像、音频和视频等多种输入,并实时生成文本与自然语音合成输出。在权威的多模态融合任务OmniBench等测评中,Qwen2.5-Omni刷新业界纪录,全维度远超业界Gemini-1.5-Pro等同类模型。其音频、文本、视觉多个模态编码及Thinker-Talker双核架构需超大规模集群高效 - Keywords: MindSpeed,MM,支持全模态大,模型分布式训,官方技术文章,昇腾社区,Qwen,Omni - Detail: llms-content/developer/zh_developer_techArticles_20250626-1.md ## 如何高效处理Ascend C非对齐数据?优化技巧全解析-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250627-1?envFlag=1 - Description: 本文介绍如何高效处理Ascend C非对齐数据。 - Keywords: Ascend,如何高效处理,非对齐数据,优化技巧全解,官方技术文章,昇腾社区,引言,数据非对齐的典型场景 - Detail: llms-content/developer/zh_developer_techArticles_20250627-1.md ## verl支持昇腾,加速大模型RL后训练创新-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250628-1?envFlag=1 - Description: 现如今,深度思考能力已成为模型的必备能力,强化学习已成为激活大模型深度思考的必经之路,昇腾积极拥抱主流生态,支持开源RL训练库verl,包括主流RL算法(如GRPO)和训练推理后端(如FSDP/vLLM)。未来,昇腾将持续发挥其基础软硬件能力优势,进一步扩展对多种主流训练后端、训练加速特性、RL算法及主流模型的适配支持,致力于为用户提供基于昇腾NPU的强大verl强化学习后训练平台,赋能大模型后训 - Keywords: RL,加速大模型,后训练创新,官方技术文章,昇腾社区,支持昇腾特性,进展速览,GRPO - Detail: llms-content/developer/zh_developer_techArticles_20250628-1.md ## 官方技术文章 - URL: https://www.hiascend.com/developer/techArticles/20250630-1?envFlag=1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20250630-1.md ## 【昇腾热点算子大解密】CANN创新MoE融合算子,巧用排序算法优化,计算性能实现近4倍提升-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250702-1?envFlag=1 - Description: 在MoE模型中,每个输入(Token)会通过路由门控动态选择Top-K个专家对其进行处理。预先对Token进行重排(Permute)与反重排(Unpermute)的排序处理,使得属于同一专家的Token在内存中连续存储,可以有效降低通信消耗,提升训练吞吐。基于传统的排序算法,结合昇腾微架构特性,通过优化算法逻辑,以及将多个细粒度小算子融合,创新了具备重排与反重排功能的融合算子MoeTokenPer - Keywords: CANN,MoE,昇腾热点算子,大解密,创新,融合算子,巧用排序算法优化,计算性能实现 - Detail: llms-content/developer/zh_developer_techArticles_20250702-1.md ## 开源即支持!基于昇腾MindSpeed MM玩转GLM-4.1V-Thinking多模态理解最新模型-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250702-2 - Description: 当前&\#xff0c;多模态模型正从感知走向认知。通过引入强化学习机制&\#xff0c;提升模型的推理能力&\#xff0c;已成为提升多模态问答准确性与生成质量的重要路径。2025年7月2日&\#xff0c;智谱正式发布GLM-4.1V-Thinking系列模型&\#xff0c;其10B参数级别的视觉语言模型在兼顾部署效率的同时实现性能突破。MindSpeed MM首次实现了对GLM多模态理解模型的无缝支持 - Keywords: MindSpeed,开源即支持,基于昇腾,MM,GLM,玩转,Thinking,多模态理解最 - Detail: llms-content/developer/zh_developer_techArticles_20250702-2.md ## 【昇腾热点算子大解密】RazorAttention突破长序列KV Cache压缩瓶颈,实现最高70%压缩率-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250709-1?envFlag=1 - Description: 在大语言模型(LLM)的实际应用中,如长文档分析场景,KV Cache的访存开销问题日益凸显。KV Cache机制通过缓存历史token的key与value空间映射,来避免重计算,节省后续decode阶段的计算复杂度。然而,随着输入序列的延长,KV Cache所占用的空间会呈线性增长,导致显存消耗迅速增加,进而影响模型推理性能、限制其部署。如何优化KV Cache的存储机制,平衡计算效率与显存消耗 - Keywords: RazorAttention,KV,昇腾热点算子,大解密,突破长序列,Cache,压缩瓶颈,实现最高 - Detail: llms-content/developer/zh_developer_techArticles_20250709-1.md ## MindStudio全新支持训练数据在线监测,大幅提升训练效率-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250711-1?envFlag=1 - Description: 在AI计算领域,随着模型规模不断扩大,如何突破训练性能瓶颈已成为开发者面临的关键挑战。MindStudio全新推出了msMonitor轻量化在线监测工具,帮助开发者实现更高效的性能问题定位于优化。 - Keywords: MindStudio,全新支持训练,数据在线监测,大幅提升训练效率,官方技术文章,昇腾社区,大规模分布式,训练场景调优 - Detail: llms-content/developer/zh_developer_techArticles_20250711-1.md ## 告别参数泥潭!MindStudio快速锁定大模型推理服务化吞吐最优解-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250717-1 - Description: 面对服务化参数调优难题&\#xff0c;MindStudio提供全新服务化参数自动寻优工具&\#xff0c;帮助开发者快速锁定推理服务化参数最优解。 - Keywords: MindStudio,告别参数泥潭,快速锁定大模,型推理服务化,吞吐最优解,官方技术文章,昇腾社区,服务化参数调优难题 - Detail: llms-content/developer/zh_developer_techArticles_20250717-1.md ## 【昇腾热点算子大解密】CANN极致优化GroupedMatmul量化方案,MoE推理Decode性能提升超30%-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250717-2?envFlag=1 - Description: 在当前的大语言模型推理领域,以MoE推理模型为代表的超大参数量模型,其显存占用和带宽瓶颈已成为实际部署过程中的核心挑战。每提升一个数量级的模型参数或上下文长度,显存消耗都会急剧增长,这直接限制了单卡可支持的最大模型规模、上下文长度和并发能力。为应对这一挑战,各类量化压缩方案应运而生。将W4A8量化方案与昇腾硬件微架构特性结合优化,CANN创新性地提出MSD(Mixed-precision Spli - Keywords: CANN,GroupedMatmul,昇腾热点算子,大解密,极致优化,量化方案,MoE,Decode - Detail: llms-content/developer/zh_developer_techArticles_20250717-2.md ## 基于香橙派AI Studio的DeepSeek-R1-Distill-Qwen-14B聊天机器人案例-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250724-1?envFlag=1 - Description: 本案例基于香橙派AI Studio 176T 48GB扩展坞,采用MindIE推理加速套件部署DeepSeek-R1-Distill-Qwen-14B模型,构建了具备实时对话能力的网页端聊天机器人。该方案通过硬件加速优化推理性能,实现了高效稳定的交互体验。 - Keywords: AI,基于香橙派,Studio,DeepSeek,Distill,Qwen,聊天机器人案,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20250724-1.md ## 基于香橙派AI Studio的ChatGLM3聊天机器人-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250725-1 - Description: 本案例基于香橙派AI Studio 176T 48GB扩展坞&\#xff0c;​​集成MindSpore NLP开源套件​​&\#xff0c;部署ChatGLM3模型&\#xff0c;构建端侧聊天机器人&\#xff0c;实现低延迟实时对话功能。 - Keywords: AI,基于香橙派,Studio,ChatGLM,聊天机器人,官方技术文章,昇腾社区,引言 - Detail: llms-content/developer/zh_developer_techArticles_20250725-1.md ## 【昇腾热点算子大解密】CANN创新通算融合算子破局MoE通信瓶颈,实现推理吞吐50%提升-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250726-1?envFlag=1 - Description: 在大模型训练和推理领域,MoE架构凭借其动态专家激活机制带来的计算稀疏性优势,以及千亿参数规模下的高推理吞吐能力,已然成为超大规模模型的核心技术方案。该架构通过分发(Dispatch)和组合(Combine)这两个关键操作,实现了输入数据的动态分配与多专家输出的高效整合,从而,在维持海量参数规模的同时确保了高性能计算。然而,随着专家并行(EP)规模的不断扩大,专家间频繁交互带来的高额通信开销,逐渐 - Keywords: CANN,MoE,昇腾热点算子,大解密,创新通算融合,算子破局,通信瓶颈,实现推理吞吐 - Detail: llms-content/developer/zh_developer_techArticles_20250726-1.md ## INT4量化新突破!MindStudio 量化工具助力DeepSeek R1显存减负75%,精度仅损失<1%-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250728-1?envFlag=1 - Description: MindStudio 全流程工具链中的量化工具msModelSlim,提供多种先进量化算法接口,支持INT8\\INT4量化,显著提升大模型推理效率,降低服务部署成本。 - Keywords: INT,MindStudio,量化新突破,DeepSeek,量化工具助力,显存减负,精度仅损失,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20250728-1.md ## 基于香橙派AI Studio的语音聊天机器人-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250805-1?envFlag=1 - Description: 本案例基于香橙派AI Studio 176T 48GB扩展坞硬件平台,通过MindIE推理加速套件部署DeepSeek-R1-Distill-Qwen-14B轻量化模型,构建了支持英文语音交互的Web端智能对话系统。 - Keywords: AI,基于香橙派,Studio,的语音聊天机,器人,官方技术文章,昇腾社区,引言 - Detail: llms-content/developer/zh_developer_techArticles_20250805-1.md ## 【昇腾热点算子大解密】CANN插值类算子启用矩阵化实现,性能提升10倍,助力多模态模型大幅增效-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250812-1 - Description: 从医学影像的病灶重建到自动驾驶的实时感知&\#xff0c;从AI模型的特征融合到日常的图片缩放&\#xff0c;插值技术始终在填补数据缝隙。它不创造新信息&\#xff0c;却让数字世界的每一次尺寸转换和模态衔接都自然流畅&\#xff0c;成为智能技术落地的关键基建。CANN的插值算法优化已从传统的逐点计算演进至向量化并行&\#xff0c;并进一步突破为矩阵化计算&\#xff0c;通过Vector-Cube双核 - Keywords: CANN,昇腾热点算子,大解密,插值类算子启,用矩阵化实现,性能提升,助力多模态模,型大幅增效 - Detail: llms-content/developer/zh_developer_techArticles_20250812-1.md ## SGLang全面支持昇腾,使能大EP高性能推理-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250813-1?envFlag=1 - Description: SGLang原生支持昇腾大EP推理,开放共建生态加速库 - Keywords: SGLang,全面支持昇腾,EP,使能大,高性能推理,官方技术文章,昇腾社区,前言 - Detail: llms-content/developer/zh_developer_techArticles_20250813-1.md ## 基于昇腾推理微服务快速构建 Coze Studio AI智能体-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250814-5 - Description: 昇腾推理微服务\(Mind Inference Service, MIS\) 提供广泛的模型支持;涵盖生成式大语言模型、目标识别、语音生成、向量化等专业领域模型。无需复杂依赖安装;即可在数据中心、云端及边缘设备上实现快速部署。针对昇腾硬件进行深度性能优化;省去繁琐的调优过程。提供行业标准接口;便于集成到企业业务系统中;助力业务高效运行。 - Keywords: 基于昇腾推理,微服务快速构,Coze,Studio,AI,智能体,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20250814-5.md ## 全景生成、可漫游、可交互!支持轻量化部署的混元3D世界模型Lite版本已上线魔乐社区-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250819-1?envFlag=1 - Description: 腾讯混元3D世界模型推出Lite版本,来看看如何基于昇腾玩转该模型 - Keywords: 全景生成,可漫游,Lite,可交互,支持轻量化部,署的混元,世界模型,版本已上线魔 - Detail: llms-content/developer/zh_developer_techArticles_20250819-1.md ## 揭开算子精度调试黑箱,MindStudio算子工具助力开发效率大幅提升-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250820-1?envFlag=1 - Description: 在昇腾 NPU 算子开发过程中,精度问题的定位始终是困扰开发者的一大难题,MindStudio算子工具链提供msDebug、msSanitizer工具帮助开发者快速定位精度问题,提升开发效率。 - Keywords: 揭开算子精度调试黑箱,MindStudio,算子工具助力,开发效率大幅,提升,官方技术文章,昇腾社区,算子精度问题定位挑战 - Detail: llms-content/developer/zh_developer_techArticles_20250820-1.md ## 让改图更easy!基于昇腾玩转全能图像编辑模型Qwen-Image-Edit-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250820-9?envFlag=1 - Description: Qwen-Image-Edit模型基于20B的Qwen-Image模型进⼀步训练,将Qwen-Image的独特的文本渲染能力延展至图像编辑领域,实现了对图片中文字的精准编辑。 - Keywords: Qwen,让改图更,基于昇腾玩转,全能图像编辑,模型,Image,Edit,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20250820-9.md ## 基于香橙派AIpro开发板CosyVoice应用部署-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250827-1?envFlag=1 - Description: 本案例基于华为云ECS+香橙派AIpro开发板,搭建了一个cosyvoice智能语音助手,该助手能够完成:1.cosyvoice云服务器根据文本txt,生成语音wav格式,可以用于理论课程视频的生成;2.香橙派AIpro部署WeNet和Qwen模型+调用cosyvoice服务器,实现语音输入,语音输出的智能语音聊天机器人 - Keywords: AIpro,CosyVoice,基于香橙派,开发板,应用部署,官方技术文章,昇腾社区,引言 - Detail: llms-content/developer/zh_developer_techArticles_20250827-1.md ## 深度解读昇腾CANN动态Shape图调度加速技术-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250911-1 - Description: 本文深度解读昇腾CANN动态Shape图调度加速技术 - Keywords: CANN,Shape,深度解读昇腾,动态,图调度加速技,官方技术文章,昇腾社区,引言 - Detail: llms-content/developer/zh_developer_techArticles_20250911-1.md ## 昇腾 + vLLM 快速上手Qwen3-Next,实操指南!-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20250914-2?envFlag=1 - Description: vLLM 社区在9月15日发布了 vLLM Ascend v0.10.2rc1版本,提供了昇腾对 Qwen-Next 的支持。本指南将帮助你使用 vLLM Ascend在昇腾上运行 Qwen3-Next。 - Keywords: LLM,Qwen,快速上手,Next,实操指南,官方技术文章,昇腾社区,基于昇腾快速 - Detail: llms-content/developer/zh_developer_techArticles_20250914-2.md ## 官方技术文章 - URL: https://www.hiascend.com/developer/techArticles/20250929-2?envFlag=1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20250929-2.md ## 基于MindStudio量化工具的 DeepSeek-V3.2-Exp W8A8 混合量化实践-官方技术文章-Atlas Community - URL: https://www.hiascend.com/developer/techArticles/20251009-1?envFlag=1 - Description: 基于MindStudio量化工具的 DeepSeek-V3.2-Exp W8A8 量化实践 - Keywords: MindStudio,量化工具的,DeepSeek,Exp,混合量化实践,官方技术文章,Atlas,Community - Detail: llms-content/developer/zh_developer_techArticles_20251009-1.md ## 基于香橙派AI Studio的yolo11推理应用部署-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20251013-1 - Description: 本案例在香橙派AI Studio上实现yolo11推理应用部署 - Keywords: AI,基于香橙派,Studio,推理应用部署,官方技术文章,昇腾社区,前言,实验环境 - Detail: llms-content/developer/zh_developer_techArticles_20251013-1.md ## openPangu-Ultra-MoE-718B-V1.1今日正式开源,部署指南来啦!-官方技术文章-Atlas Community - URL: https://www.hiascend.com/developer/techArticles/20251015-5?envFlag=1 - Description: 2025年10月15日,华为正式发布并开源openPangu-Ultra-MoE-718B-V1.1。该模型是基于昇腾 NPU 训练的大规模混合专家(MoE)语言模型,总参数规模达 718B,激活参数量为 39B。该模型在同一架构下融合了“快思考”与“慢思考”两种能力,实现更高效、更智能的推理与决策。 - Keywords: Pangu,Ultra,MoE,今日正式开源,部署指南来啦,官方技术文章,Atlas,Community - Detail: llms-content/developer/zh_developer_techArticles_20251015-5.md ## MindStudio全新负载均衡调优工具,减少算力资源浪费,让推理更快更稳-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20251029-1?envFlag=1 - Description: 随着大模型技术从训练走向落地,推理阶段的效率与资源利用率,已成为企业降本增效的核心诉求。MindStudio的服务化调优工具msServiceProfiler 新增了“负载均衡分析与优化”能力,提供端到端观测、瓶颈定位与优化建议,让开发者能看得见、调得准、改得快,真正释放集群潜能。 - Keywords: MindStudio,全新负载均衡,调优工具,减少算力资源浪费,让推理更快更稳,官方技术文章,昇腾社区,负载不均导致 - Detail: llms-content/developer/zh_developer_techArticles_20251029-1.md ## 昇腾后训练强化学习最佳实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20251107-1 - Description: 大模型时代&\#xff0c;强化学习正从“锦上添花”变成“不可或缺”。参数膨胀后&\#xff0c;大模型训练中的难题从“写出答案”变成了“写出人类想要的答案”&\#xff0c;强化学习用人类偏好把模型对齐到真实需求&\#xff0c;同时抑制幻觉&\#xff0c;并把下一token预测升级为多步规划&\#xff0c;使大模型既安全又会推理。如果想要快速上手 RL 训练&\#xff0c;少踩坑&\#xff0c;少调参 - Keywords: 昇腾后训练强,化学习最佳实,官方技术文章,昇腾社区,引言,硬件要求,大模型强化学,习介绍 - Detail: llms-content/developer/zh_developer_techArticles_20251107-1.md ## 模型部署入门—MindSpeed实践指导-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20251119-1?envFlag=1 - Description: 本文档可以作为AI学习者的模型部署入门指导,介绍在NPU环境上基于MindSpeed-LLM部署Qwen3的实践流程。 - Keywords: 模型部署入门,MindSpeed,实践指导,官方技术文章,昇腾社区,背景和意义,环境版本与依赖清单,环境搭建准备 - Detail: llms-content/developer/zh_developer_techArticles_20251119-1.md ## vLLM-Omni全模态模型服务发布!昇腾快速上手体验-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20251202-1 - Description: 自 vLLM 诞生以来&\#xff0c;一直专注于为大型语言模型&\#xff08;LLMs&\#xff09;提供高吞吐量、内存高效的推理服务。然而&\#xff0c;生成式 AI 的格局正在迅速变化。模型不再仅仅是文本输入、文本输出的工具。如今的顶尖模型能够在文本、图像、音频和视频之间进行推理&\#xff0c;并使用不同的架构生成异构输出。 为了更好的全模态模型推理服务的支持&\#xff0c;vLLM社区在1 - Keywords: LLM,Omni,全模态模型服,务发布,昇腾快速上手,体验,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20251202-1.md ## 昇腾超节点百TB级内存语义池化应用实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20251203-5?envFlag=1 - Description: 当前,生成式人工智能浪潮正深刻改变着全球的计算格局,随着模型规模不断扩大、数据复杂性持续上升,AI工作负载对内存系统提出了前所未有的挑战,传统分散的、孤立的、静态的内存架构已难以支撑AI大规模并行计算对效率、弹性和资源协同的严苛要求。在这一背景下,AI超节点内存池化技术应运而生,成为打破“内存墙”的关键路径。然而,在AI超节点上软件使能内存池化并非易事,如何屏蔽硬件差异实现跨节点异构设备之间的直接 - Keywords: TB,昇腾超节点百,级内存语义池,化应用实践,官方技术文章,昇腾社区,分布式内存池化,内存语义统一 - Detail: llms-content/developer/zh_developer_techArticles_20251203-5.md ## 3分钟玩转MindStudio:模型量化篇-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20251203-6?envFlag=1 - Description:

《3分钟玩转MindStudio:模型量化篇》模型极速瘦身,3分钟教你实现模型轻量化部署!\#MindStudio让AI开发更简单\#昇腾AI向上的力量

- Keywords: MindStudio,分钟玩转,模型量化篇,官方技术文章,昇腾社区,昇腾 - Detail: llms-content/developer/zh_developer_techArticles_20251203-6.md ## 基于GPUStack搭建昇腾模型服务管理平台参考实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20251210-2?envFlag=1 - Description: 本参考实践主要应用于模型快速部署上线和运维的场景,使用GPUStack开源软件搭配昇腾推理解决方案,作为构建模型服务管理平台的参考。 - Keywords: GPUStack,搭建昇腾模型,服务管理平台,参考实践,官方技术文章,昇腾社区,非商用声明,方案介绍 - Detail: llms-content/developer/zh_developer_techArticles_20251210-2.md ## 模型太大,部署太慢?一键实现轻量化部署!-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20251211-2 - Description:

模型太大&\#xff0c;部署太慢&\#xff1f;一键实现轻量化部署&\#xff01;\#MindStudio让AI开发更简单

- Keywords: 模型太大,部署太慢,一键实现轻量,化部署,官方技术文章,昇腾社区,MindStudio - Detail: llms-content/developer/zh_developer_techArticles_20251211-2.md ## NPU卡虚拟化硬切分参考实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20251212-1 - Description: 本参考实践主要用于介绍基于昇腾硬件驱动提供的硬切分能力&\#xff0c;详细描述典型场景下虚拟化硬切分的方案。同时提供详细的操作指导&\#xff0c;帮助用户快速将虚拟化硬切分应用到业务应用中。 - Keywords: NPU,卡虚拟化硬切,分参考实践,官方技术文章,昇腾社区,非商用声明,方案介绍,背景 - Detail: llms-content/developer/zh_developer_techArticles_20251212-1.md ## 服务器运维监控平台参考实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20251217-1 - Description: 本参考实践采用开源Node Exporter组件加昇腾NPU Exporter组件&\#xff0c;开源软件Prometheus&\#xff08;数据汇总和阈值监控&\#xff09;、和Grafana&\#xff08;可视化&\#xff09;的组合&\#xff0c;构建了一套全流程、一体化的服务器加昇腾NPU监控体系。实现对服务器和昇腾NPU从指标采集、存储到可视化展示与告警管理的全生命周期监控。 - Keywords: 服务器运维监,控平台参考实,官方技术文章,昇腾社区,非商用说明,方案介绍,背景,方案简介 - Detail: llms-content/developer/zh_developer_techArticles_20251217-1.md ## 基于Triton Inference Server的昇腾小模型服务化部署参考实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20251219-1 - Description: 本最佳实践主要适用于在昇腾设备上使用Triton Inference Server进行服务化部署的场景。涵盖了OM模型推理、Torch\_npu推理和TorchAir推理三种推理方式&\#xff0c;涉及CV小模型和OCR模型。硬件支持包括Atlas 800I A2、Atlas 300I A2标卡和Atlas 300I Duo标卡。 - Keywords: Triton,Inference,Server,的昇腾小模型,服务化部署参,考实践,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20251219-1.md ## 基于Ascend Deployer工具实现第三方软件自动化部署的参考实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20251224-1 - Description: 本文基于Ascend Deployer工具实现了Dify、GPUStack、资源监控平台等第三方软件的自动化部署&\#xff0c;给出了基于Ascend Deployer工具新增自定义软件安装部署的参考实践。 - Keywords: Ascend,Deployer,工具实现第三,方软件自动化,部署的参考实,官方技术文章,昇腾社区,非商用声明 - Detail: llms-content/developer/zh_developer_techArticles_20251224-1.md ## 长序列场景下"Qwen3-235B+verl+DAPO"RL后训练的昇腾调优实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260109-1 - Description: 强化学习&\#xff08;Reinforcement Learning, RL&\#xff09;已成为大模型训练与对齐过程中的关键核心技术&\#xff0c;尤其在人类偏好对齐、推理能力强化、工具使用、智能体决策等前沿方向发挥着不可或缺的作用。业界开源的verl框架&\#xff0c;凭借其在大模型 RL 领域的高泛用性脱颖而出&\#xff0c;全面支持 PPO、GRPO、DAPO、SPPO、OPO 等主流算法 - Keywords: Qwen,长序列场景下,DAPO,RL,后训练的昇腾,调优实践,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260109-1.md ## 基于昇腾的“verl+Dense模型+DAPO”RL后训练性能优化实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260126-1?envFlag=1 - Description: 当前,SFT(有监督微调)与强化学习(RL)已逐渐成为大模型后训练的主流范式。其中,verl作为业界开源的大模型强化学习框架,持续受到热捧,截至发稿已在GitHub上获得15K星标和2.4K的Fork数。本文基于verl框架,针对Qwen2.5-32B稠密模型在昇腾A2硬件平台上开展DAPO强化学习后训练,并在平均回复长度为4K tokens的场景下,对推理和训练过程中的模型切分、任务下发、算子融 - Keywords: Dense,DAPO,RL,基于昇腾的,模型,后训练性能优,化实践,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260126-1.md ## VeOmni全面支持昇腾,加速全模态大模型训练创新-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260127-2?envFlag=1 - Description: 近来,大语言模型正从单模态向全模态统一理解与生成革命性跃迁,全模态大模型成为 AI 技术与产业落地的核心赛道,高效训练框架是撬动变革的关键基石。VeOmni 作为全模态开源训练框架,以「模型为中心」分布式设计,直击大模型训练 “并行策略与模型结构紧耦合” 行业痛点,大幅降低工程复杂度与资源开销,兼具灵活性与易用性,是全模态训练的标杆级基础设施。昇腾全面拥抱业界开源生态,高效落地 FSDP/EP/S - Keywords: VeOmni,全面支持昇腾,加速全模态大,模型训练创新,官方技术文章,昇腾社区,Qwen,VL - Detail: llms-content/developer/zh_developer_techArticles_20260127-2.md ## MS-Swift全面适配昇腾NPU,加速大模型技术创新与产业生态升级-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260128-1 - Description: MS-Swift全面适配昇腾NPU&\#xff0c;加速大模型技术创新与产业生态升级 - Keywords: MS,Swift,NPU,全面适配昇腾,加速大模型技,术创新与产业,生态升级,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260128-1.md ## MindSpeed全面支持FSDP训练后端,让昇腾训练“轻装上阵”更高效-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260131-1 - Description: 当前&\#xff0c;超大规模模型训练中&\#xff0c;分布式框架易用性与性能往往难以兼顾。Megatron 3D并行性能强劲&\#xff0c;但需侵入式修改代码、调参繁琐&\#xff0c;让开发者陷入底层工程细节&\#xff0c;开源生态对轻量化、低适配成本的方案需求迫切。昇腾MindSpeed训练加速库全面支持FSDP训练后端&\#xff0c;以模型无感知设计破局&\#xff0c;无缝亲和PyTorch生 - Keywords: MindSpeed,FSDP,全面支持,训练后端,让昇腾训练,轻装上阵,更高效,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260131-1.md ## MindSpeed MM全新支持FSDP训练后端,开启多模态模型训练敏捷创新-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260203-1?envFlag=1 - Description: 随着多模态AI应用日渐普及,大模型的高效训练已成为技术发展的核心挑战。然而,现有训练框架在扩展性、易用性和效率上均有不足,制约了模型开发效率和算法创新。为此,昇腾MindSpeed MM多模态模型套件正式支持FSDP训练后端,以直观设计、灵活扩展和高效部署为核心优势,致力于显著降低多模态模型的开发与调优门槛,助力AI技术更广泛、更深入地赋能千行百业。本文将以近期刚开源的先进语音大模型Qwen3-T - Keywords: MindSpeed,MM,FSDP,全新支持,训练后端,开启多模态模,型训练敏捷创,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260203-1.md ## 极速响应!MindSpeed LLM无缝适配Step-3.5-Flash,解锁大规模MOE模型落地新可能-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260210-1?envFlag=1 - Description: 开源大模型进入“高参高效”追逐时代,适配速度直接决定落地节奏。2月2日,搭载稀疏MoE架构、总参量达196B的Agent级旗舰模型Step-3.5-Flash正式开源,凭借优异性能迅速成为开发者焦点。MindSpeed LLM(大语言模型套件)快速完成全流程适配,结合专家并行(EP)优化、FSDP2后端支持、MoE模型友好特性及meta-device虚拟初始化等特性,让这款大参数量模型高效训练、一 - Keywords: MindSpeed,极速响应,LLM,Step,无缝适配,Flash,MOE,解锁大规模 - Detail: llms-content/developer/zh_developer_techArticles_20260210-1.md ## MindSpeed LLM全新升级-支持FSDP训练后端,Qwen3-Next-Coder模型天级适配-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260210-2?envFlag=1 - Description: 当前大模型技术正加速走向普惠化,训练与应用门槛持续降低,大语言模型从技术探索迈向行业规模化落地。行业焦点已转向模型便捷部署与敏捷业务上线,企业亟需易用性强的全流程 LLM 套件,简化训练、微调、部署与迭代,加速模型创新与业务落地。MindSpeed LLM全新升级,基于FSDP 训练后端打造轻量化大语言模型套件,摒弃繁琐的配置,提供一套极简的模型适配方案,Qwen3-Next-Coder模型发布后 - Keywords: MindSpeed,LLM,全新升级,FSDP,训练后端,Qwen,Next,Coder - Detail: llms-content/developer/zh_developer_techArticles_20260210-2.md ## 基于昇腾快速上手Qwen3-Coder-Next模型,手把手指南来了!-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260210-3 - Description: 2026年2月4日&\#xff0c; 千问Qwen发布一款专为编程智能体与本地开发设计的开源权重语言模型&\#xff1a; Qwen3-Coder-Next。此前昇腾一直同步支持Qwen系列模型&\#xff0c;此次Qwen3-Coder-Next模型一经发布开源&\#xff0c;即在MindSpeed和vLLM Ascend中适配支持供开发者尝鲜体验。适配模型及权重已同时上线魔乐社区和Atomgit A - Keywords: Qwen,基于昇腾快速,上手,Coder,Next,模型,手把手指南来,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260210-3.md ## 昇腾小模型迁移方案(part1/2)-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260227-1?envFlag=1 - Description: 本文主要系统性地陈述小模型推理迁移至NPU的技术路线方案,用于指导读者根据不同框架模型选择合适的迁移路线,并引导入门 - Keywords: 昇腾小模型迁,移方案,官方技术文章,昇腾社区,背景,模型迁移说明,什么是模型迁移,为什么要做模型迁移 - Detail: llms-content/developer/zh_developer_techArticles_20260227-1.md ## 昇腾小模型迁移方案(part2/2)-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260228-1?envFlag=1 - Description: 本文主要系统性地陈述小模型推理迁移至NPU的技术路线方案,用于指导读者根据不同框架模型选择合适的迁移路线,并引导入门 - Keywords: 昇腾小模型迁,移方案,官方技术文章,昇腾社区,模型推理及应用,推理工具使用,指南,推理命令介绍 - Detail: llms-content/developer/zh_developer_techArticles_20260228-1.md ## 昇腾小模型服务化方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260303-1?envFlag=1 - Description: 本文主要系统性地陈述昇腾小模型推理服务化路线方案,用于指导读者根据模型选择合适的服务化路线,并引导入门 - Keywords: 昇腾小模型服务化方案,官方技术文章,昇腾社区,编写目的,小模型服务化方案总览,小模型服务化说明,小模型服务化,方案整体架构 - Detail: llms-content/developer/zh_developer_techArticles_20260303-1.md ## AReaL x 昇腾,加速大模型全异步RL训练创新-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260305-1?envFlag=1 - Description: 近年来强化学习已成为增强大模型推理能力的关键手段,通过奖励机制和策略迭代能使大模型快速适应对应场景任务,且无需大量的数据标注,极大地降低了后训练成本,越来越多的大模型开发人员开始关注如何高效、便捷地进行大模型强化学习。AReaL框架凭借高效的性能、简单易用的API,基于昇腾NPU开箱即用,加速大模型全异步RL训练创新。 - Keywords: AReaL,RL,加速大模型全,异步,训练创新,官方技术文章,昇腾社区,是什么 - Detail: llms-content/developer/zh_developer_techArticles_20260305-1.md ## NPU虚拟化软切分参考实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260310-1?envFlag=1 - Description: 本参考实践采用vCANN-RT算力软切分方案。通过预加载软切分动态库,拦截部分runtime API的调用,根据算力和显存资源配额信息,进行算力控制或显存控制。搭配MindCluster组件使用,可灵活分配整机算力资源。 - Keywords: NPU,虚拟化软切分,参考实践,官方技术文章,昇腾社区,非商用声明,方案介绍,背景 - Detail: llms-content/developer/zh_developer_techArticles_20260310-1.md ## 让大模型推理“起跑”更快:基于HBM+DRAM的KVCache分级缓存实践,Prefill性能飙升!-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260311-1?envFlag=1 - Description: Prefix-cache将历史数据缓存到HBM显存,以查代算提升性能。通过HBM+DRAM的分级缓存可大幅增加KVCache的缓存空间,提升命中率,有效缓解计算资源压力,显著降低TTFT。本文将介绍分级缓存的参考实践,帮助读者提高大模型推理服务性能。 - Keywords: HBM,DRAM,KVCache,让大模型推理,起跑,更快,分级缓存实践,Prefill - Detail: llms-content/developer/zh_developer_techArticles_20260311-1.md ## PaddleOCR优化参考实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260313-1?envFlag=1 - Description: 本参考实践通过适配PaddleX代码的方式自动根据传入的om文件并判断该om模型是否为动态模型,来选择不同分支代码,从而同时支持动态shape和静态shape模型的离线推理。另外针对鲲鹏处理器做了OpenCV的相关优化。 - Keywords: PaddleOCR,优化参考实践,官方技术文章,昇腾社区,非商用声明,方案介绍,背景,方案简介 - Detail: llms-content/developer/zh_developer_techArticles_20260313-1.md ## 昇腾OpenClaw一体机自动化部署指南:让OpenClaw一体机部署像养小龙虾一样简单!-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260318-1?envFlag=1 - Description: 昇腾OpenClaw一体机发布后受到广泛关注,为了进一步简化部署流程,提升部署效率,基于Ascend Deployer工具开发了面向OpenClaw一体机的自动部署功能,用户在完成昇腾机器OS安装和网络配置后,可以使用本工具快速完成OpenClaw一体机的部署。 - Keywords: OpenClaw,昇腾,一体机自动化,部署指南,一体机部署像,养小龙虾一样,简单,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260318-1.md ## 基于openJiuwen的自然语言生成Agent功能尝鲜-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260323-1?envFlag=1 - Description: 本文介绍了基于openJiuwen框架的智能Agent自动生成系统,该系统采用多Agent协作架构,支持三种生成模式:ReAct Agent、Workflow 和 Multi-Agent,并且提供了独立的前端界面方便用户快速构建Agent应用,用户可以通过自然语言描述自动生成完整的、可运行的基于openJiuwen框架的代码来构建智能体,降低智能体开发技术门槛的同时提升了开发效率。 - Keywords: Jiuwen,Agent,的自然语言生,功能尝鲜,官方技术文章,昇腾社区,非商用声明,自动生成系统 - Detail: llms-content/developer/zh_developer_techArticles_20260323-1.md ## openJiuwen上手指南,助你轻松打造专属智能体-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260325-1?envFlag=1 - Description: openJiuwen作为开源Agent平台,致力于提供灵活、强大且易用的AI Agent开发与运行能力。本文介绍了openJiuwen的部署、智能体开发与调测流程,助力用户快速上手openJiuwen智能体平台。 - Keywords: Jiuwen,上手指南,助你轻松打造,专属智能体,官方技术文章,昇腾社区,非商用声明,智能体平台简 - Detail: llms-content/developer/zh_developer_techArticles_20260325-1.md ## 基于昇腾的多模态模型VeRL训练性能优化实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260326-1?envFlag=1 - Description: 随着多模态大模型在金融、医疗、教育等领域的广泛应用,其智能化能力的持续提升成为推动行业数字化转型的核心驱动力。在此背景下,基于人类反馈的强化学习(RLHF)技术逐渐成为大模型后训练的关键路径。以GRPO为代表的群组生成强化学习算法,通过利用群体生成数据进行策略优化,显著提升了模型的对齐能力与泛化性能。然而,该类算法在推理阶段引入大量生成耗时,加之长尾样本导致的资源闲置问题,使得整体训练效率面临严峻 - Keywords: VeRL,基于昇腾的多,模态模型,训练性能优化,实践,官方技术文章,昇腾社区,概述 - Detail: llms-content/developer/zh_developer_techArticles_20260326-1.md ## ISV伙伴工具箱合集:中小企业算力引擎SMECE,加速构建行业应用一体机-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260326-3 - Description: 中小企业算力引擎SMECE&\#xff1a;加速构建行业应用一体机&\#xff0c;打造场景化&\#43;伙伴解决方案使能ISV/SI&\#xff0c;预集成、预调优、开箱即用、开箱即优的全栈解决方案。 - Keywords: ISV,SMECE,伙伴工具箱合,中小企业算力,引擎,加速构建行业,应用一体机,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260326-3.md ## Qwen3-235B 长序列强化学习训练性能优化实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260326-4?envFlag=1 - Description: 随着大模型后训练范式从SFT向SFT-RL-SFT演进,强化学习在大模型对齐与能力提升中扮演关键角色。基于昇腾NPU平台的Verl框架已成为主流训练工具之一,尤其在长序列推理场景下对性能与显存效率提出更高要求。 本文基于Atlas 800T A2服务器,聚焦于Qwen3-235B规模模型在2k输入、30k输出长度下的强化学习训练性能优化,针对推理阶段耗时过长、显存压力大、训练中断风险高等问题,系 - Keywords: Qwen,长序列强化学,习训练性能优,化实践,官方技术文章,昇腾社区,背景概述,版本信息 - Detail: llms-content/developer/zh_developer_techArticles_20260326-4.md ## Qwen3-30B-A3B 模型在异步训练场景下的性能优化实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260326-7?envFlag=1 - Description: 随着大模型规模持续增长,推理与训练的性能瓶颈日益突出,尤其在MoE架构下,通信开销、算子效率与显存管理成为制约系统吞吐的关键因素。 本文基于Atlas 800T A2服务器,聚焦于Qwen3-30B-A3B模型在异步训练场景下的全链路性能优化,系统性地探索了从推理算子优化、FSDP训练加速到Fully-Async架构打通的完整技术路径。通过多维度调优,最终显著提升训练效率与资源利用率。 - Keywords: Qwen,模型在异步训,练场景下的性,能优化实践,官方技术文章,昇腾社区,背景概述,版本环境 - Detail: llms-content/developer/zh_developer_techArticles_20260326-7.md ## AI编程一体机自动化部署指南-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260409-1 - Description: AI编程一体机提供高效便捷的本地化AI编程解决方案&\#xff0c;为了进一步简化部署流程&\#xff0c;提升部署效率&\#xff0c;基于Ascend Deployer工具开发了面向AI编程一体机的自动部署功能&\#xff0c;用户在完成昇腾机器OS安装和网络配置后&\#xff0c;可以使用本工具快速完成AI编程一体机的部署。 - Keywords: AI,编程一体机自,动化部署指南,官方技术文章,昇腾社区,Atlas,MiniMax,Kimi - Detail: llms-content/developer/zh_developer_techArticles_20260409-1.md ## 一键部署,轻松上手!DeepSeek-V4-Flash 模型极速体验指南-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260425-1?envFlag=1 - Description: DeepSeek V4发布后受到广泛关注,为了进一步简化部署流程,提升部署效率,我们开发了支持DeepSeek V4模型的LLM自动部署功能,用户在完成昇腾服务器OS安装和网络配置后,可以使用本工具快速完成DeepSeek V4在昇腾服务器上的部署。 - Keywords: 一键部署,DeepSeek,轻松上手,Flash,模型极速体验指南,官方技术文章,昇腾社区,部署模型 - Detail: llms-content/developer/zh_developer_techArticles_20260425-1.md ## TileLang AscendNPU IR从入门到专家算子开发知识点-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260506-1?envFlag=1 - Description: 基于鲲鹏昇腾科教创新卓越中心TileLang AscendNPU IR首场特训营五天线上实操课,本文系统整理了从概念到实操的核心技术知识点,其中囊括TileLang与MLIR的基础原理、Pythonic风格的轻松编程、亲手实现FlashAttention高性能算子等,带领开发者零基础快速上手NPU算子开发。 - Keywords: TileLang,AscendNPU,IR,从入门到专家,算子开发知识,官方技术文章,昇腾社区,DAY - Detail: llms-content/developer/zh_developer_techArticles_20260506-1.md ## vLLM-Ascend部署DeepSeek时 EngineCore 与前端进程握手超时问题-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260528-1 - Description: 在基于昇腾 Atlas 800I A2 硬件&\#xff0c;使用vLLM-Ascend部署 DeepSeek-V3.2-W8A8 模型时&\#xff0c;用户在双机集群环境下遇到 EngineCore 与前端进程握手超时的问题的排查过程、根因分析到最终解决方案。 - Keywords: LLM,Ascend,DeepSeek,部署,EngineCore,与前端进程握,手超时问题,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260528-1.md ## Qwen3-30B在Atlas 300I Duo上部署时显存不足问题的定位与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260601-1 - Description: 本文聚焦于在 Atlas 300I Duo 设备上部署 Qwen3-30B-A3B-Instruct-2507 模型时遇到的进程被系统终止问题&\#xff0c;结合实际调试过程&\#xff0c;深入分析根因并提出可复用的优化方案&\#xff0c;为后续类似场景提供参考。 - Keywords: Qwen,Atlas,Duo,上部署时显存,不足问题的定,位与解决,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260601-1.md ## 温度参数在模型推理中失效问题的分析与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260601-2?envFlag=1 - Description: 在大模型服务化部署过程中,温度参数(temperature)是控制生成结果随机性与确定性的核心配置之一。当温度设置为0时,理论上模型应执行贪心解码(greedy decoding),即始终选择概率最高的 token,输出结果应完全一致且可复现。然而,在实际部署中,部分用户反馈在设置 temperature\=0 后,模型输出仍存在显著差异,导致推理结果不可控,影响了对模型行为的预测与验证。 - Keywords: 温度参数在模,型推理中失效,问题的分析与,解决,官方技术文章,昇腾社区,背景概述,问题现象 - Detail: llms-content/developer/zh_developer_techArticles_20260601-2.md ## vLLM-Ascend PD分离场景下代理脚本配置错误导致ConnectError问题排查与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260602-1?envFlag=1 - Description: 在基于vLLM-Ascend的推理系统中,为提升大模型推理效率,常采用Prefill-Decode(PD)分离架构,将计算密集型的Prefill阶段与解码阶段部署在不同节点上,实现资源解耦与弹性调度。在该架构下,需通过专用的负载均衡代理脚本协调请求分发与KV Cache的跨节点传输。 本文针对在vLLM-Ascend v0.17.0rc1版本中,使用Deepseek-V3.2-w8a8模型进行PD - Keywords: LLM,Ascend,PD,ConnectError,分离场景下代,理脚本配置错,误导致,问题排查与解 - Detail: llms-content/developer/zh_developer_techArticles_20260602-1.md ## 解决 Qwen3-235B 模型在 Eagle3 推测解码中采信率异常问题的技术实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260602-2?envFlag=1 - Description: 在大语言模型(LLM)推理优化场景中,推测解码(Speculative Decoding)技术通过引入轻量级草稿模型(如 Eagle3)来加速主模型的生成过程,显著提升端到端推理吞吐。Eagle3 是 vLLM 团队设计的高效推测器,其核心思想是“小模型带大模型”:由草稿模型快速预测多个 token,再由主模型进行逐层验证,仅当预测一致时才接受,从而实现无损加速。 在实际部署中,我们尝试将 Qw - Keywords: 解决,Qwen,模型在,Eagle,推测解码中采,信率异常问题,的技术实践,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260602-2.md ## SGLang部署DeepSeek-V3.2-W8A8模型在双机环境下图捕获卡死问题排查与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260602-3?envFlag=1 - Description: 在基于昇腾(Ascend)硬件平台的AI推理场景中,高效部署大语言模型已成为关键需求。本文针对使用SGLang框架在Atlas 800I A2双机环境下部署DeepSeek-V3.2-W8A8(W8A8量化)模型时,出现服务拉起过程中“Capturing batches”阶段卡死的问题,结合实际排查过程,系统性地梳理了问题根因与解决方案,为类似场景提供可复用的优化路径。 - Keywords: SGLang,DeepSeek,部署,模型在双机环,境下图捕获卡,死问题排查与,解决,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260602-3.md ## Calico 网络配置优化:解决大EP服务中 coordinate 节点无法自连问题-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260602-4 - Description: 在基于 Kubernetes 的大EP&\#xff08;大规模推理服务&\#xff09;部署场景中&\#xff0c;网络配置的准确性直接影响服务的可用性与稳定性。尤其在主备部署模式下&\#xff0c;协调节点&\#xff08;coordinate&\#xff09;需具备自连能力以保障服务健康检查与状态同步。本文记录一次典型故障排查过程&\#xff0c;针对“coordinate 节点无法通过 &\#96;curl - Keywords: Calico,EP,网络配置优化,解决大,服务中,节点无法自连问题,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260602-4.md ## vLLM-Omni 服务中 Pydantic 校验异常问题的定位与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260602-5?envFlag=1 - Description: 在基于 vLLM-Omni 框架部署多模态大模型(如 Qwen-Image、Qwen-Image-Edit)的推理服务过程中,我们发现服务虽能正常启动并完成推理流程,但在返回结果阶段频繁抛出 `pydantic\_core.\_pydantic\_core.ValidationError` 错误,导致客户端收到 500 Bad Request 响应,且图像等多模态输出无法正常返回。该问题虽未造成服务崩溃 - Keywords: LLM,Omni,服务中,Pydantic,校验异常问题,的定位与解决,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260602-5.md ## GLM5服务拉起失败问题排查与解决方案:从节点缺失--headless参数导致端口冲突-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260602-6?envFlag=1 - Description: 在基于vLLM Ascend的分布式推理部署中,需通过多节点协同方式拉起大模型服务,以提升推理吞吐与资源利用率。在实际部署过程中,若配置不当,可能导致服务启动失败或节点挂死。本文聚焦于在Atlas 800I A2硬件平台、HDK 25.5.0版本环境下,使用vLLM Ascend拉起GLM5模型时,主节点报错“RuntimeError:远程引擎需采用headless无头模式”的典型问题,结合实际排 - Keywords: GLM,服务拉起失败,问题排查与解,决方案,从节点缺失,参数导致端口,冲突,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260602-6.md ## Atlas 800I A2 上部署 Qwen3.5-397B 模型时专家并行启动失败问题的定位与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260602-7 - Description: 近期在使用 vLLM-ascend:v0.17.0rc1 镜像于 Atlas 800I A2 双机混部环境下部署 Qwen3.5-397B-A17B&\#xff08;w8a8&\#xff09;模型时&\#xff0c;发现开启专家并行&\#xff08;Expert Parallelism&\#xff09;后服务启动失败。该问题直接影响了大规模 MoE 模型在多卡集群上的高效部署能力&\#xff0c;需定位根本原 - Keywords: Atlas,上部署,Qwen,模型时专家并,行启动失败问,题的定位与解,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260602-7.md ## 64K分页场景下开启RDMA性能优化导致推理服务拉起失败问题分析与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260602-8?envFlag=1 - Description: 在基于昇腾AI处理器的推理服务部署过程中,用户常面临模型服务化拉起失败或长序列推理不稳定的问题。尤其在高并发、长上下文场景下,服务启动成功率与推理稳定性成为关键挑战。本文聚焦于一个典型问题:**在64K分页模式下,开启RDMA性能优化开关后,推理服务在长序列场景下拉起失败或频繁中断**。该问题虽非普遍出现,但在特定配置组合下具有较高复现概率,影响服务部署效率与用户体验。 本文从问题现象出发,结合 - Keywords: RDMA,分页场景下开,性能优化导致,推理服务拉起,失败问题分析,与解决方案,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260602-8.md ## Atlas 800I A2 双机部署 Kimi-K2.5 时 HCCL建链失败问题分析与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260602-9 - Description: 本文聚焦于在 Atlas 800I A2 双机背靠背组网下&\#xff0c;部署 Kimi-K2.5 模型时出现的 &\#96;aclnnMoeDistibuteDispatchV4&\#96; 算子报错及 HCCL 建链失败问题&\#xff0c;结合实际排查过程&\#xff0c;提供可复现、可落地的解决方案。 - Keywords: Atlas,双机部署,Kimi,时,HCCL,建链失败问题,分析与解决方,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260602-9.md ## Atlas 800I A2 vLLM-ascend Qwen3.5-27B gpqa-diamond数据集精度异常-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260603-1 - Description: 在大模型推理性能与精度验证过程中&\#xff0c;复杂推理任务对生成长度的敏感性日益凸显。GPQA&\#xff08;Generalized Problem Solving Benchmark&\#xff09;作为衡量模型逻辑推理能力的重要基准&\#xff0c;其多选题形式的输出结构通常依赖完整的推理链与最终答案的完整呈现。随着模型能力的提升&\#xff0c;尤其是 Qwen3.5 系列模型在长推理链生成方面 - Keywords: Atlas,LLM,Qwen,数据集精度异,官方技术文章,昇腾社区,背景概述,问题现象 - Detail: llms-content/developer/zh_developer_techArticles_20260603-1.md ## Atlas 900 A3 AICPU占满导致AICPU算子执行卡死-官方技术文章-Atlas Community - URL: https://www.hiascend.com/developer/techArticles/20260603-10?envFlag=1 - Description: 在大规模分布式深度学习训练场景中,通信效率是影响整体训练性能的关键因素之一。Atlas 900 A3 SuperPod 作为高性能AI训练集群,广泛应用于大模型训练任务。在实际使用过程中,当模型训练采用多通信域并发策略并开启算子重执行功能时,偶发出现 HCCL 通信 notify/wait 超时问题,导致训练任务卡死或异常退出。该问题在特定算法编排下具有稳定复现性,严重影响训练稳定性与效率。 本 - Keywords: Atlas,AICPU,占满导致,算子执行卡死,官方技术文章,Community,背景概述,问题现象 - Detail: llms-content/developer/zh_developer_techArticles_20260603-10.md ## Mindspeed-LLM权重转换异常问题排查与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260603-11?envFlag=1 - Description: 在基于MindSpeed-LLM进行大模型训练与微调的实践中,模型权重的格式转换是关键环节之一。通常流程为:先将Hugging Face格式的原始模型权重通过hf2mcore脚本转换为 MindSpore Core(MCore)格式,用于训练;训练完成后,再通过mcore2hf脚本将训练得到的MCore权重转回Hugging Face格式,以便在其他推理框架中使用。该流程在非MoE模型场景下普遍适 - Keywords: Mindspeed,LLM,权重转换异常,问题排查与解,决方案,官方技术文章,昇腾社区,背景概述 - Detail: llms-content/developer/zh_developer_techArticles_20260603-11.md ## Atlas 900 A2 PoDc 参数面网口闪断问题排查与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260603-12 - Description: 在高密度AI训练集群的日常运维过程中&\#xff0c;参数面网络的稳定性直接影响模型训练任务的连续性与整体系统可靠性。Atlas 900 A2 PoDc作为中心训练场景下的核心硬件平台&\#xff0c;其NPU模块间的高速互联链路&\#xff08;200GE/400GE&\#xff09;对物理层质量要求极高。近期在多台设备运行过程中&\#xff0c;陆续出现参数面网口频繁闪断现象&\#xff0c;伴随BMC上 - Keywords: Atlas,PoDc,参数面网口闪,断问题排查与,解决方案,官方技术文章,昇腾社区,背景概述 - Detail: llms-content/developer/zh_developer_techArticles_20260603-12.md ## Atlas 800I A2双机部署DeepSeek-V3.1时HCCL通信异常问题排查与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260603-2 - Description: 当采用多节点Atlas 800I A2&\#xff08;8*64G&\#xff09;服务器进行双机部署时&\#xff0c;需确保NPU间通过HCCL建立可靠的通信通道。在实际部署过程中&\#xff0c;若ranktable配置不当&\#xff0c;可能导致通信组创建失败&\#xff0c;进而引发推理服务无法启动的问题。本文结合一次典型故障案例&\#xff0c;系统梳理问题现象、根因分析及解决方案&\#xff0c; - Keywords: Atlas,DeepSeek,双机部署,HCCL,通信异常问题,排查与解决,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260603-2.md ## MindIE2.3.0 双机推理拉起失败问题定位与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260603-3?envFlag=1 - Description: 在使用 MindIE 推理框架进行大规模专家并行(MoE)模型部署时,用户常需在多机环境下拉起分布式推理服务。从 MindIE 2.1 版本升级至 2.3.0 后,双机推理服务无法正常启动,表现为 gRPC 通信模块长时间阻塞在 wait slave connecting.. 状态,最终导致进程崩溃(core dumped)。本文将围绕该问题的排查过程、根因分析及解决方案进行详细说明,帮助开发者快 - Keywords: MindIE,双机推理拉起,失败问题定位,与解决,官方技术文章,昇腾社区,背景概述,问题现象 - Detail: llms-content/developer/zh_developer_techArticles_20260603-3.md ## MindSpeed-LLM LoRA微调后权重转换导致推理报错问题分析与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260603-4?envFlag=1 - Description: 在基于MindSpeed-LLM进行大模型LoRA微调并完成权重转换以支持推理部署的过程中,开发者常需将训练阶段生成的MCore格式权重转换为Hugging Face兼容格式。该流程涉及模型配置文件(`config.json`)的生成与校验,是确保推理链路完整性的关键环节。本文针对在将Qwen3-8B模型的LoRA微调权重从MCore格式转换为Hugging Face格式后,推理阶段出现 `Not - Keywords: MindSpeed,LLM,LoRA,微调后权重转,换导致推理报,错问题分析与,解决方案,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260603-4.md ## Atlas 900 A2 Mindspeed-MM数据预处理缓慢-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260603-5?envFlag=1 - Description: 在基于 Atlas 900 A2 PoD 平台进行大模型微调开发时,数据预处理阶段的性能表现直接影响整体训练流程的效率与稳定性。尤其在处理大规模多模态数据集(如 COCO 15 万样本)时,预处理耗时过长可能导致同步超时、进程退出等异常问题。本文记录一次在使用 Mindspeed-MM 框架对 Qwen2.5vl-72B 模型进行微调过程中,遇到数据预处理速度异常缓慢的问题,并通过深入排查与调优, - Keywords: Atlas,Mindspeed,MM,数据预处理缓,官方技术文章,昇腾社区,背景概述,问题现象 - Detail: llms-content/developer/zh_developer_techArticles_20260603-5.md ## A2单机多卡训练中因Accelerate版本过高导致卡间通信算子下发不一致问题分析-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260603-6?envFlag=1 - Description: 在基于Atlas 800T A2硬件平台进行开源大模型NPU迁移的过程中,用户反馈单卡训练任务可正常运行,但当扩展至单机双卡并行训练时,作业无法成功启动,且仅在Rank 1(Device 1)出现RuntimeError异常。该问题影响了模型训练的并行效率与稳定性,需定位根本原因并提供可复现的解决方案。 - Keywords: Accelerate,单机多卡训练,中因,版本过高导致,卡间通信算子,下发不一致问,题分析,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260603-6.md ## 执行 npu-smi 命令返回 -8005 错误码的排查与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260603-7?envFlag=1 - Description: 在昇腾AI硬件平台的日常维护与调试过程中,用户通过带内接口调用 npu-smi info 等命令查询NPU状态时,偶发出现返回错误码 -8005 的现象。该错误码表示“DCMI模块初始化失败”,通常与驱动加载异常、内核环境不匹配或模块签名验证失败相关。本文基于实际问题场景,系统梳理了从日志分析到根因定位的完整排查路径,并提供可落地的解决方案,适用于中心训练、中心推理及智能边缘等典型部署环境。 - Keywords: 执行,命令返回,错误码的排查与解决,官方技术文章,昇腾社区,背景概述,问题现象,原因分析 - Detail: llms-content/developer/zh_developer_techArticles_20260603-7.md ## NPU模组异常掉电&上电超时故障处理-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260603-8 - Description: 在中心训练硬件系统的日常运维过程中&\#xff0c;NPU模组作为核心计算单元&\#xff0c;其稳定运行直接影响整体训练任务的连续性与系统可靠性。在实际现网环境中&\#xff0c;偶发出现NPU模组异常掉电或上电超时等问题&\#xff0c;可能导致设备掉卡、业务中断等严重后果。本文基于典型故障案例&\#xff0c;系统梳理NPU模组异常掉电与上电超时的排查流程与处理方案&\#xff0c;旨在为硬件维护人员提 - Keywords: NPU,模组异常掉电,上电超时故障,处理,官方技术文章,昇腾社区,背景概述,问题现象描述 - Detail: llms-content/developer/zh_developer_techArticles_20260603-8.md ## A2 MindIE ranktable冲突导致服务启动失败问题分析与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260603-9?envFlag=1 - Description: 在基于Atlas 800I A2硬件平台的推理部署中,MindIE作为核心推理引擎,支持多机多卡(2P1D)分布式推理场景。在实际部署过程中,发现在启动多机推理任务时,推理实例(D节点)首次启动时常出现npuDeviceID does not allow repetitive element错误,导致Pod启动失败;但重启后问题消失,任务可正常运行。该问题影响部署稳定性,尤其在自动化调度场景下需重 - Keywords: MindIE,冲突导致服务,启动失败问题,分析与解决,官方技术文章,昇腾社区,背景概述,问题现象 - Detail: llms-content/developer/zh_developer_techArticles_20260603-9.md ## NPU推理服务拉起失败问题排查与解决:驱动库路径配置异常导致get device count失败-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260604-1?envFlag=1 - Description: 在基于昇腾(Ascend)AI处理器的深度学习推理场景中,推理服务的正常启动依赖于NPU驱动的正确加载与初始化。当推理任务无法拉起时,通常需从驱动层、运行时环境及容器配置等多个维度进行排查。本文记录一次因容器内动态库加载路径配置不当,导致NPU驱动异常、推理服务启动失败的典型问题,结合实际排查过程,提供可复现的解决方案。 - Keywords: NPU,推理服务拉起,失败问题排查,与解决,驱动库路径配,置异常导致,失败,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260604-1.md ## LcalAllReduce 算子报错导致训练作业异常的根因分析与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260604-10?envFlag=1 - Description: 在使用 Atlas 900 A2 PoD 进行大规模分布式训练时,部分用户反馈在执行推理或训练作业过程中出现通信算子异常,导致作业卡死或失败。经排查,问题集中表现为 LcalAllReduce 算子报错,伴随 vector core timeout 错误信息,且 errcode 为 0,初步判断非 HCCL 通信框架直接引发。该问题在特定 CANN 版本中具有概率性复现特征,影响训练稳定性与任务成 - Keywords: LcalAllReduce,算子报错导致,训练作业异常,的根因分析与,解决方案,官方技术文章,昇腾社区,背景概述 - Detail: llms-content/developer/zh_developer_techArticles_20260604-10.md ## rotatediou算子输入维度超限导致执行失败问题分析-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260604-11 - Description: 在基于Ascend处理器的深度学习推理场景中&\#xff0c;rotated\_iou&\#xff08;旋转框交并比&\#xff09;算子广泛应用于目标检测任务中&\#xff0c;尤其在处理倾斜目标时具有重要价值。随着业务需求的演进&\#xff0c;输入数据规模逐渐增大&\#xff0c;部分场景下query\_boxes张量的尾轴维度&\#xff08;K值&\#xff09;可能超过算子设计时的限制。本文针对在使用As - Keywords: 算子输入维度,超限导致执行,失败问题分析,官方技术文章,昇腾社区,背景概述,问题现象,原因分析 - Detail: llms-content/developer/zh_developer_techArticles_20260604-11.md ## FlashAttentionScore算子batch size超限导致业务产出coredump并退出-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260604-12?envFlag=1 - Description: 在基于昇腾AI处理器的深度学习训练场景中,FlashAttentionScore算子作为高效注意力机制的核心组件,广泛应用于大模型训练任务中。随着模型规模与序列长度的持续增长,对算子在高并发、大batch场景下的稳定性与性能提出了更高要求。在实际开发与调优过程中,部分用户反馈在使用特定版本CANN工具链时,当输入batch size超过一定阈值后,训练任务出现异常退出并生成coredump文件,影 - Keywords: FlashAttentionScore,算子,超限导致业务,产出,并退出,官方技术文章,昇腾社区,背景概述 - Detail: llms-content/developer/zh_developer_techArticles_20260604-12.md ## NPU算力切分导致set\_device报错507033的排查与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260604-13 - Description: 在基于Ascend硬件平台的AI训练与推理场景中&\#xff0c;NPU设备的资源管理与调度是保障任务稳定运行的关键。当在容器化环境中执行set\_device操作时&\#xff0c;若目标NPU设备处于算力切分状态&\#xff0c;可能引发设备初始化失败&\#xff0c;导致运行时错误。本文针对一个典型问题——set\_device调用失败并返回错误码507033&\#xff0c;结合实际排查过程&\#xff0 - Keywords: NPU,算力切分导致,报错,的排查与解决,官方技术文章,昇腾社区,背景概述,问题现象 - Detail: llms-content/developer/zh_developer_techArticles_20260604-13.md ## resolv.conf 配置异常导致模型启动延迟问题分析与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260604-14 - Description: 在基于昇腾硬件平台的深度学习推理场景中&\#xff0c;模型启动性能直接影响整体服务响应效率。某开发团队在部署大模型推理服务时&\#xff0c;发现相同模型在不同节点上启动时间存在显著差异&\#xff0c;最长相差达2~3分钟。该问题在多节点集群环境中尤为突出&\#xff0c;影响了服务的可预测性和资源调度效率。经过深入排查&\#xff0c;最终定位到容器内/etc/resolv.conf配置异常为根本原因 - Keywords: 配置异常导致,模型启动延迟,问题分析与解,决方案,官方技术文章,昇腾社区,背景概述,问题现象 - Detail: llms-content/developer/zh_developer_techArticles_20260604-14.md ## torchrun 指定卡数与代码逻辑不一致导致 SDMA ERROR-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260604-15 - Description: 在基于 PyTorch 的分布式训练场景中&\#xff0c;合理配置 torchrun 的启动参数是保障训练任务稳定运行的关键。尤其在从旧型硬件平台迁移至新型号设备时&\#xff0c;硬件资源&\#xff08;如 NPU 卡数量&\#xff09;的差异容易引发配置不匹配问题。本文记录一次因 --nproc\_per\_node 参数未同步更新导致的分布式训练失败案例&\#xff0c;重点分析问题现象、根因定位及 - Keywords: 指定卡数与代,码逻辑不一致,导致,SDMA,ERROR,官方技术文章,昇腾社区,背景概述 - Detail: llms-content/developer/zh_developer_techArticles_20260604-15.md ## Atlas 900 A2 POD训练场景中HCCL算子配置异常导致AIV超时及复位失败问题分析与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260604-16 - Description: 在大规模分布式深度学习训练场景中&\#xff0c;算子调度与执行的稳定性直接关系到训练任务的顺利完成。Atlas 900 A2 POD作为高性能AI训练平台&\#xff0c;广泛应用于大模型训练任务。在实际使用过程中&\#xff0c;部分用户反馈在128节点训练作业中出现多节点同时上报AIV算子超时&\#xff08;80CB800A&\#xff09;及复位失败&\#xff08;80CB8001&\#xff09; - Keywords: Atlas,POD,HCCL,AIV,训练场景中,算子配置异常,导致,超时及复位失 - Detail: llms-content/developer/zh_developer_techArticles_20260604-16.md ## FSDP中使用反向重计算时显存异常问题分析与优化-官方技术文章-Atlas Community - URL: https://www.hiascend.com/developer/techArticles/20260604-2?envFlag=1 - Description: 在大规模深度学习模型训练中,显存资源是制约模型规模扩展的关键瓶颈。为应对这一挑战,Fully Sharded Data Parallel(FSDP)作为一种高效的分布式训练策略,通过将模型参数分片存储于多张GPU上,显著降低了单卡显存占用,支持超大模型的训练。然而,在结合反向重计算(Checkpointing)技术以进一步节省显存时,部分场景下仍可能出现显存占用异常升高的问题。本文聚焦于FSDP与 - Keywords: FSDP,中使用反向重,计算时显存异,常问题分析与,优化,官方技术文章,Atlas,Community - Detail: llms-content/developer/zh_developer_techArticles_20260604-2.md ## 多通信域并发下发导致 HCCL 通信死锁问题分析与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260604-3?envFlag=1 - Description: 在基于 CANN(Compute Architecture for Neural Networks)框架的高性能推理场景中,多通信域(Multi-Communication Domain)机制被广泛用于优化大规模模型并行训练与推理任务的通信效率。特别是在使用 Omni Infer 框架加速大模型推理时,开发者常需通过自定义通信调度策略(如 omni-placement)对不同通信域进行精细化控制。 - Keywords: 多通信域并发下发导致,HCCL,通信死锁问题,分析与解决方,官方技术文章,昇腾社区,背景概述,问题现象 - Detail: llms-content/developer/zh_developer_techArticles_20260604-3.md ## PyTorch 多机分布式训练中 torchrun 建链超时问题分析与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260604-4?envFlag=1 - Description: 在基于 PyTorch 的大规模分布式训练场景中,torchrun 是常用的多进程启动工具,用于管理多节点间的进程调度与通信初始化。当训练任务涉及多个计算节点时,各节点需通过分布式 rendezvous(协调)机制完成通信组的建立,该过程依赖于底层的 TCPStore 实现。若节点间启动时间不同步或初始化操作耗时过长,可能导致建链阶段出现超时异常,影响训练任务的正常启动。 本文结合实际问题场景,针 - Keywords: PyTorch,多机分布式训练中,建链超时问题,分析与解决方,官方技术文章,昇腾社区,背景概述,问题现象 - Detail: llms-content/developer/zh_developer_techArticles_20260604-4.md ## Atlas 900 A3 SuperPoD 跨超节点 HCCL 打流失败问题分析与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260604-5?envFlag=1 - Description: 在基于 Atlas 900 A3 SuperPoD 架构的分布式训练场景中,集合通信(HCCL)是实现多节点高效协同训练的核心机制。为验证系统通信能力,通常采用 hccl\_test 工具进行多机打流测试。测试过程中,若出现超节点内通信正常,但跨超节点通信失败的情况,需结合日志、链路状态及运行环境深入排查。本文针对此类典型问题,从现象分析、根因定位到解决方案进行系统性梳理,为开发者提供可复用的排查思 - Keywords: Atlas,SuperPoD,跨超节点,HCCL,打流失败问题,分析与解决方,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260604-5.md ## Atlas 900 A2 PoD 上 Conv3DBackpropFilter 算子输入格式不支持导致训练失败问题分析与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260604-6?envFlag=1 - Description: 在基于 Atlas 900 A2 PoD 平台进行大模型训练过程中,用户在运行 Qwen 系列模型时遇到算子执行异常问题。当模型中涉及 Conv3DBackpropFilter 算子且未进行算子冻结时,训练作业报错退出,错误码为 E69999,提示“illegal format of x,输入格式不支持”。经排查,该问题与算子输入数据格式不兼容有关,尤其在使用 PyTorch 2.6.0 与 CA - Keywords: Atlas,PoD,Conv,DBackpropFilter,算子输入格式,不支持导致训,练失败问题分,析与解决方案 - Detail: llms-content/developer/zh_developer_techArticles_20260604-6.md ## ATB算子编译报错:undefined symbol with cxx11 ABI不匹配问题定位与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260604-7 - Description: 在基于昇腾AI处理器的PyTorch训练与推理开发过程中&\#xff0c;开发者常需通过ATB&\#xff08;Ascend Tensor Boost&\#xff09;工具链自定义算子以满足特定业务需求。在使用NNAL&\#xff08;Neural Network Acceleration Library&\#xff09;进行ATB算子编译时&\#xff0c;部分用户反馈出现“undefined symbol - Keywords: ATB,算子编译报错,ABI,不匹配问题定,位与解决,官方技术文章,昇腾社区,背景概述 - Detail: llms-content/developer/zh_developer_techArticles_20260604-7.md ## DataLoader中开启pin\_memory导致Host内存异常增长问题分析与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260604-8?envFlag=1 - Description: 在基于昇腾AI处理器的深度学习推理场景中,数据加载效率与内存管理是影响系统稳定性和性能的关键因素。尤其是在多实例并发运行、资源受限的容器化部署环境下,合理配置数据加载器(DataLoader)参数对避免内存溢出、保障服务稳定性至关重要。本文针对一个典型问题——因DataLoader启用pin\_memory参数导致Host内存异常增长,进而引发系统资源耗尽的现象,进行深入分析与解决方案总结。 - Keywords: DataLoader,Host,中开启,导致,内存异常增长,问题分析与解,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260604-8.md ## Atlas 900A2 Pod 驱动升级后未重启导致 HCCL 通信域初始化失败问题分析与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260604-9 - Description: 在中心训练场景下&\#xff0c;Atlas 900A2 Pod 作为高性能 AI 训练硬件平台&\#xff0c;广泛应用于大规模分布式深度学习训练任务。其核心依赖于 Ascend HDK 驱动栈的稳定运行&\#xff0c;尤其是 HCCL&\#xff08;Huawei Collective Communication Library&\#xff09;通信库在多节点协同训练中的关键作用。当驱动版本变更后&\# - Keywords: Atlas,Pod,驱动升级后未重启导致,HCCL,通信域初始化,失败问题分析,与解决,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260604-9.md ## LLM模型应用场景参考实践:热门模型一键部署、开箱即优!-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260629-1?envFlag=1 - Description: 大语言模型(LLM)在昇腾平台广泛应用,vLLM Ascend作为常用高性能推理引擎,所支持的模型种类日益丰富。然而在实际生产落地过程中,模型服务的部署面临着环境依赖复杂、手工操作易错、调优文档分散且缺乏经验等痛点问题。 本参考实践提供DeepSeek/Qwen/GLM/MiniMax等系列大模型在Atlas 800I A2/Atlas 800I A3等不同硬件环境下vLLM Ascend的自动化 - Keywords: LLM,模型应用场景,参考实践,热门模型一键,部署,开箱即优,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260629-1.md ## 基于GPUStack的模型服务能力增强参考实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260630-1 - Description: 为了满足中小企业的模型服务管理需求&\#xff0c;本文基于GPUStack开源软件&\#xff0c;在高可靠部署、模型开箱即优、小模型推理部署、集群平滑扩容等方面给出模型服务能力增强的参考实践。 - Keywords: GPUStack,的模型服务能,力增强参考实,官方技术文章,昇腾社区,非商用声明,二,方案介绍 - Detail: llms-content/developer/zh_developer_techArticles_20260630-1.md ## 企业级AI编程一体机参考实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260630-11?envFlag=1 - Description: 随着大语言模型技术的普及,基于Agent(智能体)的 AI 辅助编程已成为研发人员不可或缺的日常基础设施。然而,在企业或特定研发环境中普及 AI 开发时,全托管的云端工具往往伴随着代码资产泄露风险与高昂的订阅成本。因此,基于本地模型或企业内部算力进行离线私有化部署,成为了保障核心数据安全、实现定制化开发的必然选择。 作为开源 AI 编程框架的代表,OpenCode 凭借对多模型后端的灵活支持与高扩 - Keywords: AI,企业级,编程一体机参,考实践,官方技术文章,昇腾社区,非商用声明,方案介绍 - Detail: llms-content/developer/zh_developer_techArticles_20260630-11.md ## 基于浏览器扩展的医疗智能助手参考实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260630-2?envFlag=1 - Description: 本参考实践以HIS系统为例,提供WEB系统基于浏览器扩展插件实现对接智能体、大模型能力。零侵入、易适配,兼容Chrome、Edge等浏览器,大幅降低对接成本与交付周期。 - Keywords: 基于浏览器扩,展的医疗智能,助手参考实践,官方技术文章,昇腾社区,非商用声明,方案背景,使用指导 - Detail: llms-content/developer/zh_developer_techArticles_20260630-2.md ## 企业级类Claw一体机参考实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260630-5 - Description: 本文以OpenClaw、Hermes两个开源类Claw框架为例&\#xff0c;打造一体化AI Agent解决方案及落地参考实践&\#xff0c;助力各行业用户快速搭建高并发、高安全、低成本、高可靠的Agent运行体系。 - Keywords: Claw,企业级类,一体机参考实,官方技术文章,昇腾社区,非商用声明,方案介绍,背景 - Detail: llms-content/developer/zh_developer_techArticles_20260630-5.md ## Witty RAG知识库参考实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260703-1 - Description: 本参考实践面向企业级复杂知识场景&\#xff0c;构建多路融合混合检索体系&\#xff0c;通过向量检索、关键词检索与全文检索协同召回&\#xff0c;结合重排序机制显著提升检索准确率&\#xff0c;目标实现RAG召回率超85%。系统支持15&\#43;格式智能解析、结构化与非结构化数据统一索引&\#xff0c;以及跨数据源混合查询。同时提供FastAPI/MCP/Skill标准化接口&\#xff0c;可灵活 - Keywords: Witty,RAG,知识库参考实,官方技术文章,昇腾社区,非商用说明,方案介绍,背景介绍 - Detail: llms-content/developer/zh_developer_techArticles_20260703-1.md ## MindIE启动失败:因隐藏文件导致 HeaderTooLarge 错误的排查与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260707-1?envFlag=1 - Description: 在基于Atlas 800I A2 部署大模型推理服务的过程中,使用 MindIE 框架拉起服务时偶发出现启动失败问题。该问题表现为服务初始化阶段抛出 Exception: Error while deserializing header: HeaderTooLarge 异常,导致推理服务无法正常启动。本文基于实际排查过程,梳理问题现象、根因分析及解决方案,为类似场景提供参考。 - Keywords: MindIE,启动失败,因隐藏文件导,HeaderTooLarge,错误的排查与解决,官方技术文章,昇腾社区,错误的排查与,解决 - Detail: llms-content/developer/zh_developer_techArticles_20260707-1.md ## 固件升级后未重启导致 Ipc Pod 消息发送失败问题分析与处理-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260707-2 - Description: 在AI训练场景中&\#xff0c;计算节点的稳定性与固件、驱动的一致性密切相关。Atlas 900 A3 SuperPoD作为高性能AI训练硬件平台&\#xff0c;其计算节点&\#xff08;Compute Node&\#xff09;依赖于HDK&\#xff08;Hardware Development Kit&\#xff09;组件实现底层硬件资源的高效调度与通信。在日常运维过程中&\#xff0c;固件升级是 - Keywords: 固件升级后未重启导致,Ipc,Pod,消息发送失败,问题分析与处,官方技术文章,昇腾社区,背景概述 - Detail: llms-content/developer/zh_developer_techArticles_20260707-2.md ## MoE分布式调度算子moedistributedispatchv2报错问题分析与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260707-3?envFlag=1 - Description: 在基于Ascend AI处理器的深度学习训练场景中,Mixture of Experts(MoE)架构因其高效的模型扩展能力而被广泛应用。在实际部署过程中,moedistributedispatchv2 作为MoE核心调度算子之一,承担着将输入token按路由结果分发至对应专家节点的关键任务。近期在单节点推理测试中,用户反馈在使用CANN 8.5.2版本时,moedistributedispatc - Keywords: MoE,分布式调度算,报错问题分析,与解决,官方技术文章,昇腾社区,Ascend - Detail: llms-content/developer/zh_developer_techArticles_20260707-3.md ## 服务器时间跳变引发NPU端建链异常问题分析与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260707-4?envFlag=1 - Description: 在分布式推理系统中,各节点间的时间一致性对任务调度、通信建链及日志追溯等关键流程具有重要影响。当系统节点重启后,若主机时间未正确同步,可能引发时间跳变(time jump),进而影响NPU与Host之间的时钟同步机制。此类问题虽不常见,但一旦发生,可能导致建链失败、算子包校验异常等连锁故障,严重影响业务稳定性。 本文基于一次实际故障场景,深入分析由服务器硬件时钟与NTP时间偏差引发的时间跳变问题 - Keywords: NPU,服务器时间跳,变引发,端建链异常问,题分析与解决,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260707-4.md ## 自定义算子信息库配置不一致导致作业初始化失败-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260707-5?envFlag=1 - Description: 在基于昇腾AI处理器的深度学习训练场景中,自定义算子的正确配置是保障模型高效执行的关键环节。当用户在升级PyTorch-NPU版本(如从2.3.4升级至2.5.0)后,若自定义算子的信息库配置存在异常,可能导致算子初始化阶段校验失败,进而引发作业启动失败。本文聚焦于因自定义算子信息库中数据类型(dtype)与未知形状格式(unknownshape\_format)列数不一致所引发的初始化错误,结合实 - Keywords: 自定义算子信,息库配置不一,致导致作业初,始化失败,官方技术文章,昇腾社区,Ascend - Detail: llms-content/developer/zh_developer_techArticles_20260707-5.md ## MindIE 双机部署中 heartbeat failed 问题排查与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260707-6?envFlag=1 - Description: 在基于 Atlas 800I A2 硬件平台的推理解决方案部署过程中,采用双机混部模式进行服务化部署时,偶发出现主节点服务启动失败、从节点提示“Daemon start success”但无法正常通信的问题。日志中频繁出现 `Slave node send heartbeat failed` 告警,导致整体服务无响应。 - Keywords: MindIE,双机部署中,问题排查与解决,官方技术文章,昇腾社区,问题排查与解 - Detail: llms-content/developer/zh_developer_techArticles_20260707-6.md ## MindIE 2.1.RC1 中启用上下文并行(CP)时序列长度需满足整除约束的解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260707-7?envFlag=1 - Description: 在大模型推理服务部署过程中,为提升长序列处理能力与推理吞吐,常采用上下文并行(Context Parallel, CP)与序列并行(Sequence Parallel, SP)等并行策略。在基于 Atlas 800I A2 硬件平台的推理解决方案中,MindIE 作为核心推理引擎,支持多并行模式组合以优化性能。然而,在实际使用中配置长序列推理任务时,遇到服务启动失败的问题,尤其是在开启 CP 特性 - Keywords: MindIE,RC,CP,中启用上下文,并行,时序列长度需,满足整除约束,的解决方案 - Detail: llms-content/developer/zh_developer_techArticles_20260707-7.md ## CANN Runtime事件资源回收机制缺陷导致小模型推理时延上升问题-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260707-8?envFlag=1 - Description: 在基于昇腾硬件平台进行小模型推理任务时,在升级CANN版本后,观察到推理请求的平均时延随压测时间推移持续上升,严重时延增长可达正常水平的十余倍。该问题在单卡多进程场景下尤为明显,影响推理服务的稳定性与实时性。经排查,问题根源定位为CANN Runtime在事件(event)资源管理机制中的缺陷,导致资源无法有效回收,最终引发任务阻塞与性能退化。 - Keywords: CANN,Runtime,事件资源回收,机制缺陷导致,小模型推理时,延上升问题,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260707-8.md ## 非特权容器部署模型时 NPU 资源独占导致启动失败问题分析与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260708-1?envFlag=1 - Description: 基于 Ascend 系列 AI 处理器的推理部署场景中,容器化部署已成为主流方式。尤其在 Atlas 800I A2 等边缘推理设备上,通过 Docker 容器实现模型服务的快速部署与隔离运行,显著提升了部署效率与资源利用率。然而,在非特权容器环境下,由于 NPU 设备访问机制的特殊性,若存在其他容器已占用 NPU 资源,可能导致新容器无法正常获取设备信息,进而引发模型启动失败。 - Keywords: 非特权容器部署模型时,NPU,资源独占导致,启动失败问题,分析与解决,官方技术文章,昇腾社区,MindIE - Detail: llms-content/developer/zh_developer_techArticles_20260708-1.md ## 因 HBM 多比特 ECC 导致算子包损坏引发 AICPU Core Dump 的故障分析与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260708-10?envFlag=1 - Description: 在基于 Atlas 900 A2 PoD 的 训练场景中,偶发出现作业异常退出、报错 EI0002 notify wait timeout 的问题,影响训练任务稳定性。本文基于一次典型故障案例,深入分析其根本原因,并提出有效的应对方案。 问题现象 - Keywords: 因,HBM,多比特,ECC,导致算子包损坏引发,AICPU,Core,Dump - Detail: llms-content/developer/zh_developer_techArticles_20260708-10.md ## MindIE 多模态模型服务中 Base64 图像输入超限问题分析与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260708-2?envFlag=1 - Description: 在基于 MindIE 构建的多模态推理服务中,常需通过 API 传入图像与文本联合输入以支持视觉语言理解任务。当前主流的图像传输方式包括 Base64 编码内嵌与 image\_url 外链引用两种。当使用 Base64 编码方式传输图像时,反馈在输入较大尺寸图片时出现服务异常中断,提示 Messages len not in \(0, 4194304\] 错误。 - Keywords: MindIE,多模态模型服务中,Base,图像输入超限,问题分析与解,决方案,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260708-2.md ## 官方技术文章 - URL: https://www.hiascend.com/developer/techArticles/20260708-3?envFlag=1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260708-3.md ## 算子输入参数异常导致训练作业报错 EZ9999 的排查与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260708-4?envFlag=1 - Description: 在基于 CANN 与 PyTorch 构建的深度学习训练环境中,用户在使用 Atlas 900 A3 Super POD 进行大规模模型训练时,偶发出现训练作业中断并报错 EZ9999 的问题。该错误发生在算子执行阶段,日志中明确提示 aivec error,且错误信息指向 GatherV3 算子。此类问题虽不常见,但一旦发生将导致训练任务失败,影响模型迭代效率。本文基于实际故障排查过程,系统梳理 - Keywords: 算子输入参数,异常导致训练,作业报错,EZ,的排查与解决,官方技术文章,昇腾社区,Ascend - Detail: llms-content/developer/zh_developer_techArticles_20260708-4.md ## Atlas 900 A2 PoD 长稳作业中 getnext 算子超时问题排查与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260708-5 - Description: 在中心训练场景下&\#xff0c;基于 Atlas 900 A2 PoD 硬件平台运行 TensorFlow 2.6.5 框架的长稳训练任务时&\#xff0c;偶发出现任务异常退出现象。日志中频繁出现 E39999 错误码&\#xff0c;且首报错进程伴随 HDC send err ret\(25\) 打印。该问题影响训练任务的稳定性&\#xff0c;需快速定位根因并制定有效应对策略。 - Keywords: Atlas,PoD,长稳作业中,算子超时问题,排查与解决,官方技术文章,昇腾社区,背景概述 - Detail: llms-content/developer/zh_developer_techArticles_20260708-5.md ## CANN 8.5.1 版本下 Conv3DBackpropFilter 算子异常问题排查与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260708-6 - Description: 在基于昇腾硬件平台进行深度学习模型训练的过程中&\#xff0c;部分用户反馈在使用 PyTorch 2.7.1 搭配 CANN 8.2.rc1 版本进行三维卷积反向传播算子&\#xff08;Conv3DBackpropFilter&\#xff09;训练时&\#xff0c;偶发训练作业失败并触发快恢机制。该问题在特定模型结构下表现明显&\#xff0c;影响训练稳定性与任务成功率。本文基于实际问题排查过程&\#x - Keywords: CANN,版本下,Conv,DBackpropFilter,算子异常问题,排查与解决方,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260708-6.md ## 基于 vllm-ascend 部署 Qwen3 时 unpad\_flashattention\_bf16\_1\_mix\_aic 算子越界问题分析与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260708-7 - Description: 在使用 vllm-ascend 框架进行大模型推理部署的过程中&\#xff0c;针对 Qwen3 语言模型的推理场景&\#xff0c;需依赖高效的注意力计算算子以保障推理性能与稳定性。其中&\#xff0c;unpad\_flashattention\_bf16\_1\_mix\_aic 作为关键算子&\#xff0c;承担着对非均匀长度序列进行高效内存布局优化与注意力计算的任务。然而&\#xff0c;在特定输入条件下& - Keywords: 部署,Qwen,时,算子越界问题,分析与解决方,官方技术文章,昇腾社区,背景概述 - Detail: llms-content/developer/zh_developer_techArticles_20260708-7.md ## 800T A2设备NPU网口异常下线问题分析与解决方案-官方技术文章-Atlas Community - URL: https://www.hiascend.com/developer/techArticles/20260708-8?envFlag=1 - Description: 在基于NPU模块的高性能计算系统部署过程中,部分设备在运行期间偶发出现多个网口异常下线(down)现象,伴随NPU健康状态告警。该问题影响系统通信稳定性,严重时导致训练任务中断。本文基于实际故障场景,从日志分析、根因定位到解决方案,系统性地梳理了该问题的排查路径与处理方法,为类似问题提供参考。 - Keywords: NPU,设备,网口异常下线,问题分析与解,决方案,官方技术文章,Atlas,Community - Detail: llms-content/developer/zh_developer_techArticles_20260708-8.md ## Atlas 900 A2 PoD 环境中 Ray 框架子进程未退出导致显存占用异常及 OOM 问题分析与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260708-9 - Description: 在基于 Atlas 900 A2 PoD 的中心训练硬件平台上&\#xff0c;使用 CANN 8.0.RC2.10 与 HDK 24.1.0.3 版本进行推理服务部署时&\#xff0c;部服务拉起失败&\#xff0c;且在多次重试后仍无法正常启动。经排查&\#xff0c;问题表现为显存资源持续被占用&\#xff0c;新进程创建时频繁触发 OOM&\#xff08;Out of Memory&\#xff09;错误 - Keywords: Atlas,PoD,环境中,Ray,框架子进程未,退出导致显存,占用异常及,OOM - Detail: llms-content/developer/zh_developer_techArticles_20260708-9.md ## Atlas 900 A2 PoD 驱动安装失败问题排查与解决指南-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260709-1?envFlag=1 - Description: 在基于 Atlas 900 A2 PoD 的中心训练硬件环境中,驱动安装是确保 NPU 正常运行的关键步骤。当系统内核版本与驱动编译依赖不匹配时,可能导致驱动安装失败,影响后续模型训练任务的启动。本文针对驱动安装过程中因系统依赖缺失引发的典型问题,结合实际排查经验,提供完整的分析与解决方案,帮助开发者快速定位并修复问题。 - Keywords: Atlas,PoD,驱动安装失败,问题排查与解,决指南,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260709-1.md ## FlashAttentionScoreGrad 算子偶现失败问题分析与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260709-2?envFlag=1 - Description: 在大规模深度学习模型训练场景中,算子稳定性直接影响训练作业的可靠性和收敛效率。随着模型规模持续扩大,对算子在高并发、大内存访问下的鲁棒性要求日益提升。本文聚焦于一个在 CANN 8.5.0 版本中偶现的训练作业失败问题,该问题表现为单卡训练任务在大规模作业中触发快恢(快速恢复),且仅在特定条件下出现,排查难度较高。通过系统性分析日志、定位首报错、结合 plog 打印与版本依赖关系,最终确认为 Fl - Keywords: FlashAttentionScoreGrad,算子偶现失败,问题分析与解,决方案,官方技术文章,昇腾社区,Ascend C - Detail: llms-content/developer/zh_developer_techArticles_20260709-2.md ## 点云分割类模型在A3上线性度不足问题分析与优化实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260709-3 - Description: 在基于Atlas 900 A3 SuperPoD的中心化训练场景中&\#xff0c;点云分割类AI模型广泛应用于自动驾驶、3D场景理解等高精度感知任务。随着模型规模与集群规模的持续增长&\#xff0c;训练效率与线性度成为影响整体训练性能的关键指标。在实际部署过程中&\#xff0c;部分用户反馈在使用A3芯片进行16Die分布式训练时&\#xff0c;线性度仅维持在0.7~0.8之间&\#xff0c;未达到 - Keywords: 点云分割类模,型在,上线性度不足,问题分析与优,化实践,官方技术文章,昇腾社区,背景概述 - Detail: llms-content/developer/zh_developer_techArticles_20260709-3.md ## CANN 8.1.RC1 环境中因 numpy 版本不兼容导致训练报错 EC0010 的问题排查与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260709-4?envFlag=1 - Description: 在基于昇腾 AI 处理器的深度学习训练场景中,CANN作为核心软件栈,为模型训练与推理提供底层算子支持和运行时环境。在使用 CANN 8.1.RC1 版本进行模型训练时,在导入 Python 模块阶段出现 EC0010 错误,导致训练作业无法正常启动。该问题虽未影响整体框架稳定性,但会阻断训练流程,需及时排查并修复。 本文基于实际问题复现与分析过程,梳理了因 numpy版本不满足 CANN 依赖约 - Keywords: CANN,RC,环境中因,版本不兼容导,致训练报错,EC,的问题排查与解决,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260709-4.md ## 推理作业中因数据长度不一致导致流同步超时问题分析与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260709-5?envFlag=1 - Description: 在多卡并行推理场景中,尤其是在使用分布式训练/推理框架进行大规模模型部署时,各计算节点间需保持严格的同步机制以确保数据一致性与执行流程的正确性。当推理任务被分发至多个设备(如Atlas 900 A2)执行时,若各节点处理的数据量存在差异,可能导致部分节点提前完成计算,而其他节点仍在等待同步,从而引发流同步超时等异常。本文基于一次实际推理作业失败的排查过程,深入分析此类问题的根因,并提供可复用的解决 - Keywords: 推理作业中因,数据长度不一,致导致流同步,超时问题分析,与解决,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260709-5.md ## LLamafactory框架中packing与neat\_packing配置不一致导致FlashAttention算子异常问题分析与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260709-6?envFlag=1 - Description: 在基于昇腾AI处理器的深度学习训练场景中,LLamafactory作为主流的大模型训练框架之一,广泛应用于长序列文本生成任务。为提升显存利用率与训练效率,框架支持通过packing和neat\_packing等参数对输入序列进行合并与对齐优化。然而,在实际使用过程中,在配置长序列训练任务时,偶发出现训练作业卡死、FlashAttention(FA)算子异常退出等问题,严重影响训练稳定性与任务成功率。 - Keywords: LLamafactory,FlashAttention,框架中,配置不一致导,算子异常问题,分析与解决方,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260709-6.md ## vLLM-Ascend 部署 W8A8 量化模型时启动失败问题排查与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260709-7?envFlag=1 - Description: 在基于 Ascend NPU 的大模型推理场景中,vLLM-Ascend 作为高性能推理框架,广泛用于部署主流大语言模型。当尝试在单机多卡(如 16×Ascend 910B2C)环境下,以混合部署模式启动 W8A8 量化模型(如 DeepSeek-R1 系列)时,常会遇到服务启动失败、系统迅速触发 OOM(Out of Memory)的问题。此类问题往往缺乏明确的错误日志提示,排查难度较高,尤其在 - Keywords: LLM,Ascend,部署,量化模型时启,动失败问题排,查与解决方案,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260709-7.md ## RAS Starter 脚本中 IP 获取逻辑优化实践-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260709-8?envFlag=1 - Description: 在基于 Kubernetes(K8S)的推理服务部署场景中,服务的稳定性与健康探测机制密切相关。RAS Starter 作为服务拉起与生命周期管理的核心组件,其探测逻辑的准确性直接影响服务的持续可用性。在多套大规格推理任务并行运行的复杂环境中,若探测机制依赖的网络信息存在偏差,可能导致误判服务异常,触发不必要的服务重启,影响整体推理任务的连续性。 - Keywords: 脚本中,IP,获取逻辑优化实践,官方技术文章,昇腾社区,RAS Starter,MindIE,获取逻辑优化,实践 - Detail: llms-content/developer/zh_developer_techArticles_20260709-8.md ## VLLM-Ascend 启动后出现 Invalid JSON 错误的排查与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260709-9 - Description: 在基于 CANN 与 PyTorch 构建的推理服务中&\#xff0c;使用 VLLM 框架部署大语言模型时&\#xff0c;反馈在服务启动后&\#xff0c;所有请求均返回 400 错误&\#xff0c;且日志中提示“Invalid JSON”或“JSON 解析失败”。 - Keywords: VLLM,Ascend,启动后出现,Invalid,JSON,错误的排查与解决,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260709-9.md ## DeepSeek-R1 W8A8 量化模型加载异常-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260710-1?envFlag=1 - Description: 近期在尝试启动 DeepSeek-R1 系列 W8A8 量化模型(MTP float)时,发现服务拉起失败,报错信息为 `KeyError: 'model.embed\_tokens.weight'`。 - Keywords: DeepSeek,量化模型加载异常,官方技术文章,昇腾社区,量化模型加载,异常 - Detail: llms-content/developer/zh_developer_techArticles_20260710-1.md ## 单机部署 DeepSeek 模型时 NPU 显存溢出问题排查与优化-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260710-11?envFlag=1 - Description: 在单机部署时,可能会遇到 `NPU out of memory` 报错,导致推理服务无法启动或运行中断。该问题的常见成因,并提供基于 PyTorch NPU 适配层的显存优化方案,可以在单机环境下更稳定地部署 DeepSeek 模型。 - Keywords: 单机部署,DeepSeek,模型时,NPU,显存溢出问题,排查与优化,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260710-11.md ## Conv3DV2算子Tiling决策异常导致load2d指令地址越界问题分析与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260710-2?envFlag=1 - Description: 近期在实际开发与验证过程中,发现特定输入下Conv3DV2算子存在Tiling决策异常问题,导致MTE `load2d` 指令写地址超出目标内存区域,触发EZ9999错误,进而引发推理作业卡死。 - Keywords: Conv,DV,Tiling,算子,决策异常导致,指令地址越界,问题分析与解,决方案 - Detail: llms-content/developer/zh_developer_techArticles_20260710-2.md ## 模型运行在CPU导致训练效率严重劣化问题分析与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260713-1 - Description: 在相同模型与数据集配置下&\#xff0c;训练任务在新平台上的执行效率显著下降&\#xff1a;仅处理7条数据即耗时超过2小时&\#xff0c;而此前在其他平台仅需6分钟即可完成2000条数据的训练。整个过程无任何报错信息&\#xff0c;但NPU资源利用率几乎为0&\#xff0c;训练实际运行在CPU上&\#xff0c;导致性能严重劣化。 - Keywords: CPU,模型运行在,导致训练效率,严重劣化问题,分析与解决,官方技术文章,昇腾社区,问题现象 - Detail: llms-content/developer/zh_developer_techArticles_20260713-1.md ## 权重转换参数与训练配置不一致导致训练精度异常-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260713-2?envFlag=1 - Description: 在基于Mindspeed-LLM框架进行大模型训练的过程中,为提升Qwen3-30B-A3B模型的训练效率,开发者在官方示例脚本基础上引入了多种并行策略优化,包括CP并行、EP切分模式调整及重计算策略优化等。然而,在完成性能调优后,发现训练过程中的Loss曲线与开箱基准结果出现明显偏差,且该差异在多个训练轮次中持续存在。 - Keywords: 权重转换参数,与训练配置不,一致导致训练,精度异常,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260713-2.md ## 大模型训练中首步 Loss 为 NaN 的根因分析与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260713-3 - Description: 在基于 PyTorch 框架、CANN 框架及 Atlas 800T A2 硬件平台的大模型训练任务中&\#xff0c;采用 8 卡并行训练方案&\#xff0c;模型结构包含 MoE&\#xff08;Mixture of Experts&\#xff09;模块。训练过程中&\#xff0c;模型在首步&\#xff08;step 1&\#xff09;前向传播正常&\#xff0c;但反向传播阶段梯度出现 NaN&\#xff - Keywords: 大模型训练中首步,Loss,NaN,的根因分析与解决方案,官方技术文章,昇腾社区,背景概述,问题现象描述 - Detail: llms-content/developer/zh_developer_techArticles_20260713-3.md ## 官方技术文章 - URL: https://www.hiascend.com/developer/techArticles/20260713-6 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260713-6.md ## jinja文件缺失导致部署时P节点持续性崩溃问题-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260715-1 - Description: 在推理部署过程中&\#xff0c;尝试部署大模型推理服务&\#xff08;DSv3.1版本&\#xff09;时&\#xff0c;遇到Coordinator始终处于&\#96;Not Ready&\#96;状态&\#xff0c;且P节点Pod频繁重启&\#xff0c;服务无法正常启动。 - Keywords: 文件缺失导致,部署时,节点持续性崩,溃问题,官方技术文章,昇腾社区,背景概述,问题现象 - Detail: llms-content/developer/zh_developer_techArticles_20260715-1.md ## GLM4.7/GLM5 工具调用解析器假流式输出问题-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260715-2?envFlag=1 - Description: 在 GLM4.7 与 GLM5 等大模型中,启用工具调用时,模型输出存在“假流式”现象:在工具调用标签内内容生成过程中,SSE 流式输出持续为 `null`,直到整个标签内容生成完毕后才一次性输出,造成明显的卡顿体验。该问题在处理长文本参数的工具调用场景下尤为突出,不仅影响体验,还可能引发应用层超时异常。 - Keywords: GLM,工具调用解析,器假流式输出,问题,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260715-2.md ## MindIE 2.2.RC1 异步调度场景下内存持续增长问题-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260715-3?envFlag=1 - Description: 在使用 MindIE 推理框架部署大模型服务时,部分在高并发、长序列推理场景下反馈存在容器内存持续增长的问题,严重时导致服务被系统终止,影响业务连续性。 - Keywords: MindIE,RC,异步调度场景,下内存持续增,长问题,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260715-3.md ## vLLM-Ascend部署 DeepSeek 模型推理输出乱码问题分析与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260715-4?envFlag=1 - Description: 在使用 vLLM 0.20.2.rc1 版本镜像部署 DeepSeek-V4-Pro时,在特定输入长度下出现推理输出内容乱码的问题,尤其在多机分布式部署(PD 分离架构)下表现明显。该问题严重影响输出可读性与业务可用性,本文基于该问题,分析问题的根因并提供解决方案,为类似场景提供参考。 - Keywords: LLM,Ascend,部署,DeepSeek,模型推理输出,乱码问题分析,与解决,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260715-4.md ## Qwen3.5-27B 推理服务异常崩溃问题分析与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260715-5?envFlag=1 - Description: 在基于 vLLM-Ascend 框架部署 Qwen3.5-27B 进行推理服务的过程中,部分场景下服务在启动后出现异常崩溃,表现为 `Worker proc VllmWorker-1 died unexpectedly, shutting down executor.` 错误。该问题尤其在高并发、长序列或多模态输入场景下更为突出。本文基于实际排查过程,系统分析问题根因,并提出可复用的优化方案。 - Keywords: Qwen,推理服务异常,崩溃问题分析,与解决方案,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260715-5.md ## PD分离部署中因TLS配置不一致导致推理答非所问的定位与修复-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260715-6?envFlag=1 - Description: 在Atlas 800I A3设备上部署DeepSeek-V3.1模型时,发现模型推理生成内容语义连贯但与用户请求完全无关,即出现“答非所问”现象。该问题严重影响服务可用性,本文基于实际排查过程,系统分析问题根因,并提出可用的优化方案。 - Keywords: PD,TLS,分离部署中因,配置不一致导,致推理答非所,问的定位与修,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260715-6.md ## Atlas 800-3000 NPU设备权限异常导致推理业务报错排查与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260716-1 - Description: 在基于华为昇腾&\#xff08;Ascend&\#xff09;AI处理器的中心推理硬件环境中&\#xff0c;开发者常需部署多卡并行推理业务。在近期的一次现网维护场景中&\#xff0c;遇到单卡推理业务在8卡服务器上运行时&\#xff0c;特定Device&\#xff08;设备&\#xff09;出现 Failed to get device 报错&\#xff0c;而其他设备运行正常。该问题涉及NPU模块的权限管理 - Keywords: Atlas,NPU,设备权限异常,导致推理业务,报错排查与解,官方技术文章,昇腾社区,背景概述 - Detail: llms-content/developer/zh_developer_techArticles_20260716-1.md ## MindIE 大EP场景下D节点因Prefix Cache配置错误导致重启-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260716-10?envFlag=1 - Description: Prefix Cache作为一种优化机制,在通过复用公共前缀的KV Cache来提升推理效率。然而,在PD分离场景下,Prefill节点与Decode节点承担不同的计算任务,对特性的支持存在严格差异。若配置不当,极易引发节点挂死或重启等严重故障。 - Keywords: MindIE,EP,Prefix,场景下,节点因,Cache,配置错误导致,重启 - Detail: llms-content/developer/zh_developer_techArticles_20260716-10.md ## Atlas 800I A3 大EP场景下 TTFT 异常升高-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260716-11 - Description: Atlas 800I A3 服务器构建的大EP&\#xff08;大规模专家并行&\#xff09;推理解决方案中&\#xff0c;DeepSeek-V3.1 等高性能大模型的性能表现至关重要。在近期针对 MindIE 2.2.RC1 版本及 HDK 25.2.3 的软件栈进行性能复现与基线对标时&\#xff0c;发现特定高并发场景下&\#xff0c;首字延迟出现显著劣化&\#xff0c;偏离了预期的性能基线。 - Keywords: Atlas,EP,场景下,TTFT,异常升高,官方技术文章,昇腾社区,背景概述 - Detail: llms-content/developer/zh_developer_techArticles_20260716-11.md ## MindIE框架在异卡数配置下部署Qwen3-30B模型时的运行时错误-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260716-12?envFlag=1 - Description: 在实际测试与生产环境中,发现当采用非2的幂次卡数(如3卡、5卡、6卡、7卡)进行单机多卡推理部署时,Qwen3-30B等大参数模型容易触发运行时错误,导致推理任务中断。相比之下,单卡、双卡、四卡、八卡等2的幂次配置则运行稳定。 - Keywords: MindIE,Qwen,框架在异卡数,配置下部署,模型时的运行,时错误,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260716-12.md ## Atlas 900 A2 PoD 容器内使用 hccn\_tool 查询 Device IP 报错 "get invalid device id" 排查指南-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260716-2 - Description: 在基于 Atlas 900 A2 PoD 中心训练硬件进行分布式训练或推理任务时&\#xff0c;开发者常需在容器环境中通过 hccn\_tool 工具查询 NPU 设备的 IP 地址&\#xff08;Device IP&\#xff09;&\#xff0c;以便配置 HCCL 通信参数。 在实际开发或现网维护过程中&\#xff0c;部分开发者在容器内执行 hccn\_tool -i \[device id\] -i - Keywords: Atlas,PoD,容器内使用,查询,Device,IP,报错,排查指南 - Detail: llms-content/developer/zh_developer_techArticles_20260716-2.md ## Atlas 900 A2 PoD 容器内 npu-smi 执行报错 symbol lookup error 排查与解决-官方技术文章-Atlas Community - URL: https://www.hiascend.com/developer/techArticles/20260716-3?envFlag=1 - Description: 在基于 Atlas 900 A2 PoD 中心训练硬件进行深度学习模型训练或推理任务时,开发者通常需要在 Docker 容器环境中使用 `npu-smi` 工具来NPU 状态、查看设备信息或进行故障排查。 在实际开发过程中,部分开发者反馈在容器内部执行 `npu-smi info` 命令时,会出现 `symbol lookup error` 报错,导致无法获取 NPU 状态信息。本文将针对该现象 - Keywords: Atlas,PoD,容器内,执行报错,排查与解决,官方技术文章,Community,Released - Detail: llms-content/developer/zh_developer_techArticles_20260716-3.md ## 分布式训练中因 Checkpoint 加载超时引发 EE1002 报错的排查与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260716-4?envFlag=1 - Description: 在基于 PyTorch 和 CANN 的大规模分布式训练场景中,多节点间的严格同步是保证训练一致性的关键。torch.distributed.barrier\(\) 作为 PyTorch 分布式通信的核心原语,用于确保所有进程在到达某一点之前完成各自的任务。然而,当集群规模较大(如千卡级别)且涉及外部存储(如 SFS Turbo)时,若部分节点在加载 Checkpoint(模型权重)时出现延迟,可能导 - Keywords: 分布式训练中因,Checkpoint,加载超时引发,EE,报错的排查与解决,官方技术文章,昇腾社区,分布式训练中 - Detail: llms-content/developer/zh_developer_techArticles_20260716-4.md ## Atlas 900 A2 PoD 训练任务因 Device IP 配置异常导致中断的故障分析与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260716-5?envFlag=1 - Description: 在基于 Atlas 900 A2 PoD 集群进行大规模模型中心训练时,NPU 卡之间的通信稳定性是任务成功的关键。HCCL(Huawei Collective Communication Library)依赖正确的网络拓扑信息来建立节点间的高速互联。若底层硬件的网络参数(如 Device IP)配置缺失或错误,将导致 HCCL 初始化失败,进而引发训练任务中断。本文基于一起典型的 EI0001 - Keywords: Atlas,PoD,训练任务因,Device,IP,配置异常导致,中断的故障分,析与解决 - Detail: llms-content/developer/zh_developer_techArticles_20260716-5.md ## Atlas 900 A2 PoD 多机训练建链超时(EI0006)故障排查与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260716-6?envFlag=1 - Description: 在基于 Atlas 900 A2 PoD 集群进行多机多卡分布式训练时,HCCL(Huawei Collective Communication Library)负责在集群各 Device 间建立通信链路。若集群中任意 Rank 或通信链路在建链前/中发生异常,均可能导致集群建链失败,进而引发训练作业中断。 本文档记录了一起因服务器 NPU IP 地址不在同一网段导致多机训练建链超时(错误码 E - Keywords: Atlas,PoD,EI,多机训练建链,超时,故障排查与解,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260716-6.md ## PyTorch 训练作业因 Python Fork 机制导致进程卡死排查与解决-官方技术文章-Atlas Community - URL: https://www.hiascend.com/developer/techArticles/20260716-7?envFlag=1 - Description: 在基于 PyTorch 进行分布式训练时,开发者可能会遇到训练作业在运行一段时间后突然卡死,并伴随 `EE9999` 超时类报错的现象。此类问题通常表现为部分 Worker 节点先出现代码报错或日志记录异常,随后整个集群因同步超时而中断。经过深入排查,发现该现象并非由资源不足(如 OOM)或网络故障引起,而是源于 Python 解释器底层在特定版本下使用 `fork` 方式创建子进程时存在的已知 - Keywords: PyTorch,训练作业因,Python,Fork,机制导致进程,卡死排查与解,官方技术文章,Atlas - Detail: llms-content/developer/zh_developer_techArticles_20260716-7.md ## Atlas 900 A2 PoD 训练任务因 TLS 查询超时导致 HCCL 建链失败排查与优化-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260716-8?envFlag=1 - Description: 在基于 Atlas 900 A2 PoD 集群进行大规模分布式训练时,集合通信库(HCCL)的稳定建立是任务正常启动的前提。近期在中心训练硬件场景下,部分节点在训练拉起阶段出现异常中断,日志中频繁出现 E39999 算子报错及 ERR02200 通信错误。经过深入排查,发现该问题与系统后台对 TLS(Transport Layer Security)开关状态的查询频率过高有关,导致设备响应超时,进 - Keywords: Atlas,PoD,训练任务因,TLS,查询超时导致,HCCL,建链失败排查与优化,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260716-8.md ## MsAgent: 算子性能一站式调优agent,开箱即用-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260717-1 - Description: MindStudio-Agent&\#xff08;MsAgent&\#xff09;是面向 Ascend NPU 场景的一站式调试调优 Agent 平台&\#xff0c;通过专业化 Agent 体系与技能驱动架构&\#xff0c;将复杂的性能分析、精度调试、模型量化、文档审查和算子调优任务转化为结构化结论、根因分析和可执行优化建议。本文档从需求分析、架构设计、核心流程、技能体系、关键决策和实际使用案例六个维 - Keywords: MsAgent,算子性能一站,式调优,开箱即用,官方技术文章,昇腾社区,摘要,背景 - Detail: llms-content/developer/zh_developer_techArticles_20260717-1.md ## 800T A2 集群部署 DeepSeek-V3 服务化报错排查与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260717-10 - Description: 在 800T A2 设备进行大模型部署&\#xff0c;尝试启动 DeepSeek-V3 模型。该场景涉及 4 台服务器&\#xff0c;在部署过程中&\#xff0c;发现集群中仅有一台服务器能正常加载模型并启动服务&\#xff0c;其余三台服务器在启动过程中均抛出 &\#96;ConnectionRefusedError: \[Errno 111\] Connection refused&\#96; 错误&\#x - Keywords: 集群部署,DeepSeek,服务化报错排查与解决,官方技术文章,昇腾社区,背景概述,问题现象,排查过程 - Detail: llms-content/developer/zh_developer_techArticles_20260717-10.md ## Atlas 900 A2 PoD 训练报错 EZ9999 排查指南:Kernel 算子包版本匹配问题-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260717-2?envFlag=1 - Description: 在基于 Atlas 900 A2 PoD 集群进行大模型训练或推理任务时,开发者可能会遇到作业启动失败或运行中途报错 EZ9999 的情况。其中,一种常见的报错信息为 "Op Sub does not has any binary"。该错误通常指向底层算子二进制文件缺失或无法加载。 本文档旨在从开发者视角,梳理该问题的排查思路与解决措施,重点分析 Kernel 算子包与 NPU 硬件型号不匹配导 - Keywords: Atlas,PoD,训练报错,EZ,Kernel,排查指南,算子包版本匹配问题,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260717-2.md ## 通信算子下发不一致导致训练作业超时故障排查-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260717-3?envFlag=1 - Description: 在基于 Atlas 900 A2 PoD 或 Atlas 900 A3 SuperPoD 进行大规模分布式训练时,HCCL(Huawei Collective Communication Library)负责节点间及卡间的通信协调。当业务侧代码逻辑存在异常(如动态图构建不一致、数据加载逻辑分支错误等)时,可能导致不同设备(Device)下发的通信算子序列或参数不一致。这种不一致性在首次建链时可能通 - Keywords: 通信算子下发,不一致导致训,练作业超时故,障排查,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260717-3.md ## Atlas A3 训练作业拉起失败排查:CANN 与 Kernel 包版本匹配-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260717-5?envFlag=1 - Description: 在昇腾 Atlas 900 A3 SuperPoD 集群进行中心训练时,开发者常需根据硬件特性选择合适的软件栈。随着 CANN 版本的迭代,不同硬件平台(如 Atlas A2 与 Atlas A3)的底层驱动和 Kernel 包逐渐独立。若在使用 Atlas A3 硬件时误用了旧版或不兼容的 CANN 包及 Kernel 组件,极易导致作业启动失败。本文基于一起典型的 Atlas A3 单机作业拉 - Keywords: Atlas,CANN,训练作业拉起,失败排查,Kernel,包版本匹配,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260717-5.md ## Qwen模型训练报错EI0009:CANN与HDK版本不配套-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260717-6?envFlag=1 - Description: 在基于 Atlas 800T A2 或 Atlas 900 A2 进行大模型(如 Qwen)中心训练时,开发者可能会遇到模型拉起失败的情况。系统日志中常出现 EI0009 告警及 Transport init error 错误,导致训练任务无法正常启动。此类问题通常与软件栈版本兼容性密切相关。本文将以开发者视角,分享在遇到该报错时的排查思路及解决方案,帮助快速定位并解决因版本不配套导致的训练异常。 - Keywords: Qwen,EI,CANN,HDK,模型训练报错,版本不配套,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260717-6.md ## vLLM-Ascend 部署 Embedding 模型前缀缓存精度问题分析与优化-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260717-7 - Description: 随着大模型在推荐系统、搜索排序等场景的广泛应用&\#xff0c;Embedding 模型作为核心组件&\#xff0c;其推理精度与性能备受关注。在基于昇腾 Atlas 800I A2 服务器部署 vLLM-Ascend 推理框架时&\#xff0c;为了提升高并发场景下的吞吐量&\#xff0c;通常建议开启 Prefix Caching&\#xff08;前缀缓存&\#xff09;特性。 然而&\#xff0c;在 - Keywords: LLM,Ascend,部署,Embedding,模型前缀缓存,精度问题分析,与优化,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260717-7.md ## MindIE 启动失败排查:权重加载后卡死与 NPU TLS 状态一致性检查-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260717-8?envFlag=1 - Description: 在基于 Atlas 800I A3 服务器部署大模型推理服务时,使用 MindIE 框架进行服务拉起。在实际操作中,部分场景下服务在初始化阶段出现卡死现象,导致推理服务无法正常启动。本文基于实际排查过程,梳理问题现象、根因分析及解决方案,为类似场景提供参考。 - Keywords: MindIE,启动失败排查,权重加载后卡,死与,NPU,TLS,状态一致性检查,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260717-8.md ## 大EP部署中PD实例Pod生成失败排查与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260717-9?envFlag=1 - Description: 在实际部署场景中,反馈在运行拉起服务脚本后,Kubernetes 集群中未能生成预期的 PD 实例 Pod。通过检查 acjob 状态,发现 Pod 创建失败,导致服务无法启动。 - Keywords: EP,PD,Pod,部署中,实例,生成失败排查,与解决,官方技术文章 - Detail: llms-content/developer/zh_developer_techArticles_20260717-9.md ## DP CPU 资源限制过低导致 NPU 卡数异常上报问题-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260720-1?envFlag=1 - Description: 在Atlas 900 A2 PoD 的中心训练场景中,Kubernetes 集群通过 DP向 API Server 汇报节点的 NPU 资源信息,包括 Capacity 和 Allocatable 中的 `huawei.com/ascend-1980` 卡数。偶发出现节点资源信息不一致、云平台显示卡数异常等问题,影响了资源调度的准确性与训练任务的稳定性。 - Keywords: 资源限制过低导致,NPU,卡数异常上报问题,官方技术文章,昇腾社区,DP CPU,资源限制过低,导致,卡数异常上报,问题 - Detail: llms-content/developer/zh_developer_techArticles_20260720-1.md ## 基于昇腾使用speculators训练DSpark投机推理草稿模型-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260720-10 - Description: 在华为 Ascend NPU 上从零训练 DSpark draft 模型&\#xff0c;并接入 vLLM-Ascend 进行投机解码推理 - Keywords: DSpark,基于昇腾使用,训练,投机推理草稿,模型,官方技术文章,昇腾社区,投机推理介绍 - Detail: llms-content/developer/zh_developer_techArticles_20260720-10.md ## CANN 8.2.RC1 训练作业报错排查:Shape 数据缓存与异常 Dump 功能冲突-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260720-2 - Description: 在基于 CANN 8.2.RC1 版本进行大规模深度学习模型训练时&\#xff0c;反馈训练作业在运行过程中偶发中断&\#xff0c;并伴随 &\#96;EZ9903&\#96; 及 &\#96;EI0002&\#96; 等错误码退出。发现该问题主要出现在开启了 &\#96;HOST\_CACHE\_CAPACITY&\#96; 环境变量且同时触发异常算子 Dump 功能的场景下。 - Keywords: CANN,RC,Shape,训练作业报错,排查,数据缓存与异常,Dump,功能冲突 - Detail: llms-content/developer/zh_developer_techArticles_20260720-2.md ## PyTorch 多机分布式训练中 new\_group 建链超时问题分析与解决方案-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260720-3?envFlag=1 - Description: 在 PyTorch 的大规模分布式训练场景中,若节点间启动时间不同步、数据加载耗时过长或网络环境波动,可能导致建链阶段出现 `Socket Timeout` 异常,进而引发 `torch.distributed.DistStoreError`,导致训练任务无法启动。 - Keywords: PyTorch,多机分布式训练中,建链超时问题,分析与解决方,官方技术文章,昇腾社区,多机分布式训,练中 - Detail: llms-content/developer/zh_developer_techArticles_20260720-3.md ## 未使用set\_deivce指定NPU导致profiling无法采集数据-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260721-1 - Description: 在使用华为 Atlas 900 A2 PoD 集群进行中心训练任务时&\#xff0c;通常需借助 Profiling 工具对模型在 NPU 上的执行性能进行深度分析。在实际开发过程中&\#xff0c;配置了 Profiling 后无法采集到有效数据&\#xff0c;甚至导致作业快速报错退出的情况。 - Keywords: NPU,未使用,指定,导致,无法采集数据,官方技术文章,昇腾社区,背景概述 - Detail: llms-content/developer/zh_developer_techArticles_20260721-1.md ## MindSpore 分布式训练建链超时问题排查与优化-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260721-2?envFlag=1 - Description: 在训练节点数量从常规规模(如 32 节点)扩展至超大规模(如 128 节点或更多)时,遇到分布式作业启动失败的问题。其中,由于不同设备间 `mindspore.communication.init\(\)` 调用存在时间差,导致 Host 建链超时是较为常见的故障场景。 - Keywords: MindSpore,分布式训练建,链超时问题排,查与优化,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260721-2.md ## vLLM-Ascend 推理作业 NPU 设备识别为空-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260721-3 - Description: 在使用 Ray 分布式框架部署 vLLM-Ascend 进行多机多卡推理时&\#xff0c;遇到作业启动失败的问题。具体表现为 HCCL 通信初始化报错&\#xff0c;且日志中频繁出现 &\#96;set device parameters \[\] error&\#96; 或类似的空列表错误。 - Keywords: LLM,Ascend,推理作业,NPU,设备识别为空,官方技术文章,昇腾社区,背景概述 - Detail: llms-content/developer/zh_developer_techArticles_20260721-3.md ## FlashAttentionScoreGrad 算子偶发异常导致训练作业报错 EZ9999 的排查与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260722-1 - Description: 在基于 CANN 与 PyTorch 构建的深度学习训练环境中&\#xff0c;用户在使用 Atlas 900 A2 PoD 进行大规模模型训练时&\#xff0c;偶发出现训练作业中断并报错 EZ9999 的问题。该错误发生在算子执行阶段&\#xff0c;日志中明确提示 AICore 异常&\#xff0c;且错误信息指向 FlashAttentionScoreGrad 算子。此类问题虽不常见&\#xff0c - Keywords: FlashAttentionScoreGrad,算子偶发异常,导致训练作业,报错,EZ,的排查与解决,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260722-1.md ## mindspore预留显存设置过高导致OOM-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260722-2?envFlag=1 - Description: 在基于 Atlas 900-9000 的中心训练硬件平台上,使用 MindSpore Transformers 框架进行大规模模型训练时,可能遇到因 NPU 片上内存(Device Memory)配置不当导致的训练作业异常退出问题。本文针对一类典型的 OOM(Out of Memory)故障现象,详细阐述其定位过程、根因分析及解决方案,帮助开发者合理配置内存参数,保障训练作业稳定运行。 - Keywords: OOM,预留显存设置,过高导致,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260722-2.md ## Atlas 900 RCK A2 Compute Node 驱动安装路径与容器映射不一致导致报错 EE9999/EE1001-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260722-3?envFlag=1 - Description: 在基于 Atlas 900 RCK A2 Compute Node 的模型训练环境中,NPU 驱动的正确安装与容器映射配置是确保训练任务稳定运行的关键。当驱动安装路径与容器内映射路径不一致时,可能导致非零号 NPU 设备无法正常拉起,进而引发任务启动失败。本文针对此类因路径配置不一致引发的典型问题,结合实际排查经验,提供完整的分析与解决方案,帮助开发者快速定位并修复问题。 - Keywords: Atlas,RCK,Compute,Node,驱动安装路径,与容器映射不,一致导致报错,EE - Detail: llms-content/developer/zh_developer_techArticles_20260722-3.md ## MindIE 单机推理启动失败:nbstart\_hccl.json 属主校验及环境变量冲突-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260722-4 - Description: 近期在 Atlas 900 A2 PoD 集群环境下&\#xff0c;使用 MindIE-server 组件进行单机推理测试时&\#xff0c;遇到了 &\#96;nbstart\_hccl.json&\#96; 属主校验失败以及后续伴随的 HCCL 通信报错。发现该问题是由环境变量 &\#96;RANK\_TABLE\_FILE&\#96; 的不当设置引发的连锁反应。 - Keywords: MindIE,单机推理启动,失败,属主校验及环,境变量冲突,官方技术文章,昇腾社区,背景概述 - Detail: llms-content/developer/zh_developer_techArticles_20260722-4.md ## Atlas 900 A3 SuperPoD HCCL多机通信带宽优化-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260722-5?envFlag=1 - Description: Atlas 900 A3 SuperPoD集群中,HCCL带宽异常(如降至70GB/s)多因配置不当导致通信链路降级使用RoCE而非高速HCCS。建议校正环境变量或ranktable以确保选择最优HCCS路径,确保超节点内48节点allreduce带宽不低于94.47GB/s,保障大规模分布式训练效率。 - Keywords: Atlas,SuperPoD,HCCL,多机通信带宽,优化,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260722-5.md ## Atlas 900 A2 PoD 容器内 ASCEND\_RT\_VISIBLE\_DEVICES 配置规范-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260722-6?envFlag=1 - Description: 在 Atlas 900 A2 PoD 集群部署 `ascend-vllm` 时,若出现 `RuntimeError: Engine process failed to start`,通常因容器内 `ASCEND\_RT\_VISIBLE\_DEVICES` 配置与 NPU 物理 ID 映射不一致导致。需确保容器挂载的 `davinciX` 设备与变量指定的索引对应,并检查驱动路径映射及权限,以解决进程启 - Keywords: Atlas,PoD,容器内,ASCEND,RT,VISIBLE,DEVICES,配置规范 - Detail: llms-content/developer/zh_developer_techArticles_20260722-6.md ## NPU被容器异常占用导致机器无法被调度-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260723-1?envFlag=1 - Description: 在基于 Kubernetes 进行 AI 算力调度的场景中,节点的资源状态通常由调度组件(如 MindX)通过 ConfigMap 进行维护。当节点上的 NPU 资源显示为 0 且无法被新任务调度时,底层硬件资源被异常锁定。 - Keywords: NPU,被容器异常占,用导致机器无,法被调度,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260723-1.md ## Atlas 900 A2 PoDc 部署 Qwen-32B 模型权重文件校验与权限配置-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260723-2?envFlag=1 - Description: 在Atlas 900 A2 PoDc集群部署Qwen-32B时,常遇 `safe\_get\_tokenizer\_from\_pretrained` 报错“权重文件权限问题”。实际多由文件完整性损坏与权限配置不当(如config.json权限非640)共同引发。需结合SHA256校验与标准化权限设置排查,确保模型稳定拉起。 - Keywords: Atlas,PoDc,部署,Qwen,模型权重文件,校验与权限配,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260723-2.md ## vLLM 并发场景下 xgrammar 结构化输出导致的 TypeError 问题-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260723-3 - Description: 高并发下vLLM结构化输出报错 &\#96;TypeError: incompatible function arguments&\#96;&\#xff0c;多因 &\#96;xgrammar&\#96; 处理大词表或特定模型时&\#xff0c;CPU端logits数据类型&\#xff08;如FP8/BF16&\#xff09;与库要求不匹配。需确保输入logit强制转为float32&\#xff0c;并升级至修复i - Keywords: LLM,并发场景下,结构化输出导致的,TypeError,问题,官方技术文章,昇腾社区,背景概述 - Detail: llms-content/developer/zh_developer_techArticles_20260723-3.md ## vLLM-Ascend PD分离场景下代理脚本配置错误导致ConnectError问题排查与解决方案-官方技术文章-Atlas Community - URL: https://www.hiascend.com/developer/techArticles/20260724-1 - Description: 在基于vLLM-Ascend的推理系统中,为提升大模型推理效率,常采用Prefill-Decode(PD)分离架构,将计算密集型的Prefill阶段与解码阶段部署在不同节点上,实现资源解耦与弹性调度。在该架构下,需通过专用的负载均衡代理脚本协调请求分发与KV Cache的跨节点传输。 本文针对在vLLM-Ascend v0.17.0rc1版本中,使用Deepseek-V3.2-w8a8模型进行P - Keywords: LLM,Ascend,PD,ConnectError,分离场景下代,理脚本配置错,误导致,问题排查与解 - Detail: llms-content/developer/zh_developer_techArticles_20260724-1.md ## Atlas 300I Duo 推理卡大模型多卡并行推理报错-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260724-3 - Description: 以 Qwen2-72B 为例&\#xff0c; Atlas 300I Duo 推理卡单设备显存通常为 45GB。为了在单机多卡环境下运行此类大模型&\#xff0c;通常尝试通过代码实现模型拆分或多卡并行计算。而在实际部署过程中&\#xff0c;发现直接复用适用于训练卡的多卡并行代码时&\#xff0c;在 Atlas 300I Duo 推理卡上会出现任务报错退出、sdma 错误甚至掉卡现象。 - Keywords: Atlas,Duo,推理卡大模型,多卡并行推理,报错,官方技术文章,昇腾社区,背景概述 - Detail: llms-content/developer/zh_developer_techArticles_20260724-3.md ## DeepSeek 双机部署 HCCL 通信组创建失败排查与解决-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260724-4 - Description: 在集群部署DeepSeek等大模型时&\#xff0c;&\#96;Create the hccl communication group failed&\#96; 错误多由跨机HCCL通信配置不当引发。根因常为ranktable文件中IP、端口或Rank映射错误&\#xff0c;导致节点间无法建立可靠通信通道。 - Keywords: DeepSeek,双机部署,HCCL,通信组创建失,败排查与解决,官方技术文章,昇腾社区,背景概述 - Detail: llms-content/developer/zh_developer_techArticles_20260724-4.md ## Atlas 900 A2 PoD 环境中虚拟内存与单进程多卡特性互斥-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260724-6?envFlag=1 - Description: 在 Atlas 900 A2 PoD 的中心训练硬件平台上,常利用 PyTorch 的虚拟内存特性优化显存使用,或通过单进程多卡特性简化多卡并行逻辑。然而,在特定软件版本组合下,这两种特性存在兼容性限制。若未正确识别该限制,推理作业在首次拉起时即可能因底层内存管理冲突导致启动失败。 - Keywords: Atlas,PoD,环境中虚拟内,存与单进程多,卡特性互斥,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260724-6.md ## 双机容器场景下 HCCL\_Test 执行报错 "No such file or directory" -官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260727-3?envFlag=1 - Description: 在使用 HCCL\_Test 工具进行双机多卡通信性能测试时,遇到执行命令后进程长时间卡住,并伴随 ` No such file or directory` 报错的现象。 - Keywords: 双机容器场景下,HCCL,Test,执行报错,No,官方技术文章,昇腾社区,双机容器场景 - Detail: llms-content/developer/zh_developer_techArticles_20260727-3.md ## Atlas 200T A2 Box16 多机推理部署中 MindIE 启动失败-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260727-4 - Description: Atlas 200T A2 Box16 在进行多机分布式推理部署时&\#xff0c;MindIE 作为核心推理引擎&\#xff0c;依赖于准确的节点拓扑信息来建立 HCCL 通信域。在实际开发过程中&\#xff0c;若多机环境下的 &\#96;ranktable&\#96; 配置文件配置不当&\#xff0c;导致 Batchscheduler 组件在初始化 HCCL 通信域时失败&\#xff0c;进而引发 Mi - Keywords: Atlas,Box,多机推理部署中,MindIE,启动失败,官方技术文章,昇腾社区,背景概述 - Detail: llms-content/developer/zh_developer_techArticles_20260727-4.md ## Atlas 800I A2 物理机场景下算力切分导致业务拉起失败-官方技术文章-昇腾社区 - URL: https://www.hiascend.com/developer/techArticles/20260727-5?envFlag=1 - Description: Atlas 800I A2 推理服务器支持 NPU 算力切分(vNPU)功能,将单张物理 NPU 的算力划分为多个虚拟功能(VF),以适配容器或虚拟机等虚拟化场景,从而提升资源利用率并降低部署成本。 - Keywords: Atlas,物理机场景下,算力切分导致,业务拉起失败,官方技术文章,昇腾社区 - Detail: llms-content/developer/zh_developer_techArticles_20260727-5.md ## 训练开发-昇腾社区 - URL: https://www.hiascend.com/developer/training - Description: 根据大语言模型训练、多模态模型训练、强化学习训练、分布式训练加速库、自动驾驶模型训练、传统模型训练六大类开发场景,为开发者提供文档、软件、工具等丰富的模型开发资源库及最佳实践案例,帮助开发者快速掌握昇腾训练开发 - Keywords: 大语言模型训练,多模态模型训练,强化学习训练,分布式训练加速库,自动驾驶模型训练,传统模型训练 - Detail: llms-content/developer/zh_developer_training.md ## 昇腾文档-昇腾社区 - URL: https://www.hiascend.com/document - Description: 帮助开发者了解华为昇腾系列AI处理器软硬件,进行人工智能应用的开发 - Keywords: 昇腾文档,昇腾社区,其他资源,CANN,PyTorch,Ascend C API,Ascend,CATLASS - Detail: llms-content/document/zh_document.md ## 故障案例-MindStudio-模型推理训练-算子开发-支持与服务-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary - Description: 提供海量的问题分析思路和解决办法 - Keywords: 故障案例,MindStudio,模型推理训练,算子开发,支持与服务,昇腾社区,CANN,Failed - Detail: llms-content/document/zh_document_caselibrary.md ## 资源未释放,内存占用持续上升-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/aclcase_0012 - Description: 应用程序运行时,出现内存泄漏的现象,内存占用持续上升。如下图所示。 - Keywords: runtime;内存 - Detail: llms-content/document/zh_document_caselibrary_detail_aclcase_0012.md ## Event数量超过上限导致aclrtRecordEvent接口返回失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/aclcase_0013 - Description: 调用aclrtRecordEvent接口在Stream中记录一个Event时,日志中的报错如下,红框中是关键日志信息,提示Event ID申请失败: - Keywords: runtime;event - Detail: llms-content/document/zh_document_caselibrary_detail_aclcase_0013.md ## 手动捕获进程异常信息并清理,导致应用进程异常-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/aclcase_0014 - Description: 用户捕获异常退出信号,并在信号处理函数中释放已申请资源,下一次执行时会报执行失败。查看应用类日志,日志中的报错信息示例如下: - Keywords: runtime;资源释放 - Detail: llms-content/document/zh_document_caselibrary_detail_aclcase_0014.md ## AI应用进程未退出,导致休眠唤醒失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/aclcase_0015 - Description: 休眠失败。查看应用类日志,系统内部的任务分发模块hwts正处于busy状态,检查发现不满足休眠条件,日志片段示例如下: - Keywords: runtime;休眠 - Detail: llms-content/document/zh_document_caselibrary_detail_aclcase_0015.md ## 编译应用样例报错,提示找不到头文件-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/aclcase_0017-ZB8X6MlM - Description: 编译Ascend Sample仓中的样例应用程序源码时,报错提示找不到头文件acl.h。 报错示例如下: - Keywords: AscendCL;编译 - Detail: llms-content/document/zh_document_caselibrary_detail_aclcase_0017-ZB8X6MlM.md ## 编译应用样例报错,提示找不到库文件-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/aclcase_0018-Jrb0AL5Z - Description: 编译Ascend Sample仓中的样例应用程序源码时,报错提示找不到库文件libascendcl.so(报错中的-lascendcl,-l表示查找库文件,ascendcl前后分别加上lib和.so组成库文件的名称libascendcl.so)。 报错示例如下: - Keywords: AscendCL;编译 - Detail: llms-content/document/zh_document_caselibrary_detail_aclcase_0018-Jrb0AL5Z.md ## 执行应用程序的权限不足导致AscendCL初始化报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/aclcase_0019 - Description: 用户进程报错并退出。 查看应用类日志,提示获取Device信息失败,最终导致AscendCL初始化失败,日志片段示例如下: - Keywords: AscendCL;执行应用 - Detail: llms-content/document/zh_document_caselibrary_detail_aclcase_0019.md ## ATC将由paddle模型生成的ONNX模型转换成OM时报错误码EZ3002-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atc_case_00001 - Description: ATC工具将由paddle模型生成的ONNX模型转换成OM时,Cast和GatherV2算子报EZ3002错误码。 - Keywords: Cast, GatherV2, EZ3002 - Detail: llms-content/document/zh_document_caselibrary_detail_atc_case_00001.md ## 指定ONNX输出节点转成OM后,用ATC工具转OM时报错误码E19999-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atc_case_00003 - Description: 指定ONNX输出节点转成OM后,用ATC工具转OM时报错误码“E19999 User specified tensor\[p2o.Concat.38\] is not output of graph.”。 - Keywords: E19999 - Detail: llms-content/document/zh_document_caselibrary_detail_atc_case_00003.md ## ATC模型转换出现不支持的loop算子报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atc_case_00013 - Description: ATC进行ONNX转OM过程中,loop算子不支持并报错。 - Keywords: loop - Detail: llms-content/document/zh_document_caselibrary_detail_atc_case_00013.md ## ATC模型转换报输入类型不一致错误-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atc_case_00014 - Description: ATC模型转换过程中报dtype of inputs must be same错误。 - Keywords: dtype - Detail: llms-content/document/zh_document_caselibrary_detail_atc_case_00014.md ## ATC转换时报错:' E10001: Value \[-1\] for parameter \[image\] is invalid '-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atc_case_00015 - Description: 执行ATC模型转换时报' E10001: Value \[-1\] for parameter \[image\] is invalid '错误信息。 - Keywords: input, shape, E10001 - Detail: llms-content/document/zh_document_caselibrary_detail_atc_case_00015.md ## 替换CANN包中的.so文件后,执行ATC模型转换报错:baoundefined symbol-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atccase_0001 - Description: 替换CANN包中的.so文件后,执行ATC模型转换报undefined symbol错误信息。 - Keywords: so;ATC模型转换 - Detail: llms-content/document/zh_document_caselibrary_detail_atccase_0001.md ## ATC转换OM模型报错:\[Node:176Squeeze\] Check input shape faild-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atccase_0002 - Description: Mindspore训练的flyspeech模型导出ONNX文件后,使用ATC工具转OM模型时报\[Node:176Squeeze\] Check input shape faild错误信息。 - Keywords: ATC;OM模型 - Detail: llms-content/document/zh_document_caselibrary_detail_atccase_0002.md ## ATC模型转换时报错:E89999 op\[MatMul\_1529/PadD\], 0th input has wrong shape0, it should be 1-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atccase_0003 - Description: 当CANN软件包版本为6.0.1时,执行ATC模型转换时报E89999 op\[MatMul\_1529/PadD\], 0th input has wrong shape0, it should be 1错误信息。 - Keywords: ATC模型转换 - Detail: llms-content/document/zh_document_caselibrary_detail_atccase_0003.md ## 原始网络模型shape中存在不固定的维度值,模型转换未设置shape信息-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atccase_0004 - Description: 获取原始网络模型,执行模型转换命令进行模型转换时,提示E10001报错信息。 报错信息如下: - Keywords: ATC;模型转换;动态BatchSize;shape范围;shape分档 - Detail: llms-content/document/zh_document_caselibrary_detail_atccase_0004.md ## 动态BatchSize/动态分辨率/动态维度场景,只设置一个档位,模型转换失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atccase_0005 - Description: 此类问题我们以--dynamic\_batch\_size参数为例进行说明。 使用ATC工具进行模型转换时,使用--dynamic\_batch\_size参数转换支持多个BatchSize的模型,提示E10035报错信息。 报错信息如下: - Keywords: ATC;模型转换;动态BatchSize;动态分辨率;动态维度;shape分档 - Detail: llms-content/document/zh_document_caselibrary_detail_atccase_0005.md ## 使用动态batchsize参数转模型时,其他档位设置了-1,模型转换失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atccase_0006 - Description: 使用ATC工具进行模型转换时,使用--dynamic\_batch\_size参数转换支持多个BatchSize的模型,提示E10018报错信息。 报错信息如下: - Keywords: ATC;模型转换;动态BatchSize;动态维度;shape分档 - Detail: llms-content/document/zh_document_caselibrary_detail_atccase_0006.md ## 使用动态分辨率参数转模型时,其他档位设置了-1,模型转换失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atccase_0007 - Description: 使用ATC工具进行模型转换时,使用--dynamic\_image\_size参数转换支持多个分辨率的模型,提示E10019报错信息。 报错信息如下: - Keywords: ATC;模型转换;动态分辨率;动态维度;shape分档 - Detail: llms-content/document/zh_document_caselibrary_detail_atccase_0007.md ## 安装python3-tk时提示错误信息-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasamct_16_0356 - Description: 安装python3-tk依赖时,提示如下错误提示信息: - Keywords: python3-tk - Detail: llms-content/document/zh_document_caselibrary_detail_atlasamct_16_0356.md ## 校准执行过程中提示“\[IFMR\]: Do layer xxx data calibration failed\!”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasamct_16_0357 - Description: 在调用PyTorch框架执行中间校准模型推理过程中,由于输入数据范围不合法,导致量化算法计算得到的scale不合理,从而校准过程失败,终止校准流程。 - Keywords: IFMR;calibration failed - Detail: llms-content/document/zh_document_caselibrary_detail_atlasamct_16_0357.md ## 校准过程中提示"IFMR node. Name:'layer\_ifmr\_op' Status Message: std::bad\_alloc"信息-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasamct_16_0359 - Description: 训练后量化校准过程中,对某层进行量化,提示内存错误"IFMR node. Name:'layer\_ifmr\_op' Status Message: std::bad\_alloc "。 - Keywords: IFMR ;layer\_ifmr\_op;bad\_alloc - Detail: llms-content/document/zh_document_caselibrary_detail_atlasamct_16_0359.md ## 校准过程中出现"killed"信息-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasamct_16_0360 - Description: 校准过程中,出现“killed”信息。 - Keywords: killed;校准 - Detail: llms-content/document/zh_document_caselibrary_detail_atlasamct_16_0360.md ## QDQ格式模型推理过程中出现ONNXRuntimeError报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasamct_16_0361 - Description: QDQ(Quantize and DeQuantize)格式模型,比如从TensorFlow转换或从PyTorch导出的量化感知训练(QAT)模型,在ONNX Runtime1.8.0及以上的CPU版本环境下推理,出现类似下图的ONNXRuntimeError报错。(QDQ格式模型具体介绍请参见Link) - Keywords: ONNXRuntimeError - Detail: llms-content/document/zh_document_caselibrary_detail_atlasamct_16_0361.md ## 校准执行过程中提示“\[IfmrQuantWithoutOffset\]scale is illegal”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasamct_16_0362 - Description: 在调用ONNX Runtime框架执行中间校准模型推理过程中,由于输入数据范围不合法,导致量化算法计算得到的scale不合理,从而校准过程失败,终止校准流程。 - Keywords: IfmrQuantWithoutOffset;illegal;scale - Detail: llms-content/document/zh_document_caselibrary_detail_atlasamct_16_0362.md ## IFMR数据量化时,存在"inf或NaN值"或"xxx calculate scale failed",量化过程报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasamct_16_0364 - Description: 在调用TensorFlow框架执行中间校准模型推理过程中,由于输入数据范围不合法,导致量化算法计算得到的scale不合理,从而校准过程失败,终止校准流程。 - Keywords: inf;NaN;calculate scale failed - Detail: llms-content/document/zh_document_caselibrary_detail_atlasamct_16_0364.md ## 量化过程中提示某层bias量化超出int32范围-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasamct_16_0365 - Description: 量化过程中提示某层bias量化超出int32范围,提示信息如下: - Keywords: InvalidArgumentError;assertion failed - Detail: llms-content/document/zh_document_caselibrary_detail_atlasamct_16_0365.md ## 使用训练后量化进行量化时,量化过程存在空tensor输入报错信息-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasamct_16_0370 - Description: 执行训练后量化时,存在空tensor输入报错信息,详细报错信息如下: - Keywords: tensor;empty - Detail: llms-content/document/zh_document_caselibrary_detail_atlasamct_16_0370.md ## 使用命令行方式安装Caffe环境失败-Atlas Community - URL: https://www.hiascend.com/document/caselibrary/detail/atlasamct_16_0373 - Description: 使用命令行方式安装Caffe环境时,提示类似"/usr/bin/python3.7: can't open file '/usr/lib/python3.7/py\_compile.py': \[Error 2\] No such file or directory"信息,导致Caffe环境安装失败。 - Keywords: Caffe;No such file or directory - Detail: llms-content/document/zh_document_caselibrary_detail_atlasamct_16_0373.md ## 执行proto合并时提示ERROR信息-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasamct_16_0374 - Keywords: proto - Detail: llms-content/document/zh_document_caselibrary_detail_atlasamct_16_0374.md ## 校准执行过程中提示"IfmrQuantCalibration with offset scale is illegal"或"IfmrQuantCalibration without offset sc - URL: https://www.hiascend.com/document/caselibrary/detail/atlasamct_16_0376 - Description: 在调用Caffe框架执行中间校准模型推理过程中,由于输入数据范围不合法,导致量化算法计算得到的scale不合理,从而校准过程失败,终止Caffe校准流程。 - Keywords: IfmrQuantCalibration;illegal;without - Detail: llms-content/document/zh_document_caselibrary_detail_atlasamct_16_0376.md ## 使用Ubuntu 20.04安装Caffe环境时,出现cuda和gcc版本不匹配的编译报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasamct_16_0378 - Description: 使用Ubuntu 20.04安装Caffe环境时,出现类似如下信息的编译报错: - Keywords: unsupported;GNU - Detail: llms-content/document/zh_document_caselibrary_detail_atlasamct_16_0378.md ## 量化感知训练场景下,出现编译ERROR的解决方法-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasamct_16_0379 - Description: if self.op\[1\] \=\= 'depthwise': - Keywords: mindspore;PIPELINE - Detail: llms-content/document/zh_document_caselibrary_detail_atlasamct_16_0379.md ## 量化感知训练场景下,出现数据类型不一致的解决方法-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasamct_16_0380 - Description: 混合精度训练场景下,用户做量化感知训练,调用create\_quant\_retrain\_model接口之后,脚本提示如下信息: - Keywords: cascade\_conv - Detail: llms-content/document/zh_document_caselibrary_detail_atlasamct_16_0380.md ## 使用AIPP色域转换模型时如何判断视频流的格式标准-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasatc_16_0136 - Description: 使用AIPP色域转换模型时无法判断视频流的格式标准。 - Keywords: 模型转换;AIPP - Detail: llms-content/document/zh_document_caselibrary_detail_atlasatc_16_0136.md ## 如何确定原始框架网络模型中的算子与昇腾AI处理器支持的算子的对应关系-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasatc_16_0137 - Description: 用户使用精度比对工具或者性能比对工具进行算子精度或者性能分析时,若发现某些算子精度或者性能有问题,可能会考虑使用ATC工具中的某些参数调整算子的计算精度后,重新进行模型转换然后推理,比如通过--modify\_mixlist参数将有问题的算子配置为黑名单等,该场景下,ATC中的参数要求配置的必须为基于Ascend IR定义的算子的OpType。 那如何获取此类算子的OpType?或者如何通过原始框架 - Keywords: 模型转换;算子对应关系 - Detail: llms-content/document/zh_document_caselibrary_detail_atlasatc_16_0137.md ## 模型中存在不支持量化的层,量化模型失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasatc_16_0138 - Description: 执行ATC模型转换命令时,通过--compression\_optimize\_conf参数配置模型量化(将模型中的权重由浮点数float32量化到低比特整数int8)相关的选项,结果报错提示如下: - Keywords: 模型转换;量化 - Detail: llms-content/document/zh_document_caselibrary_detail_atlasatc_16_0138.md ## 量化模型时模型输入大小过大,AI Core执行任务失败,量化模型失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasatc_16_0139 - Description: 模型转换命令示例如下,模型输入大小与input\_shape参数指定的shape有关: 模型转换时,报错示例如下: - Keywords: 模型转换;量化 - Detail: llms-content/document/zh_document_caselibrary_detail_atlasatc_16_0139.md ## 量化模型时校准集数据大小与模型输入大小不匹配,量化模型失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasatc_16_0140 - Description: 执行ATC模型转换命令时,通过--compression\_optimize\_conf参数配置模型量化(将模型中的权重由浮点数float32量化到低比特整数int8)相关的选项,结果报错提示如下: - Keywords: 模型转换;量化 - Detail: llms-content/document/zh_document_caselibrary_detail_atlasatc_16_0140.md ## 开启量化功能,模型转换时提示“build\_main build graph\[infer\_graph\_info\] failed”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasatc_16_0141 - Description: 模型转换时,通过--compression\_optimize\_conf参数配置了量化功能,结果模型转换失败,提示信息如下: - Keywords: 模型转换;量化 - Detail: llms-content/document/zh_document_caselibrary_detail_atlasatc_16_0141.md ## 算子库包版本问题导致加载单算子失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasatc_16_0142 - Description: 加载单算子报错失败,日志显示如下类似信息: - Keywords: 加载单算子失败 - Detail: llms-content/document/zh_document_caselibrary_detail_atlasatc_16_0142.md ## “Segmentation fault”错误-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasfmkt_0001 - Description: 分析迁移工具运行转换后代码无报错,仅提示“Segmentation fault”信息。 - Keywords: Segmentation fault;分析迁移 - Detail: llms-content/document/zh_document_caselibrary_detail_atlasfmkt_0001.md ## Muls算子不支持INT64-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasfmkt_0003 - Description: Muls算子不支持INT64。 - Keywords: Muls算子;分析迁移 - Detail: llms-content/document/zh_document_caselibrary_detail_atlasfmkt_0003.md ## 故障案例-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasfmkt_0004 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 故障案例,昇腾社区,了解详情 - Detail: llms-content/document/zh_document_caselibrary_detail_atlasfmkt_0004.md ## msKPP工具运行kernel时提示权限错误-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasopdev_0000 - Description: 运行kernel时出现以下报错: - Keywords: 权限错误;msKPP - Detail: llms-content/document/zh_document_caselibrary_detail_atlasopdev_0000.md ## msSanitizer工具异常报告中未显示正确的文件名和行号-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasopdev_0001 - Description: 文件名和行号显示为 ":0",或文件名显示正确,但行号显示为 "0"。 - Keywords: 文件名和行号;msSanitizer - Detail: llms-content/document/zh_document_caselibrary_detail_atlasopdev_0001.md ## msSanitizer工具使用 "--cce-enable-sanitizer -g" 编译算子时出现 "InputSection too large" 错误-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasopdev_0002 - Description: 报错ld.lld: error: InputSection too large for range extension thunk。 - Keywords: InputSection too large;msSanitizer - Detail: llms-content/document/zh_document_caselibrary_detail_atlasopdev_0002.md ## msSanitizer工具提示--cache-size异常-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasopdev_0003 - Description: 使用msSanitizer工具进行异常检测时,提示"113023 records undetected, please use --cache-size\=xx to run the operator again" 。 - Keywords: --cache-size;msSanitizer - Detail: llms-content/document/zh_document_caselibrary_detail_atlasopdev_0003.md ## msDebug工具使用"-O0 -g"编译算子时,stack frame size超出限制-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasopdev_0004 - Description: 出现以下报错: - Keywords: stack frame size;msDebug - Detail: llms-content/document/zh_document_caselibrary_detail_atlasopdev_0004.md ## msDebug工具打印Tensor变量功能不可用,提示“unavailable”或“memory read failed”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasopdev_0005 - Description: 提示 “unavailable” 或 “Failed to dereference pointer from xxx for DW\_OP\_deref: memory read failed for xxx”。 - Keywords: unavailable;memory read failed;msDebug - Detail: llms-content/document/zh_document_caselibrary_detail_atlasopdev_0005.md ## msDebug工具在容器环境中调试运行失败,提示需安装HDK驱动包-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasopdev_0006 - Description: 提示msdebug failed to initialize. please install HDK with --debug before debugging。 - Keywords: HDK;msDebug - Detail: llms-content/document/zh_document_caselibrary_detail_atlasopdev_0006.md ## msDebug工具断点设置在核函数内,命中断点后执行continue命令,算子运行失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasopdev_0007 - Description: 显示Synchronize stream failed. error code is 507035,查看plog显示aic error code\=0x8000000000000000,并且在命中断点时使用ascend info cores命令可以看到当前核的PC值与预期不符。 - Keywords: 算子运行失败;msDebug - Detail: llms-content/document/zh_document_caselibrary_detail_atlasopdev_0007.md ## msDebug工具在docker中执行 "run" 命令运行程序后,提示“'A' packet returned an error: 8”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/atlasopdev_0008 - Description: 在docker中,msDebug工具在执行 "run" 命令运行程序后,出现以下报错。 - Keywords: 'A' packet returned an error: 8;msDebug - Detail: llms-content/document/zh_document_caselibrary_detail_atlasopdev_0008.md ## pip3安装软件包时,出现read time out报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/canncase_000004.xml - Description: 使用pip3下载相关依赖报错,比如执行pip3 install scipy进行安装出现read time out 错误 - Keywords: CANN;pip3;read time out - Detail: llms-content/document/zh_document_caselibrary_detail_canncase_000004xml.md ## pip3 install scipy报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/canncase_000005.xml - Description: 安装scipy时,提示报错信息。 - Keywords: CANN;pip3;scipy - Detail: llms-content/document/zh_document_caselibrary_detail_canncase_000005xml.md ## pip3 install numpy报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/canncase_000006.xml - Description: 安装依赖时,使用pip3 install numpy命令安装时报错“Could not build wheels for numpy which use PEP 517 and cannot be install directly” - Keywords: CANN;pip3;numpy - Detail: llms-content/document/zh_document_caselibrary_detail_canncase_000006xml.md ## python版本不一致导致的问题-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/canncase_000008.xml - Description: 普通用户下,如果用户的其他软件依赖的python版本和我们要求的python版本不一致,可能会出现问题。 - Keywords: CANN;Python版本 - Detail: llms-content/document/zh_document_caselibrary_detail_canncase_000008xml.md ## 安装run包失败,日志中报错“usergroup\=root not right!”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/canncase_0010 - Description: 安装run包失败,日志中报错“usergroup\=root not right!”。 - Keywords: CANN安装;usergroup\=root not right; - Detail: llms-content/document/zh_document_caselibrary_detail_canncase_0010.md ## 安装CANN包时报错pip3:command not found-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/canncase_0011 - Description: 安装CANN软件包的时候,报错pip3:command not found,导致安装中止。 - Keywords: CANN安装;pip3:command not found - Detail: llms-content/document/zh_document_caselibrary_detail_canncase_0011.md ## 安装CANN包时提示空间不足-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/canncase_0012 - Description: CANN软件包安装时所需空间较大,如果安装时遇到空间不足,提示"Not enough space"等信息。 - Keywords: Not enough space;空间不足 - Detail: llms-content/document/zh_document_caselibrary_detail_canncase_0012.md ## 驱动安装缺少依赖报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/canncase_0013 - Description: 执行命令安装驱动时报如下错误信息: - Keywords: 安装驱动报错;lspci;ifconfig - Detail: llms-content/document/zh_document_caselibrary_detail_canncase_0013.md ## 创建uid和gid为1000的驱动运行用户HwHiAiUser失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/canncase_0014 - Description: 创建uid和gid为1000的驱动运行用户HwHiAiUser失败,回显如下: - Keywords: 创建HwHiAiUser失败 - Detail: llms-content/document/zh_document_caselibrary_detail_canncase_0014.md ## CentOS 7.6容器镜像内安装CANN包报错“which:command not found”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/canncase_0015 - Description: 在CentOS 7.6容器镜像内安装CANN软件包的时候,报错“which:command not found”,导致安装中止。 - Keywords: which - Detail: llms-content/document/zh_document_caselibrary_detail_canncase_0015.md ## 容器里安装CANN时报错提示“Cannot fork”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/canncase_0016 - Description: 在Ubuntu系统的容器里安装CANN软件包时,出现报错提示“Cannot fork”。 - Keywords: Cannot fork - Detail: llms-content/document/zh_document_caselibrary_detail_canncase_0016.md ## 使用glibc 2.28版本运行业务调用malloc接口出现Core Dump问题-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/canncase_0017 - Description: 在glibc 2.28版本的docker环境中运行视频解析、目标识别相关业务时出现Core Dump,通过排查堆栈信息,实际为调用glibc的malloc接口时出现异常,堆栈信息如下图所示。 - Keywords: glibc - Detail: llms-content/document/zh_document_caselibrary_detail_canncase_0017.md ## 模型训练时报错“NotImplementedError: Cannot convert a symbolic Tensor to a numpy array”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/canncase_0018 - Description: 部分模型训练时,会出现报错“NotImplementedError: Cannot convert a symbolic Tensor to a numpy array”,导致模型训练失败,报错示例如下: - Keywords: numpy - Detail: llms-content/document/zh_document_caselibrary_detail_canncase_0018.md ## openEuler 22.03上运行业务时,出现firewalld相关soft lockup或ksoftirqd占用CPU过高-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/canncase_0019 - Description: 在openEuler 22.03上同时使用默认的18.09版本docker与1.0.2版本firewalld时,运行业务出现firewalld相关soft lockup或ksoftirqd占用CPU过高的情况。 查询结果如下所示: - Keywords: CPU占用过高 - Detail: llms-content/document/zh_document_caselibrary_detail_canncase_0019.md ## 执行atc转换或模型训练时,报错:fatal error: 'cstdint' file not found-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/canncase_0020 - Description: 在Ubuntu 22.04上执行atc转换命令或者在CentOS 7.6上进行模型训练时,报错:fatal error: 'cstdint' file not found。 - Keywords: 'cstdint' file not found - Detail: llms-content/document/zh_document_caselibrary_detail_canncase_0020.md ## wget指令获取软件包报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/canncase_0021 - Description: 在执行wget指令时,报错:ERROR 403: Forbidden。 - Keywords: CANN;wget;ERROR 403: Forbidden - Detail: llms-content/document/zh_document_caselibrary_detail_canncase_0021.md ## 安装CANN包时提示驱动版本不兼容-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/canncase_0022 - Description: 安装CANN软件包时,提示“check driver compatibility failed”,报错信息如下所示。 - Keywords: CANN兼容性 - Detail: llms-content/document/zh_document_caselibrary_detail_canncase_0022.md ## 安装CANN包时提示Python版本不满足-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/canncase_0023 - Description: CANN软件包安装时提示如下信息: - Keywords: Python版本不满足 - Detail: llms-content/document/zh_document_caselibrary_detail_canncase_0023.md ## Kernels算子包安装报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/canncase_0024 - Description: 安装kernels时,提示依赖的软件包不存在,报错信息如下: - Keywords: 安装Kernels - Detail: llms-content/document/zh_document_caselibrary_detail_canncase_0024.md ## 使用shell脚本或dockerfile安装CANN失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9217 - Description: 安装CANN包时弹出人机交互需要手动同意EULA协议,导致安装脚本无法顺利执行。 - Keywords: EULA协议;安装脚本报错 - Detail: llms-content/document/zh_document_caselibrary_detail_case_9217.md ## MindSpore-server部署失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9221 - Description: 环境: 服务器:训练服务器 MindSpore:1.6.0 MindSpore-server:1.6.0 Python:3.7.5 参考文档:《服务化部署框架(MindSpore Serving)》 启动服务器出错: AttributeError: module 'importlib' has no attribute 'util' - Keywords: MindSpore-server - Detail: llms-content/document/zh_document_caselibrary_detail_case_9221.md ## MindSpore在线推理图缓存性能优化-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9224 - Description: 1.云脑上部署该应用时服务必须在10分钟之内启动,否则就会认为该服务异常; 2.由于一些大模型做首次推理时会耗时超过10分钟,导致大模型推理服务无法正常拉起; 3.本案例中,当模型hidden\_layer设置成24层之后,首次推理时间12min,模型构图时间在30s左右,即使用上算子缓存意义不大; - Keywords: 在线推理图 - Detail: llms-content/document/zh_document_caselibrary_detail_case_9224.md ## PyTorch模型训练性能较版本基线数据稳定低20%~30%-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9251 - Description: 现场测试CenterNet性能为内部测试的80%。 内部数据iter\_fps为140+。 现场测试iter\_fps为110。 - Keywords: -- - Detail: llms-content/document/zh_document_caselibrary_detail_case_9251.md ## import torch npu时报错“ImportError:libtorch\_npu.so: undefined symbol:\_ZNK”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9252 - Description: import torch npu 的时候出现报错:ImportError: */libtorch\_npu.so: undefined symbol: \_ZNK5torch******。 - Keywords: -- - Detail: llms-content/document/zh_document_caselibrary_detail_case_9252.md ## 容器内使用Ascend Device Plugin和NPU-Exporter组件,/dev下无挂载设备并且NPU-Exporter上报的数据无容器相关信息-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9273 - Description: 查看容器内,“/dev/”目录下没有挂载的设备信息,TYPE npu\_exporter\_version\_info gauge下也没有npu\_container\_info信息。 - Keywords: 挂载信息;容器信息 - Detail: llms-content/document/zh_document_caselibrary_detail_case_9273.md ## 从昇腾镜像仓库拉取镜像失败,报错提示x509: certificate signed by unknown authority-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9274 - Description: 从昇腾镜像仓库拉取镜像失败,报错提示x509: certificate signed by unknown authority。 - Keywords: 昇腾镜像仓;拉取镜像;配置Docker代理 - Detail: llms-content/document/zh_document_caselibrary_detail_case_9274.md ## 重启服务器后,Docker服务启动失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9276 - Description: 重启服务器后,执行restart docker命令报错,报错提示Failed to start Docker Application Container Engine。 - Keywords: Docker启动失败;配置docker.service - Detail: llms-content/document/zh_document_caselibrary_detail_case_9276.md ## 容器内执行命令,报错提示Operation not permitted-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9277 - Description: 容器内跑脚本时,某些命令报Operation not permitted,如下图所示。 - Keywords: 容器内root权限 - Detail: llms-content/document/zh_document_caselibrary_detail_case_9277.md ## Docker服务配置免密后,环境变量读取错误-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9278 - Description: 多机Docker服务配置免密后,环境变量读取错误。 - Keywords: Docker配置免密;环境变量 - Detail: llms-content/document/zh_document_caselibrary_detail_case_9278.md ## 多机Docker服务配置免密后,libgomp-d22c30c5.so.1.0.0读取失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9279 - Keywords: Docker配置免密;环境变量 - Detail: llms-content/document/zh_document_caselibrary_detail_case_9279.md ## 驱动和固件版本回退失败,报错The software signature verification failed because the signature mode used by the soft - URL: https://www.hiascend.com/document/caselibrary/detail/case_92810 - Description: 驱动和固件在版本回退过程中出现下面的报错信息。 - Keywords: 回退失败;signature verification;curres - Detail: llms-content/document/zh_document_caselibrary_detail_case_92810.md ## 执行npu-smi info出现多余日志-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_92811 - Description: 安装驱动后执行npu-smi info命令,出现多余日志。如图1所示。 - Keywords: npu-smi info;日志 - Detail: llms-content/document/zh_document_caselibrary_detail_case_92811.md ## Ubuntu18.04.1系统apt-get update,提示404问题-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_92815 - Description: ubuntu18.04.1系统执行apt-get update命令,提示404问题。如图1所示。 - Keywords: A800-3000;Ubuntu;花屏 - Detail: llms-content/document/zh_document_caselibrary_detail_case_92815.md ## OS不适配导致驱动升级或回退失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_92816 - Description: 升级修复22.0.0(RC4)版本问题时,先升级firmware后升级driver,升级驱动失败,卸载后重新回退RC2版本也失败。OS内核版本为Linux 4.9.168-016.ali3000.alios7.x86\_64 x86\_64。 - Keywords: OS;驱动;失败 - Detail: llms-content/document/zh_document_caselibrary_detail_case_92816.md ## pip安装onnx\_simplifier失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_92818 - Description: CentOS 7.6 Arm架构服务器,Python版本为3.7.5的环境上pip安装onnx\_simplifier\(.03.10\)失败,如图1所示。 - Keywords: pip;onnx\_simplifier - Detail: llms-content/document/zh_document_caselibrary_detail_case_92818.md ## 安装驱动时报username not permission for root-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_92819 - Description: 安装驱动时报错:\[ERROR\]ERR\_NO:0x0091;ERR\_DES:username not permission for root, check /etc/ascend\_install.info。如图1所示。 - Keywords: 驱动;username - Detail: llms-content/document/zh_document_caselibrary_detail_case_92819.md ## CentOS 7.6内核升级之后npu-smi失败/驱动安装失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9286 - Description: CentOS 7.6 Arm环境升级内核后,安装驱动失败或者执行npu-smi info命令失败。如图1和图2所示。 - Keywords: CentOS 7.6;驱动;npu-smi - Detail: llms-content/document/zh_document_caselibrary_detail_case_9286.md ## OpenEuler 20.03 Arm架构程序申请相同数量的进程时,内存占用相比于x86大很多-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9288 - Description: 检索业务从x86服务器上向arm服务器上迁移时,相同的容器环境下(内存为64M),发现程序申请相同数量的进程,在openEuler 20.03 Arm架构服务器上出现内存空间不足的问题。如图1所示。 “/dev/shm ” 目录dev \=\= device,shm \=\= shared memory,该目录是 linux 操作系统利用内存虚拟出来的目录,此目录中的文件都保存在内存中。 - Keywords: openEuler;进程;内存 - Detail: llms-content/document/zh_document_caselibrary_detail_case_9288.md ## msprof拉起应用失败:Init platform by driver faild\!-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_941011 - Description: 报错现象:msprof拉起应用执行报错:Init platform by driver faild\! - Keywords: profiling;msprof;性能分析;性能调优 - Detail: llms-content/document/zh_document_caselibrary_detail_case_941011.md ## msprof解析后,输出文件异常,缺少modelid或iterid-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_941012 - Keywords: profiling;msprof;性能分析;性能调优 - Detail: llms-content/document/zh_document_caselibrary_detail_case_941012.md ## 训练服务器上做LLama13b模型推理时回复错误-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_94111 - Description: 在Atlas800 9000 A2训练服务器上,利用Mindformers套件做Llama13B的推理时,推理结果不正确; - Keywords: -- - Detail: llms-content/document/zh_document_caselibrary_detail_case_94111.md ## ais\_bench工具执行动态shape模型推理失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9431 - Description: 使用ais\_bench工具执行动态shape模型时推理失败,出现Model execute failed,具体报错信息如下: - Keywords: ais\_bench;benchmark - Detail: llms-content/document/zh_document_caselibrary_detail_case_9431.md ## benchmark工具编译失败:fatal error:acl/acl\_base.h no such file or firectory-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9432 - Description: 报错现象:fatal error:acl/acl\_base.h no such file or firectory - Keywords: ais\_bench;benchmark - Detail: llms-content/document/zh_document_caselibrary_detail_case_9432.md ## MindSDK 模型推理报错Dtype不匹配:The input of the model does not match-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9461 - Description: MindSDK模型推理报错Dtype不匹配,提示“The input of the model does not match”,如图1所示。 - Keywords: Dtype不匹配 - Detail: llms-content/document/zh_document_caselibrary_detail_case_9461.md ## MindSDK加载模型时报错,错误码145000-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9462 - Keywords: 加载模型时报错;错误码145000 - Detail: llms-content/document/zh_document_caselibrary_detail_case_9462.md ## MindSDK案例执行失败:owner id diff-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9463 - Description: 环境: OS:Ubuntu18.04 CANN:6.0.RC1 问题现象: 复现步骤: - Keywords: 案例执行失败;owner id diff - Detail: llms-content/document/zh_document_caselibrary_detail_case_9463.md ## Vision SDK报错: \_StreamManagerApi.so: undefined symbol: PyCMethod\_New-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9464 - Description: 如图1所示,执行python import StreamManagerApi命令时,提示报错信息:\_StreamManagerApi.so: undefined symbol: PyCMethod\_New。 - Keywords: Vision SDK报错 - Detail: llms-content/document/zh_document_caselibrary_detail_case_9464.md ## YoloV5DetectionOutput算子报错“RuntimeError: box\_info's height\[1\] multi with width\[4\]'s size must bigger - URL: https://www.hiascend.com/document/caselibrary/detail/case_9495 - Description: 在修改的自定义网络上,对数据先进行了nms后处理,接着使用了YoloV5DetectionOutput算子,最后使用atc工具转换模型遇到了报错。 - Keywords: YoloV5 - Detail: llms-content/document/zh_document_caselibrary_detail_case_9495.md ## MindSpore报错Framework ERROR: Init hccl graph adapter failed-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9521 - Description: MindSpore运行分布式模型时报错: RuntimeError: Ascend collective communication initialization failed. Framework Error Message: Init hccl graph adapter failed. - Keywords: Framework ERROR - Detail: llms-content/document/zh_document_caselibrary_detail_case_9521.md ## MindSpore报错the dimension of logits must be equal to 2, but got-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_952100 - Description: 系统环境: 训练脚本是通过构建SoftmaxCrossEntropyWithLogits的单算子网络,计算两个变量softmax 交叉熵的例子。脚本如下: 报错信息: - Keywords: 无 - Detail: llms-content/document/zh_document_caselibrary_detail_case_952100.md ## MindSpore报错Can not select a valid kernel info for \[Default/Pow-op0\]-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_95211 - Description: 系统环境: 训练脚本是通过构建Pow的单算子网络,对第一个输入的每个值进行幂运算。脚本如下: 报错信息如下: - Keywords: 无 - Detail: llms-content/document/zh_document_caselibrary_detail_case_95211.md ## ModelArts上多机多卡运行GPT2-13B时报错Inconsistent batch shapes, batch operation expects same shape for each da - URL: https://www.hiascend.com/document/caselibrary/detail/case_95212 - Description: ModelArts上多机多卡运行GPT2-13B时报错RuntimeError: Unexpected error. Inconsistent batch shapes, batch operation expects same shape for each data row, but got inconsistent shape in column 0, expected shape for t - Keywords: ModelArts多机多卡;Inconsistent batch shapes - Detail: llms-content/document/zh_document_caselibrary_detail_case_95212.md ## MindSpore报错Refer to Ascend Error Message-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9522 - Description: MindSpore运行时报通用性错误,RuntimeError: Run task for graph:kernel\_graph\_x error\! The details refer to 'Ascend Error Message', 无实质性信息。 - Keywords: 无 - Detail: llms-content/document/zh_document_caselibrary_detail_case_9522.md ## 20节点160卡跑baichuan-7B模型报错out of memory,但2节点16卡能跑通-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9523 - Description: 硬件配置: 问题现象:20节点160卡跑baichuan-7B模型报错out of memory,如下图所示,dp/mp/pp设置为40/1/4;2节点16卡能跑通,dp/mp/pp分别设置为8/1/2。 - Keywords: 20节点160卡 - Detail: llms-content/document/zh_document_caselibrary_detail_case_9523.md ## docker启动ms的faster RCNN demo 训练报错Insufficient shared memory available-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9524 - Description: docker启动ms的faster RCNN demo 训练报错Insufficient shared memory available - Keywords: docker启动ms - Detail: llms-content/document/zh_document_caselibrary_detail_case_9524.md ## MindSpore框架训练bert模型时报错Aicore kernel execute failed-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9525 - Description: MindSpore框架训练bert模型时报错: Aicore kernel execute failed.Aicore kernel execute failed, device\_id\=0, stream\_id\=19, report\_stream\_id\=19, task\_id\=23, flip\_num\=0, fault kernel\_name\=gather\_v2\_d\_144141000589737 - Keywords: 训练bert模型 - Detail: llms-content/document/zh_document_caselibrary_detail_case_9525.md ## ModelArts多机多卡训练GPT2-13B大模型时报错EI0002: The wait execution of the Notify register times out-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9526 - Description: ModelArts上多机多卡训练GPT2-13B大模型时报错EI0002: The wait execution of the Notify register times out. Reason: The Notify register has not received the Notify record from remote rank \[1\].base information: \[stream - Keywords: ModelArts多机多卡;训练GPT2-13B - Detail: llms-content/document/zh_document_caselibrary_detail_case_9526.md ## 训练GPT2-13B大模型时报错ValueError: For 'AdamWeightDecay', the 'var\_shape' should be \= grad\_shape: \[1\], but - URL: https://www.hiascend.com/document/caselibrary/detail/case_9527 - Description: 训练GPT2-13B大模型时报错ValueError: For 'AdamWeightDecay', the 'var\_shape' should be \= grad\_shape: \[1\], but got \[2560\] ms版本:1.9.0 开源代码路径:https://gitee.com/mindspore/mindformers/tree/dev - Keywords: 训练GPT2-13B;AdamWeightDecay - Detail: llms-content/document/zh_document_caselibrary_detail_case_9527.md ## 训练GPT2-13B大模型时报错ValueError: GPT2LMHEADMoel:The product of the data parallel 4, model parallel 4 pipe - URL: https://www.hiascend.com/document/caselibrary/detail/case_9528 - Description: 训练GPT2-13B大模型时报错ValueError: GPT2LMHEADMoel:The product of the data parallel 4, model parallel 4 pipeline stages 4 should be less than device\_num 16. ms版本:1.9.1 开源代码路径:https://gitee.com/mindspore/mind - Keywords: 训练GPT2-13B;GPT2LMHEADMoel - Detail: llms-content/document/zh_document_caselibrary_detail_case_9528.md ## MindSpore报RuntimeErrorReduceSum算子不支持8维及以上的输入而报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9529 - Description: 系统环境: 训练脚本是通过构建ReduceSum的单算子网络,通过对维度中的所有元素求和来减少张量的维度。如: 报错信息如下: - Keywords: RuntimeErrorReduceSum - Detail: llms-content/document/zh_document_caselibrary_detail_case_9529.md ## Paddle启动训练时报错:Call aclrtGetDevice failed.-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9531 - Description: Paddle启动训练时报错:Call aclrtGetDevice failed. - Keywords: -- - Detail: llms-content/document/zh_document_caselibrary_detail_case_9531.md ## 配置device ip时报错“Failed to check the route network segment in the config file”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9541 - Description: 删除旧驱动完成驱动固件升级后,Atlas 800 9000配置device ip时报错“Failed to check the route network segment in the config file. Cmd execute failed\!”; 查看/var/log/hccn\_tool/hccn.log日志显示“hccn tool execution failed\!”。 - Keywords: -- - Detail: llms-content/document/zh_document_caselibrary_detail_case_9541.md ## 使用第三方库transformers跑模型训练时,报错“cannot allocate memory in static TLS block”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_95413 - Description: 报错详细信息如下所示: - Keywords: -- - Detail: llms-content/document/zh_document_caselibrary_detail_case_95413.md ## 跑PyTorch训练时,set\_device\(\)失败,报“RuntimeError”,错误码“EL0003,error code 507000”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_95414 - Description: 报错现象如下所示: - Keywords: -- - Detail: llms-content/document/zh_document_caselibrary_detail_case_95414.md ## PyTorch训练报错“ASCEND kernel errors”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_95419 - Description: import torch和torch\_npu后进行基本的矩阵运算时,报错如下: - Keywords: -- - Detail: llms-content/document/zh_document_caselibrary_detail_case_95419.md ## PyTorch框架模型训练迁移时报错“Stream mode cannot be set in current driver version”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9542 - Description: 在AICC上迁移PyTorch框架模型在NPU上训练时,驱动层有报错“Stream mode cannot be set in current driver version”。 - Keywords: -- - Detail: llms-content/document/zh_document_caselibrary_detail_case_9542.md ## LLamaFactory版baichuan13B运行过程中报错找不到libopapi.so-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_95421 - Description: LLamaFactory版baichuan13B运行过程中报错找不到libopapi.so,屏显报错提示为“RuntimeError: aclnnForeachMulScalarInplace or aclnnForeachMulScalarInplaceGetWorkspaceSize not in libopapi.so, or libopapi.sonot found.”。 - Keywords: -- - Detail: llms-content/document/zh_document_caselibrary_detail_case_95421.md ## PyTorch模型训练时,AsStrided算子报错“the output element is out of input range”-Atlas Community - URL: https://www.hiascend.com/document/caselibrary/detail/case_9543 - Description: 将GitHub上的VoicePrintRecognition-PyTorch模型迁移至昇腾上训练时,报错“Compile op\[AsStrided\] failed.Please check op’s compilation error message”; 查看device日志,错误显示“OpName:\[AsStrided\] “the output element is out of range\! - Keywords: -- - Detail: llms-content/document/zh_document_caselibrary_detail_case_9543.md ## PyTorch断点续训精度溢出异常-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9545 - Description: MT线上集群多机训练时,偶现训练进程挂掉(各种原因),此时需要根据最近保存的ckpt继续训练,拉起后发现训练精度溢出,无法正常训练。 现象截图: - Keywords: -- - Detail: llms-content/document/zh_document_caselibrary_detail_case_9545.md ## PyTorch训练时遇到“RuntimeError:“xxx” not implemented for 'half' ”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9547 - Description: 在推理服务器上使用PyTorch训练的时候,遇到“RuntimeError:“xxx”not implemented for 'half'”错误。 - Keywords: -- - Detail: llms-content/document/zh_document_caselibrary_detail_case_9547.md ## 单机多卡训练报错“Unsupported data type for HCCL process group”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9549 - Description: 单机多卡训练报如下错误: 报错组件版本:torch\_npu 1.8.1.post1-20230220 - Keywords: -- - Detail: llms-content/document/zh_document_caselibrary_detail_case_9549.md ## 盘古大模型集群训练BMC告警NPU2 power off,引起服务器异常下电-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/case_9561 - Description: 训练过程中服务器异常下电,BMC出现如下告警: - Keywords: -- - Detail: llms-content/document/zh_document_caselibrary_detail_case_9561.md ## 安装软件包时报错提示-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/deployercase_0003 - Keywords: Ascend Deployer;安装配置;安装 - Detail: llms-content/document/zh_document_caselibrary_detail_deployercase_0003.md ## 安装PyTorch后执行--test指令报“ERROR”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/deployercase_0004 - Keywords: Ascend Deployer;安装配置;PyTorch;安装 - Detail: llms-content/document/zh_document_caselibrary_detail_deployercase_0004.md ## 使用Debian10操作系统,安装时报错:File docker.service does not exist或Docker.service failed because the control pr - URL: https://www.hiascend.com/document/caselibrary/detail/deployercase_0005 - Keywords: Ascend Deployer;安装配置;Debian;安装 - Detail: llms-content/document/zh_document_caselibrary_detail_deployercase_0005.md ## 执行下载命令时报错提示-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/deployercase_0006 - Keywords: Ascend Deployer;网络连接;下载 - Detail: llms-content/document/zh_document_caselibrary_detail_deployercase_0006.md ## Windows上存在代理且未启用Ascend Deployer的代理,导致下载失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/deployercase_0007 - Keywords: Ascend Deployer;网络连接;代理;下载 - Detail: llms-content/document/zh_document_caselibrary_detail_deployercase_0007.md ## Euler系统作为work节点,安装TensorFlow2.6.5出现报错提示-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/deployercase_0009 - Keywords: Ascend Deployer;Euler;安装;TensorFlow - Detail: llms-content/document/zh_document_caselibrary_detail_deployercase_0009.md ## 导入torch时提示libblas不存在-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/deployercase_0010 - Keywords: MindCluster Ascend Deployer;torch;安装;系统依赖 - Detail: llms-content/document/zh_document_caselibrary_detail_deployercase_0010.md ## 导入torch时提示libquadmath不存在-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/deployercase_0011 - Keywords: Ascend Deployer;torch;安装;系统依赖 - Detail: llms-content/document/zh_document_caselibrary_detail_deployercase_0011.md ## CentOS7.6场景下,自行安装的python3不完整,导致安装部署失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/deployercase_0012 - Keywords: Ascend Deployer;CentOS;安装;python - Detail: llms-content/document/zh_document_caselibrary_detail_deployercase_0012.md ## 执行完安装或升级后,执行apt-get check命令,报错提示:Error:Check discovered 3 problems-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/deployercase_0013 - Keywords: Ascend Deployer;升级;安装 - Detail: llms-content/document/zh_document_caselibrary_detail_deployercase_0013.md ## 升级系统内核版本时未卸载run包导致run包不可用-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/deployercase_0014 - Keywords: Ascend Deployer;升级 - Detail: llms-content/document/zh_document_caselibrary_detail_deployercase_0014.md ## 未设置环境变量,导致ATC工具无法使用-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/dvppcase_0001-rYzgpWya - Description: 输入模型转换的命令后,按回车,提示bash: atc: command not found错误。 - Keywords: ATC;模型转换;环境变量 - Detail: llms-content/document/zh_document_caselibrary_detail_dvppcase_0001-rYzgpWya.md ## 图片格式不支持或图片数据不完整,图片解码失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/dvppcase_0008 - Description: 图片解码失败,查看日志有类似如下报错信息: - Keywords: jpegd;图片解码 - Detail: llms-content/document/zh_document_caselibrary_detail_dvppcase_0008.md ## 图像解码进程超时退出-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/dvppcase_0009 - Description: 用户进程退出。 查看应用类日志,发现类似ERROR日志“task timeout, userData\= ..., timeout\=30, duration\=…”和WARNING日志“frames statistic: ACL receive\(n\), send\(n-1\)”,n表示处理任务数量,需根据实际情况确定。日志片段举例如下: - Keywords: jpegd;图片解码;timeout - Detail: llms-content/document/zh_document_caselibrary_detail_dvppcase_0009.md ## 参数设置不合理,导致视频编码耗时长或编码失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/dvppcase_0010 - Description: 视频编码耗时长或编码失败。 运行编码应用进程后,使用dvpp的proc信息排查问题,步骤如下:登录运行编码应用进程的环境,在有读、写、执行权限的目录下执行msnpureport -a命令,导出proc日志信息。按导出时间,进入对应时间戳的目录下,打开“module\_info\\dev-os-0\\dvpp\\dvpp\_proc.log”日志。proc信息中关键信息含义如下:EncStart表示启动编码的 - Keywords: VENC;视频编码;proc - Detail: llms-content/document/zh_document_caselibrary_detail_dvppcase_0010.md ## 发送待编码帧成功,但视频编码无输出-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/dvppcase_0011 - Description: 创建视频编码通道后,发送帧成功,但调用hi\_mpi\_venc\_get\_stream接口获取编码后码流数据时,返回值为0xa008800e,获取不到编码后码流数据。 - Keywords: VENC;视频编码;0xa008800e - Detail: llms-content/document/zh_document_caselibrary_detail_dvppcase_0011.md ## 发送待编码帧失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/dvppcase_0012 - Description: 视频编码场景下,调用hi\_mpi\_venc\_send\_frame接口发送待编码帧,接口返回值非0值,表示发送帧失败。 - Keywords: VENC;视频编码;0xa0088003;0xa0088008;0xa008800d - Detail: llms-content/document/zh_document_caselibrary_detail_dvppcase_0012.md ## 使用Atlas 200/300/500 推理产品或Atlas 训练系列产品时,视频解码性能问题-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/fault-001 - Description: VDEC解码性能下降,小于VDEC对外发布的性能规格,导致发生卡顿等现象。 - Keywords: 视频;解码;性能下降;耗时长 - Detail: llms-content/document/zh_document_caselibrary_detail_fault-001.md ## 诊断失败,日志提示\[Errno 24\] Too many open files-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/faultdiagcase_0002 - Keywords: MindCluster Ascend FaultDiag;故障诊断 - Detail: llms-content/document/zh_document_caselibrary_detail_faultdiagcase_0002.md ## MindStudio Insight工具运行时出现Out of Memory报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/insightcase_00002 - Description: 在MindStudio Insight工具运行时,页面出现错误代码:Out of Memory。 - Keywords: 内存;MindStudio Insight - Detail: llms-content/document/zh_document_caselibrary_detail_insightcase_00002.md ## 如何重新解析TEXT格式的Profiling文件-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/insightcase_00003 - Description: 在同一版本的MindStudio Insight软件下,再次导入TEXT格式的Profiling文件时,不会重新解析数据,当需要重新解析数据时,该如何解析? - Keywords: 解析;TEXT - Detail: llms-content/document/zh_document_caselibrary_detail_insightcase_00003.md ## MindStudio Insight运行时出现“cannot open shared object file swrast\_dir.so”报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/insightcase_00004 - Description: 在Linux系统使用“X11方式”或“VNC方式”启动MindStudio Insight时,MindStudio Insight工具界面白屏,出现“cannot open shared object file swrast\_dir.so”报错信息,如图1所示。 - Keywords: 白屏;依赖 - Detail: llms-content/document/zh_document_caselibrary_detail_insightcase_00004.md ## 故障案例-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/insightcase_00005 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 故障案例,昇腾社区,了解详情 - Detail: llms-content/document/zh_document_caselibrary_detail_insightcase_00005.md ## 故障案例-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/insightcase_00006 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 故障案例,昇腾社区,了解详情 - Detail: llms-content/document/zh_document_caselibrary_detail_insightcase_00006.md ## 安装toolkit包,报错Can not combine '--user' and '--target'-Atlas Community - URL: https://www.hiascend.com/document/caselibrary/detail/installcase_0002 - Description: 安装toolkit包时报错ERROR: Can not combine '--user' and '--target'。 - Keywords: 安装toolkit; - Detail: llms-content/document/zh_document_caselibrary_detail_installcase_0002.md ## 升级CANN包时报错:unable to get driver config file-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/installcase_0003 - Description: 容器内,执行--upgrade升级CANN包时报错:unable to get driver config file /usr/local/Ascend/driver/version.info。 - Keywords: CANN升级;version.info - Detail: llms-content/document/zh_document_caselibrary_detail_installcase_0003.md ## 部分OS安装完CANN后出现yum工具不可用的问题-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/installcase_0004 - Description: 部分OS,如Euler 2.8和Kylin V10 SP1,CANN安装后会导致yum工具不可用。 执行yum报错显示:ModuleNotFoundError: No module named 'dnf'。 - Keywords: yum命令报错; - Detail: llms-content/document/zh_document_caselibrary_detail_installcase_0004.md ## 安装toolkit包时,出现找不到grpc依赖库的问题-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/installcase_0005 - Description: 安装toolkit包时报错找不到grpc依赖库:Package is not installed on the path /usr/local/Ascend/ascend-toolkit/20.0.0.SPC200/arm64-linux\_gcc4.8.5 - Keywords: 安装toolkit;grpc依赖库; - Detail: llms-content/document/zh_document_caselibrary_detail_installcase_0005.md ## 对紫东太初模型的视觉问答任务进行微调时,出现“' NoneType' object has no atribute 'shape'. ”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindstudiocase_000006.xml - Description: 对紫东太初大模型的视觉问答任务进行微调时出现报错信息。 - Keywords: 视觉问答任务;紫东太初模型;NoneType;shape - Detail: llms-content/document/zh_document_caselibrary_detail_mindstudiocase_000006xml.md ## 在Windows系统环境下创建训练样例工程时报错“Unzip failed. There is probleam occurred when unzipping file.”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindstudiocase_000007.xml - Description: 在Windows系统环境下创建训练样例工程时,弹出报错对话框,提示“Unzip failed. There is probleam occurred when unzipping file.” - Keywords: 模型训练 - Detail: llms-content/document/zh_document_caselibrary_detail_mindstudiocase_000007xml.md ## 配置不受信任的网址访问浏览器-Atlas Community - URL: https://www.hiascend.com/document/caselibrary/detail/mindstudiocase_000009.xml - Description: 自定义算子开发过程中,UT测试用例运行结束后,如果需要通过浏览器打开覆盖率html文件,可能会出现提示信息。 - Keywords: 自定义算子开发;UT测试 - Detail: llms-content/document/zh_document_caselibrary_detail_mindstudiocase_000009xml.md ## 转换完成后运行出现pillow/numpy版本不符合的提示-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindstudiocase_000010.xml - Description: 执行转换后的脚本时提示以下pillow和numpy版本不符合信息。 - Keywords: pillow;numpy;脚本转换 - Detail: llms-content/document/zh_document_caselibrary_detail_mindstudiocase_000010xml.md ## Vector比对报错:ModuleNotFoundError: No module named 'google'-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindstudiocase_000012.xml - Description: 执行Vector比对时,界面弹出报错窗口 - Keywords: Vector比对;精度比对;比对 - Detail: llms-content/document/zh_document_caselibrary_detail_mindstudiocase_000012xml.md ## 如何解决分屏显示两个MindStudio工程时,目标工程打开精度比对功能窗口显示在另一个工程上-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindstudiocase_000013.xml - Description: 同时打开两个MindStudio工程并分屏显示,在其中一个工程中打开精度比对功能窗口时,精度比对窗口显示在另一个工程上 - Keywords: 精度比对 - Detail: llms-content/document/zh_document_caselibrary_detail_mindstudiocase_000013xml.md ## 服务器重启后K8s重启失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0007 - Description: 服务器重启后K8s重启失败,执行kubectl get pod命令提示错误信息如下。 执行free -m命令查看swap未关闭,现象如下。 - Keywords: 重启;k8s - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0007.md ## Ascend Operator日志打印the server could not find the requested resource-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0017 - Description: Ascend Operator日志出现如下内容。 - Keywords: Ascend Operator;日志 - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0017.md ## df –h执行失败,NFS启动失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0019 - Keywords: kubectl;authority;命令提示 - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0019.md ## 断点续训任务被重调度后Pod状态不一致-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0023 - Description: 在多节点集群环境中下发分布式训练任务,若此时环境资源刚好满足,开启任务重调度且重调度参数“fault-scheduling”为“grace”。此时,如果出现故障将触发重调度,但是任务重调度后会概率性出现一个Pod状态为Running和一个Pod状态为Pending的情况。后续故障恢复后,状态为Pending的Pod依然为Pending。 - Keywords: 重调度;Pod状态 - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0023.md ## 使用Volcano v1.7.0版本,无法查询Pod状态-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0028 - Description: 使用Volcano v1.7.0版本时,若当前环境资源不足,使用kubectl get pod --all-namespaces -o wide命令查询Pod状态失败。 - Keywords: Volcano v1.7.0;Pod状态查询失败 - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0028.md ## kubelet重启后,NPU-Exporter无法获取当前容器信息-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0029 - Description: 当用户重启kubelet后,发现NPU-Exporter没有上报容器的相关信息。 - Keywords: NPU Exporter;容器信息 - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0029.md ## 制作镜像时找不到对应的安装包-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0030 - Description: 制作镜像时找不到对应的安装包。 - Keywords: 镜像;PYTHONPATH的路径 - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0030.md ## 执行.sh脚本,报$'\\r': command not found异常-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0031 - Description: 执行.sh脚本,报$'\\r': command not found异常。 - Keywords: sh脚本;换行符 - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0031.md ## 使用Volcano和Ascend Operator组件场景下,业务面故障的任务所有Pod的Status全部变为Failed,任务无法触发无条件重试重调度-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0033 - Description: 使用Volcano和Ascend Operator组件场景下,业务面故障的任务所有Pod的Status全部转变为Failed,任务无法发生无条件重试重调度。 - Keywords: 业务面故障;Pod状态为Failed;无条件重试重调度 - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0033.md ## 初始化Kubernetes失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0034 - Description: 现象一:Kubernetes集群初始化失败。 现象二:Kubernetes集群初始化时镜像拉取失败。 现象三:使用cri-dockerd时,初始化集群失败 - Keywords: Kubernetes;初始化 - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0034.md ## Kubernetes 1.25.10及以上版本,不支持虚拟化的vNPU的恢复使能功能-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0035 - Description: Kubernetes1.25.10及以上版本,集群调度组件不支持虚拟化的vNPU的恢复使能功能。该功能的详细说明和操作指导请参见《Atlas 中心推理卡 24.1.RC3 npu-smi 命令参考》中的“算力切分相关命令 > 设置vNPU的配置恢复使能状态”章节。 - Keywords: Kubernetes;虚拟化 - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0035.md ## 使用1.24及以上版本的Kubernetes时,使用Docker失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0036 - Description: 1.24之前的Kubernetes版本直接集成了Docker Engine的一个组件,名为dockershim。自1.24版起,dockershim已从Kubernetes项目中移除。如果用户还想继续使用Docker作为Kubernetes的容器引擎,需要再安装cri-dockerd,可参考以下方法。 - Keywords: Kubernetes;Docker - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0036.md ## Containerd作为Kubernetes容器引擎时,集群初始化失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0037 - Description: 使用Containerd作为Kubernetes容器引擎,但是初始化集群失败。 - Keywords: Containerd;集群;初始化 - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0037.md ## 组件Pod状态不为Running-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0038 - Description: 部署集群调度组件后,通过命令kubectl get pods --all-namespaces -o wide查看各组件状态,发现组件的Pod状态不为Running。 - Keywords: Pod;状态 - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0038.md ## NPU Exporter检查动态路径失败,日志出现check uid or mode failed-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0039 - Keywords: NPU Exporter;check uid or mode failed - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0039.md ## 执行盘古模型的训练任务时,报错提示No module named '\_sqlite3'-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0040 - Description: 执行盘古模型的训练任务时,报错提示No module named '\_sqlite3'。 - Keywords: 盘古;No module named '\_sqlite3' - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0040.md ## 执行PyTorch框架的训练任务时,提示找不到amp\_C-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0041 - Description: 开启watchdog功能后,下发PyTorch框架的训练任务,报错提示找不到amp\_C。 - Keywords: amp\_C;megatron\_npu;PyTorch - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0041.md ## 同一芯片故障反复出现,导致训练任务中断反复进行重调度-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0043 - Description: 同一芯片故障反复出现,导致训练任务中断反复进行重调度。 - Keywords: 芯片故障;重调度 - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0043.md ## hostNetwork设置为true后,通信阻塞超时,任务失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0044 - Keywords: hostNetwork;通信阻塞;任务失败 - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0044.md ## 故障案例-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0045 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 故障案例,昇腾社区,了解详情 - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0045.md ## 启用进程级在线恢复后,报错There is unsafe data in the input tensor,恢复失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/mindxdl_0046 - Keywords: 进程级在线恢复;There is unsafe data in the input tensor - Detail: llms-content/document/zh_document_caselibrary_detail_mindxdl_0046.md ## 使用modelslim工具label\_free量化时,校验输入数据失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/modelslimcase_0001 - Description: 使用modelslim工具label\_free量化校验输入数据失败,所有数据都无法被识别。 - Keywords: label\_free;calib\_data格式 - Detail: llms-content/document/zh_document_caselibrary_detail_modelslimcase_0001.md ## 设置用户权限过高触发工具安全保护机制停止性能数据采集或解析进程-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/profilingcase_001 - Description: 用户权限过高导致性能分析工具执行时,触发工具安全保护机制,导致性能数据采集或解析过程停止。 - Keywords: 用户权限,性能数据采集 - Detail: llms-content/document/zh_document_caselibrary_detail_profilingcase_001.md ## 执行msprof命令未采集到AI Core Metrics数据-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/profilingcase_002 - Description: 执行msprof命令后,屏幕显示性能解析数据,但无AI Core Metrics数据。查看$HOME/ascend/log/plog路径下Host侧日志信息,有如图1所示内容。其中,$HOME表示Host侧用户根目录。 - Keywords: msprof,AI Core Metrics - Detail: llms-content/document/zh_document_caselibrary_detail_profilingcase_002.md ## 磁盘满导致性能数据采集任务无法下发-Atlas Community - URL: https://www.hiascend.com/document/caselibrary/detail/profilingcase_003 - Description: 训练场景下发性能数据采集过程中,出现如图1所示错误提示。 - Keywords: 磁盘满,性能数据采集 - Detail: llms-content/document/zh_document_caselibrary_detail_profilingcase_003.md ## 性能数据老化导致无法正常解析数据-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/profilingcase_004 - Description: 性能数据解析失败。 - Keywords: 性能数据老化,性能数据解析 - Detail: llms-content/document/zh_document_caselibrary_detail_profilingcase_004.md ## Atlas 200I DK A2 开发者套件使用pyACL API采集性能数据失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/profilingcase_005 - Description: 使用pyACL API采集性能数据失败。 - Keywords: pyACL,性能数据采集,Atlas 200I DK A2 - Detail: llms-content/document/zh_document_caselibrary_detail_profilingcase_005.md ## Ascend PyTorch Profiler采集过程中提示:Incorrect schedule-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/profilingcase_006 - Description: 使用Ascend PyTorch Profiler接口采集PyTorch性能数据过程中,打印“Incorrect schedule”提示信息,如下图所示: profiler.py: Incorrect schedule: Stop profiler while current state is WARMUP which will result in enpty parsed data. profi - Keywords: Incorrect schedule,性能数据采集,Ascend PyTorch Profiler - Detail: llms-content/document/zh_document_caselibrary_detail_profilingcase_006.md ## PyTorch场景如何采集最小膨胀数据-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/profilingcase_007 - Description: 模型运行过程中开启Profiling采集性能数据会造成性能膨胀,具体表现是开启Profiling后模型性能数据采集step打屏耗时较不开启Profiling耗时变长,两者差值为膨胀时间。 - Keywords: 性能膨胀,性能数据采集,Ascend PyTorch Profiler - Detail: llms-content/document/zh_document_caselibrary_detail_profilingcase_007.md ## glibc<2.34的环境上采集性能数据触发Bug 19329-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/profilingcase_008 - Description: 在安装有glibc<2.34的环境上进行性能数据采集,触发core dumped。 - Keywords: Bug 19329,性能数据采集 - Detail: llms-content/document/zh_document_caselibrary_detail_profilingcase_008.md ## PyTorch编译过程提示CMAKE相关错误-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/ptacase_0003 - Description: PyTorch编译时cmake依赖时提示找不到包、编译cmake报错版本过低,可使用安装脚本或源码编译安装。 - Keywords: PyTorch,CMAKE,编译过程提示,相关错误,昇腾社区,问题现象描述,原因分析,解决措施 - Detail: llms-content/document/zh_document_caselibrary_detail_ptacase_0003.md ## 安装原生PyTorch框架时使用华为源下载typing依赖导致Python环境错误-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/ptacase_0007 - Description: 在pip设置为华为源时,安装requirements.txt中的typing依赖后,会导致Python环境错误。 - Keywords: PyTorch,Python,安装原生,框架时使用华,为源下载,依赖导致,环境错误,昇腾社区 - Detail: llms-content/document/zh_document_caselibrary_detail_ptacase_0007.md ## 在模型运行时将多任务下发关闭\(export ASCEND\_LAUNCH\_BLOCKING\=1\)后仍然遇到报错“HelpACLExecute.”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/ptacase_0021 - Keywords: 在模型运行时,将多任务下发,关闭,ASCEND,LAUNCH,BLOCKING,HelpACLExecute,后仍然遇到报 - Detail: llms-content/document/zh_document_caselibrary_detail_ptacase_0021.md ## 在模型运行时脚本突然卡死-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/ptacase_0037 - Description: 在模型运行过程中,脚本突然卡死。单卡训练过程时,表现为长时间日志不打印;多卡训练过程时,表现为其他进程由于连不上这台机器超时退出,但卡死的进程仍然存在没有退出。 - Keywords: 在模型运行时,脚本突然卡死,昇腾社区,问题现象描述,原因分析,解决措施,PyTorch,Process - Detail: llms-content/document/zh_document_caselibrary_detail_ptacase_0037.md ## 在模型运行时遇到报错“RuntimeError: could not create a primitive descriptor for a matmul primitive”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/ptacase_0038 - Keywords: RuntimeError,在模型运行时,遇到报错,昇腾社区,问题现象描述,原因分析,解决措施,PyTorch - Detail: llms-content/document/zh_document_caselibrary_detail_ptacase_0038.md ## 在模型运行时遇到报错“RuntimeError: context has already been set”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/ptacase_0039 - Description: 报错文本: - Keywords: RuntimeError,在模型运行时,遇到报错,昇腾社区,问题现象描述,原因分析,解决措施,PyTorch - Detail: llms-content/document/zh_document_caselibrary_detail_ptacase_0039.md ## 在模型运行时遇到告警“current tensor is running as\_strided, don't perform inplace operations on the returned va - URL: https://www.hiascend.com/document/caselibrary/detail/ptacase_0040 - Keywords: 在模型运行时,遇到告警,昇腾社区,问题现象描述,原因分析,解决措施,PyTorch,UserWarning - Detail: llms-content/document/zh_document_caselibrary_detail_ptacase_0040.md ## 在进行模型分布式训练时遇到报错“RuntimeError: Gloo connectFullMesh failed ...”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/ptacase_0041 - Keywords: RuntimeError,在进行模型分,布式训练时遇,到报错,Gloo,FullMesh,昇腾社区,问题现象描述 - Detail: llms-content/document/zh_document_caselibrary_detail_ptacase_0041.md ## 在进行模型分布式训练时遇到报错“RuntimeError: The Inner Error ...”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/ptacase_0042 - Description: 配置RANK\_TABLE\_FILE的场景下,在进行模型分布式训练时遇到报错“RuntimeError: The Inner Error ...”,并且打印的operator name是具体的通信算子。 - Keywords: RuntimeError,在进行模型分,布式训练时遇,到报错,Inner,Error,昇腾社区,问题现象描述 - Detail: llms-content/document/zh_document_caselibrary_detail_ptacase_0042.md ## 在进行模型分布式训练时遇到报错“Failed to bind the IP port. Reason: The IP address and port have been bound already. - URL: https://www.hiascend.com/document/caselibrary/detail/ptacase_0043 - Keywords: Failed,在进行模型分,布式训练时遇,到报错,IP,Reason,昇腾社区,问题现象描述 - Detail: llms-content/document/zh_document_caselibrary_detail_ptacase_0043.md ## torch.libs/libopenblasp-r0-56e95da7.3.24.so不存在-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/ptacase_0044 - Description: link\_directories\(/usr/local/python3.8.5/lib/python3.8/site-packages/torch.libs\) - Keywords: 不存在,昇腾社区,问题现象描述,原因分析,解决措施,在执行模型代,码前增加,库的链接 - Detail: llms-content/document/zh_document_caselibrary_detail_ptacase_0044.md ## npu\_conv2d和npu\_conv3d算子在1.8和1.11及以上版本上ONNX导出报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/ptacase_0045 - Description: npu\_conv2d和npu\_conv3d算子在1.8、1.11及以上版本上ONNX导出,出现报错信息“\_convolution\(\) missing 1 required positional argument: 'allow\_tf32' ”。 - Keywords: ONNX,算子在,及以上版本上,导出报错,昇腾社区,问题现象描述,原因分析,解决措施 - Detail: llms-content/document/zh_document_caselibrary_detail_ptacase_0045.md ## 模型运行时出现coredump,报错terminate called after throwing an instance of ‘std::runtime\_error’-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/ptacase_0046 - Description: 模型运行时出现报错terminate called after throwing an instance of ‘std::runtime\_error’。 - Keywords: 模型运行时出,报错,昇腾社区,问题现象描述,原因分析,解决措施,PyTorch,智能助手 - Detail: llms-content/document/zh_document_caselibrary_detail_ptacase_0046.md ## 使用MMEngine进行断点续训时报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/ptacase_0047 - Description: 当PyTorch版本为2.1.0,在NPU上执行多卡训练,通过MMEngine进行断点续训时报如下错误: - Keywords: MMEngine,进行断点续训,时报错,昇腾社区,问题现象描述,原因分析,解决措施,PyTorch - Detail: llms-content/document/zh_document_caselibrary_detail_ptacase_0047.md ## PyTorch运行import torch\_npu显示No module named 'torch\_npu.\_C'-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/ptacase_0049 - Keywords: PyTorch,运行,No,显示,昇腾社区,问题现象描述,原因分析,解决措施 - Detail: llms-content/document/zh_document_caselibrary_detail_ptacase_0049.md ## fork方式创建子进程导致应用进程卡死-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/ptacase_0050 - Description: 多卡训练场景下,出现训练进程卡死,或者出现训练超时、用户DataLoader卡死等现象。 - Keywords: 方式创建子进,程导致应用进,程卡死,昇腾社区,问题现象描述,原因分析,将指定进程的,堆栈信息导出 - Detail: llms-content/document/zh_document_caselibrary_detail_ptacase_0050.md ## 开启watchdog模型运行时出现coredump,报错terminate called after throwing an instance of ‘std::runtime\_error’-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/ptacase_0051 - Description: 开启watchdog模型运行时报错terminate called after throwing an instance of ‘std::runtime\_error’。 - Keywords: 开启,模型运行时出,报错,昇腾社区,问题现象描述,原因分析,解决措施,PyTorch - Detail: llms-content/document/zh_document_caselibrary_detail_ptacase_0051.md ## 当使用MMDetection或MMDetection3D时出现“AssertionError: MMCV\=\=2.2.0 is used but incompatible.”报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/ptacase_0052 - Description: 当安装的MMDetection版本为3.2.0及以上,MMDetection3D版本为1.3.0及以上,安装的MMCV版本为2.2.0时,使用MMDetection或MMDetection3D产生如下报错。 - Keywords: MMDetection,AssertionError,当使用,时出现,MMCV,报错,昇腾社区,问题现象描述 - Detail: llms-content/document/zh_document_caselibrary_detail_ptacase_0052.md ## PyTorch部分接口返回tensor的连续性和stride值与CPU不一致-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/ptacase_0063 - Description: 部分原生PyTorch接口在输入非连续张量的情况下,CPU输出为非连续张量,NPU输出为连续张量。 示例如下所示: 通过打印可以发现,cpu\_out为非连续张量,npu\_out为连续张量,二者值相同。 - Keywords: PyTorch,CPU,部分接口返回,的连续性和,值与,不一致,昇腾社区,问题现象描述 - Detail: llms-content/document/zh_document_caselibrary_detail_ptacase_0063.md ## 模型训练时未使用配套PyTorch或Python版本,报错“E1017”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/ptacase_0065 - Keywords: E1017 - Detail: llms-content/document/zh_document_caselibrary_detail_ptacase_0065.md ## 程序执行若出现报错“error while loading shared libraries: libascendcl.so: cannot open shared object file: No s - URL: https://www.hiascend.com/document/caselibrary/detail/sdktips_0001.xml - Description: 程序在执行过程中,出现报错,提示如下。 - Keywords: libascendcl.so,Vision SDK - Detail: llms-content/document/zh_document_caselibrary_detail_sdktips_0001xml.md ## 从开放态部署切换到标准态部署后,发现检索性能存在下降情况-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/sdktips_0033 - Description: 从开放态部署切换到标准态部署后,在Index的底库、batch较小场景下,检索性能出现下降情况。 - Keywords: 开放态;标准态;检索性能 - Detail: llms-content/document/zh_document_caselibrary_detail_sdktips_0033.md ## Arm环境下训练或跑python测试用例报错libgomp.so.1: cannot allocate memory in static TLS block-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/sdktips_0063 - Description: 在Arm环境下训练模型或者跑Rec SDK python侧测试用例时发生报错,报错信息:libgomp.so.1: cannot allocate memory in static TLS block - Keywords: Rec SDK;python;训练模型;报错 - Detail: llms-content/document/zh_document_caselibrary_detail_sdktips_0063.md ## 在ARM环境下,使用Rec SDK进行模型训练报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/sdktips_0081 - Description: 在ARM环境下,使用Rec SDK进行模型训练并且导入了scikit-learn库时存在报错:ImportError: /usr/local/python3.7.5/lib/python3.7/site-packages/sklearn/\_\_check\_build/../../scikit\_learn.libs/libgomp-d22c30c5.so.1.0.0: cannot allocate - Keywords: 模型训练报错 - Detail: llms-content/document/zh_document_caselibrary_detail_sdktips_0081.md ## 数据集shuffle数量过大导致训练超时-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/tensorflow_faq_0001 - Description: 训练执行报错如下: - Keywords: shuffle;训练超时 - Detail: llms-content/document/zh_document_caselibrary_detail_tensorflow_faq_0001.md ## 数据预处理中存在tf.Variable导致训练异常-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/tensorflow_faq_0005 - Description: TensorFlow网络执行时,报如下错误: - Keywords: 数据预处理;tf.Variable - Detail: llms-content/document/zh_document_caselibrary_detail_tensorflow_faq_0005.md ## 关闭memory\_optimization后发生core dump-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/tensorflow_faq_0008 - Description: 迁移时关闭了TensorFlow的memory\_optimization功能,发生了core dump: - Keywords: memory\_optimizer core dump - Detail: llms-content/document/zh_document_caselibrary_detail_tensorflow_faq_0008.md ## NPULossScaleOptimizer优化器使用常见问题-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/tensorflow_faq_0009 - Description: 使用NPULossScaleOptimizer优化器时,如果训练脚本中存在如下类似情况: 会出现Placeholder not support报错。 - Keywords: NPULossScaleOptimizer;Placeholder not support - Detail: llms-content/document/zh_document_caselibrary_detail_tensorflow_faq_0009.md ## 动态shape网络执行时报v1控制流算子不支持的错误-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/tensorflow_faq_0011 - Description: 模型执行时报如下错误: - Keywords: v1 control operator - Detail: llms-content/document/zh_document_caselibrary_detail_tensorflow_faq_0011.md ## 数据预处理使用tf.keras.backend.zero生成变量,训练报错变量未初始化-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/tensorflow_faq_0012 - Description: 训练报错变量算子未初始化: - Keywords: variable was uninitialized - Detail: llms-content/document/zh_document_caselibrary_detail_tensorflow_faq_0012.md ## GetNext算子超时,返回错误码E30008-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/tensorflow_faq_0013 - Description: 执行训练脚本时出现GetNext算子超时。 - Keywords: E30008;fault op\_name\=aicpu\_getnext\_IteratorGetNext - Detail: llms-content/document/zh_document_caselibrary_detail_tensorflow_faq_0013.md ## 多Device上执行模型不同导致应用程序出错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/tensorflow_faq_0014 - Description: 分布式训练或推理场景,执行业务脚本时,出现进程卡死的情况。 搜索打屏日志关键字“The model has been compiled on the Ascend AI processor, current graph id is”,假设共8个Device,结果显示如下: 正常情况下,每个Device上都应该有相同的graph id,且个数相同。但由上述日志可以看出,ID为61、71的graph - Keywords: 多Device;模型不同 - Detail: llms-content/document/zh_document_caselibrary_detail_tensorflow_faq_0014.md ## 安装TensorFlow 2.6.5后,执行import tensorflow时报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/tensorflow_faq_0015 - Description: 安装TensorFlow 2.6.5后,执行import tensorflow时报错:“RuntimeError: module compiled against API version 0x10 but this version of numpy is 0xd”。 - Keywords: TensorFlow2.6.5;import tensorflow;RuntimeError - Detail: llms-content/document/zh_document_caselibrary_detail_tensorflow_faq_0015.md ## TGI并发请求返回结果异常-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/tgi_case_00001 - Description: llama-13b部署TGI推理框架后,跑8个串行请求时返回结果正常,跑8个并行请求时返回结果异常。 - Keywords: llama-13b, TGI推理框架 - Detail: llms-content/document/zh_document_caselibrary_detail_tgi_case_00001.md ## 执行算力测试短暂出现实测算力低于达标值的情况-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0001.xml - Description: 执行Ascend DMI工具的算力测试时,短暂出现算力测试结果低于昇腾处理器达标值。 - Keywords: MindCluster ToolBox;算力测试;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0001xml.md ## 执行算力测试时找不到相关so文件-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0002 - Description: 使用Ascend-DMI工具进行算力测试时,找不到相关so文件,回显信息如下所示。 - Keywords: Ascend-DMI;算力测试 - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0002.md ## 使用ascend-cert工具时提示CRL更新失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0005 - Description: 使用ascend-cert工具的CRL更新功能时,报错提示CRL更新失败“CRL update failed!”。 - Keywords: CRL更新失败;ascend-cert工具; - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0005.md ## MindCluster ToolBox环境变量脚本配置失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0051 - Keywords: MindCluster ToolBox;安装配置;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0051.md ## 执行ascend-dmi命令报错:Failed to load the libdcmi.so dynamic library-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0054 - Keywords: MindCluster ToolBox;安装配置;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0054.md ## 执行ascend-dmi --dg,诊断结果提示:hccn\_tool no certificate found-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0055 - Keywords: MindCluster ToolBox;安装配置;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0055.md ## 带宽测试时间较长,测试结果低于预期-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0056 - Keywords: MindCluster ToolBox;带宽;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0056.md ## Atlas 200T A2 Box16 异构子框执行p2p带宽测试结果低于预期-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0057 - Keywords: MindCluster ToolBox;带宽测试;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0057.md ## P2P带宽执行失败,错误码507899-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0058 - Keywords: MindCluster ToolBox;带宽测试;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0058.md ## 执行h2d、d2h偶现不达标-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0059 - Keywords: MindCluster ToolBox;带宽测试;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0059.md ## h2d带宽测试部分卡不达标-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0060 - Keywords: MindCluster ToolBox;带宽测试;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0060.md ## 通过设置Max Payload Size提升h2d带宽性能-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0061 - Keywords: MindCluster ToolBox;带宽测试;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0061.md ## 带宽值不达标,硬件性能影响点Checklist-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0062 - Keywords: MindCluster ToolBox;带宽测试;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0062.md ## 日志权限有问题导致Ascend DMI功能不可用-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0063 - Keywords: MindCluster ToolBox;日志;权限;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0063.md ## 容器场景执行Aicore命令失败,plog日志报错,驱动故障码为46-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0065 - Keywords: MindCluster ToolBox;Aicore;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0065.md ## 执行Aicore压测时,进程被killed,导致进程异常终止-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0066 - Keywords: MindCluster ToolBox;Aicore;压测;Aicore;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0066.md ## 诊断失败,提示A software or internal error occurs. Contact Huawei technical support-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0067 - Keywords: MindCluster ToolBox;压测;Aicore;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0067.md ## 压测包软件失败,错误码110000-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0068 - Keywords: MindCluster ToolBox;压测;Aicore;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0068.md ## Aicore压测失败,错误码100011-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0070 - Keywords: MindCluster ToolBox;压测;Aicore;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0070.md ## 片上内存压测失败,日志报aclopRegisterCompileFunc failed-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0071 - Keywords: MindCluster ToolBox;压测;片上内存;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0071.md ## 片上内存申请失败导致压测失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0072 - Keywords: MindCluster ToolBox;压测;片上内存;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0072.md ## Ascend DMI工具执行故障诊断时报错,出现带宽结果小于参考值的情况-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0073 - Keywords: MindCluster ToolBox;故障诊断;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0073.md ## 执行软硬件版本兼容性测试时,出现“Innerversion”值为“NA”的情况-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0074 - Keywords: MindCluster ToolBox;版本兼容性;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0074.md ## 设备device侧内存不足导致片上内存压测失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxcase_0075 - Keywords: MindCluster ToolBox;片上内存;内存;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxcase_0075.md ## ToolBox安装报security rules group write错误-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolboxinst_0001 - Description: 安装ToolBox时,报错提示:run failed on file /root does not meet with security rules group write. exiting - Keywords: 安装toolbox报错 - Detail: llms-content/document/zh_document_caselibrary_detail_toolboxinst_0001.md ## 保存Checkpoint文件成功,但找不到该文件-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolscase_0002 - Description: 保存Checkpoint文件后,对该文件进行操作时,显示该文件不存在。 - Keywords: Checkpoint;不存在;.ckpt - Detail: llms-content/document/zh_document_caselibrary_detail_toolscase_0002.md ## 数据处理时出现错误的可能原因-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolscase_0003 - Description: 运行迁移后代码,执行数据处理时出现如下错误。 - Keywords: 数据处理;MindSpore;numpy array;Tensor - Detail: llms-content/document/zh_document_caselibrary_detail_toolscase_0003.md ## 运行迁移后代码报未定义API的错误-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolscase_0004 - Description: 运行迁移后代码报未定义API的错误,该API出现于不支持API列表unsupported\_api.csv且不是迁移前代码中的API。 - Keywords: 未定义API;unsupported\_api.csv;版本;libcst - Detail: llms-content/document/zh_document_caselibrary_detail_toolscase_0004.md ## 运行迁移后代码提示“Segmentation fault”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/toolscase_0005 - Description: 运行转换后代码无报错,仅提示“Segmentation fault”信息。 - Keywords: Segmentation fault;numpy;版本;迁移后 - Detail: llms-content/document/zh_document_caselibrary_detail_toolscase_0005.md ## 启动MindStudio时无法显示图形化界面-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001257259248 - Description: 启动MindStudio时,出现“Failed to initialize graphics environment”等报错信息。 - Keywords: 启动MindStudio;图形化界面 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001257259248.md ## Tensor比对报错:The data in dump file have zero-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001257538288 - Description: 执行Vector比对时,界面弹出报错窗口。 - Keywords: Vector比对;精度比对;比对 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001257538288.md ## pip3 install报错“subprocess.CalledProcessError:Command '\('lsb\_release', '-a'\)' return non-zero exit st - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001258761602 - Description: 安装依赖时,使用pip3 install xxx命令安装相关软件时出现“subprocess.CalledProcessError:Command '\('lsb\_release', '-a'\)' return non-zero exit status 1”报错信息。 - Keywords: CANN;pip3;subprocess.CalledProcessError:Command '\('lsb\_release', '-a'\)' return non-zero exit status - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001258761602.md ## 在MindStudio界面安装插件时提示网络未连接或插件不存在-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001258782124 - Description: 启动MindStudio后,在菜单栏选择File > Settings... > Plugins搜索并安装插件时,界面提示网络未连接或插件不存在。 - Keywords: 插件;网络未连接;不存在 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001258782124.md ## 安装驱动时提示“The user and group are not same with last installation”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001258982362 - Description: 安装驱动时出现“The user and group are not same with last installation,do not support overwriting installation”提示信息。 - Keywords: CANN;驱动 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001258982362.md ## ST配置界面报错:Credentials of toolchain must be the same as CANN machine-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001258997854 - Description: 运行算子ST时,配置界面选项显示 Error:Credentials of toolchain must be the same as CANN machine. - Keywords: 算子ST测试 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001258997854.md ## 安装openssl-devel时提示so文件冲突-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001259081438-HUMo0GO3 - Description: 运行yum install -y openssl-devel命令进行安装时,出现so文件冲突错误。 - Keywords: CANN;openssl-devel - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001259081438-HUMo0GO3.md ## 编译时出现依赖不存在的报错“libgfortran.so.4: No such file or directory”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001259130144 - Description: 开发MindX SDK应用工程过程中,尝试编译工程时,出现“libgfortran.so.4: No such file or directory”报错信息。 - Keywords: libgfortran;SDK编译 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001259130144.md ## 算子插件解析属性失败导致模型推理精度不达标-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001261103248 - Description: 模型里包含用户自定义算子,使用ATC工具进行模型转换时,显示转换成功;但执行模型推理时,精度不达标。 - Keywords: 自定义算子;模型转换;模型推理;精度不达标 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001261103248.md ## 网络调测时ReduceSum算子性能差如何处理-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001261263136 - Description: 网络调测时,网络整体性能较慢。通过性能分析工具获取网络的Profiling数据(工具的使用方法可参见对应版本的《性能分析工具使用指南》,并进行算子的性能数据分析,发现ReduceSum算子的性能很差。 查看Profiling性能数据中ReduceSum算子的详细信息,如下图所示: 其中,ReduceSum算子的输入数据类型(input\_data\_type)为“DT\_FLOAT16”,block\_ - Keywords: (必填项)(关键字之间请用英文分号隔开) - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001261263136.md ## 手动删除vcjob后Pod一直处于Terminating状态-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001273980264 - Description: 使用kubectl delete -f xxx.yaml删除vcjob后Pod一直处于Terminating状态。 - Keywords: vcjob;Terminating;Pod;NFS挂载路径 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001273980264.md ## 模型转换失败,报错日志中有“can not find node: *”或者“node * not found”的内容信息-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001274300156.xml - Description: 模型转换失败,找不到输出节点。 - Keywords: 模型转换;ATC;输出节点 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001274300156xml.md ## 模型转换失败,日志中有“input x shape is empty”的内容信息-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001274460700.xml - Description: 模型转换失败,参数输入错误 - Keywords: 模型转换;ATC;参数 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001274460700xml.md ## 使用mxIndex特征聚类,执行聚类的过程中,出现芯片丢失的情况-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001274791592 - Description: 执行聚类的过程中,出现了芯片丢失的情况。 - Keywords: mxIndex,芯片 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001274791592.md ## 使用MindSDK时,出现“can not find the element factory : mxpi\_xxxpostprocessor”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001274937568 - Description: 使用MindSDK进行应用开发时,出现“can not find the element factory : mxpi\_xxxpostprocessor”提示。 先在$HOME/SDK/mxManufacture-\{version\}/opensource/bin路径下执行./gst-inspect-1.0 mxpi\_xxxpostprocessor\(插件名\) 检查插件,发现插件能够正常加载,但在运 - Keywords: mxpi,无法找到,报错,提示,插件 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001274937568.md ## 使用mxIndex特征聚类,执行聚类/结果合并的过程,google protobuf出现报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001275111484 - Description: 执行聚类/结果合并的过程,尝试将结果通过调用SaveDataToFile接口将结果通过google protobuf序列化保存到本地,google protobuf出现了“exceeded maximum protobuf size of 2gb”的报错,且本地保存结果的size为0。 - Keywords: mxIndex,聚类,protobuf,报错,SaveDataToFile - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001275111484.md ## CPU架构为ARM架构时,由于社区未提供ARM架构CPU版本的torch包,无法使用PIP3命令安装PyTorch1.8.1,需要使用源码编译安装-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001275828232 - Description: CPU架构为ARM架构时,无法使用PIP3命令安装PyTorch1.8.1。 - Keywords: 安装PyTorch - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001275828232.md ## 如何批量处理生成的npy文件名异常情况-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001285801818-m921Jg4U - Description: 生成的npy文件名与预期不符,造成转换dump数据文件异常。 - Keywords: 精度比对 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001285801818-m921Jg4U.md ## 变量初始化和数据预处理初始化在同一子图导致训练异常-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001291151198 - Description: 某些网络,例如LeNet网络迁移至昇腾AI处理器上训练时,loss不收敛,精度很低且不变。 同时发现变量初始化全0。 - Keywords: 变量初始化;数据预处理初始化 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001291151198.md ## 多优化器共用导致浮点异常检测存在问题-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001291198320 - Description: 饱和模式在检查溢出时,无法直接通过输出tensor中的数值进行检查,需要根据昇腾910 AI处理器上的状态位判断计算过程是否出现溢出。 - Keywords: LossScale多优化器 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001291198320.md ## tf.train.batch接口手工迁移-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001291311114 - Description: TensorFlow不建议使用tf.train.batch接口通过队列形式处理输入数据。 - Keywords: tf.train.batch接口;队列形式 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001291311114.md ## 混合精度场景下,由于极端模型超参导致算子溢出-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001291630618 - Description: SSD-Resnet50V1-FPN网络,在allow\_mix\_precision精度模式下,设置静态lossscale\=1,执行单P训练,发现global\_step不更新,且每个迭代都有Sub融合算子溢出。 - Keywords: 混合精度 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001291630618.md ## 开发昇腾工程过程中,编译配置切换Toolchain后编译并运行,出现报错-Atlas Community - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001293851024-ZWEeyAPH - Description: 在开发昇腾工程过程中,改变编译配置中的Toolchain,切换了编译架构,再次编译并在对应架构的环境中运行,出现如下报错。 - Keywords: 切换编译配置;编译架构 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001293851024-ZWEeyAPH.md ## Tensor比对报错:ModuleNotFoundError: No module named 'google'-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001305716241 - Description: 执行Vector比对时,界面弹出报错窗口,并在“output”栏的打印报错信息。 - Keywords: Vector比对;精度比对;比对 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001305716241.md ## 未设置日志打屏环境变量,但是在屏幕上仍有日志显示-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001305797721 - Description: 用户未设置日志打屏环境变量(export ASCEND\_SLOG\_PRINT\_TO\_STDOUT\=1),但是在屏幕上仍有日志显示。 - Keywords: 日志;环境变量 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001305797721.md ## 运行算子UT测试时,无法获取测试用例-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001306078037 - Description: 运行UT测试用例时,配置界面无法显示测试用例。 - Keywords: 算子UT测试;测试用例 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001306078037.md ## 创建训练样例工程时报错“Download failed. Please see the log for more detail. You can also download sample from h - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001306093521 - Description: 创建训练样例工程时,弹出报错对话框,提示“Download failed. Please see the log for more detail. You can also download sample from https://www.hiascend.com/software/modelzoo manually.”错误信息。 - Keywords: 模型训练 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001306093521.md ## 算子ST运行失败找不到libascendcl.so-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001306118057 - Description: MindStudio上算子ST测试运行失败后,提示“error while loading shared libraries: libascendcl.so: cannot open shared object file: No such file or directory”。 - Keywords: 算子ST测试;测试用例 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001306118057.md ## 如何解决设置超大内存后无法启动MindStudio-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001306542109-9dC6Rrr6 - Description: 在Windows启动MindStudio失败;或者在Linux启动MindStudio时,出现“Cound not reserve enough space for xxx object heap”报错信息。 - Keywords: 内存;heap;space - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001306542109-9dC6Rrr6.md ## 基于MindX SDK开发应用,运行应用工程时,出现“can not find the element factory : mxpi\_xxxpostprocessor”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001306575201 - Description: 在$HOME/Ascend/mindx\_sdk//opensource/bin路径下执行./gst-inspect-1.0 mxpi\_xxxpostprocessor\(插件名\) 检查插件,发现插件能够正常加载。 使用MindX SDK时,出现“can not find the element factory : mxpi\_xxxpostprocessor” - Keywords: libgfortran;SDK编译 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001306575201.md ## AI Core算子执行时间超时导致网络运行失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001308583121 - Description: 执行模型推理时,返回模型执行失败。Device侧日志中有ERROR级别的打印日志。 - Keywords: AI Core算子执行超时 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001308583121.md ## 使用Atlas 推理系列产品时,视频解码性能问题-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001321265632 - Description: VDEC解码性能下降,小于VDEC对外发布的性能规格,导致发生卡顿等现象。 - Keywords: VDEC;视频;解码;性能 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001321265632.md ## 使用Atlas 推理系列产品时,JPEG图片解码失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001321267800 - Description: JPEGD模块解码失败,查看日志报错信息。 - Keywords: JPEG;图片;解码;失败 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001321267800.md ## 故障案例-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001321294230 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 故障案例,昇腾社区,了解详情 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001321294230.md ## 使用Atlas 推理系列产品时,VENC创建通道失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001321440424 - Description: 调用VENC创建通道的接口hi\_mpi\_venc\_create\_chn返回值非0,通道创建失败。 - Keywords: VENC;创建通道失败;hi\_mpi\_venc\_create\_chn - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001321440424.md ## 使用Atlas 200/300/500 推理产品或Atlas 训练系列产品时,视频解码丢帧/丢包-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001321443228 - Description: 使用Atlas 200/300/500 推理产品或Atlas 训练系列产品时,视频解码丢帧,出现重影或不连续现象。查看Device侧日志,发现日志中存在以下几个报错的内容信息中的一个或多个。 - Keywords: 视频;解码;丢帧;丢包 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001321443228.md ## 进程异常退出后重新执行任务失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001321565054 - Description: 进程异常退出时,包括强行终止任务(如ctrl + c或者kill命令终止进程)的场景,然后重新启动任务失败。 - Keywords: 进程,退出,异常,任务,失败 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001321565054.md ## 进程异常时资源清理的处理建议-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001321566058 - Description: 用户捕获异常退出信号,并在信号处理函数中释放已申请资源,下一次执行时会报执行失败。此时查看日志,会发现unbind model stream failed报错。 - Keywords: 进程;退出;异常;资源;unbind - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001321566058.md ## 动态shape推理申请内存失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001321576380-TSHsv3iH - Description: 模型推理过程中,申请了大小为0的内存,日志报错信息中包含以下关键信息。 - Keywords: 动态shape;推理;申请;内存 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001321576380-TSHsv3iH.md ## 使用Atlas 推理系列产品时,视频解码失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001321586464 - Description: 视频失败,日志中打印异常信息。 - Keywords: VDEC;视频;解码;失败 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001321586464.md ## 使用Atlas 推理系列产品时,VPC参数校验失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001321587840 - Description: 调用VPC功能接口返回0xA0078003,即HI\_ERR\_VPC\_ILLEGAL\_PARAM,参数超出合法范围。 - Keywords: VPC;参数;校验;失败;HI\_ERR\_VPC\_ILLEGAL\_PARAM,0xA0078003 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001321587840.md ## 使用Atlas 推理系列产品时,模型推理精度下降-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001321588404 - Description: 图像集的整体推理精度存在下降。 - Keywords: JPEG;DVPP;模型;精度;下降;算法;libjpeg - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001321588404.md ## 使用Atlas 推理系列产品时,视频解码花屏-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001321744040 - Description: 输入码流给VDEC进行解码,得到的解码数据不正确,产生花屏现象,并且日志中存在报错信息。 - Keywords: 视频;解码;花屏 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001321744040.md ## 使用Atlas 200/300/500 推理产品或Atlas 训练系列产品时,视频解码失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001321767352 - Description: 视频失败,查看日志是否有打印日志信息中的异常信息。 - Keywords: 视频,解码;失败;Invalid;bit\_depth\_luma - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001321767352.md ## Volcano资源不足时,任务处于pending状态-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001324739949 - Description: 使用Volcano进行任务调度时,若申请的资源大于当前环境可用资源,任务不会被调度,同时状态会置为pending。若申请的资源大于集群所拥有的资源上限时,任务则会一直处于pending状态。 以自定义命名空间mindx-test的“mindx-dls-npu-16p”任务为例进行说明(该任务在集群只有8个NPU的情况下,申请16个NPU)。 回显示例如下: 由此可见该任务处于pending状态。 - Keywords: Volcano;任务调度;pending;volcano-scheduler - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001324739949.md ## 训练任务处于pending状态,原因:nodes are unavailable-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001324820153 - Description: 下发vcjob任务后,训练任务一直未运行。 - Keywords: vcjob;Pod;训练任务;pending - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001324820153.md ## 在MindCluster ToolBox与驱动版本不配套的使用场景下,执行相关功能报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001324918649-6byM6boi - Keywords: MindCluster ToolBox;权限;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001324918649-6byM6boi.md ## hccl.json文件没有生成-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001324940005 - Description: 当启动一个训练任务后,训练任务容器内部hccl.json文件一致处于initializing状态(默认路径:/user/serverid/devindex/config/hccl.json)。 执行kubectl exec -it XXX bash 进入容器,若Pod不在default命名空间,则需要加-n XXX指明命名空间,如:kubectl exec -it XXX -n XXX bash。 - Keywords: 训练任务;initializing;hccl.json;命名空间;annotation - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001324940005.md ## 模型转换失败,报错日志中有错误码内容信息,以E10001 Invalid Argument举例-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001324940045.xml - Description: 模型转换失败,错误码提示。 - Keywords: 模型转换;ATC;错误码 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001324940045xml.md ## 主备节点,持续打印error日志:“VIP configuration is abnormal, causing split-brain.”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001324944973 - Description: 使用KEEPALIVED部署双机备份后,容器运行异常,查看var/alog/keepalived/c下的日志。提示error日志:“VIP configuration is abnormal, causing split-brain.”。 适用于MindX Edge 3.0.0及以下版本。 - Keywords: 双机备份;error日志;VIP - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001324944973.md ## 开发环境操作系统以及架构为Arm(aarch64)时模型转换的耗时较长-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001325059737.xml - Description: 模型转换时间较长。 - Keywords: 模型转换;ATC;CPU - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001325059737xml.md ## 主备节点,持续打印error日志:“VIP disappears\!”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001325064961 - Description: 使用KEEPALIVED部署双机备份后,容器运行异常,查看var/alog/keepalived/c下的日志。提示error日志:“VIP disappears\!”。 适用于MindX Edge 3.0.0及以下版本。 - Keywords: 双机备份;error日志;VIP - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001325064961.md ## 在服务端接收请求或执行证书导入脚本时,kmc初始化随机数阻塞但未抛出Error-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001325297397 - Description: 在服务端接收请求或执行证书导入脚本时,kmc初始化随机数阻塞但未抛出Error,等待时间不定,可恢复。 - Keywords: 服务,证书,kmc,随机数,haveged - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001325297397.md ## 青松服务器Kylin V10 sp1操作系统,源码方式安装完Python-3.9.2后,pip3工具无法使用-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001325617421-qwQKA0Nc - Description: 执行过程中出现如下提示。 - Keywords: 青松服务器,Kylin,Python,pip,TLS/SSL - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001325617421-qwQKA0Nc.md ## 使用mxIndex特征检索,编译过程中,出现libascendfaiss.so not found-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001325631417 - Description: 编译过程中,出现以下报错。 - Keywords: mxIndex,编译,ascendfaiss,so,libascendfaiss,not found,找不到 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001325631417.md ## ST测试时ACL运行报错“failed to load single op”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001330954676-sbNZMKov - Description: 运行算子ST时,报错显示“failed to load single op”。 - Keywords: 算子;ST测试 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001330954676-sbNZMKov.md ## 启动MindStudio时报glibc版本太低问题-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001331111612 - Description: 例如在CentOS7.6系统启动MindStudio时,报“Error : failed /home/MindStudio/jbr/lib/server/libjvm.so...错误信息。 - Keywords: 启动;glibc;jbr - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001331111612.md ## Windows上远程打开MindStudio时,偶现复制的内容无法粘贴到编辑器窗口中-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001331636726 - Description: Windows上远程打开MindStudio时,偶现复制的内容无法粘贴到编辑器窗口中。 - Keywords: 远程;粘贴;编辑窗口;Clipboard - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001331636726.md ## 输入框无法输入或删除字符,且后台报“java.lang.RuntimeException: java.awt.event.KeyEvent“错误-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001331648098 - Description: 在使用Windows通过另一台Windows远程连接一台Linux设备上的MindStudio时,出现输入框无法输入或删除字符,且后台报“java.lang.RuntimeException: java.awt.event.KeyEvent“错误。 - Keywords: 输入框;远程连接;X11 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001331648098.md ## 启动MindStudio时提示“WARNING: Install the haveged service by referring to the installation guide.”问题-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001331795326 - Description: 启动过程中提示“WARNING: Install the haveged service by referring to the installation guide.”错误信息,表示未安装haveged服务。 - Keywords: 启动;haveged;熵值 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001331795326.md ## 如何获取fp\_point与bp\_point-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001337913621-SrWvFJLC - Description: 如何获取fp\_point和bp\_point。 - Keywords: fp\_point;bp\_point - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001337913621-SrWvFJLC.md ## 绑定训练进程到指定CPU-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001338446913 - Description: 多P训练场景,为了使Host CPU调度均匀,从而进一步提高训练性能。 - Keywords: 多P场景;Host CPU - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001338446913.md ## 安装-torch--whl-提示-torch-1-5-0xxxx-与-torchvision-所依赖的版本不匹配-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001339753673 - Description: 安装“torch-*.whl”时,提示“ERROR:torchvision 0.6.0 has requirement torch\=\=1.5.0, but you'll have torch 1.5.0a0+1977093 which is incompatible”。 - Keywords: 安装,提示,所依赖的版本不匹配,昇腾社区,问题现象描述,原因分析,解决措施,PyTorch - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001339753673.md ## uint8和quint8加减溢出-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001343431057-k2NUfjT0 - Description: 含有累加累减的算子在uint8和quint8类型计算溢出时,计算结果和理论值不同。例如uint8类型,理论计算结果是257,昇腾AI处理器的计算结果为255。 - Keywords: uint8;quint8 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001343431057-k2NUfjT0.md ## 仅在某个Device上保存Checkpoint数据-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001343431065 - Description: 分布式训练场景下,如果用户只希望在某个device上保存checkpoint数据,而不希望在其他device上保存checkpoint数据。 - Keywords: 分布式训练;checkpoint数据 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001343431065.md ## 网络中存在ResourceConditionalAccumulator等算子导致训练性能不达标-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001343550881 - Description: OSMN等网络中存在大量的ResourceConditionalAccumulator、ResourceAccumulatorTakeGradient资源类算子,导致训练性能不达标。 - Keywords: 资源类算子;训练性能;不达标 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001343550881.md ## tf.is\_finite接口手工迁移-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001343550897 - Description: CANN不支持tf.is\_finite接口。 - Keywords: tf.is\_finite接口 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001343550897.md ## 故障案例-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001343670329 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 故障案例,昇腾社区,了解详情 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001343670329.md ## 使用NPU Loss Scale优化器后,训练不收敛-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001343670349 - Description: word2vec网络开关闭NPU Loss Scale时,训练收敛;使用NPU Loss Scale优化器时,训练不收敛。 - Keywords: NPU Loss Scale优化器 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001343670349.md ## Hook的index顺序改变导致训练异常-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001344190745 - Description: 训练报错:AttributeError:'xxxxHook' object has no attribute 'xxxx'。 - Keywords: Hook - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001344190745.md ## V1版本控制流算子导致内存不足-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001344438005 - Description: 模型执行时报错,内存不足。 - Keywords: 控制流算子;内存不足 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001344438005.md ## AtlasEdge升级失败处理-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001346000524 - Description: 用户在对AtlasEdge进行升级操作时,提示AtlasEdge升级失败。 适用于MindX Edge 3.0.0及以下版本。 - Keywords: 升级失败 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001346000524.md ## 执行kubectl相关命令提示certificate signed by unknown authority-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001346047698 - Description: 执行kubectl相关命令,如:kubectl get pods --all-namespaces提示如下错误。 - Keywords: kubectl;authority;命令提示 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001346047698.md ## 如何解决中文显示乱码和界面显示不全不规整问题-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001356165649 - Description: 创建工程时,中文显示乱码;或者软件界面显示不全不规整。 - Keywords: 中文;乱码;显示不全 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001356165649.md ## 在MindStudio中配置MindX SDK 软件包时,未发现MindX SDK配置项-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001357075873-bymf5yn8 - Description: 使用MindStudio配置MindX SDK,通过菜单栏“File > Settings... ”打开“Settings”配置功能,在“Appearance & Behavior > System Settings”中未发现“MindX SDK”配置项。 - Keywords: 软件包;SDK - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001357075873-bymf5yn8.md ## 使用dump功能未获取dump结果-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001372058069 - Description: 日志显示正确执行了Dump功能,但在Dump结果路径下没有Dump的结果。日志信息包含“HandleDumpConfig end in HandleDumpConfig”等关键字。 - Keywords: dump;结果;日志;路径;HandleDumpConfig;配置文件 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001372058069.md ## ACL执行无输出无报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001372089873-nqWKntjr - Description: ACL执行过程中,无接口报错,但是没得到预期结果。 - Keywords: ACL;执行;结果;so;报错 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001372089873-nqWKntjr.md ## 使用Atlas 推理系列产品时,视频解码丢帧/丢包-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001372102073 - Description: 视频解码丢帧,出现重影或不连续现象。查看Device侧日志,发现日志中存在以下几个报错的内容信息中的一个或多个。 - Keywords: 视频;解码;丢帧;丢包;重影;不连续 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001372102073.md ## 使用Atlas 200/300/500 推理产品或Atlas 训练系列产品时,JPEG图片解码失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001372130301 - Description: JPEGD模块解码失败,查看日志是否有类似日志信息中的报错信息。 - Keywords: JPEG;解码;图片;huffman;jpeg2000 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001372130301.md ## APP使用dvpp接口编译失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001372216365 - Description: 编译提示DVPP的相关接口未定义,编译报错,日志关键字包括:undefined reference to *** - Keywords: APP,dvpp接口,编译,失败,undefined,libacl\_dvpp.so - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001372216365.md ## 内存未释放-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001372412473 - Description: 测试用例长稳运行时,出现内存泄漏的现象,内存占用持续上升。 - Keywords: 内存,未释放,申请,释放 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001372412473.md ## 执行单算子产生coredump的定位处理-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001372421677-f34UuGoT - Description: 单算子执行结束,出现重复释放内存,导致coredump,屏幕显示关键日志信息: - Keywords: 单算子,coredump,重复,释放,内存,double free - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001372421677-f34UuGoT.md ## 单算子匹配失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001372447293-E5jNFTTd - Description: 单算子执行过程中,出现匹配失败,日志显示如下类似信息。 - Keywords: 单算子;匹配;日志;MatchOpModel;match - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001372447293-E5jNFTTd.md ## 使用Atlas 推理系列产品时,VENC送入待编码图像帧失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001372481505 - Description: 调用VENC发送帧的接口hi\_mpi\_venc\_send\_frame返回值非0,发送失败。 - Keywords: VENC;编码;图像帧;失败;hi\_mpi\_venc\_send\_frame - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001372481505.md ## 使用Atlas 200/300/500 推理产品或Atlas 训练系列产品时,视频解码花屏-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001372486141 - Description: 输入码流给VDEC进行解码,得到的解码数据不正确,产生花屏现象,如图所示。并且日志中存在类似dvpp\_vdec\_vdm\_process failed、Chan 0 ErrRatio \= 44信息。 - Keywords: 视频;解码;花屏;dvpp\_vdec\_vdm\_process - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001372486141.md ## 使用Atlas 200/300/500 推理产品或Atlas 训练系列产品时,视频帧解码失败不触发回调函数-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001372488793 - Description: 用户输入码流给VDEC解码,某些帧或所有帧都没有触发回调函数,用户收不到解码结果。 - Keywords: VDEC;解码;视频;帧;回调函数 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001372488793.md ## 使用Atlas 200/300/500 推理产品或Atlas 训练系列产品时,VPC调用失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001372530585 - Description: VPC模块调用失败,查看日志是否有类似日志信息中的报错信息。 - Keywords: VPC,抠图,失败,调用失败 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001372530585.md ## 使用Atlas 推理系列产品时,VENC编码无输出-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001372682161 - Description: VENC通道创建,发送帧都成功,但调用VENC获取码流的接口hi\_mpi\_venc\_get\_stream返回0xa008800e,获取不到编码后码流数据。 - Keywords: VENC;编码;无输出;失败;hi\_mpi\_venc\_send\_frame - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001372682161.md ## 安装依赖时提示未安装或找不到Python.h-Atlas Community - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001382290905 - Description: 安装依赖时提示“fatal error:Python.h:No such file or directory”或者“Could not find ”等信息。 - Keywords: Python.h;安装依赖 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001382290905.md ## ST测试时ACL单算子匹配模型失败,报错提示“\[Match\]\[OpModel\]MatchOpModel”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001382314237 - Description: ST测试时ACL单算子匹配模型失败,报错提示“\[Match\]\[OpModel\]MatchOpModel”。 - Keywords: ST测试;ACL单算子 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001382314237.md ## MindStudio在启动时报“java.io.IOException: No space left on device”错误-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001382525429 - Description: 启动MindStudio失败,并报java.io.IOException: No space left on device错误信息。 - Keywords: space;磁盘空间;临时文件 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001382525429.md ## 调用Python脚本时提示“ModuleNotFoundError: No module named 'xxx'”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001382591321 - Description: 调用Python脚本时提示缺少python依赖信息,例如“ModuleNotFoundError: No module named 'xxx'”。 - Keywords: ModuleNotFoundError;Python脚本 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001382591321.md ## 如何解决MindStudio界面闪退后,重新启动MindStudio时提示进程已存在-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001382643341 - Description: MindStudio界面闪退。用户重新启动MindStudio,报错提示已有进程存在。 - Keywords: 闪退;进程;网络异常 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001382643341.md ## 基于MindX SDK开发应用,使用MindX SDK Pipeline功能查看可视化pipeline时,发现插件变灰-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001388597013-rs3latTG - Description: 在MindStudio中开发基于MindX SDK应用,使用MindX SDK Pipeline功能查看可视化pipeline时,发现其中部分或全部插件变灰。 - Keywords: Pipeline;灰;插件;plugin - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001388597013-rs3latTG.md ## 运行ST测试时报错“Failed to get device count”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001390696756-LWhmleG3 - Description: 运行ST测试用例时报错“Failed to get device count”。 - Keywords: ST测试 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001390696756-LWhmleG3.md ## 使用msopgen工具创建工程时,有报错提示-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001390856748 - Description: 使用msopgen工具创建工程时,报错显示“xlrd.biffh.XLRDError: Excel xlsx file; not supported”。 - Keywords: msopgen工具;创建工程 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001390856748.md ## calico网络插件Not READY-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001395927997 - Description: 通过kubectl get pod -A查看calico网络插件时,READY一栏为“0/1”。 - Keywords: calico;网络插件;报错 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001395927997.md ## yaml运行任务报:admission webhook "validatejob.volcano.sh" denied the request-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001396127521 - Description: 使用kubectl apply -f XXX.yaml启动任务,报如下错误。 - Keywords: yaml运行任务;报错 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001396127521.md ## 通过Atlas 500 智能小站 WebUI升级软件失败,提示“文件上传失败”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001397405525 - Description: 在Atlas 500 智能小站 WebUI上升级软件失败,提示“文件上传失败”,如下图所示。 适用于MindX Edge 3.0.0及以下版本。 - Keywords: Atlas 500 智能小站;升级失败 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001397405525.md ## 开启AI CPU Cast算子自动插入特性-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001439727965 - Description: MatrixInverse算子的输入x不支持float16的数据类型。 此种场景下,即可开启Cast算子自动插入特性。 - Keywords: MatrixInverse算子;Cast算子;自动插入 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001439727965.md ## 在容器内执行om推理报acl.rt.set\_device failed ret\=507033错误-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001522883364 - Description: 在容器内执行OM推理时,推理失败。 报错现象: - Keywords: 507033;CANN;报错码 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001522883364.md ## ATC模型转换报错:'sys' has no attibute 'argv'-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001523585304 - Description: 执行ATC模型转换时报module 'sys' has no attibute 'argv'错误信息。 - Keywords: ATC模型转换 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001523585304.md ## MindSpore RuntimeErrorReduceSum算子不支持8维及以上的输入而报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001524283390 - Description: 系统环境: 训练脚本是通过构建ReduceSum的单算子网络,通过对维度中的所有元素求和来减少张量的维度。脚本如下: 报错信息如下: - Keywords: 无 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001524283390.md ## Mindspore报错:the dimension of logits must be equal to 2, but got 3.-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001524285446 - Description: 系统环境: 训练脚本是通过构建SoftmaxCrossEntropyWithLogits的单算子网络,计算两个变量softmax 交叉熵的例子。脚本如下: 报错信息: - Keywords: 无 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001524285446.md ## ATC模型转换时报错:\[ASCEND\_OPP\_PATH\] is invalid when loading the tiling lib-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001524424494 - Description: 执行ATC模型转换时报\[ASCEND\_OPP\_PATH\] is invalid when loading the tiling lib错误信息。 - Keywords: ATC模型转换 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001524424494.md ## 算子dtype类型不一致报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001524596790 - Description: 在执行onnx2om进行模型导出时报错“op\[xxx\], The xxx op dtype is not same, type1:xxx, type2:xxx”。 onnx模型转换成om模型后,执行模型推理失败,报错提示为“Aicpu kernel execute failed”。 - Keywords: TopK算子;dtype类型 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001524596790.md ## ATC转换OM失败,报错信息:E19999 Param:src\_out\_anchor\_is nullpt-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001526599382 - Keywords: ATC模型转换 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001526599382.md ## Multimual算子在动静态编译时行为不一致-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001527071950 - Description: PyTorch在线推理场景,通过二进制配置文件,相同的输入和模型,固定shape场景下的算子可以运行成功,但动态shape场景下出现报错MultinomialWithReplacement算子不支持。 设备信息:昇腾910 AI处理器 PyTorch版本:1.8.1及以上 模型来源:https://huggingface.co/ClueAI/ChatYuan-large-v1 - Keywords: Multimual算子;算子编译 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001527071950.md ## OM模型推理报错,报错码EH9999,ctx is NULL-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001528923718 - Keywords: pyACL,ctx - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001528923718.md ## SVD算子处理大shape时报错“rtStreamSynchronize execute failed”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001529169190 - Description: 通过单算子调用发现SVD算子在处理大shape时,执行超时,报错“rtStreamSynchronize execute failed”。 将shape改成\[768, 768\]后可以正常执行。 单算子用例脚本如下: - Keywords: 无 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001529169190.md ## Profiling数据老化导致无法正常解析数据-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001538203562 - Description: 当Profiling数据超过storage\_limit参数限定的最大值或剩余磁盘空间较小时,Profiling开始自动老化删除最早的Profiling数据。 - Keywords: Profiling;数据老化 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001538203562.md ## 在模型运行时遇到报错“terminate called after throwing an instance of 'c10::Error' what\(\): 0 INTERNAL ASSERT”-昇腾 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001538269738 - Keywords: 在模型运行时,遇到报错,Error,INTERNAL,ASSERT,昇腾社区,问题现象描述,原因分析 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001538269738.md ## 执行工程转换将非昇腾工程转换为昇腾工程后,发现参数选择错误无法修改-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001538384224-IQPLMgdh - Description: 执行工程转换将非昇腾工程转换为昇腾工程后,发现Project Type或Framework/Sub Type参数选择错误,但无法修改和回退。 - Keywords: 工程转换;参数错误;参数修改 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001538384224-IQPLMgdh.md ## No module named 'tensorboard'报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001538399160 - Description: ModuleNotFoundError:No module named 'tensorboard'提示。 - Keywords: 报错,昇腾社区,问题现象描述,原因分析,解决措施,ModuleNotFoundError,No,智能助手 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001538399160.md ## 在模型运行时遇到报错“TVM/te/cce error.”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001538429202 - Keywords: TVM,在模型运行时,遇到报错,昇腾社区,问题现象描述,原因分析,解决措施,Traceback - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001538429202.md ## 在模型运行时遇到日志报错“MemCopySync:drvMemcpy failed.”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001538588938 - Description: bbox\_targets \= torch.stack\(\(left, top, right, bottom\), -1\) \#报错位置在这里 - Keywords: MemCopySync,Memcpy,在模型运行时,遇到日志报错,昇腾社区,问题现象描述,原因分析,结果是 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001538588938.md ## pip3 install Pillow\=\=5.3.0安装失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001538718844 - Description: pip3 install Pillow\=\=5.3.0安装失败。 - Keywords: Pillow,安装失败,昇腾社区,问题现象描述,原因分析,解决措施,PyTorch,CentOS - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001538718844.md ## 在进行模型分布式训练时遇到报错“host not found.”-Atlas Community - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001538748902 - Keywords: 在进行模型分,布式训练时遇,到报错,Atlas,Community,问题现象描述,原因分析,解决措施 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001538748902.md ## 在模型调测时遇到如MaxPoolGradWithArgmaxV1算子和max算子报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001538895842 - Description: 在模型调测时遇到如RuntimeError: execute\_npu\_operate:/home/***/temp/pytorch/aten/src/ATen/native/npu/utils/CalcuOpUtil.cpp:726 NPU error, NPU error code is:500000 \(execute\_npu\_operate at /home/***/temp/pytorch/ - Keywords: MaxPoolGradWithArgmaxV,在模型调测时,遇到如,算子和,算子报错,昇腾社区,问题现象描述,原因分析 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001538895842.md ## Op type SigmoidCrossEntropyWithLogitsV2 of ops kernel AIcoreEngine is unsupported-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001538907830 - Description: 报错文本: - Keywords: SigmoidCrossEntropyWithLogitsV,AIcoreEngine,昇腾社区,问题现象描述,原因分析,解决措施,Op,ERROR - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001538907830.md ## CUDA流同步操作报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001539055318 - Keywords: CUDA,流同步操作报,昇腾社区,问题现象描述,原因分析,解决措施,PyTorch,AssertionError - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001539055318.md ## 在开启混合精度后,部分算子性能变差,如Reduce类算子-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001539215018 - Description: 开启混合精度后,Reduce类算子性能变差,block dim变小,性能降低。 - Keywords: 在开启混合精度后,部分算子性能变差,Reduce,类算子,昇腾社区,问题现象描述,解决措施,了解详情 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001539215018.md ## Profiling出现format为NHWC的算子性能较低-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001539375010 - Description: Profiling数据中出现format为NHWC的算子,且性能较低。 - Keywords: Profiling,NHWC,出现,的算子性能较,昇腾社区,问题现象描述,解决措施,了解详情 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001539375010.md ## 集群调度组件连接K8s异常-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001540786100 - Description: 集群调度组件连接K8s异常。 - Keywords: K8s;集群调度组件 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001540786100.md ## 启动集群调度组件失败,日志打印“get sem errno \=13”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001540945592 - Description: 启动集群调度组件失败,组件日志打印“get sem errno \=13”。 - Keywords: 组件启动失败;信号量 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001540945592.md ## 手动安装Volcano后,Pod状态为CrashLoopBackOff-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001541105320 - Description: Volcano在运行时,其Pod状态为“CrashLoopBackOff”。 - Keywords: Volcano;CrashLoopBackOff;日志权限 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001541105320.md ## 多颗NPU芯片故障后,导致Volcano重启,重调度任务不触发-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001543970174 - Keywords: 芯片故障;重调度 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001543970174.md ## K8s配置CPU绑核后无法使用npu-smi info-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001544289386 - Description: 在Atlas 800 推理服务器(型号 3000)(Arm),操作系统CentOS 7.6上,使用K8s(版本1.12)进行NPU相关业务调度。配置K8s的参数 --kube-reserved\=cpu\=2,memory\=250Mi --cpu-manager-policy\=static --feature-gates\=CPUManager\=true,开启K8s的绑核,绑核后执行npu-smi in - Keywords: K8s;绑核 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001544289386.md ## 任务容器未成功挂载NPU-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001544449338 - Description: 在任务容器中,执行如下命令,系统无回显信息。此时表明容器内没有挂载上NPU设备。 - Keywords: 未挂载NPU - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001544449338.md ## 在导入MindSpore包时报错:MindSpore version does not match-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001574783333 - Keywords: 无 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001574783333.md ## 使用Paddle模型执行ATC模型转换时报错:E16005: The model has \[2\] \[--domain\_version\] fields, but only one is allowed- - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001575963913 - Description: 由Paddle转换为ONNX的模型文件,使用ATC进行模型转换时报E16005: The model has \[2\] \[--domain\_version\] fields, but only one is allowed错误信息。 - Keywords: Paddle;ATC模型转换 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001575963913.md ## Nonzero算子常量折叠后shape异常问题-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001577870685 - Description: atc工具将onnx模型转换成om模型后,msame工具做推理时报错,如下图所示: 执行推理命令: 将onnx模型转换成om模型,日志重定向在atc.log命令: - Keywords: 无 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001577870685.md ## AOE算子调优时报错EG0012: optune\_utils.multiprocess\_tune is not found-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001579855081 - Description: AOE算子调优(job\_type\=2)过程中,出现EG0012: Python module \[optune\_utils.multiprocess\_tune\] is not found报错信息。 - Keywords: AOE调优;算子调优 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001579855081.md ## MindStudio打开工程后,出现操作迟缓、卡顿现象-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001588944381 - Description: MindStudio打开工程后,操作迟缓、卡顿,比如打开工程缓慢、编辑时卡顿。 - Keywords: 工程转换;参数错误;参数修改 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001588944381.md ## 在模型运行或者算子运行时遇到报错“RuntimeError: ExchangeDevice:”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001588958937 - Keywords: RuntimeError,在模型运行或,者算子运行时,遇到报错,ExchangeDevice,昇腾社区,问题现象描述,原因分析 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001588958937.md ## 在模型运行或者算子运行时遇到报错“Error in atexit.\_run\_exitfuncs:”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001589238709 - Keywords: Error,在模型运行或,者算子运行时,遇到报错,昇腾社区,问题现象描述,原因分析,解决措施 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001589238709.md ## 在模型运行时遇到报错“ImportError: libhccl.so.”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001589268741 - Keywords: ImportError,在模型运行时,遇到报错,昇腾社区,问题现象描述,原因分析,解决措施,No - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001589268741.md ## 在模型运行时遇到报错“55056 GetInputConstDataOut: ErrorNo: -1\(failed\)”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001589349005 - Keywords: 在模型运行时,遇到报错,GetInputConstDataOut,ErrorNo,昇腾社区,问题现象描述,原因分析,解决措施 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001589349005.md ## 在模型运行时遇到报错“RuntimeError: Initialize.”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001589508769 - Keywords: RuntimeError,在模型运行时,遇到报错,Initialize,昇腾社区,问题现象描述,原因分析,解决措施 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001589508769.md ## 在调用torch时遇到报错“ModuleNotFoundError: No module named 'torch.\_C'”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001589720137 - Keywords: ModuleNotFoundError,在调用,时遇到报错,No,昇腾社区,问题现象描述,原因分析,解决措施 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001589720137.md ## 故障案例-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001589732149 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 故障案例,昇腾社区,了解详情 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001589732149.md ## 故障案例-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001589814869 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 故障案例,昇腾社区,了解详情 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001589814869.md ## 在模型调测时遇到报错“RuntimeError: malloc:/..../pytorch/c10/npu/NPUCachingAllocator.cpp:293 NPU error, error c - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001589894849 - Keywords: RuntimeError,在模型调测时,遇到报错,NPUCachingAllocator,NPU,昇腾社区,问题现象描述,原因分析 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001589894849.md ## 使用npu-smi info查看显存时发现Python进程残留-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001589894865 - Description: 执行npu-smi info命令时发现有Python进程残留,示例如下。 - Keywords: Python,查看显存时发,进程残留,昇腾社区,问题现象描述,解决措施,PyTorch,了解详情 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001589894865.md ## 加载权重时遇到报错“load state\_dict error.”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001589906845 - Description: state\_dict\_old \= ckpt\['state\_dict'\] - Keywords: 加载权重时遇,到报错,昇腾社区,问题现象描述,原因分析,解决措施,RuntimeError,Error,Missing - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001589906845.md ## 在进行模型分布式训练时遇到报错“RuntimeError:connect\(\) timed out.”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001589975097 - Keywords: RuntimeError,在进行模型分,布式训练时遇,到报错,昇腾社区,问题现象描述,原因分析,解决措施 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001589975097.md ## aicpu\_kernels/libpt\_kernels.so不存在-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001589975113 - Keywords: 不存在,昇腾社区,问题现象描述,解决措施,ERROR,CCECPU,LoadSo,Single - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001589975113.md ## ATC模型转换开始时报错:No module named 'attr'-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001591501991 - Description: 当CANN软件包版本为6.3.RC1时,开始执行ATC模型转换时报No module named 'attr'错误信息。 - Keywords: ATC模型转换 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001591501991.md ## 组件启动yaml执行成功,找不到组件对应的Pod-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001591505101-TAVlQtO5 - Description: 以Ascend Device Plugin为例,组件启动yaml执行成功,出现多个created。Ascend Device Plugin对应的K8s DaemonSet(ds)资源已经创建了,但是却找不到Pod。 - Keywords: Pod;标签 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001591505101-TAVlQtO5.md ## 集群调度组件Pod处于ContainerCreating状态-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001591585349 - Description: 部署集群调度组件后,通过命令kubectl get pods --all-namespaces -o wide查看各组件状态,发现Pod处于ContainerCreating状态。以Ascend Device Plugin为例说明。 执行如下命令查看Pod详情。 如: 显示如下内容: - Keywords: Pod;日志目录;ContainerCreating - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001591585349.md ## 用户UID或GID被占用-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001591705097 - Description: 用户的UID或者GID被其他用户占用了。 - Keywords: hwMindX;UID;GID - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001591705097.md ## 日志出现connecting to container runtime failed-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001591810405 - Description: 通过调用NPU-Exporter的Metrics接口(http://ip:port/metrics),没有获取到NPU容器的相关信息。查看组件的日志,日志中有如下内容。 - Keywords: NPU-Exporter;NPU信息;socket文件路径 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001591810405.md ## Volcano组件工作异常,日志出现Failed to get plugin-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001594769117 - Description: Volcano的Pod volcano-scheduler-xxxx状态为Running,但是出现调度异常。查看volcano-scheduler的日志,日志中出现如下信息。 - Keywords: Volcano;调度异常 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001594769117.md ## 配置正确情况下,NPU芯片故障不能触发重调度特性-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001594889133 - Keywords: 芯片故障;重调度 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001594889133.md ## 使用动态虚拟化时,以普通用户运行推理业务容器失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001596058929 - Description: 在Atlas 推理系列产品上部署Ascend Device Plugin和Volcano组件并开启动态虚拟化开关,下发任务后虚拟设备创建成功,但推理任务运行失败。 - Keywords: 动态虚拟化;普通用户;推理任务启动失败 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001596058929.md ## 进行AscendCL推理时报错Acl open device 0 failed, errorCode is 507033-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001633594041 - Keywords: 507033,SetDevice - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001633594041.md ## 模型转换时,Python版本不匹配,导致模型转换失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001633891857 - Description: 输入模型转换的命令后,按回车,提示E40002相关错误。 - Keywords: ATC,模型转换,Python - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001633891857.md ## MEF Center执行run.sh命令拒绝访问-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001657317482 - Description: run.sh命令在有x权限(可被执行权限)时仍执行失败,回显显示“Permission denied”,示例如下。 - Keywords: MEF Center;run.sh命令拒绝访问 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001657317482.md ## MEF Center和MEF Edge执行网管配置对接失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001657476830 - Keywords: MEF Center;MEF Edge;网管配置对接失败 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001657476830.md ## Index SDK提示报错gfortran命令未找到-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001658321144 - Description: 在安装OpenBLAS时,执行编译命令make FC\=gfortran USE\_OPENMP\=1 –j提示报错gfortran:Command not found。 - Keywords: gfortran命令 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001658321144.md ## 单Index检索功能与使用多Index批量检索功能进行精度比对验证时存在差异-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001658321148 - Description: 在检索距离(distances)值相同的情况下,相较于使用单Index检索功能,使用多Index批量检索功能进行精度比对验证时,返回的TopK值的标签(label)存在差异。 - Keywords: 单Index;多Index - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001658321148.md ## Index使用自定义算子生成脚本进行算子生成时报错MemoryError或者multiprocessing报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001658321152 - Description: 生成算子时,发生报错,提示MemoryError错误或者multiprocessing报错 。 - Keywords: 自定义算子;报错 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001658321152.md ## 模型训练报错,显示错误码E30008-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001658321156 - Description: 在使用Rec SDK训练迭代循环下沉功能,进行模型训练时报错,显示错误码E30008。 - Keywords: 错误码E30008 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001658321156.md ## 故障案例-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001658321160 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 故障案例,昇腾社区,了解详情 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001658321160.md ## 执行run.sh脚本时报错cannot find factory: mxpi\_classpostprocessor-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001658321168 - Description: 进入“MyFirstApp/src”目录,执行编译脚本./run.sh时,报错如下内容,说明无法找到模型后处理插件。 - Keywords: run.sh脚本;报错 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001658321168.md ## 当前的特征检索是否支持多个Index分不同的线程执行搜索-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001658480492 - Keywords: 特征检索;多个Index - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001658480492.md ## 使用Index SDK特征检索,在当前的OpenEuler上的IVFSQ等大库算法训练速度较慢-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001658480496 - Description: 当前的OpenEuler上的IVFSQ等大库算法训练速度较慢。 - Keywords: Index SDK,OpenEuler,IVFSQ,检索 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001658480496.md ## 在标准态部署场景下发生检索进程阻塞现象-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001658480500 - Keywords: 标准态;检索;阻塞 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001658480500.md ## 模型训练时报错提示dev cache overflow-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001658480504 - Description: 使用Rec SDK行模型训练时报错并提示“dev cache overflow”。 - Keywords: dev cache overflow - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001658480504.md ## 训练过程中出现core.xxxx文件-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001658480508 - Description: 在使用Rec SDK进行模型训练过程中出现core.xxxx文件。 - Keywords: 训练;core - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001658480508.md ## 调用API参考(Python)视频解码/编码接口结束时出现core dumped现象-Atlas Community - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001658480528 - Description: 调用Python视频解码功能,若videoDecoder在全局作用域(非函数内)定义和执行,程序结束出现Segmentation fault \(core dumped\) 或 Aborted \(core dumped\),编码接口同样出现类似情况。 - Keywords: API参考;core dumped - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001658480528.md ## Ascend Device Plugin组件下载镜像后启动失败,报错提示exec /bin/bash: exec format error-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001668089412 - Description: 从昇腾镜像仓库下载Ascend Device Plugin的镜像成功,但是组件启动失败。启动容器时,报错提示standard\_init\_linux.go: exec user process caused: exec format error。容器启动失败,无法进入容器。 - Keywords: 镜像 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001668089412.md ## PyTorch推理算子二进制复用,与复用失败问题排查-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001668150236 - Description: 在训练和推理的过程中,往往第一个epoch的耗时会比其他epoch大得多,因为第一个epoch存在大量的算子编译耗时。 在PyTorch中,可以通过二进制使能的方式,在第一个epoch时跳过编译,复用之前已经编译的二进制文件,从而节省大量编译时间。 在导入torch\_npu后或者在main入口函数添加“torch.npu.set\_compile\_mode\(jit\_compile\=False\)”。 - Keywords: pytorch, 复用失败 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001668150236.md ## 进行视频编解码时报错The length of ringbuffer is invalid-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001668286478 - Description: 跑InferOfflineVideo时报错“vpcDvppCommon\_ Init Failed.” 显示ERROR日志“CheckValid:The length of ringbuffer is invalid.” - Keywords: ringbuffer - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001668286478.md ## AscendCL案例推理失败问题分析yolov3\_colorclassify\_video-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001669298350 - Description: CANN:6.0.RC1 推理服务器 Ubuntu 18.04 Python 3.7.5 - Keywords: 推理失败, yolov3 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001669298350.md ## MEF Edge执行run.sh命令失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001705596925 - Description: run.sh命令在有x权限(可被执行权限)时仍执行失败,回显显示“Permission denied”,示例如下。 - Keywords: MEF Edge;run.sh命令失败 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001705596925.md ## MEF Center执行run.sh命令链接超时-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001705716165 - Description: run.sh命令执行失败,日志显示“unable to connect to the server:Gateway Time-out”。 - Keywords: MEF Center;run.sh命令链接超时 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001705716165.md ## 加载集群场景性能数据时提示“Low memory”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001706662989 - Description: MindStudio对采集后的集群场景性能原始数据进行解析并展示,数据加载时提示“Low memory”,如下图所示。 - Keywords: 性能分析;集群场景 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001706662989.md ## Index编译过程中提示libascendfaiss.so文件未找到-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001706720557 - Description: 编译过程中,出现提示libascendfaiss.so not found。 - Keywords: libascendfaiss.so文件 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001706720557.md ## 使用IVFSQT算法时,update接口报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001706720561 - Description: 在Atlas 推理系列产品环境中,使用IVFSQT算法时,update接口报错。 - Keywords: IVFSQT;update接口 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001706720561.md ## Index在执行查询操作时,出现性能波动-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001706720565 - Description: 执行查询操作,当查询的条数大于100时,出现了性能波动。 - Keywords: Index;查询;性能 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001706720565.md ## 模型训练报错,提示init tbe error-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001706720573 - Description: 在使用Rec SDK进行模型训练时发生报错,提示“init tbe error”且在plog日志中发现存在Import repository\_manager\_log error。 - Keywords: init tbe error - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001706720573.md ## 在Kunpeng服务器中运行多路视频分析,出现CPU资源被占满,导致业务堆积、断流的情况-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001706720577 - Description: 在Kunpeng 920 7260服务器中运行多路视频分析,出现CPU资源被占满,导致业务堆积、断流的情况。 - Keywords: 多路视频分析;CPU资源 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001706720577.md ## Index SDK检索性能未达预期-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001706759801 - Description: 使用检索性能,结果未达预期,如何解决处理。 - Keywords: Index SDK;检索性能 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001706759801.md ## 近似检索算法在Duo卡上性能的线性增长不及全量检索算法-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001706759809 - Description: 近似检索的IVF系列算法在使用Atlas 300I Duo 推理卡时,发现相较于全量检索算法,性能的线性增长不如后者。 - Keywords: 近似检索;Duo卡;全量检索 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001706759809.md ## 模型训练报错,显示错误码E40021-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001706759813 - Description: 在使用Rec SDK进行模型训练时发生报错,显示错误码E40021。 - Keywords: 错误码E40021 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001706759813.md ## 尝试打印Device侧的Tensor、Image内存数据时,发生coredump-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001706759821 - Description: 当Tensor、Image类数据在Device侧时,尝试调用GetData\(\)接口返回指针并打印指针所指向的数据时,出现coredump提示。 - Keywords: coredump - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001706759821.md ## 镜像内使用CANN及上层应用libmindspore\_ascend.so failed-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001707640609 - Description: 安装后使用CANN及上层应用libmindspore\_ascend.so failed,如下图 且无法通过LD\_LIBRARY\_PATH添加so库。 - Keywords: 镜像内使用CANN及上层应用 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001707640609.md ## AscendCL推理提示145000错误码-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001716086085 - Description: 在AscendCL的推理过程中,出现145000错误码。 - Keywords: 145000, 错误码 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001716086085.md ## AscendCL推理提示 aclmdlExecute failed, ret\[145000\]-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001717263141 - Description: 离线om推理时报错aclmdlExecute failed, ret\[145000\]。 - Keywords: 145000, aclmdlExecute - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001717263141.md ## 开发环境编译的程序在运行环境下执行失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001717273717 - Description: 离线推理报错No such file or directory。 - Keywords: 执行失败, 离线推理 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001717273717.md ## 升级Faiss后,IVFSQ算法train和add接口性能下降-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001926171348 - Description: 从Faiss 1.7.1版本升级到Faiss 1.7.4版本后,IVFSQ算法在设置useKmeansPP为false的情况下,train和add接口性能下降。 - Keywords: Index SDK;Faiss;IVFSQ算法;性能下降 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001926171348.md ## 从开放态部署切换到标准态部署后,在最大库容时,可能出现添加底库卡住的情况-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001926330684 - Description: 从开放态部署切换到标准态部署后,一直添加底库超过芯片最大内存时卡住的情况。 - Keywords: Index SDK;开放态;标准态;底库卡住 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001926330684.md ## 使用Python PyAv库解析视频流后,用API参考(Python)视频解码接口出现core dumped现象-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001953423601 - Description: 使用Python PyAv库解析视频流后,调用Python视频解码接口对视频帧进行解码出现Segmentation fault \(core dumped\)现象。 - Keywords: Vision SDK;Python PyAv库;Python视频;视频解码;Segmentation fault;coredump - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001953423601.md ## HCCL集群通信失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000001953463657 - Description: HCCL集群通信失败。 - Keywords: HCCL集群通信 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000001953463657.md ## host OS内核swap机制导致数据不一致问题-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002047587597 - Description: 用户通过acl接口进行host侧内存(malloc申请的内存)和device侧内存拷贝时,概率性发生拷贝后数据不一致的问题。 数据不一致确认办法: - Keywords: swap;数据不一致;数据精度 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002047587597.md ## 编译Faiss 1.7.4时提示CMake的版本过低-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002139123724 - Description: 编译Faiss 1.7.4时,出现报错信息,提示“CMake 3.23.1 or higher is required.”。 - Keywords: 编译Faiss;CMake;版本过低 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002139123724.md ## 生成算子时ATC报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002139232686 - Description: 生成距离算子时,ATC出现以下报错: Call InferShapeAndType for nodeXXXX failed - Keywords: Index SDK ;生成算子;报错 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002139232686.md ## 生成算子时提示报错:Failed to import Python module-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002139281796 - Description: 生成算子时出现类似如下错误: Failed to import Python module \[AttributeError: `np.float\_` was removed in the NumPy 2.0 release. Use `np.float64` instead..\]. - Keywords: 生成算子;报错 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002139281796.md ## 启动StreamServer服务时,发生coredump-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002139447988 - Description: 启动StreamServer服务时,出现coredump提示。 - Keywords: StreamServer服务;coredump - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002139447988.md ## mxpi\_rtspsrc拉流插件运行偶现BUS ERROR:XXX streamming stopped, reason error \(-5\) 错误-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002139598704 - Description: pipeline运行过程中,mxpi\_rtspsrc插件报错Internal data stream error XXX streaming stopped, reason error \(-5\)的错误 - Keywords: mxpi\_rtspsrc;偶现BUS ERROR - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002139598704.md ## 单独起线程调用TensorOperations接口,退出时卡住-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002139606112 - Description: 单独起线程调用TensorOperations的算子接口,接口执行完毕,部分算子在退出时存在概率性卡死问题。 - Keywords: TensorOperations;退出卡住 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002139606112.md ## 在Atlas 500 A2 智能小站默认配置下,无法安装Vision SDK-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002139779810 - Description: 在Atlas 500 A2 智能小站默认配置下,安装Vision SDK软件包,发现容量不足,无法完成安装。 - Keywords: Atlas 500 A2 智能小站;无法安装Vision SDK - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002139779810.md ## 在使用Rec SDK跑推荐模型时,提示ModuleNotFoundError:No module named 'mxrec\_pybind'-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002141409970 - Description: 在使用Rec SDK跑推荐模型时,报错:ModuleNotFoundError:No module named 'mxrec\_pybind',找不到mxrec\_pybind模块。 - Keywords: 推荐模型;报错 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002141409970.md ## 持续刷屏waiting for finish,无法结束-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002144960148 - Keywords: MindCluster ToolBox;压测;Aicore;Ascend DMI - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002144960148.md ## 检索进程执行结束时产生报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002174562921 - Description: 检索进程执行结束后,程序退出时报错,出现“segmentation fault”等提示。 - Keywords: 检索进程;结束报错 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002174562921.md ## 近似检索在万级小底库、小超参场景下精度有损失-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002174721313 - Description: 近似检索的Vstar、Great算法在万级小底库场景且超参设置较小时,会出现精度损失的情况。 - Keywords: 近似检索;小超参场景;精度损失 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002174721313.md ## 使用命令安装Vision SDK时,显示算子编译失败,并有算子编译中间文件残留-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002174900921 - Description: 使用命令./Ascend-mindxsdk-mxvision\_\{version\}\_linux-\{arch\}.run --install安装版本包时,出现类似如下报错: - Keywords: 算子编译失败;文件残留 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002174900921.md ## 运行WarpAffineHiper或WarpPerspective接口出现Synchronize stream execution failed错误-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002174998221 - Description: 运行WarpAffineHiper或WarpPerspective接口,出现Synchronize stream execution failed. \(Calling Function \= aclrtSynchronizeStream, Code \= 507014, Message \= "ACL error, please refer to the document of CANN."\) 的错误( - Keywords: WarpAffineHiper;WarpPerspective;Synchronize stream execution failed错误 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002174998221.md ## 程序执行出现error adding symbols: DSO missing from command line报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002175005589 - Description: 在Vision SDK 6.0.RC1之前版本的部分操作系统上执行程序时,出现报错:\{Visionsdk安装路径\}/lib/libcpprest.so.2.10: error adding symbols: DSO missing from command line。 - Keywords: 程序执行报错 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002175005589.md ## 使用命令安装Vision SDK时,出现libpython3.9.so.1.0报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002175019337 - Description: 使用命令./Ascend-mindxsdk-mxvision\_\{version\}\_linux-\{arch\}.run --install安装版本包时,出现如下报错: libpython3.9.so.1.0: cannot open shared object file: No such file or directory - Keywords: 安装Vision SDK;卡住 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002175019337.md ## 在estimator模式下,执行train\_and\_evaluate时提示显存不足-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002176651049 - Description: 在estimator模式下,执行train\_and\_evaluate时报错,提示显存不足:Sum of total mem\_offset:26496001536 and var\_mem\_size:11776003072 is greater than memory manager malloc max size 33285996544。 - Keywords: estimator模式;显存不足 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002176651049.md ## 部署DeepSeek服务化,性能不佳-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002193154190 - Description: 部署DeekSeekV3/R1拉起后实测性能较差,与预期差异较大。 - Keywords: 性能裂化,OS内核,日志,环境,DeepSeek,推理 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002193154190.md ## 多机无法拉起DeepSeek-R1模型推理,从节点无法与主节点建立RPC通信-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002193154350 - Description: 多节点部署从节点无法和主机点建立rpc问题,子节点报RPC问题,例如下图: - Keywords: TLS,HCCL,AllReduce,通信,DeepSeek,推理 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002193154350.md ## 多机无法拉起DeepSeek-R1模型推理,Failed to init endpoint-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002193313946 - Description: MindIE推理启服务出现 Failed to init endpoint\! Please check the service log or console output. - Keywords: TLS,HCCL,AllReduce,通信,DeepSeek,推理 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002193313946.md ## 多机无法拉起DeepSeek-R1模型,服务器NPU通信问题-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002194478148 - Keywords: TLS,HCCL,AllReduce,通信,DeepSeek,推理 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002194478148.md ## 服务器开启lldp,查询邻居信息没有输出-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002194478152 - Description: 多机拉起DeepSeek模型时,服务化拉起卡住。检查网络通信,服务器两边都开启了LLDP,在服务器上执行hccn\_tool -i 0 -lldp -g命令,没有任何新邻居信息输出。 - Keywords: TLS,HCCL,AllReduce,通信,DeepSeek,推理 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002194478152.md ## 多机无法拉起DeepSeek-R1模型,modeling\_utils.py报错-Atlas Community - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002194637756 - Description: 在服务化拉起过程中,若出现if metadata.get\("format"\) not in \["pt", "tf", "flax", "mix"\]: AttributeError: "NoneType" object has no attribute 'get';报错。 - Keywords: TLS,HCCL,AllReduce,通信,DeepSeek,推理 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002194637756.md ## 部署Service服务时出现LLMPythonModel initializes fail的报错提示-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002214905122 - Description: 部署Service服务时,出现LLMPythonModel initializes fail的报错,如下图所示。 - Keywords: 部署;Service服务;LLMPythonModel initializes fail - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002214905122.md ## MindIE Benchmark使用Client推理模式运行时出现HTTPS连接错误-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002214912310 - Description: curl命令正常发送,MindIE Benchmark使用Client推理模式运行时报HTTPS连接错误,如下图所示。 - Keywords: MindIE Benchmark;Client推理模式;HTTPS连接错误 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002214912310.md ## 加载大模型时耗时过长-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002214923358 - Description: 加载1300B大小的模型时耗时过长(约3个小时)。其中“B“代表“Billon”,即十亿。 - Keywords: 加载大模型;耗时过长 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002214923358.md ## 启动MindIE Service服务时,出现找不到libboost\_thread.so.1.82.0报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002215064906 - Description: 启动MindIE Service服务的时候,出现找不到libboost\_thread.so.1.82.0的报错,如下图所示。 - Keywords: MindIE Service服务;libboost\_thread.so.1.82.0报错 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002215064906.md ## 部署Service服务时,出现atb\_llm.runner无法import报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002215072102 - Description: 部署Service服务时,出现atb\_llm.runner无法import,如下图所示。 - Keywords: 部署;Service服务;atb\_llm.runner - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002215072102.md ## 使用MindIE Benchmark或者脚本发送请求时出现超时提醒-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002215083154 - Description: 使用MindIE Benchmark或者脚本对MindIE Server发送请求时,部分请求出现超时且无返回的情况。 - Keywords: MindIE Benchmark;发送请求;超时 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002215083154.md ## 驱动升级过程中出现进程占用报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002223786710 - Description: 驱动升级过程中出现“The davinci nodes are occupied by some processes, please stop processes and install or uninstall again, details in : /var/log/ascend\_seclog/ascend\_install.log”报错,如图1所示。 - Keywords: occupied;占用报错 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002223786710.md ## 未按照覆盖安装或升级顺序升级驱动导致固件安装失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002223946562 - Description: Atlas 200T A2 Box16 异构子框、Atlas 800T A2 训练服务器、Atlas 800I A2 推理服务器、Atlas 900 A2 PoD 集群基础单元覆盖安装或升级时,先安装或升级驱动版本后,再安装固件失败。出现以下报错,如图1所示。 - Keywords: 顺序;失败 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002223946562.md ## MEF Edge升级环境被强制终止后恢复环境操作-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002227324982 - Keywords: MEF Edge升级 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002227324982.md ## 通过导入基础镜像的方式安装MEF Center失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002227478218 - Description: 用户通过docker load命令导入本地的Ubuntu:22.04基础镜像的方式安装MEF Center失败。 - Keywords: 导入基础镜像,安装MEF Center失败 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002227478218.md ## MEF Edge重复启动或停止告警-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002227484786 - Keywords: MEF Edge重复启动,停止告警 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002227484786.md ## MEF Edge日志刷屏-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002227484794 - Description: MEF Edge成功对接cloudcore后,edge\_main产生大量消息,造成日志刷屏。 - Keywords: 日志刷屏 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002227484794.md ## 多机无法拉起DeepSeek-R1模型推理,HCCL报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002228754237 - Description: 开启算子库日志(export ASDOPS\_LOG\_LEVEL\=INFO; export ASDOPS\_LOG\_TO\_STDOUT\=1)与开启ATB日志(export ATB\_LOG\_LEVEL\=INFO; export ATB\_LOG\_TO\_STDOUT\=1)多节点启动service报HCCL问题,例如下图: - Keywords: TLS,HCCL,AllReduce,通信,DeepSeek,推理 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002228754237.md ## 多机拉起DeepSeek-R1模型服务化后,发送推理请求,返回内容乱码-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002229918021 - Description: 四机部署deepseekR1,启服务后发送推理请求,返回内容乱码,没有报错,例如下图: - Keywords: TLS,HCCL,AllReduce,通信,DeepSeek,推理 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002229918021.md ## NPU卡健康检查返回错误,提示timeout-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002230003537 - Description: 多机拉起DeepSeek模型时,服务化拉起卡住。进行NPU卡进行健康检查时,返回timeout错误。 - Keywords: TLS,HCCL,AllReduce,通信,DeepSeek,推理 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002230003537.md ## 升级deb格式固件包提示驱动升级成功或未安装-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002234344178 - Description: 问题现象描述1 Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡环境下升级deb格式固件包,但系统提示驱动升级成功。如下所示。 问题现象描述2 Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡环 - Keywords: deb包 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002234344178.md ## Atlas 中心推理卡通过FusionDirector升级驱动时,概率性出现升级失败,提示“BMC返回错误信息”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002234344182 - Description: 通过FusionDirector升级驱动时,概率性出现升级失败,提示“BMC返回错误信息:\["\{Index\_1:\{File:Ascend310P-hdk-npu-firmware\_5.1.rc2.3.run, Result success,ErrorInfo:NA,ActiveMode:\},Index\_2:\{File:Ascend310P-hdk-npu-driver\_5.1.rc2.3\_linu - Keywords: FusionDirector升级;升级失败 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002234344182.md ## 软件包格式混用安装或升级恢复方法-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002234410224 - Description: Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡、Atlas 300T 训练卡(型号:9000)、Atlas 300T Pro 训练卡(型号:9000)、Atlas 800 训练服务器(型号:9000)、Atlas 800 训练服务器(型号:9010)、Atlas 900 计算节点、Atlas 9 - Keywords: 混用安装;升级;恢复 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002234410224.md ## 升级MCU 3.3.4及以上版本固件包失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002234503982 - Description: 查看“/var/log/nputools\_LOG\_ERR.log”日志信息,报错信息如图2所示。 - Keywords: MCU升级;失败 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002234503982.md ## rpm格式固件包升级过程中提示“rm: cannot remove /usr/local/Ascend/firmware/version.info : Operation not permitted” - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002234503990 - Description: Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡、Atlas 300T 训练卡(型号:9000)、Atlas 300T Pro 训练卡(型号:9000)、Atlas 800 训练服务器(型号:9000)、Atlas 800 训练服务器(型号:9010)、Atlas 900 计算节点、Atlas 9 - Keywords: Operation not permitted - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002234503990.md ## 未按照升级指导顺序来升级导致驱动和固件版本不配套-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002234570040 - Keywords: 版本;不配套 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002234570040.md ## 安装驱动和固件后重启,“/var/log/npu/slog/host-0”日志中产生“\[ERROR\] raise script failed, cmd run failed, errno \= 0”报错 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002238194346 - Description: 在Atlas 200I A2加速模块环境中使用root用户安装Driver包和Firmware包成功后重启,查看“/var/log/npu/slog/host-0”日志会有\[ERROR\] raise script failed, cmd run failed, errno \= 0相关报错打印,如图1所示。 - Keywords: script;failed;重启 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002238194346.md ## 驱动安装过程中出现“ifconfig: command not found”报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002238194350 - Description: Atlas 200I A2 加速模块环境驱动安装过程中提示“ifconfig: command not found”报错打印,如图1所示。 - Keywords: ifconfig;not found;报错 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002238194350.md ## 容器内安装驱动时出现su命令报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002238194354 - Description: 在Atlas 200I A2加速模块、Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡、Atlas 300T 训练卡(型号:9000)、Atlas 300T Pro 训练卡(型号:9000)、Atlas 800 训练服务器(型号:9000)、Atlas 800 训练服务器(型号:9010)、Atl - Keywords: 容器;su命令 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002238194354.md ## root用户切换到普通用户需要输入密码权限-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002238293354 - Description: Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡产品环境在软件包安装过程中,可能会出现“The Root use cmd\(su user\) must enter the user passwd forcibly\(set by /etc/pam.d/su\)”报错。如图1所示。 - Keywords: root用户;切换 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002238293354.md ## 算力切分场景下npu-smi命令无法使用-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002238293362 - Description: 在Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡、Atlas 300T 训练卡(型号:9000)、Atlas 300T Pro 训练卡(型号:9000)、Atlas 800 训练服务器(型号:9000)、Atlas 800 训练服务器(型号:9010)、Atlas 900 计算节点、Atlas - Keywords: npu-smi - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002238293362.md ## 使用rpm -ivh安装驱动包过程中提示“/sbin/ldconfig: /usr/lib64/libLLVM-7.so is not a symbolic link”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002238293366 - Description: Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡、Atlas 800 训练服务器(型号:9000)、Atlas 800 训练服务器(型号:9010)、Atlas 900 计算节点、Atlas 900T RAK 计算节点、Atlas 200T A2 Box16 异构子框、Atlas 800T A2 - Keywords: ivh;symbolic - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002238293366.md ## npu-smi info运行时提示驱动未完整安装-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002238307404 - Description: Atlas 300T 训练卡(型号:9000)、Atlas 300T Pro 训练卡(型号:9000)、Atlas 800 训练服务器(型号:9000)、Atlas 800 训练服务器(型号:9010)、Atlas 900 计算节点、Atlas 900T RAK 计算节点、Atlas 200T A2 Box16 异构子框、Atlas 800T A2 训练服务器、Atlas 800I A2 推理服务 - Keywords: completely;installed - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002238307404.md ## 芯片无法正常启动,系统日志出现如下打印信息:dev id 0, The address dont comply with the NVME protocol\(must be aligned with - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002238354190 - Description: 在Atlas 200I A2 加速模块环境中芯片无法正常启动时,系统日志有如下打印信息:dev id 0, The address dont comply with the NVME protocol\(must be aligned with 4KB\)。 - Keywords: NVME;protocol - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002238354190.md ## 安装软件包时提示解压失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002238354194 - Description: Atlas 200I A2 加速模块、Atlas 200I SoC A1 核心板、Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡、Atlas 300T 训练卡(型号:9000)、Atlas 300T Pro 训练卡(型号:9000)、Atlas 800 训练服务器(型号:9000)、Atlas - Keywords: 解压;失败 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002238354194.md ## 新容器中运行npu-smi或hccn\_tool等命令提示设备被占用-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002238354198 - Description: 在Atlas 300T 训练卡(型号:9000)、Atlas 300T Pro 训练卡(型号:9000)、Atlas 800 训练服务器(型号:9000)、Atlas 800 训练服务器(型号:9010)、Atlas 900 计算节点、Atlas 900T RAK 计算节点、Atlas 200T A2 Box16 异构子框、Atlas 800T A2 训练服务器、Atlas 800I A2 推理服 - Keywords: npu-smi;hccn\_tool;被占用 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002238354198.md ## SLES 12 SP5系统安装驱动时出现“driver rebuild failed”报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002238453222 - Description: Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡产品SLES 12 SP5系统安装驱动时,概率性出现安装失败,提示“driver rebuild failed”报错信息,如图1所示。 执行如下命令,查看“/var/log/ascend\_seclog/ascend\_install.log”日志信息。 cat /var/log/ascend\_seclog/ascend\_r - Keywords: 驱动;rebuild - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002238453222.md ## BC\_Linux镜像源配置-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002238453226 - Description: Atlas 300T 训练卡(型号:9000)、Atlas 300T Pro 训练卡(型号:9000)、Atlas 800 训练服务器(型号:9000)、Atlas 800 训练服务器(型号:9010)、Atlas 900 计算节点、Atlas 900T RAK 计算节点产品环境安装driver时,如果安装失败,显示缺少dkms和kernel-headers的问题。 - Keywords: BC\_Linux;镜像源;dkms;kernel-headers - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002238453226.md ## 构建QEMU时出现报错“undefined reference to 'stime'”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002239224850 - Description: 构建QEMU时出现如下报错“undefined reference to 'stime'”。 - Keywords: 虚拟机;QEMU - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002239224850.md ## 虚拟机安装驱动包出现报错“Drv\_dkms\_env\_check failed”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002239224858 - Description: 虚拟机安装驱动包时出现报错“Drv\_dkms\_env\_check failed”,安装驱动包失败。 - Keywords: 虚拟机;安装驱动包 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002239224858.md ## 故障案例-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002239224862 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 故障案例,昇腾社区,了解详情 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002239224862.md ## NPU算力切分后直通虚拟机,虚拟机无法启动-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002239224870 - Description: 虚拟机openEuler 20.03 LTS在NPU算力切分后直通虚拟机,虚拟机无法启动,出现如下打印信息: - Keywords: 直通虚拟机;openEuler 20.03 LTS - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002239224870.md ## 启动虚拟机后,无法正常进入系统-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002239224878 - Description: 开启虚拟机后通过ssh命令连接虚拟机,无法正常进入系统,出现如下报错“ssh: connect to host xxx port 22: No route to host”。 - Keywords: 虚拟机;ssh登录 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002239224878.md ## 解压qemu压缩包时提示tar命令不存在-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002239384698 - Description: 解压qemu压缩包时提示tar命令不存在: - Keywords: 虚拟机;QEMU - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002239384698.md ## 执行virt-install创建虚拟机时提示“ERROR --os-variant/--osinfo OS name is required, but no value was set or dete - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002239384706 - Description: 执行virt-install创建虚拟机时提示“ERROR --os-variant/--osinfo OS name is required, but no value was set or detected.”。 - Keywords: 虚拟机;Secure Boot;BIOS - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002239384706.md ## 更换新的NPU模组后,创建虚拟机时NPU模组的TLS使能开关状态不一致-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002239384710 - Description: 更换新的NPU模组后,创建虚拟机时NPU模组的TLS的使能开关状态可能会存在不一致。 - Keywords: 虚拟机;TLS使能;更换NPU模组 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002239384710.md ## 启动虚拟机时提示“Permission denied”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002239384718 - Description: 启动虚拟机时提示“Permission denied”,出现如下打印信息: - Keywords: 启动虚拟机报错;libvirtd服务关闭 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002239384718.md ## 发送请求返回乱码-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002249944921 - Description: 使用curl命令、MindIE Client或者Benchmark发起request请求,Server返回如下乱码。 - Keywords: Server;返回乱码 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002249944921.md ## 部署Service服务时,找不到tlsCert等路径-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002249952109 - Description: 部署Service服务时,找不到tlsCert等路径,如下图所示。 - Keywords: 部署;Service服务;tlsCert - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002249952109.md ## 使用第三方库transformers跑模型推理时,报错“cannot allocate memory in static TLS block”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002249963177 - Description: 报错详细信息如下所示: - Keywords: transformers;模型推理;“cannot allocate memory in static TLS block” - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002249963177.md ## 加载模型时出现out of memory报错提示-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002250112009 - Description: 部署service服务,加载LLaMA-65B模型时出现out of memory报错提示,如下图所示。 - Keywords: 加载;模型;out of memory - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002250112009.md ## 复位或下电导致Device无法正常启动-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002258746189 - Description: 在Atlas 200I SoC A1 核心板、Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡、Atlas 300T 训练卡(型号:9000)、Atlas 300T Pro 训练卡(型号:9000)、Atlas 800 训练服务器(型号:9000)、Atlas 800 训练服务器(型号:9010) - Keywords: 复位;下电;无法启动 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002258746189.md ## 故障案例-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002258866333 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 故障案例,昇腾社区,了解详情 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002258866333.md ## 驱动升级或卸载过程中提示内核模块无法卸载-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002258866337 - Description: Atlas 200I A2 加速模块、Atlas 200I SoC A1 核心板、Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡、Atlas 300T 训练卡(型号:9000)、Atlas 300T Pro 训练卡(型号:9000)、Atlas 800 训练服务器(型号:9000)、Atlas - Keywords: Kernel;removed;无法卸载 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002258866337.md ## MEF Center升级环境被强制终止后恢复环境操作-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002262324417 - Keywords: MEF Edge重复启动,停止告警 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002262324417.md ## 节点压力驱逐机制导致MEF Center运行异常-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002262404357 - Description: K8s因部署和运行MEF Center时节点内存、磁盘、pid等资源不足,触发节点压力驱逐机制,导致MEF Center服务无法正常运行。 - Keywords: 节点压力驱逐机制,MEF Center运行异常 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002262404357.md ## 服务器无法识别卡-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002269343337 - Description: 驱动安装或升级过程中,对系统进行了重启或者下电操作;系统重启后直接安装驱动,成功后执行npu-smi info命令查询信息,系统显示“Failed to get card number”报错。如图1所示。 - Keywords: Failed;card number - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002269343337.md ## 升级或回退前后的驱动和固件版本Host bar空间大小不一致导致NPU卡启动失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002269343357 - Description: 对于Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡产品,当驱动和固件从NPU 23.0.7之前版本升级至NPU 23.0.7及之后版本或从NPU 23.0.7及之后版本回退到NPU 23.0.7之前版本时,升级或回退固件后未对物理机上下电使固件生效,直接升级或回退驱动,会导致NPU卡启动失败,如 - Keywords: bar空间;不一致;启动失败 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002269343357.md ## 驱动和固件安装或升级过程中出现拦截报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002269409393 - Description: 该问题适用于Atlas 中心训练服务器、Atlas A2 中心推理和训练硬件。 问题现象描述1 驱动安装或升级过程中出现“There are some chips not ready, please check after reboot”提示信息,如图1所示。 使用msnpureport -f命令收集黑匣子日志,并进入当前日志目录。执行grep -rn "0x5000BB0"命令检索,检索结果如图 - Keywords: 拦截报错 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002269409393.md ## 驱动升级或回退过程中出现版本校验不匹配-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002269409397 - Description: Atlas 200T A2 Box16 异构子框、Atlas 800T A2 训练服务器、Atlas 800I A2 推理服务器、Atlas 900 A2 PoD 集群基础单元的驱动升级或回退时,出现以下任意报错。 - Keywords: 版本校验;不匹配 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002269409397.md ## 驱动回退过程中出现“driver/tools/slog.conf copy failed”报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002269453401 - Description: Atlas 200I SoC A1 核心板产品环境驱动从NPU 23.0.RC2版本回退至NPU 23.0.RC1及以下版本时,出现图1所示报错。 - Keywords: 回退;报错 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002269453401.md ## deb包安装、升级或卸载失败后的处理方式-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002269463437 - Description: Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡、Atlas 300T 训练卡(型号:9000)、Atlas 300T Pro 训练卡(型号:9000)、Atlas 800 训练服务器(型号:9000)、Atlas 800 训练服务器(型号:9010)、Atlas 900 计算节点、Atlas 9 - Keywords: deb包;安装;升级;卸载失败 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002269463437.md ## 虚拟机场景下驱动版本升级时出现“line 184: /sys/bus/pci/devices/0000:00:04.0/reset: Permission denied”报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002269463445 - Description: Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡产品环境中,虚拟机场景下驱动从NPU 23.0.RC1以下版本升级至NPU 23.0.RC1及以上版本时,出现“line 184: /sys/bus/pci/devices/0000:00:04.0/reset: Permission denied” - Keywords: Permission denied - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002269463445.md ## 驱动版本回退时出现“Device\_image\_crl\_check failed”报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002269529481 - Keywords: 回退;报错 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002269529481.md ## hccn\_tool使能TLS,版本回退前后使能开关状态不一致-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002269529485 - Description: Atlas 200T A2 Box16 异构子框、Atlas 800T A2 训练服务器、Atlas 800I A2 推理服务器、Atlas 900 A2 PoD 集群基础单元的驱动升级至NPU 24.1.RC2及之后版本,重新配置TLS的使能开关状态;再回退驱动至NPU 24.1.RC2之前版本,TLS的使能开关状态可能存在不一致。 - Keywords: hccn\_tool;TLS;使能开关 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002269529485.md ## 驱动安装过程中出现拷贝目录报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002273193421 - Description: 问题现象描述1 问题现象描述2 - Keywords: 拷贝;目录错误 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002273193421.md ## 驱动安装过程中出现dkms编译失败报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002273193425 - Description: Atlas 200I A2 加速模块、Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡、Atlas 300T 训练卡(型号:9000)、Atlas 300T Pro 训练卡(型号:9000)、Atlas 800 训练服务器(型号:9000)、Atlas 800 训练服务器(型号:9010)、Atl - Keywords: 检查;Device;正常运行 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002273193425.md ## 升级系统内核版本时未卸载run包导致run包不可用-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002273233485 - Description: 如果在安装了run包的环境直接升级内核,再次重启时环境会出现启动异常,如图1所示。如果后续在该环境上再安装run包也无法使用。这是由于安装run包时驱动ko加载到内核,而升级内核版本会触发根文件系统打包,会将原来环境中ko打包到根文件系统,导致启动异常。 - Keywords: 内核;run包 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002273233485.md ## 安装驱动过程中出现“Device startup fail”的报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002273233489 - Description: 在Atlas 200I A2 加速模块环境下卸载驱动后重新安装过程中,出现“Device startup fail”报错打印,如图1所示。 - Keywords: startup fail;报错 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002273233489.md ## 容器内安装驱动后,删除容器失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002273233493 - Description: 在Atlas 200I A2 加速模块、Atlas 200I SoC A1 核心板、Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡、Atlas 300T 训练卡(型号:9000)、Atlas 300T Pro 训练卡(型号:9000)、Atlas 800 训练服务器(型号:9000)、Atlas - Keywords: 容器;失败 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002273233493.md ## 如何检查run包中驱动镜像文件的版本-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002273332513 - Description: 针对Atlas 200I SoC A1 核心板、Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡产品,如何检查run包中驱动镜像文件的版本。 - Keywords: run包;驱动镜像 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002273332513.md ## PKCS签名问题导致驱动或固件回退失败、npu-smi命令异常或davinci设备无法启动-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002273332521 - Description: 问题现象描述1 Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡驱动回退过程中出现图1所示报错信息,执行npu-smi命令异常,查看“ascend\_install.log”日志信息,显示图2所示报错。 固件回退过程中出现图3所示报错,查看“ascend\_install.log”日志信息,显示图4所 - Keywords: PKCS签名 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002273332521.md ## deb包卸载时warning打印的处理方式-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002273332525 - Description: Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡、Atlas 300T 训练卡(型号:9000)、Atlas 300T Pro 训练卡(型号:9000)、Atlas 800 训练服务器(型号:9000)、Atlas 800 训练服务器(型号:9010)、Atlas 900 计算节点、Atlas 9 - Keywords: deb包;warning;无法删除 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002273332525.md ## 虚拟机安全启动打开导致驱动安装失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002273354313 - Description: Atlas 200T A2 Box16 异构子框、Atlas 800T A2 训练服务器、Atlas 800I A2 推理服务器、Atlas 900 A2 PoD 集群基础单元的NPU芯片直通到虚拟机场景下,虚拟机中安装驱动包时出现“\[ERROR\]Driver\_ko\_install failed, details in : /var/log/ascend\_seclog/ascend\_install - Keywords: Driver\_ko\_instal;报错;虚拟机 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002273354313.md ## 服务器异常复位或下电导致重新安装驱动或固件失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002273452401 - Description: Atlas 200I SoC A1 核心板、Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡驱动或固件安装或升级过程中,服务器异常复位或下电;服务器重启后重新安装驱动时出现“Device\_images\_crl\_check failed”报错打印,如图1所示。重新安装固件时出现“ERR\_NO:0x0 - Keywords: 复位;下电;安装失败 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002273452401.md ## 安装deb包时出现“binary operator expected”报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002273452405 - Description: 在Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 300V 视频解析卡、Atlas 300T 训练卡(型号:9000)、Atlas 300T Pro 训练卡(型号:9000)、Atlas 800 训练服务器(型号:9000)、Atlas 800 训练服务器(型号:9010)、Atlas 900 计算节点、Atlas - Keywords: deb包;binary;operator;expected - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002273452405.md ## SLES 12 SP5系统安装驱动时出现“Driver\_ko\_install\_manually failed, details in : /var/log/ascend\_seclog/ascend\_i - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002273452409 - Description: Atlas 300I Pro 推理卡、Atlas 300V Pro 视频解析卡产品SLES 12 SP5系统安装驱动时,出现安装失败,提示“Driver\_ko\_install\_manually failed, details in : /var/log/ascend\_seclog/ascend\_install.log”报错信息,如图1所示。 执行如下命令,查看“/var/log/ascend\_se - Keywords: Driver\_ko\_install\_manually - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002273452409.md ## CentOS 7.6 reboot后系统概率性卡在OS启动阶段-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002273466457 - Description: Atlas 800 训练服务器(型号:9000)、Atlas 800 训练服务器(型号:9010)、Atlas 900 计算节点、Atlas 900T RAK 计算节点驱动或固件安装后,CentOS 7.6系统reboot卡在OS启动阶段,启动阶段OS打印如图1所示。再次执行强制重启后,进入系统,执行cat /proc/sys/kernel/printk,回显信息打印权限为“7 4 1 7”。 - Keywords: reboot;OS启动 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002273466457.md ## openEuler 20.03 LTS/BC Linux 21.10安装virt-install时出错,提示“Unable to find a match: virt-install”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002274183953 - Description: openEuler 20.03 LTS安装virt-install时出错,提示“Unable to find a match: virt-install” - Keywords: 虚拟机;openEuler 20.03 LTS;BC Linux 21.10 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002274183953.md ## Arm场景将8张昇腾AI处理器直通给虚拟机后使用npu-smi工具只能查询到5张昇腾AI处理器-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002274183961 - Description: Arm场景将8张昇腾AI处理器直通给虚拟机后使用npu-smi工具只能查询到5张昇腾AI处理器。 通过执行命令dmesg | grep “BAR 4”查询,显示如下则表示为PCIe地址空间不足导致。 - Keywords: 虚拟机;QEMU - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002274183961.md ## 多张Atlas 中心推理卡直通虚拟机场景下,虚拟机中所有命令执行缓慢-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002274183969 - Description: 多张Atlas 中心推理卡直通虚拟机场景下,虚拟机中出现所有命令执行缓慢、驱动npu-smi命令或dcmi接口响应缓慢、卡顿。 - Keywords: 虚拟机;运行缓慢;卡顿 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002274183969.md ## 创建Ubuntu22.04虚拟机,进入虚拟机后安装驱动报错-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002274183977 - Description: 创建Ubuntu22.04虚拟机,进入虚拟机后安装驱动报错,出现如下打印信息: - Keywords: 虚拟机;Ubuntu22.04;安装驱动;Secure Boot - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002274183977.md ## Ubuntu系统root用户登录时提示“Access denied”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002274343901 - Description: Ubuntu系统root用户无法登录,提示如下错误: - Keywords: 虚拟机;Ubuntu系统 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002274343901.md ## 执行virt-install创建虚拟机时提示“ERROR Cannot access storage file 'xxxxx' \(as uid:107, gid:107\): Permission de - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002274343909 - Description: 执行virt-install创建虚拟机时提示“ERROR Cannot access storage file 'xxxxx' \(as uid:107, gid:107\): Permission denied”。 - Keywords: 虚拟机;libvirt - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002274343909.md ## 直通虚拟机后,虚拟机网络故障-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002274343917 - Description: 物理机Ubuntu22.04+直通虚拟机Ubuntu 22.04、物理机KyLinV10+直通虚拟机KyLinV10、物理机openEuler 22.03 LTS+直通虚拟机openEuler 22.03 LTS、物理机Ubuntu20.04+直通虚拟机Ubuntu 20.04、A200T A3 Box8 异构子框+Tlinux3.1场景下,物理机或虚拟机下电再上电后,虚拟机网络故障。 - Keywords: 虚拟机;Ubuntu22.04;KyLinV10;openEuler 22.03 LTS;Ubuntu20.04;Tlinux3.1;网络故障 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002274343917.md ## 虚拟机安装Debian10(veLinux 1.3)过程中,virt-viewer控制台键盘无法输入-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002274343925 - Description: 虚拟机安装Debian10(veLinux 1.3)过程中,virt-viewer控制台键盘无法输入,出现如下打印信息: - Keywords: 虚拟机;Debian10;veLinux 1.3 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002274343925.md ## Atlas 200I DK A2连接屏幕无法实时显示摄像头画面-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002516622282 - Description: 使用Juptyter Lab调用摄像头,并将显示器通过HDMI连接至Atlas 200I DK A2,期望能直接显示摄像头的实时画面,但遇到显示器黑屏问题。 - Keywords: Atlas 200I DK A2;显示器连接 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002516622282.md ## 使用msProf工具做算子仿真调优时报错161001-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002517601046 - Description: 使用msProf工具的msprof op simulator功能进行算子仿真调优,以基于可执行文件方式执行命令时,报错提示“aclnnSqrtGetWorkspaceSize failed. ERROR: 161001”,并且子进程以状态码139退出,导致仿真任务失败,无法完成算子调优。 执行命令为:msprof op simulator --soc-version\=Ascend910B --ou - Keywords: msProf;算子仿真调优;161001 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002517601046.md ## ATC模型转换时ONNX文件Opset版本不兼容,报错“E19010”-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002544973355 - Description: 用户使用ATC工具将ONNX模型转换成适配OrangePi Alpro的OM模型时,报错提示“ATC run failed, Please check the detail log, Try 'atc --help' for more information.”,错误码为“E19010”(如图1所示)。 - Keywords: ATC模型转换;ONNX;Opset;E19010 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002544973355.md ## qwen2.5-32b推理报错内存不足-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002549203555 - Description: 使用 1.0.0-300I-Duo-py311-openeuler24.03-lts 的Docker镜像,在310P上部署了qwen2.5-32b模型。在执行 /usr/local/Ascend/atb-models/examples/run\_pa.py 时,程序报错提示NPU内存不足,并具体指出NPU0卡的内存不足。 - Keywords: qwen2.5;MindIE;内存不足 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002549203555.md ## MindIE启用上下文并行(CP)处理128K长序列时启动失败问题排查与解决-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/topic_0000002598936025 - Description: 硬件配置:Atlas 800I A2 问题现象: 在配置并行策略为 "dp": 1, "tp": 8, "cp": 2, "sp": 8, "moe\_tp": 1, "moe\_ep": 16 的情况下,启动基于W8A8量化模型的推理服务时,AttentionRunner\_67\_0 与 Decoder\_layerRunner\_67 节点报错,日志中出现大量 infer shape check fai - Keywords: DeepSeek-V3-0324-w8a8,双机部署 - Detail: llms-content/document/zh_document_caselibrary_detail_topic_0000002598936025.md ## Atlas 800 CentOS7.4 BMC 复位测试过程中出出现 "xhci\_hcd 0000:00:14.0: WARN: unexpected TRB Type 4" 告警-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_3000_00064.xml - Description: BMC 3.22; BIOS 6.26; CPLD:0.07 问题现象:BMC 复位测试1000发现每复位一次 dmesg 中均出现警告 "xhci\_hcd 0000:00:14.0: WARN: unexpected TRB Type 4" - Keywords: CentOS,;unexpected TRB Type;BMC - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_3000_00064xml.md ## Atlas 800-3000 CentOS 7.6系统加载ipmi\_si驱动失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_3000_00070.xml - Description: 问题现象:脚本运行power cycle测试200次,第31次测试中断,系统无法再次power cycle,查看dmesg日志发现有以下报错: failed 2 retries, sending error respone - Keywords: CentOS 7.6;IPMI驱动;dmesg - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_3000_00070xml.md ## Atlas 800 CentOS通过Xshell安装rpm包时弹出提示框并需手动选择-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_3000_00118.xml - Description: Atlas 800服务器+CentOS,通过Xshell工具安装rpm包时,会弹出提示框并需要手动进行选择(选择“否”,不打开gnome Terminal),才可安装成功。 - Keywords: Xshell;rpm;X11-Forwarding; - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_3000_00118xml.md ## Atlas 800-3010 安装I350的rpm驱动后,使用lspc查看PCI设备信息时报错” Duplicate entry at /usr/share/pci.ids, line 17813”- - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_3010_00016.xml - Description: sles11sp3下使用驱动安装脚本一键安装所有驱动,安装完成后,输入lspci命令,报错 - Keywords: lspci,intel网卡,pci.ids - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_3010_00016xml.md ## Atlas 800-3010 Ubuntu16.04 LTS secureboot模式下,安装界面KVM及本地鼠标、键盘不可用-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_3010_00018.xml - Description: 打开secureboot功能,挂载ubuntu16.04 LTS光驱,启动到安装界面KVM及本地鼠标、键盘不可用。 - Keywords: Secureboot,ubuntu16.04,鼠标键盘 - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_3010_00018xml.md ## Atlas 800-3010 Ubuntu18.04 UEFI模式下安装花屏-Atlas Community - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_3010_00020.xml - Description: 在华为服务器上安装Ubuntu 18.04及18.04.1时,在UEFI模式下安装进入图形界面即花屏,Leagcy模式正常。 - Keywords: Ubuntu18.04,UEFI,安装花屏 - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_3010_00020xml.md ## Atlas 800-3010 Ubuntu 16.04.5 KWE内核下dmesg报大量ACPI Exception-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_3010_00022.xml - Description: 2288H V5服务器上安装Ubuntu 16.04.5后,内核版本为4.15.0-29,dmesg日志打印大量的ACPI Exception - Keywords: ACPI Exception,Ubuntu16.04,dmesg - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_3010_00022xml.md ## Atlas 800-3010 3508 RAID卡升级驱动后,RAID卡下的硬盘设备的scsi host id概率性发生变化-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_3010_00026.xml - Description: Atlas 800-3010安装RHEL 7.5后,在reboot测试过程中,3508扣卡上面硬盘的scsi host id不能保持相同,如下图所示,前一次重启后的3508 scsi host id是14,下一次却变成了6。 - Keywords: SCSI、RAID、AHCI - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_3010_00026xml.md ## 故障案例-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_3010_00032.xml - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 故障案例,昇腾社区,了解详情 - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_3010_00032xml.md ## Atlas 800-3010 Ubuntu系统配置kdump触发crash卡死-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_3010_00036.xml - Description: Ubuntu系统配置kdump后,系统crash会卡死,无法正常生成内存转储 - Keywords: Ubuntu;kdump;卡死 - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_3010_00036xml.md ## Atlas 800-3010 Ubuntu legacy模式下大于2T硬盘自动分区安装无法启动-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_3010_00038.xml - Description: legacy 模式下大于2T硬盘自动分区安装Ubuntu16.04,安装后无法启动。 - Keywords: Ubuntu;legacy;大于2T - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_3010_00038xml.md ## Atlas 800-3010 Debian9.11启动openipmi服务时没有启动ipmi驱动,需要手动加载ipmi驱动-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_3010_00044.xml - Description: 1.安装debian9.11 2.配置网络源,安装OpenIPMI以及ipmitool 3.使能openipmi服务,systemctl start openipmi, 4.执行ipmitool命令, 提示如下:Could not open device at /dev/ipmi0 or /dev/ipmi/0 or /dev/ipmidev/0: No such file or director - Keywords: debian9.11;ipmi;OpenIPMI - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_3010_00044xml.md ## Atlas 800-3010 Redhat 7.6安装Mellanox驱动后kdump执行失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_3010_00086.xml - Description: 问题现象:安装完手动触发BMC NMI按键,OS卡死,未正常重启,出现错误打印。串口打印systemd-udevd oom 异常日志 - Keywords: mlx5\_core; kdump - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_3010_00086xml.md ## Atlas 800-3010 fchownat 和 close 并发访问相同 socket 导致 system crash-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_3010_00102.xml - Description: 该问题为内核 bug。并发执行 fchownat 和 close 系统调用并操作同一个 socket 会触发 "NULL pointer dereference" 问题,从而导致 system crash。错误日志如下: - Keywords: system crash, fchownat, close - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_3010_00102xml.md ## Atlas 800-3010 Debian 9.9在第二内核加nr\_cpus\=8后,kdump测试失败-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_3010_00112.xml - Description: Atlas 800-3010 Debian9.9,在第二内核添加nr\_cpus\=8后,系统突然宕机,未生成vmcore - Keywords: kdump;nr\_cpus - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_3010_00112xml.md ## Atlas 800-3010 EFI启动下Emulex 8G / 16G (lpe1200x/1600系列)FC卡开机启动串口或者屏幕会报Assert的打印-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_3010_00122.xml - Description: 开机启动时出现Assert - Keywords: Assert;EFI;FW - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_3010_00122xml.md ## Atlas 800-3010 windows 2012 R2安装KB2999226无法安装-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_3010_00134.xml - Description: Windows 2012 R2 安装KB2999226,发现无法安装 - Keywords: KB2999226无法安装;Windows 2012 R2 - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_3010_00134xml.md ## Atlas 800-3010 Windows系统自带网卡驱动问题导致服务器配置Intel GE网口插网线情况下无法启动-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_3010_00140.xml - Description: 在系统BIOS默认配置下,带着Intel Ge网卡安装Windows2012R2和Windows2016系统会出现安装完之后蓝屏。在8P以上的服务器问题必现。 - Keywords: windows安装蓝屏 DPC\_WATCHDOG\_VIOLATION WHEA UNCORRECTA - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_3010_00140xml.md ## Atlas 800-3010 Windows2012R2系统, 不登录系统,通过BMC WEB进行安全重启,单板直接下电然后重启,没有看到关机过程-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_3010_00152.xml - Description: 在SBCA单板上安装好vwindows2012R2系统,不登录系统,通过BMC WEB进行安全重启,单板直接下电然后重启,没有看到关机过程。 - Keywords: BMC安全重启 - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_3010_00152xml.md ## Atlas 800-3010 Windows2012R2版本默认无法安装82580驱动-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_3010_00156.xml - Description: 在Windows 2012R2 默认不支持82580驱动升级,使用驱动安装工具提示失败。 - Keywords: 82580网卡;Windows 2012R2 - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_3010_00156xml.md ## Atlas 800-9000 Ubuntu18.04.1 卸载加载Mellanox网卡驱动时会有错误日志打印:Failed to init debugs files for enpXX-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_9000_00126.xml - Description: 在ubuntu18.04.1系统中,启动后以及卸载再加载后,系统会上报两条关于debugfs挂载失败的报错日志。 - Keywords: debugfs;Ubuntu;mount - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_9000_00126xml.md ## Atlas 800-9010 Ubuntu18.04.1系统 NMI wachdog超时触发hard LOCKUP导致系统挂死-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh_cn_Atlas_800_9010_00108.xml - Description: 系统挂死或出现panic,日志打印NMI watchdog: Watchdog detected hard LOCKUP on cpu 12 - Keywords: 挂死;Ubuntu18.04.1;NMI watchdog;hard LOCKUP - Detail: llms-content/document/zh_document_caselibrary_detail_zh_cn_Atlas_800_9010_00108xml.md ## CPU架构为ARM架构时,由于社区未提供ARM架构CPU版本的torch包,无法使用PIP3命令安装PyTorch1.8.1,需要使用源码编译安装-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh-cn_topic_0000001275828232.xml - Description: CPU架构为ARM架构时,无法使用PIP3命令安装PyTorch1.8.1。 - Keywords: 源码编译安装PyTorch;ARM架构 - Detail: llms-content/document/zh_document_caselibrary_detail_zh-cn_topic_0000001275828232xml.md ## 编译过程执行bash build.sh报错no module named yaml/typing\_extensions.-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh-cn_topic_0000001275988104.xml - Description: 编译过程执行bash build.sh报错no module named yaml/typing\_extensions.。 - Keywords: Pytorch;编译;昇腾插件;Python依赖 - Detail: llms-content/document/zh_document_caselibrary_detail_zh-cn_topic_0000001275988104xml.md ## 运行遇到找不到te问题-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh-cn_topic_0000001276148088.xml - Description: 运行遇到找不到te问题。 - Keywords: PyTorch、编译、昇腾插件、te - Detail: llms-content/document/zh_document_caselibrary_detail_zh-cn_topic_0000001276148088xml.md ## 命令行安装gcc依赖时提示找不到包、编译时GCC报错问题-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh-cn_topic_0000001276307996.xml - Description: 部分源下载gcc时会提示无法找到包,需要使用源码编译安装、编译时gcc报错。 - Keywords: 编译安装;gcc; - Detail: llms-content/document/zh_document_caselibrary_detail_zh-cn_topic_0000001276307996xml.md ## 找不到libblas.so问题-昇腾社区 - URL: https://www.hiascend.com/document/caselibrary/detail/zh-cn_topic_0000001326227937.xml - Description: libblas.so库丢失 - Keywords: Pytorch;环境配置;昇腾插件 - Detail: llms-content/document/zh_document_caselibrary_detail_zh-cn_topic_0000001326227937xml.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Account%26AuthenticationFAQ/accfaq_000.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/AscendAITrainingCamp/ascendaitrainingcamp_000.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/ascend_asr_001.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/ascend_atc_002.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/ascend_atc_003.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/ascend_atc_004.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/ascend_atc_005.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/ascend_atc_006.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/ascend_atc_008.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/ascend_atc_009.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/ascend_ccc_001.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/ascend_mcv_001.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/developerpartner_011.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/developerpartner_012.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/Ecological-prototype001.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/Ecological-prototype002.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/Ecological-prototype003.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/Ecological-prototype004.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/electronicsigning002.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/electronicsigning003.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/electronicsigning004.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/electronicsigning006.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/electronicsigning007.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/electronicsigning008.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/electronicsigning010.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/electronicsigning011.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/electronicsigning012.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/electronicsigning013.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/electronicsigning014.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/nre_001.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/nre_002.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/nre_003.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/nre_004.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/nre_005.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/nre_006.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/vpp_001.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/vpp_002.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/vpp_003.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/vpp_005.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/vpp_006.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/vpp_008.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/vpp_009.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/vpp_010.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/vpp_012.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/vpp_013.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/vpp_014.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/vpp_015.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/vpp_016.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/vpp_018.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/vpp_019.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/Developer%26partner/vpp_020.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/resdl - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/resdl/rdl_002.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/resdl/rdl_004.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/resdl/rdl_007.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/resdl/rdl_011.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/resdl/rdl_012.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/resdl/rdl_013.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/resdl/rdl_014.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/latest/resdl/rdl_016.html - Description: 昇腾AI产品包含训练和推理产品,主要产品系列如表1所示,昇腾训练产品同时支持训练和推理业务,各个组件支持的产品范围请参见组件对应文档的产品支持列表。 - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_ProduTech_productform_hardwaredesc_0001_html.md ## 昇腾产品形态说明-昇腾常见问题-昇腾社区 - URL: https://www.hiascend.com/document/detail/zh/AscendFAQ/overview/index.html - Description: 总览 操作指引 “伙伴计划”站点提供如何加入伙伴计划 > 如何进行技术认证与解决方案发布、如何进行权益申请和其他操作。 加入伙伴计划 包括加入昇腾万里伙伴计划和加入昇腾科研创新使能伙伴计划,操作入口详见表1。 表1 加入伙伴计划操作入口 伙伴计划 操作入口 加入昇腾万里伙伴计划 https://www.hiascend.com/document/detail/zh/AscendFAQ/Com - Keywords: 昇腾产品形态说明,昇腾常见问题,昇腾社区,ZH,Ascend,Atlas,SuperPoD,PoD - Detail: llms-content/document/detail/AscendFAQ/AscendFAQ_overview_index_html.md ## 缩略语 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/aaa/aaa_0001.html - Description: 表1 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_aaa_aaa_0001_html.md ## 备份镜像 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/bi/bi_0001.html - Description: 如果需要将某个开发者套件的镜像复制到其他开发者套件,可以通过备份SD卡功能,将SD卡中的镜像复制到PC,再通过本地制卡方式烧录到其他SD卡。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_bi_bi_0001_html.md ## 开发者套件用户信息 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/dkui/dkui_0001.html - Description: 开发者套件烧录镜像默认用户信息如表1所示。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_dkui_dkui_0001_html.md ## 烧录镜像时提示写入出错 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq - Description: 烧录镜像时,制卡工具提示写入错误。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0002_html.md ## 烧录镜像时提示写入出错 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0002.html - Description: 烧录镜像时,制卡工具提示写入错误。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0002_html.md ## 本地制卡时提示解压包出错 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0003.html - Description: 使用本地镜像制卡时,出现解压包出错。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0003_html.md ## 运行制卡工具时出现dll文件缺失 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0004.html - Description: 运行制卡工具时出现dll文件缺失。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0004_html.md ## 制卡工具界面显示不全 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0005.html - Description: 制卡工具界面在高分辨率屏幕显示不全。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0005_html.md ## 制卡工具在线制卡界面空白 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0006.html - Description: 打开制卡工具,在线制卡页签界面显示如下。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0006_html.md ## PC无法识别SD卡 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0007.html - Description: 将装有SD卡的读卡器插入PC后,PC无法识别。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0007_html.md ## PC通过网线连接开发者套件后WiFi断开连接 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0009.html - Description: 使用网线连接开发者套件和PC后,PC自动关闭无线WiFi。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0009_html.md ## SSH连接提示ssh\_exchange\_identification: Connection closed by remote host - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0010.html - Description: SSH连接客户端过多,部分用户可以连接,部分用户无法连接,终端输出错误提示:ssh\_exchange\_identification: Connection closed by remote host。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0010_html.md ## SSH服务重启失败,提示:ssh.serviceJob for ssh.service failed - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0011.html - Description: 重启SSH服务失败,提示如下: - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0011_html.md ## netplan apply命令报错,提示:undefined symbol: g\_spawn\_check\_wait\_status - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0012.html - Description: 执行netplan apply命令时报错。提示如下: - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0012_html.md ## 网口的MAC地址相同 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0013.html - Description: 网口的MAC地址相同。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0013_html.md ## 正确配置网络后仍无法联网 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0014.html - Description: 正确配置网络后仍无法联网。提示如下: - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0014_html.md ## 启动开发者套件后发现无法SSH登录 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0015.html - Description: Ubuntu 22.04系统重装升级后,启动开发者套件后发现无法SSH登录。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0015_html.md ## 开发者套件IP能ping通但是SSH无法连接 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0016.html - Description: SSH无法连接,但是IP能ping通,串口无任何信息。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0016_html.md ## 使用Type-C数据线连接后PC无法识别RNDIS网络设备 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0017.html - Description: 使用Type-C数据线连接开发者套件和PC后,PC无法识别。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0017_html.md ## 使用模型适配工具一键迁移时出现输出文件夹残留 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0019.html - Description: 使用模型适配工具一键迁移时,出现断电、重启、进程挂死等问题,导致一键迁移未完成,输出文件夹残留。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0019_html.md ## 手动取消迁移导致模型适配工具异常退出 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0020.html - Description: 当迁移任务正在进行时,此时单击“取消迁移”,则可能会导致工具异常退出,进一步导致输出目录有残留文件。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0020_html.md ## 模型适配工具界面显示异常 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0021.html - Description: 模型适配工具界面显示异常,工具栏不显示,须单击界面右上角按钮后才显示工具栏。如图1所示。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0021_html.md ## 登录开发者套件后启动jupyter lab失败 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0023.html - Description: 输入jupyter lab命令后,jupyter lab仍未启动。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0023_html.md ## jupyter lab运行样例后,再次运行样例失败 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0024.html - Description: 有关acl的样例,在成功运行一遍后,再次运行则报错。如图1 再次运行acl样例报错所示。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0024_html.md ## 运行样例时无法启动摄像头 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0025.html - Description: 运行样例时,发现摄像头无法启动。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0025_html.md ## 执行Python脚本报错,提示:No module named \_bz2 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0026.html - Description: 执行Python脚本报错,提示没有\_bz2模块:No module named \_bz2。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0026_html.md ## Python导入opencv模块报错,提示:ImportError: libGL.so.1: cannot open shared object file: No such file or direc - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0027.html - Description: Python导入opencv模块报错。操作及提示如下: - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0027_html.md ## Python导入torchvision报错 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0028.html - Description: 通过conda list命令查询torch与torchvision版本,分别为1.13.0和0.14.0,二者为配套版本,但import torchvision时报错如图1所示。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0028_html.md ## 应用进程占用内存超出限制导致系统异常终止 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0029.html - Description: 以ATC工具为例,当打开了虚拟内存限制而atc尝试使用超出限制的内存大小时会报错,报错信息一般如下所示: - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0029_html.md ## 智能车手动控制时车轮转向错误或四个轮子转速差异较大 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0031.html - Description: 进入到智能车的手动控制环节后,启动智能车的控制主入口,按照应用开发指南中的键盘操作智能车,智能车车轮反向运转或将智能车放到运动场地后,运行路线不走直线。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0031_html.md ## 运行智能车主入口程序main.py时出现‘ttyUSB0’或'ttyUSB1'相关错误导致程序无法启动 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0032.html - Description: 运行智能车主入口程序main.py时出现‘ttyUSB0’或'ttyUSB1'相关错误导致程序无法启动。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0032_html.md ## jupyter notebook推理样例运行缓慢或跑不起来 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0033.html - Description: 运行开箱推理样例时,推理执行缓慢或跑不起来。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0033_html.md ## 同一台PC与开发者套件,切换SD后重启出现SSH认证问题 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0034.html - Description: 使用同一台PC和开发者套件,切换SD卡启动开发者套件并远程登录时报错,MobaXterm会弹出更新SSH Verfication的弹窗,所以不会有这种问题,但使用cmd或WindowsPowershell或者Windows Terminal登录的话会有此问题。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0034_html.md ## 切换WIFI或同一台PC和开发者套件换SD卡后,共享网络时出现共享错误 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0035.html - Description: 当切换WIFI或同一台PC和开发者套件切换SD卡后,在为开发者套件共享网络时,提示共享错误,如图1所示。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0035_html.md ## 优化启动时间 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0036.html - Description: Ubuntu22.04 TLS 开机在“A start job is running for wait for network to be Configured”运行阶段需要等待很久,导致开机时间过长。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0036_html.md ## 配置进程内存限制(OOM Killer) - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0037.html - Description: 开发者套件的内存资源有限,如果某个进程占用的内存超出系统限制,可能出现系统异常,无法响应命令的现象,届时需要重新上下电才能恢复正常。因此,需要限制进程的内存占用量。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0037_html.md ## 在线镜像下载失败 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0038.html - Description: 制卡时提示“在线镜像下载失败,请确保您可以正常访问互联网,请更换网络环境后重试。” - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0038_html.md ## 制卡时提示SD卡具有卡保护 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0039.html - Description: 制卡选择SD卡时提示SD卡具有写保护,无法制卡。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0039_html.md ## jupyter notebook运行多个推理样例后提示Kernel Restarting - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0040.html - Description: 启动jupyter notebook运行多个推理样例后提示Kernel Restarting。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0040_html.md ## 当使用VPN代理时,打开模型适配工具,提示网络异常 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0041.html - Description: 当使用VPN代理时,打开模型适配工具,会提示“网络异常,可能影响一键迁移报错”。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0041_html.md ## Windows与开发者套件的文件传输 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0042.html - Description: 如何实现Windows系统与开发者套件的文件传输。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0042_html.md ## 运行DVPP样例时出现fail to send frame问题 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0043.html - Description: 在开发者套件上运行DVPP(数字视觉预处理)样例时, 出现fail to send frame问题,导致样例无法运行。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0043_html.md ## 开发者套件支持使用QT(Python/C++) - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0044.html - Description: QT是一款跨平台的图形用户界面应用程序开发框架,支持C++及python接口。开发者套件支持通过远程登录工具或使用图形化桌面运行QT及项目,进行界面的查看。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0044_html.md ## 手动矫正时间 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0045.html - Description: 运行jupyter lab样例时,提示需要手动矫正时间。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0045_html.md ## WiFi模块和其他网络接口同时使用时如何配置开发者套件优先使用WiFi路由 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0046.html - Description: 首次通过WiFi模块配置开发者套件连接网络时,需要通过接口方式连接开发者套件,配置WiFi。此时如果有线连接已经配置了网关,使用route -n命令查询结果如下。以开发者套件IP“192.168.137.100”为例,为WIFI配置的网关优先级低于默认网口网关。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0046_html.md ## 默认网关被置为空\(0.0.0.0\) - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0047.html - Description: 路由配置的不正确,导致默认的网关配置被重置为空\(0.0.0.0\),无法连接网络。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0047_html.md ## 仅需一根Type-C数据线让小藤连接互联网 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0048.html - Description: 首先,请确保您的网络环境是正常的,不受限的。比如使用您的家庭网络,而不是公司或者商场等公共场合的受限网络。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0048_html.md ## 使用Type-C数据线连接开发者套件时设备管理器无法识别RNDIS设备 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0049.html - Description: 在使用Type-C数据线连接开发者套件时,配置USB口IP,但设备管理器中无法识别RNDIS设备(无其他设备识别)。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0049_html.md ## 设置路由器频率范围 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0050.html - Description: 开发者套件仅能使用2.4G频率的WiFi模块,因此需要设置无线路由器工作在2.4G或2.4G/5G兼容模式下。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0050_html.md ## 如何设置静态路由 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0051.html - Description: 静态路由(英语:Static routing)是一种路由的方式,路由项(routing entry)由手动配置,而非动态决定。 与动态路由不同,静态路由是固定的,不会改变,即使网络状况已经改变或是重新被组态。 一般来说,静态路由是由网络管理员逐项加入路由表。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0051_html.md ## 创建交换分区 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/Appendices/faq/faq_0053.html - Description: 为解决开发者套件上,使用ATC工具转换模型时会出现转换过程很慢或卡住不动的问题。该问题可能由于内存不足,导致进程卡死。用户可通过创建交换分区的方式以分担开发者套件的内存压力,当前镜像已提前为用户创建,若用户需要关闭或关闭后重新开启可参见此章节进行操作。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_Appendices_faq_faq_0053_html.md ## 保修方法 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/bx/bxff/toctopics/topic_0000001572114410.html - Description: 开发者套件保修期为1年,在保修期内如出现非人为原因造成的故障,您可凭产品SN号在保修期内到指定维修点进行免费维修。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_bx_bxff_toctopics_topic_0000001572114410_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/index/index.html - Description: 如果您是第一次接触Atlas 200I DK A2 开发者套件,可以跟随以下的学习旅程(点击下图中任务名称可以跳转到对应内容),逐渐上手开发者套件,希望通过开发者套件更快的实现您的AI创意。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_index_index_html.md ## 使用注意事项 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/mna/mna_0001.html - Description: - 上电前一定检查确保Atlas 200I A2 加速模块正确扣在底板上,否则无法正常开机。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_mna_mna_0001_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/operatordev/Ascendcopdevg/opdev_001.html - Description: 1. 切换至root用户,并进入默认下载目录/home/HwHiAiUser/Downloads。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_operatordev_Ascendcopdevg_opdev_001_html.md ## AddCustom算子样例执行 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/operatordev/Ascendcopdevg/opdev_002.html - Description: AddCustom算子样例支持多种方式调用执行,以下内容以ACLNN接口和核函数两种常用的方式为例进行介绍,更多方式请参考样例仓\(https://gitee.com/ascend/samples/tree/8.0.RC1\)中的readme指导。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_operatordev_Ascendcopdevg_opdev_002_html.md ## 新建算子工程开发算子 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/operatordev/Ascendcopdevg/opdev_003.html - Description: 1. 创建工程与IR json文件。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_operatordev_Ascendcopdevg_opdev_003_html.md ## 产品简介 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/pd/pd_0001.html - Description: Atlas 200I DK A2 开发者套件(以下简称开发者套件)是一款高性能的AI开发者套件,可提供8TOPS INT8的计算能力,可以实现图像、视频等多种数据分析与推理计算,可广泛用于教育、机器人、无人机等场景,开发者套件外观如图1所示。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_pd_pd_0001_html.md ## 外观结构 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/pd/pd_0002.html - Description: 开发者套件采用紧凑的结构设计,外观如图1所示。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_pd_pd_0002_html.md ## 系统框图 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/pd/pd_0003.html - Description: 开发者套件集成了完整的昇腾310系列AI处理器硬件系统,系统框图如图1所示。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_pd_pd_0003_html.md ## 基本规格 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/pd/pd_0004.html - Description: **表1 硬件基本规格** - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_pd_pd_0004_html.md ## 环境条件 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/pd/pd_0005.html - Description: **表1 环境要求** - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_pd_pd_0005_html.md ## 3D结构 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/pd/pd_0006.html - Description: Atlas 200I DK A2 开发者套件3D结构展示:计算产品3D展示 \(huawei.com\)\(https://info.support.huawei.com/computing/server3D/res/server/atlas200Idk/index.html?lang\=cn\)。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_pd_pd_0006_html.md ## 使用流程 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/qs - Description: 本文档详细的描述了Atlas 200I DK A2开发者套件的基础入门使用方法,同时提供了常见的问题解答及故障处理方法。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_qs_qs_0018_html.md ## 准备硬件 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/qs/qs_0001.html - Description: 运行开发者套件必须的基础硬件,如表1所示。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_qs_qs_0001_html.md ## 登录方式说明 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/qs/qs_0002.html - Description: 开发者套件启动后支持用户通过远程登录模式或者本机显示模式登录开发者套件运行推理任务,用户可以根据现场硬件准备条件,选择其中一种方式,两种登录模式介绍如下: - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_qs_qs_0002_html.md ## Windows系统制卡 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/qs/qs_0005.html - Description: - 将Micro SD卡插入读卡器,并将读卡器插入PC。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_qs_qs_0005_html.md ## 连接外部网络 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/qs/qs_0008.html - Description: 启动运行开发者套件后,此时开发者套件只是和PC之间连通,如果需要实现开发者套件和外部网络联网,可参见以下方法将开发者套件连接外部网络,用于后续在开发者套件拉取代码样例等。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_qs_qs_0008_html.md ## Mac系统制卡 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/qs/qs_0009.html - Description: - 将Micro SD卡插入读卡器,并将读卡器插入PC。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_qs_qs_0009_html.md ## 本机显示模式 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/qs/qs_0010.html - Description: 1. 将SD卡插入开发者套件的SD插槽,并确保完全推入插槽底部。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_qs_qs_0010_html.md ## 远程登录模式 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/qs/qs_0011.html - Description: 本段内容只针对Windows系统PC。Mac PC如果只有Type-C接口,需要通过Type-C转RJ45网口转接头,使用网线连接开发者套件,不支持直接使用Type-C数据线连接开发者套件。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_qs_qs_0011_html.md ## 本机显示模式 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/qs/qs_0014.html - Description: 本节介绍当开发者套件通过HDMI连接线直连显示器时,如何登录开发者套件,以Ubuntu 22.04版本镜像和openEuler 22.03版本镜像方式登录。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_qs_qs_0014_html.md ## Type-C接口远程登录(SSH方式) - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/qs/qs_0016.html - Description: 本节介绍当开发者套件通过Type-C接口和PC连接时,如何在PC将接口IP地址修改为和开发者套件接口IP地址同一个网段(如开发者套件Type-C接口为192.168.0.2,PC对应USB或Type-C接口为192.168.0.101),并使用SSH工具远程登录开发者套件。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_qs_qs_0016_html.md ## 以太网口远程登录(SSH方式) - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/qs/qs_0017.html - Description: 本节介绍当开发者套件通过以太网接口和PC连接时,如何在PC将接口IP地址修改为和开发者套件接口IP地址同一个网段(如开发者套件eth1网口为192.168.137.100,PC以太网口为192.168.137.101),并使用SSH工具远程登录开发者套件。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_qs_qs_0017_html.md ## 使用流程 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/qs/qs_0018.html - Description: 本文档详细的描述了Atlas 200I DK A2开发者套件的基础入门使用方法,同时提供了常见的问题解答及故障处理方法。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_qs_qs_0018_html.md ## Linux系统制卡(Ubuntu桌面) - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/qs/qs_0019.html - Description: - 将Micro SD卡插入读卡器,并将读卡器插入PC。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_qs_qs_0019_html.md ## 远程登录模式(Mac系统) - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/qs/qs_0020.html - Description: 使用Mac远程登录开发者套件时,仅支持使用网口登录。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_qs_qs_0020_html.md ## 登录jupyter lab - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/qs/qs_0021.html - Description: 为方便新手开发者进行应用开发和程序运行,镜像中已包含jupyter lab软件(可视化代码演示、数据分析工具),可为用户提供一个图形化运行推理样例的界面,本节介绍基于远程登录模式如何登录jupyter lab并运行一个ResNet50样例。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_qs_qs_0021_html.md ## 运行样例 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/qs/qs_0022.html - Description: 1. 在jupyter lab可视化界面左侧样例目录中双击“03-resnet”。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_qs_qs_0022_html.md ## 开机、关机和下电 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/qs/qs_0023.html - Description: 本节介绍将开发者套件开机、关机和下电的操作。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_qs_qs_0023_html.md ## 快速指南(电子件) - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/r/qug/toctopics/topic_0000001622552461.html - Description: 附件为随开发者套件发货的使用指南纸件,如果企业用户需要将开发者套件设计为硬件产品,可以参考本节“快速指南”附件设计随新产品发货的印刷纸件。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_r_qug_toctopics_topic_0000001622552461_html.md ## 版本发布特性说明 - URL: https://www.hiascend.com/document/detail/zh/Atlas200IDKA2DeveloperKit/latest/vd/vd_0001.html - Description: Atlas 200I DK A2开发者套件2025年09月08日发布版本变更说明如表1所示。 - Detail: llms-content/document/detail/Atlas200IDKA2DeveloperKit/Atlas200IDKA2DeveloperKit_230RC2_vd_vd_0001_html.md ## CANN商业版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlas\_ascendc\_map\_10\_0002.html\)》完成算子开发。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00001_html.md ## CANN商业版-aclnn开发接口列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1042.html - Description: 无论是基于Ascend C自定义算子还是CANN内置算子,均可通过aclnn API(也称为Level2层接口)直调算子,无需提供IR(Intermediate Representation)定义。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1042_html.md ## CANN商业版-ADD\_TO\_LAUNCHER\_LIST\_AICORE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1045.html - Description: 创建某个AI Core算子的执行任务并置入aclOpExecutor的执行队列,一般在二阶段接口aclnnXxx调用时执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1045_html.md ## CANN商业版-ADD\_TO\_LAUNCHER\_LIST\_AICPU - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1046.html - Description: 创建某个AI CPU算子的执行任务并置入aclOpExecutor的执行队列,一般在二阶段接口aclnnXxx调用时执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1046_html.md ## CANN商业版-CREATE\_EXECUTOR - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1047.html - Description: 创建一个UniqueExecutor对象,该对象为aclOpExecutor的生成工厂类。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1047_html.md ## CANN商业版-DFX\_IN - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1048.html - Description: 用于封装L2一阶段接口aclnnXxxGetWorkspaceSize的输入参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1048_html.md ## CANN商业版-DFX\_OUT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1049.html - Description: 用于封装L2一阶段接口aclnnXxxGetWorkspaceSize的输出参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1049_html.md ## CANN商业版-INFER\_SHAPE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1050.html - Description: 针对指定算子,运行其InferShape函数,推导输出shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1050_html.md ## CANN商业版-L0\_DFX - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1051.html - Description: 用于L0接口时延统计(Profiling)及入参打印。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1051_html.md ## CANN商业版-L2\_DFX\_PHASE\_1 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1052.html - Description: 用于L2一阶段接口aclnnXxxGetWorkspaceSize时延统计及入参打印,该宏必须在一阶段接口最前方调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1052_html.md ## CANN商业版-L2\_DFX\_PHASE\_2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1053.html - Description: 用于L2二阶段接口aclnnXxx时延统计,必须在二阶段接口最前方调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1053_html.md ## CANN商业版-OP\_ATTR - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1054.html - Description: 用于封装算子的属性参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1054_html.md ## CANN商业版-OP\_ATTR\_NAMES - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1055.html - Description: 用于封装AI CPU算子的属性名字。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1055_html.md ## CANN商业版-OP\_EMPTY\_ARG - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1056.html - Description: 用于表示一个空的参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1056_html.md ## CANN商业版-OP\_INPUT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1057.html - Description: 用于封装算子的输入aclTensor和aclTensorList。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1057_html.md ## CANN商业版-OP\_MODE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1058.html - Description: 用于封装算子的运行模式,算子计算过程中是否使能HF32数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1058_html.md ## CANN商业版-OP\_OUTPUT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1059.html - Description: 用于封装算子的输出aclTensor和aclTensorList。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1059_html.md ## CANN商业版-OP\_OUTSHAPE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1060.html - Description: 针对需要计算结果来确定输出shape的算子,如NonZero算子,该宏用于存放此类算子输出shape的aclTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1060_html.md ## CANN商业版-OP\_OPTION - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1061.html - Description: 用于封装算子的精度模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1061_html.md ## CANN商业版-OP\_TYPE\_REGISTER - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1062.html - Description: 注册一个L0算子,生成对应的算子名称和TypeID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1062_html.md ## CANN商业版-OP\_WORKSPACE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1063.html - Description: 用于封装算子显式指定的workspace参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1063_html.md ## CANN商业版-OpImplMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1064.html - Description: OpImplMode类表示算子的精度模式,具体定义如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1064_html.md ## CANN商业版-OpExecMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1065.html - Description: OpExecMode类表示算子的运行模式,具体定义如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1065_html.md ## CANN商业版-bfloat16 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1066.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1066_html.md ## CANN商业版-GetStorageShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1068.html - Description: 获取aclTensor的StorageShape属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1068_html.md ## CANN商业版-SetStorageShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1069.html - Description: 设置aclTensor的StorageShape属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1069_html.md ## CANN商业版-GetOriginalShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1070.html - Description: 获取aclTensor的OriginShape属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1070_html.md ## CANN商业版-SetOriginalShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1071.html - Description: 设置aclTensor的OriginShape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1071_html.md ## CANN商业版-GetViewShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1072.html - Description: 获取aclTensor的ViewShape。ViewShape表示aclTensor的逻辑shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1072_html.md ## CANN商业版-SetViewShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1073.html - Description: 设置aclTensor的ViewShape。ViewShape表示aclTensor的逻辑shape,可由GetViewShape获取。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1073_html.md ## CANN商业版-GetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1074.html - Description: 获取aclTensor的StorageFormat。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1074_html.md ## CANN商业版-SetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1075.html - Description: 设置aclTensor的StorageFormat。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1075_html.md ## CANN商业版-GetOriginalFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1076.html - Description: 获取aclTensor的OriginFormat。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1076_html.md ## CANN商业版-SetOriginalFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1077.html - Description: 设置aclTensor的OriginFormat。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1077_html.md ## CANN商业版-GetViewFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1078.html - Description: 获取aclTensor的ViewFormat。ViewFormat为aclTensor的逻辑Format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1078_html.md ## CANN商业版-SetViewFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1079.html - Description: 设置aclTensor的ViewFormat。ViewFormat为aclTensor的逻辑Format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1079_html.md ## CANN商业版-GetViewStrides - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1080.html - Description: 获取aclTensor的ViewStrides。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1080_html.md ## CANN商业版-SetViewStrides - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1081.html - Description: 设置aclTensor的ViewStrides。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1081_html.md ## CANN商业版-Numel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1082.html - Description: 获取aclTensor的总元素个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1082_html.md ## CANN商业版-GetDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1083.html - Description: 获取aclTensor的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1083_html.md ## CANN商业版-IsEmpty - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1084.html - Description: 判断aclTensor是否为空tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1084_html.md ## CANN商业版-SetData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1085.html - Description: 针对通过AllocHostTensor申请得到的host侧tensor,设置指定位置的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1085_html.md ## CANN商业版-SetDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1086.html - Description: 设置aclTensor的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1086_html.md ## CANN商业版-SetBoolData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1087.html - Description: 针对通过AllocHostTensor申请得到的host侧tensor,用一块bool类型的内存初始化tensor数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1087_html.md ## CANN商业版-SetIntData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1088.html - Description: 针对通过AllocHostTensor申请得到的host侧tensor,用一块int64\_t类型的内存初始化tensor数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1088_html.md ## CANN商业版-SetFloatData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1089.html - Description: 针对通过AllocHostTensor申请得到的host侧tensor,用一块float类型的内存初始化tensor数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1089_html.md ## CANN商业版-SetFp16Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1090.html - Description: 针对通过AllocHostTensor申请得到的host侧tensor,用一块float16类型的内存初始化tensor数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1090_html.md ## CANN商业版-SetBf16Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1091.html - Description: 针对通过AllocHostTensor申请得到的host侧tensor,用一块bfloat16类型的内存初始化tensor数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1091_html.md ## CANN商业版-CheckOverflows - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1092.html - Description: 校验aclScalar中保存的标量,数值是否有溢出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1092_html.md ## 预留接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1093.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1093_html.md ## CANN商业版-IsBasicType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1095.html - Description: 判断输入的数据类型,是否为基础类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1095_html.md ## CANN商业版-IsNumberType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1096.html - Description: 判断输入的数据类型,是否为数字类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1096_html.md ## CANN商业版-IsRealNumberType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1097.html - Description: 判断输入的数据类型,是否只包含实部数字类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1097_html.md ## CANN商业版-TypeSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1098.html - Description: 计算输入的数据类型一个元素占用多少Byte。对于不满一个Byte大小的数据类型,会在基础bit大小上额外加1000,例如Int4,将返回1004,表示一个元素占用4bit。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1098_html.md ## CANN商业版-ToOpDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1099.html - Description: 将aclDataType转换为对应的op::DataType。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1099_html.md ## CANN商业版-ToAclDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1100.html - Description: 将op::DataType转换为对应的aclDataType。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1100_html.md ## 预留接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1101.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1101_html.md ## CANN商业版-IsPrivateFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1103.html - Description: 判断输入的format是否为私有格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1103_html.md ## CANN商业版-GetPrimaryFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1104.html - Description: 获取根format,去除关于C0的信息,只保留单纯的format信息。例如,将FORMAT\_FRACTAL\_Z\_C04转为FORMAT\_FRACTAL\_Z。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1104_html.md ## CANN商业版-ToOpFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1105.html - Description: 将aclFormat转为对应的op::Format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1105_html.md ## CANN商业版-ToAclFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1106.html - Description: 将op::Format转为对应的aclFormat。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1106_html.md ## 预留接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1107.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1107_html.md ## CANN商业版-fp16\_t - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1108.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1108_html.md ## CANN商业版-CopyToNpu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1110.html - Description: 创建一个host侧到device侧的数据拷贝任务,并放入executor的任务队列中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1110_html.md ## CANN商业版-CopyToNpuSync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1111.html - Description: 同步完成host侧到device侧的数据拷贝,会阻塞等待拷贝动作完成,不会再放入executor任务队列。该接口中申请的device内存,需要调用方释放。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1111_html.md ## CANN商业版-CopyNpuToNpu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1112.html - Description: 创建一个device侧到device侧的数据拷贝任务,并放入executor的任务队列中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1112_html.md ## CANN商业版-object - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1113.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1113_html.md ## CANN商业版-op\_arg\_def - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1114.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1114_html.md ## CANN商业版-op\_cache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1115.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1115_html.md ## CANN商业版-op\_cache\_container - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1116.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1116_html.md ## CANN商业版-op\_def - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1117.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1117_html.md ## CANN商业版-op\_dfx - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1118.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1118_html.md ## CANN商业版-AllocTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1120.html - Description: 申请一个device侧tensor,提供多个重载函数,可以指定不同的属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1120_html.md ## CANN商业版-AllocHostTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1121.html - Description: 申请一个host侧tensor,提供多个重载函数,可以指定不同的输入属性,如不同的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1121_html.md ## CANN商业版-AllocIntArray - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1122.html - Description: 申请一个aclIntArray,并使用指定内存中的值对其进行初始化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1122_html.md ## CANN商业版-AllocFloatArray - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1123.html - Description: 申请一个aclFloatArray,并使用指定内存中的值对其进行初始化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1123_html.md ## CANN商业版-AllocBoolArray - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1124.html - Description: 申请一个aclBoolArray,并使用指定内存中的值对其进行初始化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1124_html.md ## CANN商业版-AllocTensorList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1125.html - Description: 申请一个aclTensorList,并指定其内部包含的aclTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1125_html.md ## CANN商业版-AllocScalarList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1126.html - Description: 申请一个aclScalarList,并指定其内部包含的aclScalar。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1126_html.md ## CANN商业版-AllocScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1127.html - Description: 申请一个aclScalar对象,并对其赋值。通过多个重载函数,用于支持多种数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1127_html.md ## CANN商业版-ConvertToTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1128.html - Description: 将不同数据类型的host侧数据,转为一个host侧aclTensor对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1128_html.md ## CANN商业版-CommonOpExecutorRun - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1129.html - Description: 根据workspace、stream,执行算子executor上下文中的所有任务。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1129_html.md ## CANN商业版-ReleaseTo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1130.html - Description: 将UniqueExecutor中保存的aclOpExecutor指针,传递到L2一阶段输出的executor中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1130_html.md ## CANN商业版-GetWorkspaceSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1131.html - Description: 根据L2一阶段中调用的L0接口,计算需要的workspace大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1131_html.md ## CANN商业版-AbandonCache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1132.html - Description: 关闭aclnn cache缓存功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1132_html.md ## 预留接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1133.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1133_html.md ## CANN商业版-op\_log - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1134.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1134_html.md ## CANN商业版-GetCurrentPlatformInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1136.html - Description: 获取NPU平台信息,包括AI处理器型号、参数等信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1136_html.md ## CANN商业版-GetSocVersion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1137.html - Description: 获取AI处理器的短型号信息,格式形如Ascendxxx。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1137_html.md ## CANN商业版-GetSocLongVersion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1138.html - Description: 获取AI处理器的长型号信息,格式形如Ascendxxxyy。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1138_html.md ## CANN商业版-GetBlockSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1139.html - Description: 获取当前NPU平台上一个data block内存大小(单位Byte)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1139_html.md ## 预留接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1140.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1140_html.md ## CANN商业版-pool\_allocator - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1141.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1141_html.md ## CANN商业版-ToShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1143.html - Description: 将指定内存维度数据转为op::Shape(即gert::Shape)对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1143_html.md ## CANN商业版-ToShapeVector - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1144.html - Description: 提取输入Shape对象中的维度信息到一个ShapeVector(参见表3)容器。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1144_html.md ## CANN商业版-ToContiguousStrides - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1145.html - Description: 根据已有的shape信息,按照连续规则去推导对应的stride信息。例如shape为\[10, 20, 30\],那么推导出的stride为\[600, 30, 1\]。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1145_html.md ## CANN商业版-CheckBroadcastShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1146.html - Description: 校验两个shape间是否满足broadcast关系(广播规则介绍参考NumPy\(https://numpy.org/doc/stable/user/basics.broadcasting.html\)官网)。例如\[2, 1\]与\[2, 10\]满足broadcast关系,\[2, 2\]与\[2, 10\]不满足broadcast关系。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1146_html.md ## CANN商业版-BroadcastInferShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1147.html - Description: 对于满足broadcast关系(广播规则介绍参考NumPy\(https://numpy.org/doc/stable/user/basics.broadcasting.html\)官网)的两个shape,推导其broadcast后的shape。例如\[1, 10\]与\[2, 1\] broadcast后的shape为\[2, 10\]。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1147_html.md ## 预留接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1148.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1148_html.md ## CANN商业版-small\_vector - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1149.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1149_html.md ## CANN商业版-IsContiguous - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1151.html - Description: 判断输入tensor是否为一个连续tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1151_html.md ## 预留接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1152.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1152_html.md ## CANN商业版-IsComplexType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1155.html - Description: 判断输入的数据类型是否为复数类,包括Complex128、Complex64、Complex32。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1155_html.md ## CANN商业版-IsFloatingType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1156.html - Description: 判断输入的数据类型是否为浮点类型,包括Float64(即Double)、Float32(即Float)、BFloat16、Float16。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1156_html.md ## CANN商业版-IsIntegralType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1157.html - Description: 判断输入的数据类型是否为整数类型,包括Int8、Int16、Int32、Int64、Uint8、Uint16、Uint32、Uint64。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1157_html.md ## IsIntegralType(含bool) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1158.html - Description: 判断输入的数据类型是否为整数类型,包括Int8、Int16、Int32、Int64、Uint8、Uint16、Uint32、Uint64。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1158_html.md ## CANN商业版-CanCast - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1159.html - Description: 判断源数据类型是否可以cast到目的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1159_html.md ## CANN商业版-PromoteType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1160.html - Description: 不同数据类型参数进行运算时,推导应该将类型提升到何种数据类型进行计算。例如float16与float32进行运算,应该将float16先提升至float32后再做运算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1160_html.md ## AicpuTask类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1162.html - Description: AicpuTask类用于管理AI CPU task相关的一些参数和方法,包括组装task、task初始化、task下发、task执行等功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1162_html.md ## AicpuTaskSpace类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1163.html - Description: AicpuTaskSpace类用于管理AI CPU task复用相关的逻辑,包括新建task、查找task等功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1163_html.md ## CANN商业版-aicpu\_args\_handler - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1164.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1164_html.md ## CANN商业版-aicpu\_ext\_info\_handle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1165.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1165_html.md ## CANN商业版-aicpu\_utils - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1166.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1166_html.md ## CANN商业版-aicpu\_task - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1167.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1167_html.md ## CANN商业版-Cast - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1194.html - Description: 将输入tensor转换为指定的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1194_html.md ## CANN商业版-Contiguous - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1195.html - Description: 该函数为公共的L0接口,作用是将非连续tensor转换为连续tensor。 由于L2级API的输入tensor可能是非连续的,一般L0级算子只支持连续tensor作为输入,因此需要将tensor转为连续后再作为其他L0算子的输入。 输入tensor可以是连续的,接口内部会兼容处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1195_html.md ## CANN商业版-ViewCopy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1196.html - Description: 该函数为公共的L0接口,作用是将连续tensor搬运到连续或非连续tensor上。 由于L2级API的输出tensor可能是非连续的,需要通过该API将连续的tensor搬运到非连续的tensor上。 输出tensor可以是连续或非连续的,接口内部会兼容处理,但输入要求是连续的。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1196_html.md ## CANN商业版-Pad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1197.html - Description: 将输入tensor按照paddings的大小对各个维度进行填充,填充值为0。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1197_html.md ## CANN商业版-Reshape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1198.html - Description: 该函数不改变算子tensor数据,只是将用户传入的输入tensor x的shape转换成该函数的第二个参数shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1198_html.md ## CANN商业版-Slice - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1199.html - Description: 从输入tensor中提取所需的切片。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1199_html.md ## CANN商业版-Transpose - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1200.html - Description: 该函数不改变tensor数据的值,而是对tensor进行转置操作。 通过Transpose算子,可以改变tensor在不同维度上的排列顺序,实现对tensor的维度重排。 具体的是将用户传入的输入tensor x的shape按指定维度的排列顺序perm进行转置并输出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1200_html.md ## CANN商业版-TransData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1201.html - Description: 该函数不改变tensor数据的值,实现对tensor数据格式的转换。 具体功能是将用户输入tensor的format转换为指定的dstPrimaryFormat。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1201_html.md ## CANN商业版-TransDataSpecial - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1202.html - Description: 该函数不改变tensor数据的值,实现对tensor数据格式的转换,功能与TransData类似。 具体功能是将用户输入tensor的format转换为指定的dstPrimaryFormat。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1202_html.md ## CANN商业版-ReFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1203.html - Description: 该函数不改变tensor数据的值,在指定format和输入x的维度相同时,将输入数据格式设置为目标format。 具体功能是将用户输入tensor的viewFormat、originalFormat、storageFormat统一为指定的format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1203_html.md ## CANN商业版-IsNullptr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1204.html - Description: 判断输入的指针是否为空。若为空指针返回true、并打印错误日志,否则返回false。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1204_html.md ## CANN商业版-aclnn返回码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1205.html - Description: 调用接口时,常见的返回码如表1所示。对于异常状态码值,可通过“aclGetRecentErrMsg\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/runtimeapi/aclcppdevg\_03\_0028.html\)”接口获取异常信息,请根据报错提示排查问题或联系技术支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1205_html.md ## CANN商业版-op\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasascendc_api_07_1224.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasascendc_api_07_1224_html.md ## CANN商业版-Abs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0001.html - Description: 对输入Tensor取绝对值,其中绝对值y \= abs\(x\)应用于Tensor元素。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0001_html.md ## CANN商业版-Acos - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0002.html - Description: 计算给定输入Tensor的反余弦值(余弦的倒数),按元素计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0002_html.md ## CANN商业版-Acosh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0003.html - Description: 计算给定输入Tensor元素的反双曲余弦。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0003_html.md ## CANN商业版-AdaptiveAvgPool2D - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0004.html - Description: 对输入进行2d自适应平均池化计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0004_html.md ## CANN商业版-Add - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0006.html - Description: 按元素求和。 - A:输入Tensor,数据类型支持int8、int16、int32、int64、uint8、float、float16、double,数据格式支持ND。 - B:输入Tensor,数据类型与A相同,数据格式支持ND。 C:输出Tensor,数据类型与A相同,数据格式支持ND。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0006_html.md ## CANN商业版-AffineGrid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0008.html - Description: 给定一组3维的仿射参数矩阵\(theta\)以及输出图像的大小\(size\),生成一个2D或3D的网格,该网格表示仿射变换后图像的点在原图像上的坐标。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0008_html.md ## CANN商业版-And - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0009.html - Description: 完成Tensor A和Tensor B的逻辑与运算,并返回结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0009_html.md ## CANN商业版-ArgMax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0010.html - Description: 返回输入Tensor指定轴上最大值对应的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0010_html.md ## CANN商业版-ArgMin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0011.html - Description: 返回输入Tensor指定轴上最小值对应的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0011_html.md ## CANN商业版-AscendAntiQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0012.html - Description: 对输入x进行反重量化操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0012_html.md ## CANN商业版-AscendQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0015.html - Description: 对输入x进行量化操作,scale和offset的size需要是x的最后一维或1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0015_html.md ## CANN商业版-Asin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0018.html - Description: 计算给定输入Tensor的反正弦(正弦的逆),按元素计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0018_html.md ## CANN商业版-Asinh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0019.html - Description: 计算给定输入Tensor双曲反正弦。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0019_html.md ## CANN商业版-Atan - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0020.html - Description: 计算给定输入Tensor的反正切值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0020_html.md ## CANN商业版-Atanh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0021.html - Description: 计算给定输入Tensor的双曲反正切。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0021_html.md ## CANN商业版-AveragePool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0022.html - Description: 对输入Tensor进行平均池化操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0022_html.md ## CANN商业版-BatchNormalization - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0024.html - Description: 对输入Tensor进行批量归一化操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0024_html.md ## CANN商业版-BatchMultiClassNMS - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0025.html - Description: 计算输入Tensor boxes和scores的NMS,支持多个batch和class,抑制那些非极大值的元素,保留极大值元素。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0025_html.md ## CANN商业版-BitShift - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0026.html - Description: 元素级位移算子,按位移位运算符执行,按元素运算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0026_html.md ## CANN商业版-BitwiseAnd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0027.html - Description: 计算输入Tensor(A)中每个元素和输入Tensor(B) 的按位与的结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0027_html.md ## CANN商业版-BitwiseNot - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0028.html - Description: 按元素计算输入Tensor(x)的按位非。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0028_html.md ## CANN商业版-BitwiseOr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0029.html - Description: 计算Tensor(A)中每个元素与Tensor(B)中对应位置的元素的按位或。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0029_html.md ## CANN商业版-BitwiseXor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0030.html - Description: 计算输入Tensor(A)中每个元素与输入Tensor(B)中对应位置元素的按位异或。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0030_html.md ## CANN商业版-Cast - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0031.html - Description: 将输入Tensor的类型转换为指定的类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0031_html.md ## CANN商业版-Ceil - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0032.html - Description: 对输入Tensor(x)按元素执行向上取整。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0032_html.md ## CANN商业版-Celu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0033.html - Description: 对输入Tensor(x)中的每个元素调用连续可微指数线性单元。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0033_html.md ## CANN商业版-Clip - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0034.html - Description: 将输入Tensor的值剪辑到指定的最小值和最大值之间,即将其限制在一个间隔内。当‘min’大于‘max’时,剪辑操作符将所有输入Tensor设置为‘max’的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0034_html.md ## CANN商业版-Compress - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0036.html - Description: 沿给定轴从输入张量中选择切片,其中每个轴索引的condition计算结果为True。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0036_html.md ## CANN商业版-Concat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0037.html - Description: 对多个Tensor进行拼接,将张量列表连接成一个张量。所有输入张量必须具有相同的形状,但要连接的轴的维度大小除外。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0037_html.md ## CANN商业版-Constant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0038.html - Description: 构建一个常量Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0038_html.md ## CANN商业版-ConstantOfShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0039.html - Description: 生成具有给定值和shape的Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0039_html.md ## CANN商业版-Conv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0040.html - Description: 卷积,使用一个输入张量和一个滤波器,并且计算输出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0040_html.md ## CANN商业版-ConvTranspose - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0041.html - Description: - 转置卷积,使用一个输入张量和一个滤波器并计算输出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0041_html.md ## CANN商业版-Corr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0042.html - Description: 利用内核卷积图像计算相关性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0042_html.md ## CANN商业版-Cos - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0043.html - Description: 计算输入Tensor的余弦值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0043_html.md ## CANN商业版-Cosh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0044.html - Description: 计算输入Tensor的双曲余弦。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0044_html.md ## CANN商业版-Cumsum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0045.html - Description: 计算输入Tensor在给定axis上面的累加和。沿给定轴对输入元素执行累积求和。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0045_html.md ## CANN商业版-DeformableConv2D - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0046.html - Description: 在给定四维“X”、“filter” 和“offsets” Tensor的情况下计算二维可变形卷积。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0046_html.md ## CANN商业版-DepthToSpace - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0047.html - Description: 将数据从深度重新排列(置换)到空间数据块中,是 SpaceToDepth 的反向转换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0047_html.md ## CANN商业版-Det - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0048.html - Description: 计算方阵或多批次方阵行列式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0048_html.md ## CANN商业版-Div - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0049.html - Description: 按元素进行除法运算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0049_html.md ## CANN商业版-Dropout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0050.html - Description: Dropout 采用输入浮点张量、可选输入比率(浮点标量)和可选输入training\_mode(bool标量)。它产生两个张量输出output(浮点张量)和mask(可选)。如果training\_mode为true,则输出Y将为随机Dropout;请注意,此 Dropout按以下公式缩放掩码输入数据,因此要将训练后的模型转换为推理模式, 用户可以直接不传递input或将其设置为false。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0050_html.md ## CANN商业版-DynSeqOuter - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0051.html - Description: 按照偏移量求和。 - x1:输入Tensor,shape\=\[bs, featuredim\],bs: 单批数据个数,featuredim:特征维度,数据类型支持float16、float。 - x2:输入Tensor,shape\=\[bs, featuredim\],bs: 单批数据个数,featuredim:特征维度,数据类型支持float16、float。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0051_html.md ## CANN商业版-Einsum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0052.html - Description: Einsum算子使用爱因斯坦求和约定评估Tensor序列上的代数Tensor运算,形式为“term1, term2 -> y\_term”。公式字符串包含逗号分隔的小写字母序列。每个项对应于操作数Tensor,项中的字符对应于操作数维度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0052_html.md ## CANN商业版-Elu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0053.html - Description: 对输入Tensor x中的每个元素调用指数线性单元激活函数ELU,并将得到的结果存入输出张量y中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0053_html.md ## CANN商业版-EmbeddingBag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0054.html - Description: 根据indices从weight中获得一组被聚合的数,然后根据offsets的偏移和mode指定的聚合模式对获取的数进行max、sum、mean聚合。其余参数则更细化了计算过程的控制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0054_html.md ## CANN商业版-Equal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0055.html - Description: 计算两个输入Tensor是否有相同的大小和元素,返回一个bool类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0055_html.md ## CANN商业版-Erf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0056.html - Description: 返回输入Tensor中每个元素对应的高斯误差函数的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0056_html.md ## CANN商业版-Exp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0057.html - Description: 输出Tensor中的每个元素对应输入Tensor中每个元素的指数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0057_html.md ## CANN商业版-Expand - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0058.html - Description: 将输入Tensor广播到指定shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0058_html.md ## CANN商业版-EyeLike - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0059.html - Description: 生成一个2D矩阵,主对角线是1,其他为0。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0059_html.md ## CANN商业版-Flatten - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0060.html - Description: 将输入张量input展平为2D矩阵。如果输入张量的形状为\(d\_0, d\_1, ...d\_n\),则输出的形状为\(d\_0 * d\_1 ...d\_axis-1, d\_axis * ...* dn\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0060_html.md ## CANN商业版-Floor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0061.html - Description: 对输入Tensor x向下取整。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0061_html.md ## CANN商业版-Gather - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0062.html - Description: 对输入Tensor x中指定的维度dim进行数据切片。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0062_html.md ## CANN商业版-GatherElements - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0063.html - Description: 获取输入Tensor indices产生的索引,确定输入Tensor input的元素生成对应输入Tensor indices的位置的输出Tensor output。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0063_html.md ## CANN商业版-GatherND - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0064.html - Description: 对于秩r≥1的输入Tensor data,和秩q≥1的输入Tensor indices,将数据切片收集到秩为 \(q-1\) + \(r - indices\_shape\[-1\]\) 的输出Tensor output中。indices是一个q维的整型Tensor,可视作一个q-1维的由索引对构成的特殊张量(每个索引对是一个长度为indices\_shape\[-1\]的一维张量,每个索引对指向data中一个切片) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0064_html.md ## CANN商业版-Gemm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0065.html - Description: 计算alpha乘以A与B的乘积,再与β和input C的乘积求和。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0065_html.md ## CANN商业版-GlobalAveragePool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0066.html - Description: 传入一个输入Tensor,并在同一通道中的值上应用平均池化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0066_html.md ## CANN商业版-GlobalLpPool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0067.html - Description: 接收一个输入Tensor,并在同一通道内对其值应用LpPool池化操作。这相当于使用核大小等于输入张量空间维度的LpPool池化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0067_html.md ## CANN商业版-GlobalMaxPool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0068.html - Description: 输入一个张量,并对同一通道中的值取最大值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0068_html.md ## CANN商业版-Greater - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0069.html - Description: 按元素比较输入Tensor A和输入Tensor B的大小,若A>B,对应位置返回true。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0069_html.md ## CANN商业版-GreaterOrEqual - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0070.html - Description: 按元素比较输入Tensor A和Tensor B的大小,若A ≥ B,对应位置返回true。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0070_html.md ## CANN商业版-GridSample - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0071.html - Description: 给定一个输入Tensor x和一个输入Tensor grid网格,然后根据grid中每个位置提供的坐标信息,将x中对应位置的值填充到网格指定位置,得到最终输出Tensor y。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0071_html.md ## CANN商业版-GRU - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0072.html - Description: 计算单层GRU,通常通过一些自定义实现来支持此运算符。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0072_html.md ## CANN商业版-Hardmax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0073.html - Description: 根据axis找到指定轴,沿指定轴找出第一个最大值,该轴中第一个最大值位置设置为1,其余位置设置为0。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0073_html.md ## CANN商业版-HardSigmoid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0074.html - Description: HardSigmoid接受一个输入数据(Tensor)并生成一个输出数据(Tensor) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0074_html.md ## CANN商业版-HardSwish - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0075.html - Description: HardSwish激活函数,接受一个输入数据(Tensor)并生成一个输出数据(Tensor)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0075_html.md ## CANN商业版-LayerNormalization - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0076.html - Description: 层归一化函数。对指定层进行归一化计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0076_html.md ## CANN商业版-Identity - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0077.html - Description: 恒等运算符,将输入Tensor直接传递到输出Tensor,不进行任何计算或修改。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0077_html.md ## CANN商业版-LeakyReLU - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0078.html - Description: 对输入Tensor用leakyrelu函数激活。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0078_html.md ## CANN商业版-Less - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0079.html - Description: 对输入Tensor A和B逐元素执行小于逻辑运算,返回结果Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0079_html.md ## CANN商业版-LessOrEqual - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0080.html - Description: 对输入Tensor A和B逐元素执行小于等于逻辑运算,返回结果Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0080_html.md ## CANN商业版-If - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0081.html - Description: 条件分支运算符,基于一个布尔条件,选择性地执行两个不同的子图(then\_branch 和 else\_branch)中的一个,并将所选子图的输出传递到外部作用域。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0081_html.md ## CANN商业版-InstanceNormalization - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0082.html - Description: 实例归一化运算符。 其中mean和variance是每个实例每个通道的均值和方差。 - x: 输入Tensor,数据类型支持float16、float。 - scale:1维输入Tensor,维度同x的C轴长度,和输入x同样的数据类型。 - B:1维输入Tensor,维度同x的C轴长度,和输入x同样的数据类型。 epsilon:数据类型为float, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0082_html.md ## CANN商业版-IsInf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0083.html - Description: 将输入Tensor的无穷大元素映射为true,将其他值映射为false。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0083_html.md ## CANN商业版-IsNaN - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0084.html - Description: 将输入Tensor的NaN元素映射为true,将其他值映射为false。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0084_html.md ## CANN商业版-Log - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0085.html - Description: 逐元素计算给定输入Tensor的自然对数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0085_html.md ## CANN商业版-LogSoftmax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0086.html - Description: 该运算符计算给定输入Tensor的softmax值的对数: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0086_html.md ## CANN商业版-LpNormalization - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0087.html - Description: 给定一个矩阵,沿给定的轴应用LpNormalization。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0087_html.md ## CANN商业版-LpPool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0088.html - Description: Lp范数池化。接收输入Tensor x,并根据内核大小、步幅大小和填充长度对Tensor进行Lp池化。Lp池化包括计算输入Tensor的一个子集的所有值的Lp范数,并根据内核大小对数据进行降采样,将其放入输出Tensor y以供进一步处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0088_html.md ## CANN商业版-LRN - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0089.html - Description: 对输入Tensor局部输入区域进行归一化,局部区域是跨通道定义的。对于shape为\(N x C x D1 x D2, ..., Dk\)的Tensor x\[n, c, d1, ..., dk\],其区域定义为 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0089_html.md ## CANN商业版-LSTM - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0090.html - Description: 计算单层LSTM。 - x:输入Tensor,数据类型支持float16。 - w:输入Tensor,数据类型支持float16。 - r:输入Tensor,数据类型支持float16。 - b(可选):输入Tensor,数据类型支持float16。 - sequencelens(可选):输入Tensor,数据类型支持int32。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0090_html.md ## CANN商业版-LSTMP - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0091.html - Description: 计算单层LSTMP。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0091_html.md ## CANN商业版-MatMul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0092.html - Description: 矩阵乘积,其行为类似于numpy.matmul。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0092_html.md ## CANN商业版-Max - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0093.html - Description: 元素级比较输入Tensor的大小。对输入Tensor列表中每个输入Tensor进行逐元素的最大值计算。所有输入和输出必须具有相同的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0093_html.md ## CANN商业版-MaxPool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0094.html - Description: MaxPool接收输入Tensor x,并根据内核大小、步幅大小和填充长度对Tensor进行最大池化。最大池化包括根据内核大小计算输入Tensor的一个子集的所有值的最大值,并将数据降采样到输出Tensor y以供进一步处理。输出的空间形状根据是否使用显式填充、是否使用pads或是否使用auto\_pad(自动填充)来计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0094_html.md ## CANN商业版-MaxRoiPool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0095.html - Description: ROI最大池消耗一个输入TensorX和感兴趣区域(ROI),以便在每个ROI上应用最大池化,从而产生输出的4-D形状Tensor(num\_roi, channels, pooled\_shape\[0\], pooled\_shape\[1\])。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0095_html.md ## CANN商业版-MaxUnpool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0096.html - Description: MaxUnpool本质上计算了MaxPool操作的部分逆运算。此操作的输入信息通常是MaxPool操作的输出信息。第一个输入Tensor x是需要解除池化的张量,通常是MaxPool的第一个输出(池化张量)。第二个输入Tensor i包含对应于第一个输入Tensor x中元素的(局部最大)元素的索引。输入Tensor i通常是MaxPool操作的第二个输出。第三个(可选)输入是一个Tensor,指 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0096_html.md ## CANN商业版-Mean - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0097.html - Description: 对输入Tensor列表中每个输入Tensor的元素求均值(支持numpy风格的广播)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0097_html.md ## CANN商业版-MeanVarianceNormalization - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0098.html - Description: 对输入Tensor x进行均值方差标准化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0098_html.md ## CANN商业版-Min - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0099.html - Description: 计算输入Tensor中元素的最小值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0099_html.md ## CANN商业版-Mod - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0100.html - Description: 执行逐元素取模(支持numpy风格的广播)。余数的符号与除数的符号相同。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0100_html.md ## CANN商业版-MovingSumWithSigmoid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0101.html - Description: 对输入alpha进行滑窗求和,输入energy做Sigmoid计算,两者乘积生成输出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0101_html.md ## CANN商业版-Mul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0102.html - Description: 执行逐元素乘法计算(支持numpy风格的广播)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0102_html.md ## CANN商业版-Multinomial - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0103.html - Description: 在输入x中根据每个对象分布的概率,抽取numSamples个样本,并将这些样本的索引存储在输出y中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0103_html.md ## CANN商业版-Neg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0104.html - Description: 对输入Tensor逐元素取负数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0104_html.md ## CANN商业版-NonMaxSuppression - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0106.html - Description: 从众多重叠的候选边界框中筛选出最优的边界框,过滤掉与先前选定的框有较高重叠的“交集-并集”\(IOU\)框。移除得分小于score\_threshold的边界框。边界框格式由属性center\_point\_box表示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0106_html.md ## CANN商业版-NonZero - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0107.html - Description: 返回非零元素的索引(行主序)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0107_html.md ## CANN商业版-Not - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0108.html - Description: 对输入Tensor逐元素执行逻辑非。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0108_html.md ## CANN商业版-OneHot - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0109.html - Description: 对长度为n的输入Tensor, 经过one\_hot的计算后得到一个元素数量为n*k的输出Tensor,其中k的值为numClasses。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0109_html.md ## CANN商业版-Or - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0110.html - Description: 对输入Tensor逐元素执行逻辑或操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0110_html.md ## CANN商业版-Pad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0111.html - Description: 对输入Tensor进行填充。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0111_html.md ## CANN商业版-Pow - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0112.html - Description: 计算输入X的Y次幂。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0112_html.md ## CANN商业版-RandomNormal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0113.html - Description: 生成具有从正态分布绘制的随机值的Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0113_html.md ## CANN商业版-RandomNormalLike - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0114.html - Description: 根据正态分布生成随机数矩阵。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0114_html.md ## CANN商业版-RandomUniform - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0115.html - Description: 生成具有从均匀分布绘制的随机值的Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0115_html.md ## CANN商业版-RandomUniformLike - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0116.html - Description: 根据均匀分布生成随机数矩阵。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0116_html.md ## CANN商业版-Range - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0117.html - Description: 从start起始到end结束按照step的间隔取值,生成连续序列的Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0117_html.md ## CANN商业版-Reciprocal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0118.html - Description: 对输入Tensor逐元素取倒数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0118_html.md ## CANN商业版-ReduceL1 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0119.html - Description: 根据所提供的轴计算输入Tensor元素的L1范数(即元素绝对值的和)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0119_html.md ## CANN商业版-ReduceL2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0120.html - Description: 沿所提供的轴计算输入Tensor元素的L2范数(欧几里得范数)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0120_html.md ## CANN商业版-ReduceLogSum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0121.html - Description: 沿所提供的轴计算输入Tensor的对数和。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0121_html.md ## CANN商业版-ReduceLogSumExp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0122.html - Description: 沿所提供的轴计算输入Tensor对数和的指数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0122_html.md ## CANN商业版-ReduceMean - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0123.html - Description: 计算输入Tensor的指定维度的元素的均值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0123_html.md ## CANN商业版-ReduceMin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0124.html - Description: 沿着指定的轴计算输入Tensor元素的最小值。如果 keepdims 等于1,那么生成的Tensor与输入Tensor具有相同的维数。如果 keepdims 等于 0,那么生成的Tensor会去除被缩减的维度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0124_html.md ## CANN商业版-ReduceProd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0125.html - Description: 计算输入Tensor的元素沿所指定的轴的乘积。如果keepdims等于1,得到的Tensor的维数与输入Tensor相同。如果keepdims等于0,那么生成的Tensor会去除被缩减的维度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0125_html.md ## CANN商业版-ReduceSumSquare - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0126.html - Description: 沿所指定的轴计算输入Tensor元素的平方和。如果keepdims等于1,得到的Tensor的维数与输入的相同。如果keepdims等于0,那么生成的Tensor会去除被缩减的维度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0126_html.md ## CANN商业版-ReduceSum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0127.html - Description: 计算输入Tensor指定维度的元素的和。如果keepdims等于1,得到的Tensor的维数与输入的相同。如果keepdims等于0,那么生成的Tensor会去除被缩减的维度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0127_html.md ## CANN商业版-ReduceMax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0128.html - Description: 计算输入Tensor沿指定维度的最大值。如果keepdims等于1,得到的Tensor的维数与输入的相同。如果keepdims等于0,那么生成的Tensor会去除被缩减的维度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0128_html.md ## CANN商业版-ReLU - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0129.html - Description: 激活函数,返回与输入Tensor shape相同的Tensor,Tensor中value大于0时,取值为该value,否则取0。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0129_html.md ## CANN商业版-Reshape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0130.html - Description: 改变输入Tensor的形状。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0130_html.md ## CANN商业版-Resize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0131.html - Description: 根据scales调整输入Tensor的大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0131_html.md ## CANN商业版-ReverseSequence - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0132.html - Description: 根据指定的不同长度对序列批次进行反转。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0132_html.md ## CANN商业版-RoiAlign - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0133.html - Description: 在每个ROI(Region of Interest)区域进行池化处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0133_html.md ## CANN商业版-RoiExtractor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0135.html - Description: 从特征映射列表中获取ROI(Region of Interest)特征矩阵。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0135_html.md ## CANN商业版-Round - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0136.html - Description: 对输入Tensor做四舍五入的运算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0136_html.md ## CANN商业版-PReLU - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0137.html - Description: PReLU激活函数。Tensor中value大于0,则取该value,小于0时取权重与value的乘积。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0137_html.md ## CANN商业版-Scatter - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0138.html - Description: 根据updates和indices来更新data的值,并将结果返回。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0138_html.md ## CANN商业版-ScatterElements - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0139.html - Description: 根据updates和indices来更新data的值,并把结果返回。与Scatter不同的是它提供了更精细的控制,允许指定要更新的元素在维度上的具体位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0139_html.md ## CANN商业版-ScatterND - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0140.html - Description: 创建data的拷贝,同时在指定indices处根据updates更新。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0140_html.md ## CANN商业版-SELU - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0141.html - Description: 在元素级别使用指数线性单位函数SELU对Tensor进行计算并输出结果Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0141_html.md ## CANN商业版-Shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0143.html - Description: 获取输入Tensor的shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0143_html.md ## CANN商业版-Shrink - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0144.html - Description: 对输入张量进行非线性变换,根据输入值data与阈值lambda的关系,对输入通过偏移量bias进行缩放和偏移处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0144_html.md ## CANN商业版-Sigmoid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0145.html - Description: 对输入Tensor每个元素进行sigmoid运算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0145_html.md ## CANN商业版-Sign - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0146.html - Description: 逐元素计算输入Tensor的符号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0146_html.md ## CANN商业版-Sin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0147.html - Description: 计算输入Tensor的正弦值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0147_html.md ## CANN商业版-Sinh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0148.html - Description: 计算输入tensor双曲正弦值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0148_html.md ## CANN商业版-Size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0149.html - Description: 计算输入Tensor中元素的个数 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0149_html.md ## CANN商业版-Slice - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0150.html - Description: 沿多个轴生成输入Tensor的切片,通过starts、ends、axes、steps确定每个切片的位置和大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0150_html.md ## CANN商业版-Softmax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0151.html - Description: 对输入Tensor应用Softmax函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0151_html.md ## CANN商业版-SoftmaxCrossEntropyLoss - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0152.html - Description: 损失函数,用于计算score和label之间的SoftmaxCrossEntropy损失。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0152_html.md ## CANN商业版-Softplus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0153.html - Description: 对输入Tensor应用逐元素的Softplus函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0153_html.md ## CANN商业版-Softsign - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0154.html - Description: 对输入Tensor应用逐元素的Softsign函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0154_html.md ## CANN商业版-SpaceToDepth - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0155.html - Description: 将输入Tensor中空间维度的数据重新排列到深度维度,即将高度和宽度维度的数据移动到深度维度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0155_html.md ## CANN商业版-Split - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0156.html - Description: 将输入Tensor沿指定轴拆分成多个Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0156_html.md ## CANN商业版-Sqrt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0157.html - Description: 对输入Tensor逐元素计算平方根。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0157_html.md ## CANN商业版-Squeeze - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0158.html - Description: 移除输入Tensor的shape中数值为1的维度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0158_html.md ## CANN商业版-Sub - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0159.html - Description: 对输入Tensor执行逐元素的减法 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0159_html.md ## CANN商业版-Sum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0160.html - Description: 对输入的所有Tensor执行逐元素的求和。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0160_html.md ## CANN商业版-Tan - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0161.html - Description: 逐元素计算输入Tensor的正切值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0161_html.md ## CANN商业版-Tanh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0162.html - Description: 逐元素计算输入Tensor的双曲正切值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0162_html.md ## CANN商业版-TfIdfVectorizer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0163.html - Description: 从输入Tensor中提取n-grams,并将其保存为向量形式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0163_html.md ## CANN商业版-ThresholdedRelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0164.html - Description: 对输入Tensor应用逐元素的ThresholdedRelu函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0164_html.md ## CANN商业版-Tile - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0165.html - Description: 将输入的张量沿指定轴重复多次,但不进行广播。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0165_html.md ## CANN商业版-TopK - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0166.html - Description: 沿输入Tensor的指定轴获取前K个最大或最小的元素。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0166_html.md ## CANN商业版-Transpose - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0167.html - Description: 对输入Tensor进行转置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0167_html.md ## CANN商业版-Trilu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0168.html - Description: 获取一个二维矩阵或一批二维矩阵的上三角或下三角部分,即输入Tensor的shape为\[*, N, M\],其中*表示零个或多个维度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0168_html.md ## CANN商业版-Unsqueeze - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0169.html - Description: 在输入Tensor的指定轴插入一个大小为1的维度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0169_html.md ## CANN商业版-Where - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0170.html - Description: 根据condition,从X或Y中返回相应的元素。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0170_html.md ## CANN商业版-Xor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0171.html - Description: 对输入Tensor A和B执行逐元素的异或操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0171_html.md ## 算子说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/atlasoxol_09_0174.html - Description: 当前算子接口存在以下约束: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_atlasoxol_09_0174_html.md ## 两段式接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/common/%E4%B8%A4%E6%AE%B5%E5%BC%8F%E6%8E%A5%E5%8F%A3.md - Description: 基于单算子API执行方式调用算子API时,通常分为“两段式”,样式形如: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_common__md.md ## 互推导关系 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/common/%E4%BA%92%E6%8E%A8%E5%AF%BC%E5%85%B3%E7%B3%BB.md - Description: 当一个API(如aclnnAdd、aclnnMul等)**输入的aclTensor数据类型**不一致时,API内部会推导出一个数据类型,将输入数据转换成该数据类型进行计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_common__md.md ## 互转换关系 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/common/%E4%BA%92%E8%BD%AC%E6%8D%A2%E5%85%B3%E7%B3%BB.md - Description: 当一个API(如aclnnAdd、aclnnMul等)**输出的aclTensor数据类型**与**输入的数据类型**推导后的计算类型不一致时,API内部就会将计算结果转换成输出类型对应的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_common__md.md ## 数据格式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/common/%E6%95%B0%E6%8D%AE%E6%A0%BC%E5%BC%8F.md - Description: 数据格式(format)是用于描述一个多维Tensor的轴的业务语义,表示数据的物理排布格式,如1D、2D、3D、4D、5D等,一般在CNN(Convolutional Neural Networks)类的API中需要描述具体的格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_common__md.md ## 数据类型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/common/%E6%95%B0%E6%8D%AE%E7%B1%BB%E5%9E%8B.md - Description: 通过**aclCreateTensor**接口创建aclTensor时,支持的全量数据类型参见\[《Runtime运行时 API》\]\(https://www.hiascend.com/document/detail/zh/canncommercial/900/API/runtimeapi/aclcppdevg\_03\_0019.html\)中“数据类型及其操作接口>aclDataType”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_common__md.md ## 数据结构 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/common/%E6%95%B0%E6%8D%AE%E7%BB%93%E6%9E%84.md - Description: 本章提供了调用CANN算子API依赖的基础数据结构,**开发者无需关注其内部实现,直接使用即可**。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_common__md.md ## 编译与运行样例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/common/%E7%BC%96%E8%AF%91%E4%B8%8E%E8%BF%90%E8%A1%8C%E6%A0%B7%E4%BE%8B_cv.md - Description: - 如需编译执行算子API,请确保基础环境已搭建完成,包括驱动、固件、CANN软件包、ops包等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_common__cv_md.md ## 编译与运行样例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/common/%E7%BC%96%E8%AF%91%E4%B8%8E%E8%BF%90%E8%A1%8C%E6%A0%B7%E4%BE%8B_nn.md - Description: - 如需编译执行算子API,请确保基础环境已搭建完成,包括驱动、固件、CANN软件包、ops包等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_common__nn_md.md ## 编译与运行样例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/common/%E7%BC%96%E8%AF%91%E4%B8%8E%E8%BF%90%E8%A1%8C%E6%A0%B7%E4%BE%8B_trans.md - Description: - 如需编译执行算子API,请确保基础环境已搭建完成,包括驱动、固件、CANN软件包、ops包等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_common__trans_md.md ## 编译与运行样例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/common/%E7%BC%96%E8%AF%91%E4%B8%8E%E8%BF%90%E8%A1%8C%E6%A0%B7%E4%BE%8B.md - Description: - 如需编译执行算子API,请确保基础环境已搭建完成,包括驱动、固件、CANN软件包、ops包等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_common__md.md ## 量化介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/common/%E9%87%8F%E5%8C%96%E4%BB%8B%E7%BB%8D.md - Description: 量化广泛应用于深度学习模型中,特别是在推理过程中。通过量化,模型可以在硬件上更高效地运行,减少计算资源的消耗和加速推理过程,同时降低模型的存储需求。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_common__md.md ## 非连续的Tensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/common/%E9%9D%9E%E8%BF%9E%E7%BB%AD%E7%9A%84Tensor.md - Description: 目前大部分算子API的输入aclTensor支持“**非连续的Tensor**”,即一个Tensor可以通过\(shape, strides, offset\)表示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_common_Tensor_md.md ## CANN商业版-aclnn返回码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/common/aclnn%E8%BF%94%E5%9B%9E%E7%A0%81_cv.md - Description: 调用aclnn API时,常见的接口返回码如表1所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_common_aclnn_cv_md.md ## CANN商业版-aclnn返回码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/common/aclnn%E8%BF%94%E5%9B%9E%E7%A0%81_nn.md - Description: 调用aclnn API时,常见的接口返回码如表1所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_common_aclnn_nn_md.md ## CANN商业版-aclnn返回码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/common/aclnn%E8%BF%94%E5%9B%9E%E7%A0%81_trans.md - Description: 调用aclnn API时,常见的接口返回码如表1所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_common_aclnn_trans_md.md ## CANN商业版-aclnn返回码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/common/aclnn%E8%BF%94%E5%9B%9E%E7%A0%81.md - Description: 调用aclnn API时,常见的接口返回码如表1所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_common_aclnn_md.md ## broadcast关系 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/common/broadcast%E5%85%B3%E7%B3%BB.md - Description: broadcast(广播)描述了算子在运算期间如何处理不同形状的张量(或数组)。大部分情况下,允许不同形状的张量(或数组)在进行元素操作时自动扩展其形状,使其维度相互兼容,通常较小的张量(或数组)会“广播”为较大的张量(或数组)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_common_broadcast_md.md ## sparseMode介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/common/sparse_mode%E5%8F%82%E6%95%B0%E8%AF%B4%E6%98%8E.md - Description: 在大模型领域,sparseMode(稀疏模式)通常指模型架构或计算公式中参数或激活的稀疏性设计,与稠密模式(DenseMode)相对。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_common_sparse_mode_md.md ## CANN商业版-aclnnBackgroundReplace - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnBackgroundReplace.md - Description: - 接口功能: 将输入的新的背景图片与已有图片进行融合,通过掩码的方式将背景替换为新的背景。 - 计算公式: $$ out \= bkg \(1 - mask\) + src mask $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnBackgroundReplace_md.md ## CANN商业版-aclnnBlendImagesCustom - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnBlendImagesCustom.md - Description: - 接口功能:完成张量rgb、frame和alpha的透明度乘法计算。 - 计算公式: $$ out\{i3\}\=rgb\{i3\} \(alphai / 255\) + frame\{i3\}\(1 - alphai/255\) $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnBlendImagesCustom_md.md ## CANN商业版-aclnnCIoU - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnCIoU.md - Description: 接口功能:用于边界框回归的损失函数,在IoU的基础上同时考虑了中心点距离、宽高比和重叠面积,以更全面地衡量预测框与真实框之间的差异。 计算公式: $$ CIoU \= IoU - \\frac\{\\rho^2\(b^p, b^g\)\}\{c^2\} - \\alpha v \\ v \= \\frac\{4\}\{\\pi^2\}\(arctan\(\\frac\{w^g\}\{h^g\}\) - arctan\(\\frac\{w^p\}\{h^p\} - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnCIoU_md.md ## CANN商业版-aclnnGridSampler2D - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnGridSampler2D.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/grid\_sample\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnGridSampler2D_md.md ## CANN商业版-aclnnGridSampler2DBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnGridSampler2DBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/grid\_sampler2\_d\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnGridSampler2DBackward_md.md ## CANN商业版-aclnnGridSampler3D - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnGridSampler3D.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/grid\_sample\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnGridSampler3D_md.md ## CANN商业版-aclnnGridSampler3DBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnGridSampler3DBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/grid\_sampler3\_d\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnGridSampler3DBackward_md.md ## CANN商业版-aclnnIm2colBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnIm2colBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/col2im\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnIm2colBackward_md.md ## CANN商业版-aclnnIou - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnIou.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/objdetect/iou\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnIou_md.md ## CANN商业版-aclnnMrgbaCustom - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnMrgbaCustom.md - Description: - 接口功能:完成张量rgb和张量alpha的透明度乘法计算 - 计算公式:out \= rgb \(\(broadcast\)alpha/255\) - 示例: 假设rgb是一张三通道彩色图片,alpha是其对应的透明度(单通道),使用该算子后可以将该图片生成带透明度的三通道图片。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnMrgbaCustom_md.md ## CANN商业版-aclnnNonMaxSuppression - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnNonMaxSuppression.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/objdetect/non\_max\_suppression\_v6\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnNonMaxSuppression_md.md ## CANN商业版-aclnnRasterizer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnRasterizer.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/rasterizer\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnRasterizer_md.md ## CANN商业版-aclnnResize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnResize.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/resize\_bilinear\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnResize_md.md ## CANN商业版-aclnnRoiAlign - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnRoiAlign.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/objdetect/roi\_align\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnRoiAlign_md.md ## CANN商业版-aclnnRoiAlignV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnRoiAlignV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/objdetect/roi\_align\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnRoiAlignV2_md.md ## CANN商业版-aclnnRoiAlignV2Backward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnRoiAlignV2Backward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/objdetect/roi\_align\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnRoiAlignV2Backward_md.md ## CANN商业版-aclnnRoiPoolingGradWithArgMax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnRoiPoolingGradWithArgMax.md - Description: - 接口功能:实现RoiPoolingWithArgMax的反向。遍历每个ROI的池化结果,将feature map坐标上的反向梯度贡献累加,即完成整张图上的反向计算。 - 计算公式: $$ \\frac\{\\partial L\}\{\\partial xi\} \= \\sum\{r\}\\sum\{j\}\[i \= i^\(r,j\)\]\\frac\{\\partial L\}\{\\partial y\{rj\}\} $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnRoiPoolingGradWithArgMax_md.md ## CANN商业版-aclnnRoiPoolingWithArgMax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnRoiPoolingWithArgMax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/objdetect/roi\_pooling\_with\_arg\_max\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnRoiPoolingWithArgMax_md.md ## CANN商业版-aclnnThreeInterpolateBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnThreeInterpolateBackward.md - Description: - 接口功能:根据gradx, idx, weight进行三点插值计算梯度得到grady。 - 计算公式: $$ grady\[b,c,idx\[b,n,i\]\] \= grady\[b,c,idx\[b,n,i\]\] + gradx\[b,c,n\]weight\[b,n,i\]\\ i\\in\[0,2\]\\ b\\in\[0,B\) \\ c\\in\[0,C\) \\ n\\in\[0,N\) $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnThreeInterpolateBackward_md.md ## CANN商业版-aclnnUpsampleBicubic2d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleBicubic2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_bicubic2d\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleBicubic2d_md.md ## CANN商业版-aclnnUpsampleBicubic2dAA - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleBicubic2dAA.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_bicubic2d\_aa\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleBicubic2dAA_md.md ## CANN商业版-aclnnUpsampleBicubic2dAAGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleBicubic2dAAGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_bicubic2d\_aa\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleBicubic2dAAGrad_md.md ## CANN商业版-aclnnUpsampleBicubic2dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleBicubic2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_bicubic2d\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleBicubic2dBackward_md.md ## CANN商业版-aclnnUpsampleBilinear2d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleBilinear2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_bilinear2d\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleBilinear2d_md.md ## CANN商业版-aclnnUpsampleBilinear2dAA - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleBilinear2dAA.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_bilinear2d\_aa\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleBilinear2dAA_md.md ## CANN商业版-aclnnUpsampleBilinear2dAABackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleBilinear2dAABackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_bilinear2d\_aa\_backward\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleBilinear2dAABackward_md.md ## CANN商业版-aclnnUpsampleBilinear2dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleBilinear2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/resize\_bilinear\_v2\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleBilinear2dBackward_md.md ## CANN商业版-aclnnUpsampleBilinear2dBackwardV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleBilinear2dBackwardV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_bilinear2d\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleBilinear2dBackwardV2_md.md ## CANN商业版-aclnnUpsampleLinear1d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleLinear1d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_linear1d\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleLinear1d_md.md ## CANN商业版-aclnnUpsampleLinear1dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleLinear1dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_bilinear2d\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleLinear1dBackward_md.md ## CANN商业版-aclnnUpsampleNearest1d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearest1d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/resize\_nearest\_neighbor\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleNearest1d_md.md ## CANN商业版-aclnnUpsampleNearest1dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearest1dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest2d\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleNearest1dBackward_md.md ## CANN商业版-aclnnUpsampleNearest1dV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearest1dV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest3d\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleNearest1dV2_md.md ## CANN商业版-aclnnUpsampleNearest2d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearest2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/resize\_nearest\_neighbor\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleNearest2d_md.md ## CANN商业版-aclnnUpsampleNearest2dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearest2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest2d\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleNearest2dBackward_md.md ## CANN商业版-aclnnUpsampleNearest2dV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearest2dV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest3d\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleNearest2dV2_md.md ## CANN商业版-aclnnUpsampleNearest3d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearest3d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest3d\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleNearest3d_md.md ## CANN商业版-aclnnUpsampleNearest3dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearest3dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest3d\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleNearest3dBackward_md.md ## CANN商业版-aclnnUpsampleNearestExact1d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearestExact1d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleNearestExact1d_md.md ## CANN商业版-aclnnUpsampleNearestExact1dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearestExact1dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest\_exact2d\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleNearestExact1dBackward_md.md ## CANN商业版-aclnnUpsampleNearestExact2d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearestExact2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleNearestExact2d_md.md ## CANN商业版-aclnnUpsampleNearestExact2dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearestExact2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest\_exact2d\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleNearestExact2dBackward_md.md ## CANN商业版-aclnnUpsampleNearestExact3d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearestExact3d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest\_exact3d\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleNearestExact3d_md.md ## CANN商业版-aclnnUpsampleNearestExact3dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearestExact3dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest\_exact3d\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleNearestExact3dBackward_md.md ## CANN商业版-aclnnUpsampleTrilinear3d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleTrilinear3d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/resize\_upsample\_trilinear\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleTrilinear3d_md.md ## CANN商业版-aclnnUpsampleTrilinear3dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/aclnnUpsampleTrilinear3dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_trilinear3d\_backward\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_aclnnUpsampleTrilinear3dBackward_md.md ## 算子接口(aclnn) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-cv/op_api_list.md - Description: 为方便调用算子,提供一套基于C的API(以aclnn为前缀API),无需提供IR(Intermediate Representation)定义,方便高效构建模型与应用开发,该方式被称为“单算子API调用”,简称aclnn调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-cv_op_api_list_md.md ## CANN商业版-aclnnAbs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAbs.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/abs\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAbs_md.md ## CANN商业版-aclnnAcos&aclnnInplaceAcos - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAcos%26aclnnInplaceAcos.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/acos\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAcosaclnnInplaceAcos_md.md ## CANN商业版-aclnnAcosh&aclnnInplaceAcosh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAcosh%26aclnnInplaceAcosh.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/acosh\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAcoshaclnnInplaceAcosh_md.md ## CANN商业版-aclnnAdd&aclnnInplaceAdd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAdd%26aclnnInplaceAdd.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/add\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAddaclnnInplaceAdd_md.md ## CANN商业版-aclnnAddcdiv&aclnnInplaceAddcdiv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAddcdiv%26aclnnInplaceAddcdiv.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/addcdiv\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAddcdivaclnnInplaceAddcdiv_md.md ## CANN商业版-aclnnAddcmul&aclnnInplaceAddcmul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAddcmul%26aclnnInplaceAddcmul.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/addcmul\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAddcmulaclnnInplaceAddcmul_md.md ## CANN商业版-aclnnAddLora - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAddLora.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/add\_lora\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAddLora_md.md ## CANN商业版-aclnnAddr&aclnnInplaceAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAddr%26aclnnInplaceAddr.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/addr\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAddraclnnInplaceAddr_md.md ## CANN商业版-aclnnAdds - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAdds.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/add\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAdds_md.md ## CANN商业版-aclnnAddV3&aclnnInplaceAddV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAddV3%26aclnnInplaceAddV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/add\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAddV3aclnnInplaceAddV3_md.md ## CANN商业版-aclnnAffineGrid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAffineGrid.md - Description: 给定一组3维的仿射参数矩阵\(theta\)以及输出图像的大小\(size\),生成一个2D或3D的网格,该网格表示仿射后图像的点在原图像上的坐标。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAffineGrid_md.md ## CANN商业版-aclnnAll - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAll.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_all\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAll_md.md ## CANN商业版-aclnnAmax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAmax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_max\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAmax_md.md ## CANN商业版-aclnnAmin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAmin.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_min\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAmin_md.md ## CANN商业版-aclnnAminmax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAminmax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_min\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAminmax_md.md ## CANN商业版-aclnnAminmaxAll - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAminmaxAll.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_min\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAminmaxAll_md.md ## CANN商业版-aclnnAminmaxDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAminmaxDim.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_min\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAminmaxDim_md.md ## CANN商业版-aclnnAngleV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAngleV2.md - Description: - 接口功能:为输入张量的每一个元素取角度(单位:弧度)。 - 计算公式: $$ outi \= angle\(xi\) $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAngleV2_md.md ## CANN商业版-aclnnAny - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAny.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_any\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAny_md.md ## CANN商业版-aclnnArange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnArange.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/range\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnArange_md.md ## CANN商业版-aclnnArgMax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnArgMax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/arg\_max\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnArgMax_md.md ## CANN商业版-aclnnArgMin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnArgMin.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/arg\_min\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnArgMin_md.md ## CANN商业版-aclnnAsin&aclnnInplaceAsin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAsin%26aclnnInplaceAsin.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/asin\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAsinaclnnInplaceAsin_md.md ## CANN商业版-aclnnAsinh&aclnnInplaceAsinh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAsinh%26aclnnInplaceAsinh.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/asinh\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAsinhaclnnInplaceAsinh_md.md ## CANN商业版-aclnnAtan&aclnnInplaceAtan - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAtan%26aclnnInplaceAtan.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/atan\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAtanaclnnInplaceAtan_md.md ## CANN商业版-aclnnAtan2&aclnnInplaceAtan2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAtan2%26aclnnInplaceAtan2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/atan2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAtan2aclnnInplaceAtan2_md.md ## CANN商业版-aclnnAtanh&aclnnInplaceAtanh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnAtanh%26aclnnInplaceAtanh.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/atanh\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnAtanhaclnnInplaceAtanh_md.md ## CANN商业版-aclnnBatchNormStats - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnBatchNormStats.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_std\_with\_mean\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnBatchNormStats_md.md ## CANN商业版-aclnnBernoulli&aclnnInplaceBernoulli - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnBernoulli%26aclnnInplaceBernoulli.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/stateless\_bernoulli\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnBernoulliaclnnInplaceBernoulli_md.md ## CANN商业版-aclnnBernoulliTensor&aclnnInplaceBernoulliTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnBernoulliTensor%26aclnnInplaceBernoulliTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/stateless\_bernoulli\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnBernoulliTensoraclnnInplaceBernoulliTensor_md.md ## CANN商业版-aclnnBincount - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnBincount.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/bincount\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnBincount_md.md ## CANN商业版-aclnnBitwiseAndScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnBitwiseAndScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/bitwise\_and\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnBitwiseAndScalar_md.md ## CANN商业版-aclnnBitwiseAndTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnBitwiseAndTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/bitwise\_and\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnBitwiseAndTensor_md.md ## CANN商业版-aclnnBitwiseAndTensorOut&aclnnInplaceBitwiseAndTensorOut - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnBitwiseAndTensorOut%26aclnnInplaceBitwiseAndTensorOut.md - Description: - 接口功能:输入为BOOL型tensor时,进行逻辑与运算;输入为INT型时,进行位与运算。 - 计算公式: $$ outi \= selfi & otheri $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnBitwiseAndTensorOutaclnnInplaceBitwiseAndTensorOut_md.md ## CANN商业版-aclnnBitwiseNot - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnBitwiseNot.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/bitwise\_not\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnBitwiseNot_md.md ## CANN商业版-aclnnBitwiseOrScalar&aclnnInplaceBitwiseOrScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnBitwiseOrScalar%26aclnnInplaceBitwiseOrScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/bitwise\_or\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnBitwiseOrScalaraclnnInplaceBitwiseOrScalar_md.md ## CANN商业版-aclnnBitwiseOrTensor&aclnnInplaceBitwiseOrTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnBitwiseOrTensor%26aclnnInplaceBitwiseOrTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/bitwise\_or\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnBitwiseOrTensoraclnnInplaceBitwiseOrTensor_md.md ## CANN商业版-aclnnBitwiseXorScalar&aclnnInplaceBitwiseXorScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnBitwiseXorScalar%26aclnnInplaceBitwiseXorScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/bitwise\_xor\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnBitwiseXorScalaraclnnInplaceBitwiseXorScalar_md.md ## CANN商业版-aclnnBitwiseOrTensor&aclnnInplaceBitwiseOrTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnBitwiseXorTensor%26aclnnInplaceBitwiseXorTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/bitwise\_or\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnBitwiseXorTensoraclnnInplaceBitwiseXorTensor_md.md ## CANN商业版-aclnnCalculateConvolutionWeightSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnCalculateConvolutionWeightSize.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/trans\_data\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnCalculateConvolutionWeightSize_md.md ## CANN商业版-aclnnCalculateMatmulWeightSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnCalculateMatmulWeightSize.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/trans\_data\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnCalculateMatmulWeightSize_md.md ## CANN商业版-aclnnCalculateMatmulWeightSizeV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnCalculateMatmulWeightSizeV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/trans\_data\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnCalculateMatmulWeightSizeV2_md.md ## CANN商业版-aclnnCast - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnCast.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/cast\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnCast_md.md ## CANN商业版-aclnnCdist - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnCdist.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/cdist\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnCdist_md.md ## CANN商业版-aclnnCdistBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnCdistBackward.md - Description: - 接口功能:完成aclnnCdist的反向。 - 计算公式: $$ \\begin\{aligned\} out&\=grad \\cdot y' \\ &\= grad \\cdot \\left\( \\sqrt\[p\]\{\\sum \(x1 - x2\)^p\} \\right\)' \\ &\= grad \\cdot \\frac\{1\}\{p\} \\times \\left\( \\sum \(x1 - x2\)^p \\r - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnCdistBackward_md.md ## CANN商业版-aclnnCeil&aclnnInplaceCeil - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnCeil%26aclnnInplaceCeil.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/ceil\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnCeilaclnnInplaceCeil_md.md ## CANN商业版-aclnnChannelShuffle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnChannelShuffle.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/transpose\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnChannelShuffle_md.md ## CANN商业版-aclnnChunkCat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnChunkCat.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/chunk\_cat\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnChunkCat_md.md ## CANN商业版-aclnnCircularPad2d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnCircularPad2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/circular\_pad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnCircularPad2d_md.md ## CANN商业版-aclnnCircularPad2dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnCircularPad2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/circular\_pad\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnCircularPad2dBackward_md.md ## CANN商业版-aclnnCircularPad3d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnCircularPad3d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/circular\_pad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnCircularPad3d_md.md ## CANN商业版-aclnnCircularPad3dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnCircularPad3dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/circular\_pad\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnCircularPad3dBackward_md.md ## CANN商业版-aclnnClamp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnClamp.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/clip\_by\_value\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnClamp_md.md ## CANN商业版-aclnnClampMax&aclnnInplaceClampMax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnClampMax%26aclnnInplaceClampMax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/clip\_by\_value\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnClampMaxaclnnInplaceClampMax_md.md ## CANN商业版-aclnnClampMaxTensor&aclnnInplaceClampMaxTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnClampMaxTensor%26aclnnInplaceClampMaxTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/clip\_by\_value\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnClampMaxTensoraclnnInplaceClampMaxTensor_md.md ## CANN商业版-aclnnClampMin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnClampMin.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/clip\_by\_value\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnClampMin_md.md ## CANN商业版-aclnnClampMinTensor&aclnnInplaceClampMinTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnClampMinTensor%26aclnnInplaceClampMinTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/clip\_by\_value\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnClampMinTensoraclnnInplaceClampMinTensor_md.md ## CANN商业版-aclnnClampTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnClampTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/clip\_by\_value\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnClampTensor_md.md ## CANN商业版-aclnnComplex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnComplex.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/complex\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnComplex_md.md ## CANN商业版-aclnnConfusionTranspose - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnConfusionTranspose.md - Description: - 接口功能: 融合reshape和transpose运算。 - 计算公式: 1. transposeFirst为False时: $$ y\=transpose\(reshape\(x,shape\),perm\) $$ 2. transposeFirst为True时: $$ y\=reshape\(transpose\(x,p - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnConfusionTranspose_md.md ## CANN商业版-aclnnConstantPadNd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnConstantPadNd.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/pad\_v3\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnConstantPadNd_md.md ## CANN商业版-aclnnCos&aclnnInplaceCos - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnCos%26aclnnInplaceCos.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/cos\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnCosaclnnInplaceCos_md.md ## CANN商业版-aclnnCosh&aclnnInplaceCosh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnCosh%26aclnnInplaceCosh.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/cosh\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnCoshaclnnInplaceCosh_md.md ## CANN商业版-aclnnCummax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnCummax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/cummax\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnCummax_md.md ## CANN商业版-aclnnCummin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnCummin.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/cummin\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnCummin_md.md ## CANN商业版-aclnnCumprod&aclnnInplaceCumprod - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnCumprod%26aclnnInplaceCumprod.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/cumprod\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnCumprodaclnnInplaceCumprod_md.md ## CANN商业版-aclnnCumsum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnCumsum.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/cumsum\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnCumsum_md.md ## CANN商业版-aclnnCumsumV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnCumsumV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/cumsum\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnCumsumV2_md.md ## CANN商业版-aclnnDiag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnDiag.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/diag\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnDiag_md.md ## CANN商业版-aclnnDiagFlat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnDiagFlat.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/diag\_flat\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnDiagFlat_md.md ## CANN商业版-aclnnDigamma - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnDigamma.md - Description: - 接口功能:为输入张量的每一个元素进行digamma数学运算 - 计算公式: $$ outi\= \\frac\{\{\\rm d\}\} \{\{\\rm d\}selfi\}loge\(\\Gamma\(|selfi|\)\) $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnDigamma_md.md ## CANN商业版-aclnnDiv&aclnnInplaceDiv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnDiv%26aclnnInplaceDiv.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/div\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnDivaclnnInplaceDiv_md.md ## CANN商业版-aclnnDivMod&aclnnInplaceDivMod - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnDivMod%26aclnnInplaceDivMod.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/div\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnDivModaclnnInplaceDivMod_md.md ## CANN商业版-aclnnDivMods&aclnnInplaceDivMods - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnDivMods%26aclnnInplaceDivMods.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/div\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnDivModsaclnnInplaceDivMods_md.md ## CANN商业版-aclnnDivs&aclnnInplaceDivs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnDivs%26aclnnInplaceDivs.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/div\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnDivsaclnnInplaceDivs_md.md ## CANN商业版-aclnnDot - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnDot.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/dot\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnDot_md.md ## CANN商业版-aclnnDropout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnDropout.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/dsa\_gen\_bit\_mask\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnDropout_md.md ## CANN商业版-aclnnDropoutBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnDropoutBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/drop\_out\_do\_mask\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnDropoutBackward_md.md ## CANN商业版-aclnnDropoutDoMask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnDropoutDoMask.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/drop\_out\_do\_mask\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnDropoutDoMask_md.md ## CANN商业版-aclnnDropoutGenMask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnDropoutGenMask.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/dsa\_gen\_bit\_mask\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnDropoutGenMask_md.md ## CANN商业版-aclnnDropoutGenMaskV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnDropoutGenMaskV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/dsa\_gen\_bit\_mask\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnDropoutGenMaskV2_md.md ## CANN商业版-aclnnDropoutGenMaskV2Tensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnDropoutGenMaskV2Tensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/dsa\_gen\_bit\_mask\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnDropoutGenMaskV2Tensor_md.md ## CANN商业版-aclnnDropoutV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnDropoutV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/drop\_out\_v3\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnDropoutV3_md.md ## CANN商业版-aclnnEqScalar&aclnnInplaceEqScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnEqScalar%26aclnnInplaceEqScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/equal\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnEqScalaraclnnInplaceEqScalar_md.md ## CANN商业版-aclnnEqTensor&aclnnInplaceEqTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnEqTensor%26aclnnInplaceEqTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/equal\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnEqTensoraclnnInplaceEqTensor_md.md ## CANN商业版-aclnnEqual - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnEqual.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/tensor\_equal\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnEqual_md.md ## CANN商业版-aclnnErf&aclnnInplaceErf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnErf%26aclnnInplaceErf.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/erf\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnErfaclnnInplaceErf_md.md ## CANN商业版-aclnnErfc&aclnnInplaceErfc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnErfc%26aclnnInplaceErfc.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/erfc\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnErfcaclnnInplaceErfc_md.md ## CANN商业版-aclnnExp&aclnnInplaceExp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnExp%26aclnnInplaceExp.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/exp\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnExpaclnnInplaceExp_md.md ## CANN商业版-aclnnExp2&aclnnInplaceExp2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnExp2%26aclnnInplaceExp2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/pow\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnExp2aclnnInplaceExp2_md.md ## CANN商业版-aclnnExpand - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnExpand.md - Description: - 接口功能:将输入张量self广播成指定size的张量。 - 举例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnExpand_md.md ## CANN商业版-aclnnExpm1&aclnnInplaceExpm1 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnExpm1%26aclnnInplaceExpm1.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/expm1\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnExpm1aclnnInplaceExpm1_md.md ## CANN商业版-aclnnExpSegsum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnExpSegsum.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/segsum\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnExpSegsum_md.md ## CANN商业版-aclnnExpSegsumBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnExpSegsumBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/exp\_segsum\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnExpSegsumBackward_md.md ## CANN商业版-aclnnEye - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnEye.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/eye\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnEye_md.md ## CANN商业版-aclnnFlatten - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnFlatten.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/flatten\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnFlatten_md.md ## CANN商业版-aclnnFloor&aclnnInplaceFloor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnFloor%26aclnnInplaceFloor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/floor\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnFlooraclnnInplaceFloor_md.md ## CANN商业版-aclnnFloorDivide&aclnnInplaceFloorDivide - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnFloorDivide%26aclnnInplaceFloorDivide.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/floor\_div\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnFloorDivideaclnnInplaceFloorDivide_md.md ## CANN商业版-aclnnFloorDivides&aclnnInplaceFloorDivides - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnFloorDivides%26aclnnInplaceFloorDivides.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/floor\_div\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnFloorDividesaclnnInplaceFloorDivides_md.md ## CANN商业版-aclnnFmodScalar&aclnnInplaceFmodScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnFmodScalar%26aclnnInplaceFmodScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/mod\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnFmodScalaraclnnInplaceFmodScalar_md.md ## CANN商业版-aclnnFmodTensor&aclnnInplaceFmodTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnFmodTensor%26aclnnInplaceFmodTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/mod\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnFmodTensoraclnnInplaceFmodTensor_md.md ## CANN商业版-aclnnFrac&aclnnInplaceFrac - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnFrac%26aclnnInplaceFrac.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sub\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnFracaclnnInplaceFrac_md.md ## CANN商业版-aclnnGcd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnGcd.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/gcd\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnGcd_md.md ## CANN商业版-aclnnGer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnGer.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/ger\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnGer_md.md ## CANN商业版-aclnnGeScalar&aclnnInplaceGeScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnGeScalar%26aclnnInplaceGeScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/greater\_equal\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnGeScalaraclnnInplaceGeScalar_md.md ## CANN商业版-aclnnGeTensor&aclnnInplaceGeTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnGeTensor%26aclnnInplaceGeTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/greater\_equal\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnGeTensoraclnnInplaceGeTensor_md.md ## CANN商业版-aclnnGlobalAveragePool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnGlobalAveragePool.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_mean\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnGlobalAveragePool_md.md ## CANN商业版-aclnnGlobalMaxPool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnGlobalMaxPool.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_max\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnGlobalMaxPool_md.md ## CANN商业版-aclnnGroupedBiasAddGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnGroupedBiasAddGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/grouped\_bias\_add\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnGroupedBiasAddGrad_md.md ## CANN商业版-aclnnGroupedBiasAddGradV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnGroupedBiasAddGradV2.md - Description: - 接口功能:实现groupBiasAdd的反向计算。本接口是对aclnnGroupedBiasAddGrad接口的功能扩展,增加了groupIdxType属性,支持指定groupIdx的类型。 - 计算公式: \(1\) 有可选输入groupIdxOptional,且groupIdxType为0时: $$ out\(G,H\) \= \\begin\{cases\} \\sum\{i\=groupIdxO - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnGroupedBiasAddGradV2_md.md ## CANN商业版-aclnnGtScalar&aclnnInplaceGtScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnGtScalar%26aclnnInplaceGtScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/greater\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnGtScalaraclnnInplaceGtScalar_md.md ## CANN商业版-aclnnGtTensor&aclnnInplaceGtTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnGtTensor%26aclnnInplaceGtTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/greater\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnGtTensoraclnnInplaceGtTensor_md.md ## CANN商业版-aclnnHansDecode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnHansDecode.md - Description: 对输入的压缩后的Tensor基于pdf进行解码,同时于mantissa重组恢复原本张量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnHansDecode_md.md ## CANN商业版-aclnnHansEncode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnHansEncode.md - Description: 对输入的inputTensor的指数位所在字节实现PDF统计【可选】,按照PDF分布统计进行无损压缩,压缩后的结果可存储在device的HBM上或offload到Host侧。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnHansEncode_md.md ## CANN商业版-aclnnHardtanh&aclnnInplaceHardtanh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnHardtanh%26aclnnInplaceHardtanh.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/clip\_by\_value\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnHardtanhaclnnInplaceHardtanh_md.md ## CANN商业版-aclnnHistc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnHistc.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/histogram\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnHistc_md.md ## CANN商业版-aclnnIm2col - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnIm2col.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/im2col\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnIm2col_md.md ## CANN商业版-aclnnInplaceAdds - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnInplaceAdds.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/add\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnInplaceAdds_md.md ## CANN商业版-aclnnInplaceBitwiseAndScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnInplaceBitwiseAndScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/bitwise\_and\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnInplaceBitwiseAndScalar_md.md ## CANN商业版-aclnnInplaceBitwiseAndTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnInplaceBitwiseAndTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/bitwise\_and\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnInplaceBitwiseAndTensor_md.md ## CANN商业版-aclnnInplaceCopy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnInplaceCopy.md - Description: - 接口功能:将src中的元素复制到selfRef张量中并返回selfRef。 - 计算公式: $$ \{selfRef\}\{i\} \= \{src\}\{i\} $$ - 示例: ```text 输入selfRef为: tensor\(\[\[1, 2\], \[3, 4\]\]\) 输入src为: tensor\(\[\[5, 6\], \[7, 8\]\]\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnInplaceCopy_md.md ## CANN商业版-aclnnInplaceFillDiagonal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnInplaceFillDiagonal.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/fill\_diagonal\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnInplaceFillDiagonal_md.md ## CANN商业版-aclnnInplaceFillScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnInplaceFillScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/fill\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnInplaceFillScalar_md.md ## CANN商业版-aclnnInplaceFillTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnInplaceFillTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/fill\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnInplaceFillTensor_md.md ## CANN商业版-aclnnInplaceMaskedFillScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnInplaceMaskedFillScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/masked\_fill\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnInplaceMaskedFillScalar_md.md ## CANN商业版-aclnnInplaceMaskedFillTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnInplaceMaskedFillTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/masked\_fill\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnInplaceMaskedFillTensor_md.md ## CANN商业版-aclnnInplaceNormal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnInplaceNormal.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/dsa\_random\_normal\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnInplaceNormal_md.md ## CANN商业版-aclnnInplaceNormalTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnInplaceNormalTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/dsa\_random\_normal\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnInplaceNormalTensor_md.md ## CANN商业版-aclnnInplaceOne - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnInplaceOne.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/ones\_like\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnInplaceOne_md.md ## CANN商业版-aclnnInplaceRandom - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnInplaceRandom.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/dsa\_random\_uniform\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnInplaceRandom_md.md ## CANN商业版-aclnnInplaceRandomTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnInplaceRandomTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/dsa\_random\_uniform\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnInplaceRandomTensor_md.md ## CANN商业版-aclnnInplaceUniform - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnInplaceUniform.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/dsa\_random\_uniform\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnInplaceUniform_md.md ## CANN商业版-aclnnInplaceUniformTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnInplaceUniformTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/dsa\_random\_uniform\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnInplaceUniformTensor_md.md ## CANN商业版-aclnnInplaceZero - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnInplaceZero.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/zero\_op\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnInplaceZero_md.md ## CANN商业版-aclnnIsClose - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnIsClose.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/is\_close\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnIsClose_md.md ## CANN商业版-aclnnIsFinite - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnIsFinite.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/is\_finite\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnIsFinite_md.md ## CANN商业版-aclnnIsInf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnIsInf.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/is\_inf\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnIsInf_md.md ## CANN商业版-aclnnIsInScalarTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnIsInScalarTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/equal\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnIsInScalarTensor_md.md ## CANN商业版-aclnnIsInTensorScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnIsInTensorScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/equal\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnIsInTensorScalar_md.md ## CANN商业版-aclnnIsNegInf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnIsNegInf.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/is\_neg\_inf\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnIsNegInf_md.md ## CANN商业版-aclnnIsPosInf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnIsPosInf.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/is\_pos\_inf\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnIsPosInf_md.md ## CANN商业版-aclnnKlDiv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnKlDiv.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/kl\_div\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnKlDiv_md.md ## CANN商业版-aclnnLeftShift - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnLeftShift.md - Description: - 接口功能:对于输入张量self中每个元素,根据输入张量shiftBits对应位置的参数,按位进行左移。 - 计算公式: $$ out\{i\} \= self\{i\}<>shiftBits\{i\} $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnRightShift_md.md ## CANN商业版-aclnnRoll - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnRoll.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/roll\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnRoll_md.md ## CANN商业版-aclnnRound&aclnnInplaceRound - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnRound%26aclnnInplaceRound.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/round\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnRoundaclnnInplaceRound_md.md ## CANN商业版-aclnnRoundDecimals&aclnnInplaceRoundDecimals - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnRoundDecimals%26aclnnInplaceRoundDecimals.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/round\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnRoundDecimalsaclnnInplaceRoundDecimals_md.md ## CANN商业版-aclnnRsqrt&aclnnInplaceRsqrt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnRsqrt%26aclnnInplaceRsqrt.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/rsqrt\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnRsqrtaclnnInplaceRsqrt_md.md ## CANN商业版-aclnnRsub - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnRsub.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sub\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnRsub_md.md ## CANN商业版-aclnnRsubs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnRsubs.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sub\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnRsubs_md.md ## CANN商业版-aclnnScale - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnScale.md - Description: - 接口功能:计算输入的scale和bias的结果。 - 计算公式: 若不输入bias,则 $$ y\=xscale $$ 若输入bias,则 $$ y\=xscale + bias $$ 说明:scale/bias支持跟X的broadcast,scale/bias的shape规则如下 - 当scaleFromBlob为True时(axis转换为正数,numAx - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnScale_md.md ## CANN商业版-aclnnSearchSorted - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSearchSorted.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/search\_sorted\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSearchSorted_md.md ## CANN商业版-aclnnSearchSorteds - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSearchSorteds.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/search\_sorted\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSearchSorteds_md.md ## CANN商业版-aclnnSign - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSign.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sign\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSign_md.md ## CANN商业版-aclnnSignbit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSignbit.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/less\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSignbit_md.md ## CANN商业版-aclnnSignBitsPack - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSignBitsPack.md - Description: 将float16类型或者float32类型的1位Adam打包为uint8。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSignBitsPack_md.md ## CANN商业版-aclnnSignBitsUnpack - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSignBitsUnpack.md - Description: - 接口功能:将uint8类型1位Adam拆包为float32或者float16。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSignBitsUnpack_md.md ## CANN商业版-aclnnSilentCheck - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSilentCheck.md - Description: - 接口功能: SilentCheck算子功能主要根据输入特征值(val),与绝对阈值、相对阈值比较,来识别是否触发静默检测故障。同时支持通过框架侧传入的环境变量(npuAsdDetect)控制故障时是否触发告警或断点续训,默认情况(即npuAsdDetect\=1时)只打印日志。 - 计算公式: - 如果当前输入`val`为inf/nan,或val超过绝对阈值`cThreshL1`, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSilentCheck_md.md ## CANN商业版-aclnnSilentCheckV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSilentCheckV2.md - Description: - 接口功能: 新增aclnnSilentCheckV2接口,该版本与aclnnSilentCheck接口的计算逻辑做了改变,根据stepRef参数判断val与新增马尔可夫不等式阈值进行对比校验。 - 计算公式: - 如果stepRef\=\=0: - 如果当前输入`val`为inf/-inf/nan,或val超过`avgRef` `cThreshL1`,则识别为L1级故障,打 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSilentCheckV2_md.md ## CANN商业版-aclnnSimThreadExponential - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSimThreadExponential.md - Description: - 接口功能:生成服从参数为lambda的指数分布随机数,并将其填充到selfRef张量中。 - 计算公式: $$ f\(x\) \= -\\frac\{1\}\{\\lambda\} \\ln\(1 - u\), u \\sim \\text\{Uniform\}\(0, 1\] $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSimThreadExponential_md.md ## CANN商业版-aclnnSin&aclnnInplaceSin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSin%26aclnnInplaceSin.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sin\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSinaclnnInplaceSin_md.md ## CANN商业版-aclnnSinc&aclnnInplaceSinc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSinc%26aclnnInplaceSinc.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sin\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSincaclnnInplaceSinc_md.md ## CANN商业版-aclnnSinh&aclnnInplaceSinh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSinh%26aclnnInplaceSinh.md - Description: - 接口功能:对输入Tensor完成sinh运算。 - 计算公式: $$ out \= \{\\ \{\{sinh\}\{\(self\)\}\}\} $$ - 示例: ```text 输入self: tensor\(\[\[1, 2\], \[3, 4\]\]\) 输出out: tensor\(\[\[ 1.1752, 3.6269\], \[10.0179, 27.2899\]\]\) ``` - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSinhaclnnInplaceSinh_md.md ## CANN商业版-aclnnSinkhorn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSinkhorn.md - Description: - 接口功能: 计算Sinkhorn距离,可以用于MoE模型中的专家路由。 - 计算公式: $$ p\=Sinkhorn\(cost, tol\) $$ 输入: cost\(R, C\): 2维成本矩阵 tol: 误差 初始化: $$ cost \= exp\(cost\) \\ d0 \= ones\(R\) \\ d1 \= ones\(C\) \\ eps \= 0.0 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSinkhorn_md.md ## CANN商业版-aclnnSlice - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSlice.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/slice\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSlice_md.md ## CANN商业版-aclnnSliceV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSliceV2.md - Description: 接口功能:根据给定的维度$axes$、范围$\[starts, ends\]$和步长$steps$,从输入张量$self$中提取张量$out$。 $starts\[i\]$和$ends\[i\]$可以取$\[0, self.shape\[axes\[i\]\]\]$以外的值,取值后根据以下公式转换为合法值,假设$self.shape\[axes\[i\]\] \= N$: $$ starts\[i\] \= \\begin\{cases\} - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSliceV2_md.md ## CANN商业版-aclnnSlogdet - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSlogdet.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/slogdet\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSlogdet_md.md ## CANN商业版-aclnnSort - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSort.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sort\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSort_md.md ## CANN商业版-aclnnSplitTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSplitTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/split\_v\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSplitTensor_md.md ## CANN商业版-aclnnSplitWithSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSplitWithSize.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/split\_v\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSplitWithSize_md.md ## CANN商业版-aclnnSqrt&aclnnInplaceSqrt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSqrt%26aclnnInplaceSqrt.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sqrt\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSqrtaclnnInplaceSqrt_md.md ## CANN商业版-aclnnSquare - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSquare.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/square\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSquare_md.md ## CANN商业版-aclnnStack - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnStack.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/pack\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnStack_md.md ## CANN商业版-aclnnStd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnStd.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_std\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnStd_md.md ## CANN商业版-aclnnStdMeanCorrection - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnStdMeanCorrection.md - Description: - 接口功能:计算样本标准差和均值。 - 计算公式: 假设 dim 为 $i$,则对该维度进行计算。$N$为该维度的 shape。取 $self\{i\}$,求出该维度上的平均值 $\\bar\{x\{i\}\}$。 $$ \\left\{ \\begin\{array\} \{rcl\} meanOut& &\= \\bar\{x\{i\}\}\\ stdOut& &\= \\sqrt\{\\frac\{1\}\{max\(0, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnStdMeanCorrection_md.md ## CANN商业版-aclnnStridedSlice - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnStridedSlice.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/strided\_slice\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnStridedSlice_md.md ## CANN商业版-aclnnStridedSliceAssignV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnStridedSliceAssignV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/strided\_slice\_assign\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnStridedSliceAssignV2_md.md ## CANN商业版-aclnnSub&aclnnInplaceSub - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSub%26aclnnInplaceSub.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sub\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSubaclnnInplaceSub_md.md ## CANN商业版-aclnnSubs&aclnnInplaceSubs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSubs%26aclnnInplaceSubs.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sub\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSubsaclnnInplaceSubs_md.md ## CANN商业版-aclnnSum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSum.md - Description: 返回输入tensors列表中每个输入tensor依次做add求和。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSum_md.md ## CANN商业版-aclnnSvd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSvd.md - Description: - 接口功能:计算一个或多个矩阵的奇异值分解。 当输入张量的维度大于2时,会将高维张量视为一批矩阵进行处理。对于形状为 \(..., M, N\) 的输入张量,将倒数第二维之前的维度 \(...\) 视为批处理维度,对每个\(M, N\) 矩阵独立进行奇异值分解计算。 - 计算公式: $$ \\mathbf\{input\} \= \\mathbf\{U\} \\times \\mathrm\{diag\}\(\\bold - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSvd_md.md ## CANN商业版-aclnnSWhere - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnSWhere.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/select\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnSWhere_md.md ## CANN商业版-aclnnTan&aclnnInplaceTan - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnTan%26aclnnInplaceTan.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/tan\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnTanaclnnInplaceTan_md.md ## CANN商业版-aclnnTanh&aclnnInplaceTanh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnTanh%26aclnnInplaceTanh.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/tanh\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnTanhaclnnInplaceTanh_md.md ## CANN商业版-aclnnTanhBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnTanhBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/tanh\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnTanhBackward_md.md ## CANN商业版-aclnnTopk - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnTopk.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/9.0.0/math/topk\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnTopk_md.md ## CANN商业版-aclnnTrace - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnTrace.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/trace\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnTrace_md.md ## CANN商业版-aclnnTransConvolutionWeight - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnTransConvolutionWeight.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/trans\_data\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnTransConvolutionWeight_md.md ## CANN商业版-aclnnTransformBiasRescaleQkv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnTransformBiasRescaleQkv.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/transform\_bias\_rescale\_qkv\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnTransformBiasRescaleQkv_md.md ## CANN商业版-aclnnTransMatmulWeight - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnTransMatmulWeight.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/trans\_data\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnTransMatmulWeight_md.md ## CANN商业版-aclnnTriangularSolve - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnTriangularSolve.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/triangular\_solve\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnTriangularSolve_md.md ## CANN商业版-aclnnTril&aclnnInplaceTril - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnTril%26aclnnInplaceTril.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/tril\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnTrilaclnnInplaceTril_md.md ## CANN商业版-aclnnTriu&aclnnInplaceTriu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnTriu%26aclnnInplaceTriu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/triu\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnTriuaclnnInplaceTriu_md.md ## CANN商业版-aclnnTrunc&aclnnInplaceTrunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnTrunc%26aclnnInplaceTrunc.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/trunc\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnTruncaclnnInplaceTrunc_md.md ## CANN商业版-aclnnUnfoldGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnUnfoldGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/unfold\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnUnfoldGrad_md.md ## CANN商业版-aclnnVar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnVar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_var\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnVar_md.md ## CANN商业版-aclnnVarCorrection - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnVarCorrection.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_var\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnVarCorrection_md.md ## CANN商业版-aclnnVarMean - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnVarMean.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_var\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnVarMean_md.md ## CANN商业版-aclnnXLogYScalarOther&aclnnInplaceXLogYScalarOther - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnXLogYScalarOther%26aclnnInplaceXLogYScalarOther.md - Description: - 接口功能:计算self log\(other\)的结果。 - 计算公式: $$ outi \= selfi log\(otheri\) $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnXLogYScalarOtheraclnnInplaceXLogYScalarOther_md.md ## CANN商业版-aclnnXLogYScalarSelf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnXLogYScalarSelf.md - Description: - 接口功能:计算self log\(other\)的结果 - 计算公式: $$ outi \= selfi log\(otheri\) $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnXLogYScalarSelf_md.md ## CANN商业版-aclnnXLogYTensor&aclnnInplaceXLogYTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclnnXLogYTensor%26aclnnInplaceXLogYTensor.md - Description: - 接口功能:计算self log\(other\)的结果。 - 计算公式: $$ outi \= selfi log\(otheri\) $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclnnXLogYTensoraclnnInplaceXLogYTensor_md.md ## CANN商业版-aclRfft1D - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclRfft1D.md - Description: - 接口功能:对输入张量self进行RFFT(傅里叶变换)计算,输出是一个包含非负频率的复数张量。 - 计算公式 $$ \{\\displaystyle X\{k\}\=\\sum \{n\=0\}^\{N-1\}x\{n\}\\cdot e^\{-i2\\pi \{\\tfrac \{k\}\{N\}\}n\}\} $$ - 示例 假设self为 \{1, 2, 3, 4\} 则out \= \{10, 0, -2, 2, -2, 0\} - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclRfft1D_md.md ## CANN商业版-aclStft - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/aclStft.md - Description: - 接口功能:计算输入在滑动窗口内的傅里叶变换。 - 计算公式: - 当normalized\=false时: $$ X\[w,m\]\=\\sum\{k\=0\}^\{winLength-1\}window\[k\]self\[mhopLength+k\]exp\(-j\\frac\{2\{\\pi\}wk\}\{nFft\}\) $$ - 当normalized\=true时: $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_aclStft_md.md ## 算子接口(aclnn) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-math/op_api_list.md - Description: 为方便调用算子,提供一套基于C的API(以aclnn为前缀API),无需提供IR(Intermediate Representation)定义,方便高效构建模型与应用开发,该方式被称为“单算子API调用”,简称aclnn调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-math_op_api_list_md.md ## CANN商业版-aclnnAdaLayerNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAdaLayerNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/ada\_layer\_norm\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAdaLayerNorm_md.md ## CANN商业版-aclnnAdaLayerNormQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAdaLayerNormQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/ada\_layer\_norm\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAdaLayerNormQuant_md.md ## CANN商业版-aclnnAdaLayerNormV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAdaLayerNormV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/ada\_layer\_norm\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAdaLayerNormV2_md.md ## CANN商业版-aclnnAdaptiveAvgPool2d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAdaptiveAvgPool2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/adaptive\_avg\_pool3d\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAdaptiveAvgPool2d_md.md ## CANN商业版-aclnnAdaptiveAvgPool2dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAdaptiveAvgPool2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/adaptive\_avg\_pool3d\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAdaptiveAvgPool2dBackward_md.md ## CANN商业版-aclnnAdaptiveAvgPool3d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAdaptiveAvgPool3d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/adaptive\_avg\_pool3d\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAdaptiveAvgPool3d_md.md ## CANN商业版-aclnnAdaptiveAvgPool3dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAdaptiveAvgPool3dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/adaptive\_avg\_pool3d\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAdaptiveAvgPool3dBackward_md.md ## CANN商业版-aclnnAdaptiveMaxPool2d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAdaptiveMaxPool2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/adaptive\_max\_pool3d\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAdaptiveMaxPool2d_md.md ## CANN商业版-aclnnAdaptiveMaxPool2dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAdaptiveMaxPool2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/adaptive\_max\_pool3d\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAdaptiveMaxPool2dBackward_md.md ## CANN商业版-aclnnAdaptiveMaxPool3d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAdaptiveMaxPool3d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/adaptive\_max\_pool3d\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAdaptiveMaxPool3d_md.md ## CANN商业版-aclnnAdaptiveMaxPool3dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAdaptiveMaxPool3dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/adaptive\_max\_pool3d\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAdaptiveMaxPool3dBackward_md.md ## CANN商业版-aclnnAddbmm&aclnnInplaceAddbmm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAddbmm%26aclnnInplaceAddbmm.md - Description: - 接口功能:首先进行batch1、batch2的矩阵乘计算,然后将该结果按照第一维(batch维度)批处理相加,将三维向量压缩为二维向量(shape大小为后两维的shape),然后该结果与α作乘积计算,再与β和self的乘积求和得到结果。 - 计算公式: $$ out \= βself+α\(\\sum\{i\=0\}^\{b-1\} batch1\{i\}@batch2\{i\}\) $$ 注意:如果β - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAddbmmaclnnInplaceAddbmm_md.md ## CANN商业版-aclnnAddLayerNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAddLayerNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/add\_layer\_norm\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAddLayerNorm_md.md ## CANN商业版-aclnnAddLayerNormGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAddLayerNormGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/add\_layer\_norm\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAddLayerNormGrad_md.md ## CANN商业版-aclnnAddLayerNormQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAddLayerNormQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/add\_layer\_norm\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAddLayerNormQuant_md.md ## CANN商业版-aclnnAddmm&aclnnInplaceAddmm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAddmm%26aclnnInplaceAddmm.md - Description: - 接口功能:计算α 乘以mat1与mat2的乘积,再与β和self的乘积求和。 - 计算公式: $$ out \= β self + α \(mat1 @ mat2\) $$ - 示例: 对于aclnnAddmm接口,self的shape是\[1, n\], mat1的shape是\[m, k\], mat2的shape是\[k, n\], mat1和mat2的矩阵乘的结果shape是\[m, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAddmmaclnnInplaceAddmm_md.md ## CANN商业版-aclnnAddmmWeightNz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAddmmWeightNz.md - Description: - 接口功能:计算α 乘以mat1与mat2的乘积,再与β和self的乘积求和。相较于原有addmm接口,新接口mat2支持nz格式。 - 计算公式: $$ out \= β self + α \(mat1 @ mat2\) $$ - 示例: 对于aclnnAddmmWeightNz接口,self的shape是\[n,\],mat1的shape是\[m, k\],mat2的shape - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAddmmWeightNz_md.md ## CANN商业版-aclnnAddmv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAddmv.md - Description: - 接口功能:完成矩阵乘计算,然后和向量相加。 - 计算公式: $$ out \= β self + α \(mat @ vec\) $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAddmv_md.md ## CANN商业版-aclnnAddRelu&aclnnInplaceAddRelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAddRelu%26aclnnInplaceAddRelu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/relu\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAddReluaclnnInplaceAddRelu_md.md ## CANN商业版-aclnnAddRmsNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAddRmsNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/add\_rms\_norm\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAddRmsNorm_md.md ## CANN商业版-aclnnAddRmsNormCast - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAddRmsNormCast.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/add\_rms\_norm\_cast\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAddRmsNormCast_md.md ## CANN商业版-aclnnAddRmsNormDynamicQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAddRmsNormDynamicQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/add\_rms\_norm\_dynamic\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAddRmsNormDynamicQuant_md.md ## CANN商业版-aclnnAddRmsNormDynamicQuantV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAddRmsNormDynamicQuantV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/add\_rms\_norm\_dynamic\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAddRmsNormDynamicQuantV2_md.md ## CANN商业版-aclnnAddRmsNormQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAddRmsNormQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/add\_rms\_norm\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAddRmsNormQuant_md.md ## CANN商业版-aclnnAddRmsNormQuantV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAddRmsNormQuantV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/add\_rms\_norm\_quant\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAddRmsNormQuantV2_md.md ## CANN商业版-aclnnAdvanceStep - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAdvanceStep.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/optim/advance\_step\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAdvanceStep_md.md ## CANN商业版-aclnnAdvanceStepV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAdvanceStepV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/optim/advance\_step\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAdvanceStepV2_md.md ## CANN商业版-aclnnApplyAdamW - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnApplyAdamW.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/optim/apply\_adam\_w\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnApplyAdamW_md.md ## CANN商业版-aclnnApplyAdamWQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnApplyAdamWQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/optim/apply\_adam\_w\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnApplyAdamWQuant_md.md ## CANN商业版-aclnnApplyAdamWV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnApplyAdamWV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/optim/apply\_adam\_w\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnApplyAdamWV2_md.md ## CANN商业版-aclnnApplyFusedEmaAdam - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnApplyFusedEmaAdam.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/optim/apply\_fused\_ema\_adam\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnApplyFusedEmaAdam_md.md ## CANN商业版-aclnnApplyTopKTopP - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnApplyTopKTopP.md - Description: - 接口功能:对原始输入logits进行top-k和top-p采样过滤。 - 计算公式: - 对输入logits按最后一轴进行升序排序,得到对应的排序结果sortedValue和sortedIndices。 $$sortedValue, sortedIndices \= sort\(logits, dim\=-1, descending\=false, stable\=true\)$$ - 计 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnApplyTopKTopP_md.md ## CANN商业版-aclnnAscendAntiQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAscendAntiQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/ascend\_anti\_quant\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAscendAntiQuant_md.md ## CANN商业版-aclnnAscendQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAscendQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/ascend\_quant\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAscendQuant_md.md ## CANN商业版-aclnnAscendQuantV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAscendQuantV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/ascend\_quant\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAscendQuantV3_md.md ## CANN商业版-aclnnAvgPool2d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAvgPool2d.md - Description: - 接口功能:对输入Tensor进行窗口为$kH kW$、步长为$sH sW$的二维平均池化操作,其中$k$为kernelSize,表示池化窗口的大小,$s$为stride,表示池化操作的步长。 - 计算公式: 输入input($N,C,H,W$)、输出out($N,C,H\{out\},W\{out\}$)和池化步长($strides$)、池化窗口大小\($kH,kW$\)的关系是 $$ H - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAvgPool2d_md.md ## CANN商业版-aclnnAvgPool2dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAvgPool2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/avg\_pool3\_d\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAvgPool2dBackward_md.md ## CANN商业版-aclnnAvgPool3d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAvgPool3d.md - Description: - 接口功能:对输入Tensor进行窗口为$kD kH kW$、步长为$sD sH sW$的三维平均池化操作,其中$k$为kernelSize,表示池化窗口的大小,$s$为stride,表示池化操作的步长。 - 计算公式: 输入input\($N,C,D\{in\},H\{in\},W\{in\}$\)、输出out\($N,C,D\{out\},H\{out\},W\{out\}$\)和池化步长\($stride$\)、 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAvgPool3d_md.md ## CANN商业版-aclnnAvgPool3dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnAvgPool3dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/avg\_pool3\_d\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnAvgPool3dBackward_md.md ## CANN商业版-aclnnBaddbmm&aclnnInplaceBaddbmm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnBaddbmm%26aclnnInplaceBaddbmm.md - Description: - 接口功能: 计算α与batch1、batch2的矩阵乘结果的乘积,再与β和self的乘积求和。 注意:batch1、batch2必须是三维Tensor,两个shape仅在aclnnBaddbmm支持做broadcast,两个shape在aclnnInplaceBaddbmm做broadcast则会被拦截; self必须要支持和batch1@batch2的结果做broadcast。(broadc - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnBaddbmmaclnnInplaceBaddbmm_md.md ## CANN商业版-aclnnBatchMatMul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnBatchMatMul.md - Description: - 接口功能:完成张量self与张量mat2的矩阵乘计算。仅支持三维的Tensor传入。第一维是batch维度,最后两个维度做矩阵乘法。也支持其中一个输入的batch轴为1时做broadcast,见示例。 - 计算公式: $$ out \= self@mat2 $$ - 示例: self的shape是\[A, M, K\],mat2的shape是\[A, K, N\],计算输出out的sha - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnBatchMatMul_md.md ## CANN商业版-aclnnBatchMatmulQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnBatchMatmulQuant.md - Description: **此接口后续版本会废弃,请勿使用该接口。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnBatchMatmulQuant_md.md ## CANN商业版-aclnnBatchMatMulWeightNz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnBatchMatMulWeightNz.md - Description: - 接口功能:完成张量self与张量mat2的矩阵乘计算,mat2仅支持NZ格式,只支持self为3维,mat2为5维。 - 计算公式: $$ out \= self@mat2 $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnBatchMatMulWeightNz_md.md ## CANN商业版-aclnnBatchNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnBatchNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/batch\_norm\_v3\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnBatchNorm_md.md ## CANN商业版-aclnnBatchNormBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnBatchNormBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/batch\_norm\_grad\_v3\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnBatchNormBackward_md.md ## CANN商业版-aclnnBatchNormElemt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnBatchNormElemt.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/batch\_norm\_elemt\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnBatchNormElemt_md.md ## CANN商业版-aclnnBatchNormElemtBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnBatchNormElemtBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/sync\_batch\_norm\_backward\_elemt\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnBatchNormElemtBackward_md.md ## CANN商业版-aclnnBatchNormGatherStatsWithCounts - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnBatchNormGatherStatsWithCounts.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/sync\_batch\_norm\_gather\_stats\_with\_counts\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnBatchNormGatherStatsWithCounts_md.md ## CANN商业版-aclnnBatchNormReduce - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnBatchNormReduce.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/bn\_training\_reduce\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnBatchNormReduce_md.md ## CANN商业版-aclnnBatchNormReduceBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnBatchNormReduceBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/sync\_batch\_norm\_backward\_reduce\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnBatchNormReduceBackward_md.md ## CANN商业版-aclnnBidirectionLSTM - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnBidirectionLSTM.md - Description: - 接口功能:LSTM(Long Short-Term Memory,长短时记忆)网络是一种特殊的循环神经网络(RNN)模型。进行LSTM网络计算,接收输入序列和初始状态,返回输出序列和最终状态。 - 计算公式: $$ ft \=sigm\(Wf\[h\{t-1\}, xt\] + bf\)\\ it \=sigm\(Wi\[h\{t-1\}, xt\] + bi\)\\ ot \=sigm\(Wo\[h\{t-1 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnBidirectionLSTM_md.md ## CANN商业版-aclnnBidirectionLSTMV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnBidirectionLSTMV2.md - Description: - 接口功能:LSTM(Long Short-Term Memory,长短时记忆)网络是一种特殊的循环神经网络(RNN)模型。进行LSTM网络计算,接收输入序列和初始状态,返回输出序列和最终状态。相比aclnnBidirectionLSTM新增了Sequence不等长场景。 - 计算公式: $$ ft \=sigm\(Wf\[h\{t-1\}, xt\] + bf\)\\ it \=sigm\(Wi - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnBidirectionLSTMV2_md.md ## CANN商业版-aclnnBinaryCrossEntropy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnBinaryCrossEntropy.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/binary\_cross\_entropy\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnBinaryCrossEntropy_md.md ## CANN商业版-aclnnBinaryCrossEntropyBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnBinaryCrossEntropyBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/binary\_cross\_entropy\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnBinaryCrossEntropyBackward_md.md ## CANN商业版-aclnnBinaryCrossEntropyWithLogits - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnBinaryCrossEntropyWithLogits.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/sigmoid\_cross\_entropy\_with\_logits\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnBinaryCrossEntropyWithLogits_md.md ## CANN商业版-aclnnBinaryCrossEntropyWithLogitsBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnBinaryCrossEntropyWithLogitsBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/sigmoid\_cross\_entropy\_with\_logits\_grad\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnBinaryCrossEntropyWithLogitsBackward_md.md ## CANN商业版-aclnnBinaryCrossEntropyWithLogitsTargetBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnBinaryCrossEntropyWithLogitsTargetBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/log\_sigmoid\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnBinaryCrossEntropyWithLogitsTargetBackward_md.md ## CANN商业版-aclnnCelu&aclnnInplaceCelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnCelu%26aclnnInplaceCelu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/celu\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnCeluaclnnInplaceCelu_md.md ## CANN商业版-aclnnChamferDistanceBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnChamferDistanceBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/chamfer\_distance\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnChamferDistanceBackward_md.md ## CANN商业版-aclnnClippedSwiglu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnClippedSwiglu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/clipped\_swiglu\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnClippedSwiglu_md.md ## CANN商业版-aclnnConvDepthwise2d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnConvDepthwise2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/conv/convolution\_forward\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnConvDepthwise2d_md.md ## CANN商业版-aclnnConvertWeightToINT4Pack - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnConvertWeightToINT4Pack.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/matmul/convert\_weight\_to\_int4\_pack\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnConvertWeightToINT4Pack_md.md ## CANN商业版-aclnnConvolution - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnConvolution.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/conv/convolution\_forward\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnConvolution_md.md ## CANN商业版-aclnnConvolutionBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnConvolutionBackward.md - Description: - 接口功能:卷积的反向传播。根据输出掩码设置计算输入、权重和偏差的梯度。此函数支持1D、2D和3D卷积。 - 计算公式: 输入input\($N,C\{in\},D\{in\},H\{in\},W\{in\}$\)、输出out\($N,C\{out\},D\{out\},H\{out\},W\{out\}$\)和卷积步长\($stride$\)、卷积核大小\($kernelSize,kD,kH,kW$\)、膨胀参数\($dilatio - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnConvolutionBackward_md.md ## CANN商业版-aclnnConvTbc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnConvTbc.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/conv/convolution\_forward\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnConvTbc_md.md ## CANN商业版-aclnnConvTbcBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnConvTbcBackward.md - Description: - 接口功能:实现输入输出维度为T(时间或空间维度)、B(批次)、C(通道)的一维卷积的反向传播。 - 计算公式: 假定输入Convtbc正向的输入$input$的shape是$\(H\{ ext\{in\}\},N,C\{ ext\{in\}\}\)$,输出梯度$gradOutput$ 的shape是$\(H\{ ext\{out\}\},N,C\{ ext\{out\}\}\)$,卷积核$weight$的shape是$\(K,C\{ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnConvTbcBackward_md.md ## CANN商业版-aclnnCrossEntropyLoss - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnCrossEntropyLoss.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/cross\_entropy\_loss\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnCrossEntropyLoss_md.md ## CANN商业版-aclnnCrossEntropyLossGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnCrossEntropyLossGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/cross\_entropy\_loss\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnCrossEntropyLossGrad_md.md ## CANN商业版-aclnnCtcLoss - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnCtcLoss.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/ctc\_loss\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnCtcLoss_md.md ## CANN商业版-aclnnCtcLossBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnCtcLossBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/ctc\_loss\_v2\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnCtcLossBackward_md.md ## CANN商业版-aclnnDeepNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnDeepNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/deep\_norm\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnDeepNorm_md.md ## CANN商业版-aclnnDeepNormGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnDeepNormGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/deep\_norm\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnDeepNormGrad_md.md ## CANN商业版-aclnnDeformableConv2d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnDeformableConv2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/conv/deformable\_conv2d\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnDeformableConv2d_md.md ## CANN商业版-aclnnDequantBias - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnDequantBias.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dequant\_bias\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnDequantBias_md.md ## CANN商业版-aclnnDequantSwigluQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnDequantSwigluQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dequant\_swiglu\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnDequantSwigluQuant_md.md ## CANN商业版-aclnnDequantSwigluQuantV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnDequantSwigluQuantV2.md - Description: - 接口功能:在Swish门控线性单元激活函数前后添加dequant和quant操作,实现x的DequantSwigluQuant计算。本接口相较于aclnnDequantSwigluQuant有两类新增参数: 1)新增了三个Atlas 350 加速卡上使用的输入参数:dstType、roundModeOptional、activateDim。 2)在Atlas A2 训练系列产品/Atl - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnDequantSwigluQuantV2_md.md ## CANN商业版-aclnnDualLevelQuantMatmulWeightNz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnDualLevelQuantMatmulWeightNz.md - Description: - 接口功能:完成二级量化mxfp4的矩阵乘计算,其中参数x2需为NZ格式,可通过aclnnTransMatmulWeight或aclnnNpuFormatCast对format为ND的x2处理得到NZ格式。 - 计算公式 $$ out \=\\sum\{i\}^\{level0GroupSize\} x1Level0Scale @ x2Level0Scale \\sum\{ij\}^\{level1Grou - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnDualLevelQuantMatmulWeightNz_md.md ## CANN商业版-aclnnDynamicBlockQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnDynamicBlockQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dynamic\_block\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnDynamicBlockQuant_md.md ## CANN商业版-aclnnDynamicDualLevelMxQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnDynamicDualLevelMxQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dynamic\_dual\_level\_mx\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnDynamicDualLevelMxQuant_md.md ## CANN商业版-aclnnDynamicMxQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnDynamicMxQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dynamic\_mx\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnDynamicMxQuant_md.md ## CANN商业版-aclnnDynamicMxQuantWithDualAxis - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnDynamicMxQuantWithDualAxis.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dynamic\_mx\_quant\_with\_dual\_axis\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnDynamicMxQuantWithDualAxis_md.md ## CANN商业版-aclnnDynamicQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnDynamicQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dynamic\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnDynamicQuant_md.md ## CANN商业版-aclnnDynamicQuantV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnDynamicQuantV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dynamic\_quant\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnDynamicQuantV2_md.md ## CANN商业版-aclnnDynamicQuantV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnDynamicQuantV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dynamic\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnDynamicQuantV3_md.md ## CANN商业版-aclnnEinsum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnEinsum.md - Description: - 接口功能:使用爱因斯坦求和约定执行张量计算,形式为“term1, term2 -> output-term”,按照以下等式生成输出张量,其中reduce-sum对出现在输入项\(term1, term2\)中但未出现在输出项中的所有索引执行求和。 - 计算公式: $$ output\[output-term\] \= reduce-sum\(input1\[term1\] input2\[term2\] - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnEinsum_md.md ## CANN商业版-aclnnElu&aclnnInplaceElu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnElu%26aclnnInplaceElu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/elu\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnEluaclnnInplaceElu_md.md ## CANN商业版-aclnnEluBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnEluBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/elu\_grad\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnEluBackward_md.md ## CANN商业版-aclnnEmbedding - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnEmbedding.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnEmbedding_md.md ## CANN商业版-aclnnEmbeddingBag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnEmbeddingBag.md - Description: - 接口功能:根据indices从weight中获得一组被聚合的数,然后根据offsets的偏移和mode指定的聚合模式对获取的数进行max、sum、mean聚合。其余参数则更细化了计算过程的控制。 - shape推导公式: 假设输入weight的shape为\(numWeight, embeddingDim\),indices的shape为\(bagIndices\),offsets的shape为\( - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnEmbeddingBag_md.md ## CANN商业版-aclnnEmbeddingDenseBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnEmbeddingDenseBackward.md - Description: 实现aclnnEmbedding的反向计算, 将相同索引`indices`对应grad的一行累加到out上。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnEmbeddingDenseBackward_md.md ## CANN商业版-aclnnEmbeddingRenorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnEmbeddingRenorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnEmbeddingRenorm_md.md ## CANN商业版-aclnnErfinv&aclnnInplaceErfinv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnErfinv%26aclnnInplaceErfinv.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/erfinv\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnErfinvaclnnInplaceErfinv_md.md ## CANN商业版-aclnnExpandIntoJaggedPermute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnExpandIntoJaggedPermute.md - Description: - 接口功能:将稀疏数据置换索引从表维度扩展到批次维度,适用于稀疏特征在不同rank中具有不同批次大小的情况。 - 计算公式: $$ len \= outputOffset\[i+1\] - outputOffset\[i\] $$ $$ outputPermuteOut\[outputOffset\[i\]:outputOffset\[i+1\]\] \= arange\(inpu - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnExpandIntoJaggedPermute_md.md ## CANN商业版-aclnnFakeQuantPerChannelAffineCachemask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnFakeQuantPerChannelAffineCachemask.md - Description: - 接口功能:对于输入数据self,使用scale和zeropoint对输入self在指定轴axis上进行伪量化处理,并根据quantmin和quantmax对伪量化输出进行值域更新,最终返回结果out及对应位置掩码mask。 - 计算公式:根据算子功能先计算临时变量qval,再计算得出out和mask。 - zeropoint的数据类型为int32 $$ qval \= Round\(s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnFakeQuantPerChannelAffineCachemask_md.md ## CANN商业版-aclnnFakeQuantPerTensorAffineCachemask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnFakeQuantPerTensorAffineCachemask.md - Description: - 接口功能: - fakequantenabled >\= 1: 对于输入数据self,使用scale和zeropoint对输入self进行伪量化处理,并根据quantmin和quantmax对伪量化输出进行值域更新,最终返回结果out及对应位置掩码mask。 - fakequantenabled \= 1的情况下,根据算子功能先计算临时变量qval,再计算得出out和mask。 $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnFakeQuantPerTensorAffineCachemask_md.md ## CANN商业版-aclnnFastBatchNormBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnFastBatchNormBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/batch\_norm\_grad\_v3\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnFastBatchNormBackward_md.md ## CANN商业版-aclnnFastGelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnFastGelu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/fast\_gelu\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnFastGelu_md.md ## CANN商业版-aclnnFastGeluBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnFastGeluBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/fast\_gelu\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnFastGeluBackward_md.md ## CANN商业版-aclnnFastLayerNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnFastLayerNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/layer\_norm\_v4\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnFastLayerNorm_md.md ## CANN商业版-aclnnFatreluMul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnFatreluMul.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/fatrelu\_mul\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnFatreluMul_md.md ## CANN商业版-aclnnFlatQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnFlatQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/flat\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnFlatQuant_md.md ## CANN商业版-aclnnFlip - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnFlip.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/reverse\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnFlip_md.md ## CANN商业版-aclnnForeachAbs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachAbs.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_abs\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachAbs_md.md ## CANN商业版-aclnnForeachAcos - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachAcos.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_acos\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachAcos_md.md ## CANN商业版-aclnnForeachAddcdivList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachAddcdivList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_addcdiv\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachAddcdivList_md.md ## CANN商业版-aclnnForeachAddcdivScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachAddcdivScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_addcdiv\_scalar\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachAddcdivScalar_md.md ## CANN商业版-aclnnForeachAddcdivScalarList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachAddcdivScalarList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_addcdiv\_scalar\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachAddcdivScalarList_md.md ## CANN商业版-aclnnForeachAddcdivScalarV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachAddcdivScalarV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_addcdiv\_scalar\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachAddcdivScalarV2_md.md ## CANN商业版-aclnnForeachAddcmulList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachAddcmulList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_addcmul\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachAddcmulList_md.md ## CANN商业版-aclnnForeachAddcmulScalarList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachAddcmulScalarList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_addcmul\_scalar\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachAddcmulScalarList_md.md ## CANN商业版-aclnnForeachAddcmulScalarV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachAddcmulScalarV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_addcmul\_scalar\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachAddcmulScalarV2_md.md ## CANN商业版-aclnnForeachAddList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachAddList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_add\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachAddList_md.md ## CANN商业版-aclnnForeachAddListV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachAddListV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_add\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachAddListV2_md.md ## CANN商业版-aclnnForeachAddScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachAddScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_add\_scalar\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachAddScalar_md.md ## CANN商业版-aclnnForeachAddScalarList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachAddScalarList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_add\_scalar\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachAddScalarList_md.md ## CANN商业版-aclnnForeachAddScalarV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachAddScalarV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_add\_scalar\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachAddScalarV2_md.md ## CANN商业版-aclnnForeachAsin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachAsin.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_asin\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachAsin_md.md ## CANN商业版-aclnnForeachAtan - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachAtan.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_atan\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachAtan_md.md ## CANN商业版-aclnnForeachCopy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachCopy.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_copy\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachCopy_md.md ## CANN商业版-aclnnForeachCos - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachCos.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_cos\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachCos_md.md ## CANN商业版-aclnnForeachCosh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachCosh.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_cosh\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachCosh_md.md ## CANN商业版-aclnnForeachDivList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachDivList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_div\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachDivList_md.md ## CANN商业版-aclnnForeachDivScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachDivScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_div\_scalar\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachDivScalar_md.md ## CANN商业版-aclnnForeachDivScalarList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachDivScalarList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_div\_scalar\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachDivScalarList_md.md ## CANN商业版-aclnnForeachDivScalarV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachDivScalarV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_div\_scalar\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachDivScalarV2_md.md ## CANN商业版-aclnnForeachErf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachErf.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_erf\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachErf_md.md ## CANN商业版-aclnnForeachErfc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachErfc.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_erfc\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachErfc_md.md ## CANN商业版-aclnnForeachExp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachExp.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_exp\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachExp_md.md ## CANN商业版-aclnnForeachExpm1 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachExpm1.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_expm1\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachExpm1_md.md ## CANN商业版-aclnnForeachLerpList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachLerpList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_lerp\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachLerpList_md.md ## CANN商业版-aclnnForeachLerpScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachLerpScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_lerp\_scalar\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachLerpScalar_md.md ## CANN商业版-aclnnForeachLog - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachLog.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_log\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachLog_md.md ## CANN商业版-aclnnForeachLog10 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachLog10.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_log10\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachLog10_md.md ## CANN商业版-aclnnForeachLog1p - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachLog1p.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_log1p\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachLog1p_md.md ## CANN商业版-aclnnForeachLog2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachLog2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_log2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachLog2_md.md ## CANN商业版-aclnnForeachMaximumList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachMaximumList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_maximum\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachMaximumList_md.md ## CANN商业版-aclnnForeachMaximumScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachMaximumScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_maximum\_scalar\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachMaximumScalar_md.md ## CANN商业版-aclnnForeachMaximumScalarList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachMaximumScalarList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_maximum\_scalar\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachMaximumScalarList_md.md ## CANN商业版-aclnnForeachMaximumScalarV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachMaximumScalarV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_maximum\_scalar\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachMaximumScalarV2_md.md ## CANN商业版-aclnnForeachMinimumList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachMinimumList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_minimum\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachMinimumList_md.md ## CANN商业版-aclnnForeachMinimumScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachMinimumScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_minimum\_scalar\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachMinimumScalar_md.md ## CANN商业版-aclnnForeachMinimumScalarList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachMinimumScalarList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_minimum\_scalar\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachMinimumScalarList_md.md ## CANN商业版-aclnnForeachMinimumScalarV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachMinimumScalarV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_minimum\_scalar\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachMinimumScalarV2_md.md ## CANN商业版-aclnnForeachMulList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachMulList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_mul\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachMulList_md.md ## CANN商业版-aclnnForeachMulScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachMulScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_mul\_scalar\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachMulScalar_md.md ## CANN商业版-aclnnForeachMulScalarList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachMulScalarList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_mul\_scalar\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachMulScalarList_md.md ## CANN商业版-aclnnForeachMulScalarV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachMulScalarV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_mul\_scalar\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachMulScalarV2_md.md ## CANN商业版-aclnnForeachNeg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachNeg.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_neg\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachNeg_md.md ## CANN商业版-aclnnForeachNonFiniteCheckAndUnscale - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachNonFiniteCheckAndUnscale.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_non\_finite\_check\_and\_unscale\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachNonFiniteCheckAndUnscale_md.md ## CANN商业版-aclnnForeachNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_norm\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachNorm_md.md ## CANN商业版-aclnnForeachPowList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachPowList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_pow\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachPowList_md.md ## CANN商业版-aclnnForeachPowScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachPowScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_pow\_scalar\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachPowScalar_md.md ## CANN商业版-aclnnForeachPowScalarAndTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachPowScalarAndTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_pow\_scalar\_and\_tensor\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachPowScalarAndTensor_md.md ## CANN商业版-aclnnForeachPowScalarList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachPowScalarList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_pow\_scalar\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachPowScalarList_md.md ## CANN商业版-aclnnForeachPowScalarV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachPowScalarV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_pow\_scalar\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachPowScalarV2_md.md ## CANN商业版-aclnnForeachReciprocal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachReciprocal.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_reciprocal\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachReciprocal_md.md ## CANN商业版-aclnnForeachRoundOffNumber - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachRoundOffNumber.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_round\_off\_number\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachRoundOffNumber_md.md ## CANN商业版-aclnnForeachRoundOffNumberV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachRoundOffNumberV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_round\_off\_number\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachRoundOffNumberV2_md.md ## CANN商业版-aclnnForeachSigmoid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachSigmoid.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_sigmoid\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachSigmoid_md.md ## CANN商业版-aclnnForeachSign - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachSign.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_sign\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachSign_md.md ## CANN商业版-aclnnForeachSin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachSin.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_sin\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachSin_md.md ## CANN商业版-aclnnForeachSinh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachSinh.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_sinh\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachSinh_md.md ## CANN商业版-aclnnForeachSqrt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachSqrt.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_sqrt\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachSqrt_md.md ## CANN商业版-aclnnForeachSubList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachSubList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_sub\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachSubList_md.md ## CANN商业版-aclnnForeachSubListV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachSubListV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_sub\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachSubListV2_md.md ## CANN商业版-aclnnForeachSubScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachSubScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_sub\_scalar\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachSubScalar_md.md ## CANN商业版-aclnnForeachSubScalarList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachSubScalarList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_sub\_scalar\_list\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachSubScalarList_md.md ## CANN商业版-aclnnForeachSubScalarV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachSubScalarV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_sub\_scalar\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachSubScalarV2_md.md ## CANN商业版-aclnnForeachTan - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachTan.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_tan\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachTan_md.md ## CANN商业版-aclnnForeachTanh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachTanh.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_tanh\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachTanh_md.md ## CANN商业版-aclnnForeachZeroInplace - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnForeachZeroInplace.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_zero\_inplace\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnForeachZeroInplace_md.md ## CANN商业版-aclnnFusedCrossEntropyLossWithMaxSum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnFusedCrossEntropyLossWithMaxSum.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/fused\_cross\_entropy\_loss\_with\_max\_sum\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnFusedCrossEntropyLossWithMaxSum_md.md ## CANN商业版-aclnnFusedLinearCrossEntropyLossGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnFusedLinearCrossEntropyLossGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/matmul/fused\_linear\_cross\_entropy\_loss\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnFusedLinearCrossEntropyLossGrad_md.md ## CANN商业版-aclnnFusedLinearOnlineMaxSum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnFusedLinearOnlineMaxSum.md - Description: - 接口功能: 功能等价Megatron的matmul与fusedvocabparallelcrossentropy的实现,支持vocabularysize维度切卡融合matmul与celoss,中间根据通信拆分为aclnnFusedLinearOnlineMaxSum、aclnnFusedCrossEntropyLossWithMaxSum,需要依次调用实现完整功能。 - 计算公式: 1 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnFusedLinearOnlineMaxSum_md.md ## CANN商业版-aclnnFusedMatmul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnFusedMatmul.md - Description: - 接口功能:矩阵乘与通用向量计算融合。 - 计算公式: $$ y \= OP\(\(x1 @ x2 + bias\), x3\) $$ OP类型由fusedOpType输入定义,支持如下: add运算: $$ y\=\(x1 @ x2 + bias\) + x3 $$ mul运算: $$ y\=\(x1 @ x2 + bias\) ∗ x3 $$ gelutanh运 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnFusedMatmul_md.md ## CANN商业版-aclnnFusedQuantMatmul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnFusedQuantMatmul.md - Description: - 接口功能:量化矩阵乘和Gelu计算融合。 - 计算公式: - x1Scale, bias INT32(此场景无offset): $$ qbmmout \= \(x1@x2 + bias\) x2Scale x1Scale $$ - x1Scale, bias BFLOAT16/FLOAT16/FLOAT32(此场景无offset): $$ qbmm - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnFusedQuantMatmul_md.md ## CANN商业版-aclnnFusedQuantMatmulWeightNz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnFusedQuantMatmulWeightNz.md - Description: - 接口功能:量化矩阵乘和Gelu计算融合。 - 计算公式: - x1Scale, bias INT32(此场景无offset): $$ qbmmout \= \(x1@x2 + bias\) x2Scale x1Scale $$ - x1Scale, bias BFLOAT16/FLOAT16/FLOAT32(此场景无offset): $$ qbmm - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnFusedQuantMatmulWeightNz_md.md ## CANN商业版-aclnnGather - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGather.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_elements\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGather_md.md ## CANN商业版-aclnnGatherNd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGatherNd.md - Description: - 接口功能:对于维度为r≥1的输入张量`self`,和维度q≥1的输入张量`indices`,将数据切片收集到维度为 \(q-1\) + \(r - indicesshape\[-1\]\) 的输出张量out中。indices是一个q维的整型张量,可视作一个q-1维的由索引对构成的特殊张量(每个索引对是一个长度为indicesshape\[-1\]的一维张量,每个索引对指向self中一个切片)。 - 计算逻辑: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGatherNd_md.md ## CANN商业版-aclnnGatherV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGatherV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGatherV2_md.md ## CANN商业版-aclnnGatherV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGatherV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGatherV3_md.md ## CANN商业版-aclnnGeGlu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGeGlu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/ge\_glu\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGeGlu_md.md ## CANN商业版-aclnnGeGluBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGeGluBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/ge\_glu\_grad\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGeGluBackward_md.md ## CANN商业版-aclnnGeGluV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGeGluV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/ge\_glu\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGeGluV3_md.md ## CANN商业版-aclnnGeGluV3Backward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGeGluV3Backward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/ge\_glu\_grad\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGeGluV3Backward_md.md ## CANN商业版-aclnnGelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGelu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/gelu\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGelu_md.md ## CANN商业版-aclnnGeluBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGeluBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/gelu\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGeluBackward_md.md ## CANN商业版-aclnnGeluBackwardV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGeluBackwardV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/gelu\_grad\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGeluBackwardV2_md.md ## CANN商业版-aclnnGeluMul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGeluMul.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/gelu\_mul\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGeluMul_md.md ## CANN商业版-aclnnGeluQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGeluQuant.md - Description: - 接口功能:将GeluV2与DynamicQuant/AscendQuantV2进行融合,对输入的数据self进行Gelu激活后,对激活的结果进行量化,输出量化后的结果。 - 计算公式: 1.先计算gelu计算得到geluOut - approximate \= tanh $$ geluOut\=Gelu\(self\)\=self × Φ\(self\)\=0.5 self \(1 + Tanh - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGeluQuant_md.md ## CANN商业版-aclnnGeluV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGeluV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/gelu\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGeluV2_md.md ## CANN商业版-aclnnGemm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGemm.md - Description: - 接口功能:计算α 乘以A与B的乘积,再与β 和input C的乘积求和。 - 计算公式: - 若transA非零,计算前会将A进行转置;同样的,若transB非零,则会将B进行转置。 $$ out \= α \(A @ B\) + β C $$ - 若transA与transB都为非零,则计算公式为: $$ out \= α \(A^T @ B^T\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGemm_md.md ## CANN商业版-aclnnGemmaRmsNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGemmaRmsNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/gemma\_rms\_norm\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGemmaRmsNorm_md.md ## CANN商业版-aclnnGlu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGlu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/sigmoid\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGlu_md.md ## CANN商业版-aclnnGluBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGluBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/sigmoid\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGluBackward_md.md ## CANN商业版-aclnnGroupedDynamicBlockQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGroupedDynamicBlockQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/grouped\_dynamic\_block\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGroupedDynamicBlockQuant_md.md ## CANN商业版-aclnnGroupedDynamicMxQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGroupedDynamicMxQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/grouped\_dynamic\_mx\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGroupedDynamicMxQuant_md.md ## CANN商业版-aclnnGroupNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGroupNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/group\_norm\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGroupNorm_md.md ## CANN商业版-aclnnGroupNormBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGroupNormBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/group\_norm\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGroupNormBackward_md.md ## CANN商业版-aclnnGroupNormSilu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGroupNormSilu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/group\_norm\_silu\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGroupNormSilu_md.md ## CANN商业版-aclnnGroupNormSiluQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGroupNormSiluQuant.md - Description: - 接口功能:计算输入self的组归一化,输出均值meanOut,标准差的倒数rstdOut,以及对silu的输出结果进行量化的结果out。 - 计算公式: - GroupNorm: 记 $E\[x\] \= \\bar\{x\}$代表$x$的均值,$Var\[x\] \= \\frac\{1\}\{n\} \\sum\{i\=1\}^n\(xi - E\[x\]\)^2$代表$x$的方差,则 $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGroupNormSiluQuant_md.md ## CANN商业版-aclnnGroupNormSiluV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGroupNormSiluV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/group\_norm\_silu\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGroupNormSiluV2_md.md ## CANN商业版-aclnnGroupNormSwish - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGroupNormSwish.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/group\_norm\_swish\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGroupNormSwish_md.md ## CANN商业版-aclnnGroupNormSwishGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGroupNormSwishGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/group\_norm\_swish\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGroupNormSwishGrad_md.md ## CANN商业版-aclnnGroupQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnGroupQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/group\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnGroupQuant_md.md ## CANN商业版-aclnnHardshrink - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnHardshrink.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/hard\_shrink\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnHardshrink_md.md ## CANN商业版-aclnnHardshrinkBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnHardshrinkBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/hard\_shrink\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnHardshrinkBackward_md.md ## CANN商业版-aclnnHardsigmoid&aclnnInplaceHardsigmoid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnHardsigmoid%26aclnnInplaceHardsigmoid.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/hard\_sigmoid\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnHardsigmoidaclnnInplaceHardsigmoid_md.md ## CANN商业版-aclnnHardsigmoidBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnHardsigmoidBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/hard\_sigmoid\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnHardsigmoidBackward_md.md ## CANN商业版-aclnnHardswish&aclnnInplaceHardswish - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnHardswish%26aclnnInplaceHardswish.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/hard\_swish\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnHardswishaclnnInplaceHardswish_md.md ## CANN商业版-aclnnHardswishBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnHardswishBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/hard\_swish\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnHardswishBackward_md.md ## CANN商业版-aclnnHardswishBackwardV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnHardswishBackwardV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/hard\_swish\_grad\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnHardswishBackwardV2_md.md ## CANN商业版-aclnnHardtanhBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnHardtanhBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/hardtanh\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnHardtanhBackward_md.md ## CANN商业版-aclnnHeaviside - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnHeaviside.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/heaviside\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnHeaviside_md.md ## CANN商业版-aclnnIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnIndex.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/index\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnIndex_md.md ## CANN商业版-aclnnIndexAdd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnIndexAdd.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/inplace\_scatter\_add\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnIndexAdd_md.md ## CANN商业版-aclnnIndexAddV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnIndexAddV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/inplace\_scatter\_add\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnIndexAddV2_md.md ## CANN商业版-aclnnIndexCopy&aclnnInplaceIndexCopy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnIndexCopy%26aclnnInplaceIndexCopy.md - Description: 将index张量中元素值作为索引,针对指定轴dim,把source中元素复制到selfRef或out的对应位置上。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnIndexCopyaclnnInplaceIndexCopy_md.md ## CANN商业版-aclnnIndexFill&aclnnInplaceIndexFill - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnIndexFill%26aclnnInplaceIndexFill.md - Description: - 接口功能:沿输入self的给定轴dim,将index指定位置的值使用value进行替换,计算结果是确定的。 - 示例:输入self为: \[\[1, 2, 3\], \[4, 5, 6\], \[7, 8, 9\]\] 若dim \= 0,index \= \[0, 2\], value \= 0时,算子的计算结果为: \[\[0, 0, 0\], \[4, 5, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnIndexFillaclnnInplaceIndexFill_md.md ## CANN商业版-aclnnIndexFillTensor&aclnnInplaceIndexFillTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnIndexFillTensor%26aclnnInplaceIndexFillTensor.md - Description: - 接口功能:沿输入self的给定轴dim,将index指定位置的值使用value进行替换。 - 示例: 输入self为:   \[\[1, 2, 3\],    \[4, 5, 6\],    \[7, 8, 9\]\] 若dim \= 0,index \= \[0, 2\],value \= 0时,算子的计算结果为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnIndexFillTensoraclnnInplaceIndexFillTensor_md.md ## CANN商业版-aclnnIndexPutImpl - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnIndexPutImpl.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/index\_put\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnIndexPutImpl_md.md ## CANN商业版-aclnnIndexSelect - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnIndexSelect.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnIndexSelect_md.md ## CANN商业版-aclnnInplaceAddRmsNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnInplaceAddRmsNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/inplace\_add\_rms\_norm\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnInplaceAddRmsNorm_md.md ## CANN商业版-aclnnInplaceMaskedScatter - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnInplaceMaskedScatter.md - Description: 根据掩码\(mask\)张量中元素为True的位置,复制\(source\)中的元素到\(selfRef\)对应的位置上。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnInplaceMaskedScatter_md.md ## CANN商业版-aclnnInplacePut - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnInplacePut.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/scatter\_nd\_update\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnInplacePut_md.md ## CANN商业版-aclnnInplaceQuantScatter - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnInplaceQuantScatter.md - Description: 先将updates在quantAxis轴上进行量化,quantScales对updates做缩放操作,quantZeroPoints做偏移。然后将量化后的updates中的值按指定的轴axis,根据索引张量indices逐个更新selfRef中对应位置的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnInplaceQuantScatter_md.md ## CANN商业版-aclnnInplaceQuantScatterV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnInplaceQuantScatterV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/quant\_update\_scatter\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnInplaceQuantScatterV2_md.md ## CANN商业版-aclnnInplaceScatterUpdate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnInplaceScatterUpdate.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/scatter\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnInplaceScatterUpdate_md.md ## CANN商业版-aclnnInstanceNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnInstanceNorm.md - Description: - 接口功能:用于执行Instance Normalization(实例归一化)操作。与aclnnBatchNorm相比,aclnnInstanceNorm在每个样本的实例上进行归一化,而不是在整个批次上进行归一化,这使得该函数更适合处理图像等数据。 - 计算公式: $$ y \= \{\{x-E\(x\)\}\\over\\sqrt \{Var\(x\)+eps\}\} gamma + beta $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnInstanceNorm_md.md ## CANN商业版-aclnnInverse - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnInverse.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/matrix\_inverse\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnInverse_md.md ## CANN商业版-aclnnKlDivBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnKlDivBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/fused\_cross\_entropy\_loss\_with\_max\_sum\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnKlDivBackward_md.md ## CANN商业版-aclnnKlDivTargetBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnKlDivTargetBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/kl\_div\_loss\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnKlDivTargetBackward_md.md ## CANN商业版-aclnnKthvalue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnKthvalue.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnKthvalue_md.md ## CANN商业版-aclnnL1Loss - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnL1Loss.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/lp\_loss\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnL1Loss_md.md ## CANN商业版-aclnnL1LossBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnL1LossBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/l1\_loss\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnL1LossBackward_md.md ## CANN商业版-aclnnLayerNorm&aclnnLayerNormWithImplMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnLayerNorm%26aclnnLayerNormWithImplMode.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/layer\_norm\_v4\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnLayerNormaclnnLayerNormWithImplMode_md.md ## CANN商业版-aclnnLayerNormBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnLayerNormBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/layer\_norm\_grad\_v3\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnLayerNormBackward_md.md ## CANN商业版-aclnnLayerNormQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnLayerNormQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/layer\_norm\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnLayerNormQuant_md.md ## CANN商业版-aclnnLeakyRelu&aclnnInplaceLeakyRelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnLeakyRelu%26aclnnInplaceLeakyRelu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/leaky\_relu\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnLeakyReluaclnnInplaceLeakyRelu_md.md ## CANN商业版-aclnnLeakyReluBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnLeakyReluBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/leaky\_relu\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnLeakyReluBackward_md.md ## CANN商业版-aclnnLinalgVectorNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnLinalgVectorNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/lp\_norm\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnLinalgVectorNorm_md.md ## CANN商业版-aclnnLogit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnLogit.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/logit\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnLogit_md.md ## CANN商业版-aclnnLogitGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnLogitGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/logit\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnLogitGrad_md.md ## CANN商业版-aclnnLogSigmoid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnLogSigmoid.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/log\_sigmoid\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnLogSigmoid_md.md ## CANN商业版-aclnnLogSigmoidBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnLogSigmoidBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/logsigmoid\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnLogSigmoidBackward_md.md ## CANN商业版-aclnnLogSigmoidForward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnLogSigmoidForward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/log\_sigmoid\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnLogSigmoidForward_md.md ## CANN商业版-aclnnLogSoftmax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnLogSoftmax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/log\_softmax\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnLogSoftmax_md.md ## CANN商业版-aclnnLogSoftmaxBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnLogSoftmaxBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/logsoftmax\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnLogSoftmaxBackward_md.md ## CANN商业版-aclnnLSTM - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnLSTM.md - Description: - 接口功能:LSTM(Long Short-Term Memory,长短时记忆)网络是一种特殊的循环神经网络(RNN)模型。进行LSTM网络计算,接收输入序列和初始状态,返回输出序列和最终状态。 - 计算公式: $$ \\begin\{aligned\} \(1\)\\qquad ft &\=\\sigma\(Wf\[h\{t-1\}, xt\] + bf\) \\ \(2\)\\qquad it & - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnLSTM_md.md ## CANN商业版-aclnnLstmBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnLstmBackward.md - Description: - 接口功能:LSTM的反向传播,计算正向输入input、权重params、初始状态hx的梯度。 - 计算公式: 单层LSTM反向传播计算公式 | 组件 | 公式 | |:---|:---| | 输入拼接 | $\\mathbf\{z\}t \= \\begin\{bmatrix\} \\mathbf\{h\}\{t-1\} \\ \\mathbf\{x\}t \\end\{bmatrix\}$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnLstmBackward_md.md ## CANN商业版-aclnnMaskedSoftmaxWithRelPosBias - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMaskedSoftmaxWithRelPosBias.md - Description: - 接口功能:替换在swinTransformer中使用window attention计算softmax的部分。 - 计算公式: $$ out \= \\operatorname\{softmax\}\(scaleValue x + attenMaskOptional + relativePosBias\) $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMaskedSoftmaxWithRelPosBias_md.md ## CANN商业版-aclnnMatmul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMatmul.md - Description: - 接口功能:完成张量self与张量mat2的矩阵乘计算(支持1维到6维作为输入的矩阵乘)。 相似接口有aclnnMm(支持2维Tensor作为输入的矩阵乘)和aclnnBatchMatmul(仅支持3维的矩阵乘,其中第1维为batch)。 - 计算公式: $$ result\=self @ mat2 $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMatmul_md.md ## CANN商业版-aclnnMatmulCompress - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMatmulCompress.md - Description: - 接口功能:进行l@r矩阵乘计算时,可先通过msModelSlim工具对r矩阵进行无损压缩,减少r矩阵的内存占用大小,然后通过本接口完成无损解压缩,矩阵乘,反量化计算。 - 计算公式: $$ x2unzip \= unzip\(x2, compressIndex\)\\ result\=x1 @ x2unzip + bias $$ 其中x2表示r矩阵经过msModelSlim工具进行压 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMatmulCompress_md.md ## CANN商业版-aclnnMatmulWeightNz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMatmulWeightNz.md - Description: - 接口功能:完成张量self与张量mat2的矩阵乘计算,mat2仅支持NZ格式,只支持self为2维,mat2为4维。 相似接口有aclnnMatmul(mat2仅支持ND)、 aclnnMm(支持2维Tensor作为输入的矩阵乘)和aclnnBatchMatmul(仅支持3维的矩阵乘,其中第1维为batch)。 - 计算公式: $$ result\=self @ mat2 $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMatmulWeightNz_md.md ## CANN商业版-aclnnMaxPool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMaxPool.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/max\_pool\_v3\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMaxPool_md.md ## CANN商业版-aclnnMaxPool2dWithIndices - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMaxPool2dWithIndices.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/max\_pool3d\_with\_argmax\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMaxPool2dWithIndices_md.md ## CANN商业版-aclnnMaxPool2dWithIndicesBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMaxPool2dWithIndicesBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/max\_pool3d\_grad\_with\_argmax\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMaxPool2dWithIndicesBackward_md.md ## CANN商业版-aclnnMaxPool2dWithMask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMaxPool2dWithMask.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/max\_pool3d\_with\_argmax\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMaxPool2dWithMask_md.md ## CANN商业版-aclnnMaxPool2dWithMaskBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMaxPool2dWithMaskBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/max\_pool3d\_grad\_with\_argmax\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMaxPool2dWithMaskBackward_md.md ## CANN商业版-aclnnMaxPool3dWithArgmax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMaxPool3dWithArgmax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/max\_pool3d\_with\_argmax\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMaxPool3dWithArgmax_md.md ## CANN商业版-aclnnMaxPool3dWithArgmaxBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMaxPool3dWithArgmaxBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/max\_pool3d\_grad\_with\_argmax\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMaxPool3dWithArgmaxBackward_md.md ## CANN商业版-aclnnMaxUnpool2d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMaxUnpool2d.md - Description: - 接口功能:aclnnMaxPool在2d的逆运算,由outputSize决定out的H、W轴大小,并根据indices索引在out中填入self的元素值,其余位置都设置为0。 - 计算公式: $$ out\[n\]\[c\]\[indices\[n\]\[c\]\[i\]\] \= self\[n\]\[c\]\[i\] $$ 其中out、indices和self是最后两轴合为一轴,经过reshape得到的,i ∈ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMaxUnpool2d_md.md ## CANN商业版-aclnnMaxUnpool2dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMaxUnpool2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_elements\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMaxUnpool2dBackward_md.md ## CANN商业版-aclnnMaxUnpool3d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMaxUnpool3d.md - Description: - 接口功能:aclnnMaxPool在3d的逆运算,由outputSize决定outRef的D、H、W轴大小,并根据indices索引在outRef中填入self的元素值,其余位置都设置为0。 - 计算公式: - 输入为4维,各维度分别为N、D、H、W,(其中N(Batch)表示批量大小、H(Height)表示特征图高度、W(Width)表示特征图宽度、D(Depth)表示特征图深度)时: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMaxUnpool3d_md.md ## CANN商业版-aclnnMaxUnpool3dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMaxUnpool3dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_elements\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMaxUnpool3dBackward_md.md ## CANN商业版-aclnnMedian - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMedian.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMedian_md.md ## CANN商业版-aclnnMedianDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMedianDim.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMedianDim_md.md ## CANN商业版-aclnnMish&aclnnInplaceMish - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMish%26aclnnInplaceMish.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/mish\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMishaclnnInplaceMish_md.md ## CANN商业版-aclnnMishBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMishBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/mish\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMishBackward_md.md ## CANN商业版-aclnnMm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMm.md - Description: - 接口功能:完成张量self与张量mat2的矩阵乘计算。 - 计算公式: $$ result\=self @ mat2 $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMm_md.md ## CANN商业版-aclnnModulate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnModulate.md - Description: - 接口功能:实现特征的自适应缩放(scale)和平移(shift) - 计算公式: $$ out \= self \\times \(1 + scaleOptional\) + shiftOptional $$ 其中 $self \\in R ^ \{B imes L imes D\}$,$scaleOptional \\in R ^ \{B imes 1 imes D\}$,$shiftO - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnModulate_md.md ## CANN商业版-aclnnModulateBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnModulateBackward.md - Description: - 接口功能:完成ModulateBackward反向传播中参数的计算,进行梯度更新。 - 计算公式: 设输入self的shape为\[B, L, D\]计算公式如下: 公式: $$ \\begin\{cases\} \\text\{gradinput\} \= \\text\{gradoutput\} \\odot \\text\{scale\}^\{\\uparrow L\} \\ \\ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnModulateBackward_md.md ## CANN商业版-aclnnMseLoss - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMseLoss.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/mse\_loss\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMseLoss_md.md ## CANN商业版-aclnnMseLossBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMseLossBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/mse\_loss\_grad\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMseLossBackward_md.md ## CANN商业版-aclnnMseLossOut - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMseLossOut.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/mse\_loss\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMseLossOut_md.md ## CANN商业版-aclnnMultilabelMarginLoss - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMultilabelMarginLoss.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/multilabel\_margin\_loss\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMultilabelMarginLoss_md.md ## CANN商业版-aclnnMultiScaleDeformableAttentionGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMultiScaleDeformableAttentionGrad.md - Description: - 接口功能: MultiScaleDeformableAttention正向算子功能主要通过采样位置(sample location)、注意力权重(attention weights)、映射后的value特征、多尺度特征起始索引位置、多尺度特征图的空间大小(便于将采样位置由归一化的值变成绝对位置)等参数来遍历不同尺寸特征图的不同采样点。而反向算子的功能为根据正向的输入对输出的贡献及初始梯度求 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMultiScaleDeformableAttentionGrad_md.md ## CANN商业版-aclnnMultiScaleDeformableAttnFunction - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMultiScaleDeformableAttnFunction.md - Description: - 接口功能: 通过采样位置(sample location)、注意力权重(attention weights)、映射后的value特征、多尺度特征起始索引位置、多尺度特征图的空间大小(便于将采样位置由归一化的值变成绝对位置)等参数来遍历不同尺寸特征图的不同采样点。 - 计算公式: 将采样点的归一化坐标 $\(u,v\)\\in\[0,1\]$ 映射到第 $\\ell$ 层特征图的像素坐标系: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMultiScaleDeformableAttnFunction_md.md ## CANN商业版-aclnnMv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnMv.md - Description: - 接口功能:计算矩阵input与向量vec的乘积。 - 计算公式: $$ out \= input vec $$ 其中$input$为nm的二维张量,$vec$为长度为m的一维张量,$out$为长度为n的一维张量。 - 示例: ```text a \= tensor\(\[\[1, 2, 3\], \[4, 5, 6\]\],dtype\=float\) b - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnMv_md.md ## CANN商业版-aclnnNanMedian - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnNanMedian.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnNanMedian_md.md ## CANN商业版-aclnnNanMedianDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnNanMedianDim.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnNanMedianDim_md.md ## CANN商业版-aclnnNLLLoss - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnNLLLoss.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/nll\_loss\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnNLLLoss_md.md ## CANN商业版-aclnnNLLLoss2d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnNLLLoss2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/nll\_loss\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnNLLLoss2d_md.md ## CANN商业版-aclnnNLLLoss2dBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnNLLLoss2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/nll\_loss\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnNLLLoss2dBackward_md.md ## CANN商业版-aclnnNLLLossBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnNLLLossBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/nll\_loss\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnNLLLossBackward_md.md ## CANN商业版-aclnnNonzero - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnNonzero.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/non\_zero\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnNonzero_md.md ## CANN商业版-aclnnNonzeroV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnNonzeroV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/non\_zero\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnNonzeroV2_md.md ## CANN商业版-aclnnNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/lp\_norm\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnNorm_md.md ## CANN商业版-aclnnObfuscationCalculate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnObfuscationCalculate.md - Description: - 接口功能:将张量x和配置参数(如param、cmd)发送至PMCC混淆引擎。引擎的CA模块调用TA模块,进行张量混淆处理,最终返回shape与x一致的混淆后的张量y。 - 背景:PMCC(Privacy&Model Confidential Computing)模型混淆特性利用CPU核中的TrustZone可信执行环境隔离存储混淆因子、派生混淆掩码、执行动态掩码添加。PMCC基于NPU T - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnObfuscationCalculate_md.md ## CANN商业版-aclnnObfuscationCalculateV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnObfuscationCalculateV2.md - Description: - 接口功能:将张量x和配置参数(如param、cmd)发送至PMCC混淆引擎。引擎的CA模块调用TA模块,进行张量混淆处理,最终返回shape与x一致的混淆后的张量y。 - 背景:PMCC(Privacy&Model Confidential Computing)模型混淆特性利用CPU核中的TrustZone可信执行环境隔离存储混淆因子、派生混淆掩码、执行动态掩码添加。PMCC基于NPU T - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnObfuscationCalculateV2_md.md ## CANN商业版-aclnnObfuscationSetup - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnObfuscationSetup.md - Description: - 接口功能:完成PMCC模型混淆引擎的资源初始化和释放。 - 资源初始化:与PMCC混淆引擎CA建立socket连接、对CA、TA进行初始化,并返回socket连接符。 - 资源释放:与PMCC混淆引擎CA断开socket连接。 - 背景:PMCC(Privacy&Model Confidential Computing)模型混淆特性利用CPU核中的TrustZone可信执行环境隔离 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnObfuscationSetup_md.md ## CANN商业版-aclnnObfuscationSetupV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnObfuscationSetupV2.md - Description: - 接口功能:完成PMCC模型混淆引擎的资源初始化和释放。 - 资源初始化:与PMCC混淆引擎CA建立socket连接、对CA、TA进行初始化,并返回socket连接符。 - 资源释放:与PMCC混淆引擎CA断开socket连接。 - 背景:PMCC(Privacy&Model Confidential Computing)模型混淆特性利用CPU核中的TrustZone可信执行环境隔离 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnObfuscationSetupV2_md.md ## CANN商业版-aclnnPrelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnPrelu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/prelu\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnPrelu_md.md ## CANN商业版-aclnnPreluBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnPreluBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/prelu\_grad\_update\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnPreluBackward_md.md ## CANN商业版-aclnnQuantBatchMatmulInplaceAdd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnQuantBatchMatmulInplaceAdd.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/matmul/quant\_batch\_matmul\_inplace\_add\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnQuantBatchMatmulInplaceAdd_md.md ## CANN商业版-aclnnQuantConvolution - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnQuantConvolution.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/conv/convolution\_forward\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnQuantConvolution_md.md ## CANN商业版-aclnnQuantConvolutionWeightNz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnQuantConvolutionWeightNz.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/conv/convolution\_forward\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnQuantConvolutionWeightNz_md.md ## CANN商业版-aclnnQuantize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnQuantize.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/quantize\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnQuantize_md.md ## CANN商业版-aclnnQuantizedBatchNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnQuantizedBatchNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/quantized\_batch\_norm\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnQuantizedBatchNorm_md.md ## CANN商业版-aclnnQuantMatmul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnQuantMatmul.md - Description: **须知:该接口后续版本会废弃,请使用最新aclnnQuantMatmulV5接口。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnQuantMatmul_md.md ## CANN商业版-aclnnQuantMatmulDequant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnQuantMatmulDequant.md - Description: - 接口功能:对输入x进行量化,矩阵乘以及反量化。 - 计算公式: 1.若输入smoothScaleOptional,则 $$ x \= x\\cdot scale\{smooth\} $$ 2.若不输入xScaleOptional,则为动态量化,需要计算x量化系数。 $$ scale\{x\}\=rowmax\(abs\(x\)\)/max\{quantDat - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnQuantMatmulDequant_md.md ## CANN商业版-aclnnQuantMatmulReduceSumWeightNz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnQuantMatmulReduceSumWeightNz.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/matmul/quant\_matmul\_reduce\_sum\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnQuantMatmulReduceSumWeightNz_md.md ## CANN商业版-aclnnQuantMatmulV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnQuantMatmulV2.md - Description: **须知:该接口后续版本会废弃,请使用最新aclnnQuantMatmulV5接口。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnQuantMatmulV2_md.md ## CANN商业版-aclnnQuantMatmulV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnQuantMatmulV3.md - Description: **须知:该接口后续版本会废弃,请使用最新aclnnQuantMatmulV5接口。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnQuantMatmulV3_md.md ## CANN商业版-aclnnQuantMatmulV4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnQuantMatmulV4.md - Description: **须知:该接口后续版本会废弃,请使用最新aclnnQuantMatmulV5接口。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnQuantMatmulV4_md.md ## CANN商业版-aclnnQuantMatmulV5 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnQuantMatmulV5.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/matmul/quant\_batch\_matmul\_v4\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnQuantMatmulV5_md.md ## CANN商业版-aclnnQuantMatmulWeightNz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnQuantMatmulWeightNz.md - Description: - 接口功能:完成量化的矩阵乘计算。相似接口有aclnnMm(仅支持2维Tensor作为输入的矩阵乘)和aclnnBatchMatMul(仅支持三维的矩阵乘,其中第一维是Batch维度)。支持T-C、T-T、K-C、K-T、mx量化模式。 - 计算公式: Atlas 推理系列产品、Atlas A2 训练系列产品/Atlas A2 推理系列产品、Atlas A3 训练系列产品/At - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnQuantMatmulWeightNz_md.md ## CANN商业版-aclnnRelu&aclnnInplaceRelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnRelu%26aclnnInplaceRelu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/relu\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnReluaclnnInplaceRelu_md.md ## CANN商业版-aclnnRenorm&aclnnInplaceRenorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnRenorm%26aclnnInplaceRenorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/renorm\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnRenormaclnnInplaceRenorm_md.md ## CANN商业版-aclnnRepeatInterleave - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnRepeatInterleave.md - Description: ? \[查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/repeat\_interleave\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnRepeatInterleave_md.md ## CANN商业版-aclnnRepeatInterleaveGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnRepeatInterleaveGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/repeat\_interleave\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnRepeatInterleaveGrad_md.md ## CANN商业版-aclnnRepeatInterleaveInt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnRepeatInterleaveInt.md - Description: ? \[查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/repeat\_interleave\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnRepeatInterleaveInt_md.md ## CANN商业版-aclnnRepeatInterleaveIntWithDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnRepeatInterleaveIntWithDim.md - Description: ? \[查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/repeat\_interleave\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnRepeatInterleaveIntWithDim_md.md ## CANN商业版-aclnnRepeatInterleaveTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnRepeatInterleaveTensor.md - Description: ? \[查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/repeat\_interleave\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnRepeatInterleaveTensor_md.md ## CANN商业版-aclnnRepeatInterleaveWithDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnRepeatInterleaveWithDim.md - Description: ? \[查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/repeat\_interleave\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnRepeatInterleaveWithDim_md.md ## CANN商业版-aclnnRmsNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnRmsNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/rms\_norm\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnRmsNorm_md.md ## CANN商业版-aclnnRmsNormGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnRmsNormGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/rms\_norm\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnRmsNormGrad_md.md ## CANN商业版-aclnnRmsNormQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnRmsNormQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/rms\_norm\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnRmsNormQuant_md.md ## CANN商业版-aclnnRReluWithNoise&aclnnInplaceRReluWithNoise - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnRReluWithNoise%26aclnnInplaceRReluWithNoise.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/leaky\_relu\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnRReluWithNoiseaclnnInplaceRReluWithNoise_md.md ## CANN商业版-aclnnScaledMaskedSoftmax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnScaledMaskedSoftmax.md - Description: - 接口功能:将输入的数据x先进行scale缩放和mask,然后执行softmax的输出。 - 计算公式: $$ y \= Softmax\(\(scale x\) mask, dim \= -1\) $$ $$ Softmax\(Xi\) \=\{e^\{Xi - max\(X, dim\=-1\)\} \\over \\sum\{e^\{Xi - max\(X, dim\=-1\)\}\}\} $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnScaledMaskedSoftmax_md.md ## CANN商业版-aclnnScaledMaskedSoftmaxBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnScaledMaskedSoftmaxBackward.md - Description: - 接口功能:softmax的反向传播,并对结果进行缩放以及掩码。 - 计算公式: $$ out \= gradOutput \\cdot output - sum\(gradOutput \\cdot output\)\\cdot output \\ out \= \\begin\{cases\} out scale, &\\text \{ mask is 0 \} \\ 0, &\\text \{ mas - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnScaledMaskedSoftmaxBackward_md.md ## CANN商业版-aclnnScatter&aclnnInplaceScatter - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnScatter%26aclnnInplaceScatter.md - Description: ? \[查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/scatter\_elements\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnScatteraclnnInplaceScatter_md.md ## CANN商业版-aclnnScatterAdd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnScatterAdd.md - Description: ? \[查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/scatter\_elements\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnScatterAdd_md.md ## CANN商业版-aclnnScatterList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnScatterList.md - Description: - 接口功能:将稀疏更新应用到变量引用张量列表中,通过索引将updates中的值scatter到var对应的维度上。 - 计算公式: $$ var\[i\]\[j\] \= updates\[k\]\[j\] \\quad \\text\{when\} \\quad indices\[k\] \= i $$ 其中indices为索引张量,updates为待更新的值张量,var为待被更新的张量列表,scatter的维 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnScatterList_md.md ## CANN商业版-aclnnScatterNd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnScatterNd.md - Description: 接口功能:拷贝data的数据至out,同时在指定indices处根据updates更新out中的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnScatterNd_md.md ## CANN商业版-aclnnScatterNdUpdate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnScatterNdUpdate.md - Description: ? \[查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/scatter\_nd\_update\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnScatterNdUpdate_md.md ## CANN商业版-aclnnScatterValue&aclnnInplaceScatterValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnScatterValue%26aclnnInplaceScatterValue.md - Description: - 算子功能:将scalar value中的值按指定的轴和方向和对应的位置关系逐个填入tensor self中。value会被broadcast成和tensor index的shape一致的tensor src进行Scatter的计算。 - 示例: 对于一个3D tensor, self会按照如下的规则进行更新: ```text self\[index\[i\]\[j\]\[k\]\]\[j\]\[k\] \= - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnScatterValueaclnnInplaceScatterValue_md.md ## CANN商业版-aclnnSelu&aclnnInplaceSelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSelu%26aclnnInplaceSelu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/selu\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSeluaclnnInplaceSelu_md.md ## CANN商业版-aclnnSeluBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSeluBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/selu\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSeluBackward_md.md ## CANN商业版-aclnnShrink - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnShrink.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/shrink\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnShrink_md.md ## CANN商业版-aclnnSigmoid&aclnnInplaceSigmoid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSigmoid%26aclnnInplaceSigmoid.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/sigmoid\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSigmoidaclnnInplaceSigmoid_md.md ## CANN商业版-aclnnSigmoidBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSigmoidBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/sigmoid\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSigmoidBackward_md.md ## CANN商业版-aclnnSilu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSilu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/swish\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSilu_md.md ## CANN商业版-aclnnSiluBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSiluBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/silu\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSiluBackward_md.md ## CANN商业版-aclnnSmoothL1Loss - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSmoothL1Loss.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/smooth\_l1\_loss\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSmoothL1Loss_md.md ## CANN商业版-aclnnSmoothL1LossBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSmoothL1LossBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/smooth\_l1\_loss\_grad\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSmoothL1LossBackward_md.md ## CANN商业版-aclnnSoftMarginLoss - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSoftMarginLoss.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/soft\_margin\_loss\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSoftMarginLoss_md.md ## CANN商业版-aclnnSoftMarginLossBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSoftMarginLossBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/soft\_margin\_loss\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSoftMarginLossBackward_md.md ## CANN商业版-aclnnSoftmax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSoftmax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/softmax\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSoftmax_md.md ## CANN商业版-aclnnSoftmaxBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSoftmaxBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/softmax\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSoftmaxBackward_md.md ## CANN商业版-aclnnSoftmaxCrossEntropyWithLogits - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSoftmaxCrossEntropyWithLogits.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/softmax\_cross\_entropy\_with\_logits\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSoftmaxCrossEntropyWithLogits_md.md ## CANN商业版-aclnnSoftplus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSoftplus.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/softplus\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSoftplus_md.md ## CANN商业版-aclnnSoftplusBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSoftplusBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/softplus\_v2\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSoftplusBackward_md.md ## CANN商业版-aclnnSoftshrink - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSoftshrink.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/softshrink\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSoftshrink_md.md ## CANN商业版-aclnnSoftshrinkBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSoftshrinkBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/softshrink\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSoftshrinkBackward_md.md ## CANN商业版-aclnnSparse4to2QuantMatmulWeightNz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSparse4to2QuantMatmulWeightNz.md - Description: - 接口功能: 完成稀疏4:2量化的矩阵乘计算。 - 计算公式: $$ out \= x@sparseWeight sparseWeightScale xScale + bias $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSparse4to2QuantMatmulWeightNz_md.md ## CANN商业版-aclnnSquaredRelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSquaredRelu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/squared\_relu\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSquaredRelu_md.md ## CANN商业版-aclnnSwiGlu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSwiGlu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/swi\_glu\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSwiGlu_md.md ## CANN商业版-aclnnSwiGluGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSwiGluGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/swi\_glu\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSwiGluGrad_md.md ## CANN商业版-aclnnSwiGluQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSwiGluQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/swi\_glu\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSwiGluQuant_md.md ## CANN商业版-aclnnSwiGluQuantV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSwiGluQuantV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/swi\_glu\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSwiGluQuantV2_md.md ## CANN商业版-aclnnSwish - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSwish.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/swish\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSwish_md.md ## CANN商业版-aclnnSwishBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSwishBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/swish\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSwishBackward_md.md ## CANN商业版-aclnnSyncBatchNormGatherStats - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnSyncBatchNormGatherStats.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/sync\_batch\_norm\_gather\_stats\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnSyncBatchNormGatherStats_md.md ## CANN商业版-aclnnTake - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnTake.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnTake_md.md ## CANN商业版-aclnnTfScatterAdd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnTfScatterAdd.md - Description: - 接口功能:实现兼容tf.compat.v1.scatteradd和tf.compat.v1.scatterndadd的功能,将tensor updates中的值按指定的索引tensor indices加到tensor varRef的切片上。若有多于一个updates值被填入到varRef的同一个切片,那么这些值将会在这一切片上进行累加。规则如下: $$ varRef\[indices\[i,... - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnTfScatterAdd_md.md ## CANN商业版-aclnnThnnFusedLstmCell - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnThnnFusedLstmCell.md - Description: - 接口功能:实现长短期记忆网络单元(LSTM Cell)的单步前向计算中,矩阵乘法后的后续计算。输出当前时刻的隐状态和细胞状态,同时输出当前遗忘门、输入门、输出门和候选状态用于反向计算。 - 计算公式: 计算门控激活值: $$ \\begin\{aligned\} b &\= b\{ih\} + b\{hh\} \\ gates &\= inputGates + hiddenGates + - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnThnnFusedLstmCell_md.md ## CANN商业版-aclnnThnnFusedLstmCellBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnThnnFusedLstmCellBackward.md - Description: - 接口功能:LSTMCell中四个门中matmul后剩余计算的反向传播,计算正向输出四个门激活前的值gates、输入cx、偏置b的梯度。 - 计算公式: 变量定义 输入梯度:$\\delta ht$ \(`gradHy`\), $\\delta ct$ \(`gradC`\) 前向缓存:$i,f,g,o$ \(各门激活值`storage`\),$c\{t-1\}$ \(`cx`\),$ct$ \(`cy` - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnThnnFusedLstmCellBackward_md.md ## CANN商业版-aclnnThreshold&aclnnInplaceThreshold - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnThreshold%26aclnnInplaceThreshold.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/threshold\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnThresholdaclnnInplaceThreshold_md.md ## CANN商业版-aclnnThresholdBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnThresholdBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/threshold\_grad\_v2\_d\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnThresholdBackward_md.md ## CANN商业版-aclnnTopKTopPSample - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnTopKTopPSample.md - Description: - 接口功能: 根据输入词频logits、topK/topP采样参数、随机采样权重分布q,进行topK-topP-sample采样计算,输出每个batch的最大词频logitsSelectIdx,以及topK-topP采样后的词频分布logitsTopKPSelect。 算子包含三个可单独使能,但上下游处理关系保持不变的采样算法(从原始输入到最终输出):TopK采样、TopP采样、指数采样 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnTopKTopPSample_md.md ## CANN商业版-aclnnTopKTopPSampleV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnTopKTopPSampleV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/top\_k\_top\_p\_sample\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnTopKTopPSampleV2_md.md ## CANN商业版-aclnnTransposeBatchMatMul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnTransposeBatchMatMul.md - Description: - 接口功能:完成张量x1与张量x2的矩阵乘计算。仅支持三维的Tensor传入。Tensor支持转置,转置序列根据传入的数列进行变更。permX1代表张量x1的转置序列,permX2代表张量x2的转置序列,序列值为0的是batch维度,其余两个维度做矩阵乘法。 - 示例: - x1的shape是\(B, M, K\),x2的shape是\(B, K, N\),scale为None,batchSplit - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnTransposeBatchMatMul_md.md ## CANN商业版-aclnnTransposeQuantBatchMatMul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnTransposeQuantBatchMatMul.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/matmul/transpose\_quant\_batch\_mat\_mul\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnTransposeQuantBatchMatMul_md.md ## CANN商业版-aclnnTransQuantParam - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnTransQuantParam.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/trans\_quant\_param\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnTransQuantParam_md.md ## CANN商业版-aclnnTransQuantParamV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnTransQuantParamV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/trans\_quant\_param\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnTransQuantParamV2_md.md ## CANN商业版-aclnnTransQuantParamV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnTransQuantParamV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/trans\_quant\_param\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnTransQuantParamV3_md.md ## CANN商业版-aclnnTransSparse4to2Para - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnTransSparse4to2Para.md - Description: 对结构化稀疏的weight矩阵进行压缩预处理,输出压缩后的稀疏矩阵以及对应的索引矩阵。 假设原始稀疏矩阵的每4个元素中至少有2个零,压缩后的稀疏矩阵是一个在每4个元素中过滤掉2个零的矩阵。矩阵压缩过程中生成索引矩阵,原始矩阵中的每4个元素,将在index矩阵中生成2个2位索引,并按照规则进行编码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnTransSparse4to2Para_md.md ## CANN商业版-aclnnUnique - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnUnique.md - Description: 接口功能:返回输入张量中的唯一元素。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnUnique_md.md ## CANN商业版-aclnnUnique2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnUnique2.md - Description: 对输入张量self进行去重,返回self中的唯一元素。unique功能的增强,新增返回值countsOut,表示valueOut中各元素在输入self中出现的次数,用returnCounts参数控制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnUnique2_md.md ## CANN商业版-aclnnUniqueConsecutive - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnUniqueConsecutive.md - Description: 接口功能:去除每一个元素后的重复元素。当dim不为空时,去除对应维度上的每一个张量后的重复张量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnUniqueConsecutive_md.md ## CANN商业版-aclnnUniqueDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnUniqueDim.md - Description: - 接口功能:在某一dim轴上,对输入张量`self`做去重操作。 - 示例:假设`self`为 $$ \\begin\{bmatrix\} \\begin\{bmatrix\} 2 & 1 & 2 \\end\{bmatrix\}\\ \\begin\{bmatrix\} 1 & 2 & 1 \\end\{bmatrix\}\\ \\begin\{bmatrix\} 2 & 1 & 2 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnUniqueDim_md.md ## CANN商业版-aclnnWeightQuantBatchMatmul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnWeightQuantBatchMatmul.md - Description: **须知:该接口后续版本会废弃,请使用最新aclnnWeightQuantBatchMatmulV3接口。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnWeightQuantBatchMatmul_md.md ## CANN商业版-aclnnWeightQuantBatchMatmulV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnWeightQuantBatchMatmulV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/matmul/weight\_quant\_batch\_matmul\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnWeightQuantBatchMatmulV2_md.md ## CANN商业版-aclnnWeightQuantBatchMatmulV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/aclnnWeightQuantBatchMatmulV3.md - Description: - 算子功能:完成一个输入为伪量化场景的矩阵乘计算,并可以实现对于输出的量化计算。相较于aclnnWeightQuantBatchMatmulV2接口,此接口变化点为: 新增innerPrecise参数,用于支持高精度或者高性能计算模式选择。A16W4 pergroup场景在batchSize<\=16的场景下可设置为1,提升性能。 - 计算公式: $$ y \= x @ ANTIQUAN - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_aclnnWeightQuantBatchMatmulV3_md.md ## 算子接口(aclnn) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-nn/op_api_list.md - Description: 为方便调用算子,提供一套基于C的API(以aclnn为前缀API),无需提供IR(Intermediate Representation)定义,方便高效构建模型与应用开发,该方式被称为“单算子API调用”,简称aclnn调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-nn_op_api_list_md.md ## CANN商业版-aclnnAllGatherMatmul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnAllGatherMatmul.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/all\_gather\_matmul\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnAllGatherMatmul_md.md ## CANN商业版-aclnnAllGatherMatmulV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnAllGatherMatmulV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/all\_gather\_matmul\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnAllGatherMatmulV2_md.md ## CANN商业版-aclnnAlltoAllAllGatherBatchMatMul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnAlltoAllAllGatherBatchMatMul.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/allto\_all\_all\_gather\_batch\_mat\_mul\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnAlltoAllAllGatherBatchMatMul_md.md ## CANN商业版-aclnnAlltoAllMatmul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnAlltoAllMatmul.md - Description: - 接口功能:完成AlltoAll通信、Permute(保证通信后地址连续)和Matmul计算的融合,先通信后计算。 - 计算公式:假设x1输入shape为\(BS, H\),rankSize为NPU卡数 $$ commOut \= AlltoAll\(x1.view\(rankSize, BS/rankSize, H\)\) \\ permutedOut \= commOut.permute\(1, 0 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnAlltoAllMatmul_md.md ## CANN商业版-aclnnAlltoAllQuantMatmul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnAlltoAllQuantMatmul.md - Description: - 接口功能:完成AlltoAll通信、Permute(保证通信后地址连续)、Quant、Matmul和Dequant计算的融合,先通信后计算,支持K-C量化、K-C动态量化和mx量化模式。 - 计算公式:假设x1输入shape为\(BS, H\),mx量化场景下x1Scale输入shape为\(BS, ceil\(H/64\), 2\),rankSize为NPU卡数 - Atlas A2 训练系列产品/ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnAlltoAllQuantMatmul_md.md ## CANN商业版-aclnnAlltoAllvGroupedMatMul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnAlltoAllvGroupedMatMul.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/allto\_allv\_grouped\_mat\_mul\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnAlltoAllvGroupedMatMul_md.md ## CANN商业版-aclnnAlltoAllvQuantGroupedMatMul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnAlltoAllvQuantGroupedMatMul.md - Description: - 算子功能:完成路由专家AlltoAllv、量化GroupedMatMul融合并实现与共享专家量化MatMul并行融合,先通信后计算。 - 计算公式: - 路由专家: ```text permuteOut \= AlltoAllv\(gmmX\) quantedPermuteOut \= Quant\(permuteOut, gmmXScale\) quantedGmmW - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnAlltoAllvQuantGroupedMatMul_md.md ## CANN商业版-aclnnApplyRotaryPosEmb - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnApplyRotaryPosEmb.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/posembedding/apply\_rotary\_pos\_emb\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnApplyRotaryPosEmb_md.md ## CANN商业版-aclnnApplyRotaryPosEmbV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnApplyRotaryPosEmbV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/posembedding/apply\_rotary\_pos\_emb\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnApplyRotaryPosEmbV2_md.md ## CANN商业版-aclnnAttentionToFFN - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnAttentionToFFN.md - Description: 将Attention节点上token数据发往FFN节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnAttentionToFFN_md.md ## CANN商业版-aclnnAttentionUpdate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnAttentionUpdate.md - Description: - 接口功能:将各SP域PA算子的输出的中间结果lse,localOut两个局部变量结果更新成全局结果。 - 计算公式: $$ lse\{max\} \= \\text\{max\}lsei $$ $$ lse \= \\sumi \\text\{exp\}\(lsei - lse\{max\}\) $$ $$ lsem \= lse\{max\} + \\text\{log\}\(lse\) $$ $$ O \= \\sumi Oi \\cdot - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnAttentionUpdate_md.md ## CANN商业版-aclnnBatchMatMulReduceScatterAlltoAll - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnBatchMatMulReduceScatterAlltoAll.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/batch\_mat\_mul\_reduce\_scatter\_allto\_all\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnBatchMatMulReduceScatterAlltoAll_md.md ## CANN商业版-aclnnBlockSparseAttention - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnBlockSparseAttention.md - Description: - 接口功能:BlockSparseAttention稀疏注意力计算,支持灵活的块级稀疏模式,通过BlockSparseMask指定每个Q块选择的KV块,实现高效的稀疏注意力计算。 - 计算公式:稀疏块大小:$blockShapeX imes blockShapeY$,selectIdx指定稀疏模式 $$ attentionOut \= Softmax\(scale \\cdot query - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnBlockSparseAttention_md.md ## CANN商业版-aclnnBlockSparseAttentionGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnBlockSparseAttentionGrad.md - Description: ​接口功能​:aclnnBlockSparseAttention稀疏注意力反向计算,支持灵活的块级稀疏模式,通过BlockSparseMask指定每个Q块选择的KV块,实现高效的稀疏注意力计算。 ​计算公式​: 稀疏块大小:$blockShapeX×blockShapeY$,BlockSparseMask指定稀疏模式。 已知正向计算公式为: $$ attentionOut - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnBlockSparseAttentionGrad_md.md ## CANN商业版-aclnnDenseLightningIndexerGradKLLoss - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnDenseLightningIndexerGradKLLoss.md - Description: - 接口功能:DenseLightningIndexerGradKlLoss算子是LightningIndexer的反向算子,再额外融合了Loss计算功能。LightningIndexer算子将QueryToken和KeyToken之间的最高内在联系的TopK个筛选出来,从而减少长序列场景下Attention的计算量,加速长序列的网络的推理和训练的性能。稠密场景下的LightningIndexer - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnDenseLightningIndexerGradKLLoss_md.md ## CANN商业版-aclnnDenseLightningIndexerSoftmaxLse - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnDenseLightningIndexerSoftmaxLse.md - Description: - 接口功能:DenseLightningIndexerSoftmaxLse算子是DenseLightningIndexerGradKlLoss算子计算Softmax输入的一个分支算子。 - 计算公式: $$ \\text\{res\}\=\\text\{AttentionMask\}\\left\(\\text\{ReduceSum\}\\left\(W\\odot\\text\{ReLU\}\\left\(Q\{index\}@ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnDenseLightningIndexerSoftmaxLse_md.md ## CANN商业版-aclnnDequantRopeQuantKvcache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnDequantRopeQuantKvcache.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/posembedding/dequant\_rope\_quant\_kvcache\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnDequantRopeQuantKvcache_md.md ## CANN商业版-aclnnDistributeBarrier - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnDistributeBarrier.md - Description: 完成通信域内的全卡同步,xRef仅用于构建Tensor依赖,接口内不对xRef做任何操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnDistributeBarrier_md.md ## CANN商业版-aclnnDistributeBarrierV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnDistributeBarrierV2.md - Description: 接口功能:完成通信域内的全卡同步,xRef仅用于构建Tensor依赖,接口内不对xRef做任何操作。 - 相较于`aclnnDistributeBarrier`接口,该接口变更如下: - 新增`elasticInfoOptional`参数。 - 新增`timeOutOptional`参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnDistributeBarrierV2_md.md ## CANN商业版-aclnnFFN - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFFN.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/ffn/ffn\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFFN_md.md ## CANN商业版-aclnnFFNToAttention - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFFNToAttention.md - Description: 将FFN节点上的数据发往Attention节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFFNToAttention_md.md ## CANN商业版-aclnnFFNV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFFNV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/ffn/ffn\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFFNV2_md.md ## CANN商业版-aclnnFFNV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFFNV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/ffn/ffn\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFFNV3_md.md ## CANN商业版-aclnnFlashAttentionScore - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionScore.md - Description: - 接口功能:训练场景下,使用FlashAttention算法实现self-attention(自注意力)的计算。 - 计算公式: 注意力的正向计算公式如下: $$ attentionout \= Dropout\(Softmax\(Mask\(scale\(pse+querykey^T\), attenmask\)\), keepprob\)value $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFlashAttentionScore_md.md ## CANN商业版-aclnnFlashAttentionScoreGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionScoreGrad.md - Description: - 接口功能:训练场景下计算注意力的反向输出,即aclnnFlashAttentionScore的反向计算。 - 计算公式: 已知注意力的正向计算公式为: $$ Y\=Dropout\(Softmax\(Mask\(\\frac\{QK^T+pse\}\{\\sqrt\{d\}\}\),attenmask\),keepprob\)V $$ 为方便表达,以变量$S$和$P$表示计算公式: $$ S\=M - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFlashAttentionScoreGrad_md.md ## CANN商业版-aclnnFlashAttentionScoreGradV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionScoreGradV2.md - Description: - 接口功能:训练场景下计算注意力的反向输出,即aclnnFlashAttentionScoreV2的反向计算。该接口相较于aclnnFlashAttentionScoreGrad接口,新增pseType参数: - pseType\=1时,与aclnnFlashAttentionScoreGrad实现相同。 - pseType\=其他取值时,需要先mul再add。 - 计算公式: 已知注意 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFlashAttentionScoreGradV2_md.md ## CANN商业版-aclnnFlashAttentionScoreGradV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionScoreGradV3.md - Description: 训练场景下计算注意力的反向输出,即aclnnFlashAttentionScoreV3的反向计算。该接口相较于aclnnFlashAttentionScoreGradV2接口,新增sinkInOptional参数和dsinkOut输出: - Atlas 350 加速卡:暂不支持sinkInOptional参数和dsinkOut输出。 - pseType\=1时,与aclnnFlashAtte - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFlashAttentionScoreGradV3_md.md ## CANN商业版-aclnnFlashAttentionScoreGradV4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionScoreGradV4.md - Description: - 接口功能:训练场景下计算注意力的反向输出,即FlashAttentionScoreV4的反向计算。该接口query、key、value参数支持多个长度相等或者长度不相等的sequence - 该接口合并了FlashAttentionScoreGradV2接口和FlashAttentionUnpaddingScoreGradV2接口,并调整了Dropout功能: - Atlas 35 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFlashAttentionScoreGradV4_md.md ## CANN商业版-aclnnFlashAttentionScoreV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionScoreV2.md - Description: - 接口功能:训练场景下,使用FlashAttention算法实现self-attention(自注意力)的计算。该接口相较于aclnnFlashAttentionScore接口,新增pseType参数: - pseType\=1时,与aclnnFlashAttentionScore实现相同。 - pseType\=其他取值时,需要先mul再add。 - 计算公式: 注意力的正向计算公式 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFlashAttentionScoreV2_md.md ## CANN商业版-aclnnFlashAttentionScoreV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionScoreV3.md - Description: - 接口功能:训练场景下,使用FlashAttention算法实现self-attention(自注意力)的计算。对标竞品适配gptoss模型支持sink功能。跟aclnnFlashAttentionScoreV2接口的区别是:增加`sinkInOptional`可选输入。 - Atlas 350 加速卡:暂不支持sinkInOptional参数。 计算公式: 注意力的正向计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFlashAttentionScoreV3_md.md ## CANN商业版-aclnnFlashAttentionScoreV4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionScoreV4.md - Description: - 接口功能:训练场景下,使用FlashAttention算法实现self-attention(自注意力)的计算。该接口query、key、value参数支持多个长度相等或者多个长度不相等的sequence - 该接口相较于FlashAttentionScoreV3接口,功能差异如下:: - 针对计算输入query、key、value参数,其数据类型新增支持FLOAT8E5M2、FLO - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFlashAttentionScoreV4_md.md ## CANN商业版-aclnnFlashAttentionUnpaddingScoreGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionUnpaddingScoreGrad.md - Description: - 接口功能:训练场景下计算注意力的反向输出,即aclnnFlashAttentionVarLenScore的反向计算。 - 计算公式: 已知注意力的正向计算公式为: $$ Y\=Dropout\(Softmax\(Mask\(\\frac\{QK^T+pse\}\{\\sqrt\{d\}\}\),attenmask\),keepprob\)V $$ 为方便表达,以变量$S$和$P$表示 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFlashAttentionUnpaddingScoreGrad_md.md ## CANN商业版-aclnnFlashAttentionUnpaddingScoreGradV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionUnpaddingScoreGradV2.md - Description: - 接口功能:训练场景下计算注意力的反向输出,即aclnnFlashAttentionVarLenScoreV2的反向计算。该接口相较于aclnnFlashAttentionUnpaddingScoreGrad接口,新增pseType参数: - pseType\=1时,与aclnnFlashAttentionUnpaddingScoreGrad实现相同。 - pseType\=其他取值时,需要 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFlashAttentionUnpaddingScoreGradV2_md.md ## CANN商业版-aclnnFlashAttentionUnpaddingScoreGradV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionUnpaddingScoreGradV3.md - Description: - 接口功能:训练场景下计算注意力的反向输出,即aclnnFlashAttentionVarLenScoreV3的反向计算。该接口相较于aclnnFlashAttentionUnpaddingScoreGradV2接口,新增queryRope、keyRope、dqRope和dkRope参数。 - 计算公式: 已知注意力的正向计算公式: $$ Y\=Dropout\(Softmax\(Mask - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFlashAttentionUnpaddingScoreGradV3_md.md ## CANN商业版-aclnnFlashAttentionUnpaddingScoreGradV4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionUnpaddingScoreGradV4.md - Description: - 接口功能:训练场景下计算注意力的反向输出,即aclnnFlashAttentionVarLenScoreV4的反向计算。该接口相较于aclnnFlashAttentionUnpaddingScoreGrad接口,新增softmaxInLayout参数。 - Atlas 350 加速卡:暂不支持softmaxInLayout参数。 - 当输入softmaxSumOut和softmaxMa - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFlashAttentionUnpaddingScoreGradV4_md.md ## CANN商业版-aclnnFlashAttentionUnpaddingScoreGradV5 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionUnpaddingScoreGradV5.md - Description: - 接口功能:训练场景下,使用FlashAttention算法实现self-attention(自注意力)的计算。增加`sinkInOptional`可选输入。 - Atlas 350 加速卡:暂不支持sinkInOptional参数。 - 计算公式: 已知注意力的正向计算公式为: $$ \=Dropout\(Softmax\(Mask\(\\frac\{QK^T+pse\}\{\\sq - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFlashAttentionUnpaddingScoreGradV5_md.md ## CANN商业版-aclnnFlashAttentionVarLenScore - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionVarLenScore.md - Description: - 接口功能:训练场景下,使用FlashAttention算法实现self-attention(自注意力)的计算。跟aclnnFlashAttentionScore接口的区别是该接口支持可变长S的计算,即可以一次传入多个长度不相等的sequence。使用此接口时,query,key和value使用TND的格式传入数据,其中T意为total number,表示其所有sequence的length总和 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFlashAttentionVarLenScore_md.md ## CANN商业版-aclnnFlashAttentionVarLenScoreV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionVarLenScoreV2.md - Description: - 接口功能:训练场景下,使用FlashAttention算法实现self-attention(自注意力)的计算。跟aclnnFlashAttentionScoreV2的区别是该接口支持可变长S的计算,即可以一次传入多个长度不相等的sequence。使用此接口时,query,key和value使用TND的格式传入数据,其中T意为total number,表示其所有sequence的length总和 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFlashAttentionVarLenScoreV2_md.md ## CANN商业版-aclnnFlashAttentionVarLenScoreV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionVarLenScoreV3.md - Description: - 接口功能:训练场景下,使用FlashAttention算法实现self-attention(自注意力)的计算。跟aclnnFlashAttentionVarLenScoreV2的区别是该接口支持query/key多输入,即query、queryRope、key和keyRope作为输入。非多输入场景使用aclnnFlashAttentionVarLenScoreV2或其他接口。 - 计算公式: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFlashAttentionVarLenScoreV3_md.md ## CANN商业版-aclnnFlashAttentionVarLenScoreV4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionVarLenScoreV4.md - Description: - 接口功能:训练场景下,使用FlashAttention算法实现self-attention(自注意力)的计算。与aclnnFlashAttentionVarLenScore接口的区别是:在输入排布为TND的场景下,原FlashAttentionVarLenScore接口中的softmax相关输出的数据排布为 NTD,FlashAttentionVarLenScoreV4 接口支持传入字符串参数 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFlashAttentionVarLenScoreV4_md.md ## CANN商业版-aclnnFlashAttentionVarLenScoreV5 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionVarLenScoreV5.md - Description: 接口功能:训练场景下,使用FlashAttention算法实现self-attention(自注意力)的计算。对标竞品适配gptoss模型支持sink功能。跟aclnnFlashAttentionVarLenScoreV3接口的区别是:增加`sinkInOptional`可选输入,保留了aclnnFlashAttentionVarLenScoreV4的`softmaxOutLayout`可选输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFlashAttentionVarLenScoreV5_md.md ## CANN商业版-aclnnFusedFloydAttention - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFusedFloydAttention.md - Description: - 接口功能:训练场景下,使用FloydAttention算法实现多维自注意力的计算。 - 计算公式: 注意力的正向计算公式如下: $$ weights \= Softmax\(attenMask + scale\(einsum\(query, key1^T\) + einsum\(query, key2^T\)\)\) $$ $$ attentionout \= ei - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFusedFloydAttention_md.md ## CANN商业版-aclnnFusedFloydAttentionGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFusedFloydAttentionGrad.md - Description: - 接口功能:训练场景下,FloydAttn相较于传统FA主要是计算qk/pv注意力时会额外将seq作为batch轴从而转换为batchMatmul - 计算公式: 已知注意力的正向计算公式为: $$ S\=Mask\(scale\(QK1^T + QK2^T\), attenmask\) \\ P\=Softmax\(S\) \\ Y\=\(PV1+PV2\) $$ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFusedFloydAttentionGrad_md.md ## CANN商业版-aclnnFusedInferAttentionScore - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFusedInferAttentionScore.md - Description: **须知:该接口后续版本会废弃,请使用最新接口aclnnFusedInferAttentionScoreV5。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFusedInferAttentionScore_md.md ## CANN商业版-aclnnFusedInferAttentionScoreV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFusedInferAttentionScoreV2.md - Description: **须知:该接口后续版本会废弃,请使用最新接口aclnnFusedInferAttentionScoreV5。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFusedInferAttentionScoreV2_md.md ## CANN商业版-aclnnFusedInferAttentionScoreV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFusedInferAttentionScoreV3.md - Description: **须知:该接口后续版本会废弃,请使用最新接口aclnnFusedInferAttentionScoreV5。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFusedInferAttentionScoreV3_md.md ## CANN商业版-aclnnFusedInferAttentionScoreV4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFusedInferAttentionScoreV4.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/attention/fused\_infer\_attention\_score\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFusedInferAttentionScoreV4_md.md ## CANN商业版-aclnnFusedInferAttentionScoreV5 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnFusedInferAttentionScoreV5.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/attention/fused\_infer\_attention\_score\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnFusedInferAttentionScoreV5_md.md ## CANN商业版-aclnnGatherPaKvCache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnGatherPaKvCache.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/attention/gather\_pa\_kv\_cache\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnGatherPaKvCache_md.md ## CANN商业版-aclnnGroupedMatmul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmul.md - Description: **须知:该接口后续版本会废弃,请使用最新aclnnGroupedMatmulV5接口。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnGroupedMatmul_md.md ## CANN商业版-aclnnGroupedMatmulAdd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulAdd.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_add\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnGroupedMatmulAdd_md.md ## CANN商业版-aclnnGroupedMatmulAddV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulAddV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_add\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnGroupedMatmulAddV2_md.md ## CANN商业版-aclnnGroupedMatMulAllReduce - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatMulAllReduce.md - Description: **该接口后续版本会废弃,请不要使用该接口。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnGroupedMatMulAllReduce_md.md ## CANN商业版-aclnnGroupedMatMulAlltoAllv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatMulAlltoAllv.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/grouped\_mat\_mul\_allto\_allv\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnGroupedMatMulAlltoAllv_md.md ## CANN商业版-aclnnGroupedMatmulFinalizeRouting - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulFinalizeRouting.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_finalize\_routing\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnGroupedMatmulFinalizeRouting_md.md ## CANN商业版-aclnnGroupedMatmulFinalizeRoutingV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulFinalizeRoutingV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_finalize\_routing\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnGroupedMatmulFinalizeRoutingV2_md.md ## CANN商业版-aclnnGroupedMatmulFinalizeRoutingV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulFinalizeRoutingV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_finalize\_routing\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnGroupedMatmulFinalizeRoutingV3_md.md ## CANN商业版-aclnnGroupedMatmulFinalizeRoutingWeightNz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulFinalizeRoutingWeightNz.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_finalize\_routing\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnGroupedMatmulFinalizeRoutingWeightNz_md.md ## CANN商业版-aclnnGroupedMatmulFinalizeRoutingWeightNzV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulFinalizeRoutingWeightNzV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_finalize\_routing\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnGroupedMatmulFinalizeRoutingWeightNzV2_md.md ## CANN商业版-aclnnGroupedMatmulSwigluQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulSwigluQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_swiglu\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnGroupedMatmulSwigluQuant_md.md ## CANN商业版-aclnnGroupedMatmulSwigluQuantV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulSwigluQuantV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_swiglu\_quant\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnGroupedMatmulSwigluQuantV2_md.md ## CANN商业版-aclnnGroupedMatmulSwigluQuantWeightNZ - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulSwigluQuantWeightNZ.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_swiglu\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnGroupedMatmulSwigluQuantWeightNZ_md.md ## CANN商业版-aclnnGroupedMatmulSwigluQuantWeightNzV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulSwigluQuantWeightNzV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_swiglu\_quant\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnGroupedMatmulSwigluQuantWeightNzV2_md.md ## CANN商业版-aclnnGroupedMatmulV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulV2.md - Description: **须知:该接口后续版本会废弃,请使用最新aclnnGroupedMatmulV5接口。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnGroupedMatmulV2_md.md ## CANN商业版-aclnnGroupedMatmulV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulV3.md - Description: **须知:该接口后续版本会废弃,请使用最新aclnnGroupedMatmulV5接口。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnGroupedMatmulV3_md.md ## CANN商业版-aclnnGroupedMatmulV4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulV4.md - Description: **须知:该接口后续版本会废弃,请使用最新aclnnGroupedMatmulV5接口。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnGroupedMatmulV4_md.md ## CANN商业版-aclnnGroupedMatmulV5 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulV5.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnGroupedMatmulV5_md.md ## CANN商业版-aclnnGroupedMatmulWeightNz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulWeightNz.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnGroupedMatmulWeightNz_md.md ## CANN商业版-aclnnIncreFlashAttention - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnIncreFlashAttention.md - Description: **须知:该接口后续版本会废弃,请使用最新接口aclnnIncreFlashAttentionV4。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnIncreFlashAttention_md.md ## CANN商业版-aclnnIncreFlashAttentionV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnIncreFlashAttentionV2.md - Description: **须知:该接口后续版本会废弃,请使用最新接口aclnnIncreFlashAttentionV4。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnIncreFlashAttentionV2_md.md ## CANN商业版-aclnnIncreFlashAttentionV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnIncreFlashAttentionV3.md - Description: **须知:该接口后续版本会废弃,请使用最新接口aclnnIncreFlashAttentionV4。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnIncreFlashAttentionV3_md.md ## CANN商业版-aclnnIncreFlashAttentionV4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnIncreFlashAttentionV4.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/attention/incre\_flash\_attention\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnIncreFlashAttentionV4_md.md ## CANN商业版-aclnnInplaceAttentionWorkerScheduler - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnInplaceAttentionWorkerScheduler.md - Description: - 接口功能:Attention和FFN分离部署场景下,Attention侧数据扫描算子。该算子接收来自FFNToAttention算子的输出数据,并对数据进行逐步扫描,确保数据准备就绪。 该算子不建议单独使用,建议与FFNToAttention和AttentionWorkerCombine算子配合使用,形成完整的工作流。 1. 接收FFNToAttention算子发送的数据。该数据以 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnInplaceAttentionWorkerScheduler_md.md ## CANN商业版-aclnnInplaceFfnWorkerScheduler - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnInplaceFfnWorkerScheduler.md - Description: - 接口功能:Attention和FFN分离场景下,FFN侧数据扫描算子。该算子接收AttentionToFFN算子发送的数据,进行扫描并完成数据整理。 不建议直接使用,需要与AttentionToFFN,FFNWorkerBatching配合使用。 1. 接收AttentionToFFN算子发送的数据。该数据以ScheduleContext结构体内存排布方式存储。其具体定义参见调用示 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnInplaceFfnWorkerScheduler_md.md ## CANN商业版-aclnnInplaceMatmulAllReduceAddRmsNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnInplaceMatmulAllReduceAddRmsNorm.md - Description: **须知:该接口后续版本会废弃,请使用aclnnMatmulAllReduce和aclnnAddRmsNorm替代本接口。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnInplaceMatmulAllReduceAddRmsNorm_md.md ## CANN商业版-aclnnInplaceQuantMatmulAllReduceAddRmsNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnInplaceQuantMatmulAllReduceAddRmsNorm.md - Description: **须知:该接口后续版本会废弃,请使用aclnnQuantMatmulAllReduceV2和aclnnAddRmsNorm替代本接口。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnInplaceQuantMatmulAllReduceAddRmsNorm_md.md ## CANN商业版-aclnnInplaceWeightQuantMatmulAllReduceAddRmsNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnInplaceWeightQuantMatmulAllReduceAddRmsNorm.md - Description: **须知:该接口后续版本会废弃,请使用aclnnWeightQuantMatmulAllReduce和aclnnAddRmsNorm替代本接口。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnInplaceWeightQuantMatmulAllReduceAddRmsNorm_md.md ## CANN商业版-aclnnInterleaveRope - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnInterleaveRope.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/posembedding/interleave\_rope\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnInterleaveRope_md.md ## CANN商业版-aclnnKvRmsNormRopeCache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnKvRmsNormRopeCache.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/posembedding/kv\_rms\_norm\_rope\_cache\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnKvRmsNormRopeCache_md.md ## CANN商业版-aclnnLightningIndexer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnLightningIndexer.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/attention/lightning\_indexer\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnLightningIndexer_md.md ## CANN商业版-aclnnLightningIndexerGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnLightningIndexerGrad.md - Description: - 接口功能:训练场景下,实现LightningIndexer反向,其中输入有Query, Key, Weights, Dy, Indices,反向主要利用正向计算的Indices从Key中提取TopK序列从而降低Matmul计算量。 - 计算公式: LightningIndexer反向计算公式如下: $$ S \= Relu\(Matmul\(Query, Gather\(Key, Indi - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnLightningIndexerGrad_md.md ## CANN商业版-aclnnMatmulAllReduce - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMatmulAllReduce.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/matmul\_all\_reduce\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMatmulAllReduce_md.md ## CANN商业版-aclnnMatmulAllReduceAddRmsNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMatmulAllReduceAddRmsNorm.md - Description: **须知:该接口后续版本会废弃,请使用aclnnMatmulAllReduce和aclnnAddRmsNorm替代本接口。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMatmulAllReduceAddRmsNorm_md.md ## CANN商业版-aclnnMatmulAllReduceV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMatmulAllReduceV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/matmul\_all\_reduce\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMatmulAllReduceV2_md.md ## CANN商业版-aclnnMatmulAlltoAll - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMatmulAlltoAll.md - Description: - 接口功能:完成Matmul计算、Permute(保证通信后地址连续)和AlltoAll通信的融合,先计算后通信。 - 计算公式:假设x1的shape为\(BS, H1\),x2的shape为\(H1, H2\),rankSize为NPU卡数。 $$ computeOut \= x1 @ x2 + bias \\ permutedOut \= computeOut.view\(BS, rankSiz - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMatmulAlltoAll_md.md ## CANN商业版-aclnnMatmulReduceScatter - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMatmulReduceScatter.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/matmul\_reduce\_scatter\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMatmulReduceScatter_md.md ## CANN商业版-aclnnMatmulReduceScatterV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMatmulReduceScatterV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/matmul\_reduce\_scatter\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMatmulReduceScatterV2_md.md ## CANN商业版-aclnnMlaPreprocess - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMlaPreprocess.md - Description: - 接口功能:推理场景,Multi-Head Latent Attention前处理的计算。主要计算过程如下: - 首先对输入$x$ RmsNormQuant后乘以$W^\{DQKV\}$进行下采样后分为通路1和通路2。 - 通路1做RmsNormQuant后乘以$W^\{UQ\}$后再分为通路3和通路4。 - 通路3后乘以$W^\{uk\}$后输出$q^N$。 - 通路4后经 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMlaPreprocess_md.md ## CANN商业版-aclnnMlaPreprocessV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMlaPreprocessV2.md - Description: - 接口功能:推理场景,Multi-Head Latent Attention前处理的计算。主要计算过程如下: - 首先对输入$x$ RmsNormQuant后乘以$W^\{DQKV\}$进行下采样后分为通路1和通路2。 - 通路1做RmsNormQuant后乘以$W^\{UQ\}$后再分为通路3和通路4。 - 通路3后乘以$W^\{uk\}$后输出$q^N$。 - 通路4后经过旋转位置编码后 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMlaPreprocessV2_md.md ## CANN商业版-aclnnMlaProlog - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMlaProlog.md - Description: **须知:该接口后续版本会废弃,请使用最新接口aclnnMlaPrologV3WeightNz。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMlaProlog_md.md ## CANN商业版-aclnnMlaPrologV2WeightNz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMlaPrologV2WeightNz.md - Description: **须知:该接口后续版本会废弃,请使用最新接口aclnnMlaPrologV3WeightNz。** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMlaPrologV2WeightNz_md.md ## CANN商业版-aclnnMlaPrologV3WeightNz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMlaPrologV3WeightNz.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/attention/mla\_prolog\_v3\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMlaPrologV3WeightNz_md.md ## CANN商业版-aclnnMoeComputeExpertTokens - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeComputeExpertTokens.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_compute\_expert\_tokens\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeComputeExpertTokens_md.md ## CANN商业版-aclnnMoeDistributeCombine - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeCombine.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_combine\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeDistributeCombine_md.md ## CANN商业版-aclnnMoeDistributeCombineAddRmsNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeCombineAddRmsNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_combine\_add\_rms\_norm\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeDistributeCombineAddRmsNorm_md.md ## CANN商业版-aclnnMoeDistributeCombineAddRmsNormV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeCombineAddRmsNormV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_combine\_add\_rms\_norm\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeDistributeCombineAddRmsNormV2_md.md ## CANN商业版-aclnnMoeDistributeCombineV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeCombineV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_combine\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeDistributeCombineV2_md.md ## CANN商业版-aclnnMoeDistributeCombineV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeCombineV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_combine\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeDistributeCombineV3_md.md ## CANN商业版-aclnnMoeDistributeCombineV4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeCombineV4.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_combine\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeDistributeCombineV4_md.md ## CANN商业版-aclnnMoeDistributeDispatch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeDispatch.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_dispatch\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeDistributeDispatch_md.md ## CANN商业版-aclnnMoeDistributeDispatchV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeDispatchV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_dispatch\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeDistributeDispatchV2_md.md ## CANN商业版-aclnnMoeDistributeDispatchV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeDispatchV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_dispatch\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeDistributeDispatchV3_md.md ## CANN商业版-aclnnMoeDistributeDispatchV4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeDispatchV4.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_dispatch\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeDistributeDispatchV4_md.md ## CANN商业版-aclnnMoeFinalizeRouting - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeFinalizeRouting.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_finalize\_routing\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeFinalizeRouting_md.md ## CANN商业版-aclnnMoeFinalizeRoutingV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeFinalizeRoutingV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_finalize\_routing\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeFinalizeRoutingV2_md.md ## CANN商业版-aclnnMoeFinalizeRoutingV2Grad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeFinalizeRoutingV2Grad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_finalize\_routing\_v2\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeFinalizeRoutingV2Grad_md.md ## CANN商业版-aclnnMoeFusedTopk - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeFusedTopk.md - Description: - 接口功能:MoE计算中,对输入x做Sigmoid计算,对计算结果分组进行排序,最后根据分组排序的结果选取前k个专家。 - 计算公式: 对输入做sigmoid: $$ sigmoidRes\=sigmoid\(x\) $$ 加上addNum: $$ normOut \= sigmoidRes + addNum $$ 对计算结果按照groupNum进行分组,每组按照to - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeFusedTopk_md.md ## CANN商业版-aclnnMoeGatingTopK - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeGatingTopK.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_gating\_top\_k\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeGatingTopK_md.md ## CANN商业版-aclnnMoeGatingTopKSoftmax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeGatingTopKSoftmax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_gating\_top\_k\_softmax\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeGatingTopKSoftmax_md.md ## CANN商业版-aclnnMoeGatingTopKSoftmaxV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeGatingTopKSoftmaxV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_gating\_top\_k\_softmax\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeGatingTopKSoftmaxV2_md.md ## CANN商业版-aclnnMoeInitRouting - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeInitRouting.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_init\_routing\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeInitRouting_md.md ## CANN商业版-aclnnMoeInitRoutingQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeInitRoutingQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_init\_routing\_quant\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeInitRoutingQuant_md.md ## CANN商业版-aclnnMoeInitRoutingQuantV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeInitRoutingQuantV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_init\_routing\_quant\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeInitRoutingQuantV2_md.md ## CANN商业版-aclnnMoeInitRoutingV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeInitRoutingV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_init\_routing\_v2\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeInitRoutingV2_md.md ## CANN商业版-aclnnMoeInitRoutingV2Grad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeInitRoutingV2Grad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_init\_routing\_v2\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeInitRoutingV2Grad_md.md ## CANN商业版-aclnnMoeInitRoutingV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeInitRoutingV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_init\_routing\_v3\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeInitRoutingV3_md.md ## CANN商业版-aclnnMoeTokenPermute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenPermute.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_permute\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeTokenPermute_md.md ## CANN商业版-aclnnMoeTokenPermuteGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenPermuteGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_permute\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeTokenPermuteGrad_md.md ## CANN商业版-aclnnMoeTokenPermuteWithEp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenPermuteWithEp.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_permute\_with\_ep\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeTokenPermuteWithEp_md.md ## CANN商业版-aclnnMoeTokenPermuteWithEpGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenPermuteWithEpGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_permute\_with\_ep\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeTokenPermuteWithEpGrad_md.md ## CANN商业版-aclnnMoeTokenPermuteWithRoutingMap - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenPermuteWithRoutingMap.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_permute\_with\_routing\_map\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeTokenPermuteWithRoutingMap_md.md ## CANN商业版-aclnnMoeTokenPermuteWithRoutingMapGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenPermuteWithRoutingMapGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_permute\_with\_routing\_map\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeTokenPermuteWithRoutingMapGrad_md.md ## CANN商业版-aclnnMoeTokenUnpermute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenUnpermute.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_unpermute\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeTokenUnpermute_md.md ## CANN商业版-aclnnMoeTokenUnpermuteGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenUnpermuteGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_unpermute\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeTokenUnpermuteGrad_md.md ## CANN商业版-aclnnMoeTokenUnpermuteWithEp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenUnpermuteWithEp.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_unpermute\_with\_ep\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeTokenUnpermuteWithEp_md.md ## CANN商业版-aclnnMoeTokenUnpermuteWithEpGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenUnpermuteWithEpGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_unpermute\_with\_ep\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeTokenUnpermuteWithEpGrad_md.md ## CANN商业版-aclnnMoeTokenUnpermuteWithRoutingMap - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenUnpermuteWithRoutingMap.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_unpermute\_with\_routing\_map\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeTokenUnpermuteWithRoutingMap_md.md ## CANN商业版-aclnnMoeTokenUnpermuteWithRoutingMapGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenUnpermuteWithRoutingMapGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_unpermute\_with\_routing\_map\_grad\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeTokenUnpermuteWithRoutingMapGrad_md.md ## CANN商业版-aclnnMoeUpdateExpert - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnMoeUpdateExpert.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_update\_expert\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnMoeUpdateExpert_md.md ## CANN商业版-aclnnNormRopeConcat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnNormRopeConcat.md - Description: - 接口功能:(多模态)transfomer注意力机制中,针对query、key和Value实现归一化(Norm)、旋转位置编码(Rope)、特征拼接(Concat): - 归一化(Norm)当前支持层归一化(LayerNorm)、带仿射变换参数层归一化(AFFINE LayerNorm)、均方根归一化(RmsNorm)和带仿射变换参数均方根归一化(AFFINE RmsNorm)类型。 - - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnNormRopeConcat_md.md ## CANN商业版-aclnnNormRopeConcatBackward - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnNormRopeConcatBackward.md - Description: - 接口功能:(多模态)transfomer注意力机制中,针对query、key和Value实现归一化(Norm)、旋转位置编码(Rope)、特征拼接(Concat)融合算子功能反向推导: - 归一化(Norm)当前支持层归一化(LayerNorm)和带仿射变换参数层归一化(AFFINE LayerNorm)类型。 - 旋转位置编码(Rope)支持Interleave和Half类型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnNormRopeConcatBackward_md.md ## CANN商业版-aclnnNsaCompress - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnNsaCompress.md - Description: - 接口功能:训练场景下,使用NSA Compress算法减轻long-context的注意力计算,实现在KV序列维度进行压缩。 - 计算公式: Nsa Compress正向计算公式如下: $$ \\tilde\{K\}t^\{\\text\{cmp\}\} \= fK^\{\\text\{cmp\}\}\(k\{:t\}\) \= \\left\{ \\varphi\(k\{id+1:id+l\}\) \\bigg| 0 \\leq i \\l - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnNsaCompress_md.md ## CANN商业版-aclnnNsaCompressAttention - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnNsaCompressAttention.md - Description: - 算子功能:NSA中compress attention以及select topk索引计算。论文:https://arxiv.org/pdf/2502.11089 - 计算公式:压缩block大小:$l$,select block大小:$l'$,压缩stride大小:$d$ $$ P\{cmp\} \= Softmax\(querykey^T\) \\ $$ $$ attentionOut \= Softma - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnNsaCompressAttention_md.md ## CANN商业版-aclnnNsaCompressAttentionInfer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnNsaCompressAttentionInfer.md - Description: - 接口功能:Native Sparse Attention推理过程中,Compress Attention的计算。 - 计算公式: $$ P\{cmp\}\= Softmax\(scale query · key^T\) \\ attentionOut \= P\{cmp\} · value\\ P\{slc\}\[j\] \= \\sum\\limits\{m\=0\}^\{l'/d -1\} \\sum\\limits\{ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnNsaCompressAttentionInfer_md.md ## CANN商业版-aclnnNsaCompressWithCache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnNsaCompressWithCache.md - Description: - 接口功能:用于Native-Sparse-Attention推理阶段的KV压缩,每次推理每个batch会产生一个新的token,每当某个batch的token数量凑满一个compressblock时,该算子会将该batch的后compressblock个token压缩成一个compresstoken。 - 计算公式: $$ compressIdx\=\(s-compressBlockSize\)/s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_context_ops-transformer_aclnnNsaCompressWithCache_md.md ## CANN商业版-aclnnNsaSelectedAttention - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/context/ops-transformer/aclnnNsaSelectedAttention.md - Description: - 接口功能:训练场景下,实现NativeSparseAttention算法中selected-attention(选择注意力)的计算。 - 计算公式: 选择注意力的正向计算公式如下: $$ selectedkey \= Gather\(key, topkindices\[i\]\),0<\=i 专题 > 定制网络修改(Caffe)> 扩展算子规则。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00132_html.md ## CANN商业版-Permute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00133.html - Description: x:- 是否必填: 必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00133_html.md ## CANN商业版-ROIPooling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00134.html - Description: - x: - 是否必填:必填 - 数据类型:float16、float32 - 参数解释:输入feature Map\[batch,C,H,W\] - 规格限制:h和w随着pooledh/pooledw取值不同,其范围也不相同: 1. pooledh\=pooledw:2,17,h和w<\=50 2. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00134_html.md ## CANN商业版-PointPillarDecodeBox - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00135.html - Description: x: - 是否必填:必填 - 数据类型:float16 - 参数解释:PointPillar主干的输出 - 规格限制:NCHW,不支持多batch,不支持量化推理,align16\(W\)<\=101024 - box1size: - 是否必填:必填 - 数据类型:float16 - 参数解释:第一个框的大小, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00135_html.md ## CANN商业版-Pooling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00136.html - Description: x:- 是否必填:必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00136_html.md ## CANN商业版-Power - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00137.html - Description: x:- 是否必填: 必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00137_html.md ## CANN商业版-PointPillarDetection - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00138.html - Description: - x1: - 是否必填:必填 - 数据类型:float16 - 参数解释:PointPillarDecodeBox的输出框结果 - 规格限制:NCHW - x2: - 是否必填:必填 - 数据类型:float16 - 参数解释:ClassCal的输出classout - 规格限制:NCHW - x3: - 是否必填:必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00138_html.md ## CANN商业版-PriorBox - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00139.html - Description: - x: - 是否必填: 必填 - 数据类型: float16、float32 - 参数解释: 输入Tensor,只使用到shape中的高H和宽W - 规格限制: float16 - img: - 是否必填: 非必填 - 数据类型: float16、float32 - 参数解释: 图片信息,如果有输入,则使用高和宽。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00139_html.md ## CANN商业版-PReLU - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00140.html - Description: - x: - 是否必填: 必填 - 数据类型: int8、uint8、float16、float32 - 参数解释: 激活函数, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00140_html.md ## CANN商业版-Proposal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00141.html - Description: - cls\_prob: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00141_html.md ## CANN商业版-PSROIPooling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00142.html - Description: - x: - 是否必填: 必填 - 数据类型: float16 - 参数解释: feature map,\[batch,C,H,W\], 其中的C\=roisnumgroupsize^2 - 规格限制: 无 - rois: - 是否必填: 必填 - 数据类型: float16 - 参数解释: Shape是 \[batch,5,roisnu - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00142_html.md ## CANN商业版-RCNNProposal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00143.html - Description: - cls\_score\_softmax: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00143_html.md ## CANN商业版-Reduction - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00144.html - Description: x:- 是否必填: 必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00144_html.md ## CANN商业版-ReLU6 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00145.html - Description: features:- 是否必填: 必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00145_html.md ## ReLU/LeakyReLU/RReLU - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00146.html - Description: x:- 是否必填: 必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00146_html.md ## CANN商业版-Reshape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00147.html - Description: - x: - 是否必填:必填 - 数据类型:float16、float32、int8、uint8、int16、uint16、int32、uint32、int64、uint64 - 参数解释:输入Tensor - 规格限制:无 - shape: - 是否必填:非必填 - 数据类型:int32、int64 - 参数解释:指示输出的维度 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00147_html.md ## CANN商业版-Reverse - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00148.html - Description: x:- 是否必填: 必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00148_html.md ## CANN商业版-RNN - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00149.html - Description: - x: - 是否必填: 必填 - 数据类型: float16 - 参数解释: 时间变化数据x,\(T×N×...\) - 规格限制: T最大支持256 - cont: - 是否必填: 必填 - 数据类型: float16 - 参数解释: 序列连续性标记cont, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00149_html.md ## CANN商业版-ROIAlign - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00150.html - Description: - features: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00150_html.md ## CANN商业版-RPNProposalSSD - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00151.html - Description: - rpn\_cls\_prob\_reshape: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00151_html.md ## CANN商业版-scale - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00152.html - Description: - x: - 是否必填: 必填 - 数据类型: float16、float32 - 参数解释: 输入Tensor - 规格限制: 无 - scale: - 是否必填: 必填 - 数据类型: float16、float32 - 参数解释: scale的Tensor - 规格限制: 无 - bias: - 是否必填: 非必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00152_html.md ## CANN商业版-ScatterNdV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00153.html - Description: indices: - 是否必填:必填 - 数据类型:int32、int64 - 参数解释:索引 - 规格限制:NCHW,indicesc \=\= 3\(坐标的维度为3维\) updates: - 是否必填:必填 - 数据类型:float16、float32 - 参数解释:用于索引的张量 - 规格限制:NCHW, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00153_html.md ## CANN商业版-ShuffleChannel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00154.html - Description: x:- 是否必填: 必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00154_html.md ## CANN商业版-Similar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00155.html - Description: x1: - 是否必填:必填 - 数据类型:float16 - 参数解释:左矩阵 - 规格限制:shape\[m,k\] x2: - 是否必填:必填 - 数据类型:float16 - 参数解释:右矩阵 - 规格限制:shape\[k,n\]或者\[n,k\] - transB: - 是否必填:必填 - 数据类型:bool - 参数解释:右矩阵是否转置 - - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00155_html.md ## CANN商业版-Sigmoid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00156.html - Description: x:- 是否必填:必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00156_html.md ## CANN商业版-Slice - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00157.html - Description: x:- 是否必填: 必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00157_html.md ## CANN商业版-Softmax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00158.html - Description: x:- 是否必填: 必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00158_html.md ## CANN商业版-SpatialTransformer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00159.html - Description: - x: - 是否必填: 必填 - 数据类型: float16、float32 - 参数解释: NCHW - 规格限制: NCHW - theta: - 是否必填: 非必填 - 数据类型: float16、float32 - 参数解释: inputtheta shape是 \(n, size\), - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00159_html.md ## CANN商业版-Split - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00160.html - Description: x:- 是否必填: 必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00160_html.md ## CANN商业版-SPP - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00161.html - Description: x:- 是否必填: 必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00161_html.md ## CANN商业版-SReLU - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00162.html - Description: - x: - 是否必填:必填 - 数据类型:float32 - 参数解释:要进行分段线性激活的输入张量 - 规格限制:NC1HWC0 - tr: - 是否必填:必填 - 数据类型:float32 - 参数解释:filter权值数据,算子实际使用的是权值文件里面的值,单纯测试单算子,当成输入 - 规格限制:NC1HWC0, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00162_html.md ## CANN商业版-SSDDetectionOutput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00163.html - Description: - bbox\_delta: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00163_html.md ## CANN商业版-TanH - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00164.html - Description: x:- 是否必填: 必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00164_html.md ## CANN商业版-Threshold - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00165.html - Description: x:- 是否必填: 必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00165_html.md ## CANN商业版-Tile - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00166.html - Description: x:- 是否必填: 必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00166_html.md ## CANN商业版-Upsample - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00167.html - Description: x:- 是否必填: 必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00167_html.md ## CANN商业版-Yolo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00168.html - Description: x:- 是否必填: 必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00168_html.md ## CANN商业版-Yolo3D - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00169.html - Description: loc:- 是否必填:必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00169_html.md ## CANN商业版-Yolo3dNMS - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00170.html - Description: bbox:- 是否必填:必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00170_html.md ## CANN商业版-YoloNms - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00171.html - Description: x1:- 是否必填:必填 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00171_html.md ## CANN商业版-YoloV2DetectionOutput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00172.html - Description: - coord\_data: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00172_html.md ## CANN商业版-YoloV3DetectionOutput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00173.html - Description: - coord\_data\_low: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00173_html.md ## CANN商业版-Yolov5FourInputDecodeBox - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00174.html - Description: - x1: - 是否必填:必填 - 数据类型:float16 - 参数解释:64倍下采样的featuremap - 规格限制:NCHW - x2: - 是否必填:必填 - 数据类型:float16 - 参数解释:32倍下采样的featuremap - 规格限制:NCHW - x3: - 是否必填:必填 - 数据类型:f - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00174_html.md ## CANN商业版-PointPillarDecodeMultiBox - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00175.html - Description: x: - 是否必填:必填 - 数据类型:float16 - 参数解释:PointPillar主干的输出 - 规格限制:NCHW,不支持多batch,不支持量化推理,align16\(W\)<\=101024 anchordims:- 是否必填:必填 - 数据类型:float16 - 参数解释:所有框的信息, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00175_html.md ## 概述说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00177.html - Description: 该算子规格仅适用于ONNX原生IR定义的网络模型。如果要查看基于Ascend IR定义的单算子信息,请参见Ascend IR算子规格说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00177_html.md ## CANN商业版-aclDumpOpTensors - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00178.html - Description: 模型执行过程中支持Dump算子输入/输出Tensor数据,方便算子输入/输出异常数据的问题定位和分析。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00178_html.md ## 公共接口返回码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00423.html - Description: 调用公共接口时,常见的返回码如表1所示。对于异常状态码值,可通过“aclGetRecentErrMsg\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/runtimeapi/aclcppdevg\_03\_0028.html\)”接口获取异常信息,请根据报错提示排查问题或联系技术支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00423_html.md ## CANN商业版-aclGetRawTensorAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00425.html - Description: 获取aclTensor中原始记录的Device内存地址,aclTensor由aclCreateTensor接口创建。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00425_html.md ## CANN商业版-aclSetRawTensorAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00426.html - Description: 刷新aclTensor中原始记录的Device内存地址,aclTensor由aclCreateTensor接口创建。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00426_html.md ## 基本介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00439.html - Description: 使用场景 对于纯静态shape网络或者shape变化较少的动态shape网络,如果您想快速提升网络执行性能,可以在网络部署时通过算子编译工具(opcompiler)编译生成静态Kernel包来提升算子调用性能。 调优原理 静态Kernel编译是指在编译时指定算子shape大小,运行时不需要指定shape大小。算子编译工具根据输入的算子信息统计文件, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00439_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00440.html - Description: 1. 根据表1准备软件包。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00440_html.md ## 算子调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00441.html - Description: 1. Dump算子信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00441_html.md ## 如何获取aclnn接口调用过程中的日志 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00444.html - Description: 调用aclnn API过程中,如果出现算子执行失败、精度异常等问题,可以提取Host侧日志辅助分析和判断。一般需要分析如下日志信息: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00444_html.md ## 常见算子故障案例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/aolapi/operatorlist_00445.html - Description: 算子调用或开发过程中可能会遇到各类异常,例如资源越界、算子执行报错等,您可以参考“故障案例集 > 算子执行问题\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/maintenref/troubleshooting/troubleshooting\_0147.html\)”,该文档列举了典型/高频的算子执行问题,辅助开发者进行问 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_aolapi_operatorlist_00445_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## CANN商业版-GET\_TPL\_TILING\_KEY - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlas_ascendc_10_00008.html - Description: Tiling模板编程时,开发者通过调用此接口自动生成TilingKey。该接口将传入的模板参数通过定义的位宽,转成二进制,按照顺序组合后转成uint64数值,即TilingKey。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlas_ascendc_10_00008_html.md ## 内置数据类型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlas_ascendc_10_0019.html - Description: Ascend C提供b8~b64(8bit~64bit)四种不同位宽的数据类型,不同位宽对应的数据类型如下表所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlas_ascendc_10_0019_html.md ## CANN商业版-DataTypeForBinQuery - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00000.html - Description: 设置Input/Output用于运行时算子二进制查找的数据类型,和DataType/DataTypeList的数量一致,且一一对应。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00000_html.md ## CANN商业版-FormatForBinQuery - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00001.html - Description: 设置Input/Output用于运行时算子二进制查找的数据格式,和Format/FormatList的数量一致,且一一对应。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00001_html.md ## CANN商业版-PrintTimeStamp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00002.html - Description: 推荐使用asctimestamp接口进行时间戳的获取,该接口同时适用于C语言和C++语言编程。 提供时间戳打点功能,用于在算子Kernel代码中标记关键执行点。调用后会打印如下信息: - descId:用户自定义标识符,用于区分不同打点位置; - rsv :保留值,默认为0,无需关注; - timeStamp :当前系统cycle数,用于计算时间差,时间换算规则可参考 GetSystemCycl - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00002_html.md ## CANN商业版-REGISTER\_TILING\_DEFAULT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00003.html - Description: 用于在kernel侧注册用户使用标准C++语法自定义的默认TilingData结构体。 注册TilingData结构体用于告知框架侧用户使用标准C++语法来定义TilingData,同时告知框架TilingData结构体类型,用于框架做tiling数据解析。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00003_html.md ## CANN商业版-REGISTER\_TILING\_FOR\_TILINGKEY - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00004.html - Description: 用于在kernel侧注册与TilingKey相匹配的TilingData自定义结构体;该接口需提供一个逻辑表达式,逻辑表达式以字符串“TILINGKEYVAR”代指实际TilingKey,表达TilingKey所满足的范围。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00004_html.md ## CANN商业版-PhiloxRandom - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00005.html - Description: 基于Philox随机数生成算法,给定随机数种子,生成若干的随机数。 Philox随机数生成的核心算法是一个基于记数的伪随机数生成算法,输入为一个128bit的记数器C,两个32bit的key(k0和k1),输出为4个32bit的整数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00005_html.md ## CANN商业版-FormatMatchMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00006.html - Description: 设置输入输出tensor的format匹配模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00006_html.md ## CANN商业版-MulDstAdd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00007.html - Description: dstReg与srcReg0相乘后与srcReg1相加, 根据mask将计算结果写入dstReg。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00007_html.md ## Gather(支持寄存器为源操作数) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00009.html - Description: 根据索引位置indexReg将源操作数srcReg按元素收集到结果dstReg中。收集过程如下图所示: 图1 Gather功能说明 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00009_html.md ## 模板参数定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00011.html - Description: 通过以下函数原型进行模板参数ASCENDC\_TPL\_ARGS\_DECL和模板参数组合ASCENDC\_TPL\_ARGS\_SEL(即可使用的模板)的定义。详细内容请参考Tiling模板编程\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlas\_ascendc\_10\_0002 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00011_html.md ## CANN商业版-Subs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00018.html - Description: 矢量内每个元素和标量间做减法,支持标量在前和标量在后两种场景,其中标量输入支持配置LocalTensor单点元素。计算公式如下,idx表示LocalTensor单点元素的位置系数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00018_html.md ## CANN商业版-Divs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00019.html - Description: 矢量内每个元素和标量间做除法,支持标量在前和标量在后两种场景,其中标量输入支持配置LocalTensor单点元素。计算公式如下,idx表示LocalTensor单点元素的位置系数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00019_html.md ## CANN商业版-Ands - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00020.html - Description: 矢量内每个元素和标量间做与操作,支持标量在前和标量在后两种场景,其中标量输入支持配置LocalTensor单点元素。计算公式如下,idx表示LocalTensor单点元素的位置系数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00020_html.md ## CANN商业版-Ors - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00021.html - Description: 矢量内每个元素和标量间做或操作,支持标量在前和标量在后两种场景,其中标量输入支持配置LocalTensor单点元素。计算公式如下,idx表示LocalTensor单点元素的位置系数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00021_html.md ## GlobalTensor简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00022.html - Description: GlobalTensor用来存放Global Memory(外部存储)的全局数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00022_html.md ## GlobalTensor构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00023.html - Description: GlobalTensor构造函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00023_html.md ## CANN商业版-SetGlobalBuffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00024.html - Description: 传入全局数据地址,初始化GlobalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00024_html.md ## CANN商业版-GetPhyAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00025.html - Description: 获取全局数据的地址。 - 获取全局数据的地址 1 aicore inline const gm PrimType GetPhyAddr\(\) const - 获取全局数据(指定偏移offset个元素)的地址 1 aicore inline gm PrimType GetPhyAddr\(const uint64t offset\) const 表1 参数说 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00025_html.md ## CANN商业版-GetValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00026.html - Description: 获取GlobalTensor的相应偏移位置的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00026_html.md ## operator\(\) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00027.html - Description: 获取某个索引位置的元素的引用。 与LocalTensor的operator\(\)类似。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00027_html.md ## CANN商业版-SetValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00028.html - Description: 设置GlobalTensor相应偏移位置的值。 - 因为硬件实现不同,其与通用CPU标量赋值操作存在差异。SetValue赋值操作首先改写的是每个AI Core内部的DCache, 不会立刻写出到Global Memory,且后续写出时以Cache Line(64B)为单位。使用该接口之前必须了解DCache结构和Cache一致性原理(参见 DataCacheCleanAndInvalid ), - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00028_html.md ## CANN商业版-GetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00029.html - Description: 获取GlobalTensor的元素个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00029_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0003.html - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## operator\[\] - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00030.html - Description: 根据输入的offset偏移返回新的GlobalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00030_html.md ## CANN商业版-SetShapeInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00031.html - Description: 设置GlobalTensor的shape信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00031_html.md ## CANN商业版-GetShapeInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00032.html - Description: 获取GlobalTensor的shape信息。注意:Shape信息没有默认值,只有通过SetShapeInfo设置过Shape信息后,才可以调用该接口获取正确的ShapeInfo。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00032_html.md ## CANN商业版-SetL2CacheHint - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00033.html - Description: 设置GlobalTensor是否使能L2 Cache,默认使能L2 Cache。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00033_html.md ## CANN商业版-ReinterpretCast - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00034.html - Description: 将当前GlobalTensor重解释为用户指定的新类型。转换后的Tensor与原Tensor地址及内容完全相同,Tensor的内存大小(比特数)保持不变。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00034_html.md ## CANN商业版-Interleave - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00036.html - Description: 给定源操作数src0和src1,将src0和src1中的元素交织存入结果操作数dst0和dst1中。交织排列方式如下图所示,其中每个方格代表一个元素。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00036_html.md ## CANN商业版-DeInterleave - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00037.html - Description: 给定源操作数src0和src1,将src0和src1中的元素解交织存入结果操作数dst0和dst1中。解交织排列方式如下图所示,其中每个方格代表一个元素。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00037_html.md ## TSCM简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00039.html - Description: Vector和Cube之间通过队列(Queue)完成任务间通信和同步。TSCM是数据通路的目的地在TSCM Position时,用来管理执行队列相关操作、相关资源的数据结构。TSCM与TQueBind,TQue属于相同类型结构。TSCM定义如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00039_html.md ## 通用说明和约束 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0004.html - Description: Ascend C API所在头文件目录为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0004_html.md ## CANN商业版-AllocTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00040.html - Description: 从TSCM中分配tensor,tensor所占大小为InitBuffer时设置的每块内存长度。注意,分配的tensor内容并非全0,可能会是随机值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00040_html.md ## CANN商业版-FreeTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00041.html - Description: 释放TSCM中的指定Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00041_html.md ## CANN商业版-EnQue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00042.html - Description: 将tensor push到队列。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00042_html.md ## CANN商业版-DeQue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00043.html - Description: 将tensor从队列中取出,用于后续处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00043_html.md ## CANN商业版-NumericLimits工具类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00046.html - Description: NumericLimits工具类,用于查询指定数据类型的最大值/最小值等属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00046_html.md ## CANN商业版-Max - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00047.html - Description: 返回指定数据类型的最大有限值。 Atlas 350 加速卡,支持的数据类型为:uint8t/int8t/uint16t/int16t/half/bfloat16t/uint32t/int32t/float。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00047_html.md ## CANN商业版-Lowest - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00048.html - Description: 返回指定数据类型的最低有限值,即满足无其他有限值y符合y < x的有限值x。 Atlas 350 加速卡,支持的数据类型为:uint8t/int8t/uint16t/int16t/half/bfloat16t/uint32t/int32t/float。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00048_html.md ## CANN商业版-Min - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00049.html - Description: 返回指定数据类型的最小有限值。 Atlas 350 加速卡,支持的数据类型为:int8t、uint8t、int16t、uint16t、half、bfloat16t、int32t、uint32t、float。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00049_html.md ## CANN商业版-Infinity - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00050.html - Description: 返回指定数据类型的正无穷大值。 Atlas 350 加速卡,支持的数据类型为:half/bfloat16t/float。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00050_html.md ## CANN商业版-NegativeInfinity - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00051.html - Description: 返回指定数据类型的负无穷大值。 Atlas 350 加速卡,支持的数据类型为:half/bfloat16t/float。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00051_html.md ## CANN商业版-QuietNaN - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00052.html - Description: 返回指定数据类型的安静NaN值(浮点尾数最高位为1)。 Atlas 350 加速卡,支持的数据类型为:half/bfloat16t/float。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00052_html.md ## CANN商业版-SignalingNaN - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00053.html - Description: 返回指定数据类型的发信NaN值(浮点尾数最高位为0)。 Atlas 350 加速卡,支持的数据类型为:half/bfloat16t/float。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00053_html.md ## CANN商业版-DeNormMin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00054.html - Description: 返回指定数据类型的最小正的非正规值。 Atlas 350 加速卡,支持的数据类型为:half/bfloat16t/float。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00054_html.md ## CANN商业版-EnableFallBack - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00055.html - Description: 通过本接口启用fallback配置,启用后将自动生成一个fallback函数并注册给GE。fallback函数的核心逻辑是将GE的输入、输出及属性转换为aclnn单算子API所需的参数格式,随后调用aclnn接口。动态图场景下,GE可直接调用fallback函数(函数中调用了aclnn接口),从而简化调度流程。关于fallback下发算子的详细介绍请参考基于fallback形式下发算子\(https - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00055_html.md ## CANN商业版-Axpy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00056.html - Description: 根据mask对输入数据dstReg、srcReg、scalarValue按元素做乘加操作,将结果写入dstReg。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00056_html.md ## CANN商业版-ASCENDC\_TPL\_SEL\_PARAM - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00057.html - Description: Tiling模板编程时,开发者通过调用此接口自动生成并配置TilingKey。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00057_html.md ## PlatformAscendC简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00059.html - Description: 在实现Host侧的Tiling函数时,可能需要获取一些硬件平台的信息,来支撑Tiling的计算,比如获取硬件平台的核数等信息。PlatformAscendC类提供获取这些平台信息的功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00059_html.md ## CANN商业版-DEVICE\_IMPL\_OP\_OPTILING - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00060.html - Description: 在Tiling下沉\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlas\_ascendc\_10\_00014.html\)场景中,该宏定义用于生成Tiling下沉的注册类,再通过调用注册类的成员函数来注册需要下沉的Tiling函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00060_html.md ## CANN商业版-ReserveLocalMemory - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00061.html - Description: 该函数用于在Unified Buffer中预留指定大小的内存空间。调用该接口后,使用GetCoreMemSize可以获取实际可用的剩余Unified Buffer空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00061_html.md ## TensorDesc简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00062.html - Description: TensorDesc用于储存ListTensorDesc.GetDesc\(\)中根据index获取对应的Tensor描述信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00062_html.md ## 构造和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00063.html - Description: 创建与释放TensorDesc对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00063_html.md ## CANN商业版-SetShapeAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00064.html - Description: 配置用于储存shape信息的地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00064_html.md ## CANN商业版-GetDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00065.html - Description: 获取Tensor的维度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00065_html.md ## CANN商业版-GetIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00066.html - Description: 获取TensorDesc在ListTensorDesc中对应的索引值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00066_html.md ## CANN商业版-GetShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00067.html - Description: 获取对应维度的shape信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00067_html.md ## CANN商业版-GetDataPtr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00068.html - Description: 获取储存Tensor数据地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00068_html.md ## CANN商业版-GetDataObj - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00069.html - Description: 将数据指针置于GlobalTensor中并返回该GlobalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00069_html.md ## CANN商业版-AddPlatformInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00070.html - Description: 设置硬件平台信息便于用户在算子Tiling函数调测中使用。支持以下两种设置方式: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00070_html.md ## CANN商业版-OpTilingRegistry类属于context\_ascendc命名空间 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00072.html - Description: OpTilingRegistry类属于context\_ascendc命名空间,主要用于加载Tiling实现的动态库,并获取算子的Tiling函数指针以进行调试和验证。该类通常与ContextBuilder类配合使用,后者用于构造Tiling函数所需的输入参数。具体用法可参考如何进行Tiling调测\(https://www.hiascend.comdocument/detail/zh/canncom - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00072_html.md ## 构造和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00073.html - Description: 创建与释放OpTilingRegistry对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00073_html.md ## CANN商业版-GetTilingFunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00074.html - Description: 根据算子类型OpType获取对应的Tiling函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00074_html.md ## CANN商业版-LoadTilingLibrary - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00075.html - Description: 根据输入的路径,加载对应的Tiling动态库。开发者基于工程化算子开发\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlas\_ascendc\_10\_0058.html\)开发方式完成算子实现后,可通过算子包编译或算子动态库编译获取对应的Tiling动态库文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00075_html.md ## Layout简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00077.html - Description: Layout数据结构是描述多维张量内存布局的基础模板类,通过编译时的形状(Shape)和步长(Stride)信息,实现逻辑坐标空间到一维内存地址空间的映射,为复杂张量操作和硬件优化提供基础支持。借助模板元编程技术,该类在编译时完成计算和代码生成,从而降低运行时开销。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00077_html.md ## Layout构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00078.html - Description: 根据输入的Shape和Stride对象,实例化Layout对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00078_html.md ## CANN商业版-layout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00079.html - Description: 获取Layout实例化对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00079_html.md ## CANN商业版-ShapeInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0008.html - Description: ShapeInfo用来存放LocalTensor或GlobalTensor的shape信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0008_html.md ## CANN商业版-GetShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00080.html - Description: 返回描述张量形状的Shape对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00080_html.md ## CANN商业版-GetStride - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00081.html - Description: 返回描述内存访问步长的Stride对象,与Shape的维度信息一一对应。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00081_html.md ## CANN商业版-MakeShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00082.html - Description: 将传入的数据打包成Shape数据结构。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00082_html.md ## CANN商业版-MakeStride - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00083.html - Description: 将传入的数据打包成Stride数据结构。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00083_html.md ## CANN商业版-MakeLayout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00084.html - Description: 将传入的Shape和Stride数据打包成Layout数据结构。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00084_html.md ## CANN商业版-is\_layout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00085.html - Description: 判断输入的数据结构是否为Layout数据结构,可通过检查其成员常量value的值来判断。当value为true时,表示输入的数据结构是Layout类型;反之则为非Layout类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00085_html.md ## CANN商业版-SetNextTaskStart - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00087.html - Description: 本接口为试验接口,在后续版本中可能会调整或改进,不保证后续兼容性。请开发者在使用过程中关注后续版本更新。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00087_html.md ## CANN商业版-WaitPreTaskEnd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00088.html - Description: 本接口为试验接口,在后续版本中可能会调整或改进,不保证后续兼容性。请开发者在使用过程中关注后续版本更新。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00088_html.md ## CANN商业版-WriteGmByPassDCache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00089.html - Description: 不经过DCache向GM地址上写数据。 当多核操作GM地址时,如果数据无法对齐到Cache Line,经过DCache的方式下,由于按照Cache Line大小进行读写,会导致多核数据随机覆盖的问题。此时,可以采用不经过DCache直接读写GM地址的方式,从而避免上述随机覆盖的问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00089_html.md ## CANN商业版-ListTensorDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0009.html - Description: ListTensorDesc用来解析符合以下内存排布格式的数据, 并在kernel侧根据索引获取储存对应数据的地址及shape信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0009_html.md ## CANN商业版-ReadGmByPassDCache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00090.html - Description: 不经过DCache从GM地址上读数据。 当多核操作GM地址时,如果数据无法对齐到Cache Line,经过DCache的方式下,由于按照Cache Line大小进行读写,会导致多核数据随机覆盖的问题。此时,可以采用不经过DCache直接读写GM地址的方式,从而避免上述随机覆盖的问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00090_html.md ## CANN商业版-SetCtrlSpr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00091.html - Description: 对CTRL寄存器(控制寄存器)的特定比特位进行设置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00091_html.md ## CANN商业版-GetCtrlSpr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00092.html - Description: 读取CTRL寄存器(控制寄存器)特定比特位上的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00092_html.md ## CANN商业版-ResetCtrlSpr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00093.html - Description: 对CTRL寄存器(控制寄存器)的特定比特位做重置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00093_html.md ## CANN商业版-InitSocState - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00094.html - Description: 由于AI Core上存在一些全局状态,如原子累加状态、Mask模式等,在实际运行中,这些值可以被前序执行的算子修改而导致计算出现不符合预期的行为,在静态Tensor编程\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlasascendc1000019.html\)的场景中 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00094_html.md ## LocalMemAllocator简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00096.html - Description: LocalMemAllocator是在使用静态Tensor编程方式\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlas\_ascendc\_10\_00019.html\)时用于内存管理的类,用户无需构建TPipe/TQue,而是直接创建LocalTensor对象(也可以直接 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00096_html.md ## LocalMemAllocator构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00097.html - Description: LocalMemAllocator构造函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00097_html.md ## CANN商业版-GetCurAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00098.html - Description: 返回当前物理位置空闲的起始地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00098_html.md ## CANN商业版-Alloc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00099.html - Description: 根据用户指定的逻辑位置、数据类型、数据长度返回对应的LocalTensor对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00099_html.md ## LocalTensor简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00100.html - Description: LocalTensor用于存放AI Core中Local Memory(内部存储)的数据,支持逻辑位置TPosition为VECIN、VECOUT、VECCALC、A1、A2、B1、B2、CO1、CO2。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00100_html.md ## LocalTensor构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00101.html - Description: LocalTensor构造函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00101_html.md ## CANN商业版-SetValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00102.html - Description: 设置LocalTensor中的某个值。 该接口仅在LocalTensor的TPosition为VECIN/VECCALC/VECOUT时支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00102_html.md ## CANN商业版-GetValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00103.html - Description: 获取LocalTensor指定索引的数值。 该接口仅在LocalTensor的TPosition为VECIN/VECCALC/VECOUT时支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00103_html.md ## operator\[\] - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00104.html - Description: 获取距原LocalTensor起始地址偏移量为offset的新LocalTensor,注意offset不能超过原有LocalTensor的size大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00104_html.md ## operator\(\) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00105.html - Description: 获取本LocalTensor的第offset个变量的引用。用于左值,相当于SetValue接口,用于右值,相当于GetValue接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00105_html.md ## CANN商业版-SetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00106.html - Description: 设置当前LocalTensor Size大小。单位为元素。当用户重用local tensor变量且使用长度发生变化的时候,需要使用此接口重新设置Size。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00106_html.md ## CANN商业版-GetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00107.html - Description: 获取当前LocalTensor Size大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00107_html.md ## CANN商业版-SetUserTag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00108.html - Description: 为Tensor添加用户自定义信息,用户可以根据需要设置对应的Tag。后续可通过GetUserTag获取指定Tensor的Tag信息,并根据Tag信息对Tensor进行相应操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00108_html.md ## CANN商业版-GetUserTag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00109.html - Description: 获取指定Tensor块的Tag信息,用户可以根据Tag信息对Tensor进行不同操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00109_html.md ## CANN商业版-ReinterpretCast - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00110.html - Description: 将当前Tensor重解释为用户指定的新类型,转换后的Tensor与原Tensor地址及内容完全相同,Tensor的大小(字节数)保持不变。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00110_html.md ## CANN商业版-GetPhyAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00111.html - Description: 返回LocalTensor的地址或指定偏移量后的地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00111_html.md ## CANN商业版-GetPosition - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00112.html - Description: 获取LocalTensor所在的TPosition逻辑位置,支持TPosition为VECIN、VECOUT、VECCALC、A1、A2、B1、B2、CO1、CO2。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00112_html.md ## CANN商业版-GetLength - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00113.html - Description: 获取LocalTensor数据长度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00113_html.md ## CANN商业版-SetShapeInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00114.html - Description: 设置LocalTensor的Shape信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00114_html.md ## CANN商业版-GetShapeInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00115.html - Description: 获取LocalTensor的Shape信息。注意:Shape信息没有默认值,只有通过SetShapeInfo设置过Shape信息后,才可以调用该接口获取正确的Shape信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00115_html.md ## CANN商业版-SetAddrWithOffset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00116.html - Description: 设置带有偏移的Tensor地址。用于快速获取定义一个Tensor,同时指定新Tensor相对于旧Tensor首地址的偏移。偏移的长度为旧Tensor的元素个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00116_html.md ## CANN商业版-SetBufferLen - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00117.html - Description: 设置Buffer长度。当用户调用operator\[\]函数创建新LocalTensor时,建议调用该接口设置新LocalTensor长度,便于编译器对内存及同步进行自动优化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00117_html.md ## CANN商业版-ToFile - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00118.html - Description: 只限于CPU调试,将LocalTensor数据Dump到文件中,用于精度调试,文件保存在执行目录。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00118_html.md ## CANN商业版-Print - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00119.html - Description: 只限于CPU调试,在调试窗口中打印LocalTensor数据用于精度调试,每一行打印一个DataBlock(32字节)的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00119_html.md ## CANN商业版-UnaryRepeatParams - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0012.html - Description: UnaryRepeatParams为用于控制操作数地址步长的数据结构。结构体内包含操作数相邻迭代间相同DataBlock的地址步长,操作数同一迭代内不同DataBlock的地址步长等参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0012_html.md ## TensorTrait简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00120.html - Description: TensorTrait数据结构是描述Tensor相关信息的基础模板类,包含Tensor的数据类型、逻辑位置和Layout内存布局。借助模板元编程技术,该类在编译时完成计算和代码生成,从而降低运行时开销。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00120_html.md ## TensorTrait构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00121.html - Description: 根据输入的Layout对象,实例化TensorTrait对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00121_html.md ## CANN商业版-GetLayout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00122.html - Description: 获取Layout实例化对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00122_html.md ## CANN商业版-SetLayout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00123.html - Description: 设置Layout对象至TensorTrait结构中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00123_html.md ## CANN商业版-MakeTensorTrait - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00124.html - Description: 生成TensorTrait实例化对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00124_html.md ## CANN商业版-is\_tensorTrait - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00125.html - Description: 判断输入的数据结构是否为TensorTrait数据结构,可通过检查其成员常量value的值来判断。当value为true时,表示输入的数据结构是TensorTrait类型;反之则为非TensorTrait类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00125_html.md ## 更多样例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00126.html - Description: - 矢量计算基础API使用TensorTrait样例 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00126_html.md ## 随路转换ND2NZ搬运 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00127.html - Description: 支持在数据搬运时进行ND到NZ格式的转换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00127_html.md ## 随路转换NZ2ND搬运 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00128.html - Description: 支持在数据搬运时进行NZ到ND格式的转换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00128_html.md ## 随路转换DN2NZ搬运(ISASI) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00129.html - Description: 随路格式转换数据搬运,适用于在搬运时进行格式转换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00129_html.md ## CANN商业版-BinaryRepeatParams - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0013.html - Description: BinaryRepeatParams为用于控制操作数地址步长的数据结构。结构体内包含操作数相邻迭代间相同DataBlock的地址步长,操作数同一迭代内不同DataBlock的地址步长等参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0013_html.md ## 随路量化激活搬运 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00130.html - Description: 支持在数据搬运过程中进行量化和Relu激活等操作,同时支持Local Memory到Global Memory通路NZ到ND格式的转换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00130_html.md ## 多维数据搬运(ISASI) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00131.html - Description: 多维数据搬运接口,相比于基础数据搬运接口,可更加自由配置搬入的维度信息以及对应的Stride。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00131_html.md ## CANN商业版-Mutex用于核内异步流水指令之间的同步处理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00133.html - Description: Mutex用于核内异步流水指令之间的同步处理,其功能类似于传统CPU中的锁机制。通过锁定指定流水再释放流水来完成流水间的同步依赖。每个锁有固定的一个MutexID,该ID可通过用户自定义(范围为0-27)或者通过AllocMutexID/ReleaseMutexID进行申请释放。当用户进行自定义配置时,接口性能达到最优,但此时无法与TQue等接口配合使用,若通过AllocMutexID/Relea - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00133_html.md ## CANN商业版-Lock - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00134.html - Description: 根据MutexID获取Mutex,并阻塞当前流水指令队列,直到对应的MutexID被Unlock。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00134_html.md ## CANN商业版-Unlock - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00135.html - Description: 直到前置当前流水指令退出后,根据MutexID释放对应Mutex。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00135_html.md ## AllocMutexID \(ISASI\) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00136.html - Description: 从框架获取并占用一个MutexID,与ReleaseMutexID配合使用,管理MutexID的获取和释放。获取的MutexID可以传入Mutex::Lock/Unlock接口使用,此时Mutex::Lock/Unlock可以与TQue等其他接口配合使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00136_html.md ## ReleaseMutexID \(ISASI\) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00137.html - Description: 从框架释放一个MutexID,与AllocMutexID配合使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00137_html.md ## OpAICoreConfig注册接口(REGISTER\_OP\_AICORE\_CONFIG) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00138.html - Description: 不同的硬件形态算子原型定义不同的情况,可以通过新增OpAICoreConfig的方式,针对不同的AI处理器型号注册差异化的算子原型\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlas\_ascendc\_10\_0062.html\#ZH-CN\_TOPIC\_000000253 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00138_html.md ## OpAICoreConfig构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00139.html - Description: OpAICoreConfig构造函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00139_html.md ## CANN商业版-GET\_TILING\_DATA\_PTR\_WITH\_STRUCT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00140.html - Description: 在使用该宏时,开发者可以通过指定结构体名称来获取相应的Tiling信息,并将其填入对应的Tiling结构体中。完成填充后,该宏将返回一个指向该Tiling结构体的指针,并使用tilingdataptr修饰符对该指针进行修饰。这种修饰方式能够确保在动静态Shape场景下代码的统一性和兼容性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00140_html.md ## CANN商业版-COPY\_TILING\_WITH\_STRUCT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00141.html - Description: 拷贝Tiling结构体,并返回指向拷贝后的Tiling结构体的指针。该宏适用于嵌套结构体场景,可拷贝结构体的子结构体成员变量。该宏将指定结构体拷贝至栈上,适用于频繁访问Tiling数据的场景,能够加快数据访问速度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00141_html.md ## CANN商业版-COPY\_TILING\_WITH\_ARRAY - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00142.html - Description: 拷贝指定大小的数组内容到目标数组中,并返回指向拷贝后数组的指针。适用于拷贝一个结构体的数组成员变量的场景。该宏将指定数组拷贝至栈上,适用于频繁访问Tiling数据的场景,能够加快数据访问速度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00142_html.md ## Coordinate简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00144.html - Description: Coordinate本质上是一个元组(tuple),用于表示张量在不同维度的位置信息,即坐标值。Coordinate(坐标)和Layout(布局)、Index(内存位置索引)之间存在紧密的关联: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00144_html.md ## CANN商业版-MakeCoord - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00145.html - Description: 将传入的数据打包成Coord数据结构。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00145_html.md ## CANN商业版-Crd2Idx - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00146.html - Description: Crd2Idx函数用于将多维坐标(Coordinate)通过布局(Layout)转换为内存位置索引(Index),这里的Layout包含了Shape和Stride信息。 对于一个布局Layout,其Shape为\(d0, d1, ..., dn\),Stride为\(s0, s1, ..., sn\),Coordinate为\(c0, c1, ..., cn\)到线性索引Index的转换公式为: 例如,对于S - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00146_html.md ## 运算符重载 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00147.html - Description: 重载运算符\(\),内部实现为调用Crd2Idx接口,将多维坐标(Coordinate)通过布局(Layout)转换为内存位置索引(Index)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00147_html.md ## TPipe简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00148.html - Description: TPipe用于统一管理Device端内存等资源,一个Kernel函数必须且只能初始化一个TPipe对象。其主要功能包括: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00148_html.md ## CANN商业版-HcclServerType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00149.html - Description: 配置HCCL的服务端类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00149_html.md ## CANN商业版-ASC\_CPU\_LOG - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00152.html - Description: 提供Host侧打印Log的功能。开发者可以在算子的TilingFunc代码中使用ASCCPULOGXXX接口来输出相关内容。一般情况下,开发者也可以选择使用printf等Host侧通用的打印方式进行调试。然而,在Tiling下沉场景中,由于Tiling函数运行在AI CPU上,必须使用本接口进行打印。 - 非Tiling下沉场景,日志输出到plog中。比如,debug级别的日志输出到/root/a - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00152_html.md ## RTC简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00153.html - Description: RTC是Ascend C运行时编译库,通过aclrtc接口,在程序运行时,将中间代码动态编译成目标机器码,提升程序运行性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00153_html.md ## CANN商业版-aclrtcCompileProg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00154.html - Description: 编译接口,编译指定的程序。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00154_html.md ## CANN商业版-aclrtcCreateProg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00155.html - Description: 通过给定的参数,创建编译程序的实例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00155_html.md ## CANN商业版-aclrtcDestroyProg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00156.html - Description: 销毁编译程序的实例。 表1 接口参数说明 aclError为int类型变量,详细说明请参考RTC错误码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00156_html.md ## CANN商业版-aclrtcGetBinData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00157.html - Description: 获取编译后的二进制数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00157_html.md ## CANN商业版-aclrtcGetBinDataSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00158.html - Description: 获取编译的二进制数据大小。用于在aclrtcGetBinData获取二进制数据时分配对应大小的内存空间。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00158_html.md ## CANN商业版-aclrtcGetCompileLogSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00159.html - Description: 获取编译日志的大小。用于在aclrtcGetCompileLog获取日志内容时分配对应大小的内存空间。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00159_html.md ## CANN商业版-GetBitCount - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0016.html - Description: 获取一个uint64t类型数字的二进制中0或者1的个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0016_html.md ## CANN商业版-aclrtcGetCompileLog - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00160.html - Description: 获取编译日志的内容,以字符串形式保存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00160_html.md ## RTC错误码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00161.html - Description: **表1 aclrtc接口返回aclError错误码说明** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00161_html.md ## CANN商业版-Async - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00163.html - Description: Async提供了一个统一的接口,用于在不同模式下(AIC或AIV)执行特定函数,从而避免代码中直接的硬件条件判断(如使用ASCENDISAIV或ASCENDISAIC)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00163_html.md ## CANN商业版-REGISTER\_NONE\_TILING - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00164.html - Description: 在Kernel侧使用标准C++语法自定义的TilingData结构体时,若用户不确定需要注册哪些结构体,可使用该接口告知框架侧需使用未注册的标准C++语法来定义TilingData,并配套GETTILINGDATAWITHSTRUCT,GETTILINGDATAMEMBER,GETTILINGDATAPTRWITHSTRUCT来获取对应的TilingData。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00164_html.md ## CANN商业版-printf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00166.html - Description: 该接口提供AI CPU算子Kernel调试场景下的格式化输出功能,默认将输出内容解析并打印在屏幕上。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00166_html.md ## CANN商业版-assert - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00167.html - Description: 该接口实现AI CPU算子Kernel调试场景下的assert断言功能。 算子执行中,如果assert内部条件判断不为真,则输出assert条件、触发文件名、行号等信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00167_html.md ## CANN商业版-ascendc\_assert - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00168.html - Description: ascendcassert提供了一种在CPU/NPU域实现断言功能的接口。当断言条件不满足时,系统会输出断言信息并格式化打印在屏幕上。 在算子Kernel侧实现代码中需要增加断言的地方使用ascendcassert检查代码,并格式化输出一些调测信息。示例如下:``` int assertFlag \= 10; ascendcassert\(assertFlag \!\= 10\); ascendcasser - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00168_html.md ## CANN商业版-Load2D - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00169.html - Description: Load2D支持如下数据通路的搬运: GM->A1; GM->B1; GM->A2; GM->B2; A1->A2; B1->B2。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00169_html.md ## CANN商业版-CountLeadingZero - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0017.html - Description: 计算一个uint64t类型数字前导0的个数(二进制从最高位到第一个1一共有多少个0)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0017_html.md ## CANN商业版-Load3D - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00170.html - Description: Load3D用于完成image to column操作,将多维feature map转为二维矩阵。支持如下数据通路:A1->A2; B1->B2。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00170_html.md ## Cast(float转half/int32\_t) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0018.html - Description: 对标量的数据类型进行转换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0018_html.md ## complex32/complex64 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00181.html - Description: 复数类型,其中complex32表示实部和虚部都是half类型的复数,位宽为32位;complex64表示实部和虚部都是float类型的复数,位宽为64位。 具体定义如下: 表1 Complex模板参数说明 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00181_html.md ## CANN商业版-TILING\_KEY\_LIST - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00186.html - Description: TILINGKEYLIST函数用于在核函数中判断当前执行的TilingKey是否与Host侧配置的指定TilingKey匹配,从而标识满足TilingKey \=\= key1或TilingKey \=\= key2条件的分支逻辑。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00186_html.md ## CANN商业版-LaunchWithZeroEleOutputTensors - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00187.html - Description: 在算子输出为全空Tensor时,用户可以配置该算子依旧会进行NPU上板执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00187_html.md ## CANN商业版-DataStoreBarrier - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00188.html - Description: 数据同步屏障指令,该指令会阻塞当前线程执行,确保所有先前的写内存操作完成并对其它硬件单元可见后,才继续执行后续指令。用于AI CPU与AI Core多核之间的数据一致性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00188_html.md ## CANN商业版-CountBitsCntSameAsSignBit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0019.html - Description: 计算一个int64t类型数字的二进制中,从最高数值位开始与符号位相同的连续比特位的个数。 当输入是-1(比特位全1)或者0(比特位全0)时,返回-1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0019_html.md ## CANN商业版-GetRuntimeUBSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00190.html - Description: 获取运行时UB空间的大小,单位为byte。开发者根据UB的大小来计算循环次数等参数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00190_html.md ## CANN商业版-Load2DMX - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00193.html - Description: Load2D支持如下数据通路的搬运: GM->A1; GM->B1; GM->A2; GM->B2; A1->A2; B1->B2。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00193_html.md ## CANN商业版-Load2DBitMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00194.html - Description: Load2D支持如下数据通路的搬运: GM->A1; GM->B1; GM->A2; GM->B2; A1->A2; B1->B2。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00194_html.md ## CANN商业版-Load3DBitMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00195.html - Description: Load3D用于完成image to column操作,将多维feature map转为二维矩阵。支持如下数据通路:A1->A2; B1->B2。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00195_html.md ## CANN商业版-SetFmatrixBitMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00196.html - Description: 用于调用Load3Dv1/Load3Dv2时设置FeatureMap的属性描述。Load3Dv1/Load3Dv2的模板参数isSetFMatrix设置为false时,表示Load3Dv1/Load3Dv2传入的FeatureMap的属性(包括l1H、l1W、padList,参数介绍参考表4 LoadData3DParamsV1结构体内参数说明、表5 LoadData3DParamsV2结构体内参 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00196_html.md ## CANN商业版-SetMMColumnMajor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00197.html - Description: 设置Mmad计算时优先通过M方向,CUBE将首先通过M方向,然后通过N方向产生结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00197_html.md ## CANN商业版-MmadBitMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00198.html - Description: 功能一:完成矩阵乘加(C +\= A B)操作。矩阵ABC分别为A2/B2/CO1中的数据。 - ABC矩阵的数据排布格式分别为ZZ,ZN,NZ。数据排布格式详解请参考 数据排布格式\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlasascendc100099.ht - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00198_html.md ## CANN商业版-GetCurNpuArch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00199.html - Description: 获取当前硬件平台芯片架构版本号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00199_html.md ## CANN商业版-GetSFFValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0020.html - Description: 获取一个uint64t类型数字的二进制表示中从最低有效位开始的第一个0或1出现的位置,如果没找到则返回-1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0020_html.md ## 接口变更说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00200.html - Description: 为了优化API命名,使其更加清晰和易于理解,当前版本相比于CANN8.5.0及前序版本,部分API命名有变更,具体变更情况请参考以下表格: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00200_html.md ## 构造&拷贝构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00201.html - Description: 构造算子参数的OpParamDef,OpParamDef用于描述算子参数的信息,如数据类型、格式等。一般用户不会直接构造OpParamDef,而是通过Input、Output接口间接构造算子参数的OpParamDef。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00201_html.md ## CANN商业版-asc\_dump - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00202.html - Description: 将对应内存上的数据打印出来,同时支持打印自定义的附加信息(仅支持uint32t类型的信息),比如打印当前行号等。 使用该接口需要包含"utils/debug/ascdump.h"头文件。 该功能主要用于调试和性能分析,开启后会对算子性能产生一定影响,通常在调测阶段使用,生产环境建议关闭。 默认情况下,该功能关闭,开发者需要在kernel核函数外定义如下宏定义:"\#define ASCENDCDUM - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00202_html.md ## CANN商业版-asc\_time\_stamp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00203.html - Description: 提供时间戳打点功能,用于在算子Kernel代码中标记关键执行点。调用后会打印如下信息: - descId:用户自定义标识符,用于区分不同打点位置; - rsv :保留值,默认为0,无需关注; - timeStamp :当前系统cycle数,用于计算时间差,时间换算规则可参考 GetSystemCycle\(ISASI\) ; - pcPtr:pc指针数值,若无特殊需求,用户无需关注。 - entry - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00203_html.md ## CANN商业版-asc\_prof\_start - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00204.html - Description: 用于设置性能数据采集信号启动,和ascprofstop配合使用。使用msProf工具进行算子上板调优时,可在kernel侧代码段前后分别调用ascprofstart和ascprofstop来指定需要调优的代码段范围。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00204_html.md ## CANN商业版-asc\_prof\_stop - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00205.html - Description: 设置性能数据采集信号停止,和ascprofstart配合使用。使用msProf工具进行算子上板调优时,可在kernel侧代码段前后分别调用ascprofstart和ascprofstop来指定需要调优的代码段范围。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00205_html.md ## CANN商业版-asc\_mark\_stamp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00206.html - Description: 用户通过调用接口,用于在算子执行过程中标记特定位置,便于后期通过流水图分析代码执行路径与性能热点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00206_html.md ## CANN商业版-GetVecRegLen - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00207.html - Description: 获取当前硬件平台芯片架构Vec计算单元位宽。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00207_html.md ## CANN商业版-AICPU - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00208.html - Description: 设置AI CPU的配置信息:包括算子输入输出的名称、支持的数据类型、数据格式等信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00208_html.md ## CANN商业版-HostCPU - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00209.html - Description: 设置Host CPU的配置信息:包括算子输入输出的name、支持的dtype、format等信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00209_html.md ## Cast(float转bfloat16\_t) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0021.html - Description: float类型标量数据转换成bfloat16t类型标量数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0021_html.md ## CANN商业版-Engine - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00211.html - Description: 配置算子调用的引擎,入参固定为“DNN\_VM\_AICPU”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00211_html.md ## CANN商业版-FlagPartial - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00212.html - Description: 此参数为预留参数,请保持固定值“False”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00212_html.md ## CANN商业版-ComputeCost - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00213.html - Description: 此参数为预留参数,请保持固定值“100”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00213_html.md ## CANN商业版-FlagAsync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00214.html - Description: 此参数为预留参数,请保持固定值“False”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00214_html.md ## CANN商业版-OpkernelLib - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00215.html - Description: 配置算子调用的kernelLib,AICPU自定义算子调用的kernelLib固定为“CUSTAICPUKernel”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00215_html.md ## CANN商业版-KernelSo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00216.html - Description: 配置AICPU算子实现文件编译生成的动态库文件的名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00216_html.md ## CANN商业版-FunctionName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00217.html - Description: 配置自定义算子调用的kernel函数接口名称,functionName固定为“RunCpuKernel”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00217_html.md ## CANN商业版-UserDefined - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00218.html - Description: 配置该算子是否为用户自定义算子,AICPU自定义算子的userDefined仅支持配置为“True”,若开发者没有配置的情况下,该参数会被默认设置为“True”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00218_html.md ## CANN商业版-ExtendCfgInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00219.html - Description: 为AICPU自定义算子额外添加一组键值对形式的扩展配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00219_html.md ## Cast(多类型转float) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0022.html - Description: 将输入数据转换为float类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0022_html.md ## CANN商业版-Engine - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00221.html - Description: 配置算子调用的引擎,入参固定为“DNN\_VM\_HOST\_CPU”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00221_html.md ## CANN商业版-FlagPartial - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00222.html - Description: 此参数为预留参数,请保持固定值“False”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00222_html.md ## CANN商业版-ComputeCost - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00223.html - Description: 此参数为预留参数,请保持固定值“100”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00223_html.md ## CANN商业版-FlagAsync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00224.html - Description: 此参数为预留参数,请保持固定值“False”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00224_html.md ## CANN商业版-OpKernelLib - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00225.html - Description: 配置算子调用的kernelLib,HostCPU自定义算子调用的kernelLib固定为“CUSTHOSTCPUKernel”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00225_html.md ## CANN商业版-KernelSo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00226.html - Description: 配置HostCPU算子实现文件编译生成的动态库文件的名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00226_html.md ## CANN商业版-FunctionName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00227.html - Description: 配置自定义算子调用的kernel函数接口名称,functionName固定为“RunCpuKernel”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00227_html.md ## CANN商业版-UserDefined - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00228.html - Description: 配置该算子是否为用户自定义算子,HostCPU自定义算子的userDefined仅支持配置为“True”,若开发者没有配置的情况下,该参数会被默认设置为“True”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00228_html.md ## CANN商业版-ExtendCfgInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00229.html - Description: 为HostCPU自定义算子额外添加一组键值对形式的扩展配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00229_html.md ## CANN商业版-LocalMemBar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00231.html - Description: Reg矢量计算宏函数内不同流水线之间的同步指令。该同步指令指定src源流水线和dst目的流水线,如下图所示,目的流水线将等待源流水线上所有指令完成才进行执行。读写场景下,当读指令使用的寄存器和写指令使用的寄存器相同时,可以触发寄存器保序,指令将会按照代码顺序执行,不需要插入同步指令,而当使用的寄存器不同时,如果要确保读写指令顺序执行,则需要插入同步指令,写写场景同理。 图1 流水线等待示意图 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00231_html.md ## CANN商业版-GetSpr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00233.html - Description: 获取指定特殊寄存器的值,当前仅为预留接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00233_html.md ## CANN商业版-ClearSpr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00234.html - Description: 对指定的特殊寄存器进行清零。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00234_html.md ## CANN商业版-PostLiteral - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00236.html - Description: ``` enum class PostLiteral \{ POSTMODENORMAL, // 正常场景,UB操作数地址不更新。LoadUnAlign针对连续非对齐搬入不支持POSTMODENORMAL模式。 POSTMODEUPDATE // POSTMODEUPDATE场景使用,UB地址同时作为输入和输出,每次调用会更新。 \}; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00236_html.md ## CANN商业版-RegLayout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00237.html - Description: 源操作数与目的操作数类型位宽不同时,可以分为两种情况: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00237_html.md ## CANN商业版-CastTrait - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00238.html - Description: 类型转换模式结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00238_html.md ## CANN商业版-SatMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00239.html - Description: 设置Cast类型转换饱和与不饱和模式,取值如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00239_html.md ## CANN商业版-MaskMergeMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00240.html - Description: 决定mask未选择元素对于dst元素是否置0,取值如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00240_html.md ## CANN商业版-RoundMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00241.html - Description: 控制舍入模式,可输入值: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00241_html.md ## CANN商业版-SetLoopModePara - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00242.html - Description: DataCopy、DataCopyPad过程中通过该接口使能loop mode并且设置loop mode的参数,需要和ResetLoopModePara搭配使用,在数据搬运结束后通过ResetLoopModePara重置loop mode的参数。支持的通路如下: - GM->VECIN - VECOUT->GM - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00242_html.md ## CANN商业版-ResetLoopModePara - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00243.html - Description: 重置loop mode的参数。与SetLoopModePara搭配使用,在使能loop mode并且设置loop mode的参数的数据搬运场景下,数据搬运结束后需要调用该函数来重置loop mode参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00243_html.md ## CANN商业版-Neg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00244.html - Description: 按元素进行取相反数操作,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00244_html.md ## CANN商业版-Prelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00245.html - Description: 源操作数src0大于0的情况下直接将src0写入目的操作数dst,否则将源操作数src0 src1的结果写入dst。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00245_html.md ## CANN商业版-Mull - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00246.html - Description: 对前count个输入数据src0、src1按元素相乘操作,将结果写入dst0Local,溢出部分写入dst1Local。计算过程如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00246_html.md ## Adds(灵活标量位置) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00247.html - Description: 提供灵活标量位置的接口,支持标量在前和标量在后两种场景。其中标量输入支持配置LocalTensor单点元素,计算公式如下,idx表示LocalTensor单点元素的位置系数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00247_html.md ## Muls(灵活标量位置) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00248.html - Description: 提供灵活标量位置的接口,支持标量在前和标量在后两种场景。其中标量输入支持配置LocalTensor单点元素,计算公式如下,idx表示LocalTensor单点元素的位置系数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00248_html.md ## Maxs(灵活标量位置) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00249.html - Description: 提供灵活标量位置的接口,支持标量在前和标量在后两种场景。其中标量输入支持配置LocalTensor单点元素,计算公式如下,idx表示LocalTensor单点元素的位置系数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00249_html.md ## CANN商业版-Exp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0025.html - Description: 按元素取自然指数,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0025_html.md ## Mins(灵活标量位置) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00250.html - Description: 提供灵活标量位置的接口,支持标量在前和标量在后两种场景。其中标量输入支持配置LocalTensor单点元素,计算公式如下,idx表示LocalTensor单点元素的位置系数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00250_html.md ## ShiftLeft(左移位数为Tensor) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00251.html - Description: 对源操作数中的每个元素进行左移操作。根据源操作数的数据类型,左移操作分为以下两种情况: - 数据类型为无符号类型:执行逻辑左移。逻辑左移会将二进制数整体向左移动指定的位数,最高位被丢弃,最低位用0填充。例如,二进制数1010101010101010(uint16t 类型)逻辑左移1位后,结果为0101010101010100。 - 数据类型为有符号类型:执行算术左移。算术左移会将二进制数整体向左移 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00251_html.md ## ShiftRight(右移位数为Tensor) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00252.html - Description: 源操作数内每个元素做右移。 对无符号数据类型的源操作数做逻辑右移,对有符号数据类型的源操作数做算术右移。 逻辑右移为去掉最低位,最高位填充为0。 算术右移为去掉最低位,最高位复制符号位。 例:数据类型uint16t,二进制数 1010101010101010,逻辑右移一位结果为 0101010101010101; 数据类型int16t,二进制数 1010101010101010,算术右移一位结果为 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00252_html.md ## CANN商业版-AbsSub - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00253.html - Description: 将src0Local与src1相减再求绝对值, 并将计算结果写入dst。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00253_html.md ## CANN商业版-ExpSub - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00254.html - Description: src0与src1相减,将差值作为指数计算自然常数e的幂次, 并将计算结果写入dst。 源操作数数据类型为float类型时,计算公式如下: 源操作数数据类型为half类型时,计算公式如下: 针对Atlas 350 加速卡: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00254_html.md ## CANN商业版-MulsCast - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00255.html - Description: 将矢量源操作数前count个数据与标量相乘再按照CASTROUND模式转换成half类型, 并将计算结果写入dst,此接口支持标量在前和标量在后两种场景。计算公式如下。 其中标量输入也支持配置LocalTensor单点元素,计算公式如下,idx表示LocalTensor单点元素的位置系数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00255_html.md ## Compares(灵活标量位置) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00256.html - Description: 提供灵活标量位置的接口,支持标量在前和标量在后两种场景。其中标量输入支持配置LocalTensor单点元素,计算公式如下,idx表示LocalTensor单点元素的位置系数。 支持多种比较模式: - LT:小于(less than) - GT:大于(greater than) - GE:大于或等于(greater than or equal to) - EQ:等于(equal to) - NE:不 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00256_html.md ## Select(灵活标量位置) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00257.html - Description: 给定两个源操作数src0和src1,根据selMask(用于选择的Mask掩码)的比特位值选取元素,得到目的操作数dst。选择的规则为:当selMask的比特位是1时,从src0中选取,比特位是0时从src1选取。 对于tensor高维切分计算接口,支持根据mask参数对上述选取结果,再次进行过滤,有效位填入最终的dst,无效位则保持dst原始值。例如:src0为\[1,2,3,4,5,6,7,8\] - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00257_html.md ## CANN商业版-Truncate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00258.html - Description: 将源操作数的浮点数元素截断到整数位,同时源操作数的数据类型保持不变。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00258_html.md ## CANN商业版-AtomicAdd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00259.html - Description: 调用该接口后,可在指定GM地址上进行原子加操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00259_html.md ## CANN商业版-Ln - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0026.html - Description: 按元素取自然对数,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0026_html.md ## CANN商业版-AtomicMin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00260.html - Description: 调用该接口后,可在指定GM地址上进行原子比较取小操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00260_html.md ## CANN商业版-AtomicMax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00261.html - Description: 调用该接口后,可在指定GM地址上进行原子取大操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00261_html.md ## CANN商业版-AtomicCas - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00262.html - Description: 调用该接口后,可在指定GM地址上进行原子比较,如果和value1相等,则把value2的值赋值到GM上;如果和value1不相等,则GM上的值不变。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00262_html.md ## CANN商业版-AtomicExch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00263.html - Description: 在GM内存中执行原子交换操作。具体来说,它读取指定GM地址上的数据,并将新的值存储回同一地址。函数返回旧值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00263_html.md ## CANN商业版-MarkStamp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00264.html - Description: 推荐使用ascmarkstamp接口进行特定位置的标记,该接口同时适用于C语言和C++语言编程。 用户通过调用接口,用于在算子执行过程中标记特定位置,便于后期通过流水图分析代码执行路径与性能热点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00264_html.md ## CANN商业版-CeilDivision - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00265.html - Description: 计算两个整数num1和num2相除后向上取整结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00265_html.md ## CANN商业版-GetSsbufBaseAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00266.html - Description: 该接口用于获取SSBuffer的基地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00266_html.md ## CANN商业版-asc\_vf\_call - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_00267.html - Description: 在SIMD编程场景下使用。用于启动SIMD VF(Vector Function)子任务。 ascvfcall启动SIMD VF子任务时,子任务函数不能是类的成员函数,推荐使用普通函数或类静态函数,且入口函数必须使用simdvf修饰宏。 ascvfcall启动SIMD VF子任务时,传递的参数只支持裸指针,常见基本数据类型。不支持传递结构体,数组等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_00267_html.md ## CANN商业版-Abs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0027.html - Description: 按元素取绝对值,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0027_html.md ## CANN商业版-Reciprocal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0028.html - Description: 按元素取倒数,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0028_html.md ## CANN商业版-Sqrt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0029.html - Description: 按元素做开方,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0029_html.md ## CANN商业版-Rsqrt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0030.html - Description: 按元素进行开方后取倒数的计算,公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0030_html.md ## CANN商业版-Not - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0031.html - Description: 按元素做按位取反,计算公式如下 : - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0031_html.md ## CANN商业版-Relu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0032.html - Description: 按元素做线性整流Relu,计算公式如下 : - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0032_html.md ## CANN商业版-Add - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0035.html - Description: 按元素求和,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0035_html.md ## CANN商业版-Sub - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0036.html - Description: 按元素求差,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0036_html.md ## CANN商业版-Mul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0037.html - Description: 按元素求积,公式表达如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0037_html.md ## CANN商业版-Div - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0038.html - Description: 按元素求商,公式表达如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0038_html.md ## CANN商业版-Max - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0039.html - Description: 按元素求最大值,公式表达如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0039_html.md ## CANN商业版-Min - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0040.html - Description: 按元素求最小值,公式表达如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0040_html.md ## CANN商业版-And - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0041.html - Description: 每对elements按位与运算,公式表达如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0041_html.md ## CANN商业版-Or - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0042.html - Description: 每对elements按位或运算,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0042_html.md ## CANN商业版-AddRelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0043.html - Description: 按元素求和,再进行Relu计算(结果和0对比取较大值)。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0043_html.md ## CANN商业版-AddReluCast - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0044.html - Description: 按元素求和,结果和0对比取较大值,并根据源操作数和目的操作数Tensor的数据类型进行精度转换。计算公式如下,其中dstType表示目的操作数的数据类型: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0044_html.md ## CANN商业版-AddDeqRelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0045.html - Description: 依次计算按元素求和、结果进行deq量化后再进行relu计算(结果和0对比取较大值)。计算公式如下: Deq的计算公式如下: 如上公式先除以2^17再乘以2^17用于防止x乘以DeqScale出现溢出情况;公式中DeqScale需要通过SetDeqScale进行设置,具体可参考SetDeqScale。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0045_html.md ## CANN商业版-SubRelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0046.html - Description: 按元素求差,再进行Relu计算(结果和0对比取较大值)。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0046_html.md ## CANN商业版-SubReluCast - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0047.html - Description: 按元素求差,再进行Relu计算(结果和0对比取较大值),并根据源操作数和目的操作数Tensor的数据类型进行精度转换。计算公式如下,其中dstType表示目的操作数的数据类型: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0047_html.md ## CANN商业版-MulAddDst - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0048.html - Description: 按元素将src0和src1相乘并和dst相加,将最终结果存放进dst中。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0048_html.md ## CANN商业版-MulCast - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0049.html - Description: 按元素求积,并根据源操作数和目的操作数Tensor的数据类型进行精度转换。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0049_html.md ## CANN商业版-FusedMulAdd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0050.html - Description: 按元素将src0和dst相乘并加上src1,最终结果存放入dst。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0050_html.md ## CANN商业版-MulAddRelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0051.html - Description: 按元素将src0和dst相乘并加上src1,再进行Relu计算(结果和0对比取较大值),最终结果存放进dst中。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0051_html.md ## 更多样例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0052.html - Description: - 通过tensor高维切分计算接口中的mask连续模式,实现数据非连续计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0052_html.md ## CANN商业版-Adds - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0054.html - Description: 矢量内每个元素与标量求和,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0054_html.md ## CANN商业版-Muls - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0055.html - Description: 矢量内每个元素与标量求积,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0055_html.md ## CANN商业版-Maxs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0056.html - Description: 源操作数矢量内每个元素与标量相比,如果比标量大,则取源操作数值,比标量的值小,则取标量值。 计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0056_html.md ## CANN商业版-Mins - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0057.html - Description: 源操作数矢量内每个元素与标量相比,如果比标量大,则取标量值,比标量的值小,则取源操作数。 计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0057_html.md ## CANN商业版-ShiftLeft - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0058.html - Description: 对源操作数中的每个元素进行左移操作,左移的位数由公式中scalar决定。根据源操作数的数据类型,左移操作分为以下两种情况: - 数据类型为无符号类型:执行逻辑左移。逻辑左移会将二进制数整体向左移动指定的位数,最高位被丢弃,最低位用0填充。例如,二进制数1010101010101010(uint16t 类型)逻辑左移1位后,结果为0101010101010100。 - 数据类型为有符号类型:执行算术 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0058_html.md ## CANN商业版-ShiftRight - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0059.html - Description: 对源操作数中的每个元素进行右移操作,右移的位数由公式中scalar决定。根据源操作数的数据类型,右移操作分为以下两种情况: - 数据类型为无符号类型:执行逻辑右移。逻辑右移会将二进制数整体向右移动指定的位数,最低位被丢弃,最高位用0填充。例如,二进制数1010101010101010(uint16t类型)逻辑右移1位后,结果为0101010101010101。 - 数据类型为有符号类型:执行算术右 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0059_html.md ## CANN商业版-LeakyRelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0060.html - Description: 按元素执行Leaky ReLU(Leaky Rectified Linear Unit)操作,计算公式如下: Leaky ReLU带泄露线性整流函数是一种人工神经网络中常用的激活函数,其数学表达式为: 和ReLU的区别是:ReLU是将所有的负值都设为零,而Leaky ReLU是给所有负值赋予一个斜率。下图表示了Relu和Leaky ReLU的区别: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0060_html.md ## CANN商业版-Axpy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0063.html - Description: 源操作数src中每个元素与标量求积后和目的操作数dst中的对应元素相加,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0063_html.md ## CANN商业版-Compare - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0066.html - Description: 逐元素比较两个tensor大小,如果比较后的结果为真,则输出结果的对应比特位为1,否则为0。 支持多种比较模式: - LT:小于(less than) - GT:大于(greater than) - GE:大于或等于(greater than or equal to) - EQ:等于(equal to) - NE:不等于(not equal to) - LE:小于或等于(less than or - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0066_html.md ## Compare(结果存入寄存器) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0067.html - Description: 逐元素比较两个tensor大小,如果比较后的结果为真,则输出结果的对应比特位为1,否则为0。Compare接口需要mask参数时,可以使用此接口。计算结果存入寄存器中。 支持多种比较模式: - LT:小于(less than) - GT:大于(greater than) - GE:大于或等于(greater than or equal to) - EQ:等于(equal to) - NE:不等于( - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0067_html.md ## CANN商业版-Compares - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0068.html - Description: 逐元素比较一个tensor中的元素和另一个Scalar的大小,如果比较后的结果为真,则输出结果的对应比特位为1,否则为0。 支持多种比较模式: - LT:小于(less than) - GT:大于(greater than) - GE:大于或等于(greater than or equal to) - EQ:等于(equal to) - NE:不等于(not equal to) - LE:小于或等 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0068_html.md ## CANN商业版-Select - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0070.html - Description: 给定两个源操作数src0和src1,根据selMask(用于选择的Mask掩码)的比特位值选取元素,得到目的操作数dst。选择的规则为:当selMask的比特位是1时,从src0中选取,比特位是0时从src1选取。 对于tensor高维切分计算接口,支持根据mask参数对上述选取结果,再次进行过滤,有效位填入最终的dst,无效位则保持dst原始值。例如:src0为\[1,2,3,4,5,6,7,8\] - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0070_html.md ## CANN商业版-GatherMask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0071.html - Description: 以内置固定模式对应的二进制或者用户自定义输入的Tensor数值对应的二进制为gather mask(数据收集的掩码),从源操作数中选取元素写入目的操作数中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0071_html.md ## CANN商业版-Cast - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0073.html - Description: 根据源操作数和目的操作数Tensor的数据类型进行精度转换。 在了解精度转换规则之前,需要先了解浮点数的表示方式和二进制的舍入规则: - 浮点数的表示方式 - half共16bit,包括1bit符号位(S),5bit指数位(E)和10bit尾数位(M)。 当E不全为0或不全为1时,表示的结果为: \(-1\)S 2E - 15 \(1 + M\) 当E全为0时,表示的结果为 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0073_html.md ## CANN商业版-ReduceMax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0076.html - Description: 在所有的输入数据中找出最大值及最大值对应的索引位置。归约指令的总体介绍请参考如何使用归约计算API\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlasascendc100023.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0076_html.md ## CANN商业版-ReduceMin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0077.html - Description: 在所有的输入数据中找出最小值及最小值对应的索引位置。归约指令的总体介绍请参考如何使用归约计算API\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlasascendc100023.html\)。ReduceMin计算原理参考ReduceMax。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0077_html.md ## CANN商业版-ReduceSum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0078.html - Description: 对所有的输入数据求和。 ReduceSum的相加方式分为两种:- 方式一:同一repeat内先按照二叉树累加、不同repeat的结果也按照二叉树累加。 假设源操作数为128个half类型的数据\[data0,data1,data2...data127\],一个repeat可以计算完,计算过程如下。 1. data0和data1相加得到data00,data2和data3相加得到data01,... - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0078_html.md ## CANN商业版-WholeReduceMax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0079.html - Description: 每个repeat内所有数据求最大值以及其索引index,返回的索引值为每个repeat内部索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0079_html.md ## CANN商业版-WholeReduceMin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0080.html - Description: 每个repeat内所有数据求最小值以及其索引index,返回的索引值为每个repeat内部索引。归约指令的总体介绍请参考如何使用归约计算API\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlasascendc100023.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0080_html.md ## CANN商业版-WholeReduceSum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0081.html - Description: 每个迭代内所有数据求和。归约指令的总体介绍请参考如何使用归约计算API\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlasascendc100023.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0081_html.md ## CANN商业版-BlockReduceMax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0082.html - Description: 对每个datablock内所有元素求最大值。归约指令的总体介绍请参考如何使用归约计算API\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlasascendc100023.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0082_html.md ## CANN商业版-BlockReduceMin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0083.html - Description: 对每个datablock内所有元素求最小值。归约指令的总体介绍请参考如何使用归约计算API\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlasascendc100023.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0083_html.md ## CANN商业版-BlockReduceSum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0084.html - Description: 对每个datablock内所有元素求和。源操作数相加采用二叉树方式,两两相加。归约指令的总体介绍请参考如何使用归约计算API\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlasascendc100023.html\)。 以128个half类型的数据求和为例,每个data - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0084_html.md ## CANN商业版-PairReduceSum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0085.html - Description: PairReduceSum:相邻两个(奇偶)元素求和,例如(a1, a2, a3, a4, a5, a6...),相邻两个数据求和为(a1+a2, a3+a4, a5+a6, ......)。归约指令的总体介绍请参考如何使用归约计算API\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendco - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0085_html.md ## CANN商业版-RepeatReduceSum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0086.html - Description: 每个repeat内所有数据求和。和WholeReduceSum接口相比,不支持mask逐bit模式。建议使用功能更全面的WholeReduceSum接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0086_html.md ## CANN商业版-Duplicate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0088.html - Description: 将一个变量或立即数复制多次并填充到向量中。 针对Atlas 350 加速卡,为方便开发者使用,tensor前n个数据计算接口同时也支持直接传入Tensor,此时会将Tensor的第一个元素复制多次并填充到向量中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0088_html.md ## CANN商业版-Brcb - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0089.html - Description: 给定一个输入张量,每一次取输入张量中的8个数填充到结果张量的8个datablock(32Bytes)中去,每个数对应一个datablock。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0089_html.md ## CANN商业版-CreateVecIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0090.html - Description: 创建指定起始值的向量索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0090_html.md ## CANN商业版-Gather - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0092.html - Description: 给定输入的张量和一个地址偏移张量,本接口根据偏移地址将输入张量按元素收集到结果张量中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0092_html.md ## CANN商业版-SetMaskCount - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0094.html - Description: 设置mask模式为Counter模式。该模式下,不需要开发者去感知迭代次数、处理非对齐的尾块等操作,可直接传入计算数据量,实际迭代次数由Vector计算单元自动推断。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0094_html.md ## CANN商业版-SetMaskNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0095.html - Description: 设置mask模式为Normal模式。该模式为系统默认模式,支持开发者配置迭代次数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0095_html.md ## CANN商业版-SetVectorMask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0096.html - Description: 用于在矢量计算时设置mask,使用前需要先调用SetMaskCount/SetMaskNorm设置mask模式。在不同的模式下,mask的含义不同:- Normal模式下,mask参数用来控制单次迭代内参与计算的元素个数。此时又可以划分为如下两种模式: - 连续模式:表示前面连续的多少个元素参与计算。取值范围和操作数的数据类型有关,数据类型不同,每次迭代内能够处理的元素个数最大值不同。当操作数 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0096_html.md ## CANN商业版-ResetMask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0097.html - Description: 恢复mask的值为默认值(全1),表示矢量计算中每次迭代内的所有元素都将参与运算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0097_html.md ## CANN商业版-SetDeqScale - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0099.html - Description: 设置DEQSCALE寄存器的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0099_html.md ## DataCopy简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0102.html - Description: DataCopy系列接口提供全面的数据搬运功能,支持多种数据搬运场景,并可在搬运过程中实现随路格式转换和量化激活等操作。该接口支持Local Memory与Global Memory之间的数据搬运,以及Local Memory内部的数据搬运。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0102_html.md ## 基础数据搬运 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0103.html - Description: 提供基础的数据搬运能力,数据在传输过程中保持原始格式和内容不变,支持连续和非连续的数据搬运。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0103_html.md ## 增强数据搬运 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0104.html - Description: 增强数据搬运功能仅在 Atlas 推理系列产品 AI Core产品型号的CO1 -> CO2(L0C Buffer -> UB)通路支持。其他型号和其他通路写明支持的情况,是指支持接口调用但增强数据搬运不生效,功能等同于基础数据搬运。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0104_html.md ## 切片数据搬运 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0105.html - Description: 支持数据的切片搬运,提取多维Tensor数据的子集进行搬运。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0105_html.md ## CANN商业版-Copy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0106.html - Description: VECIN,VECCALC,VECOUT之间的搬运指令,支持mask操作和DataBlock间隔操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0106_html.md ## TPipe构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0109.html - Description: 构造用来管理内存和同步的TPipe对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0109_html.md ## CANN商业版-InitBuffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0110.html - Description: 用于为TQue等队列和TBuf分配内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0110_html.md ## CANN商业版-Init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0111.html - Description: 用于内存和同步流水事件EventID的初始化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0111_html.md ## CANN商业版-Destroy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0112.html - Description: 释放资源。 用于重复申请释放tpipe,创建tpipe对象后,可调用Destroy手动释放资源。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0112_html.md ## CANN商业版-Reset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0113.html - Description: 完成资源的释放与eventId等变量的初始化操作,恢复到TPipe的初始化状态。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0113_html.md ## CANN商业版-AllocEventID - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0114.html - Description: 用于申请HardEvent(硬件类型同步事件)的TEventID,必须与ReleaseEventID搭配使用,调用该接口后,会占用申请的TEventID,直至调用ReleaseEventID释放。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0114_html.md ## CANN商业版-ReleaseEventID - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0115.html - Description: 用于释放HardEvent(硬件类型同步事件)的TEventID,通常与AllocEventID搭配使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0115_html.md ## CANN商业版-FetchEventID - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0116.html - Description: 根据HardEvent(硬件类型的同步事件)获取相应可用的TEventID,此接口不会申请TEventID,仅提供可用的TEventID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0116_html.md ## CANN商业版-GetBaseAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0117.html - Description: 根据传入的logicPos(逻辑抽象位置),获取该位置的基础地址,只在CPU调试场景下此接口生效。通常用于计算Tensor在logicPos的偏移地址即Tensor地址减去GetBaseAddr返回值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0117_html.md ## CANN商业版-InitBufPool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0119.html - Description: 初始化TBufPool内存资源池。本接口适用于内存资源有限时,希望手动指定UB/L1内存资源复用的场景。本接口初始化后在整体内存资源中划分出一块子资源池。划分出的子资源池TBufPool,提供了如下方式进行资源管理: - TPipe::InitBufPool的重载接口指定与其他TBufPool子资源池复用; - TBufPool:: InitBufPool 接口对子资源池继续划分; - TBuf - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0119_html.md ## CANN商业版-GetTPipePtr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0120.html - Description: 创建TPipe对象时,对象初始化会设置全局唯一的TPipe指针。本接口用于获取该指针,获取该指针后,可进行TPipe相关的操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0120_html.md ## TBufPool简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0122.html - Description: TPipe可以管理全局内存资源,而TBufPool可以手动管理或复用Unified Buffer/L1 Buffer物理内存,主要用于多个stage计算中Unified Buffer/L1 Buffer物理内存不足的场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0122_html.md ## TBufPool构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0123.html - Description: 创建TBufPool对象时,初始化数据成员。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0123_html.md ## CANN商业版-InitBufPool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0124.html - Description: 通过Tpipe::InitBufPool接口可划分出整块资源,整块TbufPool资源可以继续通过TBufPool::InitBufPool接口划分成小块资源。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0124_html.md ## CANN商业版-InitBuffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0125.html - Description: 调用TBufPool::InitBuffer接口为TQue/TBuf进行内存分配。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0125_html.md ## CANN商业版-Reset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0126.html - Description: 在切换TBufPool资源池时使用,结束当前TbufPool资源池正在处理的相关事件。调用后当前资源池及资源池分配的Buffer仍然存在,只是Buffer内容可能会被改写。可以切换回该资源池后,重新开始使用该Buffer,无需再次分配。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0126_html.md ## EXTERN\_IMPL\_BUFPOOL宏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0128.html - Description: 开发者可以通过TBufPool类手动管理Unified Buffer、L1 Buffer物理内存。 TBufPool类切分的内存块都是连续的,开发者可能有一些自定义的内存块分配需求,比如不连续内存块、内存块在不同TQue之间共享等,这时就需要开发者自定义一个TBufPool的实现。 为了简化开发者的自定义实现,提供EXTERNIMPLBUFPOOL宏来辅助用户自定义TBufPool。使用自定义TB - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0128_html.md ## CANN商业版-Reset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0129.html - Description: 完成自定义TbufPool资源的释放与eventId等变量的复位对消。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0129_html.md ## CANN商业版-Init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0130.html - Description: 完成自定义TbufPool资源与eventId等变量的初始化操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0130_html.md ## CANN商业版-GetBufHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0131.html - Description: 根据offset取出自定义TBufPool中管理的内存块。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0131_html.md ## CANN商业版-SetCurAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0132.html - Description: 设置自定义TBufPool已经被分配完的地址,比如初始化时一共申请了32k的内存大小,给某一个TQue分配了8K,则需要调用该接口以保证后续的内存块从8K开始分配。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0132_html.md ## CANN商业版-GetCurAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0133.html - Description: 获取当前已经被自定义TBufPool分配的地址,用户可以从该地址值开始向后分配内存块。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0133_html.md ## CANN商业版-SetCurBufSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0134.html - Description: 设置当前已经被自定义TBufPool分配的内存块个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0134_html.md ## CANN商业版-GetCurBufSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0135.html - Description: 获取当前已经被自定义TBufPool分配的内存块个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0135_html.md ## TQue简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0137.html - Description: 流水任务之间通过队列(Queue)完成任务间通信和同步。TQue是用来执行队列相关操作、管理相关资源的数据结构。TQue继承自TQueBind父类,继承关系如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0137_html.md ## CANN商业版-AllocTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0138.html - Description: 从Que中分配Tensor,Tensor所占大小为InitBuffer时设置的每块内存长度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0138_html.md ## CANN商业版-FreeTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0139.html - Description: 释放Que中的指定Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0139_html.md ## CANN商业版-EnQue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0140.html - Description: 将Tensor push到队列。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0140_html.md ## CANN商业版-DeQue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0141.html - Description: 将Tensor从队列中取出,用于后续处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0141_html.md ## CANN商业版-VacantInQue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0142.html - Description: 查询队列是否已满。 无 该接口不支持Tensor原地操作\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlasascendc1000020.html\),即TQue的depth设置为0的场景。 - true - 表示Queue未满, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0142_html.md ## CANN商业版-HasTensorInQue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0143.html - Description: 查询Que中目前是否已有入队的Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0143_html.md ## CANN商业版-GetTensorCountInQue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0144.html - Description: 查询Que中已入队的Tensor数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0144_html.md ## CANN商业版-HasIdleBuffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0145.html - Description: 查询Que中是否有空闲的内存块。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0145_html.md ## TQueBind简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0147.html - Description: TQueBind绑定源逻辑位置和目的逻辑位置,根据源位置和目的位置,来确定内存分配的位置 、插入对应的同步事件,帮助开发者解决内存分配和管理、同步等问题。Tque是TQueBind的简化模式。通常情况下开发者使用TQue进行编程,TQueBind对外提供一些特殊数据通路的内存管理和同步控制,涉及这些通路时可以直接使用TQueBind。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0147_html.md ## TQueBind构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0148.html - Description: 创建TQueBind对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0148_html.md ## CANN商业版-AllocTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0149.html - Description: 从Que中分配Tensor,Tensor所占大小为InitBuffer时设置的每块内存长度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0149_html.md ## CANN商业版-FreeTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0150.html - Description: 释放Que中的指定Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0150_html.md ## CANN商业版-EnQue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0151.html - Description: 将Tensor push到队列。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0151_html.md ## CANN商业版-DeQue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0152.html - Description: 将Tensor从队列中取出,用于后续处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0152_html.md ## CANN商业版-VacantInQue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0153.html - Description: 查询队列是否已满。 无 该接口不支持Tensor原地操作\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlasascendc1000020.html\),即TQue的depth设置为0的场景。 - true - 表示Queue未满, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0153_html.md ## CANN商业版-HasTensorInQue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0154.html - Description: 查询Que中目前是否已有入队的Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0154_html.md ## CANN商业版-GetTensorCountInQue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0155.html - Description: 查询Que中已入队的Tensor数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0155_html.md ## CANN商业版-HasIdleBuffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0156.html - Description: 查询Que中是否有空闲的内存块。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0156_html.md ## CANN商业版-FreeAllEvent - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0157.html - Description: 释放队列中申请的所有同步事件。队列分配的Buffer关联着同步事件的eventID,因为同步事件的数量有限制,如果同时使用的队列Buffer数量超过限制,将无法继续申请队列,使用本接口释放队列中的事件后,可以再次申请队列。详细介绍请参考TQue Buffer限制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0157_html.md ## CANN商业版-InitBufHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0158.html - Description: 为TQue、TBuf对象的内存块进行内存分配操作,包括设置内存块的大小,指向的地址等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0158_html.md ## CANN商业版-InitStartBufHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0159.html - Description: 设置TQue/TBuf的起始内存块指针、内存块的个数、每一块内存块的大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0159_html.md ## TBuf简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0161.html - Description: 使用Ascend C编程的过程中,可能会用到一些临时变量。这些临时变量占用的内存可以使用TBuf数据结构来管理,存储位置通过模板参数来设置,可以设置为不同的TPosition逻辑位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0161_html.md ## TBuf构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0162.html - Description: 创建TBuf对象时,初始化数据成员。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0162_html.md ## CANN商业版-Get - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0163.html - Description: 从TBuf上获取指定长度的Tensor,或者获取全部长度的Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0163_html.md ## CANN商业版-GetWithOffset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0164.html - Description: 以TBuf为基地址,向后偏移指定长度,将偏移后的地址作为起始地址,提取长度为指定值的Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0164_html.md ## CANN商业版-InitSpmBuffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0166.html - Description: 初始化SPM Buffer。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0166_html.md ## CANN商业版-WriteSpmBuffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0167.html - Description: 将需要溢出暂存的数据拷贝到SPM Buffer中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0167_html.md ## CANN商业版-ReadSpmBuffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0168.html - Description: 从SPM Buffer读回到local数据中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0168_html.md ## CANN商业版-GetSysWorkSpacePtr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0170.html - Description: 获取系统workspace指针。部分高阶API如Matmul需要使用系统workspace,相关接口需要传入系统workspace指针,此时可以通过该接口获取。使用系统workspace时,host侧开发者需要自行申请系统workspace的空间,其预留空间大小可以通过GetLibApiWorkSpaceSize接口获取。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0170_html.md ## CANN商业版-SetSysWorkSpace - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0171.html - Description: 框架需要使用的workspace称之为系统workspace。Matmul Kernel侧接口等高阶API需要系统workspace,所以在使用该类API时,需要调用该接口,设置系统workspace的指针。采用工程化算子开发方式或者kernel直调方式(开启HAVEWORKSPACE\(https://www.hiascend.comdocument/detail/zh/canncommercia - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0171_html.md ## CANN商业版-GetUserWorkspace - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0172.html - Description: 获取用户使用的workspace指针。workspace的具体介绍请参考如何使用workspace\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlasascendc100092.html\)。Kernel直调开发方式下,如果未开启HAVEWORKSPACE\(https: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0172_html.md ## CANN商业版-PopStackBuffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0173.html - Description: 在指定position(逻辑位置)申请临时空间,空间大小为指定position的全部剩余空间。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0173_html.md ## CANN商业版-TPosition - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0174.html - Description: Ascend C管理不同层级的物理内存时,用一种抽象的逻辑位置(TPosition)来表达各级别的存储,代替了片上物理存储的概念,达到隐藏硬件架构的目的。主要的TPosition类型包括:VECIN、VECOUT、VECCALC、A1、A2、B1、B2、C1、C2、CO1、CO2,其中VECIN、VECCALC、VECOUT主要用于矢量编程,A1、A2、B1、B2、C1、C2、CO1、CO2用于矩 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0174_html.md ## CANN商业版-DataCachePreload - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0176.html - Description: 从源地址所在的特定GM地址预加载数据到data cache中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0176_html.md ## CANN商业版-DataCacheCleanAndInvalid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0177.html - Description: 在AI Core内部,Scalar单元和DMA单元都可能对Global Memory进行访问。 图1 DataCache内存层次示意图 如上图所示: - DMA搬运单元读写Global Memory,数据通过DataCopy等接口在UB等Local Memory和Global Memory间交互,没有Cache一致性问题; - Scalar单元访问Global Memory,首先会访问每个核内的D - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0177_html.md ## 同步控制简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0179.html - Description: 开发者可以使用同步控制接口来自行完成同步控制。需要注意的是,通常情况下,开发者基于编程模型\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlas\_ascendc\_10\_0012.html\)中介绍的编程模型和范式进行编程时不需要关注同步,编程模型帮助开发者完成了同步控制; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0179_html.md ## 模板参数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0180.html - Description: TQueSync类的模板参数用于指定源流水和目标流水,目的流水等待源流水。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0180_html.md ## SetFlag/WaitFlag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0181.html - Description: 同一核内不同流水线之间的同步指令,具有数据依赖的不同流水指令之间需要插入此同步。- SetFlag:当前序指令的所有读写操作都完成之后,当前指令开始执行,并将硬件中的对应标志位设置为1。 - WaitFlag:当执行到该指令时,如果发现对应标志位为0,该队列的后续指令将一直被阻塞;如果发现对应标志位为1,则将对应标志位设置为0,同时后续指令开始执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0181_html.md ## CANN商业版-Nop - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0182.html - Description: 用户输入延迟的个数,实现延迟若干个cycle。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0182_html.md ## CANN商业版-GetBlockNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0184.html - Description: 获取当前任务配置的核数,用于代码内部的多核逻辑控制等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0184_html.md ## CANN商业版-GetBlockIdx - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0185.html - Description: 获取当前核的index,用于代码内部的多核逻辑控制及多核偏移量计算等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0185_html.md ## CANN商业版-GetDataBlockSizeInBytes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0186.html - Description: 获取当前芯片版本一个datablock的大小,单位为byte。开发者根据datablock的大小来计算API指令中待传入的repeatTime 、DataBlock Stride、Repeat Stride等参数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0186_html.md ## CANN商业版-GetArchVersion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0187.html - Description: 获取当前AI处理器架构版本号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0187_html.md ## CANN商业版-GetTaskRatio - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0188.html - Description: 分离模式\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlasascendc100008.html\#ZH-CNTOPIC0000002531522198section1574769433\)下,获取一个AI Core上Cube Core(AIC)或者Vector Core - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0188_html.md ## CANN商业版-GetUBSizeInBytes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0189.html - Description: 获取UB空间的大小,单位为byte。开发者根据UB的大小来计算循环次数等参数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0189_html.md ## CANN商业版-GetVecLen - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0190.html - Description: 获取RegTensor位宽VL(Vector Length)的大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0190_html.md ## CANN商业版-DumpTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0192.html - Description: 基于算子工程开发的算子,可以使用该接口Dump指定Tensor的内容。同时支持打印自定义的附加信息(仅支持uint32t数据类型的信息),比如打印当前行号等。 在算子kernel侧实现代码中需要打印Tensor数据的地方调用DumpTensor接口打印相关内容。样例如下:``` AscendC::DumpTensor\(srcLocal, 5, dataLen\); - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0192_html.md ## CANN商业版-printf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0193.html - Description: 该接口提供CPU域/NPU域调试场景下的格式化输出功能。 在算子kernel侧实现代码中需要输出日志信息的地方调用printf接口打印相关内容。样例如下:``` \#include "kerneloperator.h" AscendC::printf\("fmt string %d\\n", 0x123\); AscendC::PRINTF\("fmt string %d\\n", 0x123\); - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0193_html.md ## CANN商业版-assert - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0194.html - Description: 为了避免部分场景下和标准的assert接口产生冲突,assert\(expr, gm const char fmt, Args&&... args\)接口将被废弃,并将在后续版本移除。请不要使用该接口,可使用ascendcassert的对应接口作为替代。 基于算子工程开发的算子,可以使用该接口实现CPU/NPU域assert断言功能。算子执行中,如果assert内部条件判断不为真,则输出assert条 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0194_html.md ## CANN商业版-DumpAccChkPoint - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0195.html - Description: 基于算子工程开发的算子,可以使用该接口Dump指定Tensor的内容。同时支持打印自定义的附加信息(仅支持uint32t数据类型的信息),比如打印当前行号等。区别于DumpTensor,使用该接口可以支持指定偏移位置的Tensor打印。 在算子kernel侧实现代码中需要打印偏移后Tensor数据的地方调用DumpAccChkPoint接口打印相关内容。样例如下:``` AscendC::Dump - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0195_html.md ## CANN商业版-Trap - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0196.html - Description: 在Kernel侧调用,NPU模式下会中断AI Core的运行,CPU模式下等同于assert。可用于Kernel侧异常场景的调试。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0196_html.md ## CANN商业版-Transpose - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0199.html - Description: 用于实现1616的二维矩阵数据块转置或者\[N,C,H,W\]与\[N,H,W,C\]数据格式互相转换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0199_html.md ## CANN商业版-TransDataTo5HD - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0200.html - Description: 数据格式转换,一般用于将NCHW格式转换成NC1HWC0格式。特别的,也可以用于二维矩阵数据块的转置。完成转置功能时,相比于Transpose接口,Transpose仅支持1616大小的矩阵转置;本接口单次repeat内可处理512Byte的数据(16个datablock),根据数据类型不同,支持不同shape的矩阵转置(比如数据类型为half时,单次repeat可完成1616大小的矩阵转置),同 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0200_html.md ## CANN商业版-IBSet - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0202.html - Description: 当不同核之间操作同一块全局内存且可能存在读后写、写后读以及写后写等数据依赖问题时,通过调用该函数来插入同步语句来避免上述数据依赖时可能出现的数据读写错误问题。调用IBSet设置某一个核的标志位,与IBWait成对出现配合使用,表示核之间的同步等待指令,等待某一个核操作完成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0202_html.md ## CANN商业版-IBWait - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0203.html - Description: 当不同核之间操作同一块全局内存且可能存在读后写、写后读以及写后写等数据依赖问题时,通过调用该函数来插入同步语句来避免上述数据依赖时可能出现的数据读写错误问题。IBWait与IBSet成对出现配合使用,表示核之间的同步等待指令,等待某一个核操作完成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0203_html.md ## CANN商业版-SyncAll - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0204.html - Description: 当不同核之间操作同一块全局内存且可能存在读后写、写后读以及写后写等数据依赖问题时,通过调用该函数来插入同步语句来避免上述数据依赖时可能出现的数据读写错误问题。目前多核同步分为硬同步和软同步,硬件同步是利用硬件自带的全核同步指令由硬件保证多核同步,软件同步是使用软件算法模拟实现。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0204_html.md ## CANN商业版-InitDetermineComputeWorkspace - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0206.html - Description: 初始化GM共享内存的值,完成初始化后才可以调用WaitPreBlock和NotifyNextBlock。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0206_html.md ## CANN商业版-WaitPreBlock - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0207.html - Description: 通过读GM地址中的值,确认是否需要继续等待,当GM的值满足当前核的等待条件时,该核即可往下执行,进行下一步操作。使用接口前,请确保已经调用InitDetermineComputeWorkspace接口,初始化共享内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0207_html.md ## CANN商业版-NotifyNextBlock - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0208.html - Description: 通过写GM地址,通知下一个核当前核的操作已完成,下一个核可以进行操作。使用接口前,请确保已经调用InitDetermineComputeWorkspace接口,初始化共享内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0208_html.md ## CANN商业版-SetAtomicAdd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0210.html - Description: 调用该接口后,可对后续的从VECOUT/L0C/L1到GM的数据传输开启原子累加,通过模板参数设定不同的累加数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0210_html.md ## CANN商业版-SetAtomicType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0211.html - Description: 通过设置模板参数来设定原子操作不同的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0211_html.md ## CANN商业版-DisableDmaAtomic - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0212.html - Description: 清空原子操作的状态。 无 无 无 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0212_html.md ## CANN商业版-GET\_TILING\_DATA - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0214.html - Description: 用于获取算子kernel入口函数传入的Tiling信息,并填入注册的TilingData结构体中,此函数会以宏展开的方式进行编译。对应的算子host实现中需要定义TilingData结构体,实现并注册计算TilingData的Tiling函数,具体请参考Host侧Tiling实现\(https://www.hiascend.comdocument/detail/zh/canncommercial/9 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0214_html.md ## CANN商业版-GET\_TILING\_DATA\_WITH\_STRUCT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0215.html - Description: 使用该接口指定结构体名称,可获取指定的tiling信息,并填入对应的Tiling结构体中,此函数会以宏展开的方式进行编译。与GETTILINGDATA的区别是:GETTILINGDATA只能获取默认注册的结构体,该接口可以根据指定的结构体名称获取对应的结构体,常用于针对不同的TilingKey注册了不同结构体的情况下。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0215_html.md ## CANN商业版-GET\_TILING\_DATA\_MEMBER - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0216.html - Description: 用于获取tiling结构体的成员变量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0216_html.md ## CANN商业版-TILING\_KEY\_IS - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0217.html - Description: 在核函数中判断本次执行时的tilingkey是否等于host侧运行时设置的某个key,从而标识tilingkey\=\=key的一条kernel分支。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0217_html.md ## 设置Kernel类型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0218.html - Description: 用于用户自定义设置kernel类型,控制算子执行时只启动该类型的核,避免启动不需要工作的核,缩短核启动开销。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0218_html.md ## CANN商业版-VectorPadding - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0221.html - Description: 根据padMode(pad模式)与padSide(pad方向)对源操作数按照datablock进行填充操作。 假设源操作数的一个datablock有16个数,datablock\[0:15\]\=a~p: - padSide\=\=false:从datablock的左边开始填充,即datablock的起始值方向\(a->p\) - padSide\=\=true:从datablock的右边开始填充,即datablo - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0221_html.md ## CANN商业版-BilinearInterpolation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0222.html - Description: 功能分为水平迭代和垂直迭代。每个水平迭代顺序地从src0Offset读取8个偏移值,表示src0的偏移,每个偏移值指向src0的一个DataBlock的起始地址,如果repeatMode\=false,从src1中取一个值,与src0中8个DataBlock中每个值进行乘操作;如果repeatMode\=true,从src1中取8个值,按顺序与src0中8个DataBlock中的值进行乘操作,最后当前 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0222_html.md ## CANN商业版-GetCmpMask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0223.html - Description: 此接口用于获取Compare(结果存入寄存器)指令的比较结果。 Compare(结果存入寄存器)指令会将比较后的结果写入CmpMask寄存器中,使用GetCmpMask接口可以获取到CmpMask寄存器的值从而得到Compare的结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0223_html.md ## CANN商业版-SetCmpMask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0224.html - Description: 为Select不传入mask参数的接口设置比较寄存器。配合不同的selMode传入不同的数据。 - 模式0(SELMODE::VSELCMPMASKSPR) SetCmpMask中传入selMask LocalTensor。 - 模式1(SELMODE::VSELTENSORSCALARMODE) SetCmpMask中传入src1 LocalTensor。 - 模式2(SELMODE:: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0224_html.md ## CANN商业版-GetReduceRepeatSumSpr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0225.html - Description: 获取ReduceSum接口(Tensor前n个数据计算接口,n为接口的count参数)的计算结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0225_html.md ## CANN商业版-GetReduceRepeatMaxMinSpr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0226.html - Description: 获取ReduceMax、ReduceMin连续场景下的最大/最小值以及相应的索引值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0226_html.md ## CANN商业版-ProposalConcat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0227.html - Description: 将连续元素合入Region Proposal内对应位置,每次迭代会将16个连续元素合入到16个Region Proposals的对应位置里。 Region Proposal说明: 目前仅支持两种数据类型:half、float。 每个Region Proposal占用连续8个half/float类型的元素,约定其格式: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0227_html.md ## CANN商业版-ProposalExtract - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0228.html - Description: 与ProposalConcat功能相反,从Region Proposals内将相应位置的单个元素抽取后重排,每次迭代处理16个Region Proposals,抽取16个元素后连续排列。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0228_html.md ## CANN商业版-RpSort16 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0229.html - Description: 根据Region Proposals中的score域对其进行排序(score大的排前面),每次排16个Region Proposals。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0229_html.md ## CANN商业版-MrgSort4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0230.html - Description: 将已经排好序的最多4条Region Proposals队列,排列并合并成1条队列,结果按照score域由大到小排序。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0230_html.md ## CANN商业版-Sort32 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0231.html - Description: 排序函数,一次迭代可以完成32个数的排序,数据需要按如下描述结构进行保存: score和index分别存储在src0和src1中,按score进行排序(score大的排前面),排序好的score与其对应的index一起以(score, index)的结构存储在dst中。不论score为half还是float类型,dst中的(score, index)结构总是占据8Bytes空间。 如下所示: - - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0231_html.md ## CANN商业版-MrgSort - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0232.html - Description: 将已经排好序的最多4条队列,合并排列成1条队列,结果按照score域由大到小排序。 MrgSort指令处理的数据一般是经过Sort32指令处理后的数据,也就是Sort32指令的输出,队列的结构如下所示:- 数据类型为float,每个结构占据8Bytes。 - 数据类型为half,每个结构也占据8Bytes,中间有2Bytes保留。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0232_html.md ## CANN商业版-GetMrgSortResult - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0233.html - Description: 获取MrgSort已经处理过的队列里的Region Proposal个数,并依次存储在四个出参中。 本接口和MrgSort相关指令的配合关系如下: - 配合 MrgSort4指令 使用,获取MrgSort4指令处理过的队列里的Region Proposal个数。使用时,需要将MrgSort4中的MrgSort4Info.ifExhaustedSuspension参数配置为true,该配置模式下某 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0233_html.md ## CANN商业版-Gatherb - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0234.html - Description: 给定一个输入的张量和一个地址偏移张量,本接口根据偏移地址按照DataBlock的粒度将输入张量收集到结果张量中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0234_html.md ## CANN商业版-Scatter - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0235.html - Description: 给定一个连续的输入张量和一个目的地址偏移张量,Scatter指令根据偏移地址生成新的结果张量后将输入张量分散到结果张量中。 将源操作数src中的元素按照指定的位置(由dstoffset和baseaddr共同作用)分散到目的操作数dst中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0235_html.md ## CANN商业版-Fill - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0237.html - Description: 将特定TPosition的LocalTensor初始化为某一具体数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0237_html.md ## CANN商业版-LoadDataWithTranspose - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0239.html - Description: 该接口实现带转置的2D格式数据从A1/B1到A2/B2的加载。 下面通过示例来讲解接口功能和关键参数:下文图中一个N形或者一个Z形代表一个分形。 - 对于uint8t/int8t数据类型,每次迭代处理32321B数据,可处理2个分形(一个分形512B),每次迭代中,源操作数中2个连续的1632分形将被合并为1个3232的方块矩阵,基于方块矩阵做转置,转置后分裂为2个1632分形,根据目的操作数分形 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0239_html.md ## CANN商业版-SetAippFunctions - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0240.html - Description: 设置图片预处理(AIPP,AI core pre-process)相关参数。和LoadImageToLocal接口配合使用。设置后,调用LoadImageToLocal接口可在搬运过程中完成图像预处理操作:包括数据填充,通道交换,单行读取、数据类型转换、通道填充、色域转换。调用SetAippFunctions接口时需传入源图片在Global Memory上的矩阵、源图片的图片格式。 - 数据填充: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0240_html.md ## CANN商业版-LoadImageToLocal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0241.html - Description: 将图像数据从Global Memory搬运到Local Memory。 搬运过程中可以完成图像预处理操作:包括图像翻转,改变图像尺寸(抠图,裁边,缩放,伸展),以及色域转换,类型转换等。图像预处理的相关参数通过SetAippFunctions进行配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0241_html.md ## CANN商业版-LoadUnzipIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0242.html - Description: 加载GM上的压缩索引表到内部寄存器。 索引表为LoadDataUnzip压缩信息,例如压缩长度等,以获取压缩后的数据。 索引表由压缩工具根据对应的权重数据离线生成。一个LoadUnzipIndex指令可以加载多个索引表,而每个LoadDataUnzip指令只能消耗一个索引表。因此,索引表之间的顺序应该由用户来确定,以确保其与压缩数据的对应性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0242_html.md ## CANN商业版-LoadDataUnzip - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0243.html - Description: 将GM上的数据解压并搬运到A1/B1/B2上。执行该API前需要执行LoadUnzipIndex加载压缩索引表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0243_html.md ## CANN商业版-LoadDataWithSparse - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0244.html - Description: 用于搬运存放在B1里的512B的稠密权重矩阵到B2里,同时读取128B的索引矩阵用于稠密矩阵的稀疏化。索引矩阵的数据类型为int2,需要拼成int8的数据类型,再传入接口。 索引矩阵在一个int8的地址中的排布是逆序排布的,例如:索引矩阵1 2 0 1 0 2 1 0,在地址中的排布为1 0 2 1 0 1 2 0,其中1 0 2 1(对应索引矩阵前四位1 2 0 1)为一个int8,0 1 2 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0244_html.md ## CANN商业版-SetFmatrix - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0245.html - Description: 用于调用Load3Dv1/Load3Dv2时设置FeatureMap的属性描述。Load3Dv1/Load3Dv2的模板参数isSetFMatrix设置为false时,表示Load3Dv1/Load3Dv2传入的FeatureMap的属性(包括l1H、l1W、padList,参数介绍参考表4 LoadData3DParamsV1结构体内参数说明、表5 LoadData3DParamsV2结构体内参 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0245_html.md ## CANN商业版-SetLoadDataBoundary - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0246.html - Description: 设置Load3D时A1/B1边界值。 如果Load3D指令在处理源操作数时,源操作数在A1/B1上的地址超出设置的边界,则会从A1/B1起始地址开始读取数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0246_html.md ## CANN商业版-SetLoadDataRepeat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0247.html - Description: 用于设置Load3Dv2接口的repeat参数。设置repeat参数后,可以通过调用一次Load3Dv2接口完成多个迭代的数据搬运。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0247_html.md ## CANN商业版-SetLoadDataPaddingValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0248.html - Description: 用于调用Load3Dv1接口/Load3Dv2接口时设置Pad填充的数值。Load3Dv1/Load3Dv2的模板参数isSetPadding设置为true时,用户需要通过本接口设置Pad填充的数值,设置为false时,本接口设置的填充值不生效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0248_html.md ## CANN商业版-Mmad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0249.html - Description: 功能一:完成矩阵乘加(C +\= A B)操作。矩阵ABC分别为A2/B2/CO1中的数据。 - ABC矩阵的数据排布格式分别为ZZ,ZN,NZ。数据排布格式详解请参考 数据排布格式\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlasascendc100099.ht - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0249_html.md ## CANN商业版-MmadWithSparse - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0250.html - Description: 完成矩阵乘加操作,传入的左矩阵A为稀疏矩阵, 右矩阵B为稠密矩阵 。对于矩阵A,在MmadWithSparse计算时完成稠密化;对于矩阵B,在计算执行前的输入数据准备时自行完成稠密化(按照下文中介绍的稠密算法进行稠密化),所以输入本接口的B矩阵为稠密矩阵。B稠密矩阵需要通过调用LoadDataWithSparse载入,同时加载索引矩阵,索引矩阵在矩阵B稠密化的过程中生成,再用于A矩阵的稠密化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0250_html.md ## CANN商业版-Fixpipe - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0251.html - Description: 矩阵计算完成后,对结果进行处理,例如对计算结果进行量化操作,并把数据从CO1搬迁到Global Memory中。 上图中Fixpipe Buffer->UB->L1 Buffer的接口,仅在NPUARCH 351x版本支持。 其中,FixPipe Buffer不同的量化模式对应的内存排布如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0251_html.md ## CANN商业版-SetFixPipeConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0252.html - Description: DataCopy(CO1->GM、CO1->A1)过程中进行随路量化时,通过调用该接口设置量化流程中tensor量化参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0252_html.md ## CANN商业版-SetFixpipeNz2ndFlag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0253.html - Description: DataCopy(CO1->GM、CO1->A1)过程中进行随路格式转换(NZ格式转换为ND格式)时,通过调用该接口设置格式转换的相关配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0253_html.md ## CANN商业版-SetFixpipePreQuantFlag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0254.html - Description: DataCopy(CO1->GM、CO1->A1)过程中进行随路量化时,通过调用该接口设置量化流程中标量量化参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0254_html.md ## CANN商业版-SetFixPipeClipRelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0255.html - Description: DataCopy(CO1->GM)过程中进行随路量化后,通过调用该接口设置ClipRelu操作的最大值。 ClipRelu计算公式为min\(clipReluMaxVal,srcData\),clipReluMaxVal为通过该接口设置的最大值,srcData为源数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0255_html.md ## CANN商业版-SetFixPipeAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0256.html - Description: DataCopy(CO1->GM)过程中进行随路量化后,通过调用该接口设置Elementwise操作时LocalTensor的地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0256_html.md ## CANN商业版-BroadCastVecToMM - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0257.html - Description: 将矢量数据广播到矩阵中,每个数据块中的每16个elements会被连续复制16次;当前支持的数据传输通路:VECIN/VECCALC/VECOUT->CO1。 图1 功能示例 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0257_html.md ## CANN商业版-SetHF32Mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0258.html - Description: 用于设置Mmad计算是否开启HF32模式,开启该模式后L0A/L0B中的FP32数据将在参与Mmad计算之前被舍入为HF32。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0258_html.md ## CANN商业版-SetHF32TransMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0259.html - Description: 设置HF32模式取整的具体方式,需要先使用SetHF32Mode开启HF32取整模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0259_html.md ## CANN商业版-SetMMRowMajor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0260.html - Description: 设置Mmad计算时优先通过N方向,CUBE将首先通过N方向,然后通过M方向生成结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0260_html.md ## CANN商业版-CheckLocalMemoryIA - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0261.html - Description: check设定范围内的UB读写行为,如果有设定范围的读写行为则会出现EXCEPTION报错,无设定范围的读写行为则不会报错。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0261_html.md ## Conv2D(废弃) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0262.html - Description: 该接口废弃,并将在后续版本移除,请不要使用该接口。 计算给定输入张量和权重张量的2-D卷积,输出结果张量。Conv2d卷积层多用于图像识别,使用过滤器提取图像中的特征。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0262_html.md ## Gemm(废弃) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0263.html - Description: 该接口废弃,并将在后续版本移除,请不要使用该接口。 根据输入的切分规则,将给定的两个输入张量做矩阵乘,输出至结果张量。将A和B两个输入矩阵乘法在一起,得到一个输出矩阵C。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0263_html.md ## CANN商业版-DataCopyPad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0265.html - Description: 该接口提供数据非对齐搬运的功能,其中从Global Memory搬运数据至Local Memory时,可以根据开发者的需要自行填充数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0265_html.md ## CANN商业版-SetPadValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0266.html - Description: 设置DataCopyPad需要填充的数值。支持的通路如下: - GM->VECIN/GM->VECOUT - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0266_html.md ## SetFlag/WaitFlag\(ISASI\) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0270.html - Description: 同一核内不同流水之间的同步指令。具有数据依赖的不同流水指令之间需要插此同步。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0270_html.md ## CANN商业版-PipeBarrier - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0271.html - Description: 阻塞相同流水,具有数据依赖的相同流水之间需要插入此同步。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0271_html.md ## CANN商业版-DataSyncBarrier - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0272.html - Description: 用于阻塞后续的指令执行,直到所有之前的内存访问指令(需要等待的内存位置可通过参数控制)执行结束。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0272_html.md ## CANN商业版-CrossCoreSetFlag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0273.html - Description: 面向分离模式的核间同步控制接口。 该接口和CrossCoreWaitFlag接口配合使用。使用时需传入核间同步的标记ID\(flagId\),每个ID对应一个用于控制同步的计数器。 同步控制分为以下几种模式,如图1所示: - 模式0:AI Core核间的同步控制。对于AIC场景,同步所有的AIC核,直到所有的AIC核都执行到CrossCoreSetFlag时,CrossCoreWaitFlag后续的指 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0273_html.md ## CANN商业版-CrossCoreWaitFlag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0274.html - Description: 面向分离模式的核间同步控制接口。该接口和CrossCoreSetFlag接口配合使用。具体使用方法请参考CrossCoreSetFlag。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0274_html.md ## CANN商业版-ICachePreLoad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0276.html - Description: 从指令所在DDR地址预加载指令到ICache中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0276_html.md ## CANN商业版-GetICachePreloadStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0277.html - Description: 获取ICACHE的PreLoad的状态。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0277_html.md ## CANN商业版-GetProgramCounter - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0279.html - Description: 获取程序计数器的指针,程序计数器用于记录当前程序执行的位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0279_html.md ## CANN商业版-GetSubBlockNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0280.html - Description: 分离模式\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlasascendc100008.html\#ZH-CNTOPIC0000002531522198li188191010204418\)下,获取一个AI Core上Cube Core(AIC)或者Vector Core - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0280_html.md ## CANN商业版-GetSubBlockIdx - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0281.html - Description: 获取AI Core上Vector核的ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0281_html.md ## CANN商业版-GetSystemCycle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0282.html - Description: 获取当前系统cycle数,若换算成时间需要按照50MHz的频率,时间单位为us,换算公式为:time \= \(cycle数/50\) us 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0282_html.md ## CANN商业版-SetAtomicMax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0284.html - Description: 原子操作函数,设置后续从VECOUT传输到GM的数据是否执行原子比较:将待拷贝的内容和GM已有内容进行比较,将最大值写入GM。 可通过设置模板参数来设定不同的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0284_html.md ## CANN商业版-SetAtomicMin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0285.html - Description: 原子操作函数,设置后续从VECOUT传输到GM的数据是否执行原子比较,将待拷贝的内容和GM已有内容进行比较,将最小值写入GM。 可通过设置模板参数来设定不同的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0285_html.md ## CANN商业版-SetStoreAtomicConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0286.html - Description: 设置原子操作使能位与原子操作类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0286_html.md ## CANN商业版-GetStoreAtomicConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0287.html - Description: 获取原子操作使能位与原子操作类型的值,详细说明见表1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0287_html.md ## CubeResGroupHandle使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0290.html - Description: CubeResGroupHandle用于在分离模式下对AI Core计算资源分组。分组后,开发者可以对不同的分组指定不同的计算任务。一个AI Core分组可包含多个AIV和AIC,AIV和AIC之间采取Client和Server架构进行任务处理。AIV为Client,每一个Cube计算任务为一个消息,AIV发送消息至消息队列,AIC作为Server,遍历消息队列的消息,根据消息类型及内容执行对应的 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0290_html.md ## CubeResGroupHandle构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0291.html - Description: 构造CubeResGroupHandle对象,完成组内的AIC和消息队列分配。构造CubeResGroupHandle对象时需要传入模板参数CubeMsgType,CubeMsgType是由用户定义的消息结构体,请参考表1。使用此接口需要用户自主管理地址、同步事件等,因此更推荐使用CreateCubeResGroup接口快速创建CubeResGroupHandle对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0291_html.md ## CANN商业版-AssignQueue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0292.html - Description: 用于AIV绑定CubeResGroupHandle中某一个消息队列的序号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0292_html.md ## CANN商业版-AllocMessage - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0293.html - Description: AIV从消息队列里申请消息空间,用于存放消息结构体,返回当前申请的消息空间的地址。消息队列的深度固定为4,申请消息空间的顺序为自上而下,然后循环。当消息队列指针指向的消息空间为FREE状态时,AllocMessage返回空间的地址,否则循环等待,直到当前空间的状态为FREE。 图1 AllocMessage示意图 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0293_html.md ## CANN商业版-PostMessage - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0294.html - Description: 通过AllocMessage接口获取到消息空间地址msg后,构造消息结构体CubeMsgType,发送该消息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0294_html.md ## CANN商业版-PostFakeMsg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0295.html - Description: 通过AllocMessage接口获取到消息空间地址后,AIV发送假消息,刷新消息状态msgState为FAKE。 当多个AIV的消息内容一致时,AIC仅需要读取一次位置靠前的第一个消息,通过将消息结构体中自定义的参数skipCnt设置为n,通知AIC后续n条消息无需处理,直接跳过,被跳过的AIV需要使用本接口发送假消息,这被称之为消息合并机制或消息合并场景。 如下图所示,假设Queue1、2、3的 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0295_html.md ## CANN商业版-SetQuit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0296.html - Description: 通过AllocMessage接口获取到消息空间地址后,发送退出消息,告知该消息队列对应的AIC无需处理该队列的消息。如下图,Queue5对应的AIV发了退出消息后,Block1将不再处理Queue5的任何消息。 图1 消息队列退出示意图 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0296_html.md ## CANN商业版-Wait - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0297.html - Description: 在调用PostMessage或PostFakeMessage后,查询该消息是否已被AIC处理完。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0297_html.md ## CANN商业版-FreeMessage - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0298.html - Description: 在自定义的回调函数逻辑中,完成消息处理后,调用该接口,刷新消息状态为FREE;或者待消息状态为指定状态waitState时,刷新消息状态为FREE。消息状态的介绍可以参考表2中的参数msgState。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0298_html.md ## CANN商业版-SetSkipMsg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0299.html - Description: AIC跳过指定个数假消息的处理,仅在回调函数中调用。下图中Block0通过调用SetSkipMsg跳过三个假消息。 图1 SetSkipMsg示意图 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0299_html.md ## CANN商业版-CreateCubeResGroup - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0300.html - Description: 快速创建CubeResGroupHandle对象,内部完成消息队列空间和同步事件分配。推荐使用该接口,避免使用CubeResGroupHandle的构造函数创建对象,出现不同对象的消息队列空间冲突、同步事件错误等情况。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0300_html.md ## GroupBarrier使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0302.html - Description: 当同一个CubeResGroupHandle中的两个AIV任务之间存在依赖关系时,可以使用GroupBarrier控制同步。假设一组AIV A做完任务x以后,另外一组AIV B才可以开始后续业务,称AIV A组为Arrive组,AIV B组为Wait组。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0302_html.md ## GroupBarrier构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0303.html - Description: 创建GroupBarrier对象,通过设置构造函数参数,确定Arrive组的Block个数和Wait组的Block个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0303_html.md ## CANN商业版-Arrive - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0304.html - Description: 通知其他等待的AIV,本AIV已经完成其依赖的任务。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0304_html.md ## CANN商业版-Wait - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0305.html - Description: 阻塞该AIV需要等待Arrive组全部完成任务,再开始执行任务。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0305_html.md ## CANN商业版-GetWorkspaceLen - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0306.html - Description: 返回当前GroupBarrier所占用的Global Memory消息空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0306_html.md ## 构造函数与析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0308.html - Description: 用于创建KfcWorkspace对象,Kfc全称为kernel function call,表示核间通信调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0308_html.md ## CANN商业版-GetKfcWorkspace - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0310.html - Description: 获取用于CubeResGroupHandle消息通信区的内存地址。用户使用CubeResGroupHandle接口时,需要用此接口自主管理空间地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0310_html.md ## CANN商业版-RegTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0314.html - Description: Reg矢量计算基本单元,RegTensor位宽为VL(Vector Length),具体值可能因不同AI处理器型号而异。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0314_html.md ## CANN商业版-MaskReg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0315.html - Description: MaskReg用于指示在计算过程中哪些元素参与计算,宽度为RegTensor的八分之一(VL/8)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0315_html.md ## UnalignRegForLoad & UnalignRegForStore - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0316.html - Description: UnalignRegForLoad、UnalignRegForStore用作缓冲区来优化UB和RegTensor之间连续不对齐地址访问的开销。在读不对齐地址前,UnalignRegForLoad、UnalignRegForStore应该通过LoadUnAlignPre API初始化,然后使用LoadUnAlign API。在写不对齐地址时,先使用StoreUnAlign API,再使用StoreU - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0316_html.md ## CANN商业版-AddrReg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0317.html - Description: AddrReg即为Address Register(地址寄存器),是用于存储地址偏移量的寄存器。AddrReg应该通过CreateAddrReg API初始化,然后在循环之中使用AddrReg存储地址偏移量。AddrReg在每层循环中根据所设置的stride进行自增。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0317_html.md ## 连续对齐搬入 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0319.html - Description: Reg矢量计算数据搬运接口,适用于从UB连续对齐搬入RegTensor。单搬入模式下,可以将数据从UB搬运到一个目的寄存器,双搬入模式下,可以将数据从UB搬运到两个目的寄存器。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0319_html.md ## 连续对齐搬出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0320.html - Description: Reg矢量计算数据搬运接口,适用于从RegTensor连续对齐搬出到UB。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0320_html.md ## 非连续对齐搬入 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0321.html - Description: Reg矢量计算数据搬运接口,适用于从UB非连续对齐搬入RegTensor(以DataBlock为单位)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0321_html.md ## 非连续对齐搬出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0322.html - Description: Reg矢量计算数据搬运接口,适用于从RegTensor非连续对齐搬出到UB(以DataBlock为单位)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0322_html.md ## 连续非对齐搬入 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0323.html - Description: Reg矢量计算数据搬运接口,适用于从UB非32B对齐地址起始连续搬入RegTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0323_html.md ## 连续非对齐搬出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0324.html - Description: Reg矢量计算数据搬运接口,适用于从RegTensor连续非对齐搬出到UB。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0324_html.md ## MaskReg搬入 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0325.html - Description: Reg矢量计算数据搬运接口,适用于从UB或RegTensor搬入MaskReg。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0325_html.md ## MaskReg搬出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0326.html - Description: Reg矢量计算数据搬运接口,适用于从MaskReg搬出到UB。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0326_html.md ## CANN商业版-Move - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0334.html - Description: 将src中的元素复制到dst中的对应位置。如果有输入mask,则仅复制被mask选定的有效元素,无效元素填0。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0334_html.md ## CANN商业版-Interleave - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0335.html - Description: 将源操作数src0和src1中的元素交织存入目的操作数dst0和dst1中。交织排列方式如下图所示,其中每个方格代表一个元素: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0335_html.md ## CANN商业版-DeInterleave - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0336.html - Description: 将源操作数src0和src1中的元素解交织存入目的操作数dst0和dst1中。解交织排列方式如下图所示,其中每个方格代表一个元素: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0336_html.md ## CANN商业版-Select - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0337.html - Description: 给定两个源操作数src0和src1,根据mask的比特位值选取元素,得到目的操作数dst。选择的规则为:当mask的比特位是1时,从src0中选取对应位置的数,比特位是0时从src1选取对应位置的数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0337_html.md ## CANN商业版-Pack - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0338.html - Description: 根据所选的低位模式或高位模式,将输入MaskReg的偶数位bit提取到输出MaskReg的低半部分或高半部分。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0338_html.md ## CANN商业版-UnPack - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0339.html - Description: 根据所选的低位模式或高位模式,将输入MaskReg的低半部分或高半部分展开到输出MaskReg。展开方式为:将每bit展开为2bit,高位置零。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0339_html.md ## CANN商业版-MoveMask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0340.html - Description: 从特殊寄存器SPR\{MASK1, MASK0\}读取mask值并根据数据类型格式写入函数返回值MaskReg。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0340_html.md ## CANN商业版-Abs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0342.html - Description: 对srcReg中的有效元素逐个取绝对值,并将结果写入dstReg中对应位置处。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0342_html.md ## CANN商业版-Relu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0343.html - Description: 根据mask对输入数据srcReg进行relu操作,将结果写入dstReg。relu计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0343_html.md ## CANN商业版-Exp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0344.html - Description: 根据mask对输入数据srcReg进行指数操作,将结果写入dstReg。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0344_html.md ## CANN商业版-Sqrt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0345.html - Description: 根据mask对输入数据srcReg进行平方根操作,将结果写入dstReg。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0345_html.md ## CANN商业版-Ln - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0348.html - Description: 根据mask对输入数据src进行求自然对数操作,将结果写入dst。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0348_html.md ## CANN商业版-Log - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0349.html - Description: 根据mask对输入数据srcReg进行求自然对数操作,将结果写入dstReg。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0349_html.md ## CANN商业版-Log2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0350.html - Description: 根据mask对输入数据srcReg进行求2的对数操作,将结果写入dstReg。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0350_html.md ## CANN商业版-Log10 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0351.html - Description: 根据mask对输入数据srcReg进行求以10为底的对数操作,将结果写入dstReg。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0351_html.md ## CANN商业版-Neg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0352.html - Description: 根据mask对输入数据srcReg进行取相反数操作,将结果写入dstReg。neg计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0352_html.md ## CANN商业版-Not - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0353.html - Description: 本节介绍两种接口,分别用于对RegTensor和MaskReg进行操作: - 对RegTensor操作: 对输入srcReg中的每个有效数据按位取反,将结果写入dstReg。 - 对MaskReg操作: 对输入src中的每个有效位(bit)取反,将结果写入dst。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0353_html.md ## CANN商业版-Move - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0354.html - Description: 对srcReg中的有效元素逐个复制写入dstReg中对应位置处。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0354_html.md ## CANN商业版-Add - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0356.html - Description: Add指令根据mask对源操作数srcReg0、srcReg1进行按元素求和操作,将结果写入目的操作数dstReg。计算公式如下: 若srcReg0,srcReg1输入转换为uint32t类型相加时超出uint32t最大值,在carry(存放进位的MaskReg寄存器)中对应位置每4bit设置1,否则写0。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0356_html.md ## CANN商业版-Sub - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0357.html - Description: 根据mask对源操作数srcReg0、srcReg1进行按元素相减操作,将结果写入目的操作数dstReg。计算公式如下: 若srcReg0,srcReg1相减产生借位结果时,在MaskReg carry中对应位置每4bit的最低位写0,否则写1。 具体的示例如下: 表1 示例说明 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0357_html.md ## CANN商业版-Mul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0358.html - Description: 根据mask对输入数据srcReg0、srcReg1按元素相乘操作,将结果写入dstReg。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0358_html.md ## CANN商业版-Div - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0359.html - Description: 根据mask对输入数据srcReg0、srcReg1执行按元素相除操作,将结果写入dstReg。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0359_html.md ## CANN商业版-Max - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0360.html - Description: 根据mask对源操作数srcReg0、srcReg1进行按元素求最大值操作,将结果写入目的操作数dstReg。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0360_html.md ## CANN商业版-Min - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0361.html - Description: 根据mask对源操作数srcReg0、srcReg1进行按元素求最小值操作,将结果写入目的操作数dstReg。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0361_html.md ## CANN商业版-And - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0362.html - Description: 本节介绍两种接口,分别用于对RegTensor和MaskReg进行操作: - 对RegTensor操作: 根据mask对输入数据srcReg0、srcReg1执行按元素与\( & \)操作,将结果写入dstReg。计算公式如下: - 对MaskReg操作: 将两个输入MaskReg的有效bit进行逻辑与运算得到新的MaskReg。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0362_html.md ## CANN商业版-Or - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0363.html - Description: 本节介绍两种接口,分别用于对RegTensor和MaskReg进行操作: - 对RegTensor操作: 根据mask对输入数据srcReg0、srcReg1按元素求或(|)操作,将结果写入dstReg。计算公式如下: - 对MaskReg操作: 将两个输入MaskReg的有效bit进行逻辑或运算得到新的MaskReg。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0363_html.md ## CANN商业版-Xor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0364.html - Description: 本节介绍两种接口,分别用于对RegTensor和MaskReg进行操作: - 对RegTensor操作: 根据mask对输入数据srcReg0、srcReg1按元素异或(^)操作,将结果写入dstReg。计算公式如下: - 对MaskReg操作: 将两个输入MaskReg的有效bit进行逻辑异或运算得到新的MaskReg。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0364_html.md ## CANN商业版-Mull - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0365.html - Description: 根据mask对输入数据srcReg0、srcReg1按元素相乘操作,将结果写入dstReg0,溢出部分写入dstReg1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0365_html.md ## CANN商业版-AddC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0367.html - Description: 根据mask对输入数据srcReg0、srcReg1以及进位数据carrySrc进行按元素相加操作,将结果写入dstReg。如果srcReg0, srcReg1输入转换为uint32t类型,加上进位值carrySrc相加时超出uint32t最大值,在MaskReg carry中对应位置每4bit大小写1,否则写0。计算公式如下: 对carry的操作示例如下: - int32t类型,ai, bi∈\[ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0367_html.md ## CANN商业版-SubC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0369.html - Description: 根据mask对源操作数srcReg0、srcReg1以及进位数据carrySrc进行按元素相减的操作,将结果写入目的操作数dstReg。srcReg0、srcReg1、carrySrc相减时如果产生借位,在MaskReg carry中对应位置每4bit的最低位写0,否则写1。计算公式如下: 具体的示例如下: 表1 示例说明 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0369_html.md ## CANN商业版-Prelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0372.html - Description: 源操作数src0大于0的情况下直接将src0写入目的操作数dst,否则将源操作数src0src1的结果写入dst。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0372_html.md ## CANN商业版-ShiftLeft - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0374.html - Description: 根据mask对输入数据srcReg0,按照srcReg1对应元素进行左移操作,将结果写入dstReg。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0374_html.md ## CANN商业版-ShiftRight - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0375.html - Description: 根据mask,对输入数据srcReg0按照srcReg1对应元素进行右移操作,将结果写入dstReg。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0375_html.md ## CANN商业版-AbsSub - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0376.html - Description: srcReg0与srcReg1相减再求绝对值, 根据mask将计算结果写入dstReg。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0376_html.md ## CANN商业版-ExpSub - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0378.html - Description: srcReg0与srcReg1相减,差值作为e的指数计算, 根据mask将计算结果写入dstReg。 srcReg为float类型时: srcReg为half类型时: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0378_html.md ## CANN商业版-MulAddDst - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0380.html - Description: srcReg0与srcReg1相乘再加上dstReg的值, 根据mask将计算结果写入dstReg。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0380_html.md ## CANN商业版-Adds - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0382.html - Description: 矢量内每个元素与标量求和,计算公式如下,其中VLT表示矢量计算单元一个迭代能够处理的元素个数。VLT的取值参考RegTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0382_html.md ## CANN商业版-Muls - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0383.html - Description: 矢量内每个元素与标量求积,计算公式如下,其中VLT表示矢量计算单元一个迭代能够处理的元素个数。VLT的取值参考RegTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0383_html.md ## CANN商业版-Maxs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0384.html - Description: 源操作数矢量内每个元素与标量相比,如果比标量大,则取源操作数值,比标量的值小,则取标量值。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0384_html.md ## CANN商业版-Mins - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0385.html - Description: 源操作数矢量内每个元素与标量相比,如果比标量大,则取标量值,比标量小,则取源操作数。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0385_html.md ## CANN商业版-ShiftLefts - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0386.html - Description: 源操作数内每个元素做逻辑左移,逻辑左移的位数由输入参数scalarValue决定。 所谓逻辑左移,是指去掉最高位,最低位补0,例:二进制数 1010101010101010,逻辑左移一位结果为 0101010101010100。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0386_html.md ## CANN商业版-ShiftRights - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0387.html - Description: 源操作数内每个元素做右移,右移的位数由输入参数scalarValue决定。 对数据类型uint16t/uint32t的源操作数做逻辑右移,对数据类型int16t/int32t的源操作数做算术右移。 逻辑右移为去掉最低位,最高位填充为0。 算术右移为去掉最低位,最高位复制符号位。 例:数据类型uint16t,二进制数 1010101010101010,逻辑右移一位结果为 01010101010101 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0387_html.md ## CANN商业版-MulsCast - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0388.html - Description: src与scalar相乘再按照CASTROUND模式转换成half类型,根据mask将计算结果写入dst。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0388_html.md ## CANN商业版-LeakyRelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0389.html - Description: 源操作数srcReg大于0的情况下直接将srcReg写入目的操作数dstReg, 否则将srcRegscalarValue的结果写入dstReg。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0389_html.md ## CANN商业版-Compare - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0393.html - Description: 逐元素比较两个Tensor大小,如果比较后的结果为真,则输出结果的对应比特位为1,否则为0。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0393_html.md ## CANN商业版-Compares - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0394.html - Description: 逐元素比较一个Tensor中的元素和另一个scalar的大小,如果比较后的结果为真,则输出结果的对应比特位为1,否则为0。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0394_html.md ## CANN商业版-Select - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0395.html - Description: 给定两个源操作数srcReg0和srcReg1,根据mask的比特位值选取元素,得到目的操作数dstReg。选择的规则为:当mask的比特位是1时,从srcReg0中选取对应位置的数,比特位是0时从srcReg1选取对应位置的数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0395_html.md ## CANN商业版-Cast - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0398.html - Description: 数据类型精度转换,将U类型的源操作数根据指定的转换模式,转换成T类型的目的操作数类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0398_html.md ## CANN商业版-Truncate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0399.html - Description: 将源操作数的浮点数元素截断到整数位,同时源操作数的数据类型保持不变。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0399_html.md ## CANN商业版-Gather - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0401.html - Description: - 收集UB中的元素 给定源操作数在UB中的基地址和索引,Gather指令根据索引位置将源操作数按元素收集到结果寄存器张量中。收集过程如下图所示: - 收集RegTensor中的元素 根据索引位置indexReg将源操作数srcReg按元素收集到结果dstReg中。收集过程如下图所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0401_html.md ## CANN商业版-GatherB - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0402.html - Description: 给定源操作数在UB中的基地址和索引,GatherB指令根据索引位置将源操作数按DataBlock收集到结果寄存器张量中。每个DataBlock长度为32Byte。收集过程如下图所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0402_html.md ## CANN商业版-Scatter - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0403.html - Description: 给定源操作数的寄存器张量和索引张量,以及结果操作数在UB中的基地址,Scatter指令将源操作数按元素根据索引位置分散到UB中。分散过程如下图所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0403_html.md ## CANN商业版-Interleave - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0405.html - Description: 给定源操作数寄存器张量srcReg0和srcReg1,将srcReg0和srcReg1中的元素交织存入结果操作数dstReg0和dstReg1中。交织排列方式如下图所示,其中每个方格代表一个元素: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0405_html.md ## CANN商业版-DeInterleave - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0406.html - Description: 给定源操作数寄存器张量srcReg0和srcReg1,将srcReg0和srcReg1中的元素解交织存入结果操作数dstReg0和dstReg1中。解交织排列方式如下图所示,其中每个方格代表一个元素: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0406_html.md ## CANN商业版-Arange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0408.html - Description: 以传入的scalar的值为起始值,生成递增/递减的索引,并将产生的索引保存在dstReg中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0408_html.md ## CANN商业版-Duplicate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0410.html - Description: 支持Scalar和Tensor两种模式: - Scalar模式:将scalarValue广播到寄存器,并保存在dstReg中(如果有mask,则保存在dstReg中被mask筛选的位置)。 - Tensor模式:将srcReg的最低位元素广播到寄存器,并保存在dstReg中被mask筛选的位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0410_html.md ## CANN商业版-Reduce - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0412.html - Description: 支持归约求和、归约取最大值、归约取最小值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0412_html.md ## CANN商业版-ReduceDataBlock - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0415.html - Description: 当ReduceType 为SUM,将每个DataBlock(32B)中参与计算的元素相加,并将最终的计算结果依次保存在dstReg的最低位。 当ReduceType 为MAX,将每个DataBlock(32B)中的最大值,并将最终的计算结果依次保存在dstReg中的最低位。 当ReduceType 为MIN,将每个DataBlock(32B)中的最小值,并将最终的计算结果依次保存在dstReg中的 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0415_html.md ## CANN商业版-PairReduceElem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0418.html - Description: 将传入的srcReg中相邻两个数值相加,并将产生的结果保存在dstReg中的低位位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0418_html.md ## CANN商业版-Squeeze - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0420.html - Description: 将传入的srcReg中被mask选择的有效元素依次复制到dstReg中,有效元素在dstReg中从低到高连续排列。dstReg中剩余位置元素置为0。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0420_html.md ## CANN商业版-Unsqueeze - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0421.html - Description: 将dstReg中数据根据mask进行解压缩。解压缩方式:dstReg中第0个元素置为0,dstReg中的第i个元素等于mask中从第0个到第\(i-1\)个元素中1的数量。mask最高位被忽略不参与统计。以uint8t类型为例,算法逻辑表示如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0421_html.md ## CANN商业版-Pack - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0422.html - Description: 将源操作数srcReg中的元素选取低8位(对于b16类型)、低16位(对于b32类型)、低32位(对于b64类型)写入dstReg的低半部分或高半部分。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0422_html.md ## CANN商业版-UnPack - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0423.html - Description: 对于无符号整型,将源操作数srcReg中低半部分或高半部分的元素以高位填0扩充位宽的方式写入dstReg。对于有符号整型,将源操作数srcReg中低半部分或高半部分的元素以保持符号位扩充位宽的方式写入dstReg。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0423_html.md ## CANN商业版-Histograms - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0425.html - Description: 对直方图数据进行统计,在目的操作数dstReg的基础数据上加上源操作数srcReg数据的统计结果,包括数据的频率统计和累计统计。 - 频率统计 如下图所示,在低位模式下,dstReg(即 dst0)用于统计srcReg中\[0-127\]范围内(前半部分)各个值的出现频率;而在高位模式下,dstReg(即dst1)则统计\[128-255\]范围内(后半部分)的频率。dst0和dst1中的第n位(bi - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0425_html.md ## CANN商业版-SIMT API当前仅支持SIMD与SIMT混合编程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0427.html - Description: SIMT API当前仅支持SIMD与SIMT混合编程,SIMT编程场景待正式发布支持,请关注后续版本。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0427_html.md ## CANN商业版-Tanh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0492.html - Description: 按元素做逻辑回归Tanh,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0492_html.md ## CANN商业版-GetTanhMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0493.html - Description: kernel侧Tanh接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0493_html.md ## CANN商业版-GetTanhTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0494.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0494_html.md ## CANN商业版-Asin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0496.html - Description: 按元素做反正弦函数计算,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0496_html.md ## CANN商业版-GetAsinMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0497.html - Description: kernel侧Asin接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0497_html.md ## CANN商业版-GetAsinTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0498.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0498_html.md ## CANN商业版-Sin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0500.html - Description: 按元素做正弦函数计算,计算公式如下: Sin\(x\)的泰勒展开式为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0500_html.md ## CANN商业版-GetSinMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0501.html - Description: kernel侧Sin接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0501_html.md ## CANN商业版-GetSinTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0502.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0502_html.md ## CANN商业版-Acos - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0504.html - Description: 按元素做反余弦函数计算,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0504_html.md ## CANN商业版-GetAcosMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0505.html - Description: kernel侧Acos接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0505_html.md ## CANN商业版-GetAcosTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0506.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0506_html.md ## CANN商业版-Cos - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0508.html - Description: 按元素做三角函数余弦运算,计算公式如下: Cos\(x\)的泰勒展开式为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0508_html.md ## CANN商业版-GetCosMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0509.html - Description: kernel侧Cos接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0509_html.md ## CANN商业版-GetCosTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0510.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0510_html.md ## CANN商业版-Log - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0512.html - Description: 按元素以e、2、10为底做对数运算,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0512_html.md ## CANN商业版-GetLogMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0513.html - Description: Host侧接口,用于获取Log接口能完成计算所需最小的临时空间大小,此空间为预留空间,即需要保证预留有足够的物理空间,用于执行计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0513_html.md ## CANN商业版-GetLogTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0514.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0514_html.md ## CANN商业版-Atan - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0516.html - Description: 按元素做三角函数反正切运算,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0516_html.md ## CANN商业版-GetAtanMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0517.html - Description: kernel侧Atan接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0517_html.md ## CANN商业版-GetAtanTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0518.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0518_html.md ## CANN商业版-Power - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0520.html - Description: 实现按元素做幂运算功能,提供3类接口,处理逻辑如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0520_html.md ## CANN商业版-GetPowerMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0521.html - Description: kernel侧Power接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0521_html.md ## CANN商业版-GetPowerTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0522.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0522_html.md ## CANN商业版-Sinh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0524.html - Description: 按元素做双曲正弦函数计算,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0524_html.md ## CANN商业版-GetSinhMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0525.html - Description: kernel侧Sinh接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0525_html.md ## CANN商业版-GetSinhTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0526.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0526_html.md ## CANN商业版-Cosh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0528.html - Description: 按元素做双曲余弦函数计算,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0528_html.md ## CANN商业版-GetCoshMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0529.html - Description: kernel侧Cosh接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0529_html.md ## CANN商业版-GetCoshTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0530.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0530_html.md ## CANN商业版-Tan - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0532.html - Description: 按元素做正切函数计算,计算公式如下: Tan\(x\)的泰勒展开式为: 其中B2n是伯努利数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0532_html.md ## CANN商业版-GetTanMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0533.html - Description: kernel侧Tan接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0533_html.md ## CANN商业版-GetTanTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0534.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0534_html.md ## CANN商业版-Trunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0536.html - Description: 按元素做浮点数截断,即向零取整操作。计算公式如下: 举例如下: Trunc\(3.9\) \= 3 Trunc\(-3.9\) \= -3 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0536_html.md ## CANN商业版-GetTruncMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0537.html - Description: kernel侧Trunc接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0537_html.md ## CANN商业版-GetTruncTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0538.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0538_html.md ## CANN商业版-Frac - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0540.html - Description: 按元素做取小数计算。计算公式如下: 举例如下: Frac\(-258.41888\) \= -0.41888428 Frac\(5592.625\) \= 0.625 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0540_html.md ## CANN商业版-GetFracMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0541.html - Description: kernel侧Frac接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0541_html.md ## CANN商业版-GetFracTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0542.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0542_html.md ## CANN商业版-Erf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0544.html - Description: 按元素做误差函数计算(也称为高斯误差函数,error function or Gauss error function)。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0544_html.md ## CANN商业版-GetErfMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0545.html - Description: kernel侧Erf接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0545_html.md ## CANN商业版-GetErfTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0546.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0546_html.md ## CANN商业版-Erfc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0548.html - Description: 返回输入x的互补误差函数结果,积分区间为x到无穷大。原始的理论计算公式如下: 由于Erfc函数没有初等函数表达方式,一般通过函数逼近的方式计算,近似计算公式如下所示: 其中, R\(z\) \= \(\(\(\(\(\(\(z R0 + R1\) z + R2\) z + R3\) z + R4\) z + R5\) z + R6\) z + R7\) z + R8是关于z的8次多项式; S\(z\) \= \(\(\(\(z - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0548_html.md ## CANN商业版-GetErfcMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0549.html - Description: kernel侧Erfc接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0549_html.md ## CANN商业版-GetErfcTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0550.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0550_html.md ## CANN商业版-Sign - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0552.html - Description: 按元素执行Sign操作,Sign是指返回输入数据的符号,如果为0则返回0,如果为正数则返回1,如果为负数则返回-1。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0552_html.md ## CANN商业版-GetSignMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0553.html - Description: kernel侧Sign接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0553_html.md ## CANN商业版-GetSignTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0554.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0554_html.md ## CANN商业版-Atanh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0556.html - Description: 按元素做反双曲正切余弦函数计算,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0556_html.md ## CANN商业版-GetAtanhMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0557.html - Description: kernel侧Atanh接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0557_html.md ## CANN商业版-GetAtanhTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0558.html - Description: kernel侧Atanh接口的计算需要开发者预留/申请临时空间,最大临时空间(maxTmpBuffer)和输入所占空间(inputSize * typeSize)存在以下关系: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0558_html.md ## CANN商业版-Asinh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0560.html - Description: 按元素做反双曲正弦函数计算,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0560_html.md ## CANN商业版-GetAsinhMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0561.html - Description: kernel侧Asinh接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0561_html.md ## CANN商业版-GetAsinhTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0562.html - Description: kernel侧Asinh接口的计算需要开发者预留/申请临时空间,最大临时空间(maxTmpBuffer)和输入所占空间(inputSize * typeSize)存在以下关系: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0562_html.md ## CANN商业版-Acosh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0564.html - Description: 按元素做双曲反余弦函数计算,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0564_html.md ## CANN商业版-GetAcoshMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0565.html - Description: kernel侧Acosh接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0565_html.md ## CANN商业版-GetAcoshTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0566.html - Description: kernel侧Acosh接口的计算需要开发者预留/申请临时空间,最大临时空间(maxTmpBuffer)和输入所占空间(inputSize * typeSize)存在以下关系: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0566_html.md ## CANN商业版-Floor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0568.html - Description: 获取小于或等于x的最小的整数值,即向负无穷取整操作。计算公式如下: 举例如下: Floor\(3.9\) \= 3.0 Floor\(-3.9\) \= -4.0 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0568_html.md ## CANN商业版-GetFloorMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0569.html - Description: kernel侧Floor接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0569_html.md ## CANN商业版-GetFloorTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0570.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0570_html.md ## CANN商业版-Ceil - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0572.html - Description: 获取大于或等于x的最小的整数值,即向正无穷取整操作。计算公式如下: 举例如下: Ceil\(3.9\) \= 4.0 Ceil \(-3.9\) \= -3.0 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0572_html.md ## CANN商业版-GetCeilMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0573.html - Description: kernel侧Ceil接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0573_html.md ## CANN商业版-GetCeilTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0574.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0574_html.md ## CANN商业版-ClampMax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0576.html - Description: 将srcTensor中大于scalar的数替换为scalar,小于等于scalar的数保持不变,作为dstTensor输出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0576_html.md ## CANN商业版-ClampMin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0577.html - Description: 将srcTensor中小于scalar的数替换为scalar,大于等于scalar的数保持不变,作为dstTensor输出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0577_html.md ## CANN商业版-GetClampMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0578.html - Description: kernel侧ClampMax/ClampMin/Clamp接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0578_html.md ## CANN商业版-GetClampTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0579.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0579_html.md ## CANN商业版-Round - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0581.html - Description: 将输入的元素四舍五入到最接近的整数,计算公式如下: 举例如下: Round\(3.5\) \= 4.0 Round\(-3.4\) \= -3.0 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0581_html.md ## CANN商业版-GetRoundMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0582.html - Description: kernel侧Round接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0582_html.md ## CANN商业版-GetRoundTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0583.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0583_html.md ## CANN商业版-Axpy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0585.html - Description: 源操作数\(srcTensor\)中每个元素与标量求积后和目的操作数\(dstTensor\)中的对应元素相加,计算公式如下: 该接口功能同基础API Axpy,区别在于此接口指令是通过Muls和Add组合计算,从而提供更优的精度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0585_html.md ## CANN商业版-GetAxpyMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0586.html - Description: kernel侧Axpy接口的计算需要开发者申请临时空间,本接口用于在host侧获取申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0586_html.md ## CANN商业版-GetAxpyTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0587.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0587_html.md ## CANN商业版-Exp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0589.html - Description: 按元素取自然指数,用户可以选择是否使用泰勒展开公式进行计算,计算公式如下: - 设置泰勒展开项数为0,即不使用泰勒展开公式进行计算,公式如下: - 设置泰勒展开项数不为0,即使用泰勒展开公式进行计算,公式如下: xAi代表源操作数的整数部分,该值通过floor\(x\)获取。xBi代表源操作数的小数部分。 泰勒展开公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0589_html.md ## CANN商业版-GetExpMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0590.html - Description: kernel侧Exp接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0590_html.md ## CANN商业版-GetExpTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0591.html - Description: 该接口用于获取maxLiveNodeCount和extraBuffer,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuffer可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuffer表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0591_html.md ## CANN商业版-Lgamma - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0593.html - Description: 按元素计算x的gamma函数的绝对值并求自然对数,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0593_html.md ## CANN商业版-GetLgammaMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0594.html - Description: kernel侧Lgamma接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0594_html.md ## CANN商业版-GetLgammaTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0595.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0595_html.md ## CANN商业版-Digamma - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0597.html - Description: 按元素计算x的gamma函数的对数导数,计算公式如下,为伽玛函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0597_html.md ## CANN商业版-GetDigammaMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0598.html - Description: kernel侧Digamma接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0598_html.md ## CANN商业版-GetDigammaTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0599.html - Description: kernel侧Digamma接口的计算需要开发者预留/申请临时空间,最大临时空间(maxTmpBuffer)和输入所占空间(inputSize * typeSize)存在以下关系: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0599_html.md ## CANN商业版-Xor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0601.html - Description: 按元素执行Xor运算,Xor(异或)的概念和运算规则如下: - 概念:参加运算的两个数据,按二进制位进行“异或”运算。 - 运算规则:0^0\=0;0^1\=1;1^0\=1;1^1\=0;即:参加运算的两个对象,如果两个相应位为“异”(值不同),则该位结果为1,否则为 0【同0异1】。 计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0601_html.md ## CANN商业版-GetXorMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0602.html - Description: kernel侧Xor接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0602_html.md ## CANN商业版-GetXorTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0603.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0603_html.md ## CANN商业版-CumSum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0605.html - Description: 用于对输入张量按行或列进行累加和操作,输出结果中每个元素都是输入张量中对应位置及之前所有行或列的元素累加和。 计算公式如下: - 逐行累加算法 - First轴处理,按行累加和操作,即第一行不变,后面的行依次累加,输出结果的第i行第j列计算公式如下: 以tensor\(\[\[0, 1, 2\], \[3, 4, 5\]\]\)为例,输出结果是tensor\(\[\[0, 1, 2\], \[3, 5, 7\]\] - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0605_html.md ## CANN商业版-GetCumSumMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0606.html - Description: kernel侧CumSum接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0606_html.md ## CANN商业版-Fmod - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0608.html - Description: 按元素计算两个浮点数a, b相除后的余数。计算公式如下: 其中,Trunc为向零取整操作。举例如下: Fmod\(2.0, 1.5\) \= 0.5 Fmod\(-3.0, 1.1\) \= -0.8 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0608_html.md ## CANN商业版-GetFmodMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0609.html - Description: kernel侧Fmod接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0609_html.md ## 更多样例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0611.html - Description: 下面的样例展示了数学库kernel侧API和Tiling API GetXxxMaxMinTmpSize的配套使用方法,具体流程如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0611_html.md ## Matmul使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0614.html - Description: Ascend C提供一组Matmul高阶API,方便用户快速实现Matmul矩阵乘法的运算操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0614_html.md ## Matmul模板参数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0615.html - Description: 创建Matmul对象时需要传入: - A、B、C、Bias的参数类型信息, 类型信息通过MatmulType来定义,包括:内存逻辑位置、数据格式、数据类型、是否转置、数据排布和是否使能L1复用。 - MatmulConfig信息(可选),用于配置Matmul模板信息以及相关的配置参数。不配置默认使能Norm模板。 针对 Atlas 200I/500 A2 推理产品 ,当前只支持使能默认的Nor - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0615_html.md ## CANN商业版-MatmulConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0616.html - Description: 模板参数MatmulConfig,用于配置Matmul模板信息以及相关的配置参数。不配置默认使能Norm模板,Norm模板的介绍请参考表 模板特性。MatmulConfig的参数说明见表2。MatmulConfig的定义方式有: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0616_html.md ## CANN商业版-MatmulCallBackFunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0618.html - Description: 模板参数MatmulCallBackFunc支持用户定制化Matmul的A矩阵、B矩阵及C矩阵的搬入搬出功能,如非连续搬入或针对搬出设置不同的数据片段间隔等。具体方式为:用户根据实际需要,实现一个或多个自定义的搬运函数,定义Matmul对象时,通过模板参数MatmulCallBackFunc,传入实现的搬运函数的函数指针,传入的函数指针会替换Matmul流程中默认的搬运函数。 MatmulCall - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0618_html.md ## CANN商业版-MatmulPolicy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0619.html - Description: 模板参数MatmulPolicy用于定义Matmul可拓展模块策略。目前支持设置以下四种Matmul内置模板策略。- MatmulPolicy(默认模板策略) 使能Matmul API的默认实现策略。 - TrianUpperMatmulPolicy(上三角模板策略) 一次矩阵乘指令计算的结果为baseM baseN大小的矩阵块,称该矩阵块为基本块。若Matmul结果矩阵C中的基本块位于 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0619_html.md ## CANN商业版-GetNormalConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0621.html - Description: 用于配置Norm模板的参数,获取自定义Norm模板。Norm模板的介绍请参考表 模板特性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0621_html.md ## CANN商业版-GetMDLConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0622.html - Description: 用于配置MDL模板的参数,获取自定义MDL模板。MDL模板的介绍请参考表 模板特性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0622_html.md ## CANN商业版-GetSpecialMDLConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0623.html - Description: 用于配置SpecialMDL模板的参数,获取自定义SpecialMDL模板。SpecialMDL模板的介绍请参考表 模板特性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0623_html.md ## CANN商业版-GetIBShareNormConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0624.html - Description: 用于配置IBShare模板的参数,获取自定义IBShare模板。IBShare模板的介绍请参考表 模板特性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0624_html.md ## CANN商业版-GetBasicConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0625.html - Description: 用于配置BasicBlock模板的参数,获取自定义BasicBlock模板。BasicBlock模板的介绍请参考表 模板特性。 使用该接口时可以优先考虑使用模板常量化。相比BasicBlock模板仅实现baseM、baseN、baseK常量化,模板常量化可以在此基础上实现singleCoreM、singleCoreN、singleCoreK、baseM、baseN、baseK的常量化,模板常量化的 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0625_html.md ## CANN商业版-GetMMConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0627.html - Description: 灵活的自定义Matmul模板参数配置。通过设置MatmulConfigMode、MatmulShapeParams、MatmulQuantParams、MatmulBatchParams、MatmulFuncParams,获取自定义的MatmulConfig。 MatmulConfigMode指定了获取并要修改的MatmulConfig模板,各模板介绍请参考模板特性;用户根据使用需求通过设置可变参 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0627_html.md ## CANN商业版-REGIST\_MATMUL\_OBJ - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0628.html - Description: 初始化Matmul对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0628_html.md ## CANN商业版-Init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0630.html - Description: Init主要用于对Matmul对象中的Tiling数据进行初始化,根据Tiling参数进行资源划分,Tiling参数的具体介绍请参考Matmul Tiling侧接口。 开发者可以先通过REGISTMATMULOBJ不传入Tiling参数对单个Matmul对象进行初始化,后续通过Init接口单独传入Tiling参数,对Matmul对象中的Tiling数据进行调整。比如,Tiling参数可变的场景下, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0630_html.md ## CANN商业版-SetTensorA - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0631.html - Description: 设置矩阵乘的左矩阵A。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0631_html.md ## CANN商业版-SetTensorB - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0632.html - Description: 设置矩阵乘的右矩阵B。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0632_html.md ## CANN商业版-SetTensorScaleA - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0633.html - Description: MxMatmul场景\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlasascendc1010029.html\),设置矩阵乘中左矩阵的量化系数矩阵scaleA。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0633_html.md ## CANN商业版-SetTensorScaleB - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0634.html - Description: MxMatmul场景\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlasascendc1010029.html\),设置矩阵乘中右矩阵的量化系数矩阵scaleB。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0634_html.md ## CANN商业版-SetBias - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0635.html - Description: 设置矩阵乘的Bias。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0635_html.md ## CANN商业版-DisableBias - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0636.html - Description: 清除Bias标志位,表示Matmul计算时没有Bias参与。如果在初始化时配置了TCubeTiling结构中的isBias参数来使能Bias,调用该接口后,会清除Bias标志位,不再使能Bias。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0636_html.md ## CANN商业版-GetBatchTensorC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0637.html - Description: 调用一次GetBatchTensorC,会获取C矩阵片,该接口可以与IterateNBatch异步接口配合使用。用于在调用IterateNBatch迭代计算后,获取一片std::max\(batchA, batchB\) singleCoreM singleCoreN大小的矩阵分片。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0637_html.md ## CANN商业版-Iterate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0638.html - Description: 每调用一次Iterate,会计算出一块baseM baseN的C矩阵。接口内部会维护迭代进度,调用一次后会对A、B矩阵首地址进行偏移。默认以先M轴再N轴的迭代顺序,也可以通过调整tiling参数iterateOrder,转换为先N轴再M轴的迭代顺序。当传入数据未对齐,存在尾块时,会在最后一次迭代输出尾块的计算结果。 一次Iterate矩阵乘的结果C矩阵存放在逻辑位置CO1\(https://www - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0638_html.md ## CANN商业版-GetTensorC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0639.html - Description: Iterate后,获取一块或者两块C矩阵片,可以直接输出到GM tensor中,也可以输出到VECIN tensor中。当MatmulConfig参数中的ScheduleType取值为ScheduleType::INNERPRODUCT时,获取一块C矩阵片;当MatmulConfig参数中的ScheduleType取值为ScheduleType::OUTERPRODUCT时,获取两块C矩阵片。 该 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0639_html.md ## CANN商业版-IterateAll - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0640.html - Description: 调用一次IterateAll,会计算出singleCoreM singleCoreN大小的C矩阵。迭代顺序可通过tiling参数iterateOrder调整。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0640_html.md ## CANN商业版-WaitIterateAll - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0641.html - Description: 等待IterateAll异步接口返回,支持连续输出到Global Memory。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0641_html.md ## CANN商业版-IterateBatch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0642.html - Description: 单次Matmul计算处理的shape比较小时,由于每次计算均涉及到内部的通信,可能会影响性能,该接口提供批量处理Matmul的功能,调用一次IterateBatch,可以计算出多个singleCoreM singleCoreN大小的C矩阵。 在使用该接口前,需要了解一些必备的数据排布格式: - 通用数据格式(NORMAL):BMNK的数据排布格式;B:Batch,批处理的大小;M、N、K为矩阵乘 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0642_html.md ## CANN商业版-WaitIterateBatch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0643.html - Description: 等待IterateBatch异步接口或IterateNBatch异步接口返回,支持连续输出到Global Memory。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0643_html.md ## CANN商业版-IterateNBatch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0644.html - Description: 调用一次IterateNBatch,会进行N次IterateBatch计算,计算出N个多Batch的singleCoreM singleCoreN大小的C矩阵。在调用该接口前,需将MatmulConfig中的isNBatch参数设为true,使能多Batch输入多Batch输出功能,并调用SetWorkspace接口申请临时空间,用于缓存计算结果,即IterateNBatch的结果输出至SetW - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0644_html.md ## CANN商业版-End - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0645.html - Description: 多个Matmul对象之间切换计算时,必须调用一次End函数,用于释放Matmul计算资源,防止多个Matmul对象的计算资源冲突。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0645_html.md ## CANN商业版-SetHF32 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0646.html - Description: 在纯Cube模式(只有矩阵计算)下,设置是否使能HF32(矩阵乘计算时可采用的数据类型)模式。使能后,在矩阵乘计算时,float32数据类型会转换为hf32数据类型,可提升计算性能,但同时也会带来精度损失。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0646_html.md ## CANN商业版-SetTail - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0647.html - Description: 在不改变Tiling的情况下,重新设置本次计算的singleCoreM/singleCoreN/singleCoreK,以元素为单位。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0647_html.md ## CANN商业版-SetBatchNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0648.html - Description: 在不改变Tiling的情况下,重新设置多Batch计算的Batch数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0648_html.md ## CANN商业版-SetQuantScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0649.html - Description: 本接口提供对输出矩阵的所有值采用同一系数进行量化或反量化的功能,即整个C矩阵对应一个量化参数,量化参数的shape为\[1\]。量化、反量化的详细内容请参考量化场景\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlasascendc1010017.html\)。 Matmul - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0649_html.md ## CANN商业版-SetQuantVector - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0650.html - Description: 本接口提供对输出矩阵采用向量进行量化或反量化的功能,即对于输入shape为\[1, N\]的参数向量,N值为Matmul矩阵计算时M/N/K中的N值,对输出矩阵的每一列都采用该向量中对应列的系数进行量化或反量化。量化、反量化的详细内容请参考量化场景\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascen - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0650_html.md ## CANN商业版-SetOrgShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0651.html - Description: 设置Matmul计算原始完整的形状M、N、K,单位为元素个数。用于运行时修改shape,比如复用同一个Matmul对象,从不同的矩阵块取数据计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0651_html.md ## CANN商业版-SetSingleShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0652.html - Description: 设置Matmul单核计算的形状singleCoreM、singleCoreN、singleCoreK,单位为元素。用于运行时修改shape,比如复用Matmul对象来处理尾块。与SetTail接口功能一致,建议使用本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0652_html.md ## CANN商业版-SetLocalWorkspace - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0653.html - Description: 对于某些场景Matmul内部需要额外占用VECCALC空间,如果用户希望在算子中复用这个额外占用的VECCALC空间,则该空间需要用户预留,并申请好LocalTensor,将其起始物理地址传入给Matmul。具体需要申请的VECCALC临时空间大小由tiling接口MatmulGetTmpBufSize给出,满足以下几个条件之一就需要使用该接口传入UB临时空间: - C矩阵Position为TPo - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0653_html.md ## CANN商业版-SetWorkspace - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0654.html - Description: Iterate计算的异步场景,调用本接口申请一块临时空间来缓存计算结果,然后调用GetTensorC时会在该临时空间中获取C的矩阵分片。 IterateNBatch计算时,调用本接口申请一块临时空间来缓存计算结果,然后根据同步或异步场景进行其它接口的调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0654_html.md ## CANN商业版-SetAntiQuantScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0655.html - Description: 在Matmul计算时支持A矩阵half类型输入,B矩阵int8类型输入,该场景下,需要调用伪量化接口进行伪量化。调用伪量化接口后,将数据从GM搬出到L1时,会执行伪量化操作,将B矩阵转化为half类型。本节的伪量化接口提供对B矩阵的所有数据采用同一量化系数进行伪量化的功能。 请在Iterate或者IterateAll之前调用该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0655_html.md ## CANN商业版-SetAntiQuantVector - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0656.html - Description: 在Matmul计算时支持A矩阵half类型输入,B矩阵int8类型输入,该场景下,需要调用伪量化接口进行伪量化。调用伪量化接口后,将数据从GM搬出到L1时,会执行伪量化操作,将B矩阵转化为half类型。本节的伪量化接口提供一个量化参数向量,该向量的shape为\[1, N\],N值为Matmul矩阵计算时M/N/K中的N值。对B矩阵的每一列都采用该向量中对应列的伪量化系数进行伪量化。 请在Iterat - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0656_html.md ## CANN商业版-WaitGetTensorC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0659.html - Description: 当使用GetTensorC异步接口将结果矩阵从GM拷贝到UB,且UB后续需要进行Vector计算时,需要调用WaitGetTensorC进行同步。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0659_html.md ## CANN商业版-GetOffsetC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0660.html - Description: 预留接口,为后续功能做预留。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0660_html.md ## CANN商业版-AsyncGetTensorC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0661.html - Description: 获取Iterate接口异步计算的结果矩阵。该接口功能已被GetTensorC覆盖,建议直接使用GetTensorC异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0661_html.md ## CANN商业版-SetSubBlockIdx - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0662.html - Description: 设置当前AIV核的ID。分离架构下,一个AI Core由Cube Core(AIC)和Vector Core(AIV)按照一定比例1:N进行组合,其中N个AIV核的ID分别为0, 1, ..., N-1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0662_html.md ## CANN商业版-GetSubBlockIdx - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0663.html - Description: 获取当前AIV核的ID。分离架构下,一个AI Core由Cube Core(AIC)和Vector Core(AIV)按照一定比例1:N进行组合,其中N个AIV的子核ID分别为0, 1, ..., N-1。 Matmul::GetSubBlockIdx\(\)与基础API接口AscendC::GetSubBlockIdx\(\)的区别在于,Matmul::GetSubBlockIdx\(\)用于获取当前AIV - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0663_html.md ## CANN商业版-SetUserDefInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0664.html - Description: 使能模板参数MatmulCallBackFunc(自定义回调函数)时,设置算子tiling地址,用于回调函数使用,该接口仅需调用一次。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0664_html.md ## CANN商业版-SetSelfDefineData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0665.html - Description: 使能模板参数MatmulCallBackFunc(自定义回调函数)时,设置需要的计算数据或在GM上存储的数据地址等信息,用于回调函数使用。复用同一个Matmul对象时,可以多次调用本接口重新设置对应数据信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0665_html.md ## CANN商业版-GetMatmulApiTiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0666.html - Description: 本接口用于在编译期间获取常量化的Matmul Tiling参数。 Matmul Tiling常量化功能为在编译期期间获取常量化的Matmul Tiling参数并进行算子编译,从而减少Scalar计算开销,提升算子整体性能。具体为,在获取Matmul模板时,可以确定MatmulConfig的singleCore Shape(MatmulConfig中的singleCoreM/singleCoreN/ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0666_html.md ## CANN商业版-ClearBias - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0667.html - Description: DisableBias接口与该接口的功能相同,建议使用DisableBias。 清除Bias标志位,表示Matmul计算时没有Bias参与。如果在调用Init时配置了TCubeTiling结构中的isBias参数来使能Bias,调用该接口后,会清除Bias标志位,不再使能Bias。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0667_html.md ## CANN商业版-GetBatchC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0668.html - Description: GetBatchTensorC接口与该接口的功能相同,建议使用GetBatchTensorC。 调用一次GetBatchC,会获取C矩阵分片,该接口可以与IterateNBatch异步接口配合使用。用于在调用IterateNBatch迭代计算后,获取一片std::max\(batchA, batchB\) singleCoreM singleCoreN大小的矩阵分片。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0668_html.md ## Matmul Tiling类使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0671.html - Description: Ascend C提供一组MatmulTiling\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlas\_ascendc\_10\_0037.html\#ZH-CN\_TOPIC\_0000002531349966\_\_zh-cn\_topic\_0000001622194138\_sec - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0671_html.md ## Matmul Tiling类构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0672.html - Description: 用于创建一个Matmul单核Tiling对象,或者多核Tiling对象,或者BatchMatmul Tiling对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0672_html.md ## TCubeTiling结构体 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0673.html - Description: TCubeTiling结构体包含Matmul Tiling切分算法的相关参数,被传递给Matmul Kernel侧,用于Matmul的切块、搬运和计算过程等。TCubeTiling结构体的参数说明见表1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0673_html.md ## CANN商业版-SetAType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0674.html - Description: 设置A矩阵的位置,数据格式,数据类型,是否转置等信息,这些信息需要和kernel侧的设置保持一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0674_html.md ## CANN商业版-SetBType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0675.html - Description: 设置B矩阵的位置,数据格式,数据类型,是否转置等信息,这些信息需要和kernel侧的设置保持一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0675_html.md ## CANN商业版-SetCType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0676.html - Description: 设置C矩阵的位置,数据格式,数据类型等信息,这些信息需要和kernel侧的设置保持一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0676_html.md ## CANN商业版-SetBiasType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0677.html - Description: 设置Bias的位置,数据格式,数据类型等信息,这些信息需要和kernel侧的设置保持一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0677_html.md ## CANN商业版-SetSingleShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0678.html - Description: 设置Matmul单核计算的形状singleMIn,singleNIn,singleKIn,单位为元素。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0678_html.md ## CANN商业版-SetShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0679.html - Description: 设置Matmul计算的形状m、n、k,该形状可以为原始完整矩阵或其局部矩阵,单位为元素。该形状的矩阵乘可以由单核或多核计算完成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0679_html.md ## CANN商业版-SetOrgShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0680.html - Description: 设置Matmul计算时的原始完整的形状M、N、K或Ka/Kb,单位均为元素个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0680_html.md ## CANN商业版-SetFixSplit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0681.html - Description: 设置固定的baseM、baseN、baseK,单位为元素个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0681_html.md ## CANN商业版-EnableMultiCoreSplitK - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0682.html - Description: 多核场景,通过该接口使能切K轴。不调用该接口的情况下,默认不切K轴。在GetTiling接口调用前使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0682_html.md ## CANN商业版-EnableBias - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0683.html - Description: 设置Bias是否参与运算,设置的信息必须与Kernel侧保持一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0683_html.md ## CANN商业版-SetBufferSpace - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0684.html - Description: 设置Matmul计算时可用的L1 Buffer/L0C Buffer/Unified Buffer/BiasTable Buffer空间大小,单位为字节。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0684_html.md ## CANN商业版-SetTraverse - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0685.html - Description: 设置固定的Matmul计算方向,M轴优先还是N轴优先。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0685_html.md ## CANN商业版-SetMadType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0686.html - Description: 设置是否使能HF32模式。当前版本暂不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0686_html.md ## CANN商业版-SetSplitRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0687.html - Description: 设置baseM/baseN/baseK的最大值和最小值。 目前Tiling暂时不支持该功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0687_html.md ## CANN商业版-SetDoubleBuffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0688.html - Description: 设置A/B/C/Bias是否使能double buffer功能,以及是否需要做ND2NZ或者NZ2ND的转换,主要用于Tiling函数内部调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0688_html.md ## CANN商业版-GetBaseM - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0689.html - Description: 获取Tiling计算得到的baseM值。baseM参数的说明请参考表1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0689_html.md ## CANN商业版-GetBaseN - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0690.html - Description: 获取Tiling计算得到的baseN值。baseN参数的说明请参考表1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0690_html.md ## CANN商业版-GetBaseK - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0691.html - Description: 获取Tiling计算得到的baseK值。baseK参数的说明请参考表1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0691_html.md ## CANN商业版-GetTiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0692.html - Description: 获取Tiling参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0692_html.md ## CANN商业版-SetDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0693.html - Description: 设置多核Matmul时,参与运算的核数。不同场景下的设置规则如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0693_html.md ## CANN商业版-SetSingleRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0694.html - Description: 设置singleCoreM/singleCoreN/singleCoreK的最大值与最小值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0694_html.md ## CANN商业版-GetSingleShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0695.html - Description: 获取计算后的singleCoreM/singleCoreN/singleCoreK。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0695_html.md ## CANN商业版-GetCoreNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0696.html - Description: 获得多核切分所使用的NumBlocks参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0696_html.md ## CANN商业版-SetAlignSplit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0697.html - Description: 多核切分时, 设置singleCoreM/singleCoreN/singleCoreK的对齐值。比如设置singleCoreM的对齐值为64(单位为元素),切分出的singleCoreM为64的倍数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0697_html.md ## CANN商业版-SetDequantType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0698.html - Description: 该接口用于设置量化或反量化的模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0698_html.md ## CANN商业版-SetALayout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0699.html - Description: 设置A矩阵的Layout轴信息,包括B、S、N、G、D轴。对于BSNGD、SBNGD、BNGS1S2 Layout格式,调用IterateBatch接口之前,需要在Host侧Tiling实现中通过本接口设置A矩阵的Layout轴信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0699_html.md ## CANN商业版-SetBLayout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0700.html - Description: 设置B矩阵的Layout轴信息,包括B、S、N、G、D轴。对于BSNGD、SBNGD、BNGS1S2 Layout格式,调用IterateBatch接口之前,需要在Host侧Tiling实现中通过本接口设置B矩阵的Layout轴信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0700_html.md ## CANN商业版-SetCLayout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0701.html - Description: 设置C矩阵的Layout轴信息,包括B、S、N、G、D轴。对于BSNGD、SBNGD、BNGS1S2 Layout格式,调用IterateBatch接口之前,需要在Host侧Tiling实现中通过本接口设置C矩阵的Layout轴信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0701_html.md ## CANN商业版-SetBatchNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0702.html - Description: 设置多Batch计算的最大Batch数,最大Batch数为A矩阵batchA和B矩阵batchB中的最大值。调用IterateBatch接口之前,需要在Host侧Tiling实现中通过本接口设置多Batch计算的Batch数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0702_html.md ## CANN商业版-SetBatchInfoForNormal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0703.html - Description: 设置A/B矩阵的M/N/K轴信息,以及A/B矩阵的Batch数。Layout类型为NORMAL的场景,调用IterateBatch或者IterateNBatch接口之前,需要在Host侧Tiling实现中通过本接口设置A/B矩阵的M/N/K轴等信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0703_html.md ## CANN商业版-SetMatmulConfigParams - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0704.html - Description: 在计算Tiling时,用于自定义设置表1中的MatmulConfig参数。本接口中配置的参数对应的功能在Tiling与Kernel中需要保持一致,所以本接口中的参数取值,需要与Kernel侧对应的MatmulConfig参数值保持一致,详细MatmulConfig参数请见表2。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0704_html.md ## CANN商业版-SetBias - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0705.html - Description: EnableBias接口功能与该接口相同,建议使用EnableBias。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0705_html.md ## CANN商业版-SetSplitK - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0706.html - Description: EnableMultiCoreSplitK接口功能与该接口相同,建议使用EnableMultiCoreSplitK。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0706_html.md ## CANN商业版-MultiCoreMatmulGetTmpBufSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0708.html - Description: 多核Matmul Tiling调用GetTiling接口获取Tiling参数后,根据Tiling结构体信息获取L1 Buffer/Unified Buffer/L0C Buffer的使用大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0708_html.md ## CANN商业版-BatchMatmulGetTmpBufSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0709.html - Description: BatchMatmul\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlas\_ascendc\_10\_0041.html\)Tiling调用GetTiling接口获取Tiling参数后,根据Tiling结构体信息获取L1 Buffer/Unified Buffer/L0C - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0709_html.md ## CANN商业版-MatmulGetTmpBufSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0710.html - Description: 本接口用于在调用GetTiling接口获取Tiling参数后,根据Tiling结构体信息获取L1 Buffer/Unified Buffer/L0C Buffer的使用大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0710_html.md ## CANN商业版-SoftMax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0754.html - Description: 将输入tensor\[m0, m1, ...mt, n\](t大于等于0)的非尾轴长度相乘的结果看作m,则输入tensor的shape看作\[m, n\]。对输入tensor\[m, n\]按行做如下SoftMax计算: 为方便理解,通过Python脚本实现的方式,表达其计算公式(以输入为ND格式为例)如下,其中src是源操作数(输入),dst、sum、max为目的操作数(输出)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0754_html.md ## CANN商业版-SimpleSoftMax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0755.html - Description: 将输入tensor\[m0, m1, ...mt, n\](t大于等于0)的非尾轴长度相乘的结果看作m,则输入tensor的shape看作\[m, n\]。对输入tensor\[m,n\]按行做如下计算,与SoftMax接口不同,该接口内部没有reduce过程计算sum和max数据,而是使用计算好的sum和max数据对输入tensor做Softmax计算。计算公式如下: 为方便理解,通过Python脚本实现的 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0755_html.md ## CANN商业版-SoftmaxFlash - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0756.html - Description: 注意:该接口后续即将废弃,请使用精度和性能更好的SoftmaxFlashV2接口。 Softmax增强版本,除了可以对输入tensor做SoftmaxFlash计算,还可以根据上一次Softmax计算的sum和max来更新本次的Softmax计算结果。last轴切轴的情况,每次计算的reduce结果并非是全轴的,需要根据上一次Softmax计算的sum和max来更新本次的Softmax计算结果,可 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0756_html.md ## CANN商业版-SoftmaxGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0757.html - Description: 将输入tensor\[m0, m1, ...mt, n\](t大于等于0)的非尾轴长度相乘的结果看作m,则输入tensor的shape看作\[m, n\]。对输入tensor\[m,n\]按行做grad反向计算,计算公式如下: 当输入shape为ND格式时,内部的reduce过程按last轴进行;当输入shape为NZ格式时,内部的reduce过程按照last轴和first轴进行,reduce过程可以参考So - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0757_html.md ## CANN商业版-SoftmaxFlashV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0758.html - Description: SoftmaxFlash增强版本,对应FlashAttention-2算法。将输入tensor\[m0, m1, ...mt, n\](t大于等于0)的非尾轴长度相乘的结果看作m,则输入tensor的shape看作\[m, n\]。对输入tensor\[m,n\]按行做如下计算,不同的update值对应不同的计算公式,其中x、inmax和insum为输入,M、S、E均为输出。 - update为false: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0758_html.md ## CANN商业版-SoftmaxGradFront - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0759.html - Description: 将输入tensor\[m0, m1, ...mt, n\](t大于等于0)的非尾轴长度相乘的结果看作m,则输入tensor的shape看作\[m, n\]。对输入tensor\[m,n\]按行做gradfront反向计算,计算公式如下: 当输入shape为ND格式时,内部的reduce过程按last轴进行;当输入shape为NZ格式时,内部的reduce过程按照last轴和first轴进行,reduce过程可 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0759_html.md ## CANN商业版-AdjustSoftMaxRes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0760.html - Description: 本接口用于调整SoftMax的计算结果为指定的值。主要用于对SoftMax相关计算结果做后处理。当输入的max中存在指定的值的时候,会调整对应的softmaxres中的结果为输入的自定义的值。以上调整方式为按行进行,即当max某一行的值为某个值时,调整当前softmaxres对应一行的值都为输入的值。 为方便理解,通过Python脚本实现的方式,表达其计算公式如下,其中res是输入也是输出,max - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0760_html.md ## SoftMax Tiling使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0761.html - Description: Ascend C提供一组SoftMax Tiling API,方便用户获取SoftMax kernel计算时所需的Tiling参数。阅读本节之前,请先参考Tiling实现\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlas\_ascendc\_10\_0064.html\)了 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0761_html.md ## SoftMax/SimpleSoftMax Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0762.html - Description: 用于获取SoftMax/SimpleSoftMax Tiling参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0762_html.md ## SoftmaxFlash Tiling接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0763.html - Description: 注意:该接口后续即将废弃,新开发内容不要使用该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0763_html.md ## SoftmaxGrad Tiling接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0764.html - Description: 用于获取SoftmaxGrad Tiling参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0764_html.md ## SoftmaxFlashV2 Tiling接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0765.html - Description: 用于获取SoftmaxFlashV2接口所需的Tiling参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0765_html.md ## CANN商业版-IsBasicBlockInSoftMax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0766.html - Description: 用于判断SoftMaxTiling结构是否符合基本块特征。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0766_html.md ## CANN商业版-LogSoftMax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0768.html - Description: 对输入tensor做LogSoftmax计算。计算公式如下 : 为方便理解,通过Python脚本实现的方式表达计算公式如下,其中src是源操作数(输入),dst、sum、max为目的操作数(输出)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0768_html.md ## LogSoftMax Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0769.html - Description: kernel侧LogSoftMax接口的计算需要开发者预留/申请临时空间,以下接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小,并调用LogSoftMaxTilingFunc函数获取reduceSize,splitSize等参数,作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0769_html.md ## CANN商业版-Gelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0771.html - Description: 在神经网络中,GELU是一个重要的激活函数,其灵感来源于Relu和Dropout,在激活中引入了随机正则的思想。计算公式如下: ,化简后可得 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0771_html.md ## CANN商业版-FasterGelu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0772.html - Description: 在神经网络中,GELU是一个重要的激活函数,其灵感来源于relu和dropout,在激活中引入了随机正则的思想。为了降低GELU的算力需求,业界提出了FastGelu等版本。本接口FasterGelu是针对FastGelu的化简版本,公式化简可以大幅度提升计算性能。计算公式如下: ,化简后可得 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0772_html.md ## CANN商业版-FasterGeluV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0773.html - Description: 在神经网络中,GELU是一个重要的激活函数,其灵感来源于relu和dropout,在激活中引入了随机正则的思想。为了降低GELU的算力需求,业界提出了FastGeluV2版本。本接口实现了FastGeluV2,计算公式如下: 其中, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0773_html.md ## CANN商业版-GetGeluMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0774.html - Description: kernel侧Gelu、FasterGelu、FasterGeluV2接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0774_html.md ## CANN商业版-SwiGLU - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0776.html - Description: SwiGLU是采用Swish作为激活函数的GLU变体。具体计算公式如下: 其中Swish激活函数的计算公式如下(β为常量): - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0776_html.md ## CANN商业版-GetSwiGLUMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0777.html - Description: kernel侧SwiGLU接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0777_html.md ## CANN商业版-GetSwiGLUTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0778.html - Description: kernel侧SwiGLU接口的计算需要开发者预留/申请临时空间,最大临时空间(maxTmpBuffer)和输入所占空间(inputSize * typeSize)存在以下关系: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0778_html.md ## CANN商业版-Silu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0780.html - Description: 按元素做Silu运算,计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0780_html.md ## CANN商业版-GetSiluTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0781.html - Description: 用于获取Silu Tiling参数:Silu接口能完成计算所需最大临时空间大小和最小临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0781_html.md ## CANN商业版-Swish - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0783.html - Description: 在神经网络中,Swish是一个重要的激活函数。计算公式如下,其中β为常数: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0783_html.md ## CANN商业版-GetSwishTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0784.html - Description: 用于获取Swish Tiling参数:Swish接口能完成计算所需最大临时空间大小和最小临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0784_html.md ## CANN商业版-GeGLU - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0786.html - Description: GeGLU是采用GELU作为激活函数的GLU变体。具体计算公式如下: 其中GELU激活函数的计算公式如下: 上述公式中的erf为误差函数: 误差函数没有解析表达式,按照业界普遍使用的tanh近似表达式: 将GELU近似公式代入可得GeGLU表达式为: 其中a\=-0.0713548162726, b\=2.2363860002236e1,x1和x0代表srcTensor1和srcTensor0中的元素 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0786_html.md ## CANN商业版-GetGeGLUMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0787.html - Description: kernel侧GeGLU接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0787_html.md ## CANN商业版-GetGeGLUTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0788.html - Description: kernel侧GeGLU接口的计算需要开发者预留/申请临时空间,最大临时空间(maxTmpBuffer)和输入所占空间(inputSize * typeSize)存在以下关系: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0788_html.md ## CANN商业版-ReGlu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0790.html - Description: ReGlu是一种GLU变体,使用Relu作为激活函数,计算公式如下: 其中Relu激活函数的计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0790_html.md ## CANN商业版-GetReGluMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0791.html - Description: kernel侧ReGlu接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0791_html.md ## CANN商业版-Sigmoid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0793.html - Description: 按元素做逻辑回归Sigmoid,计算公式如下 : - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0793_html.md ## CANN商业版-GetSigmoidMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0794.html - Description: kernel侧Sigmoid接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0794_html.md ## CANN商业版-LayerNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0797.html - Description: 根据接口输出的不同,本节介绍如下两种LayerNorm接口。 - 对shape为\[B,S,H\]的输入数据,输出归一化结果、均值和方差 在深层神经网络训练过程中,前面层训练参数的更新,会引起后面层输入数据分布的变化,导致权重更新不均衡及学习效率变慢。通过采用归一化策略,将网络层输入数据收敛到\[0, 1\]之间,可以规范网络层输入输出数据分布,加速训练参数收敛过程,使学习效率提升更加稳定。Layer - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0797_html.md ## CANN商业版-LayerNormGrad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0798.html - Description: LayerNormGrad是一个函数,用于计算LayerNorm的反向传播梯度。该接口单独使用会输出x、resForGamma;也可以和LayerNormGradBeta配合使用,输出的resForGamma传递给LayerNormGradBeta, LayerNormGradBeta接口会输出gamma和beta,配合使用时就可以同时得到x、Gamma、beta。 算法公式为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0798_html.md ## CANN商业版-LayerNormGradBeta - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0799.html - Description: LayerNormGradBeta接口用于获取反向beta/gamma的数值,和LayerNormGrad共同输出pdx, gamma和beta: 算法公式为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0799_html.md ## LayerNorm Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0801.html - Description: Ascend C提供一组LayerNorm Tiling API,方便用户获取LayerNorm kernel计算时所需的Tiling参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0801_html.md ## LayerNormGrad Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0802.html - Description: LayerNormGrad Tiling的功能如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0802_html.md ## LayerNormGradBeta Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0803.html - Description: LayerNormGradBeta Tiling的功能如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0803_html.md ## CANN商业版-RmsNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0804.html - Description: 实现对shape大小为\[B,S,H\]的输入数据的RmsNorm归一化,其计算公式如下: 其中,γ为缩放系数,ε为防除零的权重系数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0804_html.md ## RmsNorm Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0805.html - Description: Ascend C提供RmsNorm Tiling API,方便用户获取RmsNorm kernel计算时所需的Tiling参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0805_html.md ## CANN商业版-BatchNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0806.html - Description: BatchNorm是对于每一层的输入做规范化处理,使得每一层的分布尽可能的相同,从而加速训练过程和提高模型的泛化能力(有效减少梯度消失和梯度爆炸问题)。基本思想是对于每个batch中的样本,对其输入的每个特征在batch的维度上进行归一化。具体来说,对于输入特征x,BatchNorm的计算过程可以表示为: 1. 对输入特征x,在batch维度上计算均值μ和方差σ: 2. 对于每个特征i,对输入特征 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0806_html.md ## BatchNorm Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0807.html - Description: BatchNorm Tiling API用于获取BatchNorm kernel计算时所需的Tiling参数。获取Tiling参数主要分为如下两步: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0807_html.md ## CANN商业版-DeepNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0808.html - Description: 在深层神经网络训练过程中,执行层LayerNorm归一化时,可以使用DeepNorm进行替代,通过扩大残差连接来提高Transformer的稳定性。 本接口实现了对shape大小为\[B,S,H\]的输入数据的DeepNorm归一化,其计算公式如下: DeepNorm\(x\) \= LayerNorm\(α X + SubLayer\(X\)\) SubLayer\(X\)通常是指在DeepNorm模型中的一个子层 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0808_html.md ## DeepNorm Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0809.html - Description: Ascend C提供DeepNorm Tiling API,方便用户获取DeepNorm kernel计算时所需的Tiling参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0809_html.md ## CANN商业版-Normalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0810.html - Description: LayerNorm中,已知均值和方差,计算shape为\[A,R\]的输入数据的标准差的倒数rstd和y,其计算公式如下: 其中,E和Var分别代表输入在R轴的均值,方差,γ为缩放系数,β为平移系数,ε为防除零的权重系数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0810_html.md ## Normalize Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0811.html - Description: Ascend C提供Normalize Tiling API,方便用户获取Normalize kernel计算时所需的Tiling参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0811_html.md ## CANN商业版-WelfordUpdate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0812.html - Description: Welford是一种在线计算均值和方差的方法。一方面,它可以在不存储所有样本的情况下,逐步计算所有样本的均值和方差,更适合处理海量数据;另一方面,它只需要对数据进行一次遍历,能减少访存次数,提高计算性能。本接口为Welford算法的前处理。 LayerNorm算法中Reduce轴较大的场景,可以通过切分Reduce轴,联合使用本接口与WelfordFinalize,实现等效计算LayerNorm。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0812_html.md ## WelfordUpdate Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0813.html - Description: Ascend C提供WelfordUpdate Tiling API,方便用户获取WelfordUpdate kernel计算时所需的Tiling参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0813_html.md ## CANN商业版-WelfordFinalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0814.html - Description: Welford计算是一种在线计算均值和方差的方法。一方面,它可以在不存储所有样本的情况下,逐步计算所有样本的均值和方差,更适合处理海量数据;另一方面,它只需要对数据进行一次遍历,能减少访存次数,提高计算性能。本接口为Welford算法的后处理。 LayerNorm算法中Reduce轴较大的场景,可以通过切分Reduce轴,联合使用本接口与WelfordUpdate,能够实现等效计算LayerNor - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0814_html.md ## WelfordFinalize Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0815.html - Description: Ascend C提供WelfordFinalize Tiling API,方便用户获取WelfordFinalize kernel计算时所需的Tiling参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0815_html.md ## CANN商业版-GroupNorm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0816.html - Description: 对一个特征进行标准化的一般公式如下所示: 其中,i表示特征中的索引, 和 表示特征中每个值标准化前后的值,μ和σ表示特征的均值和标准差,计算公式如下所示: 其中,ε是一个很小的常数,S表示参与计算的数据的集合,m表示集合的大小。不同类型的特征标准化方法(BatchNorm、LayerNorm、InstanceNorm、GroupNorm等)的主要区别在于参与计算的数据集合的选取上。不同Norm类算 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0816_html.md ## CANN商业版-AscendQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0818.html - Description: 按元素做量化计算,比如将half/float数据类型量化为int8t数据类型。计算公式如下,round表示四舍六入五成双取整,cast表示舍入模式: - PERTENSOR量化:整个srcTensor对应一个量化参数,量化参数的shape为\[1\]。 - PERCHANNEL量化:srcTensor的shape为\[m, n\], 每个channel维度对应一个量化参数,量化参数的shape为\[n\]。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0818_html.md ## CANN商业版-GetAscendQuantMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0819.html - Description: kernel侧AscendQuant接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0819_html.md ## CANN商业版-AscendDequant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0820.html - Description: 按元素做反量化计算,比如将int32t数据类型反量化为half/float等数据类型。本接口最多支持输入为二维数据,不支持更高维度的输入。 - 假设输入srcTensor的shape为(m, n),每行数据(即n个输入数据)所占字节数要求32字节对齐,每行中进行反量化的元素个数为calCount; - 反量化系数deqScale可以为标量或者向量,为向量的情况下,calCount <\= deqSc - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0820_html.md ## CANN商业版-GetAscendDequantMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0821.html - Description: kernel侧AscendDequant接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0821_html.md ## CANN商业版-AscendAntiQuant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0822.html - Description: 按元素做伪量化计算,比如将int8t数据类型伪量化为half数据类型,计算公式如下: - PERCHANNEL场景(按通道量化) - 不使能输入转置 groupSize \= src.shape\[0\] / offset.shape\[0\] dst\[i\]\[j\] \= scale\[i / groupSize\]\[j\] \(src\[i\]\[j\] + offset\[i / groupSize\]\[ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0822_html.md ## CANN商业版-GetAscendAntiQuantMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0823.html - Description: kernel侧AscendAntiQuant接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0823_html.md ## CANN商业版-Sum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0826.html - Description: 获取最后一个维度的元素总和。 如果输入是向量,则在向量中对各元素相加;如果输入是矩阵,则沿最后一个维度对每行中元素求和。本接口最多支持输入为二维数据,不支持更高维度的输入。 如下图所示,对shape为\(2, 3\)的二维矩阵进行运算,输出结果为\[6, 15\]。 为计算如上过程,引入一些必备概念:行数称之为外轴长度(outter),每行实际的元素个数称之为内轴的实际元素个数(n),存储n个元素所需的字 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0826_html.md ## CANN商业版-GetSumMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0827.html - Description: kernel侧Sum接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0827_html.md ## CANN商业版-Mean - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0829.html - Description: 根据最后一轴的方向对各元素求平均值。 如果输入是向量,则在向量中对各元素相加求平均;如果输入是矩阵,则沿最后一个维度对元素求平均。本接口最多支持输入为二维数据,不支持更高维度的输入。 如下图所示,对shape为\(4, 5\)的二维矩阵进行求平均操作,输出结果为\[3, 8, 13, 18\]。 在了解接口具体功能之前,需要了解一些必备概念:数据的行数称之为外轴长度(outter),每行实际的元素个数称之 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0829_html.md ## CANN商业版-GetMeanMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0830.html - Description: kernel侧Mean接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0830_html.md ## CANN商业版-GetMeanTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0831.html - Description: 该接口用于获取maxLiveNodeCnt和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCnt和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCnt表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0831_html.md ## CANN商业版-ReduceXorSum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0833.html - Description: 按照元素执行Xor(按位异或)运算,并将计算结果ReduceSum求和。 注意:当最终计算结果超出int16范围\[-32768,32767\]后,将输出-32768 或者 32767。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0833_html.md ## CANN商业版-GetReduceXorSumMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0834.html - Description: kernel侧ReduceXorSum接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0834_html.md ## CANN商业版-TopK - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0836.html - Description: 获取最后一个维度的前k个最大值或最小值及其对应的索引。 如果输入是向量,则在向量中找到前k个最大值或最小值及其对应的索引;如果输入是矩阵,则沿最后一个维度计算每行中前k个最大值或最小值及其对应的索引。本接口最多支持输入为二维数据,不支持更高维度的输入。 如下图所示,对shape为\(4, 32\)的二维矩阵进行排序,k设置为1,输出结果为\[\[32\] \[32\] \[32\] \[32\]\]。 - 必备概念 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0836_html.md ## TopK Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0837.html - Description: 用于获取TopK Tiling参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0837_html.md ## CANN商业版-Concat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0839.html - Description: 对数据进行预处理,将要排序的源操作数src一一对应的合入目标数据concat中,数据预处理完成后,可以进行Sort。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0839_html.md ## CANN商业版-GetConcatTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0840.html - Description: 获取Concat接口所需的临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0840_html.md ## CANN商业版-Extract - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0841.html - Description: 处理Sort的结果数据,输出排序后的value和index。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0841_html.md ## CANN商业版-Sort - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0842.html - Description: - 对应不带模板参数SortConfig的函数原型 排序函数,按照数值大小进行降序排序。排序后的数据按照如下排布方式进行保存: Atlas 350 加速卡采用方式一。 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 采用方式一。 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 采用方式一。 Atlas 推理系列产品 AI Core采用方式二。 - 排布方 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0842_html.md ## CANN商业版-GetSortTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0843.html - Description: 获取Sort接口所需的临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0843_html.md ## CANN商业版-GetSortMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0844.html - Description: 带SortConfig模板参数的kernel侧Sort接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0844_html.md ## CANN商业版-GetSortOffset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0845.html - Description: 根据元素位置,获取Sort数据中的对应偏移量(单位为字节)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0845_html.md ## CANN商业版-GetSortLen - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0846.html - Description: 根据元素数量,获取Sort数据的大小(单位为字节)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0846_html.md ## CANN商业版-MrgSort - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0847.html - Description: 将已经排好序的最多4条队列,合并排列成1条队列,结果按照score域由大到小排序,排布方式如下: Atlas 350 加速卡采用方式一。 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 采用方式一。 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 采用方式一。 Atlas 推理系列产品 AI Core采用方式二。 - 排布方式一: MrgSort处理的数 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0847_html.md ## CANN商业版-Pad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0849.html - Description: 对height width的二维Tensor在width方向上pad到32B对齐,如果Tensor的width已32B对齐,且全部为有效数据,则不支持调用本接口对齐。本接口具体功能场景如下: - 场景1 Tensor的width非32B对齐,以half为例,如1615,进行Pad,右边补1列,变成1616。 - 场景2 Tensor的width已32B对齐,但是有部分冗余数据,以half - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0849_html.md ## Pad Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0850.html - Description: 用于获取Pad Tiling参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0850_html.md ## CANN商业版-UnPad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0851.html - Description: 对height width的二维Tensor在width方向上进行unpad,如果Tensor的width非32B对齐,则不支持调用本接口unpad。本接口具体功能场景如下:Tensor的width已32B对齐,以half为例,如1616,进行UnPad,变成1615。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0851_html.md ## UnPad Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0852.html - Description: 用于获取UnPad Tiling参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0852_html.md ## CANN商业版-Broadcast - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0853.html - Description: 将输入按照输出shape进行广播。 比如A的shape为\(2,1\),广播的目标shape为\(2,16\),则会将原来的一列扩展为相同的16列。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0853_html.md ## CANN商业版-GetBroadCastMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0854.html - Description: kernel侧Broadcast接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0854_html.md ## CANN商业版-Arange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0856.html - Description: 给定起始值,等差值和长度,返回一个等差数列。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0856_html.md ## CANN商业版-GetArangeMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0857.html - Description: 用于获取Arange Tiling参数:Arange接口能完成计算所需最大临时空间大小max和最小临时空间大小min。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0857_html.md ## CANN商业版-Select - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0859.html - Description: 给定两个源操作数src0和src1,根据maskTensor相应位置的值(非bit位)选取元素,得到目的操作数dst。选择的规则为:当Mask的值为0时,从src0中选取,否则从src1选取。 该接口支持多维Shape,需满足maskTensor和源操作数Tensor的前轴(非尾轴)元素个数相同,且maskTensor尾轴元素个数大于等于源操作数尾轴元素个数,maskTensor多余部分丢弃不参与 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0859_html.md ## CANN商业版-GetSelectMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0860.html - Description: kernel侧Select接口的计算需要开发者申请临时空间,本接口用于在host侧获取申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0860_html.md ## CANN商业版-DropOut - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0862.html - Description: 提供根据MaskTensor对SrcTensor(源操作数,输入Tensor)进行过滤的功能,得到DstTensor(目的操作数、输出Tensor)。仅支持输入shape为ND格式。 该过滤功能包括两种模式,字节模式和比特模式。 - 字节模式 MaskTensor中存储的数值为布尔类型,每个布尔数值代表是否取用SrcTensor对应位置的数值:如果是,则选取SrcTensor中的数值存入Dst - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0862_html.md ## CANN商业版-GetDropOutMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0863.html - Description: 用于获取DropOut Tiling参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0863_html.md ## CANN商业版-Transpose - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0865.html - Description: 对输入数据进行数据排布及Reshape操作,具体功能如下: 【场景1:NZ2ND,1、2轴互换】 输入Tensor \{ shape:\[B, N, H/N/16, S/16, 16, 16\], originshape:\[B, N, S, H/N\], format:"NZ", originformat:"ND"\} 输出Tensor \{ shape:\[B, S, N, H/N\], originshape - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0865_html.md ## Transpose Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0866.html - Description: 用于获取Transpose Tiling参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0866_html.md ## HCCL使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0869.html - Description: Ascend C提供一组HCCL通信类高阶API,方便算子Kernel开发用户在AI Core侧灵活管理通算融合算子中计算与通信任务的执行顺序。使用HCCL通信类高阶API进行算子开发前,请参考通算融合\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlas\_ascend - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0869_html.md ## HCCL模板参数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0870.html - Description: 创建HCCL对象时需要传入模板参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0870_html.md ## Init(废弃) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0871.html - Description: 该接口废弃,并将在后续版本移除,请不要使用该接口。请使用InitV2接口进行初始化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0871_html.md ## CANN商业版-AllReduce - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0872.html - Description: 集合通信算子AllReduce的任务下发接口,返回该任务的标识handleId给用户。AllReduce功能为:将通信域内所有节点的同名张量进行reduce操作后,再把结果发送到所有节点的输出buffer。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0872_html.md ## CANN商业版-AllGather - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0873.html - Description: 集合通信算子AllGather的任务下发接口,返回该任务的标识handleId给用户。AllGather的功能为:将通信域内所有节点的输入按照rank id重新排序,然后拼接起来,再将结果发送到所有节点的输出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0873_html.md ## CANN商业版-ReduceScatter - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0874.html - Description: 集合通信算子ReduceScatter的任务下发接口,返回该任务的标识handleId给用户。ReduceScatter的功能为:将所有rank的输入相加(或其他归约操作)后,再把结果按照rank编号均匀分散到各个rank的输出buffer,每个进程拿到其他进程1/ranksize份的数据进行归约操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0874_html.md ## CANN商业版-AlltoAll - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0875.html - Description: 集合通信AlltoAll的任务下发接口,返回该任务的标识handleId给用户。AlltoAll的功能为:每张卡向通信域内所有卡发送相同数据量的数据,并从所有卡接收相同数据量的数据。结合原型中的参数,描述接口功能,具体为,第j张卡接收到来自第i张卡的sendBuf中第j块数据,并将该数据存放到本卡recvBuf中第i块的位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0875_html.md ## CANN商业版-AlltoAllV - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0876.html - Description: 集合通信AlltoAllV的任务下发接口,返回该任务的标识handleId给用户。AlltoAll是AlltoAllV的一个子集,AlltoAll要求所有卡的收发数据量相同,AlltoAllV则不需要数据量相同,使用上更加灵活。 AlltoAllV的功能为:通信域内的卡互相发送和接收数据,并且定制每张卡给其它卡发送的数据量和从其它卡接收的数据量,以及定制发送和接收的数据在内存中的偏移。结合原型中的 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0876_html.md ## CANN商业版-Commit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0877.html - Description: 非细粒度通信时,每调用一次本接口,则通知服务端可以执行handleId对应的任务一次。细粒度通信时,每调用一次本接口,则通知服务端可以执行handleId对应的步长长度的子通信任务。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0877_html.md ## CANN商业版-Wait - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0878.html - Description: 阻塞AI Core,非细粒度通信时,等待handleId对应的通信任务完成,细粒度通信时,等待handleId对应的步长长度的子通信任务完成。handleId调用Wait接口的顺序,须和Prepare接口一致。该接口默认在所有核上工作,用户也可以在调用前通过GetBlockIdx指定其在某一个核上运行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0878_html.md ## CANN商业版-Query - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0879.html - Description: 查询handleId对应的通信任务已经完成的轮次,最多返回repeat轮。该接口默认在所有核上工作,用户也可以在调用前通过GetBlockIdx指定其在某一个核上运行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0879_html.md ## CANN商业版-InterHcclGroupSync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0880.html - Description: 用于等待一个跨通信域的通信任务完成。调用该接口后,本通信域后续下发的通信任务,均等待指定的srcGroupID通信域中的srcHandleID通信任务执行完成,才开始执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0880_html.md ## CANN商业版-Finalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0881.html - Description: 通知服务端后续无通信任务,执行结束后退出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0881_html.md ## CANN商业版-GetWindowsInAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0882.html - Description: 获取卡间通信数据WindowsIn起始地址,可用来直接作为计算的输入输出地址,减少拷贝。该接口默认在所有核上工作,用户也可以在调用前通过GetBlockIdx指定其在某一个核上运行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0882_html.md ## CANN商业版-GetWindowsOutAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0883.html - Description: 获取卡间通信数据WindowsOut起始地址,可用来直接作为计算的输入输出地址,减少拷贝。该接口默认在所有核上工作,用户也可以在调用前通过GetBlockIdx指定其在某一个核上运行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0883_html.md ## CANN商业版-GetRankId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0884.html - Description: 获取本卡RankId。该接口默认在所有核上工作,用户也可以在调用前通过GetBlockIdx指定其在某一个核上运行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0884_html.md ## CANN商业版-GetRankDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0885.html - Description: 获取通信域内卡的数量。该接口默认在所有核上工作,用户也可以在调用前通过GetBlockIdx指定其在某一个核上运行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0885_html.md ## HCCL Tiling使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0887.html - Description: 本章节详述通信算子必需的TilingData结构体。本章节提供了三个版本的TilingData,建议使用TilingData结构体,不推荐使用v1版本TilingData(废弃)和v2版本TilingData(废弃)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0887_html.md ## v1版本TilingData(废弃) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0888.html - Description: 该结构体废弃,并将在后续版本移除,请不要使用该结构体。无需直接对该结构体中的成员进行设置,统一使用HCCL Tiling提供的接口设置即可。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0888_html.md ## v2版本TilingData(废弃) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0889.html - Description: 该结构体废弃,并将在后续版本移除,请不要使用该结构体。无需直接对该结构体中的成员进行设置,统一使用HCCL Tiling提供的接口设置即可。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0889_html.md ## CANN商业版-Fill - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0891.html - Description: 将Global Memory上的数据初始化为指定值。该接口可用于对workspace地址或输出数据进行清零。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0891_html.md ## Conv3DBackpropFilter使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0895.html - Description: Ascend C提供一组Conv3DBackpropFilter高阶API,便于用户快速实现卷积的反向运算,求解反向传播的误差。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0895_html.md ## CANN商业版-Init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0896.html - Description: Init主要用于对Conv3DBackpropFilter对象中的Tiling数据进行初始化,根据Tiling参数进行资源划分,Tiling参数的具体介绍请参考Conv3DBackpropFilter Tiling侧接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0896_html.md ## CANN商业版-SetInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0897.html - Description: 设置特征矩阵Input。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0897_html.md ## CANN商业版-SetGradOutput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0898.html - Description: 设置卷积反向计算的输入矩阵GradOutput。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0898_html.md ## CANN商业版-SetSingleShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0899.html - Description: 设置Conv3DBackpropFilter在单核上计算的形状。用于运行时修改shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0899_html.md ## CANN商业版-Iterate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0901.html - Description: 每次调用Iterate时,会计算出一个baseM baseN的结果矩阵,并将该结果写入L0C Buffer。接口内部会维护迭代进度,每次调用后,矩阵的起始地址将进行偏移。如果传入的数据未对齐存在尾块,则在最后一次迭代中输出尾块的计算结果。本接口需与GetTensorC接口配合使用;在调用本接口后,再调用GetTensorC接口,L0C Buffer中的数据将被写入目标地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0901_html.md ## CANN商业版-GetTensorC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0902.html - Description: 在完成Iterate操作后调用本接口,获取结果矩阵块,完成数据从L0C到GM的搬运。此接口与Iterate接口配合使用,用于在Iterate执行迭代计算后,获取结果矩阵。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0902_html.md ## CANN商业版-End - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0903.html - Description: 在Conv3DBackpropFilter卷积反向计算完成后,必须调用一次End,以清除EventID并释放内部申请的临时内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0903_html.md ## Conv3DBackpropFilter Tiling使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0905.html - Description: Ascend C提供一组Conv3DBackpropFilter Tiling API,方便用户获取Conv3DBackpropFilter Kernel计算时所需的Tiling参数。用户只需要传入Input/GradOutput/GradWeight的Position位置、Format格式和DType数据类型及相关参数等信息,调用API接口,即可获取Init中TConv3DBpFilterTil - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0905_html.md ## Conv3DBackpropFilter Tiling构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0906.html - Description: 用于创建一个Conv3DBackpropFilter 单核Tiling对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0906_html.md ## TConv3DBpFilterTiling结构体 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0907.html - Description: TConv3DBpFilterTiling结构体包含Conv3dBackpropFilter算子规格信息及Tiling切分算法的相关参数,被传递给Conv3dBackpropFilter Kernel侧,用于数据切分、数据搬运和计算等。TConv3DBpFilterTiling结构体的参数说明见表1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0907_html.md ## CANN商业版-GetTiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0908.html - Description: 获取Tiling参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0908_html.md ## CANN商业版-SetWeightShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0909.html - Description: 设置权重矩阵Weight的形状。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0909_html.md ## CANN商业版-SetInputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0910.html - Description: 设置特征矩阵Input的形状:Batch、Channel、Depth、Height、Width。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0910_html.md ## CANN商业版-SetGradOutputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0911.html - Description: 设置GradOutput的形状:Batch、Channel、Depth、Height、Width。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0911_html.md ## CANN商业版-SetWeightType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0912.html - Description: 设置权重矩阵Weight的位置、数据格式、数据类型信息,这些信息必须与Kernel侧的设置保持一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0912_html.md ## CANN商业版-SetInputType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0913.html - Description: 设置特征矩阵Input的位置、数据格式、数据类型信息,这些信息必须与Kernel侧的设置保持一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0913_html.md ## CANN商业版-SetGradOutputType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0914.html - Description: 设置GradOutput的位置、数据格式、数据类型信息,这些信息必须与Kernel侧的设置保持一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0914_html.md ## CANN商业版-SetPadding - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0915.html - Description: \#\#\#\# 功能说明 设置Pad信息。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0915_html.md ## CANN商业版-SetStride - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0916.html - Description: 设置Stride信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0916_html.md ## CANN商业版-SetDilation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0917.html - Description: 设置Dilation信息,即卷积核Depth/Height/Width方向的扩张大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0917_html.md ## Conv3DBackpropInput使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0920.html - Description: Ascend C提供一组Conv3DBackpropInput高阶API,便于用户快速实现卷积的反向运算,求解反向传播的误差。转置卷积Conv3DTranspose与Conv3DBackpropInput具有相同的数学过程,因此用户也可以使用Conv3DBackpropInput高阶API实现转置卷积算子。卷积的正反向传播如图1 卷积层的前后向传播示意图,反向传播误差计算如图2 反向传播误差计算示 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0920_html.md ## CANN商业版-Init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0921.html - Description: Init主要用于对Conv3DBackpropInput对象中的Tiling数据进行初始化,根据Tiling参数进行资源划分,Tiling参数的具体介绍请参考Conv3DBackpropInput Tiling侧接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0921_html.md ## CANN商业版-SetGradOutput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0922.html - Description: 设置卷积反向计算的输入矩阵GradOutput。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0922_html.md ## CANN商业版-SetWeight - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0923.html - Description: 设置卷积反向计算的输入矩阵Weight。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0923_html.md ## CANN商业版-SetSingleShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0924.html - Description: 设置Conv3DBackpropInput在单核上计算的形状,单位为元素个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0924_html.md ## CANN商业版-Iterate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0925.html - Description: 每次调用Iterate时,会计算出一个baseM baseN的结果矩阵,并将该结果写入L0C Buffer。接口内部会维护迭代进度,每次调用后,矩阵的起始地址将进行偏移。如果传入的数据未对齐存在尾块,则在最后一次迭代中输出尾块的计算结果。本接口需与GetTensorC接口配合使用;在调用本接口后,再调用GetTensorC接口,L0C Buffer中的数据将被写入目标地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0925_html.md ## CANN商业版-GetTensorC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0927.html - Description: 在完成Iterate操作后调用本接口,获取结果矩阵块,完成数据从L0C到GM的搬运。此接口与Iterate接口配合使用,用于在Iterate执行迭代计算后,获取结果矩阵。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0927_html.md ## CANN商业版-End - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0928.html - Description: 在Conv3DBackpropInput卷积反向计算完成后,必须调用一次End,以清除EventID并释放内部申请的临时内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0928_html.md ## Conv3DBackpropInput Tiling使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0930.html - Description: Ascend C提供一组Conv3DBackpropInput Tiling API,方便用户获取Conv3DBackpropInput Kernel计算时所需的Tiling参数。用户只需要传入Input/GradOutput/Weight的Position位置、Format格式和DType数据类型及相关参数等信息,调用API接口,即可获取Init中TConv3DBackpropInputTili - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0930_html.md ## Conv3DBackpropInput Tiling构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0931.html - Description: 用于创建一个Conv3DBackpropInput 单核Tiling对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0931_html.md ## TConv3DBackpropInputTiling结构体 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0932.html - Description: TConv3DBackpropInputTiling结构体包含Conv3DBackpropInput算子规格信息及Tiling切分算法的相关参数,被传递给Conv3DBackpropInput Kernel侧,用于数据切分、数据搬运和计算等。TConv3DBackpropInputTiling结构体的参数说明见下表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0932_html.md ## CANN商业版-GetTiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0933.html - Description: 获取Tiling参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0933_html.md ## CANN商业版-SetWeightShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0934.html - Description: 设置权重矩阵Weight的形状。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0934_html.md ## CANN商业版-SetInputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0935.html - Description: 设置特征矩阵Input的形状:Batch、Channel、Depth、Height、Width。在构建Conv3DTranspose算子时,此接口无实际意义,请勿使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0935_html.md ## CANN商业版-SetGradOutputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0936.html - Description: 设置GradOutput的形状:Batch、Channel、Depth、Height、Width。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0936_html.md ## CANN商业版-SetWeightType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0937.html - Description: 设置权重矩阵Weight的位置、数据格式、数据类型信息,这些信息必须与Kernel侧的设置保持一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0937_html.md ## CANN商业版-SetInputType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0938.html - Description: 设置特征矩阵Input的位置、数据格式、数据类型信息,这些信息必须与Kernel侧的设置保持一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0938_html.md ## CANN商业版-SetGradOutputType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0939.html - Description: 设置GradOutput的位置、数据格式、数据类型信息,这些信息必须与Kernel侧的设置保持一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0939_html.md ## CANN商业版-SetPadding - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0940.html - Description: \#\#\#\# 功能说明 设置Pad信息。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0940_html.md ## CANN商业版-SetStride - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0941.html - Description: 设置Stride信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0941_html.md ## CANN商业版-SetDilation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0942.html - Description: 设置Dilation信息,即卷积核Depth/Height/Width方向的扩张大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0942_html.md ## 原型注册接口(OP\_ADD) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0945.html - Description: 注册算子的原型定义,从而确保算子能够被框架正确识别、编译和执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0945_html.md ## CANN商业版-Input - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0947.html - Description: 注册算子输入,调用该接口后会返回一个OpParamDef结构,后续可通过该结构配置算子输入信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0947_html.md ## CANN商业版-Output - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0948.html - Description: 注册算子输出,调用该接口后会返回一个OpParamDef结构,后续可通过该结构配置算子输出信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0948_html.md ## CANN商业版-Attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0949.html - Description: 注册算子属性参数。 当需要设置的参数不参与kernel侧计算时,可以将该参数注册为算子属性参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0949_html.md ## CANN商业版-SetInferShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0950.html - Description: 使用图模式时,需要调用该接口注册Shape推导函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0950_html.md ## CANN商业版-SetInferShapeRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0951.html - Description: 使用图模式时,需要调用该接口注册ShapeRange推导函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0951_html.md ## CANN商业版-SetInferDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0952.html - Description: 使用图模式时,需要调用该接口注册DataType推导函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0952_html.md ## CANN商业版-AICore - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0953.html - Description: 设置AICore的配置信息:包括Tiling处理回调函数、能力检查回调函数、基础的配置信息等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0953_html.md ## CANN商业版-MC2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0954.html - Description: 注册该算子是通算融合算子,调用该接口后会返回一个OpMC2Def结构,后续可通过该结构配置通信域名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0954_html.md ## CANN商业版-Comment - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0956.html - Description: 设置算子分组信息以及算子原型注释,包括算子简述,算子约束等内容。用于在自动生成算子原型头文件时,同步生成算子原型注释。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0956_html.md ## CANN商业版-ParamType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0958.html - Description: \#\#\#\# 功能说明 定义算子参数类型。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0958_html.md ## CANN商业版-DataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0959.html - Description: 定义算子参数数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0959_html.md ## CANN商业版-DataTypeList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0960.html - Description: 定义算子参数数据类型。如果某个输入/输出支持的数据类型支持和其他所有输入/输出支持的数据类型、数据格式组合使用,可以使用该接口定义数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0960_html.md ## CANN商业版-Format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0961.html - Description: 定义算子参数数据格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0961_html.md ## CANN商业版-FormatList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0962.html - Description: 定义算子参数数据格式。如果某个输入/输出支持的数据格式支持和其他所有输入/输出支持的数据类型、数据格式组合使用,可以使用该接口定义数据格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0962_html.md ## UnknownShapeFormat(废弃) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0963.html - Description: - 该接口废弃,并将在后续版本移除,请不要使用该接口。无需针对动态/静态shape单独设置format,统一使用 Format - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0963_html.md ## CANN商业版-ValueDepend - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0964.html - Description: 标识该输入是否为“数据依赖输入”,数据依赖输入是指在Tiling/InferShape等函数实现时依赖该输入的具体数据。该输入数据为host侧数据,开发者在Tiling函数/InferShape函数中可以通过TilingContext类的GetInputTensor\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/main - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0964_html.md ## CANN商业版-IgnoreContiguous - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0965.html - Description: 某些算子支持非连续的tensor,在算子的实现中对非连续的tensor做了转换处理。配置该参数后,框架会忽略对非连续的校验。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0965_html.md ## CANN商业版-AutoContiguous - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0966.html - Description: 配置该参数,当单算子API(aclnnxxx)接口中的输入(aclTensor类型)是非连续tensor时,框架会自动将其转换为连续tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0966_html.md ## CANN商业版-Scalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0967.html - Description: 配置该参数后,自动生成的单算子API(aclnnxxx)接口中,输入类型为aclScalar类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0967_html.md ## CANN商业版-ScalarList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0968.html - Description: 配置该参数后,自动生成的单算子API(aclnnxxx)接口中,输入类型为aclScalarList类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0968_html.md ## CANN商业版-To - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0969.html - Description: 配置该参数后,在调用单算子API\(aclnnxxx\)接口时,会将aclScalar/aclScalarList的数据类型转换为该参数指定的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0969_html.md ## CANN商业版-Version - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0970.html - Description: 算子编译部署后,会自动生成单算子API\(aclnnxxx\)接口,接口中的输入输出参数和算子原型定义中保持一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0970_html.md ## CANN商业版-InitValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0972.html - Description: 通过该host侧接口设置算子输出的初始值,设置后会在算子执行前对算子输出的GM空间进行清零操作或者插入memset类算子进行初始值设置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0972_html.md ## CANN商业版-OutputShapeDependOnCompute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0973.html - Description: 标识算子输出的shape是否依赖于计算得到。某些算子,比如NonZero(统计tensor中非零值的个数),计算完成前无法得知算子输出的shape信息,算子计算完成后才能获取。该类算子在原型定义时,需要使用OutputShapeDependOnCompute接口进行标识,同时在算子核函数中将实际输出shape写入到出参中,便于框架侧基于该信息进行输出内存的管理。对应的kernel侧实现请参考输出s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0973_html.md ## CANN商业版-Follow - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0974.html - Description: 用于指定当前输入/输出的datatype/format/shape信息与之前定义过的某个输入一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0974_html.md ## CANN商业版-Comment - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0975.html - Description: 设置input/output参数的注释。用于在自动生成算子原型头文件时,同步生成算子原型注释。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0975_html.md ## CANN商业版-OpAttrDef - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0976.html - Description: \#\#\#\# 功能说明 定义算子属性。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0976_html.md ## CANN商业版-Comment - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0977.html - Description: 设置算子属性的注释。用于在自动生成算子原型头文件时,同步生成算子原型注释。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0977_html.md ## CANN商业版-SetTiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0979.html - Description: 注册Tiling函数。Tiling函数的原型是固定的,接受一个TilingContext\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/maintenref/basicdataapi/atlasopapi\_07\_00223.html\)作为输入,在此context上可以获取到输入、输出的Shape指针等内容。注册的Tili - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0979_html.md ## CANN商业版-SetCheckSupport - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0981.html - Description: 如果您需要在算子融合阶段进行算子参数校验,则可实现算子参数校验回调函数,并通过该接口进行注册。同时,需要将NeedCheckSupportFlag参数配置为true,则算子编译和融合阶段会调用注册的算子参数校验函数进行相关信息的校验。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0981_html.md ## CANN商业版-SetOpSelectFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0982.html - Description: 如果您需要自行推导算子输入输出所支持的数据类型与格式,则可实现推导回调函数,并通过该接口进行注册。同时需要将DynamicFormatFlag配置为true,则算子融合时会自动调用推导函数进行数据类型与格式的设置,算子原型注册时无需配置输入输出支持的数据类型与格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0982_html.md ## CANN商业版-AddConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0986.html - Description: 注册算子支持的AI处理器型号以及OpAICoreConfig信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0986_html.md ## CANN商业版-Input - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0989.html - Description: 某些场景下,同一个算子在不同的AI处理器型号上,其支持的原型输入不同。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0989_html.md ## CANN商业版-Output - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0990.html - Description: 某些场景下,同一个算子在不同的AI处理器型号上,其支持的原型输出不同。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0990_html.md ## CANN商业版-DynamicCompileStaticFlag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0991.html - Description: 用于标识该算子实现是否支持入图时的静态Shape编译。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0991_html.md ## CANN商业版-DynamicFormatFlag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0992.html - Description: 标识是否根据SetOpSelectFormat设置的函数自动推导算子输入输出支持的dtype和format。设置为“true”,则无需在原型注册时配置固定的dtype与format,会调用推导函数来推导算子输入输出支持的dtype和format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0992_html.md ## CANN商业版-DynamicRankSupportFlag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0993.html - Description: 标识算子是否支持dynamicRank(动态维度)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0993_html.md ## CANN商业版-DynamicShapeSupportFlag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0994.html - Description: 用于标识该算子是否支持入图时的动态Shape场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0994_html.md ## CANN商业版-NeedCheckSupportFlag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0995.html - Description: 标识是否在算子融合阶段调用算子参数校验函数进行data type与shape的校验。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0995_html.md ## CANN商业版-PrecisionReduceFlag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0996.html - Description: 此字段用于进行ATC模型转换或者进行网络调测时,控制算子的精度模式。只有当精度模式\("precision\_mode"\)配置为混合精度\("allow\_mix\_precision"\)前提下生效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0996_html.md ## CANN商业版-ExtendCfgInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0997.html - Description: 用于扩展算子相关参数配置,提供更灵活的参数配置能力。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0997_html.md ## OpMC2Def简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1000.html - Description: 该类用于在host侧配置通算融合算子的通信域名称。配置后在kernel侧可以获取通信域对应的context(消息区)地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1000_html.md ## CANN商业版-SoftmaxFlashV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10001.html - Description: SoftmaxFlash增强版本,对应Softmax PASA算法。将输入tensor\[m0, m1, ..., mt, n\](t大于或等于0)的非尾轴长度m0, m1, ..., mt相乘的结果看作m,则输入tensor的shape看作\[m, n\]。对输入tensor x的尾轴进行切分,分块个数为splitMeanCnt,切分后的tensor为xcnti。按如下公式进行计算,其中x、inmax、 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10001_html.md ## SoftmaxFlashV3 Tiling接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10002.html - Description: 用于获取SoftmaxFlashV3接口所需的Tiling参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10002_html.md ## GroupNorm Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10003.html - Description: GroupNorm Tiling API用于获取GroupNorm kernel计算时所需的Tiling参数。获取Tiling参数主要分为如下两步: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10003_html.md ## OpMC2Def构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1001.html - Description: 创建OpMC2Def对象时,初始化数据成员。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1001_html.md ## CANN商业版-ReduceSum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10018.html - Description: 对一个多维向量按照指定的维度进行数据累加。 定义指定计算的维度(Reduce轴)为R轴,非指定维度(Normal轴)为A轴。如下图所示,对shape为\(2, 3\)的二维矩阵进行运算,指定在第一维计算数据的累加,输出结果为\[5, 7, 9\];指定在第二维计算数据的累加,输出结果为\[6, 15\]。 图1 ReduceSum按第一个维度计算示例 图2 ReduceSum按最后一个维度计算示例 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10018_html.md ## CANN商业版-HcclGroup - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1002.html - Description: 配置通信域名称,每个名称对应一个通信域。配置后在Kernel侧调用GetHcclContext接口可获取通信域对应的context(消息区)地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1002_html.md ## CANN商业版-IsFinite - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10021.html - Description: 按元素判断输入的浮点数是否非NAN、非±INF,输出结果为浮点数或者布尔值。对于非NAN或者非±INF的输入数据,当输出为浮点类型时,对应位置的结果为该浮点类型的1,反之为0;当输出为bool类型时,对应位置的结果为true,反之为false。计算公式如下: - 当输出为浮点类型时: - 当输出为bool类型时: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10021_html.md ## operator\= - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1003.html - Description: 赋值运算符重载,实现OpMC2Def类对象的深拷贝。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1003_html.md ## CANN商业版-GetFmodTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10035.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10035_html.md ## HCCL Tiling构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10036.html - Description: 用于创建一个Mc2CcTilingConfig对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10036_html.md ## CANN商业版-GetTiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10037.html - Description: 获取Mc2InitTiling参数和Mc2CcTiling参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10037_html.md ## CANN商业版-SetOpType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10038.html - Description: \#\#\#\# 功能说明 设置通信任务类型。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10038_html.md ## CANN商业版-SetGroupName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10039.html - Description: 设置通信任务所在的通信域。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10039_html.md ## CANN商业版-SetAlgConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10040.html - Description: \#\#\#\# 功能说明 设置通信算法。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10040_html.md ## CANN商业版-SetReduceType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10041.html - Description: 设置Reduce操作类型,仅对有归约操作的通信任务生效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10041_html.md ## CANN商业版-SetStepSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10042.html - Description: 设置细粒度通信时,通信算法的步长,即设置细粒度通信时,一次子通信任务执行或准备执行的通信算法的步骤数。例如,图1 使用pairwise算法的AlltoAllV通信步骤示意图中,该细粒度通信场景下,AlltoAllV通信任务的通信步长为1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10042_html.md ## CANN商业版-SetSkipLocalRankCopy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10043.html - Description: 设置本卡的通信算法的计算结果是否输出到目的数据buffer地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10043_html.md ## CANN商业版-SetSkipBufferWindowCopy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10044.html - Description: 设置通信算法获取输入数据的位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10044_html.md ## CANN商业版-SetDebugMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10045.html - Description: \#\#\#\# 功能说明 设置调测模式。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10045_html.md ## SetCcTiling(废弃) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10047.html - Description: 该接口废弃,并将在后续版本移除,请不要使用该接口。请使用SetCcTilingV2接口设置通信算法的Tiling地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10047_html.md ## TilingData结构体 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10048.html - Description: 在算子实现中,由Tiling组装通信配置项,核函数实现时将Tiling配置项通过入参传递给Kernel侧通信API做通信计算。本节TilingData结构体包括Mc2InitTiling和Mc2CcTiling,这两个结构体均通过调用GetTiling接口返回。其中,Mc2CcTiling为具体每个通信任务的参数配置,当算子中有多个通信任务时,可定义多个Mc2CcTiling参数(最多支持定义8个 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10048_html.md ## TilingData结构定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1005.html - Description: 定义一个TilingData的类,添加所需的成员变量(TilingData字段),用于保存所需TilingData参数。完成该TilingData类的定义后,该类通过继承TilingDef类(用来存放、处理用户自定义Tiling结构体成员变量的基类)提供以下接口: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1005_html.md ## CANN商业版-max - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10053.html - Description: 比较相同数据类型的两个数,返回最大值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10053_html.md ## CANN商业版-min - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10054.html - Description: 比较相同数据类型的两个数,返回最小值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10054_html.md ## CANN商业版-ReduceMax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10055.html - Description: 对一个多维向量在指定的维度求最大值。 定义指定计算的维度(Reduce轴)为R轴,非指定维度(Normal轴)为A轴。如下图所示,对shape为\(2, 3\)的二维矩阵进行运算,指定在第一维求最大值,输出结果为\[4, 5, 6\];指定在第二维求最大值,输出结果为\[3, 6\]。第一维是外层轴,简称外轴;第二维是内层轴,简称内轴。 图1 ReduceMax按第一个维度计算示例 图2 ReduceMax按 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10055_html.md ## CANN商业版-ReduceMin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10056.html - Description: 对一个多维向量在指定的维度求最小值。 定义指定计算的维度(Reduce轴)为R轴,非指定维度(Normal轴)为A轴。如下图所示,对shape为\(2, 3\)的二维矩阵进行运算,指定在第一维求最小值,输出结果为\[1, 2, 3\];指定在第二维求最小值,输出结果为\[1, 4\]。 图1 ReduceMin按第一个维度计算示例 图2 ReduceMin按最后一个维度计算示例 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10056_html.md ## TilingData结构注册 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1006.html - Description: 注册定义的TilingData结构体并和自定义算子绑定。具体使用说明请参考调用示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1006_html.md ## CANN商业版-SetStartPosition - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10067.html - Description: 设置单核上GradOutput载入数据的起始位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10067_html.md ## Conv3D使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10070.html - Description: Ascend C提供一组Conv3D高阶API,方便用户快速实现3维卷积正向矩阵运算。3维正向卷积的示意图如图1,其计算公式为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10070_html.md ## CANN商业版-Init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10071.html - Description: Init主要用于对Conv3D对象中的Tiling数据进行初始化,根据Tiling参数进行资源划分,同时获取用户声明的Pipe对象,完成内存分配。Tiling参数的具体介绍请参考Conv3D Tiling。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10071_html.md ## CANN商业版-SetInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10072.html - Description: 设置特征矩阵Input。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10072_html.md ## CANN商业版-SetWeight - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10073.html - Description: 设置权重矩阵Weight。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10073_html.md ## CANN商业版-SetBias - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10074.html - Description: 设置偏置矩阵Bias。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10074_html.md ## CANN商业版-SetSingleOutputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10075.html - Description: 设置单核上结果矩阵Output的形状。 Conv3D高阶API目前支持M合轴模式的输出方式。在M合轴模式下,Conv3D API内部将Wout和Hout视为同一轴处理,输出时先沿Wout方向输出,完成一整行Wout输出后,再进行下一行的Wout输出。 图1 M合轴模式示意图 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10075_html.md ## CANN商业版-SetInputStartPosition - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10076.html - Description: 设置单核上特征矩阵Input载入数据的起始位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10076_html.md ## CANN商业版-IterateAll - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10077.html - Description: 通过设置结果矩阵Output在GM上的首地址,本接口一次性计算singleCo singleDo singleM大小的数据块,并写到结果矩阵Output中。 本接口提供单核内卷积计算能力,singleCo为多核切分后单个核内的输出通道大小;singleDo为多核切分后单个核内的Dout大小;singleM为多核切分后单个核内的M大小。singleCo、singleDo和singleM的大小通过 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10077_html.md ## CANN商业版-End - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10078.html - Description: 在Conv3D计算完成后,必须调用一次End函数,以清除EventID并释放内部申请的临时内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10078_html.md ## CANN商业版-ContextBuilder类提供一系列的API接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1008.html - Description: ContextBuilder类提供一系列的API接口,支持手动构造TilingContext\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/maintenref/basicdataapi/atlasopapi\_07\_00223.html\)类来验证Tiling函数以及KernelContext类用于TilingParse函 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1008_html.md ## Conv3D Tiling使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10080.html - Description: Ascend C提供一组Conv3D Tiling API,方便用户获取Conv3D正向算子Kernel计算时所需的Tiling参数。用户只需要传入Input/Weight/Bias/Output的Position位置、Format格式和DType数据类型及相关参数等信息,调用API接口,即可获取Init中TConv3DApiTiling结构体中的相关参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10080_html.md ## Conv3D Tiling构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10081.html - Description: 用于创建一个Conv3D单核Tiling对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10081_html.md ## TConv3DApiTiling结构体 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10082.html - Description: TConv3DApiTiling结构体包含Conv3D算子规格信息及Tiling切分算法的相关参数,被传递给Conv3D Kernel侧,用于数据切分、数据搬运和计算等。TConv3DApiTiling结构体的参数说明见表1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10082_html.md ## CANN商业版-GetTiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10083.html - Description: 获取Tiling参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10083_html.md ## CANN商业版-SetOrgWeightShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10084.html - Description: 设置权重矩阵Weight的原始形状。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10084_html.md ## CANN商业版-SetOrgInputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10085.html - Description: 设置特征矩阵Input的原始形状。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10085_html.md ## CANN商业版-SetSingleWeightShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10086.html - Description: 设置单核上权重矩阵Weight的形状。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10086_html.md ## CANN商业版-SetSingleOutputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10087.html - Description: 设置单核上结果矩阵Output的形状。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10087_html.md ## CANN商业版-SetInputType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10088.html - Description: 设置Input在内存上的位置、数据格式和数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10088_html.md ## CANN商业版-SetWeightType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10089.html - Description: 设置Weight在内存上的位置、数据格式和数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10089_html.md ## ContextBuilder构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1009.html - Description: 创建ContextBuilder对象时,初始化数据成员。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1009_html.md ## CANN商业版-SetBiasType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10090.html - Description: 设置Bias在内存上的位置、数据格式和数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10090_html.md ## CANN商业版-SetOutputType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10091.html - Description: 设置结果矩阵Output在内存上的位置、数据格式和数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10091_html.md ## CANN商业版-SetPadding - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10092.html - Description: \#\#\#\# 功能说明 设置Pad信息。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10092_html.md ## CANN商业版-SetDilation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10093.html - Description: 设置Dilation信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10093_html.md ## CANN商业版-SetStride - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10094.html - Description: 设置Stride信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10094_html.md ## CANN商业版-SetGroups - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10095.html - Description: 设置分组卷积的分组大小。分组大小为1表示普通卷积。当前Conv3D 高阶API不支持分组卷积。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10095_html.md ## CANN商业版-MultiCoreMatmulGetTmpBufSizeV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10096.html - Description: 多核Matmul Tiling调用GetTiling接口获取Tiling参数后,根据Tiling结构体信息获取L1 Buffer/Unified Buffer/L0C Buffer的使用大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10096_html.md ## CANN商业版-BatchMatmulGetTmpBufSizeV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10097.html - Description: BatchMatmul\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlas\_ascendc\_10\_0041.html\)Tiling调用GetTiling接口获取Tiling参数后,根据Tiling结构体信息获取L1 Buffer/Unified Buffer/L0C - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10097_html.md ## CANN商业版-MatmulGetTmpBufSizeV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10098.html - Description: 单核Matmul Tiling调用GetTiling接口获取Tiling参数后,根据Tiling结构体信息获取L1 Buffer/Unified Buffer/L0C Buffer的使用大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10098_html.md ## KernelRunContextHolder结构定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1010.html - Description: 该结构体为ContextBuilder类最终的构造结果,可通过指定的接口获取内部算子信息或获取KernelContext类的对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1010_html.md ## CANN商业版-integer\_sequence - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10106.html - Description: indexsequence是Ascend C提供的一个类模板,用于生成一个编译时的整数序列,适用于模板元编程。 makeindexsequence是Ascend C提供的一个模板,通常使用makeindexsequence创建一个indexsequence类型的对象,用于生成一个从0到N-1的整数序列。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10106_html.md ## CANN商业版-tuple - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10108.html - Description: 在C++中,tuple是一个功能强大的容器,它允许存储多个不同类型的元素。具体使用场景如下: - 当一个函数需要返回多个不同类型的值时,使用tuple是一个很好的选择。它避免了创建结构体或类来封装多个返回值,尤其是在不需要为这些返回值创建单独的类型时。 - 当需要存储不同类型的数据,可以使用tuple来存储异构元素。例如,存储数据的查询结果,其中包含不同类型的字段。 - 在函数调用中,当需要传递多 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10108_html.md ## CANN商业版-get - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10109.html - Description: get的作用是从tuple容器中提取指定位置的元素。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10109_html.md ## CANN商业版-Inputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1011.html - Description: 将void* 指针的vector设置为KernelContext的inputs - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1011_html.md ## CANN商业版-make\_tuple - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10110.html - Description: maketuple是一个实用的函数模板,其作用在于便捷地创建tuple对象。它可以自动推断元素的类型,使代码更简洁,也可以构造元素列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10110_html.md ## CANN商业版-SetSparse - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10111.html - Description: 设置Matmul的使用场景是否为Sparse Matmul场景Sparse Matmul场景\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlas\_ascendc\_10\_10021.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10111_html.md ## CANN商业版-SetSparseIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10112.html - Description: 设置稀疏矩阵稠密化过程生成的索引矩阵。 索引矩阵在稠密化中的作用请参考MmadWithSparse。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10112_html.md ## CANN商业版-is\_convertible - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10114.html - Description: isconvertible是定义于头文件的一个类型转换检查工具,它提供了一种在程序编译时进行类型转换检查的机制:判断两个类型之间是否可以进行隐式转换并返回结果布尔值。本接口可应用在模板元编程、函数重载决议以及静态断言等场景,用于在程序编译阶段捕获潜在的类型转换错误,避免发生运行时错误。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10114_html.md ## CANN商业版-is\_base\_of - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10115.html - Description: isbaseof是定义于头文件的一个类型特征工具,它能够在程序编译时检查一个类型是否为另一个类型的基类。本接口可应用在模板元编程、类型检查和条件编译等场景,用于在编译阶段捕获潜在的类型错误,提高代码的鲁棒性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10115_html.md ## CANN商业版-is\_same - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10116.html - Description: issame是定义在头文件里的一个类型特征工具,它能够在程序编译时判断两个类型是否完全相同。本接口可应用在模板元编程、类型检查、条件编译等场景,用于在编译阶段确定类型信息,避免运行时可能出现的类型不匹配问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10116_html.md ## CANN商业版-enable\_if - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10117.html - Description: enableif是定义于头文件的一个模板元编程工具,它能够在程序编译时根据某个条件启用或禁用特定的函数模板、类模板或模板特化,以此实现更精细的模板重载和类型选择,增强代码的灵活性和安全性。 enableif是一个模板结构体,有两个模板参数:模板参数Bp是一个布尔值,表示条件;模板参数Tp是一个类型,默认值为void。当Bp为false时,enableif没有嵌套的type成员。当Bp为true时, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10117_html.md ## CANN商业版-conditional - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10118.html - Description: conditional是定义在头文件里的一个类型特征工具,它在程序编译时根据一个布尔条件从两个类型中选择一个类型。本接口可应用在模板元编程中,用于根据不同的条件来灵活选择合适的类型,增强代码的通用性和灵活性。 conditional有一个嵌套的type成员,它的值取决于Bp的值:如果Bp为true,则conditional::type为If。如果Bp为false,则conditional::typ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10118_html.md ## CANN商业版-Outputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1012.html - Description: 将void* 指针的vector设置为KernelContext的output。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1012_html.md ## CANN商业版-BuildKernelRunContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1013.html - Description: 构造KernelRunContext并返回KernelRunContextHolder的智能指针,该对象可通过GetContext接口获取KernelContext类型的对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1013_html.md ## CANN商业版-BatchWrite - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10132.html - Description: 集合通信BatchWrite的任务下发接口,返回该任务的标识handleId给用户。BatchWrite实现了一种点对点通信,这是一种直接传输数据的通信模式,能够同时将多份数据发送到不同的Global Memory地址上。 对于 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 ,BatchWrite通信支持在相同或不同的昇腾AI Server之间进行。 对于 Atlas A2 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10132_html.md ## CANN商业版-NodeIoNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1014.html - Description: 声明算子定义的输入与输出个数 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1014_html.md ## CANN商业版-ReduceAny - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10142.html - Description: 对一个多维向量在指定的维度求逻辑或。 定义指定计算的维度(Reduce轴)为R轴,非指定维度(Normal轴)为A轴。如下图所示,对shape为\(2, 3\)的二维矩阵进行运算,指定在第一维求逻辑或,输出结果为\[1, 0, 1\];指定在第二维求逻辑或,输出结果为\[1, 1\]。 图1 ReduceAny按第一个维度计算示例 图2 ReduceAny按最后一个维度计算示例 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10142_html.md ## CANN商业版-GetReduceAnyMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10143.html - Description: kernel侧ReduceAny接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10143_html.md ## CANN商业版-ReduceAll - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10145.html - Description: 对一个多维向量在指定的维度求逻辑与。 定义指定计算的维度(Reduce轴)为R轴,非指定维度(Normal轴)为A轴。如下图所示,对shape为\(2, 3\)的二维矩阵进行运算,指定在第一维求逻辑与,输出结果为\[1, 0, 0\];指定在第二维求逻辑与,输出结果为\[0, 0\]。 图1 ReduceAll按第一个维度计算示例 图2 ReduceAll按最后一个维度计算示例 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10145_html.md ## CANN商业版-GetReduceAllMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10146.html - Description: kernel侧ReduceAll接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10146_html.md ## CANN商业版-GetReduceMaxMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10147.html - Description: kernel侧ReduceMax接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10147_html.md ## CANN商业版-GetReduceMinMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10148.html - Description: kernel侧ReduceMin接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10148_html.md ## CANN商业版-SetOpNameType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1015.html - Description: 设置算子的名字与类型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1015_html.md ## CANN商业版-ReduceProd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10150.html - Description: 对一个多维向量在指定的维度求积。 定义指定计算的维度(Reduce轴)为R轴,非指定维度(Normal轴)为A轴。如下图所示,对shape为\(2, 3\)的二维矩阵进行运算,指定在第一维求乘积,输出结果为\[4, 10, 18\];指定在第二维求乘积,输出结果为\[6, 120\]。 图1 ReduceProd按第一个维度计算示例 图2 ReduceProd按最后一个维度计算示例 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10150_html.md ## CANN商业版-GetReduceProdMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10151.html - Description: kernel侧ReduceProd接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10151_html.md ## CANN商业版-Hypot - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10153.html - Description: 按元素计算两个浮点数平方和的平方根。计算公式如下: 举例如下: Hypot\(3.0, 4.0\) \= 5.0 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10153_html.md ## CANN商业版-GetHypotMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10154.html - Description: kernel侧Hypot接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10154_html.md ## CANN商业版-GetHypotTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10155.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10155_html.md ## CANN商业版-ReduceMean - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10157.html - Description: 对一个多维向量按照指定的维度求平均值。 定义指定计算的维度(Reduce轴)为R轴,非指定维度(Normal轴)为A轴。如下图所示,对shape为\(2, 3\)的二维矩阵进行运算,对第一维计算数据求平均值,输出结果为\[2.5, 3.5, 4.5\];对第二维计算数据求平均值,输出结果为\[2, 5\]。 图1 ReduceMean按第一个维度计算示例 图2 ReduceMean最后一个维度计算示例 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10157_html.md ## CANN商业版-SetScaleAType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10158.html - Description: MxMatmul场景\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlas\_ascendc\_10\_10029.html\),设置scaleA矩阵的位置、数据格式、是否转置等信息,这些信息需要和Kernel侧的设置保持一致。如果不调用本接口,scaleA矩阵的信息将与Set - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10158_html.md ## CANN商业版-SetScaleBType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10159.html - Description: MxMatmul场景\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlas\_ascendc\_10\_10029.html\),设置scaleB矩阵的位置、数据格式、是否转置等信息,这些信息需要和Kernel侧的设置保持一致。如果不调用本接口,scaleB矩阵的信息将与Set - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10159_html.md ## CANN商业版-IrInstanceNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1016.html - Description: 基于算子的IR定义,声明实例化时每种输入的实际个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1016_html.md ## CANN商业版-GetReduceSumMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10160.html - Description: kernel侧ReduceSum接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10160_html.md ## CANN商业版-GetReduceMeanMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10161.html - Description: kernel侧ReduceMean接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10161_html.md ## CANN商业版-Iterate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10162.html - Description: 在某些算法下,一次完整的集合通信任务可以细分为多个步骤,对每个步骤的数据完成点对点的通信任务,称为细粒度通信。以通信算法"AlltoAll\=level0:fullmesh;level1:pairwise"、通信步长为1的AlltoAllV通信任务为例,这里参数level0代表配置Server(昇腾AI Server,通常是8卡或16卡的昇腾NPU设备组成的服务器形态的统称)内通信算法,参数leve - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10162_html.md ## CANN商业版-Dequantize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10164.html - Description: 按元素做反量化计算,比如将int32t数据类型反量化为half/float等数据类型。本接口最多支持输入为二维数据,不支持更高维度的输入。 Dequantize与AscendDequant的功能类似,本接口在不同量化场景下的形式更统一,因此推荐使用本接口。 本接口的反量化策略包括PERTENSOR,PERCHANNEL,PERTOKEN,PERGROUP四种,反量化系数scale在PERTENSO - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10164_html.md ## CANN商业版-GetDequantizeMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10165.html - Description: kernel侧Dequantize接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10165_html.md ## CANN商业版-AntiQuantize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10166.html - Description: 按元素做伪量化计算,比如将int8t数据类型伪量化为half数据类型。本接口最多支持输入为二维数据,不支持更高维度的输入。 AntiQuantize与AscendAntiQuant的功能类似,本接口在不同量化场景下的形式更统一,因此推荐使用本接口。 本接口的伪量化策略包括PERTENSOR,PERCHANNEL,PERTOKEN,PERGROUP四种,反量化系数scale、offset在PERTE - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10166_html.md ## CANN商业版-GetAntiQuantizeMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10167.html - Description: kernel侧AntiQuantize接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10167_html.md ## CANN商业版-Quantize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10168.html - Description: 按元素做量化计算,将高精度数据转换为低精度数据。本接口的量化策略包括PERTENSOR,PERCHANNEL,PERTOKEN和PERGROUP四种,每种量化策略均支持配置舍入模式。本接口最多支持输入为二维数据,不支持更高维度的输入。 Quantize与AscendQuant的功能类似,Quantize在PERTENSOR、PERCHANNEL量化场景,扩展了配置舍入模式的功能,因此推荐使用本接口 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10168_html.md ## CANN商业版-GetQuantizeMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10169.html - Description: kernel侧Quantize接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10169_html.md ## CANN商业版-AddInputTd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1017.html - Description: 为算子增加输入Tensor的描述 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1017_html.md ## CANN商业版-AddOutputTd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1018.html - Description: 为算子增加输入Tensor的描述。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1018_html.md ## Matmul特性场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10180.html - Description: 除了前述介绍的Matmul基本计算能力外,还请掌握Matmul的基础知识\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlas\_ascendc\_10\_0037.html\)和算子实现\(https://www.hiascend.comdocument/detail/zh/c - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10180_html.md ## CANN商业版-TransData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10181.html - Description: 将输入数据的排布格式转换为目标排布格式。关于数据格式的详细内容请参考数据排布格式\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlasascendc100099.html\)。 本接口支持的数据格式转换场景包括以下四种,除维度顺序变换外,其中涉及到C轴和N轴的拆分,具体转 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10181_html.md ## CANN商业版-GetTransDataMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10182.html - Description: kernel侧TransData接口的计算需要开发者预留/申请临时空间,本接口用于在host侧获取预留/申请的最大最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10182_html.md ## CANN商业版-sqrt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10183.html - Description: 计算输入数据的平方根。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10183_html.md ## CANN商业版-abs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10184.html - Description: 获取输入数据的绝对值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10184_html.md ## Conv3D模板参数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10186.html - Description: 创建Conv3D对象时需要传入: - Input、Weight、Output和Bias(可选)的参数类型信息, 类型信息通过 ConvType 来定义,包括:内存逻辑位置、数据格式、数据类型。 - Conv3dParam信息(可选),用于使能不同场景的性能优化模板。当前暂不支持使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10186_html.md ## CANN商业版-AddAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1019.html - Description: 设置算子的属性以及对应值 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1019_html.md ## CANN商业版-SetOutputPadding - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10192.html - Description: 构建Conv3DTranspose算子时,设置输出的Padding大小,用于推导输出的形状。在构建Conv3DBackpropInput算子时,此接口无实际意义,请勿使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10192_html.md ## CANN商业版-SetStartPosition - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10193.html - Description: 设置单核上GradOutput载入数据的起始位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10193_html.md ## CANN商业版-integral\_constant - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10198.html - Description: integralconstant是一个带有模板参数的结构体,定义在头文件中,用于封装一个编译时常量整数值,是标准库中许多类型特性和编译时计算的基础组件。 integralconstant的功能如下: 1. 封装编译时常量,将一个int或bool类型的值封装为特定类型,以便该值可以在编译时被操作和传递。 2. 类型标识,每个不同的integralconstant实例都是唯一的类型,可用于模板特化或重 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10198_html.md ## CANN商业版-QueueBarrier - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10199.html - Description: 阻塞服务端上指定队列的BatchWrite通信任务,直到指定范围内所有队列上的任务完成执行,从而实现指定范围内队列的同步。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10199_html.md ## CANN商业版-CompileInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1020.html - Description: 将指向CompileInfo的指针传入TilingContext - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1020_html.md ## CANN商业版-GetQueueNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10200.html - Description: 获取BatchWrite通信任务的通信队列数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10200_html.md ## CANN商业版-SetQueueNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10201.html - Description: 设置每个向服务端下发任务的核上的BatchWrite通信队列数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10201_html.md ## CANN商业版-SetCommBlockNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10202.html - Description: 设置参与BatchWrite通信的核数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10202_html.md ## CANN商业版-Fma - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10208.html - Description: 按元素计算两个输入相乘后与第三个输入相加的结果。计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10208_html.md ## CANN商业版-GetFmaMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10209.html - Description: Kernel侧Fma接口的计算需要开发者预留/申请临时空间,本接口用于在Host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到Kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10209_html.md ## CANN商业版-PlatformInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1021.html - Description: 将指向fe::PlatFormInfos的指针传入TilingContext。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1021_html.md ## CANN商业版-GetFmaTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10210.html - Description: 该接口用于获取maxLivedNodeCount和extraBuf,在固定空间大小的情况下,通过maxLivedNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLivedNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10210_html.md ## CANN商业版-IsNan - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10211.html - Description: 按元素判断输入的浮点数是否为nan,输出结果为浮点数或布尔值。当输出为浮点类型时,对于nan的输入数据,对应位置的结果为浮点类型的1,反之为0;当输出为bool类型时,对于nan的输入数据,对应位置的结果为true,反之为false。计算公式如下: - 当输出为浮点类型时: - 当输出为bool类型时: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10211_html.md ## CANN商业版-IsInf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10212.html - Description: 按元素判断输入的浮点数是否为±INF,输出结果为浮点数或布尔值。当输出为浮点类型时,对于±INF的输入数据,对应位置的结果为浮点类型的1,反之为0;当输出为bool类型时,对于±INF的输入数据,对应位置的结果为true,反之为false。计算公式如下: - 当输出为浮点类型时: - 当输出为bool类型时: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10212_html.md ## CANN商业版-Rint - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10213.html - Description: 获取与输入数据最接近的整数,若存在两个同样接近的整数,则获取其中的偶数。计算公式如下: 举例如下: Rint\(3.9\) \= 4 Rint\(3.3\) \= 3 Rint\(3.5\) \= 4 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10213_html.md ## CANN商业版-GetRintMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10214.html - Description: Kernel侧Rint接口的计算需要开发者预留/申请临时空间,本接口用于在Host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到Kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10214_html.md ## CANN商业版-GetRintTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10215.html - Description: 该接口用于获取maxLivedNodeCount和extraBuf,在固定空间大小的情况下,通过maxLivedNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLivedNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10215_html.md ## CANN商业版-SinCos - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10216.html - Description: 按元素进行正弦计算和余弦计算,分别获得正弦和余弦的结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10216_html.md ## CANN商业版-GetSinCosMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10217.html - Description: Kernel侧SinCos接口的计算需要开发者预留/申请临时空间,本接口用于在Host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到Kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10217_html.md ## CANN商业版-GetSinCosTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10218.html - Description: 该接口用于获取maxLivedNodeCount和extraBuf,在固定空间大小的情况下,通过maxLivedNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLivedNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10218_html.md ## CANN商业版-TilingData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1022.html - Description: 传入指向TilingData的void* 指针 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1022_html.md ## CANN商业版-InitV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10221.html - Description: HCCL客户端初始化接口。该接口默认在所有核上工作,用户也可以在调用前通过GetBlockIdx指定其在某一个核上运行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10221_html.md ## CANN商业版-SetCcTilingV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10222.html - Description: 用于设置HCCL客户端中某个通信算法配置的TilingData地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10222_html.md ## CANN商业版-GetIsNanMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10229.html - Description: Kernel侧IsNan接口的计算需要开发者预留/申请临时空间,本接口用于在Host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到Kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10229_html.md ## CANN商业版-Workspace - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1023.html - Description: 传入指向gert::ContinuousVector的指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1023_html.md ## CANN商业版-GetIsNanTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10230.html - Description: 该接口用于获取maxLivedNodeCount和extraBuf,在固定空间大小的情况下,通过maxLivedNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLivedNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10230_html.md ## CANN商业版-GetIsInfMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10231.html - Description: Kernel侧IsInf接口的计算需要开发者预留/申请临时空间,本接口用于在Host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到Kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10231_html.md ## CANN商业版-GetIsInfTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10232.html - Description: 该接口用于获取maxLivedNodeCount和extraBuf,在固定空间大小的情况下,通过maxLivedNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLivedNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10232_html.md ## CANN商业版-Clamp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10233.html - Description: 将输入中除nan值以外大于max的数替换为max,小于min的数替换为min,小于等于max和大于等于min的数保持不变,作为输出。当min大于max时,将除nan值外所有值替换为max。min和max可以为标量或LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10233_html.md ## CANN商业版-GetLogicalNotMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10235.html - Description: Kernel侧LogicalNot接口的计算需要开发者预留/申请临时空间,本接口用于在Host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到Kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10235_html.md ## CANN商业版-GetLogicalNotTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10236.html - Description: 该接口用于获取maxLivedNodeCount和extraBuf,在固定空间大小的情况下,通过maxLivedNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLivedNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10236_html.md ## CANN商业版-GetLogicalAndMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10238.html - Description: Kernel侧LogicalAnd接口的计算需要开发者预留/申请临时空间,本接口用于在Host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到Kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10238_html.md ## CANN商业版-GetLogicalAndTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10239.html - Description: 该接口用于获取maxLivedNodeCount和extraBuf,在固定空间大小的情况下,通过maxLivedNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLivedNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10239_html.md ## CANN商业版-BuildTilingContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1024.html - Description: 构造KernelRunContextHolder的对象,该对象可通过GetContext接口获取TilingContext类型的对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1024_html.md ## CANN商业版-GetLogicalOrMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10241.html - Description: Kernel侧LogicalOr接口的计算需要开发者预留/申请临时空间,本接口用于在Host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到Kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10241_html.md ## CANN商业版-GetLogicalOrTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10242.html - Description: 该接口用于获取maxLivedNodeCount和extraBuf,在固定空间大小的情况下,通过maxLivedNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLivedNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10242_html.md ## CANN商业版-GetBitwiseAndMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10244.html - Description: Kernel侧BitwiseAnd接口的计算需要开发者预留/申请临时空间,本接口用于在Host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到Kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10244_html.md ## CANN商业版-GetBitwiseAndTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10245.html - Description: 该接口用于获取maxLivedNodeCount和extraBuf,在固定空间大小的情况下,通过maxLivedNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLivedNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10245_html.md ## CANN商业版-LogicalNot - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10246.html - Description: 按元素进行取反操作。当输入的数据类型不是bool时,零被视为False,非零数据被视为True。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10246_html.md ## CANN商业版-LogicalAnd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10247.html - Description: 按元素进行与操作。当输入的数据类型不是bool时,零被视为False,非零数据被视为True。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10247_html.md ## CANN商业版-LogicalOr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10248.html - Description: 按元素进行或操作。当输入的数据类型不是bool时,零被视为False,非零数据被视为True。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10248_html.md ## CANN商业版-BitwiseAnd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10249.html - Description: 逐比特对两个输入进行与操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10249_html.md ## CANN商业版-AlltoAllvWrite - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10250.html - Description: 集合通信AlltoAllvWrite的任务下发接口,返回该任务的标识handleId给用户。 AlltoAllvWrite的功能为:通信域内的卡互相发送和接收数据,并且定制每张卡给其它卡发送的数据量和从其它卡接收的数据量,以及定制发送和接收的数据在内存中的偏移。结合原型中的参数,描述接口功能,具体为:本卡发送地址偏移为sendOffsets\[i\]字节且大小为sendSizes\[i\]字节的数据给第i - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10250_html.md ## CANN商业版-LogicalAnds - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10252.html - Description: 输入矢量内的每个元素与标量进行与操作。当输入矢量、标量的数据类型不是bool时,零被视为False,非零数据被视为True。接口中矢量与标量的顺序支持标量在前和标量在后两种场景,其中,标量支持配置为LocalTensor的单点元素。计算公式如下,idx表示LocalTensor单点元素的位置系数: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10252_html.md ## CANN商业版-GetLogicalAndsMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10253.html - Description: Kernel侧LogicalAnds接口的计算需要开发者预留/申请临时空间,本接口用于在Host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到Kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10253_html.md ## CANN商业版-GetLogicalAndsTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10254.html - Description: 该接口用于获取maxLivedNodeCount和extraBuf,在固定空间大小的情况下,通过maxLivedNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLivedNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10254_html.md ## CANN商业版-LogicalOrs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10256.html - Description: 输入矢量内的每个元素与标量进行或操作。当输入矢量、标量的数据类型不是bool时,零被视为False,非零数据被视为True。接口中矢量与标量的顺序支持标量在前和标量在后两种场景,其中,标量支持配置为LocalTensor的单点元素。计算公式如下,idx表示LocalTensor单点元素的位置系数: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10256_html.md ## CANN商业版-GetLogicalOrsMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10257.html - Description: Kernel侧LogicalOrs接口的计算需要开发者预留/申请临时空间,本接口用于在Host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到Kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10257_html.md ## CANN商业版-GetLogicalOrsTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10258.html - Description: 该接口用于获取maxLivedNodeCount和extraBuf,在固定空间大小的情况下,通过maxLivedNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLivedNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10258_html.md ## CANN商业版-Where - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10260.html - Description: 根据指定的条件,从两个源操作数中选择元素,生成目标操作数。两个源操作数均可以是LocalTensor或标量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10260_html.md ## CANN商业版-GetWhereMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10261.html - Description: Kernel侧Where接口的计算需要开发者预留/申请临时空间,本接口用于在Host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到Kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10261_html.md ## CANN商业版-GetWhereTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10262.html - Description: 该接口用于获取maxLivedNodeCount和extraBuf,在固定空间大小的情况下,通过maxLivedNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLivedNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10262_html.md ## CANN商业版-EnableL1BankConflictOptimise - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10263.html - Description: 根据GetTiling接口计算出的Tiling参数,获取是否可以开启L1 Bank冲突优化功能。若可以开启该功能,则与TilingKey\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlas\_ascendc\_10\_00021.html\#ZH-CN\_TOPIC\_00000 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10263_html.md ## CANN商业版-BitwiseNot - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10265.html - Description: 逐比特对输入进行取反。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10265_html.md ## CANN商业版-GetBitwiseNotMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10266.html - Description: Kernel侧BitwiseNot接口的计算需要开发者预留/申请临时空间,本接口用于在Host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到Kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10266_html.md ## CANN商业版-GetBitwiseNotTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10267.html - Description: 该接口用于获取maxLivedNodeCount和extraBuf,在固定空间大小的情况下,通过maxLivedNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLivedNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10267_html.md ## CANN商业版-BitwiseOr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10269.html - Description: 逐比特对两个输入进行或操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10269_html.md ## 构造及析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1027.html - Description: 在实现Host侧的Tiling函数时,可能需要获取一些硬件平台的信息,来支撑Tiling的计算,比如获取硬件平台的核数等信息。PlatformAscendC类提供获取这些平台信息的功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1027_html.md ## CANN商业版-GetBitwiseOrMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10270.html - Description: Kernel侧BitwiseOr接口的计算需要开发者预留/申请临时空间,本接口用于在Host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到Kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10270_html.md ## CANN商业版-GetBitwiseOrTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10271.html - Description: 该接口用于获取maxLivedNodeCount和extraBuf,在固定空间大小的情况下,通过maxLivedNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLivedNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10271_html.md ## CANN商业版-BitwiseXor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10273.html - Description: 逐比特对两个输入进行异或操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10273_html.md ## CANN商业版-GetBitwiseXorMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10274.html - Description: Kernel侧BitwiseXor接口的计算需要开发者预留/申请临时空间,本接口用于在Host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到Kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10274_html.md ## CANN商业版-GetBitwiseXorTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10275.html - Description: 该接口用于获取maxLivedNodeCount和extraBuf,在固定空间大小的情况下,通过maxLivedNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLivedNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10275_html.md ## CANN商业版-LogicalXor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10277.html - Description: 按元素进行逻辑异或操作。当输入的数据类型不是bool时,零被视为False,非零数据被视为True。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10277_html.md ## CANN商业版-GetLogicalXorMaxMinTmpSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10278.html - Description: Kernel侧LogicalXor接口的计算需要开发者预留/申请临时空间,本接口用于在Host侧获取预留/申请的最大和最小临时空间大小,开发者基于此范围选择合适的空间大小作为Tiling参数传递到Kernel侧使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10278_html.md ## CANN商业版-GetLogicalXorTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10279.html - Description: 该接口用于获取maxLivedNodeCount和extraBuf,在固定空间大小的情况下,通过maxLivedNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLivedNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10279_html.md ## CANN商业版-GetCoreNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1028.html - Description: 获取当前硬件平台的核数。若AI Core的架构为Cube、Vector分离模式,返回Vector Core的核数;耦合模式返回AI Core的核数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1028_html.md ## CANN商业版-GetSocVersion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1029.html - Description: 获取当前硬件平台版本型号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1029_html.md ## CANN商业版-GetAscendQuantTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10296.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10296_html.md ## CANN商业版-GetAscendDequantTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10297.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10297_html.md ## CANN商业版-GetAscendAntiQuantTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10298.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10298_html.md ## CANN商业版-GetQuantizeTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10299.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10299_html.md ## CANN商业版-GetCoreNumAic - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1030.html - Description: 获取当前硬件平台AI Core中Cube核数。若AI Core的架构为Cube、Vector分离模式,返回Cube Core的核数;耦合模式返回AI Core的核数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1030_html.md ## CANN商业版-GetDequantizeTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10300.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10300_html.md ## CANN商业版-GetAntiQuantizeTmpBufferFactorSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10301.html - Description: 该接口用于获取maxLiveNodeCount和extraBuf,在固定空间大小的情况下,通过maxLiveNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLiveNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10301_html.md ## CANN商业版-asc\_vf\_call - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10303.html - Description: 在SIMD与SIMT混合编程场景,启动SIMT VF(Vector Function)子任务,通过参数配置,启动指定数目的线程,执行指定的SIMT核函数。 ascvfcall启动SIMT VF子任务时,子任务函数不能是类的成员函数,推荐使用普通函数或类静态函数,且入口函数必须使用simtvf修饰宏。 ascvfcall启动SIMT VF子任务时,传递的参数只支持裸指针,常见基本数据类型。不支持传递 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10303_html.md ## CANN商业版-asc\_syncthreads - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10306.html - Description: 等待当前线程块内所有线程代码都执行到该函数位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10306_html.md ## CANN商业版-asc\_threadfence - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10307.html - Description: 在SIMT编程范式中,来自不同线程对同一份内存的读写操作可能造成数据竞争(Data Race)。ascthreadfence接口用于保证不同线程对同一份全局、共享内存的访问过程中,写入操作的时序性。它不会阻塞线程,仅保证内存操作的可见性顺序。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10307_html.md ## CANN商业版-GetCoreNumAiv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1031.html - Description: 获取当前硬件平台AI Core中Vector核数。若AI Core的架构为Cube、Vector分离模式,返回Vector Core的核数;耦合模式返回AI Core的核数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1031_html.md ## CANN商业版-tanf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10315.html - Description: 获取输入数据的三角函数正切值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10315_html.md ## CANN商业版-tanhf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10316.html - Description: 获取输入数据的三角函数双曲正切值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10316_html.md ## CANN商业版-tanpif - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10317.html - Description: 获取输入数据与π相乘的正切值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10317_html.md ## CANN商业版-atanf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10318.html - Description: 获取输入数据的反正切值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10318_html.md ## CANN商业版-atan2f - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10319.html - Description: 获取输入数据y/x的反正切值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10319_html.md ## CANN商业版-GetCoreNumVector - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1032.html - Description: 用于获取硬件平台独立的Vector Core的核数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1032_html.md ## CANN商业版-atanhf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10320.html - Description: 获取输入数据的反双曲正切值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10320_html.md ## CANN商业版-expf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10321.html - Description: 指定输入x,获取e的x次方。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10321_html.md ## CANN商业版-exp2f - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10322.html - Description: 指定输入x,获取2的x次方。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10322_html.md ## CANN商业版-exp10f - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10323.html - Description: 指定输入x,获取10的x次方。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10323_html.md ## CANN商业版-expm1f - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10324.html - Description: 指定输入x,获取e的x次方减1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10324_html.md ## CANN商业版-logf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10325.html - Description: 获取以e为底,输入数据的对数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10325_html.md ## CANN商业版-log2f - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10326.html - Description: 获取以2为底,输入数据的对数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10326_html.md ## CANN商业版-log10f - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10327.html - Description: 获取以10为底,输入数据的对数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10327_html.md ## CANN商业版-log1pf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10328.html - Description: 获取以e为底,输入数据加1的对数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10328_html.md ## CANN商业版-logbf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10329.html - Description: 计算以2为底,输入数据的对数,并对结果向下取整,返回浮点数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10329_html.md ## CANN商业版-CalcTschNumBlocks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1033.html - Description: 针对Cube、Vector分离模式,用于计算Cube、Vector融合算子的numBlocks。针对Vector/Cube融合计算的算子,启动时,按照AIV和AIC组合启动,numBlocks用于设置启动多少个组合执行,比如某款AI处理器上有40个Vector核+20个Cube核,一个组合是2个Vector和1个Cube核,建议设置为20,此时会启动20个组合,即40个Vector和20个Cube - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1033_html.md ## CANN商业版-ilogbf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10330.html - Description: 计算以2为底,输入数据的对数,并对结果向下取整,返回整数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10330_html.md ## CANN商业版-cosf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10331.html - Description: 获取输入数据的三角函数余弦值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10331_html.md ## CANN商业版-coshf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10332.html - Description: 获取输入数据的双曲余弦值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10332_html.md ## CANN商业版-cospif - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10333.html - Description: 获取输入数据与π相乘的余弦值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10333_html.md ## CANN商业版-acosf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10334.html - Description: 获取输入数据的反余弦值。 arcsin\(x\)为反正弦函数的计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10334_html.md ## CANN商业版-acoshf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10335.html - Description: 获取输入数据的双曲反余弦值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10335_html.md ## CANN商业版-sinf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10336.html - Description: 获取输入数据的三角函数正弦值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10336_html.md ## CANN商业版-sinhf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10337.html - Description: 获取输入数据的双曲正弦值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10337_html.md ## CANN商业版-sinpif - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10338.html - Description: 获取输入数据与π相乘的正弦值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10338_html.md ## CANN商业版-asinf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10339.html - Description: 获取输入数据的反正弦值。 arcsin\(x\)为反正弦函数的计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10339_html.md ## CANN商业版-GetCoreMemSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1034.html - Description: 获取硬件平台存储空间的内存大小,例如L1、L0\_A、L0\_B、L2等,支持的存储空间类型定义如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1034_html.md ## CANN商业版-asinhf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10340.html - Description: 获取输入数据的双曲反正弦值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10340_html.md ## CANN商业版-sincosf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10341.html - Description: 获取输入数据的三角函数正弦值和余弦值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10341_html.md ## CANN商业版-sincospif - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10342.html - Description: 获取输入数据与π相乘的三角函数正弦值和余弦值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10342_html.md ## CANN商业版-frexpf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10343.html - Description: 将x转换为归一化\[1/2, 1\)的有符号数乘以2的积分幂。返回归一化的有符号数,指数存储在exp中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10343_html.md ## CANN商业版-ldexpf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10344.html - Description: 获取输入x乘以2的exp次幂的结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10344_html.md ## CANN商业版-sqrtf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10345.html - Description: 获取输入数据x的平方根。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10345_html.md ## CANN商业版-rsqrtf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10346.html - Description: 获取输入数据x的平方根的倒数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10346_html.md ## CANN商业版-hypotf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10347.html - Description: 获取输入数据x、y的平方和x^2 + y^2的平方根。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10347_html.md ## CANN商业版-rhypotf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10348.html - Description: 获取输入数据x、y的平方和x^2 + y^2的平方根的倒数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10348_html.md ## CANN商业版-powf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10349.html - Description: 获取输入数据x的y次幂。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10349_html.md ## CANN商业版-GetCoreMemBw - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1035.html - Description: 获取硬件平台存储空间的带宽大小。硬件存储空间类型定义如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1035_html.md ## CANN商业版-norm3df - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10350.html - Description: 获取输入数据a、b、c的平方和a^2 + b^2 + c^2的平方根。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10350_html.md ## CANN商业版-rnorm3df - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10351.html - Description: 获取输入数据a、b、c的平方和a^2 + b^2 + c^2的平方根的倒数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10351_html.md ## CANN商业版-norm4df - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10352.html - Description: 获取输入数据a、b、c、d的平方和a^2 + b^2+ c^2+ d^2的平方根。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10352_html.md ## CANN商业版-rnorm4df - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10353.html - Description: 获取输入数据a、b、c、d的平方和a^2 + b^2 + c^2 + d^2的平方根的倒数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10353_html.md ## CANN商业版-normf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10354.html - Description: 获取输入数据a中前n个元素的平方和a\[0\]^2 + a\[1\]^2 +...+ a\[n-1\]^2的平方根。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10354_html.md ## CANN商业版-rnormf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10355.html - Description: 获取输入数据a中前n个元素的平方和a\[0\]^2 + a\[1\]^2 + ...+ a\[n-1\]^2的平方根的倒数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10355_html.md ## CANN商业版-cbrtf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10356.html - Description: 获取输入数据x的立方根。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10356_html.md ## CANN商业版-rcbrtf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10357.html - Description: 获取输入数据x的立方根的倒数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10357_html.md ## CANN商业版-erff - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10358.html - Description: 获取输入数据的误差函数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10358_html.md ## CANN商业版-erfcf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10359.html - Description: 获取输入数据的互补误差函数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10359_html.md ## CANN商业版-GetLibApiWorkSpaceSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1036.html - Description: 获取AscendC API需要的workspace空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1036_html.md ## CANN商业版-erfinvf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10360.html - Description: 获取输入数据的逆误差函数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10360_html.md ## CANN商业版-erfcinvf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10361.html - Description: 获取输入数据的逆互补误差函数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10361_html.md ## CANN商业版-erfcxf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10362.html - Description: 获取输入数据的缩放互补误差函数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10362_html.md ## CANN商业版-tgammaf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10363.html - Description: 获取输入数据x的伽马函数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10363_html.md ## CANN商业版-lgammaf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10364.html - Description: 获取输入数据x伽马值的绝对值并求自然对数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10364_html.md ## CANN商业版-cyl\_bessel\_i0f - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10365.html - Description: 获取输入数据x的0阶常规修正圆柱贝塞尔函数的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10365_html.md ## CANN商业版-cyl\_bessel\_i1f - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10366.html - Description: 获取输入数据x的1阶常规修正圆柱贝塞尔函数的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10366_html.md ## CANN商业版-normcdff - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10367.html - Description: 获取输入数据x的标准正态分布的累积分布函数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10367_html.md ## CANN商业版-j0f - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10368.html - Description: 获取输入数据x的0阶第一类贝塞尔函数j0的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10368_html.md ## CANN商业版-j1f - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10369.html - Description: 获取输入数据x的1阶第一类贝塞尔函数j1的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10369_html.md ## CANN商业版-GetResGroupBarrierWorkSpaceSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1037.html - Description: 获取GroupBarrier所需要的workspace空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1037_html.md ## CANN商业版-jnf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10370.html - Description: 获取输入数据x的n阶第一类贝塞尔函数jn的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10370_html.md ## CANN商业版-y0f - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10371.html - Description: 获取输入数据x的0阶第二类贝塞尔函数y0的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10371_html.md ## CANN商业版-y1f - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10372.html - Description: 获取输入数据x的1阶第二类贝塞尔函数y1的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10372_html.md ## CANN商业版-ynf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10373.html - Description: 获取输入数据x的n阶第二类贝塞尔函数yn的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10373_html.md ## CANN商业版-asc\_atomic\_add - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10375.html - Description: 对Unified Buffer或Global Memory中的数据与指定数据执行原子加操作,即将指定数据累加到这些内存区域的数据中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10375_html.md ## CANN商业版-asc\_atomic\_sub - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10376.html - Description: 对Unified Buffer或Global Memory上的数据与指定数据执行原子减操作,即在这些内存区域的数据中减去指定数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10376_html.md ## CANN商业版-asc\_atomic\_exch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10377.html - Description: 对Unified Buffer或Global Memory地址做原子赋值操作,即将指定数据赋值到Unified Buffer或Global Memory地址中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10377_html.md ## CANN商业版-asc\_atomic\_max - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10378.html - Description: 对Unified Buffer或Global Memory数据做原子求最大值操作,即将Unified Buffer或Global Memory的数据与指定数据中的最大值赋值到Unified Buffer或Global Memory地址中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10378_html.md ## CANN商业版-asc\_atomic\_min - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10379.html - Description: 对Unified Buffer或Global Memory数据做原子求最小值操作,即将Unified Buffer或Global Memory的数据与指定数据中的最小值赋值到Unified Buffer或Global Memory地址中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10379_html.md ## CANN商业版-GetResCubeGroupWorkSpaceSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1038.html - Description: 基于CreateCubeResGroup进行AI Core分组计算需要传入workspace用于消息通信,在Host侧提供本接口用于获取CreateCubeResGroup所需要的workspace空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1038_html.md ## CANN商业版-asc\_atomic\_inc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10380.html - Description: 对Unified Buffer或Global Memory上address的数值进行原子加1操作,如果address上的数值大于等于指定数值val,则对address赋值为0,否则将address上数值加1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10380_html.md ## CANN商业版-asc\_atomic\_dec - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10381.html - Description: 对Unified Buffer或Global Memory上address的数值进行原子减1操作,如果address上的数值等于0或大于指定数值val,则对address赋值为val,否则将address上数值减1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10381_html.md ## CANN商业版-asc\_atomic\_cas - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10382.html - Description: 对Unified Buffer或Global Memory上address的数值进行原子比较赋值操作,如果address上的数值等于指定数值compare,则对address赋值为指定数值val,否则address的数值不变。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10382_html.md ## CANN商业版-asc\_atomic\_and - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10383.html - Description: 对Unified Buffer或Global Memory上address的数值与指定数值val进行原子与(&)操作,即将address数值与(&)val的结果赋值到Unified Buffer或Global Memory上。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10383_html.md ## CANN商业版-asc\_atomic\_or - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10384.html - Description: 对Unified Buffer或Global Memory上address的数值与指定数值val进行原子或(|)操作,即将address数值或(|)val的结果赋值到Unified Buffer或Global Memory上。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10384_html.md ## CANN商业版-asc\_atomic\_xor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10385.html - Description: 对Unified Buffer或Global Memory上address的数值与指定数值val进行原子异或(^)操作,即将address数值异或(^)val的结果赋值到Unified Buffer或Global Memory上。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10385_html.md ## CANN商业版-asc\_all - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10387.html - Description: 判断是否所有活跃线程的输入均不为0。 当Warp内所有活跃线程执行本接口后,对所有活跃线程的输入操作数predicate进行判断,所有活跃线程的predicate均不为0,返回1,否则返回0。Warp内所有活跃线程返回相同的结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10387_html.md ## CANN商业版-asc\_any - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10388.html - Description: 判断是否有活跃线程的输入不为0。 当Warp内所有活跃线程执行本接口后,对所有活跃线程的输入操作数predicate进行判断,所有活跃线程的predicate均为0,返回0,否则返回1。Warp内所有活跃线程返回相同的结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10388_html.md ## CANN商业版-asc\_ballot - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10389.html - Description: 判断Warp中每个活跃线程的输入是否非零。 当Warp内所有活跃线程执行本接口后,对所有活跃线程的输入操作数predicate进行判断,返回一个32bit的无符号整数,若Warp内活跃线程输入的predicate不为0,则返回值中与线程LaneId对应的bit位为1,否则为0。Warp内所有活跃线程返回相同的结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10389_html.md ## CANN商业版-PlatformAscendCManager - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1039.html - Description: 基于Kernel Launch算子工程,通过Kernel直调(Kernel Launch)方式调用算子的场景下,可能需要获取硬件平台相关信息,比如获取硬件平台的核数。PlatformAscendCManager类提供获取平台信息的功能:通过该类的GetInstance方法可以获取一个PlatformAscendC类的指针,再通过该指针获取硬件平台相关信息,支持获取的信息可参考PlatformAsc - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1039_html.md ## CANN商业版-asc\_activemask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10390.html - Description: 查看Warp内所有线程是否为活跃状态。 返回一个32bit的无符号整数,若Warp内某个线程是活跃(已结束线程是非活跃状态)的,则返回值中与线程LaneId对应的bit位为1,否则为0。Warp内所有活跃线程返回相同的结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10390_html.md ## CANN商业版-asc\_shfl - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10391.html - Description: 获取Warp内指定线程srclane输入的用于交换的var值;如果目标线程是非活跃状态,获取到寄存器中未初始化的值。其中,参数width用于划分Warp内线程的分组。参数width设置参与交换的32个线程的分组宽度,默认值为32,即所有线程分为1组。 在多个分组场景(width小于32)下,每个分组交换操作是独立的,当前线程获取本组内线程编号为srclane的var值。如果srclane小于分组宽 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10391_html.md ## CANN商业版-asc\_shfl\_up - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10392.html - Description: 获取Warp内当前线程向前偏移delta(当前线程LaneId-delta)的线程输入的用于交换的var值;如果目标线程是非活跃状态,获取到寄存器中未初始化的值。其中,参数width用于划分Warp内线程的分组。参数width设置参与交换的32个线程的分组宽度,默认值为32,即所有线程分为1组。 在多个分组场景(width小于32)下,每个分组交换操作是独立的,每个线程获取本组内当前线程向前偏移d - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10392_html.md ## CANN商业版-asc\_shfl\_down - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10393.html - Description: 获取Warp内当前线程向后偏移delta(当前线程LaneId+delta)的线程输入的用于交换的var值;如果目标线程是非活跃状态,获取到寄存器中未初始化的值。其中,参数width用于划分Warp内线程的分组。参数width设置参与交换的32个线程的分组宽度,默认值为32,即所有线程分为1组。 在多个分组场景(width小于32)下,每个分组交换操作是独立的,每个线程获取本组内当前线程向后偏移d - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10393_html.md ## CANN商业版-asc\_shfl\_xor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10394.html - Description: 获取Warp内当前线程LaneId与输入lanemask做异或操作(LaneId^lanemask)得到的dstLaneId对应线程输入的用于交换的var值;如果目标线程是非活跃状态,获取到寄存器中未初始化的值。其中,参数width用于划分Warp内线程的分组。参数width设置参与交换的32个线程的分组宽度,默认值为32,即所有线程分为1组。 在多个分组场景(width小于32)下,每个线程获取 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10394_html.md ## CANN商业版-asc\_reduce\_add - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10395.html - Description: 对Warp内所有活跃线程输入的val求和。Warp内所有活跃线程返回相同的结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10395_html.md ## CANN商业版-asc\_reduce\_max - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10396.html - Description: 对Warp内所有活跃线程输入的val求最大值。Warp内所有活跃线程返回相同的结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10396_html.md ## CANN商业版-asc\_reduce\_min - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10397.html - Description: 对Warp内所有活跃线程输入val求最小值。Warp内所有活跃线程返回相同的结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10397_html.md ## CANN商业版-SetCommEngine - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10399.html - Description: 设置通信任务使用的通信引擎。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10399_html.md ## SetReduceDataTypeAbility(废弃) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10400.html - Description: 该接口废弃,并将在后续版本移除,请不要使用该接口。请使用SetReduceType进行设置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10400_html.md ## CANN商业版-htanh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10401.html - Description: 获取输入数据的三角函数双曲正切值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10401_html.md ## CANN商业版-hexp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10402.html - Description: 指定输入x,获取e的x次方。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10402_html.md ## CANN商业版-hexp2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10403.html - Description: 指定输入x,获取2的x次方。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10403_html.md ## CANN商业版-hexp10 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10404.html - Description: 指定输入x,获取10的x次方。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10404_html.md ## CANN商业版-hlog - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10405.html - Description: 获取以e为底,输入数据的对数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10405_html.md ## CANN商业版-hlog2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10406.html - Description: 获取以2为底,输入数据的对数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10406_html.md ## CANN商业版-hlog10 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10407.html - Description: 获取以10为底,输入数据的对数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10407_html.md ## CANN商业版-hcos - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10408.html - Description: 获取输入数据的三角函数余弦值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10408_html.md ## CANN商业版-hsin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10409.html - Description: 获取输入数据的三角函数正弦值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10409_html.md ## CANN商业版-hsqrt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10410.html - Description: 获取输入数据x的平方根。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10410_html.md ## CANN商业版-hrsqrt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10411.html - Description: 获取输入数据x的平方根的倒数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10411_html.md ## CANN商业版-hrcp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10412.html - Description: 获取输入数据x的倒数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10412_html.md ## CANN商业版-isfinite - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10414.html - Description: 判断浮点数是否为有限数(非inf、非nan)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10414_html.md ## CANN商业版-isnan - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10415.html - Description: 判断浮点数是否为nan。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10415_html.md ## CANN商业版-\_\_hisnan - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10416.html - Description: 判断浮点数是否为nan。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10416_html.md ## CANN商业版-isinf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10417.html - Description: 判断浮点数是否为无穷。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10417_html.md ## CANN商业版-\_\_hisinf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10418.html - Description: 判断浮点数是否为无穷。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10418_html.md ## CANN商业版-\_\_float2half - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10421.html - Description: 遵循CASTRINT模式,将浮点数转换为半精度浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10421_html.md ## CANN商业版-\_\_float2half\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10424.html - Description: 遵循CASTRINT模式,将浮点数转换为半精度浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10424_html.md ## CANN商业版-printf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10426.html - Description: 本接口提供SIMD和SIMT VF(SIMT VF仅支持Atlas 350 加速卡)调试场景下的格式化输出功能。 在算子Kernel侧的实现代码中,需要输出日志信息时,调用printf接口打印相关内容。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10426_html.md ## CANN商业版-assert - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10428.html - Description: 本接口在SIMD和SIMT VF调试场景下(SIMT VF仅支持Atlas 350 加速卡)提供assert断言功能。在算子Kernel侧的实现代码中,如果assert的内部条件判断不为真,则会输出assert条件,并将输入的信息格式化打印在屏幕上,同时算子运行失败。 在算子Kernel侧代码的适当位置使用assert进行断言检查,并格式化输出一些调试信息。示例如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10428_html.md ## CANN商业版-\_\_trap - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10429.html - Description: 在SIMT VF实现代码中调用此接口会中断算子的运行,适用于Kernel侧异常场景的调试。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10429_html.md ## CANN商业版-is\_void - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10430.html - Description: 在程序编译时,检测一个类型是否为void类型,可以用于在编译时进行类型检查和条件处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10430_html.md ## CANN商业版-is\_integral - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10431.html - Description: 在程序编译时,检测一个类型是否为整数类型,可以用于在编译时进行类型检查和条件处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10431_html.md ## CANN商业版-is\_floating\_point - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10432.html - Description: 在程序编译时,检测一个类型是否为浮点类型,可以用于在编译时进行类型检查和条件处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10432_html.md ## CANN商业版-is\_array - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10433.html - Description: 在程序编译时,检测一个类型是否为数组类型,可以用于在编译时进行类型检查和条件处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10433_html.md ## CANN商业版-is\_pointer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10434.html - Description: 在程序编译时,判断一个类型是否为指针类型,可以用于在编译时进行类型检查和条件处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10434_html.md ## CANN商业版-is\_reference - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10435.html - Description: 在程序编译时,检测一个类型是否为引用类型,可以用于在编译时进行类型检查和条件处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10435_html.md ## CANN商业版-is\_const - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10436.html - Description: 在程序编译时,检测一个类型是否为const限定的类型,可以用于在编译时进行类型检查和条件处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10436_html.md ## CANN商业版-remove\_const - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10437.html - Description: 在程序编译时,对传入的模板参数类型移除const限定符,可以用于在编译时进行类型转换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10437_html.md ## CANN商业版-remove\_volatile - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10438.html - Description: 在程序编译时,对传入的模板参数类型移除volatile限定符,可以用于在编译时进行类型转换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10438_html.md ## CANN商业版-remove\_cv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10439.html - Description: 在程序编译时,对传入的模板参数类型移除const限定符或volatile限定符,或同时移除这两种限定符,可以用于在编译时进行类型转换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10439_html.md ## CANN商业版-remove\_reference - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10440.html - Description: 在程序编译时,从给定类型中移除引用限定符,包括左值引用T&和右值引用T&&,可以用于在编译时进行类型转换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10440_html.md ## CANN商业版-remove\_pointer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10441.html - Description: 在程序编译时,从给定类型中移除指针限定符,可以用于在编译时进行类型转换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10441_html.md ## CANN商业版-add\_const - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10442.html - Description: 在程序编译时,为指定类型添加const限定符,可以用于在编译时进行类型转换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10442_html.md ## CANN商业版-add\_volatile - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10443.html - Description: 在程序编译时,为指定类型添加volatile限定符,可以用于在编译时进行类型转换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10443_html.md ## CANN商业版-add\_cv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10444.html - Description: 在程序编译时,为指定类型添加const和volatile限定符,可以用于在编译时进行类型转换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10444_html.md ## CANN商业版-add\_pointer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10445.html - Description: 在程序编译时,为指定类型添加指针限定符,可以用于在编译时进行类型转换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10445_html.md ## CANN商业版-add\_lvalue\_reference - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10446.html - Description: 在程序编译时,为指定类型添加左值引用限定符,可以用于在编译时进行类型转换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10446_html.md ## CANN商业版-add\_rvalue\_reference - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10447.html - Description: 在程序编译时,为指定类型添加右值引用限定符,可以用于在编译时进行类型转换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10447_html.md ## CANN商业版-clock - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10448.html - Description: 本接口在SIMD与SIMT混合调试场景中提供Clock时间戳功能,用于记录从程序启动到接口调用时刻所经历的时钟周期数(Cycle Count),便于精确分析执行延迟和性能瓶颈。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10448_html.md ## CANN商业版-asc\_threadfence\_block - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10449.html - Description: 用于协调同一线程块(Thread Block)内线程之间的内存操作顺序,确保某一线程在调用ascthreadfenceblock\(\)之前的所有内存读写操作对同一线程块内的其他线程可见。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10449_html.md ## CANN商业版-h2tanh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10450.html - Description: 获取输入数据各元素的三角函数双曲正切值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10450_html.md ## CANN商业版-h2exp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10451.html - Description: 指定输入x,对x的各元素,获取e的该元素次方。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10451_html.md ## CANN商业版-h2exp2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10452.html - Description: 指定输入x,对x的各元素,获取2的该元素次方。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10452_html.md ## CANN商业版-h2exp10 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10453.html - Description: 指定输入x,对x的各元素,获取10的该元素次方。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10453_html.md ## CANN商业版-h2log - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10454.html - Description: 获取以e为底,输入数据各元素的对数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10454_html.md ## CANN商业版-h2log2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10455.html - Description: 获取以2为底,输入数据各元素的对数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10455_html.md ## CANN商业版-h2log10 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10456.html - Description: 获取以10为底,输入数据各元素的对数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10456_html.md ## CANN商业版-h2cos - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10457.html - Description: 获取输入数据各元素的三角函数余弦值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10457_html.md ## CANN商业版-h2sin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10458.html - Description: 获取输入数据各元素的三角函数正弦值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10458_html.md ## CANN商业版-h2sqrt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10459.html - Description: 获取输入数据x各元素的平方根。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10459_html.md ## CANN商业版-h2rsqrt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10460.html - Description: 获取输入数据x各元素的平方根的倒数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10460_html.md ## CANN商业版-h2rcp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10461.html - Description: 获取输入数据x各元素的倒数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10461_html.md ## CANN商业版-normcdfinvf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10462.html - Description: 获取输入数据x的标准正态累积分布的逆函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10462_html.md ## CANN商业版-fabsf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10463.html - Description: 获取输入数据的绝对值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10463_html.md ## CANN商业版-\_\_habs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10464.html - Description: 获取输入数据的绝对值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10464_html.md ## CANN商业版-fmaf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10465.html - Description: 对输入数据x、y、z,计算x与y相乘加上z的结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10465_html.md ## CANN商业版-\_\_hfma - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10466.html - Description: 对输入数据x、y、z,计算x与y相乘加上z的结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10466_html.md ## CANN商业版-fmaxf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10467.html - Description: 获取两个输入数据中的最大值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10467_html.md ## CANN商业版-\_\_hmax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10468.html - Description: 获取两个输入数据中的最大值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10468_html.md ## CANN商业版-fminf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10469.html - Description: 获取两个输入数据中的最小值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10469_html.md ## CANN商业版-\_\_hmin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10470.html - Description: 获取两个输入数据中的最小值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10470_html.md ## CANN商业版-fdimf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10471.html - Description: 获取两个输入数据的差值,差值小于0时,返回0。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10471_html.md ## CANN商业版-remquof - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10472.html - Description: 获取输入数据x除以y的余数r。r\=x-ny,其中n是x除以y的商,n取最接近x除以y浮点数结果的整数,当x除以y的浮点数结果与左右最接近的整数距离相等时,商取偶数,同时将商赋值给指针变量quo。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10472_html.md ## CANN商业版-fmodf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10473.html - Description: 获取输入数据x除以y的余数。求余数时,商取x除以y浮点数结果的整数部分。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10473_html.md ## CANN商业版-remainderf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10474.html - Description: 获取输入数据x除以y的余数。求余数时,商取最接近x除以y浮点数结果的整数,当x除以y的浮点数结果与左右最接近的整数距离相等时,商取偶数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10474_html.md ## CANN商业版-copysignf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10475.html - Description: 获取由第一个输入x的数值部分和第二个输入y的符号部分拼接得到的浮点数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10475_html.md ## CANN商业版-nearbyintf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10476.html - Description: 获取与输入浮点数最接近的整数,输入浮点数与左右整数的距离相等时,返回偶数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10476_html.md ## CANN商业版-nextafterf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10477.html - Description: 对于两个数据x、y: 如果y大于x,返回比x大的下一个可表示的浮点值。 如果y小于x,返回比x小的下一个可表示的浮点值。 如果y等于x,返回x。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10477_html.md ## CANN商业版-scalbnf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10478.html - Description: 获取输入数据x与2的n次方的乘积。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10478_html.md ## CANN商业版-scalblnf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10479.html - Description: 获取输入数据x与2的n次方的乘积。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10479_html.md ## CANN商业版-modff - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10480.html - Description: 将输入参数分解为小数部分和整数部分。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10480_html.md ## CANN商业版-labs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10481.html - Description: 获取输入数据的绝对值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10481_html.md ## CANN商业版-llabs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10482.html - Description: 获取输入数据的绝对值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10482_html.md ## CANN商业版-llmax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10483.html - Description: 获取两个输入数据中的最大值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10483_html.md ## CANN商业版-ullmax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10484.html - Description: 获取两个输入数据中的最大值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10484_html.md ## CANN商业版-umax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10485.html - Description: 获取两个输入数据中的最大值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10485_html.md ## CANN商业版-llmin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10486.html - Description: 获取两个输入数据中的最小值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10486_html.md ## CANN商业版-ullmin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10487.html - Description: 获取两个输入数据中的最小值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10487_html.md ## CANN商业版-umin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10488.html - Description: 获取两个输入数据中的最小值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10488_html.md ## CANN商业版-fdividef - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10489.html - Description: 获取两个输入数据相除的结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10489_html.md ## CANN商业版-signbit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10490.html - Description: 获取输入数据的符号位。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10490_html.md ## CANN商业版-\_\_mulhi - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10491.html - Description: 获取输入int32类型数据x和y乘积的高32位。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10491_html.md ## CANN商业版-\_\_umulhi - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10492.html - Description: 获取输入uint32类型数据x和y乘积的高32位。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10492_html.md ## CANN商业版-\_\_mul64hi - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10493.html - Description: 获取输入int64类型数据x和y乘积的高64位。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10493_html.md ## CANN商业版-\_\_umul64hi - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10494.html - Description: 获取输入uint64类型数据x和y乘积的高64位。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10494_html.md ## CANN商业版-\_\_mul\_i32toi64 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10495.html - Description: 计算输入32位整数x和y的乘积,返回64位结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10495_html.md ## CANN商业版-\_\_brev - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10496.html - Description: 将输入数据的位序反转,返回反转后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10496_html.md ## CANN商业版-\_\_clz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10497.html - Description: 从输入数据的二进制最高有效位开始,返回连续的前导零的位数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10497_html.md ## CANN商业版-\_\_ffs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10498.html - Description: 从二进制输入数据的最低位开始,查找第一个值为1的比特位的位置,并返回该位置的索引,索引从1开始计数;如果二进制数据中没有1,则返回0。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10498_html.md ## CANN商业版-\_\_popc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10499.html - Description: 统计输入数据从二进制的高位到低位比特位为1的数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10499_html.md ## CANN商业版-\_\_byte\_perm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10500.html - Description: 由输入的两个4字节的uint32t类型数据组成一个8个字节的64比特位的整数,通过选择器s指定选取其中的4个字节,将这4个字节从低位到高位拼成一个uint32t类型的整数。具体实现逻辑如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10500_html.md ## CANN商业版-rintf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10502.html - Description: 获取与输入数据最接近的整数,若存在两个同样接近的整数,则获取其中的偶数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10502_html.md ## CANN商业版-hrint - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10503.html - Description: 获取与输入数据最接近的整数,若存在两个同样接近的整数,则获取其中的偶数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10503_html.md ## CANN商业版-h2rint - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10504.html - Description: 获取与输入数据各元素最接近的整数,若存在两个同样接近的整数,则取其中的偶数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10504_html.md ## CANN商业版-lrintf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10505.html - Description: 获取与输入数据最接近的整数,若存在两个同样接近的整数,则获取其中的偶数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10505_html.md ## CANN商业版-llrintf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10506.html - Description: 获取与输入数据最接近的整数,若存在两个同样接近的整数,则获取其中的偶数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10506_html.md ## CANN商业版-roundf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10507.html - Description: 获取对输入数据四舍五入后的整数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10507_html.md ## CANN商业版-lroundf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10508.html - Description: 获取对输入数据四舍五入后的整数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10508_html.md ## CANN商业版-llroundf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10509.html - Description: 获取对输入数据四舍五入后的整数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10509_html.md ## CANN商业版-floorf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10510.html - Description: 获取小于或等于输入数据的最大整数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10510_html.md ## CANN商业版-hfloor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10511.html - Description: 获取小于或等于输入数据的最大整数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10511_html.md ## CANN商业版-h2floor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10512.html - Description: 获取小于或等于输入数据各元素的最大整数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10512_html.md ## CANN商业版-ceilf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10513.html - Description: 获取大于或等于输入数据的最小整数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10513_html.md ## CANN商业版-hceil - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10514.html - Description: 获取大于或等于输入数据的最小整数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10514_html.md ## CANN商业版-h2ceil - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10515.html - Description: 获取大于或等于输入数据各元素的最小整数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10515_html.md ## CANN商业版-truncf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10516.html - Description: 获取对输入数据的浮点数截断后的整数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10516_html.md ## CANN商业版-htrunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10517.html - Description: 获取对输入数据的浮点数截断后的整数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10517_html.md ## CANN商业版-h2trunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10518.html - Description: 获取对输入数据各元素的浮点数截断后的整数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10518_html.md ## CANN商业版-make\_int2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10520.html - Description: 使用给定的两个int类型的数据创建一个int2类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10520_html.md ## CANN商业版-make\_int4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10522.html - Description: 使用给定的四个int类型的数据创建一个int4类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10522_html.md ## CANN商业版-make\_uint2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10523.html - Description: 使用给定的两个unsigned int类型的数据创建一个uint2类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10523_html.md ## CANN商业版-make\_uint4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10525.html - Description: 使用给定的四个unsigned int类型的数据创建一个uint4类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10525_html.md ## CANN商业版-make\_ulonglong2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10526.html - Description: 使用给定的两个unsigned long long int类型的数据创建一个ulonglong2类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10526_html.md ## CANN商业版-make\_ulonglong4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10528.html - Description: 使用给定的四个unsigned long long int类型的数据创建一个ulonglong4类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10528_html.md ## CANN商业版-make\_longlong2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10529.html - Description: 使用给定的两个long long int类型的数据创建一个longlong2类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10529_html.md ## CANN商业版-make\_longlong4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10531.html - Description: 使用给定的四个long long int类型的数据创建一个longlong4类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10531_html.md ## CANN商业版-make\_ulong2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10532.html - Description: 使用给定的两个unsigned long int类型的数据创建一个ulong2类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10532_html.md ## CANN商业版-make\_ulong4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10534.html - Description: 使用给定的四个unsigned long int类型的数据创建一个ulong4类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10534_html.md ## CANN商业版-make\_long2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10535.html - Description: 使用给定的两个long int类型的数据创建一个long2类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10535_html.md ## CANN商业版-make\_long4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10537.html - Description: 使用给定的四个long int类型的数据创建一个long4类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10537_html.md ## CANN商业版-make\_float2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10538.html - Description: 使用给定的两个float类型的数据创建一个float2类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10538_html.md ## CANN商业版-make\_float4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10540.html - Description: 使用给定的四个float类型的数据创建一个float4类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10540_html.md ## CANN商业版-make\_short2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10541.html - Description: 使用给定的两个short类型的数据创建一个short2类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10541_html.md ## CANN商业版-make\_short4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10543.html - Description: 使用给定的四个short类型的数据创建一个short4类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10543_html.md ## CANN商业版-make\_ushort2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10544.html - Description: 使用给定的两个unsigned short类型的数据创建一个ushort2类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10544_html.md ## CANN商业版-make\_ushort4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10546.html - Description: 使用给定的四个unsigned short类型的数据创建一个ushort4类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10546_html.md ## CANN商业版-make\_uchar2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10547.html - Description: 使用给定的两个unsigned char类型的数据创建一个uchar2类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10547_html.md ## CANN商业版-make\_uchar4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10549.html - Description: 使用给定的四个unsigned char类型的数据创建一个uchar4类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10549_html.md ## CANN商业版-make\_char2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10550.html - Description: 使用给定的两个signed char类型的数据创建一个char2类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10550_html.md ## CANN商业版-make\_char4 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10552.html - Description: 使用给定的四个signed char类型的数据创建一个char4类型的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10552_html.md ## CANN商业版-make\_half2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10553.html - Description: 使用给定的两个half类型的数据创建一个half2类型的向量。对于16位类型的数据,底层指令支持一次完成两个数据的计算,通过构造向量类型可以提高数据计算效率。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10553_html.md ## CANN商业版-make\_bfloat162 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10554.html - Description: 使用给定的两个bfloat16t类型的数据创建一个bfloat16x2t类型的向量。对于16位类型的数据,底层指令支持一次完成两个数据的计算,通过构造向量类型可以提高数据计算效率。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10554_html.md ## CANN商业版-asc\_ldcg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10556.html - Description: 从L2 Cache加载缓存的数据,如果缓存命中,则直接返回数据。若未命中,则从Global Memory地址预加载数据缓存至L2 Cache,并返回数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10556_html.md ## CANN商业版-asc\_ldca - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10557.html - Description: 首先从Data Cache加载缓存数据,若未命中,则尝试从L2 Cache加载。L2 Cache与Global Memory之间的数据一致性由硬件保证。如果Data Cache和L2 Cache中均未找到所需数据,则从Global Memory中读取数据,然后将其缓存到L2 Cache和Data Cache中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10557_html.md ## CANN商业版-asc\_stcg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10558.html - Description: 将指定数据存储到Global Memory的地址address中,并缓存到L2 Cache,但不缓存至Data Cache。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10558_html.md ## CANN商业版-asc\_stwt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10559.html - Description: 将指定数据存储到Global Memory的地址address中,并缓存至Data Cache和L2 Cache。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10559_html.md ## 内置宏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10561.html - Description: 下表列出了一些常用的内置宏,涵盖了bfloat16、half和float三种浮点类型的特殊值,以及常用的数学常数、对数和边界值。当开发者需要处理浮点边界或数学常量时,可以直接参考并使用这些内置宏,无需手动定义或查阅具体的数值,从而可以将更多精力集中在算法逻辑上。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10561_html.md ## CANN商业版-类型转换包括隐式转换和显式转换 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10562.html - Description: 类型转换包括隐式转换和显式转换。隐式转换在类型不匹配时由系统自动执行。显式转换则通过调用类型转换API来主动完成,API会将输入数据从源类型转换为目标类型,并返回转换结果。整个转换过程遵循规定的处理规则。类型转换的结果受舍入模式和饱和模式的影响。关于浮点数的表示方式和舍入规则,请参见类型转换的相关说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10562_html.md ## CANN商业版-\_\_float2float\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10563.html - Description: 将浮点数四舍五入取整,并遵循CASTRINT模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10563_html.md ## CANN商业版-\_\_float2float\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10564.html - Description: 将浮点数四舍五入取整,并遵循CASTTRUNC模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10564_html.md ## CANN商业版-\_\_float2float\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10565.html - Description: 将浮点数四舍五入取整,并遵循CASTFLOOR模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10565_html.md ## CANN商业版-\_\_float2float\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10566.html - Description: 将浮点数四舍五入取整,并遵循CASTCEIL模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10566_html.md ## CANN商业版-\_\_float2float\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10567.html - Description: 将浮点数四舍五入取整,并遵循CASTROUND模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10567_html.md ## CANN商业版-\_\_float2half\_rn\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10568.html - Description: 饱和模式下,将浮点数转换为半精度浮点数,并遵循CASTRINT模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10568_html.md ## CANN商业版-\_\_float22half2\_rn\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10569.html - Description: 饱和模式下,将float2类型数据的两个分量遵循CASTRINT模式转换为半精度浮点数,返回转换后的half2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10569_html.md ## CANN商业版-\_\_float2half\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10570.html - Description: 遵循CASTTRUNC模式,将浮点数转换为半精度浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10570_html.md ## CANN商业版-\_\_float2half\_rz\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10571.html - Description: 饱和模式下,将浮点数转换为半精度浮点数,并遵循CASTTRUNC模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10571_html.md ## CANN商业版-\_\_float22half2\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10572.html - Description: 将float2类型数据的两个分量遵循CASTTRUNC模式转换为半精度浮点数,返回转换后的half2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10572_html.md ## CANN商业版-\_\_float22half2\_rz\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10573.html - Description: 饱和模式下,将float2类型数据的两个分量遵循CASTTRUNC模式转换为半精度浮点数,返回转换后的half2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10573_html.md ## CANN商业版-\_\_float2half\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10574.html - Description: 遵循CASTFLOOR模式,将浮点数转换为半精度浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10574_html.md ## CANN商业版-\_\_float2half\_rd\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10575.html - Description: 饱和模式下,将浮点数转换为半精度浮点数,并遵循CASTFLOOR模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10575_html.md ## CANN商业版-\_\_float22half2\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10576.html - Description: 将float2类型数据的两个分量遵循CASTFLOOR模式转换为半精度浮点数,返回转换后的half2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10576_html.md ## CANN商业版-\_\_float22half2\_rd\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10577.html - Description: 饱和模式下,将float2类型数据的两个分量遵循CASTFLOOR模式转换为半精度浮点数,返回转换后的half2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10577_html.md ## CANN商业版-\_\_float2half\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10578.html - Description: 遵循CASTCEIL模式,将浮点数转换为半精度浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10578_html.md ## CANN商业版-\_\_float2half\_ru\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10579.html - Description: 饱和模式下,将浮点数转换为半精度浮点数,并遵循CASTCEIL模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10579_html.md ## CANN商业版-\_\_float22half2\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10580.html - Description: 将float2类型数据的两个分量遵循CASTCEIL模式转换为半精度浮点数,返回转换后的half2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10580_html.md ## CANN商业版-\_\_float22half2\_ru\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10581.html - Description: 饱和模式下,将float2类型数据的两个分量遵循CASTCEIL模式转换为半精度浮点数,返回转换后的half2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10581_html.md ## CANN商业版-\_\_float2half\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10582.html - Description: 遵循CASTROUND模式,将浮点数转换为半精度浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10582_html.md ## CANN商业版-\_\_float2half\_rna\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10583.html - Description: 饱和模式下,将浮点数转换为半精度浮点数,并遵循CASTROUND模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10583_html.md ## CANN商业版-\_\_float22half2\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10584.html - Description: 将float2类型数据的两个分量遵循CASTROUND模式转换为半精度浮点数,返回转换后的half2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10584_html.md ## CANN商业版-\_\_float22half2\_rna\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10585.html - Description: 饱和模式下,将float2类型数据的两个分量遵循CASTROUND模式转换为半精度浮点数,返回转换后的half2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10585_html.md ## CANN商业版-\_\_float2half\_ro - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10586.html - Description: 遵循CASTODD模式,将浮点数转换为半精度浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10586_html.md ## CANN商业版-\_\_float2half\_ro\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10587.html - Description: 饱和模式下,将浮点数转换为半精度浮点数,并遵循CASTODD模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10587_html.md ## CANN商业版-\_\_float22half2\_ro - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10588.html - Description: 将float2类型数据的两个分量遵循CASTODD模式转换为半精度浮点数,返回转换后的half2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10588_html.md ## CANN商业版-\_\_float22half2\_ro\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10589.html - Description: 饱和模式下,将float2类型数据的两个分量遵循CASTODD模式转换为半精度浮点数,返回转换后的half2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10589_html.md ## CANN商业版-\_\_float2bfloat16 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10590.html - Description: 遵循CASTRINT模式,将浮点数转换为bfloat16精度,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10590_html.md ## CANN商业版-\_\_float2bfloat16\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10591.html - Description: 遵循CASTRINT模式,将浮点数转换为bfloat16精度,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10591_html.md ## CANN商业版-\_\_float2bfloat16\_rn\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10592.html - Description: 饱和模式下,将浮点数转换为bfloat16精度,并遵循CASTRINT模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10592_html.md ## CANN商业版-\_\_float22bfloat162\_rn\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10593.html - Description: 饱和模式下,将float2类型数据的两个分量遵循CASTRINT模式转换为bfloat16精度,返回转换后的bfloat16x2t类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10593_html.md ## CANN商业版-\_\_float2bfloat16\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10594.html - Description: 遵循CASTTRUNC模式,将浮点数转换为bfloat16精度,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10594_html.md ## CANN商业版-\_\_float2bfloat16\_rz\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10595.html - Description: 饱和模式下,将浮点数转换为bfloat16精度,并遵循CASTTRUNC模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10595_html.md ## CANN商业版-\_\_float22bfloat162\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10596.html - Description: 将float2类型数据的两个分量遵循CASTTRUNC模式转换为bfloat16精度,返回转换后的bfloat16x2t类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10596_html.md ## CANN商业版-\_\_float22bfloat162\_rz\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10597.html - Description: 饱和模式下,将float2类型数据的两个分量遵循CASTTRUNC模式转换为bfloat16精度,返回转换后的bfloat16x2t类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10597_html.md ## CANN商业版-\_\_float2bfloat16\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10598.html - Description: 遵循CASTFLOOR模式,将浮点数转换为bfloat16精度,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10598_html.md ## CANN商业版-\_\_float2bfloat16\_rd\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10599.html - Description: 饱和模式下,将浮点数转换为bfloat16精度,并遵循CASTFLOOR模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10599_html.md ## CANN商业版-\_\_float22bfloat162\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10600.html - Description: 将float2类型数据的两个分量遵循CASTFLOOR模式转换为bfloat16精度,返回转换后的bfloat16x2t类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10600_html.md ## CANN商业版-\_\_float22bfloat162\_rd\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10601.html - Description: 饱和模式下,将float2类型数据的两个分量遵循CASTFLOOR模式转换为bfloat16精度,返回转换后的bfloat16x2t类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10601_html.md ## CANN商业版-\_\_float2bfloat16\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10602.html - Description: 遵循CASTCEIL模式,将浮点数转换为bfloat16精度,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10602_html.md ## CANN商业版-\_\_float2bfloat16\_ru\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10603.html - Description: 饱和模式下,将浮点数转换为bfloat16精度,并遵循CASTCEIL模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10603_html.md ## CANN商业版-\_\_float22bfloat162\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10604.html - Description: 将float2类型数据的两个分量遵循CASTCEIL模式转换为bfloat16精度,返回转换后的bfloat16x2t类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10604_html.md ## CANN商业版-\_\_float22bfloat162\_ru\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10605.html - Description: 饱和模式下,将float2类型数据的两个分量遵循CASTCEIL模式转换为bfloat16精度,返回转换后的bfloat16x2t类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10605_html.md ## CANN商业版-\_\_float2bfloat16\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10606.html - Description: 遵循CASTROUND模式,将浮点数转换为bfloat16精度,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10606_html.md ## CANN商业版-\_\_float2bfloat16\_rna\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10607.html - Description: 饱和模式下,将浮点数转换为bfloat16精度,并遵循CASTROUND模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10607_html.md ## CANN商业版-\_\_float22bfloat162\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10608.html - Description: 将float2类型数据的两个分量遵循CASTROUND模式转换为bfloat16精度,返回转换后的bfloat16x2t类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10608_html.md ## CANN商业版-\_\_float22bfloat162\_rna\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10609.html - Description: 饱和模式下,将float2类型数据的两个分量遵循CASTROUND模式转换为bfloat16精度,返回转换后的bfloat16x2t类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10609_html.md ## CANN商业版-\_\_float2uint\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10610.html - Description: 遵循CASTRINT模式,将浮点数转换为无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10610_html.md ## CANN商业版-\_\_float2uint\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10611.html - Description: 遵循CASTTRUNC模式,将浮点数转换为无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10611_html.md ## CANN商业版-\_\_float2uint\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10612.html - Description: 遵循CASTFLOOR模式,将浮点数转换为无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10612_html.md ## CANN商业版-\_\_float2uint\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10613.html - Description: 遵循CASTCEIL模式,将浮点数转换为无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10613_html.md ## CANN商业版-\_\_float2uint\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10614.html - Description: 遵循CASTROUND模式,将浮点数转换为无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10614_html.md ## CANN商业版-\_\_float2int\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10615.html - Description: 遵循CASTRINT模式,将浮点数转换为有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10615_html.md ## CANN商业版-\_\_float2int\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10616.html - Description: 遵循CASTTRUNC模式,将浮点数转换为有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10616_html.md ## CANN商业版-\_\_float2int\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10617.html - Description: 遵循CASTFLOOR模式,将浮点数转换为有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10617_html.md ## CANN商业版-\_\_float2int\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10618.html - Description: 遵循CASTCEIL模式,将浮点数转换为有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10618_html.md ## CANN商业版-\_\_float2int\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10619.html - Description: 遵循CASTROUND模式,将浮点数转换为有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10619_html.md ## CANN商业版-\_\_float2ull\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10620.html - Description: 遵循CASTRINT模式,将浮点数转换为64位无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10620_html.md ## CANN商业版-\_\_float2ull\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10621.html - Description: 遵循CASTTRUNC模式,将浮点数转换为64位无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10621_html.md ## CANN商业版-\_\_float2ull\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10622.html - Description: 遵循CASTFLOOR模式,将浮点数转换为64位无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10622_html.md ## CANN商业版-\_\_float2ull\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10623.html - Description: 遵循CASTCEIL模式,将浮点数转换为64位无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10623_html.md ## CANN商业版-\_\_float2ull\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10624.html - Description: 遵循CASTROUND模式,将浮点数转换为64位无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10624_html.md ## CANN商业版-\_\_float2ll\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10625.html - Description: 遵循CASTRINT模式,将浮点数转换为64位有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10625_html.md ## CANN商业版-\_\_float2ll\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10626.html - Description: 遵循CASTTRUNC模式,将浮点数转换为64位有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10626_html.md ## CANN商业版-\_\_float2ll\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10627.html - Description: 遵循CASTFLOOR模式,将浮点数转换为64位有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10627_html.md ## CANN商业版-\_\_float2ll\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10628.html - Description: 遵循CASTCEIL模式,将浮点数转换为64位有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10628_html.md ## CANN商业版-\_\_float2ll\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10629.html - Description: 遵循CASTROUND模式,将浮点数转换为64位有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10629_html.md ## CANN商业版-\_\_float22hif82\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10630.html - Description: 将float2类型数据的两个分量遵循CASTROUND模式转换为hifloat8t精度,返回转换后的hifloat8x2t类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10630_html.md ## CANN商业版-\_\_float22hif82\_rna\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10631.html - Description: 饱和模式下,将float2类型数据的两个分量遵循CASTROUND模式转换为hifloat8t精度,返回转换后的hifloat8x2t类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10631_html.md ## CANN商业版-\_\_float22hif82\_rh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10632.html - Description: 将float2类型数据的两个分量遵循CASTHYBRID模式转换为hifloat8t精度,返回转换后的hifloat8x2t类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10632_html.md ## CANN商业版-\_\_float22hif82\_rh\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10633.html - Description: 饱和模式下,将float2类型数据的两个分量遵循CASTHYBRID模式转换为hifloat8t精度,返回转换后的hifloat8x2t类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10633_html.md ## CANN商业版-\_\_asc\_cvt\_float2\_to\_fp8x2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10634.html - Description: 将float2类型数据的两个分量,按照CASTRINT模式转换为指定类型(float8e4m3x2t和float8e5m2x2t)的8位浮点数,并根据指定的饱和模式(饱和或非饱和)进行溢出处理。转换结果以位级打包形式存储为ascfp8x2storaget类型,该类型为16位无符号整数unsigned short int,用于存储float8e4m3x2t或float8e5m2x2t类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10634_html.md ## CANN商业版-\_\_half2float - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10635.html - Description: 将half类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10635_html.md ## CANN商业版-\_\_half2half\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10636.html - Description: 将half类型数据遵循CASTRINT模式取整。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10636_html.md ## CANN商业版-\_\_half2half\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10637.html - Description: 将half类型数据遵循CASTTRUNC模式取整。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10637_html.md ## CANN商业版-\_\_half2half\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10638.html - Description: 将half类型数据遵循CASTFLOOR模式取整。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10638_html.md ## CANN商业版-\_\_half2half\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10639.html - Description: 将half类型数据遵循CASTCEIL模式取整。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10639_html.md ## CANN商业版-\_\_half2half\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10640.html - Description: 将half类型数据遵循CASTROUND模式取整。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10640_html.md ## CANN商业版-\_\_half2bfloat16\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10641.html - Description: 遵循CASTRINT模式,将half类型数据转换为bfloat16类型,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10641_html.md ## CANN商业版-\_\_half2bfloat16\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10642.html - Description: 遵循CASTTRUNC模式,将half类型数据转换为bfloat16类型,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10642_html.md ## CANN商业版-\_\_half2bfloat16\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10643.html - Description: 遵循CASTFLOOR模式,将half类型数据转换为bfloat16类型,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10643_html.md ## CANN商业版-\_\_half2bfloat16\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10644.html - Description: 遵循CASTCEIL模式,将half类型数据转换为bfloat16类型,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10644_html.md ## CANN商业版-\_\_half2bfloat16\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10645.html - Description: 遵循CASTROUND模式,将half类型数据转换为bfloat16类型,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10645_html.md ## CANN商业版-\_\_half2uint\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10646.html - Description: 遵循CASTRINT模式,将half类型数据转换为无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10646_html.md ## CANN商业版-\_\_half2uint\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10647.html - Description: 遵循CASTTRUNC模式,将half类型数据转换为无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10647_html.md ## CANN商业版-\_\_half2uint\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10648.html - Description: 遵循CASTFLOOR模式,将half类型数据转换为无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10648_html.md ## CANN商业版-\_\_half2uint\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10649.html - Description: 遵循CASTCEIL模式,将half类型数据转换为无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10649_html.md ## CANN商业版-\_\_half2uint\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10650.html - Description: 遵循CASTROUND模式,将half类型数据转换为无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10650_html.md ## CANN商业版-\_\_half2int\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10651.html - Description: 遵循CASTRINT模式,将half类型数据转换为有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10651_html.md ## CANN商业版-\_\_half2int\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10652.html - Description: 遵循CASTTRUNC模式,将half类型数据转换为有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10652_html.md ## CANN商业版-\_\_half2int\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10653.html - Description: 遵循CASTFLOOR模式,将half类型数据转换为有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10653_html.md ## CANN商业版-\_\_half2int\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10654.html - Description: 遵循CASTCEIL模式,将half类型数据转换为有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10654_html.md ## CANN商业版-\_\_half2int\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10655.html - Description: 遵循CASTROUND模式,将half类型数据转换为有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10655_html.md ## CANN商业版-\_\_half2ull\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10656.html - Description: 遵循CASTRINT模式,将half类型数据转换为64位无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10656_html.md ## CANN商业版-\_\_half2ull\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10657.html - Description: 遵循CASTTRUNC模式,将half类型数据转换为64位无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10657_html.md ## CANN商业版-\_\_half2ull\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10658.html - Description: 遵循CASTFLOOR模式,将half类型数据转换为64位无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10658_html.md ## CANN商业版-\_\_half2ull\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10659.html - Description: 遵循CASTCEIL模式,将half类型数据转换为64位无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10659_html.md ## CANN商业版-\_\_half2ull\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10660.html - Description: 遵循CASTROUND模式,将half类型数据转换为64位无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10660_html.md ## CANN商业版-\_\_half2ll\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10661.html - Description: 遵循CASTRINT模式,将half类型数据转换为64位有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10661_html.md ## CANN商业版-\_\_half2ll\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10662.html - Description: 遵循CASTTRUNC模式,将half类型数据转换为64位有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10662_html.md ## CANN商业版-\_\_half2ll\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10663.html - Description: 遵循CASTFLOOR模式,将half类型数据转换为64位有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10663_html.md ## CANN商业版-\_\_half2ll\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10664.html - Description: 遵循CASTCEIL模式,将half类型数据转换为64位有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10664_html.md ## CANN商业版-\_\_half2ll\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10665.html - Description: 遵循CASTROUND模式,将half类型数据转换为64位有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10665_html.md ## CANN商业版-\_\_half22hif82\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10666.html - Description: 将half2类型数据的两个分量遵循CASTROUND模式转换为hifloat8t精度,返回转换后的hifloat8x2t类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10666_html.md ## CANN商业版-\_\_half22hif82\_rna\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10667.html - Description: 饱和模式下,将half2类型数据的两个分量遵循CASTROUND模式转换为hifloat8t精度,返回转换后的hifloat8x2t类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10667_html.md ## CANN商业版-\_\_half22hif82\_rh\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10669.html - Description: 饱和模式下,将half2类型数据的两个分量遵循CASTHYBRID模式转换为hifloat8t精度,返回转换后的hifloat8x2t类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10669_html.md ## CANN商业版-\_\_bfloat162half\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10670.html - Description: 遵循CASTRINT模式,将bfloat16类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10670_html.md ## CANN商业版-\_\_bfloat162half\_rn\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10671.html - Description: 饱和模式下,将bfloat16类型数据转换为half类型数据,并遵循CASTRINT模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10671_html.md ## CANN商业版-\_\_bfloat162half\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10672.html - Description: 遵循CASTTRUNC模式,将bfloat16类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10672_html.md ## CANN商业版-\_\_bfloat162half\_rz\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10673.html - Description: 饱和模式下,将bfloat16类型数据转换为half类型数据,并遵循CASTTRUNC模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10673_html.md ## CANN商业版-\_\_bfloat162half\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10674.html - Description: 遵循CASTFLOOR模式,将bfloat16类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10674_html.md ## CANN商业版-\_\_bfloat162half\_rd\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10675.html - Description: 饱和模式下,将bfloat16类型数据转换为half类型数据,并遵循CASTFLOOR模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10675_html.md ## CANN商业版-\_\_bfloat162half\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10676.html - Description: 遵循CASTCEIL模式,将bfloat16类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10676_html.md ## CANN商业版-\_\_bfloat162half\_ru\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10677.html - Description: 饱和模式下,将bfloat16类型数据转换为half类型数据,并遵循CASTCEIL模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10677_html.md ## CANN商业版-\_\_bfloat162half\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10678.html - Description: 遵循CASTROUND模式,将bfloat16类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10678_html.md ## CANN商业版-\_\_bfloat162half\_rna\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10679.html - Description: 饱和模式下,将bfloat16类型数据转换为half类型数据,并遵循CASTROUND模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10679_html.md ## CANN商业版-\_\_bfloat162float - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10680.html - Description: 将bfloat16类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10680_html.md ## CANN商业版-\_\_bfloat162bfloat16\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10681.html - Description: 将bfloat16t数据遵循CASTRINT模式取整。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10681_html.md ## CANN商业版-\_\_bfloat162bfloat16\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10682.html - Description: 将bfloat16t数据遵循CASTTRUNC模式取整。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10682_html.md ## CANN商业版-\_\_bfloat162bfloat16\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10683.html - Description: 将bfloat16t数据遵循CASTFLOOR模式取整。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10683_html.md ## CANN商业版-\_\_bfloat162bfloat16\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10684.html - Description: 将bfloat16t数据遵循CASTCEIL模式取整。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10684_html.md ## CANN商业版-\_\_bfloat162bfloat16\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10685.html - Description: 将bfloat16t数据遵循CASTROUND模式取整。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10685_html.md ## CANN商业版-\_\_bfloat162uint\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10686.html - Description: 遵循CASTRINT模式,将bfloat16类型数据转换为无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10686_html.md ## CANN商业版-\_\_bfloat162uint\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10687.html - Description: 遵循CASTTRUNC模式,将bfloat16类型数据转换为无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10687_html.md ## CANN商业版-\_\_bfloat162uint\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10688.html - Description: 遵循CASTFLOOR模式,将bfloat16类型数据转换为无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10688_html.md ## CANN商业版-\_\_bfloat162uint\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10689.html - Description: 遵循CASTCEIL模式,将bfloat16类型数据转换为无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10689_html.md ## CANN商业版-\_\_bfloat162uint\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10690.html - Description: 遵循CASTROUND模式,将bfloat16类型数据转换为无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10690_html.md ## CANN商业版-\_\_bfloat162int\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10691.html - Description: 遵循CASTRINT模式,将bfloat16类型数据转换为有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10691_html.md ## CANN商业版-\_\_bfloat162int\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10692.html - Description: 遵循CASTTRUNC模式,将bfloat16类型数据转换为有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10692_html.md ## CANN商业版-\_\_bfloat162int\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10693.html - Description: 遵循CASTFLOOR模式,将bfloat16类型数据转换为有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10693_html.md ## CANN商业版-\_\_bfloat162int\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10694.html - Description: 遵循CASTCEIL模式,将bfloat16类型数据转换为有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10694_html.md ## CANN商业版-\_\_bfloat162int\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10695.html - Description: 遵循CASTROUND模式,将bfloat16类型数据转换为有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10695_html.md ## CANN商业版-\_\_bfloat162ull\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10696.html - Description: 遵循CASTRINT模式,将bfloat16类型数据转换为64位无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10696_html.md ## CANN商业版-\_\_bfloat162ull\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10697.html - Description: 遵循CASTTRUNC模式,将bfloat16类型数据转换为64位无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10697_html.md ## CANN商业版-\_\_bfloat162ull\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10698.html - Description: 遵循CASTFLOOR模式,将bfloat16类型数据转换为64位无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10698_html.md ## CANN商业版-\_\_bfloat162ull\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10699.html - Description: 遵循CASTCEIL模式,将bfloat16类型数据转换为64位无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10699_html.md ## CANN商业版-\_\_bfloat162ull\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10700.html - Description: 遵循CASTROUND模式,将bfloat16类型数据转换为64位无符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10700_html.md ## CANN商业版-\_\_bfloat162ll\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10701.html - Description: 遵循CASTRINT模式,将bfloat16类型数据转换为64位有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10701_html.md ## CANN商业版-\_\_bfloat162ll\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10702.html - Description: 遵循CASTTRUNC模式,将bfloat16类型数据转换为64位有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10702_html.md ## CANN商业版-\_\_bfloat162ll\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10703.html - Description: 遵循CASTFLOOR模式,将bfloat16类型数据转换为64位有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10703_html.md ## CANN商业版-\_\_bfloat162ll\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10704.html - Description: 遵循CASTCEIL模式,将bfloat16类型数据转换为64位有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10704_html.md ## CANN商业版-\_\_bfloat162ll\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10705.html - Description: 遵循CASTROUND模式,将bfloat16类型数据转换为64位有符号整数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10705_html.md ## CANN商业版-\_\_uint2float\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10706.html - Description: 遵循CASTRINT模式,将uint32类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10706_html.md ## CANN商业版-\_\_uint2float\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10707.html - Description: 遵循CASTTRUNC模式,将uint32类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10707_html.md ## CANN商业版-\_\_uint2float\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10708.html - Description: 遵循CASTFLOOR模式,将uint32类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10708_html.md ## CANN商业版-\_\_uint2float\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10709.html - Description: 遵循CASTCEIL模式,将uint32类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10709_html.md ## CANN商业版-\_\_uint2float\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10710.html - Description: 遵循CASTROUND模式,将uint32类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10710_html.md ## CANN商业版-\_\_uint2half\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10711.html - Description: 遵循CASTRINT模式,将uint32类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10711_html.md ## CANN商业版-\_\_uint2half\_rn\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10712.html - Description: 饱和模式下,将uint32类型数据转换为half类型数据,并遵循CASTRINT模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10712_html.md ## CANN商业版-\_\_uint2half\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10713.html - Description: 遵循CASTTRUNC模式,将uint32类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10713_html.md ## CANN商业版-\_\_uint2half\_rz\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10714.html - Description: 饱和模式下,将uint32类型数据转换为half类型数据,并遵循CASTTRUNC模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10714_html.md ## CANN商业版-\_\_uint2half\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10715.html - Description: 遵循CASTFLOOR模式,将uint32类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10715_html.md ## CANN商业版-\_\_uint2half\_rd\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10716.html - Description: 饱和模式下,将uint32类型数据转换为half类型数据,并遵循CASTFLOOR模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10716_html.md ## CANN商业版-\_\_uint2half\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10717.html - Description: 遵循CASTCEIL模式,将uint32类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10717_html.md ## CANN商业版-\_\_uint2half\_ru\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10718.html - Description: 饱和模式下,将uint32类型数据转换为half类型数据,并遵循CASTCEIL模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10718_html.md ## CANN商业版-\_\_uint2half\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10719.html - Description: 遵循CASTROUND模式,将uint32类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10719_html.md ## CANN商业版-\_\_uint2half\_rna\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10720.html - Description: 饱和模式下,将uint32类型数据转换为half类型数据,并遵循CASTROUND模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10720_html.md ## CANN商业版-\_\_uint2bfloat16\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10721.html - Description: 遵循CASTRINT模式,将uint32类型数据转换为bfloat16类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10721_html.md ## CANN商业版-\_\_uint2bfloat16\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10722.html - Description: 遵循CASTTRUNC模式,将uint32类型数据转换为bfloat16类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10722_html.md ## CANN商业版-\_\_uint2bfloat16\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10723.html - Description: 遵循CASTFLOOR模式,将uint32类型数据转换为bfloat16类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10723_html.md ## CANN商业版-\_\_uint2bfloat16\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10724.html - Description: 遵循CASTCEIL模式,将uint32类型数据转换为bfloat16类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10724_html.md ## CANN商业版-\_\_uint2bfloat16\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10725.html - Description: 遵循CASTROUND模式,将uint32类型数据转换为bfloat16类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10725_html.md ## CANN商业版-\_\_int2float\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10726.html - Description: 遵循CASTRINT模式,将int32类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10726_html.md ## CANN商业版-\_\_int2float\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10727.html - Description: 遵循CASTTRUNC模式,将int32类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10727_html.md ## CANN商业版-\_\_int2float\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10728.html - Description: 遵循CASTFLOOR模式,将int32类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10728_html.md ## CANN商业版-\_\_int2float\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10729.html - Description: 遵循CASTCEIL模式,将int32类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10729_html.md ## CANN商业版-\_\_int2float\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10730.html - Description: 遵循CASTROUND模式,将int32类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10730_html.md ## CANN商业版-\_\_int2half\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10731.html - Description: 遵循CASTRINT模式,将int32类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10731_html.md ## CANN商业版-\_\_int2half\_rn\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10732.html - Description: 饱和模式下,将int32类型数据转换为half类型数据,并遵循CASTRINT模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10732_html.md ## CANN商业版-\_\_int2half\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10733.html - Description: 遵循CASTTRUNC模式,将int32类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10733_html.md ## CANN商业版-\_\_int2half\_rz\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10734.html - Description: 饱和模式下,将int32类型数据转换为half类型数据,并遵循CASTTRUNC模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10734_html.md ## CANN商业版-\_\_int2half\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10735.html - Description: 遵循CASTFLOOR模式,将int32类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10735_html.md ## CANN商业版-\_\_int2half\_rd\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10736.html - Description: 饱和模式下,将int32类型数据转换为half类型数据,并遵循CASTFLOOR模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10736_html.md ## CANN商业版-\_\_int2half\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10737.html - Description: 遵循CASTCEIL模式,将int32类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10737_html.md ## CANN商业版-\_\_int2half\_ru\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10738.html - Description: 饱和模式下,将int32类型数据转换为half类型数据,并遵循CASTCEIL模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10738_html.md ## CANN商业版-\_\_int2half\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10739.html - Description: 遵循CASTROUND模式,将int32类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10739_html.md ## CANN商业版-\_\_int2half\_rna\_sat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10740.html - Description: 饱和模式下,将int32类型数据转换为half类型数据,并遵循CASTROUND模式,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10740_html.md ## CANN商业版-\_\_int2bfloat16\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10741.html - Description: 遵循CASTRINT模式,将int32类型数据转换为bfloat16类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10741_html.md ## CANN商业版-\_\_int2bfloat16\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10742.html - Description: 遵循CASTTRUNC模式,将int32类型数据转换为bfloat16类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10742_html.md ## CANN商业版-\_\_int2bfloat16\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10743.html - Description: 遵循CASTFLOOR模式,将int32类型数据转换为bfloat16类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10743_html.md ## CANN商业版-\_\_int2bfloat16\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10744.html - Description: 遵循CASTCEIL模式,将int32类型数据转换为bfloat16类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10744_html.md ## CANN商业版-\_\_int2bfloat16\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10745.html - Description: 遵循CASTROUND模式,将int32类型数据转换为bfloat16类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10745_html.md ## CANN商业版-\_\_ull2float\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10746.html - Description: 遵循CASTRINT模式,将uint64类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10746_html.md ## CANN商业版-\_\_ull2float\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10747.html - Description: 遵循CASTTRUNC模式,将uint64类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10747_html.md ## CANN商业版-\_\_ull2float\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10748.html - Description: 遵循CASTFLOOR模式,将uint64类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10748_html.md ## CANN商业版-\_\_ull2float\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10749.html - Description: 遵循CASTCEIL模式,将uint64类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10749_html.md ## CANN商业版-\_\_ull2float\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10750.html - Description: 遵循CASTROUND模式,将uint64类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10750_html.md ## CANN商业版-\_\_ull2half\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10751.html - Description: 遵循CASTRINT模式,将uint64类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10751_html.md ## CANN商业版-\_\_ull2half\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10752.html - Description: 遵循CASTTRUNC模式,将uint64类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10752_html.md ## CANN商业版-\_\_ull2half\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10753.html - Description: 遵循CASTFLOOR模式,将uint64类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10753_html.md ## CANN商业版-\_\_ull2half\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10754.html - Description: 遵循CASTCEIL模式,将uint64类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10754_html.md ## CANN商业版-\_\_ull2half\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10755.html - Description: 遵循CASTROUND模式,将uint64类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10755_html.md ## CANN商业版-\_\_ull2bfloat16\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10756.html - Description: 遵循CASTRINT模式,将uint64类型数据转换为bfloat16类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10756_html.md ## CANN商业版-\_\_ull2bfloat16\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10757.html - Description: 遵循CASTTRUNC模式,将uint64类型数据转换为bfloat16类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10757_html.md ## CANN商业版-\_\_ull2bfloat16\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10758.html - Description: 遵循CASTFLOOR模式,将uint64类型数据转换为bfloat16类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10758_html.md ## CANN商业版-\_\_ull2bfloat16\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10759.html - Description: 遵循CASTCEIL模式,将uint64类型数据转换为bfloat16类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10759_html.md ## CANN商业版-\_\_ull2bfloat16\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10760.html - Description: 遵循CASTROUND模式,将uint64类型数据转换为bfloat16类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10760_html.md ## CANN商业版-\_\_ll2float\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10761.html - Description: 遵循CASTRINT模式,将int64类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10761_html.md ## CANN商业版-\_\_ll2float\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10762.html - Description: 遵循CASTTRUNC模式,将int64类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10762_html.md ## CANN商业版-\_\_ll2float\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10763.html - Description: 遵循CASTFLOOR模式,将int64类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10763_html.md ## CANN商业版-\_\_ll2float\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10764.html - Description: 遵循CASTCEIL模式,将int64类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10764_html.md ## CANN商业版-\_\_ll2float\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10765.html - Description: 遵循CASTROUND模式,将int64类型数据转换为浮点数,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10765_html.md ## CANN商业版-\_\_ll2half\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10766.html - Description: 遵循CASTRINT模式,将int64类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10766_html.md ## CANN商业版-\_\_ll2half\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10767.html - Description: 遵循CASTTRUNC模式,将int64类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10767_html.md ## CANN商业版-\_\_ll2half\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10768.html - Description: 遵循CASTFLOOR模式,将int64类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10768_html.md ## CANN商业版-\_\_ll2half\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10769.html - Description: 遵循CASTCEIL模式,将int64类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10769_html.md ## CANN商业版-\_\_ll2half\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10770.html - Description: 遵循CASTROUND模式,将int64类型数据转换为half类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10770_html.md ## CANN商业版-\_\_ll2bfloat16\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10771.html - Description: 遵循CASTRINT模式,将int64类型数据转换为bfloat16类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10771_html.md ## CANN商业版-\_\_ll2bfloat16\_rz - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10772.html - Description: 遵循CASTTRUNC模式,将int64类型数据转换为bfloat16类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10772_html.md ## CANN商业版-\_\_ll2bfloat16\_rd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10773.html - Description: 遵循CASTFLOOR模式,将int64类型数据转换为bfloat16类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10773_html.md ## CANN商业版-\_\_ll2bfloat16\_ru - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10774.html - Description: 遵循CASTCEIL模式,将int64类型数据转换为bfloat16类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10774_html.md ## CANN商业版-\_\_ll2bfloat16\_rna - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10775.html - Description: 遵循CASTROUND模式,将int64类型数据转换为bfloat16类型数据,返回转换后的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10775_html.md ## CANN商业版-\_\_hif822float2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10776.html - Description: 将hifloat8x2t类型数据的两个分量转换为浮点数,返回转换后的float2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10776_html.md ## CANN商业版-\_\_hif822half2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10777.html - Description: 将hifloat8x2t类型数据的两个分量转换为半精度浮点数,返回转换后的half2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10777_html.md ## CANN商业版-\_\_e4m3x22float2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10778.html - Description: 将float8e4m3x2t类型数据的两个分量转换为浮点数,返回转换后的float2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10778_html.md ## CANN商业版-\_\_e5m2x22float2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10779.html - Description: 将float8e5m2x2t类型数据的两个分量转换为浮点数,返回转换后的float2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10779_html.md ## CANN商业版-\_\_float2bfloat162\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10780.html - Description: 将float类型数据遵循CASTRINT模式转换为bfloat16类型并填充到bfloat16x2的前后两部分,返回填充后的bfloat16x2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10780_html.md ## CANN商业版-\_\_floats2bfloat162\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10781.html - Description: 将输入数据x、y遵循CASTRINT模式分别转换为bfloat16类型,并填充到bfloat16x2的前后两部分,返回转换后的bfloat16x2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10781_html.md ## CANN商业版-\_\_float22bfloat162\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10782.html - Description: 将float2类型数据遵循CASTRINT模式转换为bfloat16x2类型,返回转换后的bfloat16x2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10782_html.md ## CANN商业版-\_\_bfloat162bfloat162 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10783.html - Description: 将输入数据填充为bfloat16x2前后两个分量,返回转换后的bfloat16x2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10783_html.md ## CANN商业版-\_\_halves2bfloat162 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10784.html - Description: 将输入的数据分别填充为bfloat16x2前后两个分量,返回填充后数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10784_html.md ## CANN商业版-\_\_high2bfloat16 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10785.html - Description: 提取输入bfloat16x2的高16位,并返回。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10785_html.md ## CANN商业版-\_\_high2bfloat162 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10786.html - Description: 将输入数据的的高16位填充到bfloat16x2并返回结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10786_html.md ## CANN商业版-\_\_high2float - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10787.html - Description: 将输入数据的高16位转换为float类型并返回结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10787_html.md ## CANN商业版-\_\_highs2bfloat162 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10788.html - Description: 分别提取两个bfloat162输入的高16位,并填充到bfloat162中,返回填充后的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10788_html.md ## CANN商业版-\_\_low2bfloat16 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10789.html - Description: 返回输入数据的低16位。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10789_html.md ## CANN商业版-\_\_low2bfloat162 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10790.html - Description: 将输入数据的低16位填充到bfloat16x2并返回。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10790_html.md ## CANN商业版-\_\_low2float - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10791.html - Description: 将输入数据的低16位转换为浮点数并返回结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10791_html.md ## CANN商业版-\_\_lowhigh2highlow - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10792.html - Description: 将输入数据的高低16位进行交换并返回。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10792_html.md ## CANN商业版-\_\_lows2bfloat162 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10793.html - Description: 分别提取两个bfloat162输入的低16位,并填充到bfloat162中,返回填充后的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10793_html.md ## CANN商业版-\_\_bfloat1622float2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10794.html - Description: 将bfloat16x2的两个分量分别转换为float,并填充到float2后返回。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10794_html.md ## CANN商业版-\_\_floats2half2\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10795.html - Description: 将输入数据x、y遵循CASTRINT模式分别转换为half类型,并填充到half2的前后两部分,返回转换后的half2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10795_html.md ## CANN商业版-\_\_float22half2\_rn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10796.html - Description: 将float2类型数据遵循CASTRINT模式转换为half2类型,返回转换后的half2类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10796_html.md ## CANN商业版-\_\_low2half - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10797.html - Description: 返回输入数据的低16位。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10797_html.md ## CANN商业版-\_\_low2half2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10798.html - Description: 将输入数据的低16位填充到half2并返回。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10798_html.md ## CANN商业版-\_\_high2half - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10799.html - Description: 提取输入half2的高16位,并返回。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10799_html.md ## CANN商业版-\_\_high2half2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10800.html - Description: 将输入数据的的高16位填充到half2并返回结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10800_html.md ## CANN商业版-\_\_highs2half2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10801.html - Description: 分别提取两个half2输入的高16位,并填充到half2中,返回填充后的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10801_html.md ## CANN商业版-\_\_lows2half2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10802.html - Description: 分别提取两个half2输入的低16位,并填充到half2中,返回填充后的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10802_html.md ## CANN商业版-\_\_halves2half2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10803.html - Description: 将输入的数据分别填充为half2前后两个分量,返回填充后的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10803_html.md ## CANN商业版-\_\_half22float2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10804.html - Description: 将half2的两个分量分别转换为float,填充到float2后返回。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10804_html.md ## CANN商业版-\_\_int\_as\_float - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10805.html - Description: 将整数中的位重新解释为浮点数,即将整数存储的位按照float的格式进行读取。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10805_html.md ## CANN商业版-\_\_uint\_as\_float - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10806.html - Description: 将无符号整数中的位重新解释为浮点数,即将无符号整数存储的位按照float的格式进行读取。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10806_html.md ## CANN商业版-\_\_float\_as\_int - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10807.html - Description: 将浮点数中的位重新解释为有符号整数,即将浮点数存储的位按照有符号整数的格式进行读取。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10807_html.md ## CANN商业版-\_\_float\_as\_uint - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10808.html - Description: 将浮点数中的位重新解释为无符号整数,即将浮点数存储的位按照无符号整数的格式进行读取。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10808_html.md ## CANN商业版-\_\_ushort\_as\_half - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10809.html - Description: 将unsigned short int的数据按位重新解释为half,即将unsigned short int的数据存储的位按照half的格式进行读取。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10809_html.md ## CANN商业版-\_\_ushort\_as\_bfloat16 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_10810.html - Description: 将unsigned short int的数据按位重新解释为bfloat16,即将unsigned short int的数据存储的位按照bfloat16的格式进行读取。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_10810_html.md ## 内部关联接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1205.html - Description: 在进行算子原型注册、Tiling实现、shape推导过程中,使用到的外部开放接口中会调用到一些辅助数据结构和接口,称之为内部关联接口。开发者不会直接调用内部关联接口,此处仅作简单介绍。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1205_html.md ## CANN商业版-GmAlloc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1207.html - Description: 进行核函数的CPU侧运行验证时,用于创建共享内存:在/tmp目录下创建一个共享文件,并返回该文件的映射指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1207_html.md ## CANN商业版-ICPU\_RUN\_KF - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1208.html - Description: 进行核函数的CPU侧运行验证时,CPU调测总入口,完成CPU侧的算子程序调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1208_html.md ## CANN商业版-ICPU\_SET\_TILING\_KEY - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1209.html - Description: 用于指定本次CPU调测使用的tilingKey。调测执行时,将只执行算子核函数中该tilingKey对应的分支。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1209_html.md ## CANN商业版-GmFree - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1210.html - Description: 进行核函数的CPU侧运行验证时,用于释放通过GmAlloc申请的共享内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1210_html.md ## CANN商业版-SetKernelMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1211.html - Description: 针对分离模式\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/Ascendcopdevg/atlasascendc100008.html\#ZH-CNTOPIC0000002531522198section1574769433\),CPU调测时,设置内核模式为单AIV模式,单AIC模式或者MIX模式,以分别 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1211_html.md ## CANN商业版-TRACE\_START - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1212.html - Description: 通过CAModel进行算子性能仿真时,可对算子任意运行阶段打点,从而分析不同指令的流水图,以便进一步性能调优。 用于表示起始位置打点,一般与TRACESTOP配套使用。 该功能主要用于调试和性能分析,开启后会对算子性能产生一定影响,通常在调测阶段使用,生产环境建议关闭。 默认情况下,该功能关闭,开发者可以按需通过如下方式开启打点功能。 修改Kernel直调工程cmake目录下的npulib.cma - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1212_html.md ## CANN商业版-TRACE\_STOP - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1213.html - Description: 通过CAModel进行算子性能仿真时,可对算子任意运行阶段打点,从而分析不同指令的流水图,以便进一步性能调优。 用于表示终止位置打点,一般与TRACESTART配套使用。 该功能主要用于调试和性能分析,开启后会对算子性能产生一定影响,通常在调测阶段使用,生产环境建议关闭。 默认情况下,该功能关闭,开发者可以按需通过如下方式开启打点功能。 修改Kernel直调工程cmake目录下的npulib.cm - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1213_html.md ## CANN商业版-MetricsProfStart - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1214.html - Description: 推荐使用ascprofstart接口进行性能数据采集信号启动的设置,该接口同时适用于C语言和C++语言编程。 用于设置性能数据采集信号启动,和MetricsProfStop配合使用。使用算子调优(msProf)\(https://www.hiascend.com/document/detail/zh/canncommercial/900/devaids/optool/docs/zh/userguid - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1214_html.md ## CANN商业版-MetricsProfStop - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1215.html - Description: 推荐使用ascprofstop接口进行性能数据采集信号停止的设置,该接口同时适用于C语言和C++语言编程。 设置性能数据采集信号停止,和MetricsProfStart配合使用。使用算子调优(msProf)\(https://www.hiascend.com/document/detail/zh/canncommercial/900/devaids/optool/docs/zh/userguide/ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1215_html.md ## HCCL Context简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1217.html - Description: 本章节的接口用于在kernel侧设置/获取通算融合算子每个通信域对应的context(消息区)地址。需要同步在host侧调用HcclGroup接口配置通信域名称后,才可以调用GetHcclContext获取对应的context地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1217_html.md ## CANN商业版-SetHcclContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1218.html - Description: 设置通算融合算子每个通信域对应的context(消息区)地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1218_html.md ## CANN商业版-GetHcclContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1219.html - Description: 获取指定Index通信域的context(消息区)地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1219_html.md ## 预留接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_1220.html - Description: 本章节列出的接口均为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_1220_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/c_api_list.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cache_ctrl/asc_datacache_preload.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cache_ctrl/asc_dcci.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cache_ctrl/asc_get_icache_preload_status.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cache_ctrl/asc_icache_preload.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_compute/asc_enable_hf32_trans.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_compute/asc_enable_hf32.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_compute/asc_mmad_mx.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_compute/asc_mmad_sparse.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_compute/asc_mmad.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_compute/asc_set_fp32_mode.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_compute/asc_set_l0c2gm_config.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_compute/asc_set_l0c2gm_nz2nd.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_compute/asc_set_mmad_direction_m.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_compute/asc_set_mmad_direction_n.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_copy_l0c2gm.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_copy_l0c2l1/asc_copy_l0c2l1_arch_2201.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_copy_l0c2l1/asc_copy_l0c2l1_arch_3510.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_copy_l12bt.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_copy_l12fb.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_copy_l12l0a_mx.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_copy_l12l0a.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_copy_l12l0b_sparse.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_copy_l12l0b_trans.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_copy_l12l0b.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_fill_l0a.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_fill_l0b.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_fill_l1.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_load_image_to_cbuf.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_set_gm2l1_lp_size.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_set_gm2l1_lp1_stride.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_set_gm2l1_lp2_stride.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_set_gm2l1_pad.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_set_l0c_copy_params.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_set_l0c_copy_prequant.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_set_l13d_fmatrix.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_set_l13d_padding.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_set_l13d_rpt.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/asc_set_l13d_size.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/copy_gm2l1_nd2nz.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/cube_datamove/copy_gm2l1.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/general_instruction.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/misc/asc_init.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_load/asc_gather_datablock.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_load/asc_gather.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_load/asc_get_mask_spr.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_load/asc_load.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_load/asc_loadalign/asc_loadalign_v1.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_load/asc_loadalign/asc_loadalign_v2.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_load/asc_loadalign/asc_loadalign_v3.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_load/asc_loadalign/asc_loadalign_v4.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_load/asc_loadalign/asc_loadalign_v5.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_load/asc_loadunalign_postupdate.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_load/asc_loadunalign_pre.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_load/asc_loadunalign.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_load/asc_scatter.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_store/asc_store.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_store/asc_storealign/asc_storealign_v1.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_store/asc_storealign/asc_storealign_v2.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_store/asc_storealign/asc_storealign_v3.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_store/asc_storealign/asc_storealign_v4.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_store/asc_storealign/asc_storealign_v5.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_store/asc_storeunalign_post_postupdate.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_store/asc_storeunalign_post.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_store/asc_storeunalign_postupdate.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_store/asc_storeunalign.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_abs_sub.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_abs.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_add_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_add.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_addc.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_and.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_arange.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_axpy.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_bfloat162e1m2x2.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_bfloat162e2m1x2.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_bfloat162float.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_bfloat162half.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_bfloat162int32.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_clear_ar_spr.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_copy.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_create_iter_reg.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_create_mask.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_cumulative_histogram.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_deintlv.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_div.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_duplicate_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_duplicate.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_e1m2x22bfloat16.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_e2m1x22bfloat16.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_e4m32float.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_e5m22float.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_eq_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_eq.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_exp_sub.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_exp.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_float2bfloat16.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_float2e4m3.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_float2e5m2.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_float2half.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_float2hif8.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_float2int16.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_float2int32.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_float2int64.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_frequency_histogram.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_ge_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_ge.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_gt_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_gt.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_half2bf16.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_half2float.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_half2hif8.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_half2int16.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_half2int32.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_half2int4x2.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_half2int8.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_half2uint8.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_hif82half.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_int162float.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_int162half.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_int162int32.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_int162uint32.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_int162uint8.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_int322float.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_int322int16.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_int322int64.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_int322uint16.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_int322uint8.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_int4x22bfloat16.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_int4x22half.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_int4x22int16.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_int642float.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_int642int32.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_int82half.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_int82int16.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_int82int32.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_intlv.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_le_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_le.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_leakyrelu.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_ln.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_lt_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_lt.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_madd.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_max_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_max.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_mem_bar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_min_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_min.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_mul_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_mul.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_mull.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_muls.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_ne_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_ne.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_neg.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_not.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_or.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_pack.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_pair_reduce_sum.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_prelu.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_reduce_max_datablock.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_reduce_max.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_reduce_min_datablock.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_reduce_min.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_reduce_sum_datablock.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_reduce_sum.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_relu.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_select.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_shiftleft_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_shiftleft.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_shiftright_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_shiftright.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_sqrt.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_squeeze.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_sub.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_subc.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_truncate.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_uint162uint32.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_uint162uint8.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_uint322int16.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_uint322uint16.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_uint322uint8.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_uint82half.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_uint82uint16.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_uint82uint32.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_unpack.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_unsqueeze.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_update_mask.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg_vector/asc_xor.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/reg/reg%E6%95%B0%E6%8D%AE%E7%B1%BB%E5%9E%8B%E5%AE%9A%E4%B9%89.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/scalar_compute/asc_clear_nthbit.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/scalar_compute/asc_clz.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/scalar_compute/asc_ffs.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/scalar_compute/asc_ffz.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/scalar_compute/asc_float2int32.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/scalar_compute/asc_popc.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/scalar_compute/asc_set_nthbit.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/scalar_compute/asc_sflbits.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/scalar_compute/asc_store_dev.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/scalar_compute/asc_zero_bits_cnt.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/simd_atomic/asc_get_store_atomic_config.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/simd_atomic/asc_set_atomic_add.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/simd_atomic/asc_set_atomic_max.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/simd_atomic/asc_set_atomic_min.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/simd_atomic/asc_set_atomic_none.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/simd_atomic/asc_set_store_atomic_config_v1.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/simd_atomic/asc_set_store_atomic_config_v2.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/struct/asc_fill_value_config.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/struct/asc_l13d_fmatrix_config.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/struct/asc_load3d_v2_config.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/struct/asc_ndim_pad_count_config.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/struct/asc_store_atomic_config.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sync/asc_sync_block_arrive.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sync/asc_sync_block_wait.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sync/asc_sync_data_barrier.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sync/asc_sync_mte2.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sync/asc_sync_mte3.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sync/asc_sync_notify.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sync/asc_sync_pipe.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sync/asc_sync_vec.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sync/asc_sync_wait.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sync/asc_sync.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sys_var/asc_get_ar_spr.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sys_var/asc_get_arch_ver.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sys_var/asc_get_block_idx.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sys_var/asc_get_block_num.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sys_var/asc_get_core_id.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sys_var/asc_get_ctrl.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sys_var/asc_get_ffts_base_addr.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sys_var/asc_get_phy_buf_addr.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sys_var/asc_get_program_counter.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sys_var/asc_get_sub_block_id.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sys_var/asc_get_sub_block_num.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sys_var/asc_get_system_cycle.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sys_var/asc_set_ctrl.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/sys_var/asc_set_ffts_base_addr.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_abs.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_add_relu.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_add_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_add.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_and.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_axpy.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_bfloat162float.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_bfloat162int32.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_bitsort.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_brcb.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_copy.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_datablock_reduce_max.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_datablock_reduce_min.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_datablock_reduce_sum.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_deq_int162b8.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_deq_int322half.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_div.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_duplicate.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_eq_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_eq.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_exp.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_float2bf16.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_float2float.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_float2half.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_float2int16.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_float2int32.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_float2int64.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_fma.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_gather_datablock.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_gather.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_ge_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_ge.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_get_cmp_mask.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_get_reduce_max_cnt.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_get_reduce_min_cnt.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_get_rsvd_count.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_get_vms4_sr.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_gt_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_gt.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_half2float.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_half2int16.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_half2int32.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_half2int4.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_half2int8.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_half2uint8.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_int162float.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_int162half.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_int322float.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_int322int16.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_int322int64.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_int42half.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_int642float.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_int642int32.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_int82half.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_le_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_le.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_leakyrelu.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_log.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_lt_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_lt.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_max_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_max.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_min_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_min.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_mrgsort4.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_mul_add_relu.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_mul_add.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_mul_cast_half2int8.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_mul_cast_half2uint8.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_mul_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_mul.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_ne_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_ne.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_not.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_or.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_pair_reduce_sum.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_rcp.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_reduce.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_relu.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_repeat_reduce_max.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_repeat_reduce_min.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_repeat_reduce_sum.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_rsqrt.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_select.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_set_cmp_mask.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_set_deq_scale.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_set_mask_count.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_set_mask_norm.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_set_va_reg.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_set_vector_mask.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_shiftleft.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_shiftright.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_sqrt.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_sub_relu.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_sub_scalar.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_sub.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_transpose.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_transto5hd.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_uint82half.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_compute/asc_vdeq_int162b8.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_datamove/asc_copy_gm2ub_align/asc_copy_gm2ub_align_arch_2201.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_datamove/asc_copy_gm2ub_align/asc_copy_gm2ub_align_arch_3510.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_datamove/asc_copy_gm2ub.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_datamove/asc_copy_ub2gm_align/asc_copy_ub2gm_align_arch_2201.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_datamove/asc_copy_ub2gm_align/asc_copy_ub2gm_align_arch_3510.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_datamove/asc_copy_ub2gm.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_datamove/asc_copy_ub2ub.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_datamove/asc_ndim_copy_gm2ub.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_datamove/asc_set_gm2ub_loop_size.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_datamove/asc_set_gm2ub_loop1_stride.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_datamove/asc_set_gm2ub_loop2_stride.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_datamove/asc_set_gm2ub_pad.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_datamove/asc_set_ndim_loop_stride.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_datamove/asc_set_ndim_pad_count.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_datamove/asc_set_ndim_pad_value.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_datamove/asc_set_ub2gm_loop_size.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_datamove/asc_set_ub2gm_loop1_stride.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## Ascend C API列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/context/vector_datamove/asc_set_ub2gm_loop2_stride.md - Description: Ascend C提供一组类库API,开发者使用标准C++语法和类库API进行编程。Ascend C编程类库API示意图如下所示,分为:- 基础数据结构:kernel API中使用到的基础数据结构,比如GlobalTensor和LocalTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendcopapi_atlasascendc_api_07_0003_html.md ## 全量接口列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi - Description: 本文档主要描述给应用用户或者上层框架提供了安全易用的构图接口集合,开发者可以调用这些接口构建网络模型,设置模型所包含的图、图内的算子以及算子的属性信息(包括Input、Output及其他属性信息)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0001_html.md ## 单算子模型执行总体说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_000017.html - Description: 单算子模型执行是指基于图IR执行算子,先编译算子(例如,使用ATC工具将Ascend IR定义的单算子描述文件编译成算子om模型文件),再调用acl接口加载算子模型(例如aclopSetModelDir接口),最后调用acl接口执行算子(例如aclopExecuteV2接口)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_000017_html.md ## 调用CBLAS接口执行算子示例代码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_000021.html - Description: 本节介绍基于单算子模型执行的方式调用CBLAS算子的关键接口、示例代码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_000021_html.md ## 执行固定Shape算子示例代码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_000022.html - Description: 本节介绍基于单算子模型执行的方式调用固定Shape算子的关键接口、示例代码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_000022_html.md ## 执行动态Shape算子示例代码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_000023.html - Description: 本节介绍基于单算子模型执行的方式调用动态Shape算子的关键接口、示例代码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_000023_html.md ## CANN商业版-aclSetCompileopt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0025.html - Description: 用户可调用本接口设置对应的编译选项,该选项为进程级全局共享。在算子或模型编译前,调用本接口设置编译选项,在编译时,以当前的编译选项为准,一次编译过程中不会变更。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0025_html.md ## CANN商业版-aclGetCompileopt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0026.html - Description: 用户可调用本接口获取编译选项的值。 用户可以调用本接口获取当前编译选项的值,在调用aclSetCompileopt前,本接口返回的是各编译选项的默认值;在调用aclSetCompileopt后,本接口返回的是用户设置的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0026_html.md ## CANN商业版-aclGetCompileoptSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0027.html - Description: 用户可调用本接口获取存放编译选项值的内存大小。 用户在调用aclGetCompileopt前需要申请一块内存来保存编译选项的值,内存大小可以通过调用本接口获得。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0027_html.md ## CANN商业版-aclGenGraphAndDumpForOp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0033.html - Description: 构建单个算子的图并Dump,生成.txt文件。此处的图是指表达算子IR(Intermediate Representation)的结构,图编译过程中由于融合、拆分等原因会导致图不断变换、进而生成新的图,这些变换的目的是为了将用户表达的图适配到AI处理器上,获得更高性能。 使用场景:算子调优场景下,调用本接口构建单个算子的图并Dump,生成.txt文件,作为算子调优的输入数据之一。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0033_html.md ## CANN商业版-aclopSetModelDir - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0245.html - Description: 设置加载模型文件的目录,该模型文件是由单算子编译成的.om文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0245_html.md ## CANN商业版-aclopLoad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0246.html - Description: 从内存中加载单算子模型数据(单算子模型数据是指“单算子编译成.om文件后,再将om文件读取到内存中”的数据),由用户管理内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0246_html.md ## aclopSetCompileFlag(废弃) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0247.html - Description: 须知:此接口后续版本会废弃,请使用aclSetCompileopt接口设置编译选项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0247_html.md ## CANN商业版-aclopCompile - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0248.html - Description: 编译指定算子。在编译算子前,可以调用aclSetCompileopt接口设置编译选项。 每个算子的输入、输出组织不同,在调用接口时严格按照算子输入、输出参数来组织算子,用户在调用aclopCompile时,接口会根据optype、输入tensor的描述、输出tensor的描述、attr等信息查找对应的任务,再编译算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0248_html.md ## aclopExecute(废弃) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0249.html - Description: 须知:此接口后续版本会废弃,请使用aclopExecuteV2接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0249_html.md ## CANN商业版-aclopExecuteV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0250.html - Description: 执行指定的算子。异步接口。 每个算子的输入、输出、属性不同,接口会根据optype、输入tensor的描述、输出tensor的描述、attr等信息查找对应的任务,并下发执行,因此在调用本接口时需严格按照算子输入、输出、属性来组织算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0250_html.md ## CANN商业版-aclopCompileAndExecute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0251.html - Description: 编译并执行指定的算子,当前只支持固定Shape的算子。异步接口。 每个算子的输入、输出、属性不同,接口会根据optype、输入tensor的描述、输出tensor的描述、attr等信息查找对应的任务,并下发执行,因此在调用本接口时需严格按照算子输入、输出、属性来组织算子。 在编译执行算子前,可以调用aclSetCompileopt接口设置编译选项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0251_html.md ## CANN商业版-aclopCompileAndExecuteV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0252.html - Description: 编译并执行指定的算子,当前只支持固定Shape的算子。每个算子的输入、输出、属性不同,接口会根据optype、输入tensor的描述、输出tensor的描述、attr等信息查找对应的任务,并下发执行,因此在调用本接口时需严格按照算子输入、输出、属性来组织算子。 在编译执行算子前,可以调用aclSetCompileopt接口设置编译选项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0252_html.md ## CANN商业版-aclopExecWithHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0253.html - Description: 以Handle方式调用一个算子,不支持动态Shape算子,动态Shape算子请使用aclopExecuteV2。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0253_html.md ## CANN商业版-aclopInferShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0254.html - Description: 根据算子的输入Shape、输入值推导出算子的输出Shape。 推导算子的输出Shape包含三种场景:- 根据Shape推导,可以得到算子的准确输出Shape,则返回准确输出Shape; - 根据Shape推导,无法得到算子的准确输出Shape,但可以得到输出Shape的范围,则在输出参数outputDesc中将算子输出tensor描述中的动态维度的维度值记为-1。该场景下,用户可调用 aclGe - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0254_html.md ## CANN商业版-aclopRegisterCompileFunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0257.html - Description: 动态Shape场景下,注册算子选择器,用于在算子执行时,能针对不同shape,选择相应的Tiling策略。 如果某算子已注册算子选择器,则不允许重新注册,如果需要变更算子选择器,必须先调用aclopUnregisterCompileFunc接口取消注册,然后再调用aclopRegisterCompileFunc接口重新注册。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0257_html.md ## CANN商业版-aclopUnregisterCompileFunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0258.html - Description: 动态Shape场景下,取消注册算子选择器。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0258_html.md ## CANN商业版-aclopCreateKernel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0259.html - Description: 动态Shape场景下,将算子注册到系统内部,运行算子时使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0259_html.md ## CANN商业版-aclopSetKernelArgs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0260.html - Description: 动态Shape场景下,设置算子Tiling参数、执行并发数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0260_html.md ## CANN商业版-aclopSetKernelWorkspaceSizes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0261.html - Description: 动态Shape场景下,设置算子Workspace参数。为非必须接口,根据算子情况可选。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0261_html.md ## CANN商业版-aclopUpdateParams - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0262.html - Description: 在算子动态Shape场景下,根据指定算子,触发调用算子选择器。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0262_html.md ## CANN商业版-aclopSetMaxOpQueueNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0263.html - Description: 通过单算子模型方式执行单个算子时,配置算子缓存信息老化,以达到节约内存和平衡调用性能的目的。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0263_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0265.html - Description: 调用本章节接口实现“矩阵-矩阵”或“矩阵-向量”相乘的运算,本章中的接口内部封装了系统内置的矩阵乘算子GEMM。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0265_html.md ## 关于A、B、C矩阵的Shape及内存大小计算公式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0266.html - Description: - A、B、C矩阵是否转置的标记如果设置为ACL\_TRANS\_N或ACL\_TRANS\_T,则用户在申请内存存放A、B、C矩阵数据时,实际申请的内存要和实际数据大小匹配,Shape及内存大小的计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0266_html.md ## CANN商业版-aclblasGemvEx - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0267.html - Description: 执行矩阵-向量的乘法,y \= αAx + βy,输入数据、输出数据的数据类型通过入参设置。异步接口。 A、x、y的数据类型仅支持以下组合, α和β的数据类型与y一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0267_html.md ## CANN商业版-aclblasCreateHandleForGemvEx - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0268.html - Description: 创建矩阵-向量乘的handle,输入数据、输出数据的数据类型通过入参设置。创建handle成功后,需调用aclopExecWithHandle接口执行算子。 A、x、y的数据类型仅支持以下组合: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0268_html.md ## CANN商业版-aclblasHgemv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0269.html - Description: 执行矩阵-向量的乘法,y \= αAx + βy,输入数据和输出数据的数据类型为aclFloat16\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/runtimeapi/aclcppdevg031347.html\)。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0269_html.md ## CANN商业版-aclblasCreateHandleForHgemv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0270.html - Description: 创建矩阵-向量乘的handle,输入数据和输出数据的数据类型为aclFloat16\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/runtimeapi/aclcppdevg031347.html\)。创建handle成功后,需调用aclopExecWithHandle接口执行算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0270_html.md ## CANN商业版-aclblasS8gemv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0271.html - Description: 执行矩阵-向量的乘法,y \= αAx + βy,输入数据的数据类型为int8t,输出数据的数据类型为int32t。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0271_html.md ## CANN商业版-aclblasCreateHandleForS8gemv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0272.html - Description: 创建矩阵-向量乘的handle,输入数据的数据类型为int8t,输出数据的数据类型为int32t。创建handle成功后,需调用aclopExecWithHandle接口执行算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0272_html.md ## CANN商业版-aclblasGemmEx - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0273.html - Description: 执行矩阵-矩阵的乘法,C \= αAB + βC,输入数据、输出数据的数据类型通过入参设置。异步接口。 A、B、C的数据类型仅支持以下组合, α和β的数据类型与C一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0273_html.md ## CANN商业版-aclblasCreateHandleForGemmEx - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0274.html - Description: 创建矩阵-矩阵乘的handle,输入数据、输出数据的数据类型通过入参设置。创建handle成功后,需调用aclopExecWithHandle接口执行算子。 A、B、C的数据类型仅支持以下组合: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0274_html.md ## CANN商业版-aclblasHgemm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0275.html - Description: 执行矩阵-矩阵的乘法,C \= αAB + βC,输入数据和输出数据的数据类型为aclFloat16\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/runtimeapi/aclcppdevg031347.html\)。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0275_html.md ## CANN商业版-aclblasCreateHandleForHgemm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0276.html - Description: 创建矩阵-矩阵乘的handle,输入数据和输出数据的数据类型为aclFloat16\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/runtimeapi/aclcppdevg031347.html\)。创建handle成功后,需调用aclopExecWithHandle接口执行算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0276_html.md ## CANN商业版-aclblasS8gemm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0277.html - Description: 执行矩阵-矩阵的乘法,C \= αAB + βC,输入数据的数据类型为int8t,输出数据的数据类型为int32t。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0277_html.md ## CANN商业版-aclblasCreateHandleForS8gemm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0278.html - Description: 创建矩阵-矩阵乘的handle,输入数据的数据类型为int8t,输出数据的数据类型为int32t。创建handle成功后,需调用aclopExecWithHandle接口执行算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0278_html.md ## CANN商业版-aclopCast - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0279.html - Description: 转换输入数据的数据类型。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0279_html.md ## CANN商业版-aclopCreateHandleForCast - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0280.html - Description: 创建数据类型转换的handle。创建handle成功后,需调用aclopExecWithHandle接口执行算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0280_html.md ## CANN商业版-aclmdlLoadFromFile - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0283.html - Description: 从文件加载离线模型数据,由系统内部管理模型运行的内存。 本接口中通过modelPath参数传入的文件是.om模型文件。关于如何获取om模型文件,请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/canncommercial/900/devaids/atctool/atlasatc160001.html\)》中的“参数说明 > 基础 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0283_html.md ## CANN商业版-aclmdlLoadFromMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0284.html - Description: 从内存加载om模型文件数据,由系统内部管理模型运行的内存。 关于如何获取om模型文件,请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/canncommercial/900/devaids/atctool/atlasatc160001.html\)》中的“参数说明 > 基础功能参数 > 总体选项 > --mode参数\(https: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0284_html.md ## CANN商业版-aclmdlLoadFromFileWithMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0285.html - Description: 从文件加载离线模型数据,由用户自行管理模型运行的内存。 本接口中通过modelPath参数传入的文件是.om模型文件。关于如何获取om模型文件,请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/canncommercial/900/devaids/atctool/atlasatc160001.html\)》中的“参数说明 > 基础 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0285_html.md ## CANN商业版-aclmdlLoadFromMemWithMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0286.html - Description: 从内存加载om模型文件数据,由用户自行管理模型运行的内存。 关于如何获取om模型文件,请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/canncommercial/900/devaids/atctool/atlasatc160001.html\)》中的“参数说明 > 基础功能参数 > 总体选项 > --mode参数\(https: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0286_html.md ## CANN商业版-aclmdlLoadFromFileWithQ - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0287.html - Description: 从文件加载离线模型数据,模型的输入、输出数据都存放在队列中。本接口只支持加载固定Shape输入的模型。 本接口中通过modelPath参数传入的文件是.om模型文件。关于如何获取om模型文件,请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/canncommercial/900/devaids/atctool/atlasatc1 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0287_html.md ## CANN商业版-aclmdlLoadFromMemWithQ - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0288.html - Description: 从内存加载om模型文件数据,模型的输入、输出数据都存放在队列中。本接口只支持加载固定Shape输入的模型。 关于如何获取om模型文件,请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/canncommercial/900/devaids/atctool/atlasatc160001.html\)》中的“参数说明 > 基础功能参数 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0288_html.md ## CANN商业版-aclmdlSetConfigOpt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0289.html - Description: 设置模型加载的配置对象中的各属性的取值,包括模型执行的优先级、模型的文件路径或内存地址、内存大小等。 本接口需要与以下其它接口配合,实现模型加载功能:1. 调用 aclmdlCreateConfigHandle 接口创建模型加载的配置对象。 2. (可选)调用 aclmdlSetExternalWeightAddress 接口配置存放外置权重的Device内存。 3. 多次调用 aclmdl - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0289_html.md ## CANN商业版-aclmdlLoadWithConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0290.html - Description: 指定模型加载时需要的配置信息,并进行模型加载。在加载前,请先根据模型文件的大小评估内存空间是否足够,内存空间不足,会导致应用程序异常。 本接口需要与以下其它接口配合,实现模型加载功能:1. 调用 aclmdlCreateConfigHandle 接口创建模型加载的配置对象。 2. (可选)调用 aclmdlSetExternalWeightAddress 接口配置存放外置权重的Device内存 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0290_html.md ## CANN商业版-aclmdlUnload - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0291.html - Description: 系统完成模型推理后,可调用本接口卸载模型,释放资源,但需确保其它接口没有正在使用该模型。 模型加载、模型执行、模型卸载的操作必须在同一个Context下(关于Context的创建请参见aclrtCreateContext\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/runtimeapi/aclcppdevg03 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0291_html.md ## CANN商业版-aclmdlBundleLoadFromFile - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0292.html - Description: 模型执行阶段若涉及动态更新变量的场景,可调用本接口从文件加载om模型,由系统内部管理内存。 本接口需与以下其它接口配合使用,以便实现动态更新变量的目的,关键接口的调用流程如下: 1. 基于构图接口编译并保存模型,模型中包含多个图,例如推理图、变量初始化图、变量更新图等。 此处是调用aclgrphBundleBuildModel接口编译模型、调用aclgrphBundleSaveModel接口保 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0292_html.md ## CANN商业版-aclmdlBundleLoadFromMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0293.html - Description: 模型执行阶段若涉及动态更新变量的场景,从内存加载离线模型数据,由系统内部管理模型运行的内存。 本接口需与其它接口配合使用,以便实现动态更新变量的目的,请参见aclmdlBundleLoadFromFile处的说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0293_html.md ## CANN商业版-aclmdlBundleGetModelId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0294.html - Description: 获取实际可执行的模型ID。 本接口需与其它接口配合使用,以便实现动态更新变量的目的,请参见aclmdlBundleLoadFromFile处的说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0294_html.md ## CANN商业版-aclmdlBundleGetModelNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0295.html - Description: 根据bundleId获取实际可执行的图总数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0295_html.md ## CANN商业版-aclmdlBundleUnload - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0296.html - Description: 系统完成模型推理后,可调用该接口卸载通过aclmdlBundleLoadFromFile接口或aclmdlBundleLoadFromMem接口加载的模型,释放资源。 本接口需与其它接口配合使用,以便实现动态更新变量的目的,请参见aclmdlBundleLoadFromFile处的说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0296_html.md ## CANN商业版-aclmdlExecute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0298.html - Description: 执行模型推理,直到返回推理结果。 模型加载、模型执行、模型卸载的操作必须在同一个Context下(关于Context的创建请参见aclrtCreateContext\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/runtimeapi/aclcppdevg030059.html\))。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0298_html.md ## CANN商业版-aclmdlExecuteAsync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0299.html - Description: 执行模型推理。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0299_html.md ## CANN商业版-aclmdlSetExecConfigOpt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0300.html - Description: 设置模型执行的配置对象中的各属性的取值。 本接口需要配合其它接口一起使用,实现模型执行,接口调用顺序如下:1. 调用 aclmdlCreateExecConfigHandle 接口创建模型执行的配置对象。 2. 多次调用 aclmdlSetExecConfigOpt 接口设置配置对象中每个属性的值。 3. 调用 aclmdlExecuteV2 或 aclmdlExecuteAsyncV2 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0300_html.md ## CANN商业版-aclmdlExecuteV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0301.html - Description: 根据aclmdlSetExecConfigOpt接口所配置的属性,执行模型推理,直到返回推理结果。该接口是在aclmdlExecute接口基础上进行了增强,支持在执行模型推理时控制一些配置参数。 本接口需要配合其它接口一起使用,实现模型执行,接口调用顺序如下:1. 调用 aclmdlCreateExecConfigHandle 接口创建模型执行的配置对象。 2. 多次调用 aclmdlSetE - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0301_html.md ## CANN商业版-aclmdlExecuteAsyncV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0302.html - Description: 根据aclmdlSetExecConfigOpt所配置的属性,执行模型推理,直到返回推理结果。该接口是在aclmdlExecuteAsync接口基础上进行了增强,支持在执行模型推理时控制一些配置参数。异步接口。 本接口需要配合其它接口一起使用,实现模型执行,接口调用顺序如下:1. 调用 aclmdlCreateExecConfigHandle 接口创建模型执行的配置对象。 2. 多次调用 ac - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0302_html.md ## CANN商业版-aclmdlQuerySize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0303.html - Description: 根据模型文件获取模型执行时所需的权值内存大小、工作内存大小。 当由用户管理内存时,为确保内存不浪费,在申请工作内存、权值内存前,需要调用本接口查询模型运行时所需工作内存、权值内存的大小。如果模型输入数据的Shape不确定,则不能调用本命接口查询内存大小,在加载模型时,就无法由用户管理内存,因此需选择由系统管理内存的模型加载接口(例如,aclmdlLoadFromFile、aclmdlLoadFro - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0303_html.md ## CANN商业版-aclmdlQuerySizeFromMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0304.html - Description: 根据内存中的模型数据获取模型执行时所需的权值内存大小、工作内存大小。 当由用户管理内存时,为确保内存不浪费,在申请工作内存、权值内存前,需要调用本接口查询模型运行时所需工作内存、权值内存的大小。如果模型输入数据的Shape不确定,则不能调用本接口查询内存大小,在加载模型时,就无法由用户管理内存,因此需选择由系统管理内存的模型加载接口(例如,aclmdlLoadFromFile、aclmdlLoad - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0304_html.md ## CANN商业版-aclmdlQueryExeOMDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0305.html - Description: 根据模型文件获取模型执行时所需的工作内存、权值内存、模型描述信息、静态和动态shape任务等的内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0305_html.md ## CANN商业版-aclmdlSetDynamicBatchSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0306.html - Description: 在动态Batch场景下,在模型执行前调用本接口设置每次模型推理时处理图片的数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0306_html.md ## CANN商业版-aclmdlSetDynamicHWSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0307.html - Description: 动态分辨率场景下,在模型执行前调用本接口设置模型推理时输入图片的高和宽。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0307_html.md ## CANN商业版-aclmdlSetInputAIPP - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0308.html - Description: 动态AIPP场景下,根据指定的动态AIPP输入的输入index,设置模型推理时的AIPP参数值。 动态AIPP支持的几种操作的计算方式及其计算顺序如下:抠图->色域转换->减均值/归一化->padding。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0308_html.md ## CANN商业版-aclmdlGetFirstAippInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0309.html - Description: 获取模型AIPP(包括静态AIPP和动态AIPP)的配置信息。获取模型中动态AIPP的信息时,只能获取aclAippInfo结构体中如下参数的值:srcFormat、srcDatatype、srcDimNum、shapeCount、outDims,其它参数值无效。 AIPP支持的几种操作的计算方式及其计算顺序如下:抠图->色域转换->减均值/归一化->padding。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0309_html.md ## CANN商业版-aclmdlGetAippType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0310.html - Description: 获取指定模型的指定输入所支持的AIPP类型(动态AIPP或静态AIPP)及动态AIPP输入对应的index值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0310_html.md ## CANN商业版-aclmdlSetAIPPByInputIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0311.html - Description: 动态AIPP场景下,根据指定的模型输入的输入index,设置模型推理时的AIPP参数值。 动态AIPP支持的几种操作的计算方式及其计算顺序如下:抠图->色域转换->减均值/归一化->padding。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0311_html.md ## CANN商业版-aclmdlSetInputDynamicDims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0312.html - Description: 如果模型输入的Shape是动态的、输入数据Format为ND格式(ND表示支持任意格式),在模型执行前调用本接口设置模型推理时具体维度的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0312_html.md ## CANN商业版-aclmdlCreateAndGetOpDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_0313.html - Description: 获取指定算子的描述信息,包括算子名、输入tensor描述、输出tensor描述,如果查询不到指定算子,则返回报错。该接口不支持动态Shape场景。 使用场景举例:执行整网模型推理时,如果产生AI Core报错,可以调用本接口获取报错算子的描述信息,再做进一步错误排查。 推荐的接口调用顺序如下:1. 定义并实现异常回调函数fn\(aclrtExceptionInfoCallback类型\),回调函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_0313_html.md ## CANN商业版-aclTransType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1359.html - Description: ``` typedef enum aclTransType \{ ACLTRANSN, //不转置,默认为不转置 ACLTRANST, //转置 ACLTRANSNZ, //内部格式,能够提供更好的接口性能,建议使用场景为:某个输入矩阵作为底库,执行一次转NZ格式的操作后,多次使用NZ格式的算子,提升性能。 ACLTRANSNZT //内部格式转置, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1359_html.md ## CANN商业版-aclAippInputFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1362.html - Description: 静态AIPP和动态AIPP支持的图片格式不同,详情如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1362_html.md ## CANN商业版-aclAippInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1363.html - Description: ``` typedef struct aclAippInfo \{ aclAippInputFormat inputFormat; int32t srcImageSizeW; int32t srcImageSizeH; int8t cropSwitch; int32t loadStartPosW; int32t loadStartPosH; i - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1363_html.md ## CANN商业版-aclAippDims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1364.html - Description: ``` typedef struct aclAippDims \{ aclmdlIODims srcDims; // 模型转换前的dims,如\[1,3,150,150\] sizet srcSize; // 模型转换前输入数据的大小 aclmdlIODims aippOutdims; // 内部数据格式的dims信息 sizet aippOutSize; // - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1364_html.md ## CANN商业版-aclmdlIODims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1365.html - Description: ``` \#define ACLMAXDIMCNT 128 \#define ACLMAXTENSORNAMELEN 128 typedef struct aclmdlIODims \{ char name\[ACLMAXTENSORNAMELEN\]; // tensor name sizet dimCount; // Shape - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1365_html.md ## CANN商业版-aclmdlInputAippType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1369.html - Description: ``` typedef enum \{ ACLDATAWITHOUTAIPP \= 0, //该输入无AIPP信息 ACLDATAWITHSTATICAIPP, //该输入带静态AIPP信息 ACLDATAWITHDYNAMICAIPP, //该输入有关联的动态AIPP输入 ACLDYNAMICAIPPNODE //该输入本身就是动态AIPP输入,用于配 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1369_html.md ## CANN商业版-aclCompileOpt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1371.html - Description: 用于配置网络模型的算子精度模式。如果不配置该编译选项,默认采用allowfp32tofp16。 - forcefp32/cubefp16infp32out: 配置为forcefp32或cubefp16infp32out,效果等同,该选项用来表示AI Core中该算子既支持float32又支持float16数据类型时,系统内部都会根据算子类型不同,选择不同的处理方式。cubefp16infp32 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1371_html.md ## CANN商业版-aclmdlConfigAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1375.html - Description: 模型执行的优先级,可选项。该选项对应的值为int32类型。 数字越小优先级越高,取值\[0,7\],默认值为0。 Atlas 训练系列产品 ,docker容器内安装CANN,且配置算力分组的场景,该枚举值不生效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1375_html.md ## CANN商业版-aclOpCompileFlag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1377.html - Description: 该参数已废弃,请勿配置,否则后续版本可能存在兼容性问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1377_html.md ## CANN商业版-aclopEngineType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1386.html - Description: ``` typedef enum aclEngineType \{ ACLENGINESYS, // 不关心具体执行引擎时填写,当前仅支持设置为该选项 ACLENGINEAICORE, // 将算子编译成AI Core算子,当前不支持 ACLENGINEVECTOR // 将算子编译成Vector Core算子,当前不支持 \} aclopEngineType; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1386_html.md ## CANN商业版-aclopCompileType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1387.html - Description: ``` typedef enum aclCompileType \{ ACLCOMPILESYS, // 当前仅支持设置为该选项 ACLCOMPILEUNREGISTERED // 当前不支持 \} aclopCompileType; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1387_html.md ## CANN商业版-aclmdlExecConfigAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1391.html - Description: ``` typedef enum \{ ACLMDLSTREAMSYNCTIMEOUT \= 0, ACLMDLEVENTSYNCTIMEOUT, ACLMDLWORKADDRPTR, ACLMDLWORKSIZET, ACLMDLMPAIMIDSIZET, / param reserved / ACLMDLAICQOSSIZET, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1391_html.md ## CANN商业版-aclmdlExeOMDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1407.html - Description: ``` typedef struct aclmdlExeOMDesc \{ sizet workSize; sizet weightSize; sizet modelDescSize; sizet kernelSize; sizet kernelArgsSize; sizet staticTaskSize; sizet dynamicTaskS - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1407_html.md ## CANN商业版-aclmdlIODimsRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1409.html - Description: ``` \#define ACLDIMENDPOINTS 2 \#define ACLMAXDIMCNT 128 typedef struct aclmdlIODimsRange \{ sizet rangeCount; / 维度数量 / int64t range\[ACLMAXDIMCNT\]\[ACLDIMENDPOINTS\]; / Shape范围二维数组, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1409_html.md ## CANN商业版-aclmdlCreateAIPP - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1413.html - Description: 动态AIPP场景下,根据模型支持的batch size创建aclmdlAIPP类型的数据,用于存放动态AIPP的参数。 如需销毁aclmdlAIPP类型的数据,请参见aclmdlDestroyAIPP。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1413_html.md ## CANN商业版-aclmdlSetAIPPCscParams - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1414.html - Description: 动态AIPP场景下,设置CSC色域转换相关的参数,若色域转换开关关闭,则调用该接口设置以下参数无效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1414_html.md ## CANN商业版-aclmdlSetAIPPInputFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1415.html - Description: 动态AIPP场景下,必须设置原始输入图像的格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1415_html.md ## CANN商业版-aclmdlSetAIPPRbuvSwapSwitch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1416.html - Description: 动态AIPP场景下,设置是否交换R通道与B通道、或者是否交换U通道与V通道。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1416_html.md ## CANN商业版-aclmdlSetAIPPAxSwapSwitch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1417.html - Description: 动态AIPP场景下,设置RGBA->ARGB或者YUVA->AYUV的交换开关。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1417_html.md ## CANN商业版-aclmdlSetAIPPSrcImageSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1418.html - Description: 动态AIPP场景下,必须设置原始图片的宽和高。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1418_html.md ## CANN商业版-aclmdlSetAIPPScfParams - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1419.html - Description: 动态AIPP场景下,设置缩放相关的参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1419_html.md ## CANN商业版-aclmdlSetAIPPCropParams - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1420.html - Description: 动态AIPP场景下,设置抠图相关的参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1420_html.md ## CANN商业版-aclmdlSetAIPPPaddingParams - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1421.html - Description: 动态AIPP场景下,设置补边相关的参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1421_html.md ## CANN商业版-aclmdlSetAIPPDtcPixelMean - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1422.html - Description: 动态AIPP场景下,设置通道的均值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1422_html.md ## CANN商业版-aclmdlSetAIPPDtcPixelMin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1423.html - Description: 动态AIPP场景下,设置通道的最小值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1423_html.md ## CANN商业版-aclmdlSetAIPPPixelVarReci - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1424.html - Description: 动态AIPP场景下,设置通道的方差。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1424_html.md ## CANN商业版-aclmdlGetAippDataSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1425.html - Description: 根据batchSize获取动态AIPP输入数据所需的内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1425_html.md ## CANN商业版-aclmdlDestroyAIPP - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1426.html - Description: 销毁通过aclmdlCreateAIPP接口创建的aclmdlAIPP类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1426_html.md ## CANN商业版-aclopCreateHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1428.html - Description: 创建一个执行算子的handle。 如需销毁handle,请参见aclopDestroyHandle。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1428_html.md ## CANN商业版-aclopDestroyHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1429.html - Description: 销毁通过aclopCreateHandle接口创建的执行算子的handle。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1429_html.md ## CANN商业版-aclmdlCreateDataset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1438.html - Description: 创建aclmdlDataset类型的数据,该数据类型用于描述模型推理时的输入数据、输出数据,模型可能存在多个输入、多个输出,每个输入/输出的内存地址、内存大小用aclDataBuffer\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/runtimeapi/aclcppdevg031430.html\)类型的数据来描 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1438_html.md ## CANN商业版-aclmdlDestroyDataset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1439.html - Description: 销毁通过aclmdlCreateDataset接口创建的aclmdlDataset类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1439_html.md ## CANN商业版-aclmdlAddDatasetBuffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1440.html - Description: 向aclmdlDataset中增加aclDataBuffer。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1440_html.md ## CANN商业版-aclmdlGetDatasetNumBuffers - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1441.html - Description: 获取aclmdlDataset中aclDataBuffer的个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1441_html.md ## CANN商业版-aclmdlGetDatasetBuffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1442.html - Description: 获取aclmdlDataset中的第n个aclDataBuffer。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1442_html.md ## CANN商业版-aclmdlSetDatasetTensorDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1443.html - Description: 如果模型输入或输出的Shape是动态的,在模型执行之前调用本接口设置模型输入或输出的tensor描述信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1443_html.md ## CANN商业版-aclmdlGetDatasetTensorDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1444.html - Description: 如果模型输入或输出的Shape是动态的,模型在模型执行之后可以调用本接口从aclmdlDataset类型的数据(该类型用于描述模型推理时的输入数据、输出数据)中获取指定的输入或者输出的Tensor描述信息。 典型场景举例:如果模型输入Shape是动态的,在模型执行之前调aclmdlSetDatasetTensorDesc设置该输入的tensor描述信息,在模型执行之后,调用aclmdlGetDat - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1444_html.md ## CANN商业版-aclmdlCreateDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1446.html - Description: 创建aclmdlDesc类型的数据,表示模型描述信息。 如需销毁aclmdlDesc类型的数据,请参见aclmdlDestroyDesc。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1446_html.md ## CANN商业版-aclmdlDestroyDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1447.html - Description: 销毁通过aclmdlCreateDesc接口创建的aclmdlDesc类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1447_html.md ## CANN商业版-aclmdlGetDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1448.html - Description: 根据模型ID获取该模型的模型描述信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1448_html.md ## CANN商业版-aclmdlGetNumInputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1449.html - Description: 根据模型描述信息获取模型的输入个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1449_html.md ## CANN商业版-aclmdlGetNumOutputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1450.html - Description: 根据模型描述信息获取模型的输出个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1450_html.md ## CANN商业版-aclmdlGetInputSizeByIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1451.html - Description: 根据模型描述信息获取指定输入的大小,单位为Byte。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1451_html.md ## CANN商业版-aclmdlGetOutputSizeByIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1452.html - Description: 根据模型描述信息获取指定输出的大小,单位为Byte。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1452_html.md ## CANN商业版-aclmdlGetInputDims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1453.html - Description: 根据模型描述信息获取模型的输入tensor的维度信息。 如果模型中含有静态AIPP配置信息,您可以根据实际需要选择aclmdlGetInputDims接口或aclmdlGetInputDimsV2接口查询维度信息,两者的区别在于: - 通过 aclmdlGetInputDims 接口获取的维度信息,各维度的值与输入图像的各维度的值保持一致,详细规则如 表1 所示。 - 通过 aclmdlGe - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1453_html.md ## CANN商业版-aclmdlGetInputDimsV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1454.html - Description: 根据模型描述信息获取模型的输入tensor的维度信息。 如果模型中含有静态AIPP配置信息,您可以根据实际需要选择aclmdlGetInputDims接口或aclmdlGetInputDimsV2接口查询维度信息,两者的区别在于: - 通过 aclmdlGetInputDims 接口获取的维度信息,各维度的值与输入图像的各维度的值保持一致,详细规则如 表1 所示。 - 通过 aclmdlGe - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1454_html.md ## CANN商业版-aclmdlGetOutputDims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1455.html - Description: 根据模型描述信息获取指定的模型输出tensor的维度信息。 固定Shape场景下,通过该接口获取指定的模型输出tensor的维度信息。 动态Shape(动态Batch或动态分辨率)场景下,通过该接口获取最大档的维度信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1455_html.md ## CANN商业版-aclmdlGetInputNameByIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1456.html - Description: 根据模型描述信息获取模型中指定输入的输入名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1456_html.md ## CANN商业版-aclmdlGetOutputNameByIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1457.html - Description: 根据模型描述信息获取模型中指定输出的输出算子名称、算子输出边的下标、top名称或输出名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1457_html.md ## CANN商业版-aclmdlGetInputFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1458.html - Description: 根据模型描述信息获取模型中指定输入的Format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1458_html.md ## CANN商业版-aclmdlGetOutputFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1459.html - Description: 根据模型描述信息获取模型中指定输出的Format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1459_html.md ## CANN商业版-aclmdlGetInputDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1460.html - Description: 根据模型描述信息获取模型中指定输入的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1460_html.md ## CANN商业版-aclmdlGetOutputDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1461.html - Description: 根据模型描述信息获取模型中指定输出的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1461_html.md ## CANN商业版-aclmdlGetInputIndexByName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1462.html - Description: 根据模型中的输入名称获取对应输入的索引编号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1462_html.md ## CANN商业版-aclmdlGetOutputIndexByName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1463.html - Description: 根据模型中的输出名称获取对应输出的索引编号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1463_html.md ## CANN商业版-aclmdlGetDynamicBatch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1464.html - Description: 根据模型描述信息获取模型支持的动态Batch信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1464_html.md ## CANN商业版-aclmdlGetDynamicHW - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1465.html - Description: 根据模型描述信息获取模型支持的动态宽高信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1465_html.md ## CANN商业版-aclmdlGetCurOutputDims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1466.html - Description: 根据模型描述信息获取指定的模型输出tensor的实际维度信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1466_html.md ## aclmdlGetInputDynamicGearCount - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1467.html - Description: 根据模型描述信息获取模型的输入所支持的动态维度档位数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1467_html.md ## CANN商业版-aclmdlGetInputDynamicDims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1468.html - Description: 根据模型描述信息获取模型的输入所支持的动态维度信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1468_html.md ## CANN商业版-aclmdlGetTensorRealName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1469.html - Description: 根据指定名称获取tensor的真实名称。 aclmdlGetTensorRealName接口需要与aclmdlGetInputDims/aclmdlGetInputDimsV2/aclmdlGetOutputDims/aclmdlGetCurOutputDims接口配合使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1469_html.md ## CANN商业版-aclmdlGetOpAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1470.html - Description: 获取整网中某个模型中某个算子的属性的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1470_html.md ## CANN商业版-aclmdlGetDescFromFile - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1471.html - Description: 根据模型文件获取该模型的模型描述信息。 通过本接口获取到的模型描述信息,无法应用于aclmdlGetOpAttr、aclmdlGetCurOutputDims接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1471_html.md ## CANN商业版-aclmdlGetDescFromMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1472.html - Description: 从内存获取该模型的模型描述信息。 通过本接口获取到的模型描述信息,无法应用于aclmdlGetOpAttr、aclmdlGetCurOutputDims接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1472_html.md ## CANN商业版-aclmdlGetInputDimsRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1473.html - Description: 根据模型描述信息获取模型的输入tensor的维度范围。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1473_html.md ## CANN商业版-aclCreateTensorDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1475.html - Description: 创建aclTensorDesc类型的数据,该数据类型用于描述tensor的数据类型、shape、format等信息。 如需销毁aclTensorDesc类型的数据,请参见aclDestroyTensorDesc。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1475_html.md ## CANN商业版-aclDestroyTensorDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1476.html - Description: 销毁aclTensorDesc类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1476_html.md ## CANN商业版-aclGetTensorDescType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1477.html - Description: 获取tensor描述中的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1477_html.md ## CANN商业版-aclGetTensorDescFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1478.html - Description: 获取tensor描述中的format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1478_html.md ## CANN商业版-aclGetTensorDescSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1479.html - Description: 获取tensor数据占用的空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1479_html.md ## CANN商业版-aclGetTensorDescElementCount - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1480.html - Description: 获取tensor描述中的元素个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1480_html.md ## CANN商业版-aclGetTensorDescNumDims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1481.html - Description: 获取tensor描述中shape的维度个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1481_html.md ## aclGetTensorDescDim(废弃) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1482.html - Description: 须知:此接口后续版本会废弃,请使用aclGetTensorDescDimV2接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1482_html.md ## CANN商业版-aclGetTensorDescDimV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1483.html - Description: 获取tensor描述中指定维度的大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1483_html.md ## CANN商业版-aclGetTensorDescDimRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1484.html - Description: 获取tensor描述中指定维度的范围,\[1,-1\]表示全shape范围。 当aclGetTensorDescNumDims接口的返回值为ACLUNKNOWNRANK时,表示动态Shape场景下维度个数未知,则不能调用aclGetTensorDescDimRange接口获取指定维度的范围。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1484_html.md ## CANN商业版-aclSetTensorDescName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1485.html - Description: 设置TensorDesc的名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1485_html.md ## CANN商业版-aclGetTensorDescName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1486.html - Description: 获取TensorDesc的名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1486_html.md ## CANN商业版-aclTransTensorDescFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1487.html - Description: 须知:本接口为预留接口,暂不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1487_html.md ## aclSetTensorStorageShape(废弃) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1488.html - Description: 须知:此接口后续版本会废弃,请使用aclSetTensorShape接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1488_html.md ## aclSetTensorStorageFormat(废弃) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1489.html - Description: 须知:此接口后续版本会废弃,请使用aclSetTensorFormat接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1489_html.md ## CANN商业版-aclSetTensorOriginShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1490.html - Description: 调用aclCreateTensorDesc接口创建tensor描述信息后,可通过aclSetTensorOriginShape接口设置tensor的原始dims信息。 例如,某算子的原始Format为NHWC(原始Shape为4维)或者NDHWC(原始Shape为5维),为了提高数据访问效率,在进行模型转换或者在线构建网络时会自动转换Format,将原始数据Format转化为AI处理器内部计算数据 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1490_html.md ## CANN商业版-aclSetTensorOriginFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1491.html - Description: 调用aclCreateTensorDesc接口创建tensor描述信息后,可通过aclSetTensorOriginFormat设置tensor的原始Format信息。 例如,某算子的原始Format为NHWC(原始Shape为4维)或者NDHWC(原始Shape为5维),为了提高数据访问效率,在进行模型转换或者在线构建网络时会自动转换Format,将原始数据Format转化为AI处理器内部计算数 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1491_html.md ## CANN商业版-aclSetTensorShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1492.html - Description: 调用aclCreateTensorDesc接口创建tensor描述信息后,可通过aclSetTensorShape接口设置AI处理器内部处理tensor时的dims信息。 例如,某算子的原始Format为NHWC(原始Shape为4维)或者NDHWC(原始Shape为5维),为了提高数据访问效率,在进行模型转换或者在线构建网络时会自动转换Format,将原始数据Format转化为AI处理器内部计算 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1492_html.md ## CANN商业版-aclSetTensorFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1493.html - Description: 调用aclCreateTensorDesc接口创建tensor描述信息后,可通过aclSetTensorFormat设置AI处理器内部处理tensor时的Format信息。 例如,某算子的原始Format为NHWC(原始Shape为4维)或者NDHWC(原始Shape为5维),为了提高数据访问效率,在进行模型转换或者在线构建网络时会自动转换Format,将原始数据Format转化为AI处理器内部计 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1493_html.md ## CANN商业版-aclSetTensorShapeRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1494.html - Description: 调用aclCreateTensorDesc接口创建tensor描述信息后,可通过本接口设置tensor的各个维度的取值范围。 使用场景:动态Shape的算子,其输入Shape中变化维度用-1表示,但每个变化维度的范围是不一样的,需要显式设置,如Shape为\[16,-1,20,-1\],对应的shape range可以是\[\[16,16\],\[1,128\],\[20,20\],\[1,10\]\],表示第一维的Sh - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1494_html.md ## CANN商业版-aclSetTensorDynamicInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1495.html - Description: 调用aclCreateTensorDesc接口创建tensor描述信息后,可通过aclSetTensorDynamicInput接口设置多个动态输入的分组标识,例如某个算子包括动态输入为x、必选输入y,其中动态输入有多个,调用aclSetTensorDynamicInput将dynamicInputName设置为x,接口内部根据dynamicInputName索引到对应的多个动态输入,达到分组的目 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1495_html.md ## CANN商业版-aclGetTensorDescByIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1496.html - Description: 获取算子的指定Index的tensor描述信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1496_html.md ## CANN商业版-aclGetTensorDescAddress - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1497.html - Description: 获取指定算子输入/输出的tensor数据的内存地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1497_html.md ## CANN商业版-aclSetTensorConst - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1498.html - Description: 为算子设置constant输入,指定存放输入tensor数据的内存地址和地址长度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1498_html.md ## CANN商业版-aclSetTensorPlaceMent - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1499.html - Description: 设置TensorDesc的placement属性,用于标识存放Tensor数据的内存类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1499_html.md ## CANN商业版-aclSetTensorValueRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1500.html - Description: 调用aclCreateTensorDesc接口创建tensor描述信息后,可通过本接口设置tensor的数据值的范围。 使用场景:部分算子input的值就是该算子的输出Shape,在动态Shape场景下,这个Shape的值就有一个取值范围,在执行算子时,需要在input上设置Shape值的范围(例如:\[\[16,16\],\[1,128\],\[20,20\],\[1,10\]\]),这样才能正常编译、执行算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1500_html.md ## CANN商业版-aclopCreateAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1502.html - Description: 创建aclopAttr类型的数据,该数据类型用于保存算子的属性。 如需销毁aclopAttr类型的数据,请参见aclopDestroyAttr。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1502_html.md ## CANN商业版-aclopDestroyAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1503.html - Description: 销毁通过aclopCreateAttr接口创建的aclopAttr类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1503_html.md ## CANN商业版-aclopSetAttrBool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1504.html - Description: 设置bool类型标量的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1504_html.md ## CANN商业版-aclopSetAttrInt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1505.html - Description: 设置int64t类型标量的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1505_html.md ## CANN商业版-aclopSetAttrFloat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1506.html - Description: 设置float类型标量的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1506_html.md ## CANN商业版-aclopSetAttrString - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1507.html - Description: 设置字符串类型标量的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1507_html.md ## CANN商业版-aclopSetAttrListBool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1508.html - Description: 设置bool类型列表的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1508_html.md ## CANN商业版-aclopSetAttrListInt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1509.html - Description: 设置int64t类型列表的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1509_html.md ## CANN商业版-aclopSetAttrListFloat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1510.html - Description: 设置float类型列表的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1510_html.md ## CANN商业版-aclopSetAttrListString - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1511.html - Description: 设置字符串类型列表的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1511_html.md ## CANN商业版-aclopSetAttrListListInt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1512.html - Description: 设置int64t类型列表的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1512_html.md ## CANN商业版-aclopSetAttrDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1513.html - Description: 设置指定属性的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1513_html.md ## CANN商业版-aclopSetAttrListDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1514.html - Description: 设置指定属性列表的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1514_html.md ## CANN商业版-aclmdlCreateConfigHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1635.html - Description: 创建aclmdlConfigHandle类型的数据,表示一个模型加载的配置对象。 如需销毁aclmdlConfigHandle类型的数据,请参见aclmdlDestroyConfigHandle。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1635_html.md ## CANN商业版-aclmdlDestroyConfigHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1636.html - Description: 销毁通过aclmdlCreateConfigHandle接口创建的aclmdlConfigHandle类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1636_html.md ## CANN商业版-aclCreateGraphDumpOpt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1657.html - Description: 创建aclGraphDumpOption类型的数据,表示单算子图Dump配置信息,用于设置图Dump时的选项(当前还没有选项,预留该数据类型,便于后续扩展)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1657_html.md ## CANN商业版-aclDestroyGraphDumpOpt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1658.html - Description: 销毁通过aclCreateGraphDumpOpt接口创建的aclGraphDumpOption类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1658_html.md ## CANN商业版-aclmdlCreateExecConfigHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1660.html - Description: 创建aclmdlExecConfigHandle类型的数据,表示一个模型执行的配置对象。 如需销毁aclmdlExecConfigHandle类型的数据,请参见aclmdlDestroyExecConfigHandle。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1660_html.md ## CANN商业版-aclmdlDestroyExecConfigHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1661.html - Description: 销毁通过aclmdlCreateExecConfigHandle接口创建的aclmdlExecConfigHandle类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1661_html.md ## aclmdlSetExternalWeightAddress - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_1987.html - Description: 配置存放外置权重的Device内存,调用方需在模型加载前将外置权重数据复制到该内存中。若存在多个外置权重文件,则需多次调用此接口。 模型加载过程中,计算图中的每一个FileConstant节点会保存对应外置权重文件的路径(例如/xx/../weighthasid1),图引擎( Graph Engine ,简称GE)根据路径中的文件名(例如weighthasid1)检索用户是否配置了外置权重的Dev - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_1987_html.md ## CANN商业版-aclmdlBundleCreateQueryInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_2102.html - Description: 创建aclmdlBundleQueryInfo类型的数据,表示模型描述信息。 如需销毁aclmdlBundleQueryInfo类型的数据,请参见aclmdlBundleDestroyQueryInfo。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_2102_html.md ## CANN商业版-aclmdlBundleDestroyQueryInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_2103.html - Description: 销毁通过aclmdlBundleCreateQueryInfo接口创建的aclmdlBundleQueryInfo类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_2103_html.md ## CANN商业版-aclmdlBundleQueryInfoFromFile - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_2104.html - Description: 模型执行阶段,如果涉及动态更新变量的场景,可以调用本接口从模型文件获取其描述信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_2104_html.md ## CANN商业版-aclmdlBundleQueryInfoFromMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_2105.html - Description: 模型执行阶段,如果涉及动态更新变量的场景,可以调用本接口从内存中获取模型描述信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_2105_html.md ## CANN商业版-aclmdlBundleGetQueryModelNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_2106.html - Description: 根据aclmdlBundleQueryInfo查询模型中的图总数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_2106_html.md ## CANN商业版-aclmdlBundleGetVarWeightSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_2107.html - Description: 获取模型的可更新权重内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_2107_html.md ## CANN商业版-aclmdlBundleGetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_2108.html - Description: 根据模型描述信息和图索引获取图执行时所需的权值内存大小、工作内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_2108_html.md ## CANN商业版-aclmdlBundleInitFromFile - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_2109.html - Description: 在模型执行阶段,如果涉及动态更新变量的场景,可以调用本接口从模型文件中初始化模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_2109_html.md ## CANN商业版-aclmdlBundleInitFromMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_2110.html - Description: 在模型执行阶段,如果涉及动态更新变量的场景,可以调用本接口从内存中初始化模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_2110_html.md ## CANN商业版-aclmdlBundleLoadModel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_2111.html - Description: 根据图索引加载模型中的图,由系统内部管理内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_2111_html.md ## CANN商业版-aclmdlBundleLoadModelWithMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_2112.html - Description: 根据图索引加载模型中的图,由用户自行管理模型运行的内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_2112_html.md ## aclmdlBundleLoadModelWithConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_2113.html - Description: 根据图索引加载模型中的图,同时可以指定加载配置信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_2113_html.md ## CANN商业版-aclmdlBundleUnloadModel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppdevg_03_2114.html - Description: 卸载模型中的图。 返回0表示成功, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppdevg_03_2114_html.md ## 废弃接口与返回码列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppge_00_0002.html - Description: - aclopExecute - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppge_00_0002_html.md ## 同步与异步API说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppge_00_0003.html - Description: CANN支持以下几类显式同步,调用此类接口后,主机线程会阻塞直到相关的任务执行完成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppge_00_0003_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppge_00_0004.html - Description: 接口名以acl作为前缀,命名风格为:acl+接口类别缩写+*,其中,*表示操作动词和对象,均采用首字母大写。下文为了描述方便,将本文中的接口统称为acl接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppge_00_0004_html.md ## CANN商业版-aclRecoverAllHcclTasks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppge_00_0008.html - Description: 须知:本接口为预留接口,暂不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppge_00_0008_html.md ## CANN商业版-aclError - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclcppge_00_0010.html - Description: ``` typedef int aclError; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclcppge_00_0010_html.md ## 废弃接口/返回码列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0002.html - Description: - acl.op.execute接口 此接口后续版本会废弃,请使用acl.op.executev2接口。 - acl.gettensordescdim接口 此接口后续版本会废弃,请使用acl.gettensordescdimv2接口。 - acl.getdatabuffersize\(https://www.hiascend. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0002_html.md ## 同步&异步API说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0003.html - Description: CANN支持以下几类显式同步,调用此类接口后,主机线程会阻塞直到相关的任务执行完成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0003_html.md ## 函数:create\_tensor\_desc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0023.html - Description: 创建aclTensorDesc类型的数据,该数据类型用于描述Tensor的数据类型、Shape、Format等信息。 如需销毁aclTensorDesc类型的数据,请参见函数:destroytensordesc。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0023_html.md ## 函数:destroy\_tensor\_desc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0024.html - Description: 销毁aclTensorDesc类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0024_html.md ## 函数:get\_tensor\_desc\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0025.html - Description: 获取Tensor描述中的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0025_html.md ## 函数:get\_tensor\_desc\_format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0026.html - Description: 获取tensor描述中的format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0026_html.md ## 函数:get\_tensor\_desc\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0027.html - Description: 获取Tensor描述占用的空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0027_html.md ## 函数:get\_tensor\_desc\_element\_count - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0028.html - Description: 获取Tensor描述中的元素个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0028_html.md ## 函数:get\_tensor\_desc\_num\_dims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0029.html - Description: 获取Tensor描述中Shape的维度个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0029_html.md ## 函数:get\_tensor\_desc\_dim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0030.html - Description: 获取Tensor描述中指定维度的大小。 此接口后续版本会废弃,请使用acl.gettensordescdimv2接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0030_html.md ## 函数:get\_tensor\_desc\_dim\_v2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0031.html - Description: 获取Tensor描述中指定维度的大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0031_html.md ## 函数:get\_tensor\_desc\_dim\_range - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0032.html - Description: 获取Tensor描述中指定维度的范围,\[1, -1\]表示全Shape范围。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0032_html.md ## 函数:set\_tensor\_desc\_name - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0033.html - Description: 设置TensorDesc的名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0033_html.md ## 函数:get\_tensor\_desc\_name - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0034.html - Description: 获取Tensor描述的名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0034_html.md ## 函数:set\_tensor\_storage\_shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0035.html - Description: 调用acl.createtensordesc接口创建Tensor描述信息后,可通过acl.settensorstorageshape设置Tensor的实际“dims”信息,当前主要用于PyTorch场景下。 此接口后续版本会废弃,请使用acl.settensorshape接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0035_html.md ## 函数:set\_tensor\_storage\_format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0036.html - Description: 调用acl.createtensordesc接口创建Tensor描述信息后,可通过acl.settensorstorageformat设置Tensor的实际Format信息,当前主要用于PyTorch场景下。 此接口后续版本会废弃,请使用acl.settensorformat接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0036_html.md ## 函数:set\_tensor\_origin\_shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0037.html - Description: 调用acl.createtensordesc接口创建Tensor描述信息后,可通过acl.settensororiginshape设置Tensor的原始维度信息,当前主要用于PyTorch场景下。 例如,某算子的原始Format为NHWC(原始Shape为4维)或者NDHWC(原始Shape为5维),为了提高数据访问效率,在进行模型转换或者在线构建网络时会自动转换Format,将原始数据Forma - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0037_html.md ## 函数:set\_tensor\_origin\_format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0038.html - Description: 调用acl.createtensordesc接口创建Tensor描述信息后,可通过acl.settensororiginformat设置Tensor的原始Format信息,当前主要用于PyTorch场景下。 例如,某算子的原始Format为NHWC(原始Shape为4维)或者NDHWC(原始Shape为5维),为了提高数据访问效率,在进行模型转换或者在线构建网络时会自动转换Format,将原始数据 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0038_html.md ## 函数:set\_tensor\_shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0039.html - Description: 调用acl.createtensordesc接口创建Tensor描述信息后,可通过acl.settensorshape设置AI处理器内部处理Tensor时的维度信息,当前主要用于PyTorch场景下。 例如,某算子的原始Format为NHWC(原始Shape为4维)或者NDHWC(原始Shape为5维),为了提高数据访问效率,在进行模型转换或者在线构建网络时会自动转换Format,将原始数据For - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0039_html.md ## 函数:set\_tensor\_format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0040.html - Description: 调用acl.createtensordesc接口创建Tensor描述信息后,可通过acl.settensorformat设置昇腾AI处理器内部处理Tensor时的Format信息,当前主要用于PyTorch场景下。 例如,某算子的原始Format为NHWC(原始Shape为4维)或者NDHWC(原始Shape为5维),为了提高数据访问效率,在进行模型转换或者在线构建网络时会自动转换Format,将 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0040_html.md ## 函数:set\_tensor\_const - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0041.html - Description: 为算子设置constant输入,指定存放输入Tensor数据的内存地址和地址长度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0041_html.md ## 函数:set\_tensor\_shape\_range - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0042.html - Description: 调用acl.createtensordesc接口创建Tensor描述信息后,可通过本接口设置Tensor的各个维度的取值范围。 使用场景:动态Shape的算子,其输入Shape中变化维度用“-1”表示,但每个变化维度的范围是不一样的,需要显式设置。 如Shape为\[16, -1, 20, -1\],对应的shape range可以是\[\[16, 16\], \[1, 128\], \[20, 20\], \[1, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0042_html.md ## 函数:set\_tensor\_dynamic\_input - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0043.html - Description: 调用acl.createtensordesc接口创建Tensor描述信息后,可通过acl.settensordynamicinput接口设置算子动态输入的动态输入属性的名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0043_html.md ## 函数:get\_tensor\_desc\_by\_index - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0044.html - Description: 获取算子的指定Index的Tensor描述信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0044_html.md ## 函数:get\_tensor\_desc\_address - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0045.html - Description: 获取指定算子输入/输出的Tensor数据的指针地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0045_html.md ## 函数:set\_tensor\_place\_ment - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0046.html - Description: 设置Tensor描述的placement属性,用于标识存放Tensor数据的内存为Host内存或Device内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0046_html.md ## 函数:set\_tensor\_value\_range - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0047.html - Description: 调用acl.createtensordesc接口创建Tensor描述信息后,可通过本接口设置Tensor的数据值的范围。 使用场景:部分算子input的值就是该算子的输出Shape,在动态Shape场景下,这个Shape的值就有一个取值范围,在执行算子时,需要在input上设置Shape值的范围(例如:\[\[16, 16\], \[1, 128\], \[20, 20\], \[1, 10\]\]),才能正常执行算 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0047_html.md ## 函数:trans\_tensor\_desc\_format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0048.html - Description: 根据指定的“dstFormat”转换“srcDesc”(输入源aclTensorDesc中)的Format,生成新的目标aclTensorDesc,源aclTensorDesc中的Format保持不变。当前版本不支持该接口,预留接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0048_html.md ## 函数:load\_from\_file - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0139.html - Description: 从文件加载离线模型数据(适配AI处理器的离线模型),由系统内部管理内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0139_html.md ## 函数:load\_from\_mem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0140.html - Description: 从内存加载离线模型数据,由系统内部管理模型运行的内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0140_html.md ## 函数:load\_from\_file\_with\_mem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0141.html - Description: 从文件加载离线模型数据(适配AI处理器的离线模型),由用户自行管理模型运行的内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0141_html.md ## 函数:load\_from\_mem\_with\_mem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0142.html - Description: 从内存加载离线模型数据,由用户自行管理模型运行的内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0142_html.md ## 函数:execute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0145.html - Description: 执行模型推理,直到返回推理结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0145_html.md ## 函数:execute\_v2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0146.html - Description: 根据acl.mdl.set\_exec\_config\_opt接口所配置的属性,执行模型推理,直到返回推理结果。该接口是在acl.mdl.execute接口基础上进行了增强,支持在执行模型推理时控制Stream任务的超时时间、Event任务的超时时间。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0146_html.md ## 函数:execute\_async - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0147.html - Description: 执行模型推理,异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0147_html.md ## 函数:unload - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0148.html - Description: 系统完成模型推理后,可调用该接口卸载模型,释放资源。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0148_html.md ## 函数:query\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0149.html - Description: 根据模型文件获取模型执行时所需的权值内存大小、工作内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0149_html.md ## 函数:query\_size\_from\_mem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0150.html - Description: 根据内存中的模型数据获取模型执行时所需的权值内存大小、工作内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0150_html.md ## 函数:set\_dynamic\_batch\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0151.html - Description: 在动态Batch场景下,在模型执行前调用本接口设置模型推理时的批量大小Batch(每次处理图片的数量)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0151_html.md ## 函数:set\_dynamic\_hw\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0152.html - Description: 动态分辨率场景下,在模型执行前调用本接口设置模型推理时输入图片的高和宽。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0152_html.md ## 函数:create\_and\_get\_op\_desc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0153.html - Description: 获取指定算子的描述信息,包括算子名、输入Tensor描述、输出Tensor描述,如果查询不到指定算子,则返回报错。该接口不支持动态Shape场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0153_html.md ## 函数:get\_aipp\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0157.html - Description: 获取指定模型的指定输入所支持的AIPP类型(动态AIPP或静态AIPP)及动态AIPP输入对应的index值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0157_html.md ## 函数:set\_aipp\_by\_input\_index - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0158.html - Description: 动态AIPP场景下,根据指定的模型输入的输入index,设置模型推理时的AIPP参数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0158_html.md ## 函数:set\_input\_dynamic\_dims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0159.html - Description: 如果模型输入的Shape是动态的、输入数据Format为ND格式(ND表示支持任意格式),在模型执行前调用本接口设置模型推理时具体维度的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0159_html.md ## 函数:create\_config\_handle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0160.html - Description: 创建aclmdlConfigHandle类型的数据,表示一个模型加载的配置对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0160_html.md ## 函数:destroy\_config\_handle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0161.html - Description: 销毁通过acl.mdl.create\_config\_handle接口创建的aclmdlConfigHandle类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0161_html.md ## 函数:set\_config\_opt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0162.html - Description: 设置模型加载的配置对象中的各属性的取值,包括模型执行的优先级、模型的文件路径或内存地址、内存大小等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0162_html.md ## 函数:load\_with\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0163.html - Description: 指定模型加载时需要的配置信息,并进行模型加载。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0163_html.md ## 函数:get\_tensor\_real\_name - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0164.html - Description: 根据指定名称获取Tensor的真实名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0164_html.md ## 函数:create\_exec\_config\_handle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0165.html - Description: 创建aclmdlExecConfigHandle类型的数据,表示一个模型执行的配置对象的指针地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0165_html.md ## 函数:destroy\_exec\_config\_handle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0166.html - Description: 销毁通过acl.mdl.create\_exec\_config\_handle接口创建的aclmdlExecConfigHandle类型数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0166_html.md ## 函数:set\_exec\_config\_opt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0167.html - Description: 设置模型执行的配置对象中的各属性的取值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0167_html.md ## 函数:create\_aipp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0169.html - Description: 动态AIPP场景下,根据模型支持的batch size创建aclmdlAIPP类型的数据,用于存放动态AIPP的参数。 如需销毁aclmdlAIPP类型的数据,请参见函数:destroyaipp。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0169_html.md ## 函数:destroy\_aipp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0170.html - Description: 销毁通过acl.mdl.createaipp接口创建的aclmdlAIPP类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0170_html.md ## 函数:set\_aipp\_input\_format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0172.html - Description: 动态AIPP场景下,必须设置原始输入图像的格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0172_html.md ## 函数:set\_aipp\_csc\_params - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0173.html - Description: 动态AIPP场景下,设置CSC色域转换相关的参数,若色域转换开关关闭,则调用该接口设置的参数无效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0173_html.md ## 函数:set\_aipp\_rbuv\_swap\_switch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0174.html - Description: 动态AIPP场景下,CSC色域转换前,设置是否交换R通道与B通道或者是否交换U通道与V通道。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0174_html.md ## 函数:set\_aipp\_ax\_swap\_switch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0175.html - Description: 动态AIPP场景下,设置RGBA->ARGB或者YUVA->AYUV的交换开关。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0175_html.md ## 函数:set\_aipp\_src\_image\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0176.html - Description: 动态AIPP场景下,必须设置原始图片的宽和高。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0176_html.md ## 函数:set\_aipp\_crop\_params - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0178.html - Description: 动态AIPP场景下,设置缩放相关的参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0178_html.md ## 函数:set\_aipp\_padding\_params - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0179.html - Description: 动态AIPP场景下,设置补边相关的参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0179_html.md ## 函数:set\_aipp\_dtc\_pixel\_mean - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0180.html - Description: 动态AIPP场景下,设置通道的均值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0180_html.md ## 函数:set\_aipp\_dtc\_pixel\_min - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0181.html - Description: 动态AIPP场景下,设置通道的最小值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0181_html.md ## 函数:set\_aipp\_pixel\_var\_reci - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0182.html - Description: 动态AIPP场景下,设置通道的方差。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0182_html.md ## 函数:set\_input\_aipp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0183.html - Description: 动态AIPP场景下,根据指定的动态AIPP输入的输入index,设置模型推理时的AIPP参数值。 动态AIPP支持的几种操作的计算方式及其计算顺序如下: 1. 抠图 2. 色域转换 3. 缩放(当前版本不支持缩放) 4. 减均值/归一化 5. 补边 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0183_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0185.html - Description: 您可以通过以下接口获取aclmdlDataset类型的数据并对aclmdlDataset的数据执行一些操作。该数据类型下的操作接口都是同步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0185_html.md ## 函数:create\_dataset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0186.html - Description: 创建aclmdlDataset类型的数据。 该数据类型用于描述模型推理时的输入数据、输出数据,模型可能存在多个输入、多个输出,每个输入/输出的内存地址、内存大小用aclDataBuffer类型的数据来描述。 如需销毁aclmdlDataset类型的数据,请参见函数:destroydataset。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0186_html.md ## 函数:destroy\_dataset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0187.html - Description: 销毁通过acl.mdl.createdataset接口创建的aclmdlDataset类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0187_html.md ## 函数:add\_dataset\_buffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0188.html - Description: 向aclmdlDataset中增加aclDataBuffer。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0188_html.md ## 函数:get\_dataset\_num\_buffers - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0189.html - Description: 获取aclmdlDataset中aclDataBuffer的个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0189_html.md ## 函数:get\_dataset\_buffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0190.html - Description: 获取aclmdlDataset中的第n个aclDataBuffer。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0190_html.md ## 函数:set\_dataset\_tensor\_desc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0191.html - Description: 如果模型输入或输出的Shape是动态的,在模型执行之前调用本接口设置模型输入或输出的Tensor描述信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0191_html.md ## 函数:get\_dataset\_tensor\_desc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0192.html - Description: 如果模型输入或输出的Shape是动态的,模型在模型执行之后可以调用本接口从aclmdlDataset类型的数据(该类型用于描述模型推理时的输入数据、输出数据)中获取指定的输入或者输出的Tensor描述信息。 典型场景举例:如果模型输入Shape是动态的,在模型执行之前调acl.mdl.setdatasettensordesc设置该输入的Tensor描述信息,在模型执行之后,调用acl.mdl.ge - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0192_html.md ## 函数:create\_desc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0194.html - Description: 创建aclmdlDesc类型的数据,表示模型描述信息。 如需销毁aclmdlDesc类型的数据,请参见acl.mdl.destroydesc。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0194_html.md ## 函数:destroy\_desc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0195.html - Description: 销毁通过acl.mdl.createdesc接口创建的aclmdlDesc类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0195_html.md ## 函数:get\_desc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0196.html - Description: 根据模型ID获取该模型的模型描述信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0196_html.md ## 函数:get\_num\_inputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0197.html - Description: 根据aclmdlDesc类型的数据,获取模型的输入个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0197_html.md ## 函数:get\_num\_outputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0198.html - Description: 根据aclmdlDesc类型的数据,获取模型的输出个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0198_html.md ## 函数:get\_input\_size\_by\_index - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0199.html - Description: 根据aclmdlDesc类型的数据,获取指定输入的大小,单位为Byte。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0199_html.md ## 函数:get\_output\_size\_by\_index - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0200.html - Description: 根据aclmdlDesc类型的数据,获取指定输出的大小,单位为Byte。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0200_html.md ## 函数:get\_input\_dims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0201.html - Description: 根据模型描述获取模型的输入Tensor的维度信息。 如果模型中含有静态AIPP配置信息,您可以根据实际需要选择acl.mdl.getinputdims接口或acl.mdl.getinputdimsv2接口查询维度信息,两者的区别在于: - 通过acl.mdl.getinputdims接口获取的维度信息,各维度的值与输入图像的各维度的值保持一致,详细规则请参见表1。 - 通过acl.md - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0201_html.md ## 函数:get\_input\_dims\_v2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0202.html - Description: 根据模型描述获取模型的输入Tensor的维度信息。 如果模型中含有静态AIPP配置信息,您可以根据实际需要选择acl.mdl.getinputdims接口或acl.mdl.getinputdimsv2接口查询维度信息,两者的区别在于: - 通过acl.mdl.getinputdims接口获取的维度信息,各维度的值与输入图像的各维度的值保持一致,详细规则请参见表1。 - 通过acl.md - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0202_html.md ## 函数:get\_output\_dims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0203.html - Description: 根据模型描述获取指定的模型输出Tensor的维度信息。 - 固定Shape场景下,通过该接口获取指定的模型输出Tensor的维度信息。 - 动态Shape(动态Batch或动态分辨率)场景下,通过该接口获取最大档的维度信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0203_html.md ## 函数:get\_input\_name\_by\_index - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0204.html - Description: 获取模型中指定输入的输入名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0204_html.md ## 函数:get\_output\_name\_by\_index - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0205.html - Description: 根据模型描述信息获取模型中指定输出的输出算子名称、算子输出边的下标、top名称或输出名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0205_html.md ## 函数:get\_input\_format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0206.html - Description: 根据模型描述信息获取模型中指定输入的Format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0206_html.md ## 函数:get\_output\_format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0207.html - Description: 根据模型描述信息获取模型中指定输出的Format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0207_html.md ## 函数:get\_input\_data\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0208.html - Description: 根据模型描述信息获取模型中指定输入的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0208_html.md ## 函数:get\_output\_data\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0209.html - Description: 根据模型描述信息获取模型中指定输出的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0209_html.md ## 函数:get\_input\_index\_by\_name - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0210.html - Description: 根据模型中的输入名称获取对应输入的索引编号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0210_html.md ## 函数:get\_output\_index\_by\_name - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0211.html - Description: 根据模型中的输出名称获取对应输出的索引编号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0211_html.md ## 函数:get\_dynamic\_batch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0212.html - Description: 根据模型描述信息获取模型支持的动态Batch信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0212_html.md ## 函数:get\_dynamic\_hw - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0213.html - Description: 根据模型描述信息获取模型支持的动态宽高信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0213_html.md ## 函数:get\_cur\_output\_dims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0214.html - Description: 根据模型描述信息获取指定的模型输出tensor的实际维度信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0214_html.md ## 函数:get\_first\_aipp\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0215.html - Description: 获取模型AIPP(包括静态AIPP和动态AIPP)的配置信息。 AIPP支持的几种操作的计算方式及其计算顺序如下: 1. 抠图 2. 色域转换 3. 缩放(当前版本不支持缩放) 4. 减均值/归一化 5. 补边 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0215_html.md ## 函数:get\_input\_dynamic\_gear\_count - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0216.html - Description: 根据模型描述信息获取模型的输入所支持的动态维度档位数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0216_html.md ## 函数:get\_input\_dynamic\_dims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0217.html - Description: 根据模型描述信息获取模型的输入所支持的动态维度信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0217_html.md ## 函数:get\_op\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0218.html - Description: 获取整网中某个模型中某个算子的属性的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0218_html.md ## 函数:set\_model\_dir - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0772.html - Description: 设置加载模型文件的目录,目录下存放单算子模型文件(.om文件)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0772_html.md ## 函数:load - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0773.html - Description: 从内存中加载单算子模型数据,由用户管理内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0773_html.md ## 函数:execute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0775.html - Description: 执行指定的算子。异步接口。 此接口后续版本会废弃,请使用acl.op.executev2接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0775_html.md ## 函数:execute\_v2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0776.html - Description: 执行指定的算子。 - C函数原型 1 aclError aclopExecuteV2\(const char opType,int numInputs,aclTensorDesc inputDesc\[\],aclDataBuffer inputs\[\],int numOutputs,aclTensorDesc outputDesc\[\],aclDataBuffe - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0776_html.md ## 函数:execute\_with\_handle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0777.html - Description: 以Handle方式调用一个算子,不支持动态Shape算子,动态Shape算子请使用acl.op.executev2。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0777_html.md ## 函数:cast - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0778.html - Description: 转换输入数据的数据类型,异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0778_html.md ## 函数:create\_handle\_for\_cast - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0779.html - Description: 创建数据类型转换的handle。 创建handle成功后,需调用acl.op.executewithhandle接口执行算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0779_html.md ## 函数:create\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0780.html - Description: 创建aclopAttr类型的数据,该数据类型用于保存算子的属性。 如需销毁aclopAttr类型的数据,请参见acl.op.destroyattr。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0780_html.md ## 函数:destroy\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0781.html - Description: 销毁通过acl.op.createattr接口创建的aclopAttr类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0781_html.md ## 函数:set\_attr\_bool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0782.html - Description: 设置bool类型标量的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0782_html.md ## 函数:set\_attr\_int - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0783.html - Description: 设置int64t类型标量的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0783_html.md ## 函数:set\_attr\_float - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0784.html - Description: 设置float类型标量的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0784_html.md ## 函数:set\_attr\_string - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0785.html - Description: 设置字符串类型标量的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0785_html.md ## 函数:set\_attr\_list\_bool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0786.html - Description: 设置bool类型列表的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0786_html.md ## 函数:set\_attr\_list\_int - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0787.html - Description: 设置int64t类型列表的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0787_html.md ## 函数:set\_attr\_list\_float - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0788.html - Description: 设置float类型列表的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0788_html.md ## 函数:set\_attr\_list\_string - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0789.html - Description: 设置字符串类型列表的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0789_html.md ## 函数:set\_attr\_list\_list\_int - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0790.html - Description: 设置int64t类型列表的列表属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0790_html.md ## 函数:create\_handle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0791.html - Description: 创建一个执行算子的handle。 如需销毁handle,请参见acl.op.destroyhandle。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0791_html.md ## 函数:destroy\_handle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0792.html - Description: 销毁一个执行算子的handle。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0792_html.md ## 函数:infer\_shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0793.html - Description: 根据算子的输入Shape、输入值推导出算子的输出Shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0793_html.md ## 函数:set\_attr\_data\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0794.html - Description: 设置指定属性的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0794_html.md ## 函数:set\_attr\_list\_data\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0795.html - Description: 设置指定属性列表的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0795_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0800.html - Description: - 调用本章节接口实现“矩阵-矩阵”或“矩阵-向量”相乘的运算,本章中的接口内部封装了系统内置的矩阵乘算子GEMM,接口调用流程参见 接口调用流程\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/acldevg/aclpythondevg\_0069.html\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0800_html.md ## 关于A、B、C矩阵的Shape及内存大小计算公式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0801.html - Description: - A、B、C矩阵是否转置的标记如果设置为ACL\_TRANS\_N或ACL\_TRANS\_T,则用户在申请内存存放A、B、C矩阵数据时,实际申请的内存要和实际数据大小匹配,Shape及内存大小的计算公式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0801_html.md ## 函数:gemv\_ex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0802.html - Description: 执行矩阵-向量的乘法,y \= αAx + βy,输入数据、输出数据的数据类型通过入参设置,异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0802_html.md ## 函数:create\_handle\_for\_gemv\_ex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0803.html - Description: 创建矩阵-向量乘的handle,输入数据、输出数据的数据类型通过入参设置。 创建handle成功后,需调用acl.op.executewithhandle接口执行算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0803_html.md ## 函数:hgemv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0804.html - Description: 执行矩阵-向量的乘法,y \= αAx + βy,输入数据和输出数据的数据类型为aclFloat16,异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0804_html.md ## 函数:create\_handle\_for\_hgemv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0805.html - Description: 创建矩阵-向量乘的handle,输入数据和输出数据的数据类型为aclFloat16。 创建handle成功后,需调用acl.op.executewithhandle接口执行算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0805_html.md ## 函数:s8gemv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0806.html - Description: 执行矩阵-向量的乘法,y \= αAx + βy,输入数据的数据类型为int8t,输出数据的数据类型为int32t,异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0806_html.md ## 函数:create\_handle\_for\_s8gemv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0807.html - Description: 创建矩阵-向量乘的handle,输入数据的数据类型为int8t,输出数据的数据类型为int32t。 创建handle成功后,需调用acl.op.executewithhandle接口执行算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0807_html.md ## 函数:gemm\_ex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0808.html - Description: 执行矩阵-矩阵的乘法,C \= αAB + βC,输入数据、输出数据的数据类型通过入参设置,异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0808_html.md ## 函数:create\_handle\_for\_gemm\_ex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0809.html - Description: 创建矩阵-矩阵乘的handle,输入数据、输出数据的数据类型通过入参设置。 创建handle成功后,需调用acl.op.executewithhandle接口执行算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0809_html.md ## 函数:hgemm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0810.html - Description: 执行矩阵-矩阵的乘法,C \= αAB + βC,输入数据和输出数据的数据类型为aclFloat16,异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0810_html.md ## 函数:create\_handle\_for\_hgemm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0811.html - Description: 创建矩阵-矩阵乘的handle,输入数据和输出数据的数据类型为aclFloat16。 创建handle成功后,需调用acl.op.executewithhandle接口执行算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0811_html.md ## 函数:s8gemm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0812.html - Description: 执行矩阵-矩阵的乘法,C \= αAB + βC,输入数据的数据类型为int8t,输出数据的数据类型为int32t,异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0812_html.md ## 函数:create\_handle\_for\_s8gemm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0813.html - Description: 创建矩阵-矩阵乘的handle,输入数据的数据类型为int8t,输出数据的数据类型为int32t。 创建handle成功后,需调用acl.op.executewithhandle接口执行算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0813_html.md ## 函数:register\_compile\_func - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0815.html - Description: 动态Shape场景下,注册算子选择器,用于在算子执行时,能针对不同shape,选择相应的Tiling策略。 如果某算子已注册算子选择器,则不允许重新注册,如果需要变更算子选择器,必须先调用acl.op.unregistercompilefunc接口取消注册,然后再调用acl.op.registercompilefunc接口重新注册。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0815_html.md ## 函数:unregister\_compile\_func - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0816.html - Description: 动态Shape场景下,取消注册算子选择器。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0816_html.md ## 函数:create\_kernel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0817.html - Description: 动态Shape场景下,将算子注册到系统内部,运行算子时使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0817_html.md ## 函数:set\_kernel\_args - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0818.html - Description: 动态Shape场景下,设置算子Tiling参数、执行并发数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0818_html.md ## 函数:set\_kernel\_workspace\_sizes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0819.html - Description: 动态Shape场景下,设置算子Workspace参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0819_html.md ## 函数:update\_params - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0820.html - Description: 动态Shape场景下,设置算子Tiling参数、执行并发数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0820_html.md ## CANN商业版-aclError - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0911.html - Description: 返回码定义规则: - 规则1:开发人员的环境异常或者代码逻辑错误,可以通过优化环境或代码逻辑的方式解决问题,此时返回码定义为:1XXXXX。 - 规则2:资源不足(Stream、内存等)、开发人员编程时使用的接口或参数与当前硬件不匹配,可以通过在编程时合理使用资源的方式解决,此时返回码定义为:2XXXXX。 - 规则3:业务功能异常,比如队列满、队列空等,此时返回码定义为3XXXXX。 - 规则4 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0911_html.md ## CANN商业版-aclTransType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0921.html - Description: | 转置方式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0921_html.md ## CANN商业版-aclComputeType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0922.html - Description: | 计算精度类型 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0922_html.md ## CANN商业版-aclAippInputFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0924.html - Description: Aipp输入图像格式 说明 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0924_html.md ## CANN商业版-aclAippInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0925.html - Description: 静态Aipp配置信息 含义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0925_html.md ## CANN商业版-aclAippDims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0926.html - Description: aipp维度信息 含义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0926_html.md ## CANN商业版-aclmdlIODims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0927.html - Description: 模型输入输出维度信息 含义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0927_html.md ## CANN商业版-aclmdlInputAippType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0932.html - Description: 模型输入的AIPP类型 含义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0932_html.md ## CANN商业版-aclmdlConfigAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0938.html - Description: 模型加载配置类型 含义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0938_html.md ## CANN商业版-aclmdlExecConfigAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0939.html - Description: | 参数项 | 含义 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0939_html.md ## 函数:get\_aipp\_data\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_0992.html - Description: 根据batchsize获取动态AIPP输入数据所需的内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_0992_html.md ## 函数:start\_dump\_args - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_1007.html - Description: 调用本接口开启算子信息统计功能,并需与函数:stopdumpargs接口配合使用,将算子信息文件输出到path参数指定的目录,一个shape对应一个算子信息文件,文件中包含算子类型、算子属性、算子输入&输出的format/数据类型/shape等信息。 使用场景:例如要统计某个模型执行涉及哪些算子,可在模型执行之前调用acl.op.startdumpargs接口,在模型执行之后调用acl.op.st - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_1007_html.md ## 函数:stop\_dump\_args - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_1008.html - Description: 调用本接口关闭算子信息统计功能,并需与函数:startdumpargs接口配合使用,将算子信息文件输出到path参数指定的目录,一个shape对应一个算子信息文件,文件中包含算子类型、算子属性、算子输入&输出的format/数据类型/shape等信息。 使用场景:例如要统计某个模型执行涉及哪些算子,可在模型执行之前调用acl.op.startdumpargs接口,在模型执行之后调用acl.op.s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_1008_html.md ## pyACL表达约定 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_1018.html - Description: 接口命名同时满足如下规则: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_1018_html.md ## 函数:set\_max\_op\_queue\_num - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_1095.html - Description: 通过单算子模型方式执行单个算子时,配置算子缓存信息老化信息,以达到节约内存和平衡调用性能的目的。 关于单算子模型的介绍请参见接口调用流程\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/acldevg/aclpythondevg0069.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_1095_html.md ## 函数:bundle\_load\_from\_file - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_1096.html - Description: 模型执行阶段若涉及动态更新变量的场景,可调用本接口从文件加载离线模型数据(适配AI处理器的离线模型),由系统内部管理内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_1096_html.md ## 函数:bundle\_load\_from\_mem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_1097.html - Description: 模型执行阶段若涉及动态更新变量的场景,从内存加载离线模型数据,由系统内部管理模型运行的内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_1097_html.md ## 函数:bundle\_get\_model\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_1098.html - Description: 获取实际可执行的模型ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_1098_html.md ## 函数:bundle\_get\_model\_num - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_1099.html - Description: 根据bundle\_id获取实际可执行的模型数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_1099_html.md ## 函数:bundle\_unload - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_1100.html - Description: 系统完成模型推理后,可调用该接口卸载通过acl.mdl.bundle\_load\_from\_file接口或acl.mdl.bundle\_load\_from\_mem接口加载的模型,释放资源。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_1100_html.md ## CANN商业版-aclmdlIODimsRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_1114.html - Description: | 成员名称 | 描述 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_1114_html.md ## 函数:get\_desc\_from\_file - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_1130.html - Description: 根据模型文件获取该模型的模型描述信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_1130_html.md ## 函数:get\_desc\_from\_mem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_1131.html - Description: 从内存获取该模型的模型描述信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_1131_html.md ## 函数:get\_input\_dims\_range - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/aclpythondevg_01_1132.html - Description: 根据模型描述信息获取模型的输入tensor的维度范围。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_aclpythondevg_01_1132_html.md ## 全量接口列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0001.html - Description: 本文档主要描述给应用用户或者上层框架提供了安全易用的构图接口集合,开发者可以调用这些接口构建网络模型,设置模型所包含的图、图内的算子以及算子的属性信息(包括Input、Output及其他属性信息)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0001_html.md ## CANN商业版-aclgrphParseTensorFlow - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0003.html - Description: 将TensorFlow模型解析为Graph。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0003_html.md ## CANN商业版-aclgrphParseCaffe - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0004.html - Description: 将Caffe模型解析为图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0004_html.md ## CANN商业版-aclgrphParseONNX - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0005.html - Description: 将ONNX模型解析为Graph。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0005_html.md ## CANN商业版-aclgrphParseONNXFromMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0006.html - Description: 将加载至内存的ONNX模型解析为Graph。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0006_html.md ## Graph构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0008.html - Description: Graph构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0008_html.md ## CANN商业版-SetInputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0009.html - Description: 设置Graph内的输入算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0009_html.md ## CANN商业版-SetOutputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0010.html - Description: 设置Graph关联的输出算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0010_html.md ## CANN商业版-SetTargets - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0011.html - Description: 设置Graph的结束节点列表。 在该列表中的算子需要被执行到,但它的输出不用返回给用户。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0011_html.md ## CANN商业版-IsValid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0012.html - Description: 判断Graph对象是否有效,即是否可被运行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0012_html.md ## CANN商业版-SetNeedIteration - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0013.html - Description: 标记Graph是否需要循环执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0013_html.md ## CANN商业版-AddOp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0014.html - Description: 用户算子缓存接口,通过此接口可以将不带连接关系的算子缓存在图中,用于查询和对象获取。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0014_html.md ## CANN商业版-FindOpByName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0015.html - Description: 基于算子名称,获取缓存在Graph中的op对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0015_html.md ## CANN商业版-GetAllOpName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0016.html - Description: 获取Graph中已注册的所有缓存算子的名称列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0016_html.md ## CANN商业版-SaveToFile - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0017.html - Description: 将序列化后的Graph结构保存到文件中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0017_html.md ## CANN商业版-LoadFromFile - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0018.html - Description: 从文件中读取Graph。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0018_html.md ## CANN商业版-FindOpByType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0019.html - Description: 基于算子类型,获取缓存在Graph中的所有指定类型的op对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0019_html.md ## CANN商业版-GetName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0020.html - Description: - 头文件:\#include - 库文件:libgraph.so 获取当前图的名称。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0020_html.md ## CANN商业版-CopyFrom - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0021.html - Description: 拷贝原图生成目标图。 目标图的graphname优先使用用户指定的,未指定则使用原图的graphname。graphid/session归属,拷贝后需要用户自行添加。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0021_html.md ## CANN商业版-LoadFromMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0022.html - Description: 从内存中读取序列化后Graph。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0022_html.md ## CANN商业版-SaveToMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0023.html - Description: 将序列化后的Graph保存到内存中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0023_html.md ## CANN商业版-LoadFromSerializedModelArray - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0024.html - Description: 从ModelDef的序列化数据中恢复Graph。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0024_html.md ## CANN商业版-GetAllNodes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0027.html - Description: 获取图中的所有节点,包含本图及子图的节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0027_html.md ## CANN商业版-GetDirectNode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0028.html - Description: 获取本图中的所有节点,不包含本图内子图的节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0028_html.md ## CANN商业版-RemoveNode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0029.html - Description: 删除图中的指定节点,并删除节点之间的连边。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0029_html.md ## CANN商业版-RemoveEdge - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0030.html - Description: 删除图中的指定连接边。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0030_html.md ## CANN商业版-AddNodeByOp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0031.html - Description: - 头文件:\#include - 库文件:libgraph.so 新增一个节点到图上。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0031_html.md ## CANN商业版-AddDataEdge - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0032.html - Description: - 头文件:\#include - 库文件:libgraph.so 新增一条数据边。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0032_html.md ## CANN商业版-AddControlEdge - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0033.html - Description: - 头文件:\#include - 库文件:libgraph.so 新增一个控制边。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0033_html.md ## CANN商业版-ConstructFromInputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0034.html - Description: 支持基于用户构造的Operator对象生成一个Graph对象。 功能与SetInputs一致。SetInputs未来会逐步消亡,统一使用此接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0034_html.md ## GNode构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0036.html - Description: GNode构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0036_html.md ## CANN商业版-GetType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0037.html - Description: - 头文件:\#include - 库文件:libgraph.so 获取算子type。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0037_html.md ## CANN商业版-GetName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0038.html - Description: - 头文件:\#include - 库文件:libgraph.so 获取算子名字。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0038_html.md ## CANN商业版-GetInDataNodesAndPortIndexs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0039.html - Description: 获取算子指定输入端口对应的对端算子以及对端算子的输出端口号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0039_html.md ## CANN商业版-GetInControlNodes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0040.html - Description: 获取算子的控制输入节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0040_html.md ## CANN商业版-GetOutDataNodesAndPortIndexs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0041.html - Description: 获取算子指定输出端口对应的对端算子以及对端算子的输入端口号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0041_html.md ## CANN商业版-GetOutControlNodes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0042.html - Description: 获取算子的控制输出节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0042_html.md ## CANN商业版-GetInputConstData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0043.html - Description: 获取输入为Const节点的值。 如果算子的输入是Const节点,会返回Const节点的值,否则返回失败。支持跨子图获取输入是否是Const及Const下的value。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0043_html.md ## CANN商业版-GetInputIndexByName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0044.html - Description: 通过算子的端口名获取输入端口index。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0044_html.md ## CANN商业版-GetDynamicInputIndexesByName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0045.html - Description: 通过算子的动态输入端口名获取动态输入端口indexes。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0045_html.md ## CANN商业版-GetOutputIndexByName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0046.html - Description: 通过算子的端口名获取输出端口index。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0046_html.md ## CANN商业版-GetDynamicOutputIndexesByName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0047.html - Description: 通过算子的动态输出端口名获取动态输出端口indexes。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0047_html.md ## CANN商业版-GetInputsSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0048.html - Description: 返回节点的有效输入个数,即算子的实际输入个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0048_html.md ## CANN商业版-GetOutputsSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0049.html - Description: 返回有效输出个数,即算子定义时的输出个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0049_html.md ## CANN商业版-GetInputDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0050.html - Description: 获取指定输入端口的tensor格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0050_html.md ## CANN商业版-UpdateInputDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0051.html - Description: 更新指定输入端口的tensor格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0051_html.md ## CANN商业版-GetOutputDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0052.html - Description: 获取指定输出端口的tensor格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0052_html.md ## CANN商业版-UpdateOutputDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0053.html - Description: 更新指定输出端口的tensor格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0053_html.md ## CANN商业版-SetAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0054.html - Description: 设置Node属性的属性值。 Node可以包括多个属性,初次设置值后,算子属性值的类型固定,算子属性值的类型包括: - 整型:接受int64t、uint32t、int32t类型的整型值 使用SetAttr\(const AscendString& name, int64t &attrValue\)设置属性值,以GetAttr\(const AscendString& name, int32t &att - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0054_html.md ## CANN商业版-GetAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0055.html - Description: 获取指定属性名字的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0055_html.md ## CANN商业版-HasAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0056.html - Description: - 头文件:\#include - 库文件:libgraph.so 查询属性是否存在。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0056_html.md ## CANN商业版-GetSubgraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0057.html - Description: 获取当前节点的第index个子图对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0057_html.md ## CANN商业版-GetALLSubgraphs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0058.html - Description: 获取当前节点根图的所有子图对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0058_html.md ## CustomPassContext构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0060.html - Description: CustomPassContext构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0060_html.md ## CANN商业版-SetErrorMessage - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0061.html - Description: 向框架注册图修改阶段遇到的错误信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0061_html.md ## PassRegistrationData构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0064.html - Description: PassRegistrationData构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0064_html.md ## CANN商业版-CustomPassFn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0065.html - Description: 注册自定义Pass的执行函数。 关于接口的详细使用方法请参见使用自定义Pass修改Graph\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/graphdevg/atlasag250027.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0065_html.md ## PassReceiver构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0067.html - Description: PassReceiver构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0067_html.md ## CANN商业版-ShardGraphs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0069.html - Description: 该接口已废弃,请勿使用。 该接口不建议使用,推荐使用ShardGraphsToFile接口,ShardGraphsToFile接口性能优于ShardGraphs。 切分图接口,对Session内的图按照AddGraph的顺序进行切分,切分后的图保存在内存中。 切分方式由options参数说明中的ge.graphParallelOptionPath参数配置,若未使能并行切分功能,则接口不会进行切分。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0069_html.md ## CANN商业版-ShardGraphsToFile - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0070.html - Description: 该接口已废弃,请勿使用。 大模型分布式编译切分场景下使用:Graph太大场景下,需要调用该接口,进行切分图,并将切分后的图保存为pb文件。 切分图接口,对Session内的图按照AddGraph的顺序进行切分,切分后的图保存为pb文件。 切分方式由options参数说明中的ge.graphParallelOptionPath参数配置,若未使能并行切分功能,则接口不会进行切分。 切分后的图,命名规则 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0070_html.md ## CANN商业版-SaveGraphsToPb - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0071.html - Description: 该接口已废弃,请勿使用。 保存Session内图接口,将图保存为pb文件,支持Session内的权重共享功能(即Session内两张图若有两个权重值是一致的,则只会保存一份权重)。 该接口与ShardGraphsToFile接口区别: 该接口适用于任何图,而ShardGraphsToFile适用于大模型分布式编译切分场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0071_html.md ## GraphBuffer的构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0073.html - Description: GraphBuffer构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0073_html.md ## CANN商业版-GetData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0074.html - Description: 获取序列化后的Graph的内存起始位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0074_html.md ## CANN商业版-GetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0075.html - Description: 获取序列化后的Graph的内存的长度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0075_html.md ## CANN商业版-aclgrphBuildInitialize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0077.html - Description: 模型构建的初始化函数,用于申请资源。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0077_html.md ## CANN商业版-aclgrphBuildModel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0078.html - Description: 将输入的Graph编译为适配AI处理器的离线模型,并保存到内存缓冲区。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0078_html.md ## CANN商业版-aclgrphSaveModel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0079.html - Description: 将离线模型序列化并保存到指定文件中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0079_html.md ## CANN商业版-aclgrphBuildFinalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0081.html - Description: 系统完成模型构建后,通过该接口释放资源。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0081_html.md ## aclgrphConvertToWeightRefreshableGraphs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0082.html - Description: 通过传入Const节点名数组将原图转换成一组权重可更新的图。 该接口适用于权重更新场景,详细介绍请参见专题>权重更新\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/graphdevg/atlasag250055.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0082_html.md ## CANN商业版-aclgrphBundleBuildModel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0083.html - Description: 将输入的一组Graph编译为适配AI处理器的离线模型。 与aclgrphBuildModel接口的区别是,该接口适用于权重更新场景。通过aclgrphBundleBuildModel接口生成离线模型缓存后,需要使用aclgrphBundleSaveModel接口落盘。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0083_html.md ## CANN商业版-aclgrphBundleSaveModel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0084.html - Description: 将离线模型序列化并保存到指定文件中。 - 与 aclgrphSaveModel 接口的区别是,该接口适用于权重更新场景,且通过该接口生成的模型,如果要使用acl进行推理,需要使用aclmdlBundleLoadFromFile或aclmdlBundleLoadFromMem接口加载模型,接口详细介绍请参见“模型加载和卸载”。 - 通过 aclgrphBundleBuildModel 接口生成离 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0084_html.md ## CANN商业版-GEInitialize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0086.html - Description: 初始化GE,完成运行准备。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0086_html.md ## CANN商业版-GEFinalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0087.html - Description: GE退出,释放GE相关资源。 在该接口内,默认增加2000ms延时(实际最大延时可达2000ms),用于Device业务日志回传,保证ERROR级别和EVENT级别日志不丢失,您可以将ASCENDLOGDEVICEFLUSHTIMEOUT\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/maintenref/envvar/ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0087_html.md ## Session构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0088.html - Description: Session构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0088_html.md ## CANN商业版-GetVariables - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0089.html - Description: 变量查询接口,获取Session内所有variable算子或指定variable算子的Tensor内容。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0089_html.md ## CANN商业版-GetSessionId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0090.html - Description: 获取Session的ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0090_html.md ## CANN商业版-AddGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0091.html - Description: 向Session中添加Graph,Session内会生成唯一的Graph ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0091_html.md ## CANN商业版-AddGraphWithCopy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0092.html - Description: 向Session中添加Graph,Session内会生成唯一的Graph ID。 注意相比于AddGraph接口,此接口传入Graph对象后,会产生Graph对象的拷贝。Session中保存的图是Graph对象的一个备份,后续对该Graph的修改不影响Session内原有Graph,同时Session内图的任何修改也不会影响Graph对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0092_html.md ## CANN商业版-RemoveGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0093.html - Description: 在当前Session中删除指定ID对应的Graph。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0093_html.md ## CANN商业版-LoadGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0094.html - Description: 异步执行Graph场景使用,将指定Graph ID的图绑定到对应Stream上。 该接口执行前需要完成CompileGraph流程,且LoadGraph成功后需要使用ExecuteGraphWithStreamAsync接口执行图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0094_html.md ## CANN商业版-GeSessionLoadGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0095.html - Description: 只有异步执行Graph场景使用,使用指定的Session,将指定Graph ID的图绑定到对应Stream上。 GeSessionLoadGraph成功后可以使用GeSessionExecuteGraphWithStreamAsync接口执行图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0095_html.md ## CANN商业版-RunGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0096.html - Description: 同步运行指定ID对应的Graph图,输出运行结果。 该接口包括了编译,加载和运行Graph的操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0096_html.md ## CANN商业版-RunGraphAsync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0097.html - Description: 异步运行指定ID对应的Graph图,输出运行结果。 此函数与RunGraph均为执行指定id对应的图,并输出结果,区别于RunGraph的是,该接口: - 异步运行。 - 承载数据的数据格式不一样,但含义相同。 - 用户通过回调函数RunAsyncCallback获取图计算结果,即用户自行定义函数RunAsyncCallback。该回调函数,当status为success时,即可处理数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0097_html.md ## CANN商业版-RunGraphWithStreamAsync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0098.html - Description: 异步运行指定ID对应的Graph图,输出运行结果。该接口包括了编译,加载和运行Graph的操作。 此函数与RunGraph均为运行指定ID对应的图,并输出结果,区别于RunGraph的是,该接口: - 异步运行。 - inputs和outputs均为Device上的内存空间,且需要在运行前由用户分配内存大小。 如下两种情况用户可以不分配输出内存: - 用户通过 RegisterExt - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0098_html.md ## CANN商业版-ExecuteGraphWithStreamAsync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0099.html - Description: 异步运行指定ID对应的Graph图,输出执行结果。 此函数与RunGraphWithStreamAsync均用于运行指定ID对应的图并输出结果。与RunGraphWithStreamAsync不同的是: - 该接口运行前需要完成 CompileGraph 及 LoadGraph (异步运行Graph场景)流程。 - 该接口inputs和outputs数据类型为gert::Tensor\(http - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0099_html.md ## CANN商业版-GeSessionExecuteGraphWithStreamAsync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0100.html - Description: 使用指定的Session实例,异步运行指定ID对应的Graph图,输出执行结果。 此接口与ExecuteGraphWithStreamAsync均为运行指定ID对应的图,并输出结果,该接口更多是为了前向兼容上层开源框架的图模式场景;如果用户使用的是8.0.RC3版本及之后的CANN包,则更推荐使用ExecuteGraphWithStreamAsync。 - 该接口执行前需要完成 CompileG - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0100_html.md ## CANN商业版-RunGraphDistribute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0101.html - Description: 对输入refdata节点切分后,同步运行指定ID对应的Graph图,输出运行结果。 与RunGraph接口的区别是:该接口输入的refdata节点是经过切分后的,输出是每个Device的输出结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0101_html.md ## CANN商业版-BuildGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0102.html - Description: 同步编译指定ID对应的Graph图,生成可用于执行的模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0102_html.md ## CANN商业版-CompileGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0103.html - Description: 同步编译指定ID对应的Graph图。与BuildGraph相比,该接口仅包含图编译功能,不生成可用于执行的模型,BuildGraph包含了图编译过程,并在编译完成后进行模型所需内存资源的初始化,生成可用于执行的模型。 - 该接口不包含模型所需内存资源管理功能,而是将这部分管理内存的工作开放给用户。您可以配合编译后Graph资源占用查询接口、内存的基地址刷新接口来使用,达到自行管理模型内存、获得更多 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0103_html.md ## CANN商业版-RegisterCallBackFunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0104.html - Description: 注册回调函数。 注册用户指定的Summary、Checkpoint回调接口。当用户下发给GE的图中带有Summary、Checkpoint算子时,GE会调用该回调函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0104_html.md ## CANN商业版-IsGraphNeedRebuild - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0105.html - Description: Graph是否需要重新编译。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0105_html.md ## CANN商业版-GetCompiledGraphSummary - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0106.html - Description: 查询图编译结果的概要信息。包括Feature内存大小、Const内存大小、Stream、Event数目及内存是否可刷新等信息。 - 在调用本接口前,必须先调用 CompileGraph 接口进行图编译。 - 您可以自行申请内存,再通过如下接口设置或更新Feature内存、Const内存基址: - 通过 SetGraphConstMemoryBase 设置Const内存基址。内存大小从G - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0106_html.md ## CANN商业版-SetGraphConstMemoryBase - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0107.html - Description: 设置Graph的Const内存基址。 内存大小从GetCompiledGraphSummary>GetConstMemorySize接口中获取。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0107_html.md ## CANN商业版-UpdateGraphFeatureMemoryBase - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0108.html - Description: 用于更新Graph的Feature内存基址。 内存大小从GetCompiledGraphSummary>GetFeatureMemorySize接口中获取。 Feature内存指的是模型执行过程中所需要的中间内存(比如中间节点的输入输出等内存)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0108_html.md ## CANN商业版-SetGraphFixedFeatureMemoryBase - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0109.html - Description: 用于指定图的Fixed Feature内存基地址。 内存大小从GetCompiledGraphSummary>GetFixedFeatureMemorySize接口中获取。 Feature内存指的是模型执行过程中所需要的中间内存(比如中间节点的输入输出等内存) - 当图中包含Fixed内存,但是用户未指定时,默认申请Fixed内存。 - 用户可以通过将地址设置为nullptr,size设置为0的方 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0109_html.md ## CANN商业版-SetGraphFixedFeatureMemoryBaseWithType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0110.html - Description: 用于指定图的不同内存类型的Fixed Feature内存基地址。 内存大小从GetCompiledGraphSummary>GetAllFeatureMemoryTypeSize接口中获取。Feature内存指的是模型执行过程中所需要的中间内存(比如中间节点的输入输出等内存)。 - 当图中包含Fixed内存,但是用户未指定时,默认申请Fixed内存。 - 用户可以通过将地址设置为nullptr,s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0110_html.md ## CANN商业版-UpdateGraphRefreshableFeatureMemoryBase - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0111.html - Description: 用于更新除了Fixed之外可刷新的Feature内存基址。 内存大小从GetCompiledGraphSummary>GetRefreshableFeatureMemorySize接口中获取。 如果图中存在Fixed内存,且用户没有调用SetGraphFixedFeatureMemoryBase或SetGraphFixedFeatureMemoryBaseWithType接口设置默认内存类型的Fi - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0111_html.md ## CANN商业版-RegisterExternalAllocator - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0112.html - Description: 用户将自己的Allocator注册给GE,适用于使用用户的内存池场景。 此接口需要配合LoadGraph、RunGraphWithStreamAsync或ExecuteGraphWithStreamAsync接口使用,并且需要在LoadGraph接口调用前注册。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0112_html.md ## CANN商业版-UnregisterExternalAllocator - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0113.html - Description: 将用户基于Stream注册的Allocator销毁,适用于使用用户的内存池场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0113_html.md ## CANN商业版-PaRemapped - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0114.html - Description: 用于内存出现UCE(Uncorrectable Error,不可纠正错误)错误时判断此段内存是否可以快速恢复。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0114_html.md ## CANN商业版-GEGetErrorMsg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0115.html - Description: 获取并清空与本接口在同一个进程或线程中的其它接口调用失败时的错误描述信息。 建议在执行报错时,调用该接口,获取错误信息以辅助定位问题;与GEGetErrorMsgV2不能同时使用,推荐使用GEGetErrorMsgV2。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0115_html.md ## CANN商业版-GEGetWarningMsg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0116.html - Description: 获取并清空与本接口在同一个进程或线程中的其它接口调用失败时的告警信息。 程序执行结束需要查看告警信息时,调用该接口打印告警信息,与GEGetWarningMsgV2不能同时使用,推荐使用GEGetWarningMsgV2。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0116_html.md ## CANN商业版-GEGetErrorMsgV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0117.html - Description: 获取并清空与本接口在同一个进程或线程中的其它接口调用失败时的错误描述信息。 该接口属于ABI兼容接口(对应编译文件中的DGLIBCXXUSECXX11ABI),返回ge::AscendString,与GEGetErrorMsg不能同时使用,推荐使用该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0117_html.md ## CANN商业版-GEGetWarningMsgV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0118.html - Description: 获取并清空与本接口在同一个进程或线程中的其它接口调用失败时的告警信息。 程序执行结束需要查看告警信息时,调用该接口打印告警信息,属于ABI兼容接口(对应编译文件中的DGLIBCXXUSECXX11ABI),返回ge::AscendString。与GEGetWarningMsg不能同时使用,推荐使用该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0118_html.md ## CANN商业版-aclgrphCalibration - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0122.html - Description: 将非量化Graph自动修改为量化后的Graph。详细使用场景请参见量化\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/graphdevg/atlasag250040.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0122_html.md ## CANN商业版-aclgrphProfInit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0126.html - Description: 初始化Profiling,设置Profiling参数(目前供用户设置保存性能数据文件的路径)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0126_html.md ## CANN商业版-aclgrphProfFinalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0127.html - Description: 结束Profiling。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0127_html.md ## CANN商业版-aclgrphProfCreateConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0128.html - Description: 创建Profiling配置信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0128_html.md ## CANN商业版-aclgrphProfDestroyConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0129.html - Description: 销毁Profiling配置信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0129_html.md ## CANN商业版-aclgrphProfStart - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0130.html - Description: 下发Profiling请求,使能对应数据的采集。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0130_html.md ## CANN商业版-aclgrphProfStop - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0131.html - Description: 停止Profiling数据采集。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0131_html.md ## CANN商业版-aclgrphDumpGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0134.html - Description: 将输入的Graph导出到文本中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0134_html.md ## CANN商业版-aclgrphSetOpAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0135.html - Description: 用于支持设置node属性方式的改图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0135_html.md ## CANN商业版-aclgrphGetIRVersion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0136.html - Description: 获取模型构建相关接口的版本号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0136_html.md ## CANN商业版-aclgrphGenerateForOp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0137.html - Description: 根据单算子信息或单算子JSON文件构建Graph。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0137_html.md ## CANN商业版-GE\_ERRORNO - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0138.html - Description: - GE\_ERRORNO - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0138_html.md ## 内部关联接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0139.html - Description: ge\_api\_error\_codes.h中的如下接口是内部关联接口,开发者不需要直接调用: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0139_html.md ## CANN商业版-ModelBufferData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0141.html - Description: 内存缓冲区中的序列化模型数据,头文件位于CANN软件安装后文件存储路径下的include/ge/ge\_ir\_build.h。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0141_html.md ## aclgrphBuildInitialize支持的配置参数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0142.html - Description: | 参数 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0142_html.md ## aclgrphBuildModel支持的配置参数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0143.html - Description: | 参数 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0143_html.md ## Parser解析接口支持的配置参数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0144.html - Description: **表1 Parser解析接口支持的配置参数** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0144_html.md ## CANN商业版-InputTensorInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0145.html - Description: 输入Tensor信息,头文件位于CANN软件安装后文件存储路径下的include/ge/ge\_api\_types.h。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0145_html.md ## CANN商业版-OutputTensorInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0146.html - Description: 输出Tensor信息,头文件位于CANN软件安装后文件存储路径下的include/ge/ge\_api\_types.h。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0146_html.md ## CANN商业版-MemoryType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0147.html - Description: 内存类型枚举,头文件位于CANN软件安装后文件存储路径下的include/ge/ge\_api\_types.h。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0147_html.md ## CANN商业版-ProfDataTypeConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0148.html - Description: Profiling数据类型配置文件,头文件位于CANN软件安装后文件存储路径下的include/ge/ge\_prof.h。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0148_html.md ## CANN商业版-ProfilingAicoreMetrics - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0149.html - Description: Profiling AI Core metrics,头文件位于CANN软件安装后文件存储路径下的include/ge/ge\_prof.h。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0149_html.md ## options参数说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0150.html - Description: Atlas 200I/500 A2 推理产品 不支持该特性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0150_html.md ## CANN商业版-Stage - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0152.html - Description: 设置自定义Pass执行阶段。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0152_html.md ## CANN商业版-GetStage - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0153.html - Description: 获取自定义Pass执行阶段。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0153_html.md ## CANN商业版-CustomAllocateStreamPassFn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0154.html - Description: 注册自定义的逻辑流分配Pass执行函数。 关于接口的详细使用方法请参见使用自定义逻辑流分配Pass定制并发\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/programug/graphdevg/atlasag250076.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0154_html.md ## StreamPassContext构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0156.html - Description: StreamPassContext构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0156_html.md ## CANN商业版-SetStreamId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0157.html - Description: 设置某节点的Stream ID,拥有相同Stream ID的节点将会在同一条流上依次执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0157_html.md ## CANN商业版-GetStreamId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0158.html - Description: 获取节点上当前的Stream ID,其结果表示经过内置流分配算法以后该节点被分配的Stream ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0158_html.md ## CANN商业版-AllocateNextStreamId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0159.html - Description: 申请新的Stream ID,当希望申请新逻辑流的时候,需要调用该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0159_html.md ## CANN商业版-GetCurrMaxStreamId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0160.html - Description: 获取当前图上最大的Stream ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0160_html.md ## CANN商业版-GetCustomPassFn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0161.html - Description: 获取自定义Pass的执行函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0161_html.md ## CANN商业版-GetCustomAllocateStreamPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0162.html - Description: 获取自定义的逻辑流分配Pass执行函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0162_html.md ## CANN商业版-SetAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0164.html - Description: 设置Graph的属性,泛型属性接口,属性的类型为attrvalue。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0164_html.md ## CANN商业版-GetAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0165.html - Description: 获取Graph的属性,泛型属性接口,属性的类型为attrvalue。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0165_html.md ## CANN商业版-GetOutputAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0166.html - Description: 获取Graph的输出属性,泛型属性接口,属性类型为attrvalue。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0166_html.md ## CANN商业版-GetInputAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0167.html - Description: 获取Graph的输入属性,泛型属性接口,属性类型为attrvalue。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0167_html.md ## CANN商业版-SetOutputAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0168.html - Description: 设置Graph的输出属性,泛型属性接口,属性类型为attrvalue。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0168_html.md ## CANN商业版-SetInputAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0169.html - Description: 设置Graph的输入属性,泛型属性接口,属性类型为attrvalue。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0169_html.md ## CANN商业版-AddGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0170.html - Description: 向GeSession中添加Graph,GeSession内会生成唯一的Graph ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0170_html.md ## CANN商业版-AddGraphClone - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0171.html - Description: 向GeSession中添加Graph,GeSession内会生成唯一的Graph ID。 相比于AddGraph接口,此接口传入Graph对象后,会产生Graph对象的拷贝。GeSession中保存的图是Graph对象的一个备份,后续对该Graph的修改不影响GeSession内原有Graph,同时GeSession内图的任何修改也不会影响Graph对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0171_html.md ## CANN商业版-CompileGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0172.html - Description: 同步编译指定ID对应的Graph图。 该接口不包含模型所需内存资源管理功能,而是将这部分管理内存的工作开放给用户。您可以配合编译后Graph资源占用查询接口、内存的基地址刷新接口来使用,达到自行管理模型内存、获得更多灵活性的目的。 您可以在调用该接口后,调用GetCompiledGraphSummary获取图编译结果的概要信息(比如模型执行所需的内存资源大小及内存是否可刷新、复用等),根据查询到的 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0172_html.md ## CANN商业版-GEFinalizeV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0173.html - Description: GE退出,释放GE相关资源。 在该接口内,默认增加2000ms延时(实际最大延时可达2000ms),用于Device业务日志回传,保证ERROR级别和EVENT级别日志不丢失,您可以将ASCENDLOGDEVICEFLUSHTIMEOUT\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/maintenref/envvar/ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0173_html.md ## CANN商业版-GEGetErrorMsgV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0174.html - Description: 获取并清空与本接口在同一个进程或线程中的其它接口调用失败时的错误描述信息。 建议在执行报错时,调用该接口,获取错误信息以辅助定位问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0174_html.md ## CANN商业版-GEGetWarningMsgV3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0175.html - Description: 获取并清空与本接口在同一个进程或线程中的其它接口调用失败时的告警信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0175_html.md ## CANN商业版-GEInitializeV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0176.html - Description: 初始化GE,完成运行准备。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0176_html.md ## CANN商业版-GetCompiledGraphSummary - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0177.html - Description: 查询图编译结果的概要信息。包括Feature内存大小、Const内存大小、Stream、Event数目及内存是否可刷新等信息。 - 在调用本接口前,必须先调用 CompileGraph 接口进行图编译。 - 您可以自行申请内存,再通过如下接口设置或更新Feature内存、Const内存基址: - 通过 SetGraphConstMemoryBase 设置Const内存基址。内存大小从G - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0177_html.md ## CANN商业版-GetCompiledModel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0178.html - Description: 获取图编译后的序列化模型。 调用本接口前,必须先调用CompileGraph;用户通过本接口获取内存缓冲区的序列化模型数据ModelBufferData后,后续操作分为两种: - 用法一:(推荐用法)生成om离线模型 1. 在线编译:通过GetCompiledModel接口获取编译后的序列化模型。 2. 调用 aclgrphSaveModel 接口将序列化模型保存为om离线模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0178_html.md ## CANN商业版-GetSessionId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0179.html - Description: 获取Session的ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0179_html.md ## CANN商业版-IsGraphNeedRebuild - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0180.html - Description: Graph是否需要重新编译。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0180_html.md ## CANN商业版-LoadGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0181.html - Description: 加载图并为其执行做准备,包括申请与管理图运行所需的内存及计算流等资源。 说明:若在调用本接口前未执行CompileGraph完成图编译,则本接口将自动调用CompileGraph以完成编译。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0181_html.md ## CANN商业版-RegisterCallBackFunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0182.html - Description: 注册回调函数。 注册用户指定的Summary、Checkpoint回调接口。当用户下发给GE的图中带有Summary、Checkpoint算子时,GE会调用该回调函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0182_html.md ## CANN商业版-RegisterExternalAllocator - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0183.html - Description: 用户将自己的Allocator注册给GE,适用于使用用户的内存池场景。 此接口需要配合LoadGraph、RunGraphWithStreamAsync接口使用,并且需要在LoadGraph接口调用前注册。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0183_html.md ## CANN商业版-RemoveGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0184.html - Description: 在当前GeSession中删除指定ID对应的Graph。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0184_html.md ## CANN商业版-RunGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0185.html - Description: 同步运行指定ID对应的Graph图,输出运行结果。 本接口与RunGraphAsync/RunGraphWithStreamAsync互斥;若在调用本接口前未执行LoadGraph完成图加载,则本接口将自动调用LoadGraph以完成加载。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0185_html.md ## CANN商业版-RunGraphAsync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0186.html - Description: 异步运行指定ID对应的Graph图,输出运行结果。 - 本接口与 RunGraph / RunGraphWithStreamAsync 互斥,若在调用本接口前未执行 LoadGraph 完成图加载,则本接口将自动调用LoadGraph以完成加载。 - 本接口与RunGraph均为执行指定id对应的图,并输出结果,区别于RunGraph的是,该接口: - 异步运行。 - 用户通过回调函 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0186_html.md ## CANN商业版-RunGraphWithStreamAsync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0187.html - Description: 异步运行指定ID对应的Graph图,输出执行结果。 - 本接口与 RunGraph 和 RunGraphAsync 接口互斥;若在调用本接口前未执行 LoadGraph 完成图加载,则本接口将自动调用LoadGraph以完成加载。 - 本接口与RunGraph均为运行指定ID对应的图,并输出结果,区别于RunGraph的是,该接口: - 异步运行。 - inputs和outputs均 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0187_html.md ## CANN商业版-SetGraphConstMemoryBase - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0188.html - Description: 设置Graph的Const内存基址。 在调用本接口前,必须先调用CompileGraph接口进行图编译;内存大小从GetCompiledGraphSummary>GetConstMemorySize接口中获取。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0188_html.md ## CANN商业版-SetGraphFixedFeatureMemoryBaseWithType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0189.html - Description: 用于指定图的不同内存类型的Fixed Feature内存基地址。 在调用本接口前,必须先调用CompileGraph接口进行图编译;内存大小从GetCompiledGraphSummary>GetAllFeatureMemoryTypeSize接口中获取。Feature内存指的是模型执行过程中所需要的中间内存(比如中间节点的输入输出等内存)。 - 当图中包含Fixed内存,但是用户未指定时,默认申 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0189_html.md ## CANN商业版-UpdateGraphFeatureMemoryBase - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0190.html - Description: 用于更新Graph的Feature内存基址。 在调用本接口前,必须先调用CompileGraph接口进行图编译;内存大小从GetCompiledGraphSummary>GetFeatureMemorySize接口中获取。 Feature内存指的是模型执行过程中所需要的中间内存(比如中间节点的输入输出等内存)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0190_html.md ## CANN商业版-UpdateGraphRefreshableFeatureMemoryBase - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0191.html - Description: 用于更新除了Fixed之外可刷新的Feature内存基址。 在调用本接口前,必须先调用CompileGraph接口进行图编译;内存大小从GetCompiledGraphSummary>GetRefreshableFeatureMemorySize接口中获取。 如果图中存在Fixed内存,且用户没有调用SetGraphFixedFeatureMemoryBaseWithType接口设置默认内存类型的 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0191_html.md ## CANN商业版-UnregisterExternalAllocator - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0192.html - Description: 将用户基于Stream注册的Allocator销毁,适用于使用用户的内存池场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0192_html.md ## CANN商业版-本节接口(原有接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0193.html - Description: 本节接口(原有接口,也称V1版本)与GESession(V2版本)都是图编译执行的接口,用于实现图加载、图编译、图执行的功能,但两套接口不能混用,建议使用V2版本接口,V1版本接口后续会逐步废弃,Session到GeSession的迁移指导请参见Session到GeSession的迁移指导\(https://www.hiascend.comdocument/detail/zh/canncommerc - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0193_html.md ## CANN商业版-Dump - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0194.html - Description: 将graph序列化到ostream中。 不包含权重等数据,只包含图结构及相关属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0194_html.md ## CANN商业版-DumpToFile - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0195.html - Description: 将graph序列化到执行路径下的文件中。 不包含权重等数据,只包含图结构及相关属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0195_html.md ## CANN商业版-一个用于改图的工具类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0197.html - Description: 一个用于改图的工具类。接收图上的一个范围,和一个替换图replacement,使用replacement将图上给定范围中的节点替换掉。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0197_html.md ## CANN商业版-Replace - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0198.html - Description: 给定SubgraphBoundary,将边界内算子替换为replacement。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0198_html.md ## CANN商业版-通过PatternMatcher在图上匹配到的一个结果 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0200.html - Description: 通过PatternMatcher在图上匹配到的一个结果,该结果包含匹配到的node。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0200_html.md ## MatchResult构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0201.html - Description: MatchResult构造函数和析构函数。 定义匹配结果,入参为Pattern即匹配定义。在MatchResult中,Matched Node为根据Pattern Node匹配到的节点,与Pattern Node一一对应。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0201_html.md ## CANN商业版-AppendNodeMatchPair - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0202.html - Description: - 头文件:\#include - 库文件:libgecompiler.so 增加一个匹配对。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0202_html.md ## CANN商业版-GetMatchedNode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0203.html - Description: 根据Pattern Node获取到匹配到的Target Node。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0203_html.md ## CANN商业版-GetMatchedNodes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0204.html - Description: 获取所有匹配到的节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0204_html.md ## CANN商业版-GetCapturedTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0205.html - Description: 根据Pattern中捕获的索引,获取匹配中对应的Node output。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0205_html.md ## CANN商业版-ToSubgraphBoundary - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0206.html - Description: 获取匹配结果对应的子图边界。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0206_html.md ## CANN商业版-ToAscendString - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0207.html - Description: 将Match Result序列化为字符串。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0207_html.md ## CANN商业版-用于定义图结构匹配的模板 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0209.html - Description: 用于定义图结构匹配的模板。该模板接收一个Graph,用Graph来描述待匹配的图结构。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0209_html.md ## Pattern构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0210.html - Description: 使用Graph定义匹配pattern。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0210_html.md ## CANN商业版-GetGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0211.html - Description: 获取Pattern中的Pattern Graph。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0211_html.md ## CANN商业版-CaptureTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0212.html - Description: 捕获Pattern中一个Tensor,从而在MatchResult中可以按序获取。 捕获Node的output,用于后续在MatchResult中通过捕获时的索引,快速获取到Node output,用户可以从Match Result中拿到Tensor描述做校验。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0212_html.md ## CANN商业版-GetCapturedTensors - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0213.html - Description: 获取Pattern中捕获的所有Tensor,vector中顺序为捕获顺序。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0213_html.md ## CANN商业版-用于做子图匹配的工具类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0215.html - Description: 用于做子图匹配的工具类,该类接收一个Pattern定义和待匹配的Graph。将使用Pattern对Graph进行匹配,提供MatchNext接口逐一返回匹配结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0215_html.md ## PatternMatcher构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0216.html - Description: 通过Pattern和Target Graph构造一个PatternMatcher。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0216_html.md ## CANN商业版-MatchNext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0217.html - Description: 按照当前Target Graph的拓扑顺序,返回下一个符合Pattern定义的匹配结果。 提供逐一匹配接口可解决Overlap场景下的选择问题。用户可循环调用该接口。 说明: - 当前接口返回的匹配结果可能存在重叠,调用者需要自己处理 考虑如下结构,当对ABC做匹配时,C会先后出现在2个匹配结果中,选取哪个结果需要调用者自行决定。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0217_html.md ## CANN商业版-用于描述Subgraph的一个输入Tensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0219.html - Description: 用于描述Subgraph的一个输入Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0219_html.md ## SubgraphInput构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0220.html - Description: SubgraphInput构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0220_html.md ## CANN商业版-AddInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0221.html - Description: 为SubgraphInput添加一个边界输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0221_html.md ## CANN商业版-GetAllInputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0222.html - Description: 获取SubgraphInput对应的所有边界输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0222_html.md ## CANN商业版-用于描述Subgraph的一个输出Tensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0224.html - Description: 用于描述Subgraph的一个输出Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0224_html.md ## SubgraphOutput构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0225.html - Description: SubgraphOutput构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0225_html.md ## CANN商业版-SetOutput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0226.html - Description: - 头文件:\#include - 库文件:libgecompiler.so 设置节点输出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0226_html.md ## CANN商业版-GetOutput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0227.html - Description: - 头文件:\#include - 库文件:libgecompiler.so 获取节点输出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0227_html.md ## CANN商业版-用于圈定Subgraph边界: - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0229.html - Description: 用于圈定Subgraph边界: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0229_html.md ## SubgraphBoundary构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0230.html - Description: SubgraphBoundary构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0230_html.md ## CANN商业版-AddInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0231.html - Description: 为子图边界添加一个输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0231_html.md ## CANN商业版-AddOutput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0232.html - Description: 为子图边界添加一个输出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0232_html.md ## CANN商业版-GetInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0233.html - Description: 根据索引获取一个子图输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0233_html.md ## CANN商业版-GetAllInputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0234.html - Description: 获取所有子图输入Tensor的描述。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0234_html.md ## CANN商业版-GetOutput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0235.html - Description: 根据输出索引,获取子图输出Tensor的描述。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0235_html.md ## CANN商业版-GetAllOutputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0236.html - Description: 获取子图所有输出Tensor的描述。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0236_html.md ## CANN商业版-用于实现一对多场景融合Pass的基类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0238.html - Description: 用于实现一对多场景融合Pass的基类。该类提供根据节点类型在图中查找节点,根据子类提供的Replacement结构改图的功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0238_html.md ## DecomposePass构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0239.html - Description: DecomposePass构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0239_html.md ## CANN商业版-Run - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0240.html - Description: 使用注册时声明的op type,找到图中匹配的node。 对匹配到的node,依次调用子类定义的MeetRequirements函数,判断是否可被替换;获取到子类定义的replacement,对图中匹配到节点依次进行替换。 注意:Run函数只处理当前图,若需要处理子图,由Pass调用者来负责。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0240_html.md ## CANN商业版-融合Pass基类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0242.html - Description: 融合Pass基类,描述了Pass执行的入参信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0242_html.md ## CANN商业版-Run - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0243.html - Description: - 头文件:\#include - 库文件:libgecompiler.so Pass执行主函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0243_html.md ## FusionBasePass析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0244.html - Description: - 头文件:\#include - 库文件:libgecompiler.so 虚析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0244_html.md ## CANN商业版-融合Pass注册信息类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0246.html - Description: 融合Pass注册信息类。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0246_html.md ## FusionPassRegistrationData构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0247.html - Description: FusionPassRegistrationData构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0247_html.md ## CANN商业版-GetPassName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0248.html - Description: 获取融合Pass名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0248_html.md ## CANN商业版-Stage - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0249.html - Description: 融合Pass阶段定义。 注意:kAfterAssignLogicStream阶段不可注册普通融合Pass,此阶段不允许修改图结构,若误将Pass注册到此阶段,将被忽略。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0249_html.md ## CANN商业版-GetStage - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0250.html - Description: 获取融合Pass执行阶段。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0250_html.md ## CANN商业版-CreatePassFn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0251.html - Description: 创建融合Pass注册函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0251_html.md ## CANN商业版-GetCreatePassFn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0252.html - Description: 获取融合Pass创建函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0252_html.md ## CANN商业版-ToString - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0253.html - Description: 将融合Pass的注册信息序列化,如Pass name、Stage等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0253_html.md ## CANN商业版-接收一个融合pass注册信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0255.html - Description: 接收一个融合pass注册信息,注册到全局单例中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0255_html.md ## PassRegistrar构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0256.html - Description: PassRegistrar构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0256_html.md ## CANN商业版-基于Pattern匹配的融合Pass基类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0258.html - Description: 基于Pattern匹配的融合Pass基类。子类可通过实现虚方法来定义pattern和replacement。由父类进行匹配和替换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0258_html.md ## CANN商业版-Run - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0259.html - Description: 执行Pass的主函数。 该函数将获取到PatternGraphs构造的pattern graph,用来构造pattern。 在目标Graph中逐一进行匹配,调用Requires函数对匹配结果做是否可被替换的校验,若为true,则进行进一步的替换;通过调用Replacement获取到替换的目标结构,将match result对应的子图结构替换为replacement子图。 注意: Run函数只处理当 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0259_html.md ## CANN商业版-本节接口(V2版本)与Session(原有接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0281.html - Description: 本节接口(V2版本)与Session(原有接口,也称V1版本)都是图编译执行的接口,用于实现图加载、图编译、图执行的功能,但两套接口不能混用,建议使用V2版本接口,V1版本接口后续会逐步废弃: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0281_html.md ## GeSession构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0282.html - Description: GeSession构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0282_html.md ## CANN商业版-ArgDescInfo用来描述Kernel输入参数Args地址信息的类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0290.html - Description: ArgDescInfo用来描述Kernel输入参数Args地址信息的类,它对Args地址进行语义化表达,明确了每个地址的用途和相关信息。多个ArgDescInfo对象可以组成一个ArgsFormat,代码表达为std::vector。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0290_html.md ## ArgDescInfo构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0291.html - Description: ArgDescInfo构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0291_html.md ## CANN商业版-CreateCustomValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0292.html - Description: 创建一个类型为kCustomValue(自定义参数类型)的ArgDescInfo对象,表示此块Args地址用来存储自定义内容 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0292_html.md ## CANN商业版-CreateHiddenInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0293.html - Description: 创建一个类型为kHiddenInput(在IR原型定义上不存在的输入地址)的ArgDescInfo对象,表示此块Args地址为HiddenInput地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0293_html.md ## CANN商业版-GetType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0294.html - Description: 获取当前ArgDescInfo的类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0294_html.md ## CANN商业版-GetCustomValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0295.html - Description: 获取ArgDescInfo的自定义值。 只有type为kCustomValue时,才可以获取到正确的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0295_html.md ## CANN商业版-SetCustomValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0296.html - Description: 设置ArgDescInfo的自定义值,只有type为kCustomValue时,才能设置成功。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0296_html.md ## CANN商业版-GetHiddenInputSubType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0297.html - Description: 获取ArgDescInfo的隐藏输入地址的类型,只有type为kHiddenInput时,才能获取到正确的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0297_html.md ## CANN商业版-SetHiddenInputSubType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0298.html - Description: 设置ArgDescInfo的隐藏输入地址的类型,只有type为kHiddenInput时,才能设置成功。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0298_html.md ## CANN商业版-GetIrIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0299.html - Description: 获取当前ArgDescInfo的算子IR索引。只有当type为kIrInput、kIrOutput、kIrInputDesc、kIrOutputDesc时才可以获取到。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0299_html.md ## CANN商业版-SetIrIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0300.html - Description: 设置当前ArgDescInfo的IR索引。只有当type为kIrInput、kIrOutput、kIrInputDesc、kIrOutputDesc时才可以设置成功。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0300_html.md ## CANN商业版-IsFolded - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0301.html - Description: 判断当前Args地址是否需要被折叠成二级指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0301_html.md ## CANN商业版-SetFolded - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0302.html - Description: 设置当前地址是否需要被折叠成二级指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0302_html.md ## 属性名列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0303.html - Description: 本节所列属性名为通过SetAttr接口可设置的属性名称,头文件位于CANN软件安装后文件存储路径下的include/ge/ge\_api\_types.h - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0303_html.md ## CANN商业版-图编译结果的概要信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0305.html - Description: 图编译结果的概要信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0305_html.md ## CompiledGraphSummary构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0306.html - Description: CompiledGraphSummary构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0306_html.md ## CANN商业版-IsStatic - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0307.html - Description: 返回graph是否是静态编译的,只有在静态编译的情况下,才可以使用后续的获取Summary信息的接口。 GetFixedFeatureMemorySize/GetAllFeatureMemoryTypeSize接口除外。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0307_html.md ## CANN商业版-GetConstMemorySize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0308.html - Description: 获取编译后的Const内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0308_html.md ## CANN商业版-GetFeatureMemorySize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0309.html - Description: 获取编译后的全量Feature内存大小(包含Fixed固定内存)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0309_html.md ## CANN商业版-GetFixedFeatureMemorySize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0310.html - Description: 获取编译后固定Feature内存总大小(适用于静态shape图和动态shape图)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0310_html.md ## CANN商业版-GetAllFeatureMemoryTypeSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0311.html - Description: 获取编译后所有内存类型的Feature内存大小,当前仅包含Fixed的内存(适用于静态shape图和动态shape图)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0311_html.md ## CANN商业版-GetRefreshableFeatureMemorySize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0312.html - Description: 获取编译后可刷新的Feature内存大小,不包括输入、输出和固定内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0312_html.md ## CANN商业版-GetFeatureMemoryBaseRefreshable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0313.html - Description: 获取图是否支持Feature内存基址刷新。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0313_html.md ## CANN商业版-GetStreamNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0314.html - Description: 获取整个编译图所使用的Stream数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0314_html.md ## CANN商业版-GetEventNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0315.html - Description: 获取整个编译图中已使用的Event数目。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0315_html.md ## CANN商业版-GetOutputShapes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0316.html - Description: 该接口只适用于静态Shape图,获取整个编译图的输出Shape,输出Shape可用于计算outputs所占内存大小;对于动态多档位图,获取当前最大档位的输出Shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0316_html.md ## CANN商业版-GetOutputDtypes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0317.html - Description: 获取整个编译图的输出Dtypes。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0317_html.md ## CANN商业版-GetIOIndexesWithSameAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0318.html - Description: 获取编译后逻辑地址相同的Graph输入索引和输出索引对。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0318_html.md ## CANN商业版-GetExternalWeightPaths - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0319.html - Description: 获取外置权重落盘路径。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0319_html.md ## CANN商业版-GetStreamAllocationSummary - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0320.html - Description: - 头文件:\#include - 库文件:libgecompiler.so 获取流分配概要信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0320_html.md ## CANN商业版-落盘的外置权重的详细信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0322.html - Description: 落盘的外置权重的详细信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0322_html.md ## ExternalWeightDesc构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0323.html - Description: ExternalWeightDesc构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0323_html.md ## CANN商业版-GetLocation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0324.html - Description: 获取外置权重落盘路径。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0324_html.md ## CANN商业版-GetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0325.html - Description: - 头文件:\#include - 库文件:libgecompiler.so 获取外置权重大小。 无 外置权重大小,单位字节。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0325_html.md ## CANN商业版-GetOffset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0326.html - Description: 获取权重数据在文件中的偏移量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0326_html.md ## CANN商业版-GetId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0327.html - Description: - 头文件:\#include - 库文件:libgecompiler.so 获取ID属性。 无 AscendString类型的ID属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0327_html.md ## CANN商业版-用于存储Feature内存信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0329.html - Description: 用于存储Feature内存信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0329_html.md ## FeatureMemory构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0330.html - Description: FeatureMemory构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0330_html.md ## CANN商业版-GetType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0331.html - Description: - 头文件:\#include - 库文件:libgecompiler.so 获取内存的类型。 无 返回内存的类型,详见MemoryType。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0331_html.md ## CANN商业版-GetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0332.html - Description: - 头文件:\#include - 库文件:libgecompiler.so 获取内存大小。 无 获取到的内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0332_html.md ## CANN商业版-IsFixed - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0333.html - Description: 是不是Fixed内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0333_html.md ## CANN商业版-流分配的概要信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0335.html - Description: 流分配的概要信息。 \#\#\#\# 需要包含的头文件 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0335_html.md ## StreamAllocationSummary构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0336.html - Description: StreamAllocationSummary构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0336_html.md ## CANN商业版-ToStreamGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0337.html - Description: 获取根图和子图各自的流图AscendString,格式为DOT文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0337_html.md ## CANN商业版-GetAllLogicalStreamInfos - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0338.html - Description: 获取根图和子图的逻辑流信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0338_html.md ## CANN商业版-逻辑流分配信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0340.html - Description: 逻辑流分配信息。 \#\#\#\# 需要包含的头文件 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0340_html.md ## LogicalStreamAllocationInfo构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0341.html - Description: LogicalStreamAllocationInfo构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0341_html.md ## CANN商业版-ToStringInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0342.html - Description: 获取当前逻辑流的信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0342_html.md ## CANN商业版-GetLogicalStreamId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0343.html - Description: 获取当前逻辑流的流ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0343_html.md ## CANN商业版-GetUsrStreamLabel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0344.html - Description: 获取当前逻辑流对应的用户流标签。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0344_html.md ## CANN商业版-IsAssignedByStreamPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0345.html - Description: 当前逻辑流是否由用户注册的流分配Pass分配。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0345_html.md ## CANN商业版-GetAttachedStreamIds - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0346.html - Description: 获取当前逻辑流的附属逻辑从流ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0346_html.md ## CANN商业版-GetPhysicalStreamNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0347.html - Description: 获取当前逻辑流对应的实际物理流数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0347_html.md ## CANN商业版-GetHcclFollowedStreamNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0348.html - Description: 获取当前逻辑流对应的实际通信从流的物理流数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0348_html.md ## CANN商业版-GetAllNodes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0349.html - Description: 获取当前逻辑流上的所有GNode。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0349_html.md ## CANN商业版-CtInferShapeContext继承自InferShapeContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0351.html - Description: CtInferShapeContext继承自InferShapeContext,用于编译期Shape推导,提供编译期使用的接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0351_html.md ## CANN商业版-GetInferenceContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0352.html - Description: 获取InferenceContext指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0352_html.md ## CANN商业版-CtInferShapeRangeContext继承自InferShapeRan - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0354.html - Description: CtInferShapeRangeContext继承自InferShapeRangeContext,用于编译期ShapeRange推导,提供编译期使用的接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0354_html.md ## CANN商业版-GetInferenceContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0355.html - Description: 获取InferenceContext指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0355_html.md ## CANN商业版-KernelLaunchInfo类为开发者提供创建和管理下发给Device的任务 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0357.html - Description: KernelLaunchInfo类为开发者提供创建和管理下发给Device的任务接口,允许开发者设置或者获取当前待下发Device任务的相关Launch信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0357_html.md ## KernelLaunchInfo构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0358.html - Description: KernelLaunchInfo构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0358_html.md ## CANN商业版-LoadFromData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0359.html - Description: 提供将序列化后的Task任务反序列化的能力,主要用于在GenerateTask函数中,将框架构造的Task反序列化后,修改其参数使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0359_html.md ## CANN商业版-CreateAicpuKfcTask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0360.html - Description: 创建一个AI CPU的KFC Task。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0360_html.md ## CANN商业版-CreateHcomRecordTask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0361.html - Description: 创建一个Record task,此Task用于唤醒其他流上的与其有相同groupname的Wait Task。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0361_html.md ## CANN商业版-CreateHcomWaitTask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0362.html - Description: 创建一个Wait Task,此Task用于阻塞流,当与其有相同groupname的Record Task被执行时,阻塞会被解除。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0362_html.md ## CANN商业版-Serialize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0363.html - Description: 将KernelLaunchInfo序列化成数据流。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0363_html.md ## CANN商业版-GetStreamId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0364.html - Description: 获取当前Task所在流的id。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0364_html.md ## CANN商业版-SetStreamId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0365.html - Description: 设置Task的流id。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0365_html.md ## CANN商业版-GetBlockDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0366.html - Description: 获取算子BlockDim。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0366_html.md ## CANN商业版-SetBlockDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0367.html - Description: 设置算子BlockDim。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0367_html.md ## CANN商业版-GetArgsFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0368.html - Description: 获取算子的ArgsFormat。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0368_html.md ## CANN商业版-SetArgsFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0369.html - Description: 设置算子的ArgsFormat。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0369_html.md ## CANN商业版-GetSoName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0370.html - Description: 获取AI CPU任务的so名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0370_html.md ## CANN商业版-GetKernelName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0371.html - Description: 获取AI CPU任务的Kernel入口函数名字。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0371_html.md ## CANN商业版-OpLibRegister类所提供的接口为内部关联接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0373.html - Description: OpLibRegister类所提供的接口为内部关联接口,当前主要为自定义算子动态库提供注册功能,供自定义算子工程框架注册指定初始化函数,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0373_html.md ## 构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0374.html - Description: OpLibRegister的构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0374_html.md ## CANN商业版-RegOpLibInit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0375.html - Description: 注册自定义算子动态库的初始化函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0375_html.md ## CANN商业版-ConvertToAscendString - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0376.html - Description: 模板函数,接受一个模板参数T,并将其转换为AscendString类型。这个函数的主要功能是将不同类型的字符串转换为AscendString类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0376_html.md ## CANN商业版-ConvertToListAscendString - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0377.html - Description: 定义了一个模板函数ConvertToListAscendString,用于将不同类型的字符串列表转换为AscendString类型的列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0377_html.md ## CANN商业版-BROADCAST\_INFER - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0378.html - Description: 提供公共函数宏封装,供算子开发者开发InferShape函数。该函数基于2个输入的shape,设置输出的shape。该宏只是设置shape,未设置dtype。 - 如果2个输入的shape一致,会按输入的shape设置输出shape。 - 如果2个输入的shape不一致,会按照Broadcast的策略,取2个输入shape的并集。 比如输入shape分别为(1,2,3,4)和(3,1,3,4) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0378_html.md ## CANN商业版-COMMON\_INFER\_FUNC\_REG - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0379.html - Description: 注册算子的InferShape函数。 与INFERFUNCREG的区别是,此函数注册的InferShape函数入参为Operator基类而非子类,此接口支持多算子共用同一个InferShape函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0379_html.md ## CANN商业版-ELMTWISE\_INFER\_SHAPEANDTYPE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0380.html - Description: 提供公共函数宏封装,供算子开发者开发InferShape函数。该函数基于输入的shape和dtype,设置输出的shape和dtype。 例如,输入shape为(1,2,3,4),dtype为float,则该宏会设置算子的输出shape为(1,2,3,4),输出dtype为float。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0380_html.md ## CANN商业版-IMPLEMT\_COMMON\_INFERFUNC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0381.html - Description: 封装算子的CommonInferShape函数。 与IMPLEMTINFERFUNC的区别是,此函数自动生成的一个类型为Operator类的对象op,可直接调用Operator接口进行InferShape的实现。若InferShape方法具有通用性,可被多个算子的原型实现调用,可选择此接口实现。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0381_html.md ## CANN商业版-IMPLEMT\_INFERFORMAT\_FUNC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0382.html - Description: 封装算子的inferFormat函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0382_html.md ## CANN商业版-IMPLEMT\_INFERFUNC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0383.html - Description: 封装算子的InferShape函数。 该函数传入的OpType为基于Operator类派生出来的子类,会自动生成一个类型为此子类的对象op,可以使用子类的成员函数获取输入输出描述的方法,从而进行InferShape的实现。 基于OpType派生出来的子类op的成员函数如下: - op.setinputx\(Operator &v, const string &srcName\):将网络中算子v的输出s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0383_html.md ## CANN商业版-IMPLEMT\_VERIFIER - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0384.html - Description: 封装算子的Verify函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0384_html.md ## CANN商业版-INFER\_FORMAT\_FUNC\_REG - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0385.html - Description: 注册算子的InferFormat实现。 GE会在整图的Shape与Dtype推导前后分别调用一次整图的InferFormat,过程中会分别调用各个算子的InferFormat函数。如果算子没有注册InferFormat函数,GE将使用默认的推导函数,即输出的Format等于输入的Format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0385_html.md ## CANN商业版-INFER\_FUNC\_REG - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0386.html - Description: 注册算子的InferShape函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0386_html.md ## CANN商业版-REGISTER\_CUSTOM\_PASS - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0388.html - Description: 开发人员可以选择将改图函数注册到框架中,由框架在编译最开始调用自定义改图Pass,调用REGISTERCUSTOMPASS进行自定义Pass注册。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0388_html.md ## CANN商业版-VERIFY\_FUNC\_REG - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0389.html - Description: 注册算子的Verify函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0389_html.md ## 原型定义接口(REG\_OP) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0390.html - Description: 定义算子的原型,包括算子的输入、输出、属性以及对应的数据类型。 进行如上算子原型定义后,即相当于向GE注册了该算子的原型,告知GE对应类型的算子应该具备哪些输入、输出与属性;同时相当于定义了一个op::xxx的Class,开发者可以include该原型头文件,然后实例化该Class进行IR模型构建,如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0390_html.md ## 原型定义衍生接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0391.html - Description: 算子原型定义的相关接口会自动生成对应的衍生接口,可用于IR模型构建,以下接口的详细使用方法可参见《图开发\(https://www.hiascend.com/document/detail/zh/canncommercial/900/programug/graphdevg/atlasag\_25\_0081.html\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0391_html.md ## CANN商业版-aclGetCustomOpLibPath - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0393.html - Description: 获取自定义算子库的路径。 该接口为内部框架会调用的接口,称之为内部关联接口。开发者不会直接调用内部关联接口,无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0393_html.md ## CANN商业版-GEStreamAllocationSummaryGetAllNodes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0394.html - Description: 获取根图和子图的所有节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0394_html.md ## CANN商业版-GEStreamAllocationSummaryGetAttachedStreamIds - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0395.html - Description: 获取根图和子图附属逻辑从流ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0395_html.md ## CANN商业版-GEStreamAllocationSummaryGetHcclFollowedStreamNums - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0396.html - Description: 获取根图和子图的实际通信从流的物理流数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0396_html.md ## CANN商业版-GEStreamAllocationSummaryGetLogicalStreamIds - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0397.html - Description: 获取根图和子图的逻辑流ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0397_html.md ## CANN商业版-GEStreamAllocationSummaryGetPhysicalStreamNums - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0398.html - Description: 获取根图和子图的实际物理流数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0398_html.md ## CANN商业版-GEStreamAllocationSummaryGetStringInfos - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0399.html - Description: 获取根图和子图的逻辑流信息字符串。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0399_html.md ## CANN商业版-GEStreamAllocationSummaryGetStreamGraphs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0400.html - Description: 获取根图和子图的流图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0400_html.md ## CANN商业版-GEStreamAllocationSummaryGetUsrStreamLabels - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0401.html - Description: 获取根图和子图的用户流标签。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0401_html.md ## CANN商业版-GEStreamAllocationSummaryIsAssignedByStreamPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0402.html - Description: 获取根图和子图是否由用户注册的流分配Pass分配。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0402_html.md ## CANN商业版-节点构建器类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0406.html - Description: 节点构建器类,用于构建符合IR规范的图节点,该类提供了链式API来定义节点的IR输入、输出、属性等信息,确保生成的节点符合IR规范要求,属于ES generated API内部调用的类,构图者如果直接基于ES generated API来构图,无需感知这个类,如果要自定义ES API,则需使用此类提供的能力来构建节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0406_html.md ## CANN商业版-AnyTypeOperator - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0407.html - Description: 任意类型操作符类,继承自Operator, 提供了对Operator类中IR相关方法的访问,包括动态输入/输出注册、输入/输出注册、属性注册和子图注册等功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0407_html.md ## CANN商业版-ValuesEqual - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0408.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 比较两个值是否相等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0408_html.md ## CANN商业版-CreateFrom - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0409.html - Description: 从任意类型创建属性值的辅助函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0409_html.md ## CANN商业版-CreateFromIfNotEqual - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0410.html - Description: 如果值不等于默认值,则创建属性值对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0410_html.md ## CANN商业版-IrAttrType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0411.html - Description: IR属性类型枚举。头文件:\#include 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0411_html.md ## CANN商业版-IrInputType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0413.html - Description: IR输入类型枚举。头文件:\#include 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0413_html.md ## CANN商业版-IrOutputType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0414.html - Description: IR输出类型枚举。头文件:\#include 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0414_html.md ## CANN商业版-IrAttrDef - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0415.html - Description: IR属性定义结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0415_html.md ## CANN商业版-IrInputDef - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0416.html - Description: IR输入定义结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0416_html.md ## CANN商业版-IrOutputDef - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0417.html - Description: IR输出定义结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0417_html.md ## CompliantNodeBuilder构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0418.html - Description: CompliantNodeBuilder构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0418_html.md ## CANN商业版-AddEdgeAndUpdatePeerDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0419.html - Description: 添加边并更新对向Tensor的描述信息 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0419_html.md ## CANN商业版-OpType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0420.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 设置操作符类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0420_html.md ## CANN商业版-IrDefInputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0421.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 定义IR输入规范 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0421_html.md ## CANN商业版-IrDefOutputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0422.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 定义IR输出规范。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0422_html.md ## CANN商业版-IrDefAttrs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0423.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 定义IR属性规范 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0423_html.md ## CANN商业版-Name - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0424.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 设置节点名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0424_html.md ## CANN商业版-InstanceDynamicInputNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0425.html - Description: 设置动态输入实例数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0425_html.md ## CANN商业版-InstanceDynamicOutputNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0426.html - Description: 设置动态输出实例数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0426_html.md ## CANN商业版-InstanceOutputDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0427.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 设置输出数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0427_html.md ## CANN商业版-InstanceOutputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0428.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 设置输出形状。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0428_html.md ## CANN商业版-InstanceOutputOriginShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0429.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 设置输出原始形状。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0429_html.md ## CANN商业版-InstanceOutputStorageShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0430.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 设置输出存储形状。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0430_html.md ## CANN商业版-InstanceOutputFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0431.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 设置输出格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0431_html.md ## CANN商业版-InstanceOutputOriginFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0432.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 设置输出原始格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0432_html.md ## CANN商业版-InstanceOutputStorageFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0433.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 设置输出存储格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0433_html.md ## CANN商业版-Build - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0435.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 构建并返回图节点 无 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0435_html.md ## CANN商业版-C风格的图构建器结构体 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0437.html - Description: C风格的图构建器结构体,C、C++的内部实现类,C用户构图调用esb\_funcs.h接口即可,C++用户调用EsGraphBuilder类的对外接口即可。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0437_html.md ## EsCGraphBuilder构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0438.html - Description: EsCGraphBuilder构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0438_html.md ## CANN商业版-GetTensorHolderFromNode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0439.html - Description: 从图节点获取张量持有者。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0439_html.md ## CANN商业版-AppendGraphInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0440.html - Description: 在图的末尾添加图输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0440_html.md ## CANN商业版-AddGraphInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0441.html - Description: 在指定位置添加图输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0441_html.md ## CANN商业版-SetGraphOutput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0442.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 设置图输出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0442_html.md ## CANN商业版-GetGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0443.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 获取内部的图对象。 无 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0443_html.md ## CANN商业版-BuildGraphAndReset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0444.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 构建并返回图对象。 无 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0444_html.md ## CANN商业版-GenerateNodeName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0445.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 生成节点名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0445_html.md ## CANN商业版-CreateDynamicTensorHolderFromNode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0446.html - Description: 从图节点获取动态输出的张量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0446_html.md ## CANN商业版-AddResource - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0447.html - Description: 将传入的资源转移给EsCGraphBuilder进行管理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0447_html.md ## CANN商业版-表示ES API的C风格的输出类型;C用户构图调用esb\_funcs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0449.html - Description: 表示ES API的C风格的输出类型;C用户构图调用esb\_funcs.h接口即可,C++用户调用EsTensorHolder的类的对外接口即可。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0449_html.md ## EsCTensorHolder构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0450.html - Description: EsCTensorHolder构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0450_html.md ## CANN商业版-SetDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0451.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 设置数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0451_html.md ## CANN商业版-SetFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0452.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 设置数据格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0452_html.md ## CANN商业版-SetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0453.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 设置原始数据格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0453_html.md ## CANN商业版-SetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0454.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 设置存储数据格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0454_html.md ## CANN商业版-SetOriginShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0455.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 设置原始数据形状。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0455_html.md ## CANN商业版-SetStorageShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0456.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 设置存储形状。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0456_html.md ## CANN商业版-SetShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0457.html - Description: 设置形状(同时设置原始形状和存储形状)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0457_html.md ## CANN商业版-SetOriginSymbolShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0458.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 设置原始符号形状。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0458_html.md ## CANN商业版-GetProducer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0459.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 获取生产者节点。 无 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0459_html.md ## CANN商业版-GetOutIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0460.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 获取输出索引。 无 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0460_html.md ## CANN商业版-GetOwnerBuilder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0461.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 获取所属的图构建器。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0461_html.md ## CANN商业版-图构建器类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0463.html - Description: 图构建器类,用于C++用户构建计算图,该类提供了创建输入等图元素的方法, 以及设置私有属性、构建最终图、服务C++的ES generated API的内联函数内部调用C的ES generated API转换逻辑等功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0463_html.md ## CANN商业版-CreateTensorFromFile - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0465.html - Description: 从binary文件创建指定数据类型和张量形状的张量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0465_html.md ## CANN商业版-EsCreateConst - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0466.html - Description: 创建指定类型的Const算子(原始指针版本)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0466_html.md ## EsGraphBuilder构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0467.html - Description: 构造函数,创建指定名称的图构建器。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0467_html.md ## CANN商业版-CreateTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0468.html - Description: 创建指定数据类型和张量形状的张量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0468_html.md ## CANN商业版-CreateBoolTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0469.html - Description: 创建bool数据类型和张量形状的张量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0469_html.md ## CANN商业版-CreateInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0470.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 创建输入节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0470_html.md ## CANN商业版-CreateInputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0471.html - Description: 创建指定数量的输入节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0471_html.md ## CANN商业版-CreateConst - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0472.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 创建Const算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0472_html.md ## CANN商业版-CreateVector - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0473.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 创建向量常量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0473_html.md ## CANN商业版-CreateScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0474.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 创建标量常量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0474_html.md ## CANN商业版-CreateVariable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0475.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 创建变量节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0475_html.md ## CANN商业版-SetAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0476.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 设置图的类型属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0476_html.md ## CANN商业版-SetOutput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0477.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 设置图的输出节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0477_html.md ## CANN商业版-BuildAndReset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0478.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 构建计算图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0478_html.md ## CANN商业版-GetCGraphBuilder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0479.html - Description: 获取底层的C语言图构建器。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0479_html.md ## CANN商业版-TensorsToEsCTensorHolders - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0480.html - Description: 将EsTensorHolder向量转换为EsCTensorHolder指针向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0480_html.md ## CANN商业版-DataTypesToEsCDataTypes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0481.html - Description: ge::DataType集合转换为CDataType集合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0481_html.md ## CANN商业版-ListListTypeToPtrAndCounts - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0482.html - Description: 将ListListType属性入参转换为包含List of Ptrs和List inner size的pair。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0482_html.md ## CANN商业版-GeGraphsToEsCGraphs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0483.html - Description: 将动态子图转换为匿名指针类型子图容器。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0483_html.md ## CANN商业版-节点输出表达类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0485.html - Description: 节点输出表达类,用于C++构图,封装了C的张量操作接口,该类提供了对节点输出的各种操作,包括设置dataype、format、shape等信息,以及设置私有属性,算术运算操作等能力。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0485_html.md ## EsTensorHolder构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0486.html - Description: EsTensorHolder构造函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0486_html.md ## CANN商业版-SetDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0487.html - Description: 设置TensorHolder的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0487_html.md ## CANN商业版-SetFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0488.html - Description: 设置TensorHolder的数据格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0488_html.md ## CANN商业版-SetShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0489.html - Description: 设置TensorHolder的形状。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0489_html.md ## CANN商业版-SetOriginSymbolShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0490.html - Description: 设置TensorHolder的原始符号形状。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0490_html.md ## CANN商业版-SetAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0491.html - Description: 设置TensorHolder的私有属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0491_html.md ## CANN商业版-SetAttrForNode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0492.html - Description: 设置TensorHolder对应节点的私有属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0492_html.md ## CANN商业版-GetCTensorHolder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0493.html - Description: 获取底层的C语言张量持有者指针,返回值的生命周期受EsGraphBuilder管理,使用方不能释放。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0493_html.md ## CANN商业版-GetProducerOutIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0494.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 获取输出索引。 无 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0494_html.md ## CANN商业版-GetProducer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0495.html - Description: 获取产生该张量的图节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0495_html.md ## CANN商业版-AddControlEdge - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0496.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 控制边连接函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0496_html.md ## CANN商业版-泛EsTensorHolder类型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0498.html - Description: 泛EsTensorHolder类型,支持将标量和向量数值转为EsTensorHolder对象,便于C++构图接口可以直接传递数值来构图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0498_html.md ## EsTensorLike构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0499.html - Description: EsTensorLike构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0499_html.md ## CANN商业版-GetOwnerBuilder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0500.html - Description: 获取当前TensorLike对应Tensor的owner builder。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0500_html.md ## CANN商业版-ToTensorHolder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0501.html - Description: 将当前EsTensorLike转换为EsTensorHolder。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0501_html.md ## CANN商业版-ResolveBuilderImpl - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0502.html - Description: 获取owner builder。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0502_html.md ## CANN商业版-ResolveBuilder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0504.html - Description: 无参数时返回nullptr或者从Tensor对象/向量中获取owner builder。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0504_html.md ## CANN商业版-EsCreateGraphBuilder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0505.html - Description: 创建一个图构建器实例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0505_html.md ## CANN商业版-EsDestroyGraphBuilder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0506.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 释放图构建器资源。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0506_html.md ## CANN商业版-EsCreateGraphInputWithDetails - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0507.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 创建一个图上的输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0507_html.md ## CANN商业版-EsCreateGraphInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0508.html - Description: 创建一个图上的Data输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0508_html.md ## CANN商业版-EsSetDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0509.html - Description: 设置Tensor的数据类型,不设置默认为float。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0509_html.md ## CANN商业版-EsSetFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0510.html - Description: 设置Tensor的内存格式,不设置默认为ND。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0510_html.md ## CANN商业版-EsSetShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0511.html - Description: 设置Tensor的shape,不设置默认为\[\],也就是标量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0511_html.md ## CANN商业版-EsSetOriginSymbolShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0512.html - Description: 设置Tensor的shape的符号化表达,不设置默认无符号化信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0512_html.md ## CANN商业版-EsCreateConstInt64 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0513.html - Description: 创建int64类型的Const节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0513_html.md ## CANN商业版-EsCreateConstInt32 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0514.html - Description: 创建int32类型的Const节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0514_html.md ## CANN商业版-EsCreateConstUInt64 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0515.html - Description: 创建uint64类型的Const节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0515_html.md ## CANN商业版-EsCreateConstUInt32 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0516.html - Description: 创建uint32类型的Const节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0516_html.md ## CANN商业版-EsCreateConstFloat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0517.html - Description: 创建float类型的Const节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0517_html.md ## CANN商业版-EsCreateVectorInt64 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0518.html - Description: 创建int64类型的向量常量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0518_html.md ## CANN商业版-EsCreateVectorInt32 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0519.html - Description: 创建int32类型的向量常量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0519_html.md ## CANN商业版-EsCreateVectorUInt64 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0520.html - Description: 创建uint64类型的向量常量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0520_html.md ## CANN商业版-EsCreateVectorUInt32 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0521.html - Description: 创建uint32类型的向量常量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0521_html.md ## CANN商业版-EsCreateVectorFloat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0522.html - Description: 创建float类型的向量常量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0522_html.md ## CANN商业版-EsCreateScalarInt64 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0523.html - Description: 创建int64类型的标量常量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0523_html.md ## CANN商业版-EsCreateScalarInt32 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0524.html - Description: 创建int32类型的标量常量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0524_html.md ## CANN商业版-EsCreateScalarUInt64 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0525.html - Description: 创建uint64类型的标量常量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0525_html.md ## CANN商业版-EsCreateScalarUInt32 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0526.html - Description: 创建uint32类型的标量常量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0526_html.md ## CANN商业版-EsCreateScalarFloat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0527.html - Description: 创建float类型的标量常量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0527_html.md ## CANN商业版-EsCreateVariable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0528.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 创建变量节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0528_html.md ## CANN商业版-EsSetGraphOutput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0529.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 设置图的输出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0529_html.md ## CANN商业版-EsBuildGraphAndReset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0530.html - Description: 本接口返回ge::Graph实例的指针,所有权转移给调用方。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0530_html.md ## CANN商业版-EsGetOwnerBuilder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0531.html - Description: 本接口返回EsCGraphBuilder实例的快照,所有权不发生转移。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0531_html.md ## CANN商业版-EsGetProducer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0532.html - Description: 本接口返回ge::GNode实例的快照。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0532_html.md ## CANN商业版-EsAddControlEdge - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0533.html - Description: - 头文件:\#include - 库文件:libeagerstylegraphbuilderbase.so、libeagerstylegraphbuilderbasestatic.a 控制边连接函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0533_html.md ## CANN商业版-EsCreateEsCTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0534.html - Description: 本接口用于C用户创建EsCTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0534_html.md ## CANN商业版-EsCreateEsCTensorFromFile - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0535.html - Description: 用于C用户通过binary文件创建EsCTensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0535_html.md ## CANN商业版-EsSetInt64AttrForGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0536.html - Description: 设置图的int64类型属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0536_html.md ## CANN商业版-EsSetStringAttrForGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0537.html - Description: 设置图的字符串类型属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0537_html.md ## CANN商业版-EsSetBoolAttrForGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0538.html - Description: 设置图的布尔类型属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0538_html.md ## CANN商业版-EsSetInt64AttrForTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0539.html - Description: 设置Tensor的int64类型属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0539_html.md ## CANN商业版-EsSetStringAttrForTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0540.html - Description: 设置Tensor的字符串类型属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0540_html.md ## CANN商业版-EsSetBoolAttrForTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0541.html - Description: 设置Tensor的布尔类型属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0541_html.md ## CANN商业版-EsSetInt64AttrForNode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0542.html - Description: 设置节点的int64类型属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0542_html.md ## CANN商业版-EsSetStringAttrForNode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0543.html - Description: 设置节点的字符串类型属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0543_html.md ## CANN商业版-EsSetBoolAttrForNode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0544.html - Description: 设置节点的布尔类型属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0544_html.md ## CANN商业版-GE改图相关的工具类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0547.html - Description: GE改图相关的工具类。如shape推导,校验节点是否支持,部分图优化工具方法等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0547_html.md ## CANN商业版-InferShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0548.html - Description: 給定输入shape,对传入的graph做全图shape推导。 本接口只做shape推导,不对图做任何其他优化(如常量折叠、死边消除等)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0548_html.md ## CANN商业版-CheckNodeSupportOnAicore - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0549.html - Description: 对传入的Node做校验,校验其是否支持在AI Core上执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0549_html.md ## CANN商业版-构造Graph相关的类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0550.html - Description: 构造Graph相关的类。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0550_html.md ## CANN商业版-用于保存图的缓存数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0551.html - Description: 用于保存图的缓存数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0551_html.md ## CANN商业版-用户构造Graph的节点数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0552.html - Description: 用户构造Graph的节点数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0552_html.md ## CANN商业版-SetSubgraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0553.html - Description: 更新指定输出端口的tensor格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0553_html.md ## CANN商业版-SetSubgraphs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0554.html - Description: 更新指定输出端口的tensor格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0554_html.md ## CANN商业版-GetPatternGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0555.html - Description: - 头文件:\#include - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0555_html.md ## PatternFusionPass构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0556.html - Description: PatternFusionPass的构造函数。 通过此构造函数构造的Pass,其match config中的配置项均为默认值,即不开启任何配置的状态。子类可通过传入PatternMatcherConfig使能各项匹配的选项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0556_html.md ## CANN商业版-用于配置PatternMatcher行为的类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0558.html - Description: 用于配置PatternMatcher行为的类。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0558_html.md ## PatternMatcherConfig构造和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0559.html - Description: PatternMatcherConfig的构造函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0559_html.md ## CANN商业版-IsEnableConstValueMatch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0560.html - Description: 返回是否使能Const值匹配能力。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0560_html.md ## CANN商业版-IsEnableIrAttrMatch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0561.html - Description: 返回是否使能IR属性及其值匹配能力。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0561_html.md ## CANN商业版-构造PatternMatcherConfig的辅助类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0563.html - Description: 构造PatternMatcherConfig的辅助类。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0563_html.md ## PatternMatcherConfigBuilder构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0564.html - Description: PatternMatcherConfigBuilder的构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0564_html.md ## CANN商业版-EnableConstValueMatch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0565.html - Description: 配置使能Const值匹配能力。 若使能该配置,pattern matcher在匹配过程中将对pattern中定义的Const/Constant上携带的Tensor进行值的匹配,值相等才认为匹配成功。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0565_html.md ## CANN商业版-EnableIrAttrMatch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0567.html - Description: 配置是否使能IR属性及其值匹配能力。 若使能该配置, pattern matcher将在pattern匹配过程中对pattern中节点上携带的IR属性的值进行匹配。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0567_html.md ## CANN商业版-Build - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0568.html - Description: 构造PatternMatcherConfig对象的接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0568_html.md ## CANN商业版-DumpFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0570.html - Description: Dump文件的格式,头文件位于CANN软件安装后文件存储路径下的include/graph/graph.h。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0570_html.md ## CANN商业版-GetRegisteredIrDef - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0571.html - Description: 获取注册的IR(Intermediate Representation)算子原型定义信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0571_html.md ## CANN商业版-IsIrRepSupport - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0572.html - Description: 查询IR(Intermediate Representation)表达能力。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0572_html.md ## CANN商业版-逻辑流分配Pass上下文对象 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0573.html - Description: 逻辑流分配Pass上下文对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0573_html.md ## CANN商业版-获取自定义Pass上下文对象 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0574.html - Description: 获取自定义Pass上下文对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0574_html.md ## CANN商业版-GetAllSubgraphs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0575.html - Description: - 头文件:\#include - 库文件:libgraph.so 获取所有的子图。 无 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0575_html.md ## CANN商业版-GetSubGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0576.html - Description: 根据name获取子图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0576_html.md ## CANN商业版-AddSubGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0577.html - Description: 添加子图。 以子图的name为key,不允许出现重复。若添加name相同的子图,添加子图失败。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0577_html.md ## CANN商业版-RemoveSubgraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0578.html - Description: 根据name移除子图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0578_html.md ## CANN商业版-Serialize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0580.html - Description: - 头文件:\#include - 库文件:libgraph.so 将ArgsFormat信息序列化成数据流。 返回ArgsFormat的序列化结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0580_html.md ## CANN商业版-Deserialize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0581.html - Description: - 头文件:\#include - 库文件:libgraph.so ArgsFormat的反序列化接口。 返回ArgsFormat。 失败时,返回空的vector。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0581_html.md ## CANN商业版-用于存储属性值 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0584.html - Description: 用于存储属性值。 \#\#\#\# 需要包含的头文件 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0584_html.md ## AttrValue构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0585.html - Description: - 头文件:\#include - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0585_html.md ## CANN商业版-CreateFrom - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0586.html - Description: 将传入的DT类型(支持int64t、float、std::string类型)的参数转换为对应T类型(支持INT、FLOAT、STR类型)的参数。 - 支持将int64t类型转换为INT类型 - 支持将float类型转换为FLOAT类型 - 支持将std::string类型转换为STR类型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0586_html.md ## CANN商业版-GetAttrValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0587.html - Description: 获取属性的取值。泛型类,承载具体的属性类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0587_html.md ## CANN商业版-GetValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0588.html - Description: 获取属性key-value键值对中的value值,并将value值从T类型转换为DT类型。 - 支持将INT类型转换为int64t类型 - 支持将FLOAT类型转换为float类型 - 支持将STR类型转换为std::string类型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0588_html.md ## CANN商业版-SetAttrValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0589.html - Description: 设置属性的取值。泛型类,承载具体的属性类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0589_html.md ## CANN商业版-获取推理上下文对象 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0591.html - Description: 获取推理上下文对象,并设置相应对象的形状和数据类型,主要用于资源类算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0591_html.md ## InferenceContext构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0592.html - Description: InferenceContext对象的构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0592_html.md ## CANN商业版-SetInputHandleShapesAndTypes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0593.html - Description: 在推理上下文中,设置算子输入句柄的ShapeAndType。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0593_html.md ## CANN商业版-SetOutputHandleShapesAndTypes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0594.html - Description: 在推理上下文中,设置算子输出句柄的ShapeAndType。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0594_html.md ## CANN商业版-GetInputHandleShapesAndTypes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0595.html - Description: 在推理上下文中,获取算子输入句柄的ShapeAndType。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0595_html.md ## CANN商业版-GetOutputHandleShapesAndTypes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0596.html - Description: 在推理上下文中,获取算子输出句柄的ShapeAndType。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0596_html.md ## CANN商业版-SetMarks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0597.html - Description: 在资源类算子推理的上下文中,设置成对资源算子的标记。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0597_html.md ## CANN商业版-GetMarks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0598.html - Description: 在资源类算子推理的上下文中,获取成对资源算子的标记。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0598_html.md ## CANN商业版-Create - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0599.html - Description: 在资源类算子推理的上下文中,创建资源算子的上下文对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0599_html.md ## CANN商业版-GetResourceContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0600.html - Description: 通过资源标识key来获取对应的资源上下文对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0600_html.md ## CANN商业版-SetResourceContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0601.html - Description: 为标识为key的资源,设置资源上下文对象,并交由资源上下文管理器管理。 此接口一般由写类型的资源类算子调用,如stack push等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0601_html.md ## CANN商业版-RegisterReliedOnResourceKey - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0602.html - Description: 注册依赖的资源。 一般由读类型的算子调用,如stack pop。因读类型算子的shape依赖资源算子,调用该接口注册依赖的资源标识。 若资源算子shape变化可触发读类型算子的重新推导。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0602_html.md ## CANN商业版-AddChangedResourceKey - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0603.html - Description: 在写类型的资源算子(如stack push)推导过程中,若资源shape变化了,调用该接口通知框架。 框架依据变化的资源key,触发对应读算子(如stack pop)的重新推导。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0603_html.md ## CANN商业版-GetReliedOnResourceKeys - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0604.html - Description: 一般由框架调用。 在结束读类型算子的推导后,可以调用该接口获取依赖的资源标识。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0604_html.md ## CANN商业版-GetChangedResourceKeys - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0605.html - Description: 一般由框架调用。 在结束写类型算子的推导后,可以调用该接口获取变化的资源标识。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0605_html.md ## CANN商业版-ClearChangedResourceKeys - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0606.html - Description: 一般由框架调用。 当变化了的资源触发重新推导之后,需要调用该接口清除inferencecontext中保存的变化了的资源标识。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0606_html.md ## CANN商业版-算子InferFormat函数注册接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0608.html - Description: 算子InferFormat函数注册接口,此接口被其他头文件引用,一般不用由算子开发者直接调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0608_html.md ## InferFormatFuncRegister构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0609.html - Description: InferFormatFuncRegister构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0609_html.md ## CANN商业版-算子infershape函数注册接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0611.html - Description: 算子infershape函数注册接口,此接口被其他头文件引用,一般不用由算子开发者直接调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0611_html.md ## InferShapeFuncRegister构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0612.html - Description: InferShapeFuncRegister构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0612_html.md ## CANN商业版-算子InferValueRangeFuncRegister函数注册接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0614.html - Description: 算子InferValueRangeFuncRegister函数注册接口,此接口被其他头文件引用,一般不由算子开发者直接调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0614_html.md ## InferValueRangeFuncRegister构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0615.html - Description: InferValueRangeFuncRegister构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0615_html.md ## CANN商业版-可设置、获取相应对象的形状和数据类型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0617.html - Description: 可设置、获取相应对象的形状和数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0617_html.md ## ShapeAndType构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0618.html - Description: - 头文件:\#include - 库文件:libgraph.so ShapeAndType构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0618_html.md ## CANN商业版-SetShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0619.html - Description: - 头文件:\#include - 库文件:libgraph.so 设置ShapeAndType类的shape。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0619_html.md ## CANN商业版-GetShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0620.html - Description: - 头文件:\#include - 库文件:libgraph.so 获取ShapeAndType类的Shape。 无。 ShapeAndType对象中的Shape\(https://www.hiascend. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0620_html.md ## CANN商业版-SetType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0621.html - Description: - 头文件:\#include - 库文件:libgraph.so 设置ShapeAndType类的DataType。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0621_html.md ## CANN商业版-GetDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0622.html - Description: - 头文件:\#include - 库文件:libgraph.so 获取ShapeAndType类的数据类型。 无。 ShapeAndType对象中的DataType。 关于DataType数据类型的定义,请参见"DataType\(https://www.hiascend. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0622_html.md ## CANN商业版-算子类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0624.html - Description: 算子类。 \#\#\#\# 需要包含的头文件 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0624_html.md ## Operator构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0625.html - Description: Operator构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0625_html.md ## CANN商业版-AddControlInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0626.html - Description: 添加算子的控制边,控制边目前只是控制算子的执行顺序。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0626_html.md ## CANN商业版-AttrRegister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0627.html - Description: - 头文件:\#include - 库文件:libgraph.so 泛型属性注册接口。 graphStatus类型:成功,返回GRAPHSUCCESS,否则, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0627_html.md ## CANN商业版-BreakConnect - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0628.html - Description: 删除当前算子与前一个算子之间的所有连接关系,删除当前算子与下一个算子之间的所有连接关系。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0628_html.md ## CANN商业版-DynamicInputRegister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0629.html - Description: - 头文件:\#include - 库文件:libgraph.so 算子动态输入注册。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0629_html.md ## CANN商业版-DynamicInputRegisterByIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0630.html - Description: 指定位置进行算子动态输入注册。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0630_html.md ## CANN商业版-DynamicOutputRegister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0631.html - Description: - 头文件:\#include - 库文件:libgraph.so 算子动态输出注册。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0631_html.md ## CANN商业版-IsEmpty - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0632.html - Description: 判断operator对象是否为空,空表示不可用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0632_html.md ## CANN商业版-InferShapeAndType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0633.html - Description: 推导Operator输出的shape和DataType。 关于DataType数据类型的定义,请参见"DataType\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/maintenref/basicdataapi/atlasopapi0700514.html\)"。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0633_html.md ## CANN商业版-GetAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0634.html - Description: 根据属性名称获取对应的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0634_html.md ## CANN商业版-GetAllAttrNamesAndTypes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0635.html - Description: 获取该算子所有的已经设置的属性名称和属性类型,包含IR原型定义的普通属性和用户自定义属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0635_html.md ## CANN商业版-GetAllIrAttrNamesAndTypes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0636.html - Description: 获取该算子所有的IR原型定义的属性名称和属性类型,包含普通和必选属性两种。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0636_html.md ## CANN商业版-GetDynamicInputNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0637.html - Description: 获取算子的动态Input的实际个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0637_html.md ## CANN商业版-GetDynamicInputDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0638.html - Description: 根据name和index的组合获取算子动态Input的TensorDesc。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0638_html.md ## CANN商业版-GetDynamicOutputNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0639.html - Description: 获取算子的动态Output的实际个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0639_html.md ## CANN商业版-GetDynamicOutputDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0640.html - Description: 根据name和index的组合获取算子动态Output的TensorDesc。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0640_html.md ## CANN商业版-GetDynamicSubgraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0641.html - Description: 根据子图名称和子图索引获取算子对应的动态输入子图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0641_html.md ## CANN商业版-GetDynamicSubgraphBuilder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0642.html - Description: 根据子图名称和子图索引获取算子对应的动态输入子图的构建函数对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0642_html.md ## CANN商业版-GetInferenceContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0643.html - Description: 获取当前算子传递infershape推导所需要的关联信息,比如前面算子的shape和DataType信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0643_html.md ## CANN商业版-GetInputAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0644.html - Description: 根据属性名称获取算子输入Tensor对应的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0644_html.md ## CANN商业版-GetInputConstData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0645.html - Description: 如果指定算子Input对应的节点为Const节点,可调用该接口获取Const节点的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0645_html.md ## CANN商业版-GetInputsSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0646.html - Description: 获取当前算子Input个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0646_html.md ## CANN商业版-GetInputDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0647.html - Description: 根据算子Input名称或Input索引获取算子Input的TensorDesc。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0647_html.md ## CANN商业版-GetName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0648.html - Description: - 头文件:\#include - 库文件:libgraph.so 获取算子名称。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 graphStatus类型:GRAPHSUCCESS, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0648_html.md ## CANN商业版-GetSubgraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0649.html - Description: 根据子图名称获取算子对应的子图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0649_html.md ## CANN商业版-GetSubgraphBuilder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0650.html - Description: 根据子图名称获取算子对应的子图构建的函数对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0650_html.md ## CANN商业版-GetSubgraphNamesCount - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0651.html - Description: 获取一个算子的子图个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0651_html.md ## CANN商业版-GetSubgraphNames - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0652.html - Description: 获取算子IR信息中子图名称列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0652_html.md ## CANN商业版-GetOpType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0653.html - Description: - 头文件:\#include - 库文件:libgraph.so 获取算子类型。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 graphStatus类型:GRAPHSUCCESS, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0653_html.md ## CANN商业版-GetOutputAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0654.html - Description: 根据属性名称获取算子输出Tensor对应的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0654_html.md ## CANN商业版-GetOutputDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0655.html - Description: 根据算子Output名称或Output索引获取算子Output的TensorDesc。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0655_html.md ## CANN商业版-GetOutputsSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0656.html - Description: 获取算子所有Output的个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0656_html.md ## CANN商业版-SetAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0657.html - Description: 设置算子属性的属性值。 算子可以包括多个属性,初次设置值后,算子属性值的类型固定,算子属性值的类型包括: - 整型:接受int64t、uint32t、int32t类型的整型值 使用SetAttr\(const string& name, int64t attrValue\)设置属性值,以GetAttr\(const string& name, int32t& attrValue\) 、GetAttr\( - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0657_html.md ## CANN商业版-SetInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0658.html - Description: 设置算子Input,即由哪个算子的输出连到本算子。 有如下几种SetInput方法: 如果指定srcOprt第0个Output为当前算子Input,使用第一个函数原型设置当前算子Input,不需要指定srcOprt的Output名称。 如果指定srcOprt的其它Output为当前算子Input,使用第二个函数原型设置当前算子Input,需要指定srcOprt的Output名称。 如果指定srcO - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0658_html.md ## CANN商业版-SetInferenceContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0659.html - Description: 向当前算子传递infershape推导所需要的关联信息,比如前面算子的shape和DataType信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0659_html.md ## CANN商业版-SetInputAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0660.html - Description: 设置算子输入Tensor属性的属性值。 算子可以包括多个属性,初次设置值后,算子属性值的类型固定,算子属性值的类型包括: - 整型:接受int64t、uint32t、int32t类型的整型值 以int64t为例,使用: SetInputAttr\(const chart dstname, const chart name, int64t attrvalue\); SetInputAttr\( - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0660_html.md ## CANN商业版-SetOutputAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0661.html - Description: 设置算子输出Tensor属性的属性值。 算子可以包括多个属性,初次设置值后,算子属性值的类型固定,算子属性值的类型包括: - 整型:接受int64t、uint32t、int32t类型的整型值 以int64t为例,使用: SetOutputAttr\(const chart dstname, const chart name, int64t attrvalue\); SetOutputAtt - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0661_html.md ## CANN商业版-SetSubgraphBuilder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0662.html - Description: 设置指定子图构建的函数对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0662_html.md ## CANN商业版-SetSubgraphInstanceName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0663.html - Description: - 头文件:\#include - 库文件:libgraph.so 设置子图实例的名称。 graphStatus类型:成功,返回GRAPHSUCCESS,否则, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0663_html.md ## CANN商业版-SubgraphCountRegister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0664.html - Description: - 头文件:\#include - 库文件:libgraph.so 子图注册。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0664_html.md ## CANN商业版-TryGetInputDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0665.html - Description: 根据算子Input名称获取算子Input的TensorDesc。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0665_html.md ## CANN商业版-UpdateInputDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0666.html - Description: 根据算子Input名称更新Input的TensorDesc。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0666_html.md ## CANN商业版-UpdateOutputDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0667.html - Description: 根据算子Output名称更新Output的TensorDesc。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0667_html.md ## CANN商业版-UpdateDynamicInputDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0668.html - Description: 根据name和index的组合更新算子动态Input的TensorDesc。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0668_html.md ## CANN商业版-UpdateDynamicOutputDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0669.html - Description: 根据name和index的组合更新算子动态Output的TensorDesc。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0669_html.md ## CANN商业版-VerifyAllAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0670.html - Description: 根据disableCommonVerifier值,校验Operator中的属性是否有效,校验Operator的输入输出是否有效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0670_html.md ## CANN商业版-算子注册接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0672.html - Description: 算子注册接口,注册一个算子原型,此接口被其他头文件引用,一般不由算子开发者直接调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0672_html.md ## OperatorCreatorRegister构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0673.html - Description: OperatorCreatorRegister构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0673_html.md ## CANN商业版-内部关联接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0675.html - Description: 内部关联接口,此接口被其他头文件引用,一般不用由算子开发者直接调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0675_html.md ## CANN商业版-CreateOperator - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0676.html - Description: 基于算子名称和算子类型获取算子对象实例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0676_html.md ## CANN商业版-IsExistOp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0678.html - Description: 查询指定的算子类型是否支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0678_html.md ## CANN商业版-算子verifyFunc函数注册接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0679.html - Description: 算子verifyFunc函数注册接口,此接口被其他头文件引用,一般不用由算子开发者直接调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0679_html.md ## CANN商业版-用于对ArgsFormat进行序列化和反序列化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0680.html - Description: 用于对ArgsFormat进行序列化和反序列化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0680_html.md ## CANN商业版-GetOptionValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0681.html - Description: 通过option的key,从上下文中获取option的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0681_html.md ## CANN商业版-REG\_FUSION\_PASS - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0683.html - Description: 开发人员可以选择将改图函数注册到框架中,由框架在编译最开始调用自定义改图Pass,调用REGFUSIONPASS进行自定义Pass注册。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0683_html.md ## CANN商业版-REG\_DECOMPOSE\_PASS - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0684.html - Description: 开发人员可以选择将1对N场景下的改图函数注册到框架中,由框架在编译最开始调用自定义改图Pass,调用REGDECOMPOSEPASS进行自定义Pass注册。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0684_html.md ## CANN商业版-自定义算子的基类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0686.html - Description: 自定义算子的基类,用于在“eager execution”(即时执行)模式下实现自定义的操作,即时执行模式通常用于深度学习框架中,允许在不构建完整的计算图的情况下直接执行操作,这可以提供更直观和灵活的调试体验。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0686_html.md ## CANN商业版-Execute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0687.html - Description: Eager类自定义算子的执行函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0687_html.md ## CANN商业版-用于执行算子的上下文环境 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0689.html - Description: 用于执行算子的上下文环境。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0689_html.md ## CANN商业版-GetStream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0690.html - Description: - 头文件:\#include - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0690_html.md ## CANN商业版-GetInputTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0691.html - Description: - 头文件:\#include - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0691_html.md ## CANN商业版-GetRequiredInputTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0692.html - Description: - 头文件:\#include - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0692_html.md ## CANN商业版-GetOptionalInputTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0693.html - Description: - 头文件:\#include - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0693_html.md ## CANN商业版-GetDynamicInputTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0694.html - Description: - 头文件:\#include - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0694_html.md ## CANN商业版-MallocOutputTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0695.html - Description: - 头文件:\#include - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0695_html.md ## CANN商业版-MakeOutputRefInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0696.html - Description: - 头文件:\#include - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0696_html.md ## CANN商业版-MallocWorkSpace - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0697.html - Description: - 头文件:\#include - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0697_html.md ## CANN商业版-GetOutputTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0698.html - Description: - 头文件:\#include - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0698_html.md ## CANN商业版-REG\_AUTO\_MAPPING\_OP - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0699.html - Description: 开发人员可以选择将自定义算子注册到框架中,由框架在编译最开始调用REGAUTOMAPPINGOP进行自定义算子注册。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0699_html.md ## CANN商业版-自定义算子的基类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0701.html - Description: 自定义算子的基类。 \#\#\#\# 需要包含的头文件 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0701_html.md ## CANN商业版-自定义算子注册器 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0703.html - Description: 自定义算子注册器,用于注册自定义算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0703_html.md ## CANN商业版-用于注册和管理自定义Pass(处理阶段)的类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0704.html - Description: 用于注册和管理自定义Pass(处理阶段)的类。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0704_html.md ## CANN商业版-GetPassName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0705.html - Description: 获取自定义Pass的名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0705_html.md ## CANN商业版-接收并处理Pass注册信息的类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0706.html - Description: 接收并处理Pass注册信息的类。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0706_html.md ## CANN商业版-Graph类用于表示和操作计算图 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0710.html - Description: Graph类用于表示和操作计算图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0710_html.md ## Graph构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0711.html - Description: 创建一个新的Graph对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0711_html.md ## CANN商业版-add\_control\_edge - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0712.html - Description: \#\#\#\# 功能说明 添加控制边。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0712_html.md ## CANN商业版-add\_data\_edge - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0713.html - Description: 添加数据边。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0713_html.md ## CANN商业版-add\_subgraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0714.html - Description: 向图中添加子图。 无 - 如果subgraph不是Graph类型,抛出TypeError。 - 子图通过名称索引,父图中的子图名称必须唯一。 - 如果添加失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0714_html.md ## CANN商业版-dump\_to\_file - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0715.html - Description: 将图导出到文件。 无 - 如果format不是有效的DumpFormat, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0715_html.md ## CANN商业版-dump\_to\_stream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0716.html - Description: 将图导出到字符串流。 图的字符串表示,string类型。 - 如果format不是有效的DumpFormat,抛出TypeError。 - 如果导出失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0716_html.md ## CANN商业版-find\_node\_by\_name - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0717.html - Description: 根据名称查找节点。 找到的节点。 - 如果name不是字符串,抛出TypeError。 - 如果查找失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0717_html.md ## CANN商业版-get\_all\_nodes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0718.html - Description: 获取图中所有节点。 无 \(List\[Node\]\) 节点对象列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0718_html.md ## CANN商业版-get\_all\_subgraphs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0719.html - Description: 获取图中所有子图。 无 \(List\[Graph\]\) 子图对象列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0719_html.md ## CANN商业版-get\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0720.html - Description: 获取图属性。 属性值。 - 如果key不是字符串,抛出TypeError。 - 如果属性获取失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0720_html.md ## CANN商业版-get\_direct\_nodes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0721.html - Description: 获取图中的直接节点。 无 \(List\[Node\]\) 节点对象列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0721_html.md ## CANN商业版-get\_subgraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0722.html - Description: 根据名称获取子图。 \(Graph | None\)子图对象,未找到时返回None。 - 如果name不是字符串,抛出TypeError。 - 如果获取失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0722_html.md ## CANN商业版-load\_from\_air - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0723.html - Description: 从air格式加载图。 无 - 如果filepath不是字符串,抛出TypeError。 - 如果加载失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0723_html.md ## CANN商业版-name - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0724.html - Description: 获取图名称。 无 \(str\) 图名称。 如果获取失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0724_html.md ## CANN商业版-remove\_edge - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0725.html - Description: 移除边。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0725_html.md ## CANN商业版-remove\_node - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0726.html - Description: 从图中移除节点。 无 - 如果node不是Node类型,抛出TypeError。 - 如果移除操作失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0726_html.md ## CANN商业版-remove\_subgraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0727.html - Description: 根据名称移除子图。 无 - 如果name不是字符串,抛出TypeError。 - 如果移除失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0727_html.md ## CANN商业版-save\_to\_air - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0728.html - Description: 将图保存为air格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0728_html.md ## CANN商业版-set\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0729.html - Description: 设置图属性。 无 - 如果参数类型不正确,抛出TypeError。 - 如果属性设置失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0729_html.md ## CANN商业版-Node类用于表示和操作计算图中的节点 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0731.html - Description: Node类用于表示和操作计算图中的节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0731_html.md ## CANN商业版-get\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0732.html - Description: 获取节点属性。 属性值。 - 如果key不是字符串,抛出TypeError。 - 如果获取失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0732_html.md ## CANN商业版-get\_in\_control\_nodes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0733.html - Description: 获取输入控制节点。 无 \(List\[Node\]\) 输入控制节点列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0733_html.md ## CANN商业版-get\_in\_data\_nodes\_and\_port\_indexes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0734.html - Description: 获取指定输入索引的数据节点和端口索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0734_html.md ## CANN商业版-get\_input\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0735.html - Description: 获取输入属性。 属性值。 - 如果参数类型不正确,抛出TypeError。 - 如果获取失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0735_html.md ## CANN商业版-get\_inputs\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0736.html - Description: 获取输入大小。 无 \(int\) 输入数量。 无 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0736_html.md ## CANN商业版-get\_out\_control\_nodes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0737.html - Description: 获取输出控制节点。 无 \(List\[Node\]\) 输出控制节点列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0737_html.md ## CANN商业版-get\_out\_data\_nodes\_and\_port\_indexes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0738.html - Description: 获取指定输出索引的数据节点和端口索引列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0738_html.md ## CANN商业版-get\_output\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0739.html - Description: 获取输出属性。 属性值。 - 如果参数类型不正确,抛出TypeError。 - 如果获取失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0739_html.md ## CANN商业版-get\_outputs\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0740.html - Description: 获取输出大小。 无 \(int\) 输出数量 无 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0740_html.md ## CANN商业版-has\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0741.html - Description: 检查节点是否具有指定属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0741_html.md ## CANN商业版-name - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0742.html - Description: 获取节点名称。 无 \(str\) 节点名称。 如果获取失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0742_html.md ## CANN商业版-type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0743.html - Description: 获取节点类型。 无 \(str\) 节点类型。 如果获取失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0743_html.md ## CANN商业版-set\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0744.html - Description: 设置节点属性。 - 如果参数类型不正确,抛出TypeError。 - 如果设置失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0744_html.md ## CANN商业版-set\_input\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0745.html - Description: 设置输入属性。 无 - 如果参数类型不正确, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0745_html.md ## CANN商业版-set\_output\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0746.html - Description: 设置输出属性。 无 - 如果参数类型不正确,抛出TypeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0746_html.md ## CANN商业版-Tensor类用于表示张量数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0749.html - Description: Tensor类用于表示张量数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0749_html.md ## Tensor构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0750.html - Description: 创建Tensor对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0750_html.md ## CANN商业版-get\_data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0751.html - Description: 获取张量数据。 无 TensorLike类型张量数据。 如果获取失败,抛出RuntimeError。 TensorLike是一个类型别名, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0751_html.md ## CANN商业版-get\_data\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0752.html - Description: 获取张量数据类型。 无 \(DataType\)张量数据类型。 如果返回值不是有效的DataType,抛出ValueError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0752_html.md ## CANN商业版-get\_format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0753.html - Description: 获取张量格式。 无 \(Format\)张量格式。 如果返回值不是有效的Format,抛出ValueError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0753_html.md ## CANN商业版-get\_shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0754.html - Description: 获取张量形状。 无 \(List\[int\]\) 形状列表。 如果获取失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0754_html.md ## CANN商业版-set\_data\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0755.html - Description: 设置张量数据类型。 \(Tensor\) 返回自身以支持链式调用。 - 如果datatype不是DataType类型,抛出TypeError。 - 如果设置失败, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0755_html.md ## CANN商业版-set\_format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0756.html - Description: 设置张量格式。 \(Tensor\) 返回自身以支持链式调用。 - 如果format不是Format类型,抛出TypeError。 - 如果设置失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0756_html.md ## CANN商业版-Session类用于管理图的执行会话 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0757.html - Description: Session类用于管理图的执行会话。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0757_html.md ## Session构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0758.html - Description: 初始化一个Session。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0758_html.md ## CANN商业版-add\_graph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0759.html - Description: 向会话添加图。 无 - 如果graphid不是整数,抛出TypeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0759_html.md ## CANN商业版-run\_graph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0760.html - Description: 运行图。 \(List\[Tensor\]\)输出张量列表。 - 如果graphid不是整数,抛出TypeError。 - 如果inputs中有元素不是Tensor类型, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0760_html.md ## CANN商业版-GraphBuilder类用于以Eager Style方式构建计算图 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0762.html - Description: GraphBuilder类用于以Eager Style方式构建计算图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0762_html.md ## GraphBuilder构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0763.html - Description: 初始化一个GraphBuilder。 生命周期说明: - 所有由该构建器创建的TensorHolder对象都保持对它的引用。 - 只要其任何张量仍被引用,构建器就不会被垃圾回收。 - 调用buildandreset\(\)后,构建器进入已构建状态,不能再用于创建新张量。 - 需要创建新的GraphBuilder来构建另一个图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0763_html.md ## CANN商业版-add\_control\_dependency - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0764.html - Description: 从srctensors向dsttensor添加控制依赖。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0764_html.md ## CANN商业版-build\_and\_reset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0765.html - Description: 构建图。 \(Graph\) 构建好的图对象。 - 调用buildandreset\(\)后, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0765_html.md ## CANN商业版-create\_input - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0766.html - Description: 创建图输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0766_html.md ## CANN商业版-create\_inputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0767.html - Description: 创建多个输入。 \(List\[TensorHolder\]\)输入张量持有者列表。 - 输入节点索引应从0开始连续递增。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0767_html.md ## CANN商业版-create\_const\_int32 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0768.html - Description: 创建int32常量张量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0768_html.md ## CANN商业版-create\_const\_int64 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0769.html - Description: 创建int64常量张量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0769_html.md ## CANN商业版-create\_const\_float - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0770.html - Description: 创建float常量张量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0770_html.md ## CANN商业版-create\_const\_uint32 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0771.html - Description: 创建uint32常量张量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0771_html.md ## CANN商业版-create\_const\_uint64 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0772.html - Description: 创建uint64常量张量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0772_html.md ## CANN商业版-create\_scalar\_int32 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0773.html - Description: 创建int32标量张量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0773_html.md ## CANN商业版-create\_scalar\_int64 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0774.html - Description: 创建int64标量张量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0774_html.md ## CANN商业版-create\_scalar\_float - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0775.html - Description: 创建float标量张量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0775_html.md ## CANN商业版-create\_scalar\_uint32 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0776.html - Description: 创建uint32标量张量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0776_html.md ## CANN商业版-create\_scalar\_uint64 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0777.html - Description: 创建uint64标量张量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0777_html.md ## CANN商业版-create\_variable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0778.html - Description: 创建变量张量。 \(TensorHolder\)表示变量的张量持有者。 - 如果参数类型不正确,抛出TypeError。 - 如果变量创建失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0778_html.md ## CANN商业版-create\_vector\_int64 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0779.html - Description: 创建int64向量张量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0779_html.md ## CANN商业版-name - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0780.html - Description: 获取图构建器名称。 无 \(str\) 图构建器名称。 如果获取失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0780_html.md ## CANN商业版-set\_graph\_attr\_bool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0781.html - Description: 为图设置bool属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0781_html.md ## CANN商业版-set\_graph\_attr\_int64 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0782.html - Description: 为图设置int64属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0782_html.md ## CANN商业版-set\_graph\_attr\_string - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0783.html - Description: 为图设置string属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0783_html.md ## CANN商业版-set\_graph\_output - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0784.html - Description: 设置图输出。 无 如果参数类型不正确,抛出TypeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0784_html.md ## CANN商业版-set\_node\_attr\_bool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0785.html - Description: 为节点设置bool属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0785_html.md ## CANN商业版-set\_node\_attr\_int64 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0786.html - Description: 为节点设置int64属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0786_html.md ## CANN商业版-set\_node\_attr\_string - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0787.html - Description: 为节点设置string属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0787_html.md ## CANN商业版-set\_tensor\_attr\_bool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0788.html - Description: 为张量设置bool属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0788_html.md ## CANN商业版-set\_tensor\_attr\_int64 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0789.html - Description: 为张量设置int64属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0789_html.md ## CANN商业版-set\_tensor\_attr\_string - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0790.html - Description: 为张量设置string属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0790_html.md ## CANN商业版-TensorHolder类用于在Eager Style图构建中表示张量操作 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0792.html - Description: TensorHolder类用于在Eager Style图构建中表示张量操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0792_html.md ## CANN商业版-add - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0793.html - Description: 两个张量相加。 \(TensorHolder\)表示结果的新张量持有者。 - 如果other不是TensorHolder,抛出TypeError。 - 如果操作失败或库不可用,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0793_html.md ## CANN商业版-div - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0794.html - Description: 两个张量相除。 \(TensorHolder\)表示结果的新张量持有者。 - 如果other不是TensorHolder,抛出TypeError。 - 如果操作失败或库不可用,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0794_html.md ## CANN商业版-get\_owner\_builder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0795.html - Description: 获取拥有此张量的GraphBuilder。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0795_html.md ## CANN商业版-mul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0796.html - Description: 两个张量相乘。 \(TensorHolder\)表示结果的新张量持有者。 - 如果other不是TensorHolder,抛出TypeError。 - 如果操作失败或库不可用,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0796_html.md ## CANN商业版-name - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0797.html - Description: 获取节点名称(生成者节点名称)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0797_html.md ## CANN商业版-set\_data\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0798.html - Description: 设置张量数据类型。 \(TensorHolder\) 返回自身以支持链式调用。 - 如果datatype不是DataType枚举,抛出TypeError。 - 如果操作失败, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0798_html.md ## CANN商业版-set\_format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0799.html - Description: 设置张量数据格式。 \(TensorHolder\)返回自身以支持链式调用。 - 如果format不是Format枚举,抛出TypeError。 - 如果操作失败,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0799_html.md ## CANN商业版-set\_shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0800.html - Description: 设置张量形状。 \(TensorHolder\)返回自身以支持链式调用。 - 如果shape不是整数列表,抛出TypeError。 - 如果所有形状维度不是整数,抛出TypeError。 - 如果操作失败, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0800_html.md ## CANN商业版-sub - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0801.html - Description: 两个张量相减。 \(TensorHolder\)表示结果的新张量持有者。 - 如果other不是TensorHolder,抛出TypeError。 - 如果操作失败或库不可用,抛出RuntimeError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0801_html.md ## CANN商业版-ge\_initialize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0804.html - Description: 初始化GE,准备执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0804_html.md ## CANN商业版-ge\_finalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0805.html - Description: 终结GE,释放所有资源。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0805_html.md ## CANN商业版-get\_plugin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0806.html - Description: 获取指定名称的插件模块。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0806_html.md ## CANN商业版-attr\_scope - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0807.html - Description: 属性作用域上下文管理器。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0807_html.md ## CANN商业版-control\_dependency\_scope - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0808.html - Description: 控制依赖作用域上下文管理器。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0808_html.md ## CANN商业版-list\_plugins - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0809.html - Description: 列出所有已加载的插件名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0809_html.md ## CANN商业版-AttrValueType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0810.html - Description: 属性值类型枚举。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0810_html.md ## CANN商业版-DataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0811.html - Description: 数据类型枚举,定义了支持的所有数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0811_html.md ## CANN商业版-DumpFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0812.html - Description: 图导出格式枚举。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0812_html.md ## CANN商业版-InputType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0813.html - Description: 输入类型枚举。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0813_html.md ## CANN商业版-Format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0814.html - Description: 数据格式枚举,定义了支持的所有数据格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0814_html.md ## 异常类型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0815.html - Description: API中可能抛出的异常类型: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0815_html.md ## CANN商业版-SetPassName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0816.html - Description: 设置自定义Pass的名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0816_html.md ## CANN商业版-GetPassName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0817.html - Description: 获取自定义Pass名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0817_html.md ## CANN商业版-Execute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0825.html - Description: Eager模式下自定义算子的执行入口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0825_html.md ## CustomOpCreatorRegister构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasgeapi_07_0826.html - Description: CustomOpCreatorRegister构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasgeapi_07_0826_html.md ## VerifyFuncRegister构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasopapi_07_00498.html - Description: VerifyFuncRegister构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasopapi_07_00498_html.md ## CANN商业版-ArgDescType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasopapi_07_00684.html - Description: Args地址的类型,头文件位于CANN软件安装后文件存储路径下的include/graph/arg\_desc\_info.h。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasopapi_07_00684_html.md ## CANN商业版-HiddenInputSubType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasopapi_07_00685.html - Description: ArgDescInfo隐藏输入地址的类型,头文件位于CANN软件安装后文件存储路径下的include/graph/arg\_desc\_info.h。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasopapi_07_00685_html.md ## CANN商业版-CustomPassStage - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendgraphapi/atlasopapi_07_00707.html - Description: 自定义Pass执行阶段,头文件:\#include - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendgraphapi_atlasopapi_07_00707_html.md ## CANN商业版-随着AI的高速发展 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb - Description: 随着AI的高速发展,特别是2023年GPT大模型的生产级可用,AI行业产生了巨大的经济价值。以GPT为代表的Transformer模型百花齐放,触发了对AI设备的巨大需求。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0001_html.md ## CANN商业版-随着AI的高速发展 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0001.html - Description: 随着AI的高速发展,特别是2023年GPT大模型的生产级可用,AI行业产生了巨大的经济价值。以GPT为代表的Transformer模型百花齐放,触发了对AI设备的巨大需求。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0001_html.md ## 禁止使用root账户进行远程接入系统 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0017.html - Description: 说明:root是Linux系统中的超级特权用户,具有所有Linux系统资源的访问权限。如果允许直接使用root账号登录Linux系统对系统进行操作,会带来很多潜在的安全风险。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0017_html.md ## 确保只有root才是系统的超级用户,确保系统中各系统账号的UID必须不同 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0018.html - Description: 说明:应确保只有root账户UID\=0,UID为0的用户具有系统最高权限,应保证只有一个。同时,确保系统中的各系统账号的UID必须是不同的。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0018_html.md ## 使用Linux自带的ASLR功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0019.html - Description: 说明:ASLR全称Address Space Layout Randomization,开启后能增强漏洞攻击防护能力。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0019_html.md ## 禁止使用setuid或setgid的shell脚本 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0020.html - Description: 说明:特殊权限的脚本有可能被恶意使用,给系统带来巨大的威胁,如非必要,建议禁止使用SUID、SGID脚本。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0020_html.md ## 系统中不允许存在无属主的文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0021.html - Description: 说明:系统中不允许存在无属主的文件,如发现无属主的文件,建议删除或者改变文件的权限。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0021_html.md ## 设置系统UMASK - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0022.html - Description: 说明:建议用户将主机(包括宿主机)和容器中的umask设置为027及其以上,提高安全性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0022_html.md ## 关闭Device SSH服务 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0024.html - Description: 说明:Device的SSH服务默认处于关闭状态。Device的SSH服务处于关闭状态可提升系统安全性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0024_html.md ## 环境变量参考 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0032.html - Description: 加速库安装完成后,提供进程级环境变量设置脚本“set\_env.sh”,以自动完成环境变量设置,用户进程结束后自动失效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0032_html.md ## 安装部署 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0034.html - Description: ATB(Ascend Transformer Boost)加速库集成在CANN神经网络加速库NNAL包中,请参考《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/canncommercial/900/softwareinst/instg/instg\_0000.html\)》安装昇腾NPU驱动和CANN软件(包含Toolkit、ops和NNA - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0034_html.md ## CANN商业版-加速库中定义了三种算子 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0036.html - Description: 加速库中定义了三种算子,即单算子(Operation)、图算子(GraphOperation)和自定义插件算子(PluginOperation)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0036_html.md ## 执行流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0039.html - Description: ATB内单算子的执行流程分为以下几个步骤:kernel图构建、kernel运行的必要输入、device内存计算、tiling data计算与搬移、计算任务下发。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0039_html.md ## 背景介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0041.html - Description: 在具有上亿级别参数的大模型推理的过程中,由于模型的权重过大或者是输入数据过大导致无法加载到一张卡上或一台机器上,此时就需要将推理计算任务分布到多张卡或多个计算机上,当前常用的分布式并行策略有数据并行(Data Parallelism),张量并行(Tensor Parallelism,TP),流水线并行(Pipeline Parallelism)等。当前大模型主要以transformers及其变体作 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0041_html.md ## 加速库通信算子介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0042.html - Description: 加速库通信算子集成了高性能集合通信库HCCL(Huawei Collective Communication Library)、小包通信机制作为通信后端,提供单机多卡、多机多卡集合通信原语。HCCL相关文档可以参考《HCCL集合通信库》的“API\(https://www.hiascend.com/document/detail/zh/canncommercial/900/API/hcclug/hc - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0042_html.md ## 可维可测能力 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0045.html - Description: ATB当前提供以下可维可测能力: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0045_html.md ## 单算子 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0046.html - Description: 图1 ATB算子调用流程 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0046_html.md ## 图算子 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0047.html - Description: 图1 ATB算子调用流程 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0047_html.md ## 自定义插件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0048.html - Description: 图1 ATB算子调用流程 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0048_html.md ## CANN商业版-本用例为aclnnPluginOperation与ATBOperation混搭组 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0050.html - Description: 本用例为aclnnPluginOperation与ATBOperation混搭组图的简单示例,具体请参考用例源码。本文将从以下四部分对该示例进行讲解,旨在帮助用户进一步理解ATB的使用: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0050_html.md ## 用例整体介绍与运行 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0051.html - Description: 该用例整体分为五个部分:aclnn算子部分、ATB算子部分、model部分、基础设施部分、主函数部分。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0051_html.md ## CANN商业版-aclnn算子接入ATB Plugin介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0052.html - Description: aclnn算子接入ATB Plugin主要思路如下:1. 创建自定义类,该类继承ATB的Operation类。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0052_html.md ## 多线程部分介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0053.html - Description: ATB当前常用的多线程场景有多机多卡场景、单机多卡场景、host接口并行场景等,本部分主要介绍在单机多卡或多机多卡场景下的多线程使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0053_html.md ## 内存池部分介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0054.html - Description: 在Ascend Transformer Boost加速库(以下简称ATB)的调用流程中,往往需要频繁调用Malloc和Free向设备申请和释放内存空间,这样的操作会打断设备的流水,造成额外的性能开销。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0054_html.md ## CANN商业版-源码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0056.html - Description: 用例源码请参考源码\(https://gitcode.com/cann/ascend-transformer-boost/tree/master/example/atb\_aclnn\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0056_html.md ## CMakeLists.txt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0057.html - Description: ``` cmakeminimumrequired\(VERSION 3.16\) project\("testmodel"\) option\(USECXX11ABI "USECXX11ABI" OFF\) set\(CMAKEBUILDTYPE Debug\) if\(USECXX11ABI\) set\(CMAKECXXFLAGS "$\{CMAKECXXFLAGS\} -DGLIBCXXUSECXX11ABI - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0057_html.md ## CANN商业版-aclnn\_gelu\_operation.cpp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0058.html - Description: ``` \#include "aclnngeluoperation.h" \#include "acl/acl.h" \#include "aclnnop/aclnngelu.h" \#include "aclnnop/aclnngeluv2.h" \#include "utils/log.h" \#include "utils/utils.h" const int DIM0 \= 0; const int D - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0058_html.md ## CANN商业版-aclnn\_gelu\_operation.h - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0059.html - Description: ``` \#ifndef ACLNNGELUOPERATIONH \#define ACLNNGELUOPERATIONH \#include "aclnn/aclnnoperationbase.h" struct AclnnGeluParam \{ int64t geluApproximate \= -1; // geluv2计算的入参,指定高斯近似算法,0: "none", 1: "tanh" - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0059_html.md ## CANN商业版-aclnn\_operation\_base.cpp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0060.html - Description: ``` \#include "aclnn/aclnnoperationbase.h" \#include "utils/log.h" AclnnBaseOperation::AclnnBaseOperation\(const std::string &opName\) : opName\(opName\) \{\} AclnnBaseOperation::~AclnnBaseOperation\(\) \{ a - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0060_html.md ## CANN商业版-aclnn\_operation\_base.h - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0061.html - Description: ``` \#ifndef ACLNNOPERATIONBASEH \#define ACLNNOPERATIONBASEH \#include \#include \#include \#include \#include \#include "atb/inferopparams.h" // 对atb::tensor的一层封装 struct AclnnTensor \{ public: atb:: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0061_html.md ## atb\_graph\_op.cpp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0062.html - Description: ``` \#include "atb/atbgraphop.h" \#include "utils/utils.h" atb::Status CreateGraphOperation\(atb::Operation operation\) \{ // 构图流程 // 图算子的输入a,b,c,d // 计算公式:\(a+b\) + \(c+d\) // 输入是4个参数,输出是1个参数, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0062_html.md ## atb\_graph\_op.h - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0063.html - Description: ``` \#ifndef ATBGRAPHOPH \#define ATBGRAPHOPH \#include \#include \#include \#include \#include "atb/inferopparams.h" // 在构造图参数时,有两个点需要重点关注。一是tensor的ID,ATB图接口中把tensor分为三种类型,输入、输出和中间tensor,顾名思义,输入输出tensor - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0063_html.md ## memory\_env.h - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0064.html - Description: ``` \#ifndef MEMORYENVH \#define MEMORYENVH \#include struct MemoryBlock \{ int64t blockId; // 内存块索引 sizet blockSize; // 内存块大小 void address \= nullptr; // 物理内存地址 \}; \#endif - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0064_html.md ## memory\_utils.cpp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0065.html - Description: ``` \#include \#include "memoryutils.h" \#include "utils/log.h" \#include "utils/utils.h" // 全局MemoryManager实例 static MemoryManager gmemoryManager; MemoryManager::MemoryManager\(\) \{\} void MemoryManager::C - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0065_html.md ## memory\_utils.h - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0066.html - Description: ``` \#ifndef MEMORYUTILSH \#define MEMORYUTILSH \#include \#include \#include "memorypool.h" // 内存管理类,管理每个Device上的内存池 class MemoryManager \{ public: MemoryManager\(\); // 在每个Device上创建对应的内存池 void - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0066_html.md ## memorypool.cpp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0067.html - Description: ``` \#include \#include \#include "memorypool.h" \#include "utils/log.h" \#include "utils/utils.h" constexpr sizet POOLSIZE \= 104857600; // 预分配内存大小 100 MiB,大小可按实际需求决定 MemoryPool::MemoryPool\(sizet poolSi - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0067_html.md ## memorypool.h - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0068.html - Description: ``` \#ifndef MEMORYPOOLH \#define MEMORYPOOLH \#include \#include \#include \#include \#include "memoryenv.h" // Device内存池 class MemoryPool \{ public: explicit MemoryPool\(sizet poolSize\); ~ MemoryPool\(\); - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0068_html.md ## model.cpp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0069.html - Description: ``` \#define USEMEMPOOL \#include "model/model.h" \#include "aclnn/aclnngeluoperation.h" \#include "utils/utils.h" \#include "atb/atbgraphop.h" \#include "memory/memoryutils.h" void Model::InitResource\(uint - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0069_html.md ## model.h - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0070.html - Description: ``` \#ifndef MODELH \#define MODELH \#include \#include \#include \#include \#include \#include "atb/inferopparams.h" \#include "utils/log.h" enum class TensorType \{ INTERNALTENSOR \= 0, NOTINTERNA - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0070_html.md ## log.cpp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0071.html - Description: ``` \#include "utils/log.h" const char logLevelToString\(LogLevel level\) \{ switch \(level\) \{ case LogLevel::DEBUG: return "DEBUG"; case LogLevel::INFO: return "INFO"; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0071_html.md ## log.h - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0072.html - Description: ``` \#ifndef LOGH \#define LOGH \#include \#include \#include \#include \#include \#include \#include // 定义日志级别 enum class LogLevel \{ DEBUG, INFO, WARNING, ERROR \}; // 将日志级别转换为字符串 const - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0072_html.md ## utils.cpp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0073.html - Description: ``` \#include "utils/log.h" \#include "utils/utils.h" void CreateInTensorDescs\(atb::SVector &intensorDescs\) \{ for \(sizet i \= 0; i &inTensors, atb::SVector &intensorDescs\) \{ for \(sizet i \= 0; i - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0073_html.md ## utils.h - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0074.html - Description: ``` \#ifndef UTILSH \#define UTILSH \#include \#include \#include \#include \#include \#include "atb/inferopparams.h" \#include "utils/log.h" \#define CHECKRET\(cond, str\) \\ do \\ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0074_html.md ## build.sh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0075.html - Description: ``` function compilemodel\(\) \{ mkdir -p build; cd build; cmake ..; if \[ $? -ne 0 \]; then echo "ERROR: generate makefile failed\!" exit 1 fi cmake --build . -j; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0075_html.md ## main.cpp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0076.html - Description: ``` \#include "model/model.h" \#include "memory/memoryutils.h" \#include \#include "utils/utils.h" void ModelExecute\(uint32t deviceId, Model &model\) \{ // 初始化模型,创建需要的context,stream model.InitResou - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0076_html.md ## 算子使用指导(ATB Python API) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0077.html - Description: - 完整可执行示例请参见 组图示例 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0077_html.md ## CANN商业版-支持设置单个图的不同Node在不同的流上执行 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0080.html - Description: 支持设置单个图的不同Node在不同的流上执行,即图的a节点在A流上执行,b节点在B流上执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0080_html.md ## CANN商业版-ATB加速库图内多流并行功能需要注意两个部分: - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0081.html - Description: ATB加速库图内多流并行功能需要注意两个部分: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0081_html.md ## atb/context.h - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0083.html - Description: ``` - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0083_html.md ## atb/operation.h - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0084.html - Description: ``` - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0084_html.md ## atb/operation\_infra.h - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0085.html - Description: ``` - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0085_html.md ## 注意事项 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0086.html - Description: - 需要注意自定义Op是否继承了OperationInfra类,并且实现了相应的方法。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0086_html.md ## CANN商业版-支持多个图在不同的流上并行运行 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0088.html - Description: 支持多个图在不同的流上并行运行,并且图上的Node执行之间存在依赖关系, 即A流上的某个算子执行完成后B流上的另一个节点才可以执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0088_html.md ## CANN商业版-使用加速库中的EventOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0089.html - Description: 使用加速库中的EventOperation,该Operation有3种不同的OperatorType。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0089_html.md ## CANN商业版-EventOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0091.html - Description: ``` - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0091_html.md ## 注意事项 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0092.html - Description: - 流(Stream)是Device侧的概念,多流并行是Device侧的并行运行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0092_html.md ## 多流用例源码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0093.html - Description: 加速库多流用例源码请参见源码\(https://gitcode.com/cann/ascend-transformer-boost/blob/master/example/multiStream/CMakeLists.txt\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0093_html.md ## ATB整图下沉 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0094.html - Description: 整图下沉特性支持将整个图算子(GraphOperation)中的所有Device侧任务一次性下发并且固化到Device侧。对比单算子下发模式,整图下沉的优势在于除了第一次捕获模型实例时和单算子下发模式相同,后续的重放阶段将不再需要重新下发,而是直接执行固化在Device侧的任务。这样对于捕获完成之后的重放来说不再需要Host侧参与,大大减少Host侧耗时,进而达到优化全局耗时的目的。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0094_html.md ## abi配置常见问题 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0095.html - Description: \#\#\#\# 问题描述 - 现象1 当编译链接atb或mki时遇到报错undefined reference to "std::cxx11 " - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0095_html.md ## 自定义算子开发示例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0096.html - Description: 示例详细内容请参见从开发一个简单算子出发\(https://gitcode.com/cann/ascend-transformer-boost/blob/master/docs/从开发一个简单算子出发.md\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0096_html.md ## ATB算子开发指南 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0097.html - Description: 详细内容请参考开发指南\(https://gitcode.com/cann/ascend-transformer-boost/blob/master/docs/开发指南.md\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0097_html.md ## 调测与定位 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0098.html - Description: 详细内容请参考日志与调试\(https://gitcode.com/cann/ascend-transformer-boost/blob/master/docs/日志与调试.md\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0098_html.md ## 工作原理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_0099.html - Description: shape推导(inferShape)的作用是由输入的shape+属性推导输出shape和数据类型dtype。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_0099_html.md ## 注意事项 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0001.html - Description: 使用MindIE的推理引擎调用ATB加速库的场景: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0001_html.md ## 头文件列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0005.html - Description: | 头文件目录 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0005_html.md ## 公共定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0007.html - Description: ``` - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0007_html.md ## CANN商业版-ErrorType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0008.html - Description: 加速库日志中定义的错误类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0008_html.md ## CANN商业版-Dims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0009.html - Description: Shape维度信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0009_html.md ## CANN商业版-TensorDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0010.html - Description: 包含对Tensor的相关描述信息:每个Tensor的数据类型,数据排布格式和形状维度信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0010_html.md ## CANN商业版-Tensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0011.html - Description: 加速库的Tensor定义,包含每个Tensor的描述符、NPU内存地址、CPU内存地址和内存大小等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0011_html.md ## CANN商业版-VariantPack - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0012.html - Description: 加速库算子执行时需要构造VariantPack存放输入及最终输出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0012_html.md ## CANN商业版-Node - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0015.html - Description: 图算子中的Operation节点,每个Node表示一个Operation或者GraphOperation,所有的Node组成一个完整的图算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0015_html.md ## CANN商业版-GraphParam - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0016.html - Description: \#\#\#\# 功能说明 图算子参数。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0016_html.md ## 公共定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0018.html - Description: ``` - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0018_html.md ## CANN商业版-SVector - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0019.html - Description: SVector构造函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0019_html.md ## CANN商业版-push\_back - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0020.html - Description: 插入元素到指定SVector。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0020_html.md ## CANN商业版-begin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0021.html - Description: 获取SVector中起始元素地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0021_html.md ## CANN商业版-end - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0022.html - Description: 获取SVector尾元素地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0022_html.md ## operator\[\] - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0023.html - Description: 访问指定位置的元素。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0023_html.md ## CANN商业版-at - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0024.html - Description: 访问指定位置的元素。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0024_html.md ## CANN商业版-size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0025.html - Description: 获取SVector的大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0025_html.md ## CANN商业版-insert - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0026.html - Description: 向SVector内指定位置插入元素。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0026_html.md ## CANN商业版-empty - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0027.html - Description: 判断SVector是否为空。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0027_html.md ## CANN商业版-clear - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0028.html - Description: 清空SVector中所有元素。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0028_html.md ## CANN商业版-data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0029.html - Description: 获取SVector起始元素地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0029_html.md ## CANN商业版-resize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0030.html - Description: 改变SVector容器大小,不能改变SVector容量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0030_html.md ## operator \=\= - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0031.html - Description: 判断两个SVector中的元素是否全部相同。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0031_html.md ## operator \!\= - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0032.html - Description: 判断两个SVector的元素是否存在不同。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0032_html.md ## operator < - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0033.html - Description: 判断一个SVector中的元素是否比另一个SVector小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0033_html.md ## CANN商业版-Context - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0035.html - Description: 加速库上下文类,主要用于管理Operation运行所需要的全局资源。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0035_html.md ## CANN商业版-CreateContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0036.html - Description: 创建上下文。 在当前进程或线程中显式创建一个Context。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0036_html.md ## CANN商业版-DestroyContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0037.html - Description: 销毁上下文中所有的资源。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0037_html.md ## CANN商业版-Operation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0039.html - Description: 加速库Operation类。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0039_html.md ## CANN商业版-CreateOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0040.html - Description: 创建Operation。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0040_html.md ## CANN商业版-DestroyOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0041.html - Description: 销毁Operation。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0041_html.md ## CANN商业版-ActivationType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0044.html - Description: \#\#\#\# 功能说明 激活函数类型枚举。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0044_html.md ## CANN商业版-CommMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0045.html - Description: 通信算子支持的通信模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0045_html.md ## CANN商业版-QuantType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0048.html - Description: \#\#\#\# 功能说明 量化支持的类型。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0048_html.md ## CANN商业版-AllGatherOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0050.html - Description: 将多个通信卡上的数据按所属rank号的顺序在第一维进行聚合,然后发送到每张卡上。 该算子涉及多卡相关操作,可根据实际需求配置HCCL相关环境变量,具体请参见《CANN 环境变量参考》中的“集合通信\(https://www.hiascend.com/document/detail/zh/canncommercial/900/maintenref/envvar/envref070077.html\)”章 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0050_html.md ## CANN商业版-AsStridedOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0052.html - Description: 基于已有的张量创建一个数据重新排布过的新的视图(view),可以通过指定形状(shape)和步长(strides)来重新排列元素。 映射关系(以输入为 3x3 shape、输出为 2x2 shape 为例) - 输入 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0052_html.md ## CANN商业版-BroadcastOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0053.html - Description: 将通信主卡上的数据广播到其他每张卡上。该算子为原地操作,输出tensor与输入tensor内存地址相同。 该算子涉及多卡相关操作,可根据实际需求配置HCCL相关环境变量,具体请参见《CANN 环境变量参考》中的“集合通信\(https://www.hiascend.com/document/detail/zh/canncommercial/900/maintenref/envvar/envref07 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0053_html.md ## CANN商业版-ConcatOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0054.html - Description: 将两个输入张量在指定维度拼接成一个输出张量。 图1 Concat算子实现原理 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0054_html.md ## CANN商业版-CumsumOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0055.html - Description: 返回给定axes上的累计和。 图1 CumsumOperation 输入: - 数组:cumsum 的输入可以是多维数组。 - 指定轴:可以选择沿着哪个轴(维度)进行累积和操作。默认情况下,对于一维数组,累积和是从第一个元素开始向后计算(默认包含元素本身);对于多维数组,需要指定沿哪个轴进行累积。 输出: - 累积和的结果:输出的形状与输入相同,每个元素是该元素以及之前所有元素的和。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0055_html.md ## CANN商业版-FillOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0057.html - Description: 将指定位置设置为value值或者生成一个指定shape的tensor并填充为value。 图1 FillOperation - MaskedFill功能(withMask为true): 若x里的某元素,其所对应mask里同位置元素值为true或1,则output该位置元素被设置为value值,output其余位置元素值与x相同。支持广播功能。 图2 Fill算子实现原理 图3 Fill - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0057_html.md ## CANN商业版-GatherOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0058.html - Description: 从输入张量中根据索引收集切片,并将这些切片组合成一个新的张量。 图1 GatherOperation算子上下文 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0058_html.md ## CANN商业版-IndexAddOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0059.html - Description: 固定维度的指定下标加上某个特定值。 图1 IndexAddOperation - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0059_html.md ## CANN商业版-KVCacheOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0060.html - Description: KVCache处理。 对每一个batch: 图1 kvCache算子功能示意图 计算逻辑: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0060_html.md ## CANN商业版-LayerNormOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0061.html - Description: LayerNorm是一种归一化方法,可以将网络层输入数据归一化到\[0, 1\]之间。当前支持NORM、PRENORM、POSTNORM三种归一化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0061_html.md ## CANN商业版-LinearSparseOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0064.html - Description: 稀疏量化Linear。 该算子实现功能与量化Linear类似。不同点在于稀疏量化算子会使用压缩工具提前对weight输入进行压缩,以此提升算子性能。参数tilingK和tilingN由压缩算法决定,目前均只支持取值为8。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0064_html.md ## CANN商业版-MultinomialOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0066.html - Description: 采样功能。对最后一个轴进行采样,随机抽取numSamples个值,输出下标。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0066_html.md ## CANN商业版-NonzeroOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0067.html - Description: 输出非零值索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0067_html.md ## CANN商业版-OnehotOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0068.html - Description: onehot编码。 机器学习的预处理编码方式的一种:onehot编码。onehot编码对depth个状态进行编码,每个状态的对应位置置1,其它位置置0;输出结果为只有一位为1且长为depth的向量。 算子输出输入tensor x各个元素对应的独热编码,结果表现为在axis位置上增加维度depth。 计算过程示意(Python): - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0068_html.md ## CANN商业版-PadOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0069.html - Description: 对于输入inputids,取出每个batch最后一个有效token的embedding向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0069_html.md ## CANN商业版-ReduceOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0071.html - Description: 在指定维度上求和、取最大值或最小值,并消除这个维度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0071_html.md ## CANN商业版-RepeatOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0072.html - Description: 将输入tensor的Shape,根据参数中multiples上的信息扩展指定倍数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0072_html.md ## CANN商业版-RopeOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0075.html - Description: 旋转位置编码(Rotary Position Embedding,RoPE),以旋转矩阵的方式在q、k中注入位置信息,使得attention计算时能感受到token的位置关系,在各大模型中,RoPE被广泛应用。RoPE以绝对位置编码的方式实现了相对位置编码,能有效保持位置信息相对关系,并且可以通过编码外推的方式支持超过训练长度的位置编码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0075_html.md ## CANN商业版-SetValueOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0077.html - Description: 将输入源张量中的内容拷贝到输入目标张量指定位置中。 该拷贝为原地拷贝,最终结果修改在输入目标张量中。 例如: 输入目标张量dst: \(a,b,c\),输入源张量src: \(d,e,f\) dst\[starts\[0\]: ends\[0\], starts\[1\]: ends\[1\], starts\[2\]: ends\[2\]\] \= src 其中,starts\[0\]:ends\[0\]长度是ends\[0\] - start - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0077_html.md ## CANN商业版-SliceOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0078.html - Description: 从输入张量某个起始位置中提取指定大小的切片。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0078_html.md ## CANN商业版-SoftmaxOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0079.html - Description: Softmax是一种归一化激活函数,可以将Tensor(张量)的某个或多个维度数据归一化,对应维度上每一个元素的范围都在\(0, 1\)之间并且和为1。 图1 SoftmaxOperation - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0079_html.md ## CANN商业版-SortOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0080.html - Description: 后处理计算功能。实现输入tensor在最后一维上降序排列,并保留最大的num个元素,输出排序后的tensor及各元素对应的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0080_html.md ## CANN商业版-SplitOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0081.html - Description: 将输入张量沿指定维度切分成多个张量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0081_html.md ## CANN商业版-TransdataOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0083.html - Description: 数据格式转换处理。将ACLFORMATND格式转换为ACLFORMATFRACTALNZ格式,或将ACLFORMATFRACTALNZ格式转换为ACLFORMATND格式。 - 等效描述:ND、ACLFORMATND - 等效描述:NZ、ACLFORMATFRACTALNZ、FRACTALNZ - ACLFORMATND格式 - aclFormat中的描述 ACLFORMATND \= - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0083_html.md ## CANN商业版-TransposeOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0084.html - Description: 改变输入Tensor的排列顺序,在多个维度上进行转置。 图1 TransposeOperation - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0084_html.md ## CANN商业版-UnpadOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0085.html - Description: 对于输入inputids,把所有有效的token拼接在一起,并在最后补0。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0085_html.md ## CANN商业版-WhereOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0086.html - Description: 三目运算。 输入张量为cond, x, y,输出张量z。 - 输入: cond(条件张量):定义了每个元素的选择条件。 x:当条件为 1时,选择的第一个输入张量。 y:当条件为0时,选择的第二个输入张量。 - 输出:输出张量的每个元素根据对应位置的条件从x或y中选取,返回一个和x、y形状相同的张量。 z \= \(cond \=\= 1 ? x : y\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0086_html.md ## CANN商业版-FastSoftMaxOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0088.html - Description: 训练算子,与unpadOperation一起使用,将unpad处理后的Q矩阵和K矩阵相乘的结果做高性能的SoftMax处理。 SoftMax数学公式: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0088_html.md ## CANN商业版-FastSoftMaxGradOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0089.html - Description: 训练算子,用于计算FastSoftMax的反向计算结果,其数据的排列结构与FastSoftMax相同。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0089_html.md ## CANN商业版-GenAttentionMaskOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0090.html - Description: 将attentionMask根据每个batch的实际seqlen进行转化,得到结果为一维tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0090_html.md ## CANN商业版-PadWithHiddenStateOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0091.html - Description: PadWithHiddenState是带隐藏层的pad,这个算子的主要作用是将变长的序列填充为固定长度,便于批处理和模型训练。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0091_html.md ## CANN商业版-RmsNormBackwardOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0092.html - Description: RmsNorm的反向计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0092_html.md ## CANN商业版-RopeGradOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0093.html - Description: 旋转位置编码处理的反向。 训练算子,实现对于旋转位置编码(RoPE)的梯度反向计算,计算流程如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0093_html.md ## CANN商业版-StridedBatchMatmulOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0094.html - Description: 对矩阵进行分组,指定每组矩阵之间的步长,实现更加灵活的矩阵乘法操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0094_html.md ## CANN商业版-UnpadWithHiddenStateOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0095.html - Description: 将填充后的序列恢复成原始的变长序列。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0095_html.md ## CANN商业版-Utils - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0097.html - Description: 加速库公共工具接口类。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0097_html.md ## 变更声明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0098.html - Description: 本章节的接口变更说明包括新增、修改、删除和退出声明。接口变更只体现代码层面的修改,不包含文档本身在语言、格式、链接等方面的优化改进。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0098_html.md ## CANN商业版-Chunk - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0099.html - Description: 在Host侧对Tensor执行Split切分操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0099_html.md ## operator\= - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0101.html - Description: 重载运算符函数,将初始化列表中的元素赋值给一个SVector对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0101_html.md ## CANN商业版-reserve - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0102.html - Description: 改变SVector容量大小,将SVector内部数据清空,并将SVector容量大小定义为size大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0102_html.md ## CANN商业版-DynamicQuantType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0103.html - Description: 动态量化支持的类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0103_html.md ## operator\=\= - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0104.html - Description: \#\#\#\# 功能说明 判断参数是否相同。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0104_html.md ## CANN商业版-GatingOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0105.html - Description: 主要功能为将token和专家的映射关系反转为专家与token的映射关系。算子输入为MoE模型每个token选中专家的索引,算子输出为MoE模型每个专家对应的token的索引。 该算子支持TP和EP场景,当参数“deviceExpert”为空时,为TP场景,否则为EP场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0105_html.md ## operator\=\= - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0106.html - Description: \#\#\#\# 功能说明 判断参数是否相同。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0106_html.md ## CANN商业版-Init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0109.html - Description: 初始化图算子。 定义图算子的名称,输入输出及shape传导规则。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0109_html.md ## CANN商业版-Reshape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0110.html - Description: 改变输入tensor的shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0110_html.md ## CANN商业版-AddOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0111.html - Description: - 向图中添加算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0111_html.md ## CANN商业版-Build - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0112.html - Description: \#\#\#\# 功能说明 创建图算子。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0112_html.md ## CANN商业版-CreateGraphOpBuilder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0113.html - Description: \#\#\#\# 功能说明 创建图算子构建器。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0113_html.md ## CANN商业版-DestroyGraphOpBuilder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0114.html - Description: \#\#\#\# 功能说明 销毁图算子构建器。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0114_html.md ## 算子清单 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0116.html - Description: 算子类型 Operation 说明 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0116_html.md ## 算子调用示例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0117.html - Description: 算子调用示例请参考源码\(https://gitcode.com/cann/ascend-transformer-boost/tree/master/example/op\_demo/linear\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0117_html.md ## ~SVector\(\) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0118.html - Description: \#\#\#\# 功能说明 析构函数。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0118_html.md ## 公共定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0119.html - Description: 下发接口形式枚举,通过Context选择加速库算子下发接口的形式, 支持单段下发和使用分线程两段式下发。 - ExecuteType| 成员 | 描述 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0119_html.md ## CANN商业版-CreateContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0120.html - Description: 创建上下文。 在当前进程或线程中显式创建一个由用户管理Tiling内存的Context。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0120_html.md ## CANN商业版-CloneOperationParam - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0121.html - Description: 拷贝Operation的Param参数到第二个入参。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0121_html.md ## CANN商业版-UpdateOperationParam - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0122.html - Description: 更新Operation的Param参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0122_html.md ## CANN商业版-SetExecuteStreamId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0123.html - Description: 设置Operation使用的streamId,这里的streamId为调用Context的SetExecuteStreams接口时传入streams中的序号。(例如如果需要op1在stream2上运行(streams\=\{stream1, stream2, stream3\}),那么这里调用为SetExecuteStreamId\(op1, 1\))。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0123_html.md ## CANN商业版-GetExecuteStreamId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0124.html - Description: 获取Operation使用的streamId。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0124_html.md ## atb/operation\_infra.h - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0125.html - Description: 定义ATB的OperationInfra类。该接口类定义了加速库插件算子的基类,基类提供了一些内置公共接口供用户编写自己的插件算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0125_html.md ## CANN商业版-InputLayout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0126.html - Description: \#\#\#\# 功能说明 数据排布类型。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0126_html.md ## 产品支持情况 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0127.html - Description: 产品 是否支持 说明 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0127_html.md ## 功能说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0128.html - Description: 激活函数,可以引入非线性因素。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0128_html.md ## CANN商业版-定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0129.html - Description: ``` struct ActivationParam \{ enum GeLUMode : int\{ TANHMODE \= 0, NONEMODE, \}; ActivationType activationType\=ACTIVATIONUNDEFINED; float scale \= 1.0f; // for Swish int - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0129_html.md ## 参数列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0130.html - Description: 成员名称 类型 默认值 描述 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0130_html.md ## 输入输出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0131.html - Description: \#\#\#\# RELU激活类型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0131_html.md ## 约束说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0132.html - Description: 激活函数类型请参考ActivationType。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0132_html.md ## 功能列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0133.html - Description: 不支持 Atlas 200I/500 A2 推理产品 。 - 非近似计算 - 使用参数 - activationType \= ACTIVATIONGELU - geluMode \= NONEMODE - 函数图 - 表达式 是高斯分布的累积分布函数 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0133_html.md ## CANN商业版-AllGatherVOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0134.html - Description: 将多个通信卡上的数据按通信编号的顺序在第一维进行聚合,然后发送到每张卡上。支持每张卡发送的数据不等长。 推理场景中会出现batch size不能被DP数整除的情况,reducescatter后续的计算算子需要按照batch维度处理数据,再将处理数据进行allgather,如图图1所示。 图1 算子上文示意图 示例: 图2 计算过程示意图 计算过程示意(python): - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0134_html.md ## CANN商业版-AllToAllOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0135.html - Description: 向通信域内所有通信卡发送相同数据量(输入切分成rankSize份)的数据,并从所有通信卡接收相同数据量的数据。如下图所示,对于rankSize\=4的情况,各个通信卡将自身的数据均匀分成rankSize份,发送给其他的通信卡。 图1 AllToAll算子功能示意图 计算过程示意(Python): - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0135_html.md ## CANN商业版-AllToAllVOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0136.html - Description: 向通信域内所有通信卡发送数据(数据量可以通过参数定制),并从所有通信卡接收数据(数据量可以通过参数定制)。 - 示例 图1 算子输入输出示例 - 计算过程python示意 1 2 3 4 5 6 goldenresult \= \[\] for j in range\(rankSize\): tensorlist \= intensors\[j\].reshape\(-1\).tolist\(\) \# inten - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0136_html.md ## CANN商业版-AllToAllVV2Operation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0137.html - Description: 向通信域内所有通信卡发送数据(数据量可以通过参数定制),并从所有通信卡接收数据(数据量可以通过参数定制)。 图1 算子输入输出示例 计算过程示例(Python)``` - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0137_html.md ## CANN商业版-BlockCopyOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0138.html - Description: 通过指定源block index和目的block index,将keyCache和valueCache中的数据从一系列源block拷贝到一系列目的block(keyCache和valueCache做相同的拷贝处理)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0138_html.md ## CANN商业版-CohereLayerNormOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0139.html - Description: 一种归一化方法,可以将网络层输入根据-1维归一化到\[0, 1\]之间。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0139_html.md ## CANN商业版-DynamicNTKOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0140.html - Description: 推理的长度大于训练序列长度时,生成ROPE算子使用的旋转矩阵(即下面公式中的sin/cos矩阵)。 推理长度小于等于训练序列长度时,不进行插值;推理长度大于训练长度时,放大base动态插值。 将输入的token序列的位置信息positionIds和invFreq进行外积,再cos/sin运算得到最终的Rotary Embedding的结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0140_html.md ## 产品支持情况 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0141.html - Description: 硬件型号 是否支持 特殊说明 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0141_html.md ## 功能说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0142.html - Description: 常用的逐元素数值计算集合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0142_html.md ## 算子上下文 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0143.html - Description: 图1 ElewiseOperation算子上下文 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0143_html.md ## CANN商业版-定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0144.html - Description: ``` struct ElewiseParam \{ enum ElewiseType: int \{ ELEWISEUNDEFINED \= 0, ELEWISECAST, ELEWISEMULS, ELEWISECOS, ELEWISESIN, ELEWISENEG, ELEWIS - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0144_html.md ## 参数列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0145.html - Description: 成员名称 类型 默认值 描述 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0145_html.md ## 输入输出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0146.html - Description: \#\#\#\# ELEWISECAST(转化数据类型) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0146_html.md ## 约束说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0147.html - Description: - ELEWISE\_ADD、ELEWISE\_MUL、ELEWISE\_REALDIV、ELEWISE\_SUB、ELEWISE\_LOGICAL\_AND、ELEWISE\_LOGICAL\_OR、ELEWISE\_LESS、ELEWISE\_GREATER、ELEWISE\_EQUAL计算类型将会对输入进行广播后再进行指定操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0147_html.md ## CANN商业版-FaUpdateOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0148.html - Description: 将各SP域PA算子的输出的中间结果lse、attention out两个局部结果更新成全局结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0148_html.md ## CANN商业版-FusedAddTopkDivOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0149.html - Description: Sigmoid、Add、GroupTopk、Gather、ReduceSum、RealDiv、Muls算子的功能融合。 算子支持两种模式:常规模式(物理专家模式)、逻辑专家模式。 首先,每个专家经过sigmoid激活函数、Add偏置后,得出\[bs, expertnum\]的专家评分。其次每组经过DeepSeekV3的组级TOPK,专家级TOPK选出k个专家。 在常规模式下,这些专家作为物理专家的ID - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0149_html.md ## CANN商业版-GatherPreRmsNormOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0150.html - Description: 首先对ResIn进行Gather索引操作,然后与X相加,最后进行RmsNorm计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0150_html.md ## CANN商业版-GmmDeqSwigluQuantGmmDeqOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0151.html - Description: GmmDeqSwigluQuantGmmDeq算子为整网中gate up + gate down两层的融合算子。 图1 计算流程图 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0151_html.md ## CANN商业版-GroupedMatmulInplaceAddOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0152.html - Description: 算子Groupedmatmul和add融合,实现分组矩阵乘和InplaceAdd功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0152_html.md ## CANN商业版-GroupedMatmulWithRoutingOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0153.html - Description: 在MOE中,实现topK个专家权重与token激活值的乘法。该算子不支持确定性计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0153_html.md ## CANN商业版-GroupTopkOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0154.html - Description: GroupTopk算子超参数。将输入tensor0中维度1(输入tensor0有2个维度:维度0和维度1)数据分groupNum个组,每组取最大值,然后选出每组最大值中前k个,最后将非前k个组的数据全部置零。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0154_html.md ## CANN商业版-LayerNormWithStrideOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0155.html - Description: 为了使LayerNorm支持非连续Tensor,将x tensor通过(shape、strides、offset)表示。strides描述某个维度上相邻两个元素的间隔,offset表示这个Tensor的首元素相对addr的偏移。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0155_html.md ## 功能说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0156.html - Description: 将A、B两个矩阵进行矩阵乘运算,同时可以选择对矩阵乘的运算结果添加偏置、InplaceAdd融合或反量化操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0156_html.md ## 对标算子 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0157.html - Description: 本OP对标torch库中的matmul算子,功能略有不同。部分对标的功能参考torch.matmul文档\(https://pytorch.org/docs/stable/generated/torch.matmul.html\)中的示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0157_html.md ## 算子上下文 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0158.html - Description: 在transformer模型中,矩阵乘被大量使用,其中,将query、key、value分别和权重进行矩阵乘是最典型的使用场景,下图为linear在模型中的位置示意。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0158_html.md ## CANN商业版-定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0159.html - Description: ``` struct LinearParam \{ enum MatmulType : uint8t \{ MATMULUNDEFINED \= 0, MATMULEINSUM, \}; enum QuantMode : uint8t \{ QUANTUNDEFINED \= 0, PERCHANNEL, PERTOKEN \}; bool transposeA \= false; bool transposeB - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0159_html.md ## 常规matmul与叠加偏置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0162.html - Description: 常规矩阵乘matmul的功能,且可通过hasBias参数控制是否叠加偏置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0162_html.md ## matmul与add融合 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0163.html - Description: 矩阵乘matmul与add融合,该功能类似功能1中的叠加偏置,性能较优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0163_html.md ## matmul与inplaceAdd融合 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0164.html - Description: 矩阵乘matmul与inplaceAdd融合,将矩阵乘结果累加到累加矩阵上,相较于算子拼接的方案,性能较优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0164_html.md ## matmul反量化与叠加偏置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0165.html - Description: 矩阵乘matmul加反量化处理,通过hasBias参数控制是否叠加偏置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0165_html.md ## matmul支持pertoken量化模式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0166.html - Description: linear operation支持pertoken量化模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0166_html.md ## matmul使能爱因斯坦乘 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0167.html - Description: 矩阵乘matmul使能爱因斯坦乘。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0167_html.md ## 产品支持情况 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0168.html - Description: | 硬件型号 | 是否支持 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0168_html.md ## 功能说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0169.html - Description: 通信计算并行算子,该算子功能为linear和通信算子组合,通信和计算是并行处理,与串行处理相较性能大幅度提升。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0169_html.md ## CANN商业版-定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0170.html - Description: ``` struct LinearParallelParam \{ enum ParallelType : int \{ UNDEFINED \= -1, LINEARALLREDUCE \= 0, LINEARREDUCESCATTER \= 1, ALLGATHERLINEAR \= 2, PURELINEAR \= 3 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0170_html.md ## 参数列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0171.html - Description: 成员名称 类型 默认值 描述 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0171_html.md ## 输入输出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0173.html - Description: 当参数type为LINEAR\_ALL\_REDUCE、LINEAR\_REDUCE\_SCATTER、ALL\_GATHER\_LINEAR、PURE\_LINEAR、ALL\_GATHER\_LINEAR\_REDUCE\_SCATTER时输入输出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0173_html.md ## AlltoallvcAllGatherGroupMatmul输入输出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0174.html - Description: | 参数 | 维度 | 数据类型 | 格式 | 描述 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0174_html.md ## GroupMatmulReduceScatterAlltoallvc输入输出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0175.html - Description: | 参数 | 维度 | 数据类型 | 格式 | 描述 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0175_html.md ## 约束说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0176.html - Description: - 仅支持device间HCCS互联,如下命令可查询卡间互联信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0176_html.md ## CANN商业版-MlaPreprocessOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0177.html - Description: 融合了MLA场景下PagedAttention输入数据处理的全过程,包括从隐状态输入开始经过rmsnorm、反量化、matmul、rope、reshapeAndCache的一系列计算。 图1 计算流程图 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0177_html.md ## CANN商业版-MmDeqSwigluQuantMmDeqOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0178.html - Description: MmDeqSwigluQuantMmDeq 算子为整网中 gate up + gate down 两层的融合算子。 图1 计算流程图 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0178_html.md ## 产品支持情况 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0180.html - Description: | 硬件型号 | 是否支持 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0180_html.md ## 功能说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0181.html - Description: MLA场景下的paged attention,使用分页管理的kvcache计算attention score,额外支持分离qnope/qrope、ctkv/krope的输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0181_html.md ## CANN商业版-定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0183.html - Description: ``` struct MultiLatentAttentionParam \{ int32t headNum \= 0; float qkScale \= 1.0; int32t kvHeadNum \= 0; enum MaskType : int \{ UNDEFINED \= 0, MASKTYPESPEC, MASKTYPEMASKFREE, MASKTYPECAUSALMASK, MASKTYPES - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0183_html.md ## 参数列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0184.html - Description: 成员名称 类型 默认值 取值范围 是否必选 描述 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0184_html.md ## MLA输入输出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0186.html - Description: 参数 维度 数据类型 格式 cpu/npu 描述 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0186_html.md ## calcType为CALC\_TYPE\_PREFILL时输入输出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0187.html - Description: 参数 维度 数据类型 格式 cpu/npu 描述 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0187_html.md ## calcType为CALC\_TYPE\_PREFILL且参数maskType为MASK\_TYPE\_CAUSAL\_MASK时输入输出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0188.html - Description: 参数 维度 数据类型 格式 cpu/npu 描述 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0188_html.md ## 约束说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0189.html - Description: - blockSize只支持128。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0189_html.md ## CANN商业版-NormRopeReshapeOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0190.html - Description: 对输入tensor x进行RmsNorm操作,再对keyrope进行Rope操作,将两个操作的输出合并后进行ReshapeAndCache操作 。 图1 计算流程图 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0190_html.md ## 产品支持情况 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0191.html - Description: | 硬件型号 | 是否支持 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0191_html.md ## 功能说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0192.html - Description: 基于paged attention 对于kvcache分页管理的机制计算attention score。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0192_html.md ## 算子上下文 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0193.html - Description: 图1 paged attention的增量阶段在模型中的位置 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0193_html.md ## 计算公式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0194.html - Description: PreProcess是对Q、K、V、mask的前置处理,如开启反量化融合功能时计算前要对输入K、V进行反量化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0194_html.md ## CANN商业版-定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0195.html - Description: ``` struct PagedAttentionParam \{ int32t headNum \= 0; float qkScale \= 1.0; int32t kvHeadNum \= 0; enum MaskType : int \{ UNDEFINED \= 0, MASKTYPENORM, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0195_html.md ## 参数列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0196.html - Description: 在使用时应带有命名空间atb::infer::PagedAttentionParam的参数,成员描述如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0196_html.md ## 输入输出列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0197.html - Description: 列表中的shape仅为通用场景下的shape。特殊场景的shape见功能列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0197_html.md ## 约束说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0198.html - Description: - 因硬件限制,block\_size %16 \=\= 0,推荐 block\_size \= 128。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0198_html.md ## 各功能共存情况 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0200.html - Description: Y表示两功能不冲突,N表示两功能冲突。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0200_html.md ## mask类型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0201.html - Description: mask类型不是独立特性,因paged attention算子的mask较为复杂,为便于理解,此处单独针对mask类型进行说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0201_html.md ## 基础功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0202.html - Description: 当参数maskType、batchRunStatusEnable、quantType、calcType、compressType、scaleType均为默认值时,使用PagedAttention的基础功能,此时输入输出参数如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0202_html.md ## 控制可计算batch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0203.html - Description: 指定某几个batch参与attention计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0203_html.md ## 多头自适应压缩(alibi场景) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0204.html - Description: alibi mask场景下,对kv的 head\_num维度进行压缩,提高内存利用率,精度不变。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0204_html.md ## 多头自适应压缩(rope场景) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0205.html - Description: rope mask场景下,对kv的 head\_num维度进行压缩,提高内存利用率,精度不变。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0205_html.md ## 并行解码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0206.html - Description: 在传统的推理过程中,需要逐个token的进行串行解码,导致时间消耗与生成的token数量成正比,这个缺点在实施逐步解码的情况下尤为明显,为了增强这个过程,引入了lookahead。在decode阶段从n-gram中获取多个候选Token,进行并行解码,提升模型的推理速度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0206_html.md ## CANN商业版-MLA - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0207.html - Description: DeepSeek V2提出Multi-Head Latent Attention,通过对hiddenstates进行down-projection处理,压缩hiddensize,减少KVCache显存的占用。通过up-projection恢复KV,进行PA计算。通过算力换显存,来提升吞吐。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0207_html.md ## 反量化融合 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0208.html - Description: 支持量化好的k、v传入,降低显存占用。由于传入的q不是量化的,故又名伪量化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0208_html.md ## qkv全量化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0209.html - Description: 支持量化好的q、k、v传入,降低显存占用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0209_html.md ## logN缩放 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0210.html - Description: 针对Qwen长序列场景,使用LogN缩放注意力。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0210_html.md ## BNSD维度输入 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0211.html - Description: 针对X1场景,使PA Op支持BNSD数据排布(原有的数据排布格式为BSND)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0211_html.md ## MLA合并输入kvcache功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0212.html - Description: 过去attention算子会将k和v存储在显存中,随着模型越来越大,输入序列越来越长,kvcache也越来越大,对显存的容量造成很大压力,造成性能上的瓶颈。因此Multi-Head Latent Attention提出将kvcache压缩成一个一个较小的向量,代替原来的kvcache输入进fa算子进行计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0212_html.md ## MLA并行解码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0213.html - Description: 在MLA场景下的并行解码功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0213_html.md ## CANN商业版-PagedCacheLoadOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0214.html - Description: 根据blockTable上存储的blockId和kv请求长度在kvCache上将对应位置的token搬运拼接成一条连续的key/value序列。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0214_html.md ## CANN商业版-RazorFusionAttentionOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0215.html - Description: 支持混元大模型在多模态场景下的长序列优化,基于优化算法实现razorFusion特性。 图1 RazorFusionAttention参数示意图 blockSize\=128(即图2)中每个方格的边长为128。 - case1(图 a) \(pretokens\=5 blockSize , nexttokens \=4 blockSize \) - case2(图 b)\(pretokens\=5 blo - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0215_html.md ## CANN商业版-RecvOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0216.html - Description: 从当前通信卡接收来自指定通信卡的数据。Send和Recv需要配套使用。 图1 Send&Recv收发数据功能示意图 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0216_html.md ## CANN商业版-ReduceScatterOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0217.html - Description: 多对多。在集群内的所有节点上都按维度执行相同的Reduce规约运算,再将结果发散到集群内所有的节点上。该算子不支持确定性计算。 图1 通信原理图 注:硬件类型仅支持 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 和 Atlas A3 推理系列产品 / Atlas A3 训练系列产品 ,不支持确定性计算和多机通信。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0217_html.md ## CANN商业版-ReduceScatterVOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0218.html - Description: 将多个通信卡上的数据进行计算,支持相加、取最大、最小三种计算,然后不等地发送到每张卡上。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0218_html.md ## CANN商业版-RelayAttentionOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0219.html - Description: RelayAttention算法的核心创新点是通过将与系统提示对应的矩阵-向量乘法分组为矩阵-矩阵乘法,允许对于一批输入令牌从DRAM中仅读取一次系统提示的隐藏状态(键值对),从而消除现有因果注意力计算算法中处理系统提示时存在的大量冗余内存访问,在提高效率的同时保持生成质量且无需模型重新训练。 图1 RelayAttention计算原理 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0219_html.md ## 产品支持情况 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0220.html - Description: | 硬件型号 | 是否支持 | 特殊说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0220_html.md ## 功能说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0221.html - Description: 遍历每个key和value,将key和value\(num\_heads, head\_size\)以slotmapping填入key\_cache/value\_cache指定位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0221_html.md ## 算子上下文 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0222.html - Description: 图1 ReshapeAndCacheOperation算子上下文 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0222_html.md ## CANN商业版-定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0223.html - Description: ``` struct ReshapeAndCacheParam \{ enum CompressType : int \{ COMPRESSTYPEUNDEFINED \= 0, COMPRESSTYPEKVHEAD, COMPRESSTYPEKVHEADROPE \}; enum KvCacheCfg : int \{ KCACHEVCAC - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0223_html.md ## 参数列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0224.html - Description: 成员名称 类型 默认值 取值范围 是否必选 描述 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0224_html.md ## 不开启多头压缩功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0226.html - Description: compressType\=COMPRESS\_TYPE\_UNDEFINED, kvCacheCfg\=K\_CACHE\_V\_CACHE - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0226_html.md ## 开启alibi场景下的多头压缩功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0227.html - Description: compressType\=COMPRESS\_TYPE\_KVHEAD, kvCacheCfg\=K\_CACHE\_V\_CACHE - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0227_html.md ## 开启rope场景下的多头压缩功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0228.html - Description: compressType\=COMPRESS\_TYPE\_KVHEAD\_ROPE, kvCacheCfg\=K\_CACHE\_V\_CACHE - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0228_html.md ## 开启单入单出功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0229.html - Description: kvCacheCfg\=K\_CACHE\_V\_BYPASS,compressType\=COMPRESS\_TYPE\_UNDEFINED - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0229_html.md ## 开启支持输入转NZ格式功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0230.html - Description: kvCacheCfg\=K\_CACHE\_V\_CACHE\_NZ,compressType\=COMPRESS\_TYPE\_UNDEFINED - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0230_html.md ## 约束说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0231.html - Description: - ntokens \= sum\(seqlen\[i\]\),i\=0、1...batch-1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0231_html.md ## CANN商业版-ReshapeAndCacheOmniOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0232.html - Description: OmniAttention在Decode阶段通过对LLM特定的Layer的特定Head进行Attention稀疏计算达到节省KV Cache显存、降低片上内存搬运数据量到缓存、减少Attention计算量的性能增益。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0232_html.md ## 产品支持情况 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0234.html - Description: | 硬件型号 | 是否支持 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0234_html.md ## 功能说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0235.html - Description: 支持Leading Dimension功能,key和value由传入tensor:kStrides、vStrides、kOffset、vOffset确定。kStrides和vStrides表示从当前元素到下一个元素在内存中的跨度,kOffset表示key中第一个元素的位置相对于输入首地址的偏移,vOffset表示value中第一个元素的位置相对于输入首地址的偏移。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0235_html.md ## 算子上下文 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0236.html - Description: \# 算子上下文 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0236_html.md ## CANN商业版-定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0237.html - Description: ``` struct ReshapeAndCacheWithStrideParam \{ enum CompressType : int \{ COMPRESSTYPEUNDEFINED \= 0, COMPRESSTYPEKVHEAD, COMPRESSTYPEKVHEADROPE \}; enum KvCacheCfg : int \{ KCACHEVCACHE \= 0, KCACHEVBYPASS, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0237_html.md ## 参数列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0238.html - Description: 成员名称 类型 默认值 取值范围 是否必选 描述 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0238_html.md ## 不开启多头压缩功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0240.html - Description: compressType\=COMPRESS\_TYPE\_UNDEFINED - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0240_html.md ## 开启单入单出功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0241.html - Description: kvCacheCfg\=K\_CACHE\_V\_BYPASS,compressType\=COMPRESS\_TYPE\_UNDEFINED - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0241_html.md ## 约束说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0242.html - Description: - ntokens \= sum\(seqlen\[i\]\),i\=0、1...batch-1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0242_html.md ## CANN商业版-RingMLAOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0243.html - Description: 基于传统MultiLatentAttention,并使能ring MLA算子的输出的中间结果lse,attention out两个局部结果更新为全局结果,支持更长的序列长度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0243_html.md ## 产品支持情况 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0244.html - Description: | 硬件型号 | 是否支持 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0244_html.md ## 功能说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0245.html - Description: RMSNorm是一种归一化方法,它通过对数据的root mean square(RMS)进行归一化,避免了均值的使用。RMSNorm通过对数据的均值和方差进行调整,旨在优化深度学习模型的性能。RMSNorm不仅可以简化计算,还可以提高模型的收敛速度和稳定性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0245_html.md ## 使用场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0246.html - Description: - 通常使用在注意力机制attention前和attention与前馈网络ffn之间。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0246_html.md ## 计算公式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0247.html - Description: beta在rmsnorm quant量化场景下会使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0247_html.md ## CANN商业版-定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0248.html - Description: ``` struct RmsNormParam \{ enum RmsNormType : int \{ RMSNORMUNDEFINED \= 0, RMSNORMNORM, RMSNORMPRENORM, RMSNORMPOSTNORM, \}; enum PrecisionMode : int \{ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0248_html.md ## 参数列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0249.html - Description: 表1 NormParam成员 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0249_html.md ## 输入输出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0250.html - Description: \#\#\#\# RMSNORMNORM - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0250_html.md ## 约束说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0251.html - Description: - 除scale、offset、rstd tensors外,所有输入输出tensor的最后一维大小相等,需要32字节对齐。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0251_html.md ## 功能列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0252.html - Description: - 非量化 - 训练rmsnormforward算子,设置rstd为true开启。 - precisionMode默认HIGHPRECISIONMODE,中间计算使用float类型。HIGHPERFORMANCEMODE,在最后做gamma(weight)的乘法计算的时候使用float16类型。 - modelType默认LLAMAMODEL, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0252_html.md ## CANN商业版-RmsNormWithStrideOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0253.html - Description: 为了使RmsNorm支持非连续Tensor,将x tensor通过(shape、strides、offset)表示。strides描述某个维度上相邻两个元素的间隔,offset表示这个Tensor的首元素相对addr的偏移。 示例: 例如现有一个shape\=\(6, 5\)、strides\=\(10, 1\)、offset\=22的Tensor,其内存排布如下: 即该Tensor排布如上图的深色位置。这个完 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0253_html.md ## CANN商业版-RopeQConcatOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0254.html - Description: 旋转位置编码后进行concat操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0254_html.md ## CANN商业版-ScatterElementsV2Operation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0255.html - Description: 将张量update中的所有的值,按照indices位置,写到自身张量input中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0255_html.md ## 产品支持情况 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0256.html - Description: 硬件型号 是否支持 特殊说明 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0256_html.md ## 功能说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0257.html - Description: 基于传统flash attention按照layerId管理kvcache的机制计算attention score。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0257_html.md ## 算子上下文 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0258.html - Description: - 当参数“calcType”置为PA\_ENCODER时,为paged attention的全量阶段,如下图所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0258_html.md ## 计算图 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0259.html - Description: - 在不同参数配置下,加速库OP内部组图不同。其中,当参数“calcType”置为PA\_ENCODER时,计算图如下图所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0259_html.md ## 计算公式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0260.html - Description: - preprocess包含对q的缩放,其缩放系数由参数qScale给出,以及当开启clamp缩放时,对q做torch.clamp。 - 当开启压缩mask特性时preprocess会对mask进行压缩。 - 当“calcType”非PAENCODER且“kvCacheCfg”不为KBYPASSVBYPASS: 这一步会将k, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0260_html.md ## CANN商业版-定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0261.html - Description: ``` struct SelfAttentionParam \{ enum CalcType : int \{ UNDEFINED \= 0, ENCODER, DECODER, PAENCODER, PREFIXENCODER, \}; enum KernelT - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0261_html.md ## 参数列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0262.html - Description: 在使用时应带有命名空间atb::infer::SelfAttentionParam的参数,成员描述如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0262_html.md ## 输入输出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0264.html - Description: 参数 维度 数据类型 格式 cpu/npu 描述 使用场景 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0264_html.md ## calcType为PA\_ENCODER时输入输出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0265.html - Description: 参数 维度 数据类型 格式 cpu/npu 描述 使用场景 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0265_html.md ## calcType为PREFIX\_ENCODER时输入输出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0266.html - Description: 参数 维度 数据类型 格式 cpu/npu 描述 使用场景 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0266_html.md ## calcType\=PREFIX\_ENCODER, maskType\=MASK\_TYPE\_CAUSAL\_MASK时输入输出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0267.html - Description: 参数 维度 数据类型 格式 cpu/npu 描述 使用场景 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0267_html.md ## 约束说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0268.html - Description: - 输入数据排布格式为TYPE\_BSND时: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0268_html.md ## 各功能共存情况 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0270.html - Description: Y表示两功能不冲突,N表示两功能冲突。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0270_html.md ## 控制可计算batch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0271.html - Description: 指定某几个batch参与attention计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0271_html.md ## 全量/增量分离 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0272.html - Description: 当模型接入paged attention时,全量阶段选用SelfAttention且“calcType”置为PA\_ENCODER,增量阶段选用PagedAttention。而当模型使用传统flash attention时,增量与全量阶段都使用SelfAttention;此时为提高计算效率,可在全量与增量阶段选用不同的calcType。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0272_html.md ## clamp缩放 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0274.html - Description: 相当于对传入的q做torch.clamp。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0274_html.md ## 压缩mask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0275.html - Description: 又名mask-free。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0275_html.md ## kv-bypass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0276.html - Description: 在某些场景下,用户想自行管理kvCache的过程,不想使用加速库做把kv刷新到kvCache的动作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0276_html.md ## logN缩放 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0277.html - Description: 在一般的情况下,上文计算公式中的Zoom函数,其缩放系数由参数qkScale给出。当用户想要使用logN形式的缩放函数时,可开启此功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0277_html.md ## qkv全量化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0278.html - Description: 支持量化好的q、k、v传入,降低显存占用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0278_html.md ## BNSD维度输入 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0279.html - Description: 一般的,传入SelfAttention算子的q、k、v的维度为\[batch, seqLen, headNum, head\_dim\],即\[b, s, n, d\],或者是\[b, s, n, d\]合轴后的变种。在某些场景下,传入\[b, n, s, d\]性能更好。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0279_html.md ## kv tensorlist格式输入 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0280.html - Description: 支持以tensorlist,即二级指针结构的形式而非整个tensor作为cacheK与cacheV的输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0280_html.md ## MLA合并输入kvCache功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0281.html - Description: 过去attention算子会将k和v存储在显存中,随着模型越来越大,输入序列越来越长,kvCache也越来越大,对显存的容量造成很大压力,造成性能上的瓶颈。因此Multi-Head Latent Attention提出将kvCache压缩成一个一个较小的向量,代替原来的kvCache输入进fa算子进行计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0281_html.md ## Sliding window attention(SWA)功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0282.html - Description: Mistral 7B,Attention部分在GQA(Group Query Attention)的基础上,叠加了SWA(Sliding Window Attention)的优化,可以进一步提高推理速度,并降低显存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0282_html.md ## FA支持Prefix Encoder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0283.html - Description: FA支持按block存放的kvCache。BlockTables维度为\[batch, maxBlockNum\],其中每个batch对应存放当前query对应的key和value的index,maxBlockNum约为key,value中最长kvSeqLen,kvSeqLen/blockSize向上取整。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0283_html.md ## CANN商业版-SendOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0284.html - Description: 将当前通信卡的输入发送至指定通信卡上。Send和Recv需要配套使用。 图1 Send&Recv收发数据功能示意图 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0284_html.md ## CANN商业版-SwigluQuantOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0285.html - Description: swiglu函数激活对输出进行per token量化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0285_html.md ## CANN商业版-定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0288.html - Description: ``` struct TopkToppSamplingParam \{ enum TopkToppSamplingType \{ SAMPLINGUNDEFINED \= -1, SINGLETOPKSAMPLING, BATCHTOPKMULTINOMIALSAMPLING, BATCHTOPKEXPONENTIALSAMPLI - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0288_html.md ## 参数列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0289.html - Description: 成员名称 类型 默认值 描述 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0289_html.md ## 输入输出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0290.html - Description: \#\#\#\# topkToppSamplingType \= SINGLETOPKSAMPLING(非batch级随机种子、topk取样) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0290_html.md ## 约束说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0291.html - Description: - probs必须是两维张量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0291_html.md ## 非batch级随机种子、topk取样 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0293.html - Description: 使用单一的randSeed和topk,对输入的词表概率的所有batch使用统一的topk值进行截取,再对截取后的词表概率的所有batch使用统一的randSeed进行topp取样。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0293_html.md ## batch级别随机种子、topk的multinomial取样 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0294.html - Description: 对于词表概率的每一个batch使用不同的topk进行截取,再对截取后的词表概率的每个batch使用不同的随机种子进行topp的multinomial取样。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0294_html.md ## batch级随机种子,topk的Exponential取样 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0295.html - Description: 对于词表概率的每一个batch使用不同的topk进行截取,再对截取后的词表概率的每个batch使用不同的随机种子进行topp的exponential取样。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0295_html.md ## batch级别随机种子、topk的logprobs multinomial取样 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0296.html - Description: 对于词表概率的每一个batch使用不同的topk进行截取,再对截取后的词表概率的每个batch使用不同的随机种子进行topp的multinomial取样。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0296_html.md ## batch级随机种子,topk的logprobs Exponential取样 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0297.html - Description: 对于词表概率的每一个batch使用不同的topk进行截取,再对截取后的词表概率的每个batch使用不同的随机种子进行topp的exponential取样。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0297_html.md ## CANN商业版-LaserAttentionOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0298.html - Description: 训练场景下,使用LaserAttention算法实现self-attention(自注意力)的计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0298_html.md ## CANN商业版-LaserAttentionGradOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0299.html - Description: 训练场景下,使用LaserAttention算法实现self-attention(自注意力)的计算(反向)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0299_html.md ## operator\=\= - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0301.html - Description: \#\#\#\# 功能说明 判断参数是否相同。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0301_html.md ## CANN商业版-EventOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0302.html - Description: 同张卡的流间同步功能,详情请参考《CANN 应用开发 \(C&C++\)》中“基于Event同步\(https://www.hiascend.com/document/detail/zh/canncommercial/900/programug/acldevg/runtime\_doc\_dev\_0021.html\)”章节。Record或者Wait Event。建议使用aclrtSetOpWaitTimeo - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0302_html.md ## CANN商业版-IfOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0303.html - Description: 条件节点,根据用户传入的处理函数(handle)的返回值,在setup阶段判断执行路径来选择opA或opB下发执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0303_html.md ## CANN商业版-GraphOpBuilder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0304.html - Description: \#\#\#\# 功能说明 构造函数。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0304_html.md ## ~GraphOpBuilder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0305.html - Description: \#\#\#\# 功能说明 析构函数。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0305_html.md ## CANN商业版-CreateHcclComm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0307.html - Description: backend为HCCL时,rootInfo方式创建单机多卡通信域功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0307_html.md ## CANN商业版-CreateHcclCommByRankTableFile - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0308.html - Description: backend为HCCL时,使用ranktable的方式创建单机多卡通信域功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0308_html.md ## CANN商业版-DestroyHcclComm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0309.html - Description: backend为HCCL时,销毁通信域功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0309_html.md ## CANN商业版-CreateHcclCrossMulitComm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0310.html - Description: backend为HCCL时,使用ranktable的方式创建多机多卡子通信域功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0310_html.md ## CANN商业版-MLA - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0314.html - Description: 支持通过C接口直调接入PyTorch,在整网中进行亲和算子替换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0314_html.md ## MLA Prefill - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0315.html - Description: 支持通过C接口直调接入PyTorch,在整网中进行亲和算子替换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0315_html.md ## CANN商业版-MlaPreprocessOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0316.html - Description: 支持通过C接口直调接入PyTorch,在整网中进行亲和算子替换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0316_html.md ## CANN商业版-PagedCacheLoadOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0317.html - Description: 支持通过C接口直调接入PyTorch,在整网中进行亲和算子替换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0317_html.md ## CANN商业版-RingMLAOperation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0318.html - Description: 支持通过C接口直调接入PyTorch,在整网中进行亲和算子替换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0318_html.md ## CANN商业版-PrefixEncoder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0320.html - Description: 支持通过C接口直调接入PyTorch,在整网中进行亲和算子替换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0320_html.md ## CANN商业版-SetBufferSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0322.html - Description: 设置执行算子时默认分配显存的大小。仅配置默认大小,若不满足计算所需会在算子执行阶段分配更大空间。未配置时,默认是100M。不建议调整此默认值,分配过大显存会影响其它计算任务。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0322_html.md ## CANN商业版-说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0324.html - Description: 目前支持的Param有LayerNormParam、ElewiseParam、LinearParam、SoftmaxParam、RopeParam、SelfAttentionParam、SplitParam、GatherParam、ActivationParam、RmsNormParam。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0324_html.md ## CANN商业版-AclDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0325.html - Description: - ACL\_DT\_UNDEFINED - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0325_html.md ## CANN商业版-AclFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0326.html - Description: - ACL\_FORMAT\_UNDEFINED - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0326_html.md ## CANN商业版-QuantType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0327.html - Description: QUANT\_UNQUANT - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0327_html.md ## CANN商业版-DynamicQuantType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0328.html - Description: - DYNAMIC\_QUANT\_UNDEFINED - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0328_html.md ## CANN商业版-ActivationType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0329.html - Description: - ACTIVATION\_UNDEFINED - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0329_html.md ## CANN商业版-InputLayout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0330.html - Description: - TYPE\_BSND - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0330_html.md ## CANN商业版-ActivationParam - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0331.html - Description: 属性 类型 默认值 描述 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0331_html.md ## CANN商业版-ElewiseParam - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0332.html - Description: 属性 类型 默认值 描述 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0332_html.md ## CANN商业版-GatherParam - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0333.html - Description: 属性 类型 默认值 描述 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0333_html.md ## CANN商业版-LayerNormParam - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0334.html - Description: 属性 类型 默认值 描述 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0334_html.md ## CANN商业版-LinearParam - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0335.html - Description: 属性 类型 默认值 描述 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0335_html.md ## CANN商业版-RopeParam - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0336.html - Description: 属性 类型 默认值 描述 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0336_html.md ## CANN商业版-SelfAttentionParam - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0337.html - Description: 属性 类型 默认值 描述 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0337_html.md ## CANN商业版-RmsNormParam - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0338.html - Description: 属性 类型 默认值 描述 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0338_html.md ## CANN商业版-SoftmaxParam - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0339.html - Description: axes的长度大小需小于DEFAULTSVECTORSIZE,否则会抛出长度溢出异常。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0339_html.md ## CANN商业版-SplitParam - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0340.html - Description: splitsizes的长度大小需小于DEFAULTSVECTORSIZE,否则会抛出长度溢出异常。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0340_html.md ## 其他算子 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0341.html - Description: 下列算子已增加Python接口适配,其中算子参数信息与atb/infer\_op\_params.h中同名OP的参数列表相同,参数命名风格为snake\_case,其他调用方法可参考OpParam下其它算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0341_html.md ## CANN商业版-Operation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0342.html - Description: 针对用户调用单OP的场景,Operation提供创建OP、执行OP、OP信息调试等接口。可以直接通过该对象完成OP相关的操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0342_html.md ## CANN商业版-针对用户使用ATB组图的场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0345.html - Description: 针对用户使用ATB组图的场景,提供设置计算图全量输入输出、向计算图添加node、改变tensor的shape、创建图OP的方法。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0345_html.md ## CANN商业版-GraphNode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0346.html - Description: \#\#\#\# 设置Operation - 功能 设置节点operation。 - 原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0346_html.md ## CANN商业版-GraphBuilder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0347.html - Description: \#\#\#\# 创建GraphBuilder - 功能 创建GraphBuilder,用于后续的构图操作。 - 原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0347_html.md ## 组图示例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0348.html - Description: ``` import torchatb def graphbuild\(\): builder \= torchatb.Builder\("Graph"\) x \= builder.addinput\("x"\) y \= builder.addinput\("y"\) elewiseadd \= torchatb.ElewiseParam\(\) elewiseadd.elewis - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0348_html.md ## CANN商业版-LogLevel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0351.html - Description: \#\#\#\# 功能说明 加速库日志级别。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0351_html.md ## CANN商业版-CreateContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0352.html - Description: 创建上下文。 在当前进程或线程中显式创建一个Context。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0352_html.md ## Atlas 350 加速卡 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0353.html - Description: 图1 输入输出属性排列组合 - transposeA取值为true时,不支持组合2、5、8、11。 - 组合3、6、9、12不支持叠加偏置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0353_html.md ## 高精度 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0354.html - Description: 在进行attention计算时,Q∙KT的结果有可能溢出float16,导致算子输出tensor中间出现NAN值;此时可开启此功能,算子内部使用float32承载中间结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0354_html.md ## Exp近似计算 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0355.html - Description: exp使用m8v2近似计算提升性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_ascendtb_ascendtb_01_0355_html.md ## HCCL简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug - Description: 集合通信库HCCL(Huawei Collective Communication Library)是基于昇腾硬件的高性能集合通信库,为计算集群提供高性能、高可靠的通信方案。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000001_html.md ## 接口列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0001.html - Description: HCCL提供了通信算子接口、通信域管理接口与组调用接口,支持框架开发者实现分布式能力。- 通信算子接口:提供了集合通信与点对点通信两大类接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0001_html.md ## CANN商业版-HcclCommInitClusterInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0003.html - Description: 基于rank table初始化HCCL,创建HCCL通信域。 Rank table文件是一个JSON格式的文件,配置了参与集合通信的NPU资源信息,关于rank table文件的配置可参见集群信息配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0003_html.md ## CANN商业版-HcclCommInitClusterInfoConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0004.html - Description: 基于rank table初始化HCCL,创建具有特定配置的HCCL通信域。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0004_html.md ## CANN商业版-HcclGetRootInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0005.html - Description: 此接口需要在HCCL初始化接口HcclCommInitRootInfo或HcclCommInitRootInfoConfig前调用,仅需在root节点调用,用于生成root节点的rank标识信息(HcclRootInfo)。 - 该接口需要和初始化接口 HcclCommInitRootInfo 或 HcclCommInitRootInfoConfig 接口配对使用,不能单独使用。 - 该接口支 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0005_html.md ## CANN商业版-HcclCommInitRootInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0006.html - Description: 根据rootInfo初始化HCCL,创建HCCL通信域。 该接口在同一进程内支持多线程并发调用,但仅支持单卡单线程的场景,若是单卡多线程,不支持并发调用。 如下图所示,不支持step0与step1并发调用,需要step0执行结束后,再串行执行step1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0006_html.md ## CANN商业版-HcclCommInitRootInfoConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0007.html - Description: 根据rootInfo初始化HCCL,创建具有特定配置的HCCL通信域。 该接口在同一进程内支持多线程并发调用,但仅支持单卡单线程的场景,若是单卡多线程,不支持并发调用。 如下图所示,不支持step0与step1并发调用,需要step0执行结束后,再串行执行step1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0007_html.md ## CANN商业版-HcclCommConfigInit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0008.html - Description: 初始化通信域配置项,并将其中的可配置参数设为默认值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0008_html.md ## CANN商业版-HcclCommInitAll - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0009.html - Description: 单机通信场景中,通过一个进程统一创建多张卡的通信域(其中一张卡对应一个线程)。在初始化通信域的过程中,devices\[0\]作为root rank自动收集集群信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0009_html.md ## CANN商业版-HcclCommDestroy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0010.html - Description: 销毁指定的HCCL通信域。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0010_html.md ## CANN商业版-HcclGetRankSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0011.html - Description: 查询指定通信域的rank总数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0011_html.md ## CANN商业版-HcclGetRankId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0012.html - Description: 获取device在指定通信域中对应的rank序号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0012_html.md ## CANN商业版-HcclSetConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0013.html - Description: 进行集合通信相关配置,当前仅支持配置是否支持确定性计算。 在不开启确定性计算的场景下,多次执行的结果可能不同。这个差异的来源,一般是因为在算子实现中存在异步的多线程执行,会导致浮点数累加的顺序变化。当开启确定性计算后,算子在相同的硬件和输入下,多次执行将产生相同的输出。 默认情况下,无需开启确定性计算或保序功能,但当发现模型执行多次结果不同或者精度调优时,可以开启确定性计算或保序功能辅助进行调试调 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0013_html.md ## CANN商业版-HcclGetConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0014.html - Description: 获取集合通信相关配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0014_html.md ## CANN商业版-HcclGetCommName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0015.html - Description: 获取指定通信操作所在的通信域的名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0015_html.md ## CANN商业版-HcclGetCommConfigCapability - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0016.html - Description: 该接口用于判断当前版本软件是否支持某项通信域初始化配置。 通信域初始化时支持的完整配置项可参见HcclCommConfigCapability,包括共享数据的缓存区大小、确定性计算开关、通信域名称、通信算子展开模式等。 使用HcclGetCommConfigCapability接口判断当前软件是否支持某项配置的流程为:1. 调用HcclGetCommConfigCapability接口,获取一个代 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0016_html.md ## CANN商业版-HcclCommSuspend - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0017.html - Description: 本接口为预留接口,后续有可能变更,不支持开发者使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0017_html.md ## CANN商业版-HcclCommResume - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0018.html - Description: 本接口为预留接口,后续有可能变更,不支持开发者使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0018_html.md ## CANN商业版-HcclCreateSubCommConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0019.html - Description: 基于既有的全局通信域,切分具有特定配置的子通信域。 该子通信域创建方式无需进行socket建链与rank信息交换,可应用于业务故障下的快速通信域创建。 如果组网中卡间存在负载不均衡的情况,使用该接口创建的子通信域可能会由于卡间不同步发生建链超时。此时可通过环境变量HCCLCONNECTTIMEOUT增加设备间的建链超时时间。示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0019_html.md ## CANN商业版-HcclAllReduce - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0021.html - Description: 集合通信算子AllReduce的操作接口,将通信域内所有节点的输入数据进行相加(或其他归约操作)后,再把结果发送到所有节点的输出buffer,其中归约操作类型由op参数指定。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0021_html.md ## CANN商业版-HcclBroadcast - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0022.html - Description: 集合通信算子Broadcast的操作接口,将通信域内root节点的数据广播到其他rank。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0022_html.md ## CANN商业版-HcclAllGather - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0023.html - Description: 集合通信算子AllGather的操作接口,将通信域内所有节点的输入按照rank id重新排序,然后拼接起来,再将结果发送到所有节点的输出。 针对AllGather操作,每个节点都接收按照rank id重新排序后的数据集合,即每个节点的AllGather输出都是一样的。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0023_html.md ## CANN商业版-HcclReduceScatter - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0024.html - Description: 集合通信算子ReduceScatter的操作接口,将通信域内所有rank的输入数据均分成rank size份,然后分别取每个rank的rank size之一份数据进行归约操作(如sum、prod、max、min)。最后,将结果按照编号分散到各个rank的输出buffer。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0024_html.md ## CANN商业版-HcclReduce - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0025.html - Description: 集合通信算子Reduce的操作接口,将所有rank的数据相加(或其他归约操作)后,再把结果发送到root节点的指定位置上。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0025_html.md ## CANN商业版-HcclAlltoAll - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0026.html - Description: 集合通信算子AlltoAll操作接口,向通信域内所有rank发送相同数据量的数据,并从所有rank接收相同数据量的数据。 AlltoAll操作将输入数据在特定的维度切分成特定的块数,并按顺序发送给其他rank,同时从其他rank接收输入数据,按顺序在特定的维度拼接数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0026_html.md ## CANN商业版-HcclAlltoAllV - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0027.html - Description: 集合通信算子AlltoAllV操作接口,向通信域内所有rank发送数据(数据量可以定制),并从所有rank接收数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0027_html.md ## CANN商业版-HcclBarrier - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0028.html - Description: 将指定通信域内所有rank的stream阻塞,直到所有rank都下发执行该操作为止。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0028_html.md ## CANN商业版-HcclScatter - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0029.html - Description: 集合通信算子Scatter操作接口,将root节点的数据均分并散布至其他rank。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0029_html.md ## CANN商业版-HcclSend - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0031.html - Description: 点对点通信Send操作接口,将当前节点指定位置的数据发送至目的节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0031_html.md ## CANN商业版-HcclRecv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0032.html - Description: 点对点通信Receive操作接口,从源节点接收数据到当前节点的指定位置上。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0032_html.md ## CANN商业版-HcclBatchSendRecv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0033.html - Description: 异步批量点对点通信操作接口,调用一次接口可以完成本rank上的多个收发任务,本rank发送和接收之间是异步的,发送和接收任务之间不会相互阻塞。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0033_html.md ## CANN商业版-HcclGetCommAsyncError - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0035.html - Description: 当集群信息中存在Device网口通信链路不稳定、出现网络拥塞的情况时,Device日志中会存在“error cqe”的打印,我们称这种错误为“RDMA ERROR CQE”错误。 当前版本,此接口仅支持查询通信域内是否存在“RDMA ERROR CQE”的错误。 此接口为同步接口,即接口调用后需要等待返回结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0035_html.md ## CANN商业版-HcclGetErrorString - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0036.html - Description: 解析HcclResult类型的错误码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0036_html.md ## CANN商业版-HcclResult - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0038.html - Description: 定义集合通信相关操作的返回值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0038_html.md ## CANN商业版-HcclReduceOp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0039.html - Description: 定义集合通信reduce操作的类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0039_html.md ## CANN商业版-HcclDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0040.html - Description: 定义集合通信相关操作的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0040_html.md ## CANN商业版-HcclConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0041.html - Description: 定义集合通信相关配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0041_html.md ## CANN商业版-HcclConfigValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0042.html - Description: 定义HcclConfig中可配置的参数的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0042_html.md ## CANN商业版-HcclRootInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0043.html - Description: root节点的rank信息,主要包含root节点的host ip、host port以及root节点唯一标识(由device id和时间戳等信息拼接获得)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0043_html.md ## CANN商业版-HcclComm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0044.html - Description: 指向当前通信域的句柄。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0044_html.md ## CANN商业版-HcclSendRecvType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0045.html - Description: 用于批量点对点通信操作,用来标识当前的任务类型是发送还是接收。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0045_html.md ## CANN商业版-HcclSendRecvItem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0046.html - Description: 用于批量点对点通信操作,定义每一个通信任务的基本信息,包含任务类型、数据地址、数据个数、数据类型、对端rank编号等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0046_html.md ## CANN商业版-HcclCommConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0047.html - Description: 初始化具有特定配置的通信域时,此数据类型用于定义通信域配置信息,包含缓存区大小、确定性计算开关和通信域名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0047_html.md ## CANN商业版-HcclCommConfigCapability - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0048.html - Description: 定义通信域初始化时支持的相关配置信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0048_html.md ## CANN商业版-HcclAllGatherV - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0050.html - Description: 集合通信算子AllGatherV的操作接口,将通信域内所有节点的输入按照rank id重新排序,然后拼接起来,再将结果发送到所有节点的输出。 与AllGather算子不同的是,AllGatherV算子支持通信域内不同节点的输入配置不同大小的数据量。 针对AllGatherV操作,每个节点都接收按照rank id重新排序后的数据集合,即每个节点的AllGatherV输出都是一样的。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0050_html.md ## CANN商业版-HcclReduceScatterV - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0051.html - Description: 集合通信算子ReduceScatterV的操作接口,与ReduceScatter操作类似,不同点是支持为通信域内不同的节点配置不同大小的数据量(同一rank不同编号的数据大小可设置,但不同rank间相同编号的数据大小需保持一致),取每个rank对应编号的数据进行归约操作后(支持sum、prod、max、min)后,再把结果按照编号分散到各个rank的输出buffer。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0051_html.md ## 使用前必读 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0053.html - Description: “零拷贝”为试用功能,后续可能存在变更,暂不支持应用于生产环境。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0053_html.md ## CANN商业版-HcclCommSetMemoryRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0054.html - Description: 本接口为试用接口,后续可能存在变更,暂不支持应用于生产环境。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0054_html.md ## CANN商业版-HcclCommUnsetMemoryRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0055.html - Description: 本接口为试用接口,后续可能存在变更,暂不支持应用于生产环境。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0055_html.md ## CANN商业版-HcclCommActivateCommMemory - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0056.html - Description: 本接口为试用接口,后续可能存在变更,暂不支持应用于生产环境。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0056_html.md ## CANN商业版-HcclCommDeactivateCommMemory - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0057.html - Description: 本接口为试用接口,后续可能存在变更,暂不支持应用于生产环境。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0057_html.md ## CANN商业版-HcclAlltoAllVC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0059.html - Description: 集合通信算子AlltoAllVC操作接口,向通信域内所有rank发送数据(数据量可以定制),并从所有rank接收数据。相比于AlltoAllV,AlltoAllVC通过输入参数sendCountMatrix传入所有rank的收发参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0059_html.md ## CANN商业版-HcclCommWorkingDevNicSet - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0060.html - Description: 在集群场景下,配置通信域内的通信网卡。支持在同一NPU下,在某一Device网卡和备用网卡之间切换通信,备用网卡为同一NPU中的另一个Die网卡。 单次通信网卡配置时,同一通信域内的所有卡都需要调用该接口,且所有卡下发的ranks、useBackup和nRanks参数配置需保持一致。 配置通信网卡过程中,请注意以下操作的影响: - 同时下发切换到备网卡和切换到主网卡的命令时,如果在链路两端,一端切 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0060_html.md ## CANN商业版-HcclGroupStart - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0063.html - Description: 开始一个组调用。 在HcclGroupStart和HcclGroupEnd之间调用多个函数,作为一个整体执行,组调用支持以下三种场景:- 单进程多线程管理NPU:支持调用通信域管理接口 HcclCommInitClusterInfo 、 HcclCommInitClusterInfoConfig 、 HcclCommInitRootInfo 、 HcclCommInitRootInfoCo - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0063_html.md ## CANN商业版-HcclGroupEnd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0064.html - Description: 结束一个组调用。 在HcclGroupStart和HcclGroupEnd之间调用多个函数,作为一个整体执行,组调用支持以下三种场景:- 单进程多线程管理NPU:支持调用通信域管理接口 HcclCommInitClusterInfo 、 HcclCommInitClusterInfoConfig 、 HcclCommInitRootInfo 、 HcclCommInitRootInfoCo - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0064_html.md ## CANN商业版-HcclCommGetHandleWithName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0065.html - Description: 根据通信域名称获取指向对应通信域的句柄。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0065_html.md ## CANN商业版-HcclCommSymWindow - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0066.html - Description: 对称内存窗口资源句柄。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0066_html.md ## CANN商业版-HcclCommSymWinRegister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0069.html - Description: 用户在申请虚拟内存和物理内存并完成映射后,可调用此接口将虚拟内存注册为对称内存。 对称内存是一种内存管理模型,允许并行处理单元(例如每个rank)以一种“全局可见”但“无需显式地址交换”的方式访问彼此的内存。 对称内存的基本实现模型如下图所示,每个rank通过提前预留相同大小、相同布局的虚拟地址来实现。 - 为每个rank申请虚拟内存,假设每个rank对应的虚拟内存大小为heapsize,通信域中 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0069_html.md ## CANN商业版-HcclCommSymWinDeregister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0070.html - Description: 将注册过的对称窗口对应的虚拟内存解除注册,释放对称窗口资源。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0070_html.md ## CANN商业版-HcclSymWinGetPeerPointer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0071.html - Description: 根据对称内存窗口资源句柄和偏移,获取指定rank ID在对称内存上的虚拟地址指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0071_html.md ## CANN商业版-HcclCommSymWinGet - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclcpp_07_0073.html - Description: 根据已注册对称内存的虚拟地址指针,返回对应的窗口资源句柄及其在窗口内的偏移量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclcpp_07_0073_html.md ## CANN商业版-HCCL\_CONNECT\_TIMEOUT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0002.html - Description: 分布式训练或推理场景下,用于限制不同设备之间socket建链过程的超时等待时间。不同设备进程在集合通信初始化之前由于其他因素会导致执行不同步。该环境变量控制设备间的建链超时等待时间,在该配置时间内各设备进程等待其他设备建链同步。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0002_html.md ## CANN商业版-HCCL\_EXEC\_TIMEOUT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0003.html - Description: 不同设备进程在分布式训练或推理过程中存在卡间执行任务不一致的场景(如仅特定进程会保存checkpoint数据),通过该环境变量可控制设备间执行时同步等待的时间,在该配置时间内各设备进程等待其他设备执行通信同步。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0003_html.md ## CANN商业版-HCCL\_ALGO - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0004.html - Description: 此环境变量用于配置集合通信Server间通信算法以及超节点间通信算法,支持全局配置算法类型与按算子配置算法类型两种配置方式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0004_html.md ## CANN商业版-HCCL\_BUFFSIZE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0005.html - Description: 此环境变量用于控制通信域所使用的共享数据缓存区大小。需要配置为整数,取值大于等于1,默认值为200,单位MB。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0005_html.md ## CANN商业版-HCCL\_INTRA\_PCIE\_ENABLE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0006.html - Description: 用于配置Server内是否使用PCIe链路进行通信。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0006_html.md ## CANN商业版-HCCL\_INTRA\_ROCE\_ENABLE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0007.html - Description: 用于配置Server内或超节点内是否使用RoCE链路进行通信。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0007_html.md ## CANN商业版-HCCL\_INTER\_HCCS\_DISABLE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0008.html - Description: 此环境变量用于配置超节点模式组网中超节点内的通信链路类型,支持如下取值: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0008_html.md ## CANN商业版-HCCL\_OP\_EXPANSION\_MODE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0009.html - Description: 该环境变量用于配置通信算子的展开模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0009_html.md ## CANN商业版-HCCL\_DETERMINISTIC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0010.html - Description: 此环境变量用于配置是否开启归约类通信算子的确定性计算或保序功能,其中归约类通信算子包括AllReduce、ReduceScatter、ReduceScatterV、Reduce,归约保序是指严格的确定性计算,在确定性的基础上保证归约顺序一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0010_html.md ## CANN商业版-HCCL\_LOGIC\_SUPERPOD\_ID - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0011.html - Description: 针对 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 的超节点模式组网,若不使用rank table文件配置集群资源信息,可通过此环境变量指定当前节点运行进程所属的超节点ID,实现将一个物理超节点划分为多个逻辑超节点的功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0011_html.md ## CANN商业版-HCCL\_RDMA\_PCIE\_DIRECT\_POST\_NOSTRICT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0013.html - Description: 多机通信且Host操作系统小页内存页表大小非4KB的场景,当通信算子下发性能Host Bound时,开发者可设置此环境变量,通过PCIe Direct的方式提交RDMA任务,提升通信算子下发性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0013_html.md ## CANN商业版-HCCL\_RDMA\_QPS\_PER\_CONNECTION - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0014.html - Description: 两个rank之间RDMA通信时会默认创建1个QP(Queue Pair)进行数据传输,若开发者想让两个rank之间的RDMA通信使用多个QP,可通过此环境变量实现。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0014_html.md ## CANN商业版-HCCL\_RDMA\_QP\_PORT\_CONFIG\_PATH - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0015.html - Description: 两个rank之间RDMA通信时会默认创建1个QP(Queue Pair)进行数据传输,若开发者想让两个rank之间的RDMA通信使用多个QP,并指定多QP通信时使用的源端口号,可通过此环境变量实现。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0015_html.md ## CANN商业版-HCCL\_MULTI\_QP\_THRESHOLD - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0016.html - Description: rank间RDMA通信使用多QP通信的场景下,开发者可通过本环境变量设置每个QP分担数据量的最小阈值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0016_html.md ## CANN商业版-HCCL\_IF\_IP - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0018.html - Description: 当通信域的创建方式为“基于root节点信息创建”时,可通过此环境变量配置HCCL初始化时Host使用的通信IP地址。此IP地址用于与root节点通信,以完成通信域的创建。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0018_html.md ## CANN商业版-HCCL\_IF\_BASE\_PORT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0019.html - Description: 当通信域的创建方式为“基于root节点信息创建”时,可以通过该环境变量指定Host网卡起始端口号,配置后系统默认占用以该端口起始的32个端口进行集群信息收集。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0019_html.md ## CANN商业版-HCCL\_HOST\_SOCKET\_PORT\_RANGE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0020.html - Description: 当通信域的创建方式为“基于root节点信息创建”时,开发者可通过此环境变量配置HCCL在Host侧使用的通信端口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0020_html.md ## CANN商业版-HCCL\_NPU\_SOCKET\_PORT\_RANGE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0021.html - Description: 当通信域的创建方式为“基于root节点信息创建”时,开发者可通过此环境变量配置HCCL在NPU侧使用的通信端口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0021_html.md ## CANN商业版-HCCL\_SOCKET\_IFNAME - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0022.html - Description: 配置HCCL初始化时Host使用的通信网卡名,HCCL将通过该网卡名获取Host IP,与root节点通信,以完成通信域的创建。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0022_html.md ## CANN商业版-HCCL\_SOCKET\_FAMILY - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0023.html - Description: 该环境变量指定通信网卡使用的IP协议,支持如下两种配置:- AF\_INET:代表使用IPv4协议。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0023_html.md ## CANN商业版-HCCL\_RDMA\_TC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0024.html - Description: 用于配置RDMA网卡的traffic class。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0024_html.md ## CANN商业版-HCCL\_RDMA\_SL - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0025.html - Description: 用于配置RDMA网卡的service level,该值需要和网卡配置的PFC优先级保持一致,若配置不一致可能导致性能劣化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0025_html.md ## CANN商业版-HCCL\_RDMA\_TIMEOUT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0026.html - Description: 用于配置RDMA网卡重传超时时间的系数timeout。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0026_html.md ## CANN商业版-HCCL\_RDMA\_RETRY\_CNT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0027.html - Description: 用于配置RDMA网卡的重传次数,需要配置为整数,取值范围为\[1,7\],默认值为7。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0027_html.md ## CANN商业版-HCCL\_DIAGNOSE\_ENABLE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0029.html - Description: 此环境变量用于配置集合通信是否缓存部分任务的详细信息,以便任务执行失败时,打印详细日志,用于问题定位。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0029_html.md ## CANN商业版-HCCL\_ENTRY\_LOG\_ENABLE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0030.html - Description: 此环境变量用于控制是否实时打印通信算子的调用行为日志。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0030_html.md ## CANN商业版-HCCL\_DEBUG\_CONFIG - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0031.html - Description: 启用此环境变量后,运行日志(即“$HOME/ascend/log/run”目录下的日志)将包含HCCL特定子模块的详细运行信息。目前支持ALG或alg(算法编排模块)、TASK或task(任务编排模块)、RESOURCE或resource(资源管理模块,包括资源的申请和释放操作)几个配置项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0031_html.md ## CANN商业版-HCCL\_DFS\_CONFIG - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0032.html - Description: HCCL提供了多种故障检测功能的开关设置,包括建链故障探测时间配置、集群心跳监测开关以及进程卡死检测开关等。这些检测功能开启后,能够在业务出现异常时快速定位并显示故障信息,有助于问题及时排查处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0032_html.md ## CANN商业版-HCCL\_OP\_RETRY\_ENABLE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0034.html - Description: 此环境变量用于配置是否开启HCCL算子的重执行特性。HCCL算子重执行以通信域为粒度,当通信算子执行报 SDMA 或者RDMA CQE类型的错误时,HCCL会尝试重新执行此通信算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0034_html.md ## CANN商业版-HCCL\_OP\_RETRY\_PARAMS - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0035.html - Description: 当开发者通过环境变量HCCL\_OP\_RETRY\_ENABLE开启了HCCL的算子重执行特性时,可通过本环境变量配置第一次重执行的等待时间、最大重执行的次数以及两次重执行的间隔时间。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0035_html.md ## CANN商业版-HCCL\_WHITELIST\_DISABLE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0037.html - Description: 配置在使用HCCL时是否开启通信白名单。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0037_html.md ## CANN商业版-HCCL\_WHITELIST\_FILE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0038.html - Description: 当通过HCCL\_WHITELIST\_DISABLE开启了通信白名单校验功能时,需要通过此环境变量配置指向HCCL通信白名单配置文件的路径,只有在通信白名单中的IP地址才允许进行集合通信。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0038_html.md ## 通信算子重执行对整网性能说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0040.html - Description: 开启HCCL通信算子重执行功能后,整网端到端性能的变化与模型的切分部署方式密切相关,本节详细讲述重执行功能与网络性能的关系。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0040_html.md ## Server间通信算法支持度列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0041.html - Description: 下面分别给出Server间不同型号的产品支持的算法,以及对应算法下支持的通信算子介绍,表格中未列出的则代表不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0041_html.md ## 超节点间通信算法支持度列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclenvref_07_0042.html - Description: 本节所述的超节点间通信算法支持度表格仅适用于 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclenvref_07_0042_html.md ## CANN商业版-HCCL Python语言的接口用于实现图模式下的框架适配 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclpython_07_0001.html - Description: HCCL Python语言的接口用于实现图模式下的框架适配,当前仅用于TensorFlow网络在NPU执行分布式优化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclpython_07_0001_html.md ## CANN商业版-create\_group - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclpython_07_0003.html - Description: 创建集合通信用户自定义group。 如果开发者不调用此接口创建用户自定义group,则默认将所有参与集群训练的设备创建为全局的hcclworldgroup。 group为参与集合通信的进程组,其中:- hcclworldgroup:默认的全局group,包含所有参与集合通信的rank,由HCCL自动创建。 - 自定义group:hcclworldgroup包含的进程组的子集。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclpython_07_0003_html.md ## CANN商业版-destroy\_group - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclpython_07_0004.html - Description: 销毁集合通信用户自定义group。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclpython_07_0004_html.md ## CANN商业版-get\_rank\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclpython_07_0005.html - Description: 获取group内的rank数量(即Device数量)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclpython_07_0005_html.md ## CANN商业版-get\_local\_rank\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclpython_07_0006.html - Description: 获取group内device所在服务器内的local rank数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclpython_07_0006_html.md ## CANN商业版-get\_rank\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclpython_07_0007.html - Description: 获取device在group中对应的rank序号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclpython_07_0007_html.md ## CANN商业版-get\_local\_rank\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclpython_07_0008.html - Description: 获取device在group中对应的local rank序号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclpython_07_0008_html.md ## CANN商业版-get\_world\_rank\_from\_group\_rank - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclpython_07_0009.html - Description: 根据进程在group中的rank id,获取对应的world rank id。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclpython_07_0009_html.md ## CANN商业版-get\_group\_rank\_from\_world\_rank - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclpython_07_0010.html - Description: 从world rank id,获取该进程在group中的group rank id。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclpython_07_0010_html.md ## CANN商业版-set\_split\_strategy\_by\_idx - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclpython_07_0015.html - Description: 基于梯度的索引id,在集合通信group内设置反向梯度切分策略,实现allreduce的融合,用于进行集合通信的性能调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclpython_07_0015_html.md ## CANN商业版-set\_split\_strategy\_by\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclpython_07_0016.html - Description: 基于梯度数据量百分比,在集合通信group内设置反向梯度切分策略,实现allreduce的融合,用于进行集合通信的性能调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclpython_07_0016_html.md ## 代码示例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclpython_07_0028.html - Description: 该代码示例针对TensorFlow 1.15网络,使用默认的全局通信域进行通信。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclpython_07_0028_html.md ## 样例执行 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclpython_07_0029.html - Description: 本节以单机8卡组网、通过rank table文件配置资源信息的方式为例,介绍如何运行代码示例中的样例代码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclpython_07_0029_html.md ## HCCL简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000001.html - Description: 集合通信库HCCL(Huawei Collective Communication Library)是基于昇腾硬件的高性能集合通信库,为计算集群提供高性能、高可靠的通信方案。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000001_html.md ## 相关概念 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000002.html - Description: 为了您有更好的阅读体验,使用本文档前请先了解HCCL相关概念。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000002_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000003.html - Description: HCCL集合通信库的使用以及通信算子的开发依赖固件驱动与CANN软件包,详细安装步骤请参考《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/canncommercial/900/softwareinst/instg/instg\_0000.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000003_html.md ## 快速入门 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000004.html - Description: 本节以AllReduce算子为例,介绍其在单算子执行模式下的使用方式,帮助用户快速体验集合通信功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000004_html.md ## 主流框架集成 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000005.html - Description: HCCL在系统中的位置如下图所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000005_html.md ## CANN商业版-HCCL提供了C与Python两种语言的开发接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000007.html - Description: HCCL提供了C与Python两种语言的开发接口,用于实现分布式能力。- C语言接口用于实现单算子模式下的框架适配,实现分布式能力。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000007_html.md ## 通信域管理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000008.html - Description: 通信域是集合通信算子执行的上下文,管理对应的通信对象(例如一个NPU就是一个通信对象)和通信所需的资源。通信域中的每个通信对象称为一个rank,每个rank都会分配一个介于0~n-1(n为NPU的数量)的唯一标识。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000008_html.md ## 集合通信 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000009.html - Description: 集合通信是指多个NPU共同参与进行数据传输,从而形成一次集体操作的通信模式,常用于大规模集群中不同NPU之间的梯度同步和参数更新等场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000009_html.md ## 点对点通信 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000010.html - Description: 点对点通信是指多NPU环境下两个NPU之间直接传输数据的通信模式,常用于pipeline并行场景下对激活值的数据收发。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000010_html.md ## 示例代码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000011.html - Description: HCCL提供了不同场景下使用通信库API实现集合通信功能的代码示例,开发者可根据实际需求选择参考。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000011_html.md ## 分析流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000013.html - Description: 集群性能会受到AI处理器类型、网络、通信算法、通信配置等多方面因素影响, 对于性能问题,会通过Profiling工具进行性能分析,主要分析流程如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000013_html.md ## 性能数据采集 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000014.html - Description: 集合通信是一个通信域内的全局协同行为,只通过一个rank的Profiling数据往往难以分析集合通信的性能问题,因此需要采集到全量rank的Profiling数据才能精确地分析到集合通信的性能瓶颈所在。当前支持通过两种方式采集性能数据: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000014_html.md ## 通信算子下发 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000017.html - Description: 通信算子的下发在Profiling数据中的CANN层,如图所示,一个“AscendCL@hcom\_allReduce\_”则对应一次allreduce算子下发: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000017_html.md ## 通信算子执行 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000018.html - Description: 通信算子的执行对应Profiling数据中的Communication\(HCCL\)层,如下图所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000018_html.md ## 典型算子行为分析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000019.html - Description: 以Atlas 800T A2双机场景下,AllReduce算子的Profiling数据为例,介绍如何将通信算子的任务编排与Profiling中的task对应,下图为其中一个rank上完整的AllReduce算子执行流程,同时将AllReduce的各个算子执行步骤与Profiling进行对应。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000019_html.md ## 快慢卡问题分析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000020.html - Description: 集合通信算子在执行内存拷贝任务前,需要与对端进行一次前同步,以保证对端已准备好接收本端的数据,因此若对端还没有执行到同一个通信算子,本端则需要等待对端算子同步后才能往下执行,而这个notify wait的等待时间也会被统计到通信算子执行中,形成了通信算子性能慢的现象,这就是常见的快慢卡现象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000020_html.md ## 交换机存在流量拥塞反压或丢包重传 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000021.html - Description: 若在Profiling数据中观察到有长达4秒左右的notify wait任务,一般对应的网络配置出现问题,导致出现了丢包重传的现象,可以通过hccn\_tool工具查看统计值中的roce\_new\_pkt\_rty\_num字段来定位。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000021_html.md ## 应知应会 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000024.html - Description: 在故障定位之前,请确保您已熟悉HCCL相关基本概念及故障定位辅助功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000024_html.md ## 快速定位定界思路 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000025.html - Description: 1. 确认是否为HCCL相关的异常报错。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000025_html.md ## 总体流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000027.html - Description: 图1 通信域初始化阶段流程 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000027_html.md ## 定位思路 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000029.html - Description: 在业务的日志中出现"EI0001"故障码意味着HCCL的环境变量配置异常,一般情况下打印日志的ERROR MESSAGE和CANN日志中会显示配置异常的环境变量名称及错误原因,以及合理的配置范围,如果有疑问请参照环境变量参考。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000029_html.md ## HCCL\_RDMA\_SL配置错误 \(EI0001\) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000030.html - Description: 在打印日志中存在关键字"EI0001"或"Value *** for environment variable *** is invalid",如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000030_html.md ## HCCL\_SOCKET\_IFNAME配置错误 \(EI0001\) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000031.html - Description: 在CANN日志中存在关键字"get host ip fail by socket Ifname",如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000031_html.md ## QP内存资源申请相关(EI0011) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000032.html - Description: 在参数面建链阶段HCCL会创建QP,如果device侧内存不足会上报OOM错误。请通过调整业务配置、减少ROCE链路的使用数量,或释放部分内存解决问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000032_html.md ## 业务流程及定位思路 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000034.html - Description: HCCL在集群信息协商时(基于root节点信息创建通信域的场景),通过server节点和每个rank节点之间建立socket连接,互相交换本端信息的方式来获取整个通信域集群信息完成通信域初始化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000034_html.md ## server节点端口绑定失败(EI0019) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000035.html - Description: 打印日志中会有EI0019的报错,报错信息如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000035_html.md ## 部分rank未连接到server节点(EI0015) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000036.html - Description: 在CANN日志中存在关键字"topo exchange server get socket timeout\!"或"Failed to connect agent"。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000036_html.md ## rank与server节点建立socket超时(EI0015) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000037.html - Description: 在CANN日志中存在关键字"topo exchange agent get socket timeout\!",如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000037_html.md ## 典型多机场景通信域初始化失败(EI0015) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000038.html - Description: 图1 三机场景下通信域创建失败案例 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000038_html.md ## 定位思路 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000040.html - Description: HCCL会对rank table文件或协商收集到的rank table信息进行校验,若校验失败HCCL会直接报错退出,请基于实际报错内容进行定位。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000040_html.md ## rank table文件读取失败(EI0004) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000041.html - Description: 在CANN日志中存在关键字"is not a valid real path",如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000041_html.md ## rank table字段配置错误(EI0004) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000042.html - Description: 针对 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 ,在CANN日志中存在关键字“RanktableCheck”,如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000042_html.md ## rank table文件中device\_ip字段校验失败(EI0014) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000043.html - Description: 在CANN日志中存在关键字"the IP address\(***\) in the ranktable is inconsistent with the IP\(***\)address of the network adapter",如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000043_html.md ## IP Family校验不一致 (EI0001) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000044.html - Description: 在CANN日志中存在关键字"rank\[*\] device ip family\[2\] is not same as others\[*\].",如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000044_html.md ## TLS信息配置不一致(EI0016) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000045.html - Description: 在CANN日志中存在关键字"All ranks are consistent.",如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000045_html.md ## superDeviceId重复(EI0014) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000046.html - Description: 在CANN日志中报错信息示例如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000046_html.md ## 建链失败定位思路 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000048.html - Description: 在调用通信算子时,HCCL会通过参数面网络基于TCP协议进行socket连接创建,以此来基于业务需要进行地址等信息交换,此时如果出现某种故障导致部分rank未调用到预期的通信算子,导致无法发起建链请求,或由于网络连通性、行为一致性问题导致无法响应彼此之间的建链请求,就会导致其他rank出现socket连接超时报错。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000048_html.md ## 参数面端口绑定失败(EI0019) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000049.html - Description: 在CANN日志中存在关键字"Please check the port status and whether the port is being used by other process.",如下所示。此外需注意在通信域集群协商阶段也会有端口绑定失败问题,可以根据报错日志中的"socket type"判断,若type为0或者1,则为参数面端口绑定失败,若type为2,则为通信域集群信息协商时ho - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000049_html.md ## 建链超时(EI0006) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000050.html - Description: HCCL建链超时受环境变量HCCL\_CONNECT\_TIMEOUT的影响,若在超时时间内对端无法响应业务建链请求,则会上报“socket timeout”,同时如果远端由于超时等故障退出,已经建好的链路在等待数据交换的过程中也可能会出现“recv fail”的报错。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000050_html.md ## 参数一致性校验\(EI0005\) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000051.html - Description: 在打印日志中存在关键字"The arguments for collective communication are inconsistent between ranks",如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000051_html.md ## 定位思路 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000053.html - Description: 完成通信域初始化及参数面建链后,HCCL会进行通信算子的任务编排及下发,在通信算子的任务编排上,进行数据通信前会有notify同步机制来确保对端已准备好接收本端的数据,因此如果有rank由于某种异常导致进程卡死或退出、网络故障或调用的通信算子不一致,会导致大部分rank出现执行等待超时。遇到此类问题,定位的首要条件是找到故障点位置,整体定位思路如下图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000053_html.md ## 定位思路 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000055.html - Description: HCCL会基于已有的通信域信息与邻近的rank建立起独立的维测链路,以此提供集群的单点故障广播扩散能力(注:HCCL会控制维测链路数量和通信数据量,用户不用担心其对通信链路造成的性能损失),使任意rank的plog日志中均包含故障根节点信息。当前支持的故障探测能力请参见下表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000055_html.md ## 示例:进程卡死或对端心跳丢失 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000056.html - Description: 在CANN日志中存在关键字"Cluster Exception Location",如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000056_html.md ## 定位思路 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000058.html - Description: HCCL通信算子的任务编排完成后会下发到Device侧上异步执行,若此时HCCL下发的任务执行失败,会通过调用回调函数通知HCCL异常task信息(stream和taskId),HCCL会以此检索下发时的task信息,打印失败task的详细信息及其所在的算子信息。针对Atlas A3 训练系列产品 / Atlas A3 推理系列产品与Atlas A2 训练系列产品 / Atlas A2 推理系列产 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000058_html.md ## notify wait超时(EI0002) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000059.html - Description: 由于集合通信是一个通信域内的全局协同行为,若通信域内rank之间下发的通信算子、数据量等不一致,则会由于rank之间的任务不匹配导致执行超时,或者其中一个rank发生了其他报错,则其他rank则会等待报错rank超时从而失败。整体的定位思路如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000059_html.md ## SDMA ERROR(EI0012) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000060.html - Description: 在打印日志中会有EI0012的错误码打印,关键字为"Execution\_Error\_SDMA",如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000060_html.md ## ERROR CQE报错(EI0013) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000061.html - Description: ERROR CQE在HCCL中代表RoCE报文的重传超时,出现后必然会伴随集群卡死导致超时。HCCL会定期轮询RoCE驱动以获取其事件,用户可以通过接口HcclGetCommAsyncError进行查询是否有发生ERROR CQE报错。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000061_html.md ## AIV通信算子执行失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000062.html - Description: 针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,在通过export HCCL\_OP\_EXPANSION\_MODE\="AIV"开启AIV模式之后,部分场景下HCCL会以kernel的执行方式实现HCCL通信算子的编排及执行,此时若通信算子执行异常,在日志中会有一行如下关键日志打印"fault kernel\_name\=aiv\_all\_reduce\_***"表明当前为HCCL - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000062_html.md ## CANN商业版-开发者可以通过rank table文件配置参与集合通信的NPU资源信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000064.html - Description: 开发者可以通过rank table文件配置参与集合通信的NPU资源信息,通过rank table文件进行集群信息配置有以下使用场景:- 通过C接口 HcclCommInitClusterInfo - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000064_html.md ## rank table配置资源信息(Atlas 350 加速卡) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000065.html - Description: 对Atlas 350 加速卡,rank table文件需要配合拓扑文件初始化HCCL通信域。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000065_html.md ## rank table配置资源信息( Atlas A3 训练系列产品 / Atlas A3 推理系列产品 ) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000066.html - Description: 针对 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 ,集群训练支持超节点模式组网与典型组网。需要注意,针对 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 ,每个NPU包含2个Device(即两个Die),每个Device为一个rank。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000066_html.md ## rank table配置资源信息( Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000067.html - Description: 针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,以包含两个AI Server,每个AI Server内2个Device为例,rank table文件配置示例如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000067_html.md ## rank table配置资源信息( Atlas 训练系列产品 ) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000068.html - Description: 针对 Atlas 训练系列产品 ,在rank table文件中配置参与训练的AI处理器信息支持两种配置模板,全新场景推荐使用模板一,模板二用于兼容部分已有场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000068_html.md ## rank table配置资源信息(Atlas 300I Duo 推理卡) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000069.html - Description: 针对Atlas 300I Duo 推理卡,以包含两个AI Server,每个AI Server内2个Device为例,rank table文件配置示例如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000069_html.md ## 环境变量配置资源信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000070.html - Description: 除了通过rank table文件配置资源信息的方式外,开发者还可以通过本节所述环境变量组合的方式配置资源信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000070_html.md ## 推荐业务配置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000112.html - Description: 本节分别针对 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 、 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 的常见业务场景,提供推荐的业务配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000112_html.md ## 算法简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000115.html - Description: 针对同一个通信算子,随着网络拓扑、通信数据量、硬件资源等的不同,往往会采用不同的通信算法,从而最大化集群通信性能。HCCL提供了Mesh、Ring、Recursive Halving-Doubling(RHD)、Pairwise、Pipeline等拓扑算法用于Server内、Server间和超节点间的集合通信。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000115_html.md ## CANN商业版-Mesh - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000116.html - Description: Mesh是FullMesh互联拓扑内的基础算法,是NPU之间的全连接,任意两个NPU之间可以直接进行数据收发。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000116_html.md ## CANN商业版-Ring - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000117.html - Description: Ring算法,所有的NPU以环形相连,每张卡都有左手卡与右手卡,一个负责数据接收,一个负责数据发送,循环完成梯度累加,再循环做参数同步。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000117_html.md ## CANN商业版-RHD - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000118.html - Description: 当组网增大时,例如增大至4K个rank的场景,Mesh很难组成4K个rank的全连接网络(全连接一个时钟周期就可以完成操作),且资源开销(链路资源,交换资源,同步资源)太大,还可能存在算力和资源开销不匹配的问题。Ring在这种情况下虽然节省资源(只用左手卡和右手卡进行一次收发),但是环内要做太多次,流转太慢。大型规模集群运算有服务器内数据量庞大、Ring环极长的特点,Ring的这种切分数据块的方式 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000118_html.md ## CANN商业版-Pairwise - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000119.html - Description: 通常每个节点只有一个RDMA网口,如果在RDMA链路上使用Mesh算法完成AllToAll,存在同时从多个节点接收数据、向多个节点发送数据的“多打多”问题,多个流在同一条链路上肆意争抢资源,可能反而导致整体性能下降。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000119_html.md ## CANN商业版-Star - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000120.html - Description: Star算法适用于有根节点的通信操作(如Broadcast、Reduce、Gather、Scatter等),利用星型拓扑或全连接拓扑一步完成通信操作。以Broadcast算子为例,Star算法实现如下图所示,根节点Root利用星型拓扑从其他各节点收集数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000120_html.md ## CANN商业版-NHR - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000121.html - Description: 在规模较大、通信节点数量较多的组网中,由于Ring算法的通信步数与通信节点规模成正相关,所以容易出现较大延迟,因此Ring算法的切分数据块的方式对小数据包场景不友好,更适合大数据包传输场景。在集群规模不是2的整数次幂时,使用RHD算法会引入额外的通信步数和开销,产生N-1规模集群下的通信性能比N规模集群通信性能还差的现象。此外,由于RHD算法每个通信阶段的对象在变化,导致通信链路也发生变化,这在大 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000121_html.md ## CANN商业版-NB - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000122.html - Description: 集合通信中,Ring算法通信步数为,其中N表示参与集合通信的rank数量,随着网络规模的增加,通信开销也会显著增加。RHD算法虽然将通信步数减少到了,但在rank数量不是2的幂时,需要进行数据合并操作,导致通信数据量增加。而NB算法(Nonuniform Bruck,非均匀的数据块通信算法)通过动态调整步长的多重环状结构,实现不同rank数量下均保持通信步数为,同时避免了额外的通信数据量增长。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000122_html.md ## CANN商业版-AHC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000123.html - Description: 当集群网络存在层次化特征且层次间存在带宽收敛时,集合通信面临两大技术挑战:一是由于不同区域间存在带宽收敛问题,传统的单层集合通信算法性能下降;二是不同区域的计算单元数量不同(即卡数非对称),这使得常规的层次化算法不再适用。例如,在一个集群中,同一通信域可能横跨两个超节点,且两个超节点中的卡数量不一致(比如一个超节点中有64 张卡,另一个则有128张卡),这种情况对集合通信算法的性能带来巨大挑战。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000123_html.md ## CANN商业版-Pipeline - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000124.html - Description: 为降低网络流量冲突,AI计算集群中常常采用分级网络架构,即Server内通过直接连接的电缆互联,Server间同号卡通过交换机互联。为适配这种网络拓扑结构,集合通信采用分级算法策略,即将全局通信操作分解为多个层级的局部操作,利用分阶段、分层递进的方法以提升通信效率。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000124_html.md ## 分级通信原理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000125.html - Description: 下面以通信算子ReduceScatter、AllGather、AllReduce为例介绍分级通信的流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000125_html.md ## 系统约束与限制 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000126.html - Description: 集合通信不支持应用于昇腾虚拟化实例场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000126_html.md ## 定位思路 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000128.html - Description: 基于rank table创建通信域的方式需要加载rank table文件,若文件路径不存在、无权限或文件的格式、配置错误,HCCL则会加载失败,报错返回。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000128_html.md ## Atlas A3 训练系列产品 / Atlas A3 推理系列产品 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000134.html - Description: 本节提供 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 的通信算子支持情况。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000134_html.md ## Atlas A2 训练系列产品 / Atlas A2 推理系列产品 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000135.html - Description: 本节提供 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 的通信算子支持情况。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000135_html.md ## Atlas 训练系列产品 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000136.html - Description: 本节提供 Atlas 训练系列产品 的通信算子支持情况。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000136_html.md ## Atlas 推理系列产品 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hcclug/hcclug_000137.html - Description: 本节提供 Atlas 推理系列产品 的通信算子支持情况。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hcclug_hcclug_000137_html.md ## CANN商业版-单边通信库面向集群场景提供简单、可靠、高效的点对点数据传输能力 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug - Description: 单边通信库面向集群场景提供简单、可靠、高效的点对点数据传输能力,并通过简易API开放给用户, 在多AI应用和多传输链路之间建立了桥梁。可用于构建大模型PD分离、RL后训练参数切换、模型参数缓存等多种业务场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_hixldev_001_html.md ## CANN商业版-单边通信库面向集群场景提供简单、可靠、高效的点对点数据传输能力 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/hixldev_001.html - Description: 单边通信库面向集群场景提供简单、可靠、高效的点对点数据传输能力,并通过简易API开放给用户, 在多AI应用和多传输链路之间建立了桥梁。可用于构建大模型PD分离、RL后训练参数切换、模型参数缓存等多种业务场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_hixldev_001_html.md ## 读者对象 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_02.html - Description: 本文档用于指导开发者如何使用单边通信库的C++接口实现集群间的数据传输,构建大模型推理分离式框架,从而提高大模型推理系统的吞吐性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_02_html.md ## 阅读向导 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_03.html - Description: 如果您对单边通信库不太了解,或者首次阅读本文档。建议先阅读表1,帮助您快速了解手册内容,按需访问对应章节。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_03_html.md ## 单边通信库简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_05.html - Description: 单边通信库面向集群场景提供简单、可靠、高效的点对点数据传输能力,并通过简易API开放给用户, 在多AI应用和多传输链路之间建立了桥梁。可用于构建大模型PD分离、RL后训练参数切换、模型参数缓存等多种业务场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_05_html.md ## 单边通信库应用场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_06.html - Description: 通过单边通信库构建大模型推理PD分离式框架。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_06_html.md ## 整体开发流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_09.html - Description: 为了方便后续的描述,我们对于不同的推理框架抽象为几个模块: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_09_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_10.html - Description: 支持的形态如下: - Atlas A2 训练系列产品 / Atlas A2 推理系列产品:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。该场景下Server内采用HCCS传输协议时,LLM-DataDist相关接口仅支持D2D。 - Atlas A3 训练系列产品 / Atlas A3 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_10_html.md ## 完整样例参考 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_11.html - Description: 本示例通过LLM-DataDist接口实现分离部署场景下KV Cache管理功能。为不同框架使用LLM-DataDist的功能提供一些参考和改造思路。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_11_html.md ## CANN商业版-建链 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_14.html - Description: 调用LinkLlmClusters接口在PD节点之间建立通信链路,链路主要用于KV Cache的传输。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_14_html.md ## CANN商业版-断链 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_15.html - Description: 调用UnLinkLlmClusters接口断开并清理PD之间的通信链路。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_15_html.md ## KV Cache管理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_16.html - Description: 在调用LLM-DataDist建链前可自行申请一块内存,并调用RegisterKvCache接口注册到LLM-DataDist,在断链后调用UnregisterKvCache接口进行解注册。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_16_html.md ## 角色切换 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_18.html - Description: 主要用于在PD集群节点数量固定的场景下,由于业务的变化,期望PD集群节点间可以相互切换,充分利用资源。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_18_html.md ## HIXL简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_20.html - Description: HIXL(Huawei Xfer Library)即昇腾单边通信库,面向集群场景提供高性能、零拷贝的点对点数据传输的能力,并通过简易API开放给用户。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_20_html.md ## 整体开发流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_22.html - Description: 为了方便后续的描述,我们对于不同的推理框架抽象为几个模块: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_22_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_23.html - Description: 支持的产品形态如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_23_html.md ## 完整样例参考 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_24.html - Description: 本示例通过HIXL接口实现分离部署场景下内存传输功能。为不同框架使用HIXL的功能提供一些参考和改造思路。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_24_html.md ## CANN商业版-建链 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_27.html - Description: 调用Connect接口向Server侧建立通信链路,链路主要用于数据的传输,其中P/D均可作为Server或者Client,按需设置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_27_html.md ## CANN商业版-断链 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_28.html - Description: 调用Disconnect接口断开并清理通信链路。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_28_html.md ## 内存管理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_29.html - Description: 内存管理涉及的主要接口及功能如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_29_html.md ## 中转传输 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_30.html - Description: 中转传输是指使用中转buffer进行传输,在如下场景中需要使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_30_html.md ## 基本概念 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_32.html - Description: **表1 基本概念** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_32_html.md ## 大模型推理流程简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_33.html - Description: ChatGPT的推出意味着交互式人工智能逐渐成为商业化成熟产品,同时也进一步推动了底层技术大型语言模型LLM的研究和进步。现有主要使用的LLM包括GPT系列、LLAMA系列、GLM系列。其模型基础架构都采用Transformer架构,并以Decode-Only为主。该类Transformer-Based-Decode-Only的LLM在推理预测时,采用自回归生成(auto-regressive g - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_33_html.md ## 为什么要做PD分离 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_34.html - Description: 从实现上来看,整个LLM推理过程由Prefill和多轮迭代的Decode组成,想要在Decode阶段实现Continuous batching的前提是,每个被调度的request需要有空闲算力完成Prefill计算。按现有的部署模式,Prefill和Decode部署在一起,当有新的Prefill请求时,会被优先处理,从而导致Decode的执行流程由于增量token时延(TBT)而无法得到有效保障。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcdv2_42_34_html.md ## 接口列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_02.html - Description: - LLM-DataDist:大模型分布式集群和数据加速组件,提供了集群KV数据管理能力,以支持全量图和增量图分离部署。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_02_html.md ## LlmDataDist构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_05.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 创建LLM-DataDist对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_05_html.md ## ~LlmDataDist\(\) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_06.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 LLM-DataDist对象析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_06_html.md ## CANN商业版-Initialize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_07.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 初始化LLM-DataDist。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_07_html.md ## CANN商业版-Finalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_08.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 LLM-DataDist的资源释放函数。 无 单击Gitee\(https://gitee.com/ascend/samples/tags\),根据“标签名”下载配套版本的sample包, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_08_html.md ## CANN商业版-SetRole - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_09.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 设置LLM-DataDist的角色。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_09_html.md ## CANN商业版-LinkLlmClusters - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_10.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 在LlmDataDist之间执行建链,Client端调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_10_html.md ## CANN商业版-UnlinkLlmClusters - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_11.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 在LlmDataDist之间执行断链。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_11_html.md ## CANN商业版-PullKvCache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_12.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 从远端节点拉取Cache到本地Cache。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_12_html.md ## CANN商业版-PullKvBlocks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_13.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 通过block列表的方式,从远端节点拉取Cache到本地Cache。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_13_html.md ## CANN商业版-PushKvCache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_14.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 推送Cache到远端节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_14_html.md ## CANN商业版-PushKvBlocks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_15.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 通过block列表的方式,推送Cache到远端节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_15_html.md ## CANN商业版-RegisterKvCache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_16.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 注册本地KV Cache内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_16_html.md ## CANN商业版-UnregisterKvCache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_17.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 解除注册本地KV Cache内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_17_html.md ## LLM-DataDist数据结构 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_18.html - Description: LLM-DataDist的角色。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_18_html.md ## LLM-DataDist错误码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_19.html - Description: 错误码是通过如下宏定义的。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_19_html.md ## HIXL构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_22.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 创建HIXL对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_22_html.md ## ~Hixl\(\) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_23.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 HIXL对象析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_23_html.md ## CANN商业版-Initialize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_24.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 初始化HIXL,在调用其他接口前需要先调用该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_24_html.md ## CANN商业版-Finalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_25.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 HIXL资源清理函数。 无 单击Gitcode\(https://gitcode.com/cann/hixl\),选择配套版本,从“examples/cpp”目录中获取样例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_25_html.md ## CANN商业版-RegisterMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_26.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 注册内存地址。用于TransferSync调用指定本地内存地址和远端内存地址,TransferSync指定的地址可以为注册的地址子集,其中本地内存地址需在当前HIXL进行注册, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_26_html.md ## CANN商业版-DeregisterMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_27.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 解注册内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_27_html.md ## CANN商业版-Connect - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_28.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 与远端HIXL进行建链。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_28_html.md ## CANN商业版-Disconnect - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_29.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 与远端HIXL进行断链。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_29_html.md ## CANN商业版-TransferSync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_30.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 与远端HIXL进行批量内存传输。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_30_html.md ## CANN商业版-TransferAsync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_31.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 与远端HIXL进行批量异步内存传输。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_31_html.md ## CANN商业版-GetTransferStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_32.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取异步内存传输的状态。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_32_html.md ## CANN商业版-SendNotify - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_33.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 向远端engine发送Notify信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_33_html.md ## CANN商业版-GetNotifies - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_34.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取当前Hixl内所有Server收到的Notify信息,并清空已收到信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_34_html.md ## HIXL数据结构 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_35.html - Description: \#\#\#\# MemType 内存的类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_35_html.md ## HIXL错误码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_36.html - Description: 错误码是通过如下定义的,类型为uint32\_t。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_36_html.md ## AdxlEngine构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_39.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 创建AdxlEngine对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_39_html.md ## ~AdxlEngine\(\) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_40.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 AdxlEngine对象析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_40_html.md ## CANN商业版-Initialize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_41.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 初始化AdxlEngine,在调用其他接口前需要先调用该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_41_html.md ## CANN商业版-Finalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_42.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 AdxlEngine资源清理函数。 无 单击Gitee\(https://gitee.com/ascend/samples/tags\),根据“标签名”下载配套版本的sample包, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_42_html.md ## CANN商业版-RegisterMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_43.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 注册内存地址。用于TransferSync调用指定本地内存地址和远端内存地址,TransferSync指定的地址可以为注册的地址子集,其中本地内存地址需在当前AdxlEngine进行注册, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_43_html.md ## CANN商业版-DeregisterMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_44.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 解注册内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_44_html.md ## CANN商业版-Connect - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_45.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 与远端AdxlEngine进行建链。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_45_html.md ## CANN商业版-Disconnect - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_46.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 与远端AdxlEngine进行断链。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_46_html.md ## CANN商业版-TransferSync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_47.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 与远端AdxlEngine进行内存传输。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_47_html.md ## CANN商业版-SendNotify - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_48.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 向远端engine发送Notify信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_48_html.md ## CANN商业版-GetNotifies - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_49.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取当前AdxlEngine内所有Server收到的Notify信息,并清空已收到信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_49_html.md ## ADXL数据结构 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_50.html - Description: \#\#\#\# MemType 内存的类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_50_html.md ## ADXL错误码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_51.html - Description: 错误码是通过如下定义的,类型为uint32\_t。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_51_html.md ## 不支持的接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_52.html - Description: 该场景下,不支持的接口列表如下。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_52_html.md ## CANN商业版-MallocMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_53.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 申请内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_53_html.md ## CANN商业版-FreeMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcrv2_42_54.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 释放内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmcrv2_42_54_html.md ## 读者对象 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmpdv2_42_02.html - Description: 本文档用于指导开发者如何使用单边通信库的LLM-DataDist组件的Python接口实现点对点数据传输,构建大模型推理分离式框架,从而提高大模型推理系统的吞吐性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmpdv2_42_02_html.md ## 阅读向导 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmpdv2_42_03.html - Description: 如果您对LLM-DataDist不太了解,或者首次阅读本文档。建议先阅读表1,帮助您快速了解手册内容,按需访问对应章节。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmpdv2_42_03_html.md ## LLM-DataDist简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmpdv2_42_05.html - Description: 在大模型推理场景下,随着模型batch size的增大,Prefill阶段的性能会线性降低,Decode阶段会额外占用更多的内存。两阶段对资源的需求不同,部署在一起导致资源分配不均,成本居高不下。通过LLM-DataDist构建的大模型推理分离式框架有效地解决了该问题。在分离式框架中,将Prefill和Decode分别部署在不同规格和架构的集群中,提升了性能和资源利用效率,提升了大模型推理系统吞吐 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmpdv2_42_05_html.md ## LLM-DataDist应用场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmpdv2_42_06.html - Description: 通过LLM-DataDist构建大模型推理PD分离式框架。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmpdv2_42_06_html.md ## 整体开发流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmpdv2_42_08.html - Description: 为了方便后续的描述,我们对于不同的推理框架抽象为几个模块: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmpdv2_42_08_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmpdv2_42_09.html - Description: 支持的形态如下: - Atlas A2 训练系列产品 / Atlas A2 推理系列产品:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。该场景下Server内采用HCCS传输协议时,仅支持D2D。 - Atlas A3 训练系列产品 / Atlas A3 推理系列产品,该场景下采用HCC - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmpdv2_42_09_html.md ## 完整样例参考 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmpdv2_42_10.html - Description: 本示例是以transformers的LLAMA模型为样例,主要展示PD分离前后的脚本变化点,提供如何从非分离脚本改为PD分离脚本的一个参考,PD分离脚本示例请单击Gitee\(https://gitee.com/ascend/torchair/tree/master\#version\_match\),根据版本配套表下载对应版本的sample包,从“npu\_tuned\_model/llm/llama/be - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmpdv2_42_10_html.md ## 链路管理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmpdv2_42_12.html - Description: NN模型执行时调用的HCCL集合通信接口是双边通信,即需要两边同时发起建链,而在P-D分离方案中,简化建链操作,由Client单侧发起建链。不限制P/D任意一侧作为Client或者Server,用户可以根据需求自行调整,我们示例将D定义为Client端,建链过程实现由D向P发起建链的流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmpdv2_42_12_html.md ## KV Cache管理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmpdv2_42_13.html - Description: KV Cache管理涉及的主要接口及功能如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmpdv2_42_13_html.md ## 基本概念 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmpdv2_42_15.html - Description: **表1 基本概念** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmpdv2_42_15_html.md ## 大模型推理流程简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmpdv2_42_16.html - Description: ChatGPT的推出意味着交互式人工智能逐渐成为商业化成熟产品,同时也进一步推动了底层技术大型语言模型LLM的研究和进步。现有主要使用的LLM包括GPT系列、LLAMA系列、GLM系列。其模型基础架构都采用Transformer架构,并以Decode-Only为主。该类Transformer-Based-Decode-Only的LLM在推理预测时,采用自回归生成(auto-regressive g - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmpdv2_42_16_html.md ## 为什么要做PD分离 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmpdv2_42_17.html - Description: 从实现上来看,整个LLM推理过程由Prefill和多轮迭代的Decode组成,想要在Decode阶段实现Continuous batching的前提是,每个被调度的request需要有空闲算力完成Prefill计算。按现有的部署模式,Prefill和Decode部署在一起,当有新的Prefill请求时,会被优先处理,从而导致Decode的执行流程由于增量token时延(TBT)而无法得到有效保障。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmpdv2_42_17_html.md ## LLM-DataDist接口列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0001.html - Description: LLM-DataDist:大模型分布式集群和数据加速组件,提供了集群KV数据管理能力,以支持全量图和增量图分离部署。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0001_html.md ## LLMDataDist构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0003.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造LLMDataDist。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0003_html.md ## CANN商业版-init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0004.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 初始化LLMDataDist,需要在init的options中配置CacheManager模式,即enablecachemanager设置为True或者指定localcommres。 该模式下, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0004_html.md ## CANN商业版-finalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0005.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 释放LLMDataDist。 无 无 初始化成功后,系统退出前需要调用finalize。 finalize不能和其他接口并发调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0005_html.md ## CANN商业版-link\_clusters - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0006.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 单边建链,由Client单侧发起建链。是Client还是Server与角色prompt或者decoder无关。设置listenipinfo标识端口侦听,即为Server端。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0006_html.md ## CANN商业版-unlink\_clusters - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0007.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 单边断链,可以由Client单侧发起,通知Server进行断链;也可以Client和Server均发起强制断链,只清理本地链路。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0007_html.md ## CANN商业版-switch\_role - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0008.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 切换当前LLMDataDist的角色,同时可通过配置switchoptions切换Client或者Server。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0008_html.md ## CANN商业版-link - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0009.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 双边建链,通过建立通信域方式建链。(推荐使用更易用的单边建链的linkclusters接口,无需指定ranktable信息) 如果要在单机内且想使用RDMA网卡通信, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0009_html.md ## CANN商业版-unlink - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0010.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 双边建链对应的断链接口,调用此接口进行断链。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0010_html.md ## CANN商业版-query\_register\_mem\_status - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0011.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 调用此接口查询注册内存状态。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0011_html.md ## CANN商业版-cache\_manager - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0012.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取CacheManager实例。 无 返回CacheManager实例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0012_html.md ## LLMConfig构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0014.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造LLMConfig,调用init接口需要传入一个配置项字典,为了简化配置,可以通过此类来构造该配置项字典。 Decode和Prompt可以双向拉取Cache。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0014_html.md ## CANN商业版-generate\_options - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0015.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 生成配置项字典。 无 返回配置项字典。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0015_html.md ## CANN商业版-device\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0016.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 设置当前进程Device ID,对应底层ge.exec.deviceId配置项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0016_html.md ## CANN商业版-sync\_kv\_timeout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0017.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 配置pullcache、pullblocks、pushblocks、pushcache接口的超时时间,对应底层llm.SyncKvCacheWaitTime配置项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0017_html.md ## CANN商业版-ge\_options - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0018.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 配置额外的GE配置项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0018_html.md ## CANN商业版-listen\_ip\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0019.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 设置集群侦听信息,对应底层llm.listenIpInfo配置项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0019_html.md ## CANN商业版-enable\_cache\_manager - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0020.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 配置是否开启CacheManager模式,对应底层llm.EnableCacheManager配置项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0020_html.md ## CANN商业版-enable\_remote\_cache\_accessible - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0021.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 配置是否开启远端Cache可直接访问功能。 开启该Option后,会在本地缓存远端Cache元数据(索引,内存地址等),从而加速Pull流程。但也会引入相关约束,详见约束说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0021_html.md ## CANN商业版-rdma\_traffic\_class - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0022.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 用于配置RDMA网卡的traffic class。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0022_html.md ## CANN商业版-rdma\_service\_level - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0023.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 用于配置RDMA网卡的service level。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0023_html.md ## CANN商业版-local\_comm\_res - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0024.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 用于配置本地通信资源。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0024_html.md ## CANN商业版-link\_total\_time - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0025.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 用于配置HCCL建链失败的总超时时间。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0025_html.md ## CANN商业版-link\_retry\_count - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0026.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 用于配置HCCL建链失败的重试次数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0026_html.md ## CANN商业版-transfer\_backend - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0027.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 用于配置LLM-DataDist使用的传输后端。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0027_html.md ## CacheManager构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0029.html - Description: CacheManager的实例应该通过cache\_manager返回。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0029_html.md ## CANN商业版-pull\_cache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0030.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 根据CacheKey,从对应的对端节点拉取到本地Cache。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0030_html.md ## CANN商业版-pull\_blocks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0031.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 PagedAttention场景下,根据BlocksCacheKey,通过block列表的方式从对端节点拉取Cache到本地Cache。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0031_html.md ## CANN商业版-register\_cache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0032.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 非PagedAttention场景下,调用此接口注册一个自行申请的内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0032_html.md ## CANN商业版-register\_blocks\_cache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0033.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 PagedAttention场景下,调用此接口注册一个自行申请的内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0033_html.md ## CANN商业版-transfer\_cache\_async - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0034.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 异步分层传输Cache。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0034_html.md ## CANN商业版-push\_blocks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0035.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 PagedAttention场景下,根据BlocksCacheKey,通过block列表的方式从本地节点推送Cache到远端Cache。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0035_html.md ## CANN商业版-push\_cache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0036.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 根据CacheKey,从本地节点推送Cache到远端Cache。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0036_html.md ## CANN商业版-remap\_registered\_memory - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0037.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 大模型推理过程中,如果发生内存UCE故障,即返回错误码ACLERRORRTDEVICEMEMERROR,上层框架需要先判断发生该故障的内存是否为KV Cache内存,如果不是, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0037_html.md ## CANN商业版-unregister\_cache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0038.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 解除注册一个自行申请的内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0038_html.md ## Cache构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0040.html - Description: 构造Cache,该接口通常不需要用户调用,Cache对象由CacheManager里的allocate\_cache、allocate\_blocks\_cache、register\_cache或register\_blocks\_cache返回。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0040_html.md ## CANN商业版-cache\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0041.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取Cache的id。 无 正常情况返回类型为Cache的id。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0041_html.md ## CANN商业版-cache\_desc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0042.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取Cache描述。 无 正常情况返回类型为Cache的cache描述。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0042_html.md ## CANN商业版-tensor\_addrs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0043.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取Cache的地址。 无 正常情况返回类型为Cache的地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0043_html.md ## CANN商业版-create\_cpu\_cache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0044.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 创建cpu cache。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0044_html.md ## CANN商业版-LLMRole - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0045.html - Description: 调用init接口时传入的角色类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0045_html.md ## LLMClusterInfo构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0047.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造LLMClusterInfo,用于linkclusters和unlinkclusters接口的参数类型。 无 返回LLMClusterInfo的实例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0047_html.md ## CANN商业版-remote\_cluster\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0048.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 设置对端集群ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0048_html.md ## CANN商业版-append\_local\_ip\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0049.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 添加本地集群IP信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0049_html.md ## CANN商业版-append\_remote\_ip\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0050.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 添加远端集群IP信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0050_html.md ## CANN商业版-RegisterMemStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0051.html - Description: 调用query\_register\_mem\_status接口的返回值类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0051_html.md ## CANN商业版-Placement - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0052.html - Description: 表示Cache所在位置,通常作为CacheDesc的placement参数的类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0052_html.md ## CANN商业版-CacheDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0053.html - Description: 构造CacheDesc,通常在CacheManager的allocate\_cache接口中作为参数类型使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0053_html.md ## CANN商业版-MemType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0054.html - Description: 表示地址所在位置,通常作为MemInfo的mem\_type参数的类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0054_html.md ## CANN商业版-MemInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0055.html - Description: 构造MemInfo,通常在CacheManager的remap\_registered\_memory接口中作为参数类型使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0055_html.md ## CANN商业版-CacheKey - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0056.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造CacheKey,通常CacheManager的allocatecache、pullcache接口中作为参数类型使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0056_html.md ## CANN商业版-CacheKeyByIdAndIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0057.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造CacheKeyByIdAndIndex,通常在CacheManager的pullcache、pushcache接口中作为参数类型使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0057_html.md ## CANN商业版-BlocksCacheKey - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0058.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造BlocksCacheKey,通常在CacheManager的allocateblockscache、pullblocks、pushblocks接口中作为参数类型使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0058_html.md ## CANN商业版-LayerSynchronizer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0059.html - Description: 抽象类,需要由用户继承该抽象类实现相关接口。当前该类下只有一个接口synchronize\_layer。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0059_html.md ## CANN商业版-TransferConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0060.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造TransferConfig。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0060_html.md ## CANN商业版-TransferWithCacheKeyConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0061.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造TransferWithCacheKeyConfig。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0061_html.md ## CacheTask构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0063.html - Description: 构造CacheTask,由CacheManager.transfer\_cache\_async接口返回,表示分层传输异步任务。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0063_html.md ## CANN商业版-synchronize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0064.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 等待所有层传输完成,并获取整体执行结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0064_html.md ## CANN商业版-get\_results - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0065.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 等待所有层传输完成,并获取每个TransferConfig对应执行结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0065_html.md ## CANN商业版-LLMException - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0066.html - Description: 调用LLMDataDist各接口,异常场景可能抛出LLMException异常。当前该类下只有一个接口status\_code。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0066_html.md ## CANN商业版-LLMStatusCode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0067.html - Description: LLMException中status\_code对应的枚举类,枚举值及解决方法如下表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0067_html.md ## CANN商业版-DataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0068.html - Description: DataType枚举类,枚举值如下表所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0068_html.md ## CANN商业版-allocate\_cache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0071.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 分配Cache,Cache分配成功后,会同时被cacheid与cachekeys引用,只有当这些引用都解除后,cache所占用的资源才会实际释放。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0071_html.md ## CANN商业版-deallocate\_cache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0072.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 释放Cache。 如果该Cache在被分配时关联了CacheKey,则实际的释放会延后到所有的CacheKey被拉取或执行了removecachekey。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0072_html.md ## CANN商业版-remove\_cache\_key - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0073.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 移除CacheKey。 移除CacheKey后,该Cache将无法再被pullcache拉取。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0073_html.md ## CANN商业版-copy\_cache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0074.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 拷贝Cache。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0074_html.md ## CANN商业版-allocate\_blocks\_cache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0075.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 PagedAttention场景下,分配多个blocks的Cache,Cache分配成功后,可通过deallocateblockscache释放内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0075_html.md ## CANN商业版-deallocate\_blocks\_cache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0076.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 PagedAttention场景下,释放allocateblockscache申请的Cache。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0076_html.md ## CANN商业版-copy\_blocks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0077.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 PagedAttention场景下,拷贝block。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0077_html.md ## CANN商业版-swap\_blocks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0078.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 对cpucache和npucache进行换入换出。 对于swap out功能,该接口启用了4个线程执行并行任务;对于swap in功能,该接口启用了1个d2d线程。为了性能稳定, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0078_html.md ## CANN商业版-mem\_pool\_cfg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0080.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 配置内存池相关配置项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0080_html.md ## CANN商业版-host\_mem\_pool\_cfg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0081.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 配置Host内存池相关配置项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_hixlug_llmprv2_42_0081_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi - Description: 接口名以acl作为前缀,命名风格为:acl+接口类别缩写+*,其中,*表示操作动词和对象,均采用首字母大写。下文为了描述方便,将本文中的接口统称为acl接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1952_html.md ## 废弃接口与返回码列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0019.html - Description: - aclGetDataBufferSize - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0019_html.md ## 同步与异步API说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0020.html - Description: CANN支持以下几类显式同步,调用此类接口后,主机线程会阻塞直到相关的任务执行完成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0020_html.md ## CANN商业版-aclInit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0022.html - Description: 初始化函数。 使用acl接口开发应用时,必须先调用aclInit接口,否则可能会导致后续系统内部资源初始化出错,进而导致其它业务异常。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0022_html.md ## CANN商业版-aclFinalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0023.html - Description: 去初始化函数,用于释放进程内acl接口使用的相关资源。 对于涉及Device业务日志回传到Host的场景,本接口默认增加2000ms延时(实际最大延时可达2000ms),以确保ERROR级别和EVENT级别日志完整回传,防止不丢失。您可以将ASCENDLOGDEVICEFLUSHTIMEOUT环境变量设置为0(命令示例:export ASCENDLOGDEVICEFLUSHTIMEOUT\=0),来 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0023_html.md ## CANN商业版-aclGetRecentErrMsg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0028.html - Description: 获取并清空与本接口在同一个进程或线程中的其它acl接口调用失败时的错误描述信息。 获取进程级别、还是线程级别的错误描述信息由aclInit接口中的errmsgmode配置控制,默认线程级别。 建议在每次调用acl接口失败时都调用aclGetRecentErrMsg接口,以便获取调用acl接口异常时的错误描述信息,用于定位问题,否则可能导致错误信息堆积、丢失。同一个进程或线程中多次调用aclGetR - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0028_html.md ## CANN商业版-aclAppLog - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0029.html - Description: 将日志记录到日志文件中。 acl接口还提供了ACLAPPLOG宏,封装aclAppLog接口,推荐用户调用ACLAPPLOG宏,传入日志级别、日志描述、fmt中的可变参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0029_html.md ## CANN商业版-aclDataTypeSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0030.html - Description: 获取aclDataType数据的大小,单位Byte。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0030_html.md ## CANN商业版-aclFloat16ToFloat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0031.html - Description: 将aclFloat16类型的数据转换为float(指float32)类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0031_html.md ## CANN商业版-aclFloatToFloat16 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0032.html - Description: 将float(指float32)类型的数据转换为aclFloat16类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0032_html.md ## CANN商业版-aclGetCannAttributeList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0034.html - Description: 查询运行环境中CANN软件和对应AI处理器支持的特性列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0034_html.md ## CANN商业版-aclGetCannAttribute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0035.html - Description: 查询运行环境是否支持指定的CANN特性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0035_html.md ## CANN商业版-aclGetDeviceCapability - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0036.html - Description: 查询运行环境中对应Device的硬件规格大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0036_html.md ## CANN商业版-aclrtSetDevice - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0039.html - Description: 指定当前线程中用于运算的Device。在不同线程中支持调用aclrtSetDevice接口指定同一个Device用于运算。 调用本接口会隐式创建默认Context,该默认Context中包含一个默认Stream。在同一个进程的多个线程中,如果调用aclrtSetDevice接口并指定相同的Device用于计算,那么这些线程将共享同一个默认Context。 但 Atlas 推理系列产品 的EP标准形 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0039_html.md ## CANN商业版-aclrtResetDevice - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0040.html - Description: 复位当前运算的Device,释放Device上的资源。释放的资源包括默认Context、默认Stream以及默认Context下创建的所有Stream。若默认Context或默认Stream下的任务还未完成,系统会等待任务完成后再释放。 aclrtResetDevice接口内部涉及引用计数的实现,建议aclrtResetDevice接口与aclrtSetDevice接口配对使用,aclrtSetD - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0040_html.md ## CANN商业版-aclrtResetDeviceForce - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0041.html - Description: 复位当前运算的Device,释放Device上的资源。释放的资源包括默认Context、默认Stream以及默认Context下创建的所有Stream。若默认Context或默认Stream下的任务还未完成,系统会等待任务完成后再释放。 aclrtResetDeviceForce接口可与aclrtSetDevice接口配对使用,也可不与aclrtSetDevice接口配对使用,若不配对使用,一个进 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0041_html.md ## CANN商业版-aclrtGetDevice - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0042.html - Description: 获取当前正在使用的Device的ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0042_html.md ## CANN商业版-aclrtGetRunMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0043.html - Description: 获取当前AI软件栈的运行模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0043_html.md ## CANN商业版-aclrtSetTsDevice - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0044.html - Description: 设置本次计算需要使用的Task Schedule。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0044_html.md ## CANN商业版-aclrtGetDeviceCount - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0045.html - Description: 获取可用Device的数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0045_html.md ## CANN商业版-aclrtGetDeviceUtilizationRate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0046.html - Description: 查询Device上Cube、Vector、AI CPU等的利用率。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0046_html.md ## CANN商业版-aclrtGetSocName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0048.html - Description: 查询当前运行环境的AI处理器版本。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0048_html.md ## CANN商业版-aclrtSetDeviceSatMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0049.html - Description: 设置当前Device的浮点计算结果输出模式。 调用该接口成功后,后续在该Device上新创建的Stream按设置的模式生效,对之前已创建的Stream不生效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0049_html.md ## CANN商业版-aclrtGetDeviceSatMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0050.html - Description: 查询当前Device的浮点计算结果输出模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0050_html.md ## CANN商业版-aclrtDeviceCanAccessPeer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0051.html - Description: 查询Device之间是否支持数据交互。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0051_html.md ## CANN商业版-aclrtDeviceEnablePeerAccess - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0052.html - Description: 开启当前Device与指定Device之间的数据交互。开启数据交互是Device级的。 调用本接口开启Device之间的数据交互是单向的。例如,当前Device ID为0,调用aclrtDeviceEnablePeerAccess接口指定Device ID为1后,仅Device 0到Device 1方向的数据交互是可行的。若要启用Device 1到Device 0方向的数据交互,则需将当前Devi - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0052_html.md ## CANN商业版-aclrtDeviceDisablePeerAccess - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0053.html - Description: 关闭当前Device与指定Device之间的数据交互功能。关闭数据交互功能是Device级的。 调用aclrtDeviceEnablePeerAccess接口开启当前Device与指定Device之间的数据交互后,可调用aclrtDeviceDisablePeerAccess接口关闭数据交互功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0053_html.md ## CANN商业版-aclrtGetOverflowStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0054.html - Description: 获取当前Device下所有Stream上任务的溢出状态,并将状态值拷贝到用户申请的Device内存中。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0054_html.md ## CANN商业版-aclrtResetOverflowStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0055.html - Description: 清除当前Device下所有Stream上任务的溢出状态。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0055_html.md ## CANN商业版-aclrtSynchronizeDevice - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0056.html - Description: 阻塞当前线程,直到与当前线程绑定的Context所对应的Device完成运算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0056_html.md ## CANN商业版-aclrtSynchronizeDeviceWithTimeout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0057.html - Description: 阻塞当前线程,直到与当前线程绑定的Context所对应的Device完成运算。该接口是在aclrtSynchronizeDevice接口基础上进行了增强,支持用户设置超时时间,当应用程序异常时可根据所设置的超时时间自行退出,超时退出时本接口返回ACLERRORRTSTREAMSYNCTIMEOUT。 多Device场景下,调用该接口等待的是当前Context对应的Device。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0057_html.md ## CANN商业版-aclrtCreateContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0059.html - Description: 在当前线程中显式创建Context,并将当前线程与新创建的Context相关联。 若不调用aclrtCreateContext接口显式创建Context,那系统会使用默认Context,该默认Context是在调用aclrtSetDevice接口时隐式创建的。默认Context适合简单、无复杂交互逻辑的应用,但缺点在于,在多线程编程中,执行结果取决于线程调度的顺序。显式创建的Context适合大型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0059_html.md ## CANN商业版-aclrtDestroyContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0060.html - Description: 销毁Context,释放Context的资源。只能销毁通过aclrtCreateContext接口创建的Context。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0060_html.md ## CANN商业版-aclrtSetCurrentContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0061.html - Description: 设置线程的Context。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0061_html.md ## CANN商业版-aclrtCtxSetSysParamOpt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0063.html - Description: 设置当前Context中的系统参数值,多次调用本接口,以最后一次设置的值为准。调用本接口设置运行时参数值后,若需获取参数值,需调用aclrtCtxGetSysParamOpt接口。 本接口与aclrtSetSysParamOpt接口的差别是,本接口作用域是Context,aclrtSetSysParamOpt的作用域是进程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0063_html.md ## CANN商业版-aclrtCtxGetSysParamOpt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0064.html - Description: 获取当前Context中的系统参数值。 系统参数无默认值,如果不调用aclrtCtxSetSysParamOpt接口设置系统参数的值,直接调用本接口获取系统参数的值,接口会返回失败。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0064_html.md ## CANN商业版-aclrtCreateStream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0066.html - Description: 创建Stream。 该接口不支持设置Stream的优先级;若不设置,Stream的优先级默认为最高。如需在创建Stream时设置优先级,请参见aclrtCreateStreamWithConfig接口。 若不显式调用Stream创建接口,那么每个Context对应一个默认Stream,该默认Stream是调用aclrtSetDevice接口或aclrtCreateContext接口隐式创建的,默认 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0066_html.md ## CANN商业版-aclrtCreateStreamV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0067.html - Description: 创建Stream,支持创建Stream时增加Stream配置。 本接口需要配合其它接口一起使用,创建Stream,接口调用顺序如下:1. 调用 aclrtCreateStreamConfigHandle 接口创建Stream配置对象。 2. 多次调用 aclrtSetStreamConfigOpt 接口设置配置对象中每个属性的值。 3. 调用aclrtCreateStreamV2接口创建Str - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0067_html.md ## CANN商业版-aclrtSetStreamConfigOpt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0068.html - Description: 设置Stream配置对象中的各属性的取值。 本接口需要配合其它接口一起使用,创建Stream,接口调用顺序如下:1. 调用 aclrtCreateStreamConfigHandle 接口创建Stream配置对象。 2. 多次调用aclrtSetStreamConfigOpt接口设置配置对象中每个属性的值。 3. 调用 aclrtCreateStreamV2 接口创建Stream。 4. St - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0068_html.md ## CANN商业版-aclrtCreateStreamWithConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0069.html - Description: 在当前进程或线程中创建Stream。 - 针对如下产品型号,相比 aclrtCreateStream 接口,使用本接口可以创建一个快速下发任务的Stream,但会增加内存消耗或CPU的性能消耗。 Atlas 350 加速卡 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 Atlas 推理系列产 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0069_html.md ## CANN商业版-aclrtDestroyStream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0070.html - Description: 销毁Stream,销毁通过aclrtCreateStream或aclrtCreateStreamWithConfig或aclrtCreateStreamV2接口创建的Stream,若Stream上有未完成的任务,会等待任务完成后再销毁Stream。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0070_html.md ## CANN商业版-aclrtDestroyStreamForce - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0071.html - Description: 销毁Stream,销毁通过aclrtCreateStream或aclrtCreateStreamWithConfig接口创建的Stream,若Stream上有未完成的任务,不会等待任务完成,直接强制销毁Stream。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0071_html.md ## CANN商业版-aclrtSetStreamOverflowSwitch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0072.html - Description: 饱和模式下,对接上层训练框架时(例如PyTorch),针对指定Stream,打开或关闭溢出检测开关,关闭后无法通过溢出检测算子获取任务是否溢出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0072_html.md ## CANN商业版-aclrtGetStreamOverflowSwitch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0073.html - Description: 针对指定Stream,获取其当前溢出检测开关是否打开。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0073_html.md ## CANN商业版-aclrtSetStreamFailureMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0074.html - Description: 当一个Stream上下发了多个任务时,可通过本接口指定任务调度模式,以便控制某个任务失败后是否继续执行下一个任务。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0074_html.md ## CANN商业版-aclrtStreamQuery - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0075.html - Description: 查询指定Stream上的所有任务的执行状态。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0075_html.md ## CANN商业版-aclrtSynchronizeStream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0076.html - Description: 阻塞Host侧当前线程直到指定Stream中的所有任务都完成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0076_html.md ## CANN商业版-aclrtSynchronizeStreamWithTimeout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0077.html - Description: 阻塞Host侧当前线程直到指定Stream中的所有任务都完成,该接口是在aclrtSynchronizeStream接口基础上进行了增强,支持用户设置超时时间,当应用程序异常时可根据所设置的超时时间自行退出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0077_html.md ## CANN商业版-aclrtCreateEvent - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0079.html - Description: 创建Event,创建出来的Event可用于统计两个Event之间的耗时、多Stream之间的任务同步等场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0079_html.md ## CANN商业版-aclrtCreateEventWithFlag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0080.html - Description: 创建带flag的Event,不同flag的Event用于不同的功能。支持创建Event时携带多个flag(按位进行或操作),从而同时使能对应flag的功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0080_html.md ## CANN商业版-aclrtCreateEventExWithFlag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0081.html - Description: 创建带flag的Event,不同flag的Event用于不同的功能。支持创建Event时携带多个flag(按位进行或操作),从而同时使能对应flag的功能。创建Event时,Event资源不受硬件限制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0081_html.md ## CANN商业版-aclrtDestroyEvent - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0082.html - Description: 销毁Event,支持在Event未完成前调用本接口销毁Event。此时,本接口不会阻塞线程等Event完成,Event相关资源会在Event完成时被自动释放。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0082_html.md ## CANN商业版-aclrtRecordEvent - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0083.html - Description: 在指定Stream中记录一个Event。异步接口。 aclrtRecordEvent接口与aclrtStreamWaitEvent接口配合使用时,主要用于多Stream之间同步等待的场景。 调用aclrtRecordEvent接口时,会捕获当前Stream上已下发的任务,并记录到Event事件中,因此后续若调用aclrtQueryEventStatus或aclrtStreamWaitEvent接口 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0083_html.md ## CANN商业版-aclrtResetEvent - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0084.html - Description: 复位Event,恢复Event初始状态,便于Event对象重复使用。异步接口。 对于多个Stream间任务同步的场景,通常在调用aclrtStreamWaitEvent接口之后再复位Event。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0084_html.md ## CANN商业版-aclrtQueryEvent(废弃) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0085.html - Description: 须知:此接口后续版本会废弃,请使用aclrtQueryEventStatus接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0085_html.md ## CANN商业版-aclrtQueryEventStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0086.html - Description: 查询该Event捕获的所有任务的执行状态。具体见aclrtRecordEvent接口参考Event捕获的细节。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0086_html.md ## CANN商业版-aclrtQueryEventWaitStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0087.html - Description: 调用aclrtStreamWaitEvent接口后查询该Event对应的等待任务是否都执行完成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0087_html.md ## CANN商业版-aclrtSynchronizeEvent - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0088.html - Description: 阻塞当前线程运行直到Event捕获的所有任务都执行完成。具体见aclrtRecordEvent接口参考Event捕获的细节。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0088_html.md ## CANN商业版-aclrtSynchronizeEventWithTimeout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0089.html - Description: 阻塞当前线程运行直到Event捕获的所有任务都执行完成(具体见aclrtRecordEvent接口参考Event捕获的细节),该接口是在接口aclrtSynchronizeEvent基础上进行了增强,支持用户设置永久等待、或配置具体的超时时间,若配置具体的超时时间,则当应用程序异常时可根据所设置的超时时间自行退出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0089_html.md ## CANN商业版-aclrtEventElapsedTime - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0090.html - Description: 统计两个Event之间的耗时。 本接口需与其它关键接口配合使用,接口调用顺序:调用aclrtCreateEvent/aclrtCreateEventWithFlag接口创建Event-->调用aclrtRecordEvent接口在同一个Stream中记录起始Event、结尾Event-->调用aclrtSynchronizeStream接口阻塞应用程序运行,直到指定Stream中的所有任务都完成- - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0090_html.md ## CANN商业版-aclrtStreamWaitEvent - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0091.html - Description: 阻塞指定Stream的运行,直到指定的Event完成,支持多个Stream等待同一个Event的场景。异步接口。 提交到Stream上的所有后续任务都需要等待Event捕获的任务都完成后才能开始执行。具体见aclrtRecordEvent接口了解Event捕获的细节。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0091_html.md ## CANN商业版-aclrtSetOpWaitTimeout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0092.html - Description: 本接口用于设置等待Event完成的超时时间。 不调用本接口,则默认不超时;一个进程内多次调用本接口,则以最后一次设置的时间为准。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0092_html.md ## 内存使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0094.html - Description: 各产品型号在内存使用上有一些注意事项,如下所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0094_html.md ## CANN商业版-aclrtMalloc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0095.html - Description: 在Device上分配size大小的线性内存,并通过devPtr返回已分配内存的指针,且内存首地址64字节对齐。使用本接口申请的内存,需要通过aclrtFree接口或aclrtFreeWithDevSync接口释放内存。 本接口分配的内存,会进行字节对齐,会对用户申请的size向上对齐成32字节整数倍后再多加32字节。但对于内存申请粒度为1G的大页内存,为节省大页内存,本接口会对用户申请的size仅 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0095_html.md ## CANN商业版-aclrtMallocAlign32 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0096.html - Description: 在Device上分配size大小的线性内存,并通过devPtr返回已分配内存的指针。本接口分配的内存会进行字节对齐,会对用户申请的size向上对齐成32字节整数倍。使用本接口申请的内存,需要通过aclrtFree接口或aclrtFreeWithDevSync接口释放内存。 与aclrtMalloc接口相比,本接口只会对用户申请的size向上对齐成32字节整数倍,不会再多加32字节。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0096_html.md ## CANN商业版-aclrtMallocCached - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0097.html - Description: 在Device上申请size大小的线性内存,通过devPtr返回已分配内存的指针,该接口在任何场景下申请的内存都是支持Cache缓存。 使用aclrtMallocCached接口申请的内存与使用aclrtMalloc接口申请的内存是等价的,都支持Cache缓存,不需要用户处理CPU与NPU之间的Cache一致性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0097_html.md ## CANN商业版-aclrtMemFlush - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0098.html - Description: 将Cache中的数据刷新到DDR中,并将Cache中的内容设置成无效。 该版本不需要用户处理CPU与NPU之间的Cache一致性,无需调用该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0098_html.md ## CANN商业版-aclrtMemInvalidate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0099.html - Description: 将Cache中的数据设置成无效。 该版本不需要用户处理CPU与NPU之间的Cache一致性,无需调用该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0099_html.md ## CANN商业版-aclrtFree - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0100.html - Description: 释放Device上的内存。 本接口会立刻释放传入的内存,接口内部不会进行隐式的Device同步或流同步、也不会等待使用该内存的任务完成。用户需确保在调用本接口后不再访问该内存指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0100_html.md ## CANN商业版-aclrtMallocHost - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0101.html - Description: 申请Host内存(该内存是锁页内存),由系统保证内存首地址64字节对齐。 通过本接口申请的内存,需要通过aclrtFreeHost接口或aclrtFreeHostWithDevSync接口释放内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0101_html.md ## CANN商业版-aclrtFreeHost - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0102.html - Description: 释放通过aclrtMallocHost接口或aclrtMallocHostWithCfg接口申请的Host内存。 本接口会立刻释放传入的内存,接口内部不会进行隐式的Device同步或流同步、也不会等待使用该内存的任务完成。用户需确保在调用本接口后不再访问该内存指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0102_html.md ## CANN商业版-aclrtMemset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0103.html - Description: 初始化内存,将内存中的内容设置为指定的值。 要初始化的内存支持在Host侧或Device侧,系统根据地址判定是Host还是Device。如果Host内存不是用acl接口(例如aclrtMallocHost)申请的,将会导致未定义的行为。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0103_html.md ## CANN商业版-aclrtMemsetAsync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0104.html - Description: 初始化内存,将内存中的内容设置为指定的值。异步接口。 要初始化的内存支持在Host侧或Device侧,系统根据地址判定是Host还是Device。如果Host内存不是用acl接口(例如aclrtMallocHost)申请的,将会导致未定义的行为。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0104_html.md ## CANN商业版-aclrtMemcpy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0105.html - Description: 实现内存复制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0105_html.md ## CANN商业版-aclrtMemcpyAsync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0106.html - Description: 实现内存复制。 本接口中的Host内存支持锁页内存(例如通过aclrtMallocHost接口申请的内存)、非锁页内存(通过malloc接口申请的内存)。当Host内存是锁页内存时,本接口是异步接口,调用接口成功仅表示任务下发成功,不表示任务执行成功,调用本接口后,需调用同步等待接口(例如,aclrtSynchronizeStream)确保内存复制的任务已执行完成;当Host内存是非锁页内存时,本 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0106_html.md ## CANN商业版-aclrtGetMemInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0107.html - Description: 根据指定属性,获取Device上可用内存的空闲大小和总大小,不包括系统预留内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0107_html.md ## CANN商业版-aclrtMemcpy2d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0108.html - Description: 实现同步内存复制,主要用于矩阵数据的复制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0108_html.md ## CANN商业版-aclrtMemcpy2dAsync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0109.html - Description: 实现异步内存复制,主要用于矩阵数据的复制。异步接口。 本接口中的Host内存支持锁页内存(例如通过aclrtMallocHost接口申请的内存)、非锁页内存(通过malloc接口申请的内存)。当Host内存是非锁页内存时,本接口在内存复制任务完成后才返回;当Host内存是锁页内存时,本接口是异步接口,调用接口成功仅表示任务下发成功,不表示任务执行成功,调用本接口后,需调用同步等待接口(例如,acl - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0109_html.md ## CANN商业版-aclrtAllocatorRegister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0110.html - Description: 调用该接口注册用户提供的Allocator以及Allocator对应的回调函数,以便后续使用用户提供的Allocator。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0110_html.md ## CANN商业版-aclrtAllocatorUnregister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0111.html - Description: 用户销毁Allocator前,需调用本接口取消注册用户提供的Allocator以及Allocator对应的回调函数。 待取消注册的Stream不存在,或多次调用本接口取消注册,本接口内部不做任何操作,返回成功。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0111_html.md ## CANN商业版-aclrtMallocPhysical - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0112.html - Description: 申请Host或Device物理内存,并返回一个物理内存handle。 本接口可配合aclrtReserveMemAddress接口(申请虚拟内存)、aclrtMapMem接口(建立虚拟内存与物理内存之间的映射)使用,以便申请地址连续的虚拟内存、最大化利用物理内存。 本接口可配合aclrtMemExportToShareableHandle接口(导出物理内存handle)、aclrtMemImpor - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0112_html.md ## CANN商业版-aclrtFreePhysical - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0113.html - Description: 释放通过aclrtMallocPhysical接口申请的物理内存。 如果物理内存与虚拟内存之间存在映射关系,则此处不会实际释放物理内存。只有在调用aclrtUnmapMem接口取消该物理内存与虚拟内存的映射之后,物理内存才会被真正释放。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0113_html.md ## CANN商业版-aclrtReserveMemAddress - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0114.html - Description: 预留虚拟内存。 本接口需与以下其它接口配合使用,以便申请地址连续的虚拟内存、最大化利用物理内存:1. 申请虚拟内存( aclrtReserveMemAddress 接口); 2. 申请物理内存( aclrtMallocPhysical 接口); 3. 将虚拟内存映射到物理内存( aclrtMapMem 接口); 4. 执行任务(调用具体的任务接口); 5. 取消虚拟内存与物理内存的映射( - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0114_html.md ## CANN商业版-aclrtReleaseMemAddress - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0115.html - Description: 释放通过aclrtReserveMemAddress接口申请的虚拟内存。 本接口需与以下其它接口配合使用,以便申请地址连续的虚拟内存、最大化利用物理内存:1. 申请虚拟内存( aclrtReserveMemAddress 接口); 2. 申请物理内存( aclrtMallocPhysical 接口); 3. 将虚拟内存映射到物理内存( aclrtMapMem 接口); 4. 执行任务(调用具 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0115_html.md ## CANN商业版-aclrtMapMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0116.html - Description: 将虚拟内存映射到物理内存。 本接口需与以下其它接口配合使用,以便申请地址连续的虚拟内存、最大化利用物理内存:1. 申请虚拟内存( aclrtReserveMemAddress 接口); 2. 申请物理内存( aclrtMallocPhysical 接口); 3. 将虚拟内存映射到物理内存( aclrtMapMem 接口); 4. 执行任务(调用具体的任务接口); 5. 取消虚拟内存与物理内存 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0116_html.md ## CANN商业版-aclrtUnmapMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0117.html - Description: 取消虚拟内存与物理内存之间的映射关系。 本接口需与以下其它接口配合使用,以便申请地址连续的虚拟内存、最大化利用物理内存:1. 申请虚拟内存( aclrtReserveMemAddress 接口); 2. 申请物理内存( aclrtMallocPhysical 接口); 3. 将虚拟内存映射到物理内存( aclrtMapMem 接口); 4. 执行任务(调用具体的任务接口); 5. 取消虚拟内 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0117_html.md ## CANN商业版-aclrtMemExportToShareableHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0118.html - Description: 将本进程通过aclrtMallocPhysical接口获取到的Device物理内存handle导出,以便后续将Device物理内存共享给其它进程。 本接口需与以下其它关键接口配合使用,以便实现内存共享,此处以A、B进程为例,说明两个进程间的物理内存共享接口调用流程: 1. 在A进程中: a. 调用 aclrtMallocPhysical 接口,申请物理内存。 先调用aclrtMe - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0118_html.md ## CANN商业版-aclrtDeviceGetBareTgid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0119.html - Description: 获取当前进程的进程ID。 本接口内部在获取进程ID时已适配物理机、虚拟机场景,用户只需调用本接口获取进程ID,再配置其它接口使用(配合流程请参见aclrtMemExportToShareableHandle),达到物理内存共享的目的。若用户不调用本接口、自行获取进程ID,可能会导致后续使用进程ID异常。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0119_html.md ## CANN商业版-aclrtMemSetPidToShareableHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0120.html - Description: 设置共享内存的进程白名单。 在调用aclrtMemExportToShareableHandle接口的进程中,调用本接口设置进程白名单。本接口需与其它接口配合使用,以便实现内存共享的目的,请参见aclrtMemExportToShareableHandle接口处的说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0120_html.md ## CANN商业版-aclrtMemImportFromShareableHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0121.html - Description: 在本进程中获取shareableHandle里的信息,并返回本进程中的handle,用于在本进程中建立虚拟地址与物理地址之间的映射关系。本接口还支持生成指定Device上的handle。 本接口需与其它接口配合使用,以便实现内存共享的目的,配合使用流程请参见aclrtMemExportToShareableHandle接口处的说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0121_html.md ## CANN商业版-aclrtMemGetAllocationGranularity - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0122.html - Description: 查询内存申请粒度。 系统内部会根据用户指定的内存属性信息计算最小粒度或建议粒度,并以granularity参数返回粒度。此粒度可用作对齐、地址大小或地址映射的倍数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0122_html.md ## CANN商业版-aclrtCmoAsync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0123.html - Description: 实现Device上的Cache内存操作。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0123_html.md ## CANN商业版-aclrtSubscribeReport - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0125.html - Description: 注册处理Stream上回调函数的线程。 本接口需与以下其它接口配合使用,以便实现异步场景下的callback功能:1. 定义并实现回调函数,函数原型为:typedef void \(aclrtCallback\)\(void userData\); 2. 新建线程,在线程函数内,调用 aclrtProcessReport 接口设置超时时间(需循环调用),等待回调任务执行; 3. 调用 aclrtSub - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0125_html.md ## CANN商业版-aclrtLaunchCallback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0126.html - Description: 在Stream的任务队列中下发一个Host回调任务,系统内部在执行到该回调任务时,会在Stream上注册的线程(该线程由用户自行创建,并通过aclrtSubscribeReport接口注册)中执行回调函数。异步接口。 本接口需与以下其它接口配合使用,以便实现异步场景下的callback功能:1. 定义并实现回调函数,函数原型为:typedef void \(aclrtCallback\)\(void u - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0126_html.md ## CANN商业版-aclrtProcessReport - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0127.html - Description: 调用本接口设置超时时间,等待aclrtLaunchCallback接口下发的回调任务执行。 本接口需与以下其它接口配合使用,以便实现异步场景下的callback功能:1. 定义并实现回调函数,函数原型为:typedef void \(aclrtCallback\)\(void userData\); 2. 新建线程,在线程函数内,调用 aclrtProcessReport 接口设置超时时间(需循环调用) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0127_html.md ## CANN商业版-aclrtUnSubscribeReport - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0128.html - Description: 取消线程注册,Stream上的回调函数不再由指定线程处理。 本接口需与以下其它接口配合使用,以便实现异步场景下的callback功能:1. 定义并实现回调函数,函数原型为:typedef void \(aclrtCallback\)\(void userData\); 2. 新建线程,在线程函数内,调用 aclrtProcessReport 接口设置超时时间(需循环调用),等待回调任务执行; 3. 调用 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0128_html.md ## CANN商业版-aclrtSubscribeHostFunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0129.html - Description: 调用本接口注册处理Stream上回调函数的线程(线程需由用户自行创建)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0129_html.md ## CANN商业版-aclrtProcessHostFunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0130.html - Description: 等待指定时间后,触发回调处理,由aclrtSubscribeHostFunc接口指定的线程处理回调。 线程需由用户提前自行创建,并自定义线程函数,在线程函数内调用本接口,等待指定时间后通过系统内部进行算子计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0130_html.md ## CANN商业版-aclrtUnSubscribeHostFunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0131.html - Description: 与aclrtSubscribeHostFunc接口配合使用,调用模型执行接口后,调用本接口取消线程注册,Stream上的回调函数不再由指定线程处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0131_html.md ## CANN商业版-aclrtSetOpExecuteTimeOut - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0132.html - Description: 设置算子执行的超时时间,单位为秒。一个进程内多次调用本接口,则以最后一次设置的时间为准。 对于以下产品型号,建议使用aclrtSetOpExecuteTimeOutV2接口,该接口会返回实际生效的超时时间: Atlas 350 加速卡 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0132_html.md ## CANN商业版-aclrtSetExceptionInfoCallback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0134.html - Description: 设置异常回调函数。若多次设置异常回调函数,以最后一次设置为准。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0134_html.md ## CANN商业版-aclrtGetTaskIdFromExceptionInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0135.html - Description: 获取异常信息中的任务ID。该接口与aclrtSetExceptionInfoCallback接口配合使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0135_html.md ## CANN商业版-aclrtGetStreamIdFromExceptionInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0136.html - Description: 获取异常信息中的Stream ID。该接口与aclrtSetExceptionInfoCallback接口配合使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0136_html.md ## CANN商业版-aclrtGetThreadIdFromExceptionInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0137.html - Description: 获取异常信息中的线程ID。该接口与aclrtSetExceptionInfoCallback接口配合使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0137_html.md ## CANN商业版-aclrtGetDeviceIdFromExceptionInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0138.html - Description: 获取异常信息中的Device ID。该接口与aclrtSetExceptionInfoCallback接口配合使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0138_html.md ## CANN商业版-aclrtGetErrorCodeFromExceptionInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0139.html - Description: 获取异常信息中的错误码。该接口与aclrtSetExceptionInfoCallback接口配合使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0139_html.md ## CANN商业版-aclrtGetMemUceInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0140.html - Description: 须知:本接口为预留接口,暂不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0140_html.md ## CANN商业版-aclrtDeviceTaskAbort - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0141.html - Description: 须知:本接口为预留接口,暂不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0141_html.md ## CANN商业版-aclrtMemUceRepair - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0142.html - Description: 须知:本接口为预留接口,暂不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0142_html.md ## CANN商业版-aclrtPeekAtLastError - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0143.html - Description: 获取当前线程的Runtime(运行时管理模块)错误码,仅获取但不清空错误码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0143_html.md ## CANN商业版-aclrtGetLastError - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0144.html - Description: 获取当前线程的Runtime(运行时管理模块)错误码,获取后清空当前线程的错误码,这时在线程中无新增错误码之前,调用本接口获取到的是ACLSUCCESS。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0144_html.md ## CANN商业版-aclrtCreateBinary - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0146.html - Description: 创建aclrtBinary类型的数据,该数据类型用于描述算子二进制信息。此处的算子为使用Ascend C语言开发的自定义算子。 如需销毁aclrtBinary类型的数据,请参见aclrtDestroyBinary。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0146_html.md ## CANN商业版-aclrtDestroyBinary - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0147.html - Description: 销毁通过aclrtCreateBinary接口创建的aclrtBinary类型的数据。此处的算子为使用Ascend C语言开发的自定义算子。 注意,此处仅销毁aclrtBinary的数据,调用aclrtCreateBinary接口时传入的data内存需由用户自行、及时释放,否则可能会导致内存异常。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0147_html.md ## CANN商业版-aclrtBinaryLoad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0148.html - Description: 解析、加载算子二进制文件,输出指向算子二进制的binHandle,同时将算子二进制文件数据拷贝至当前Context对应的Device上。此处的算子为使用Ascend C语言开发的自定义算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0148_html.md ## CANN商业版-aclrtBinaryUnLoad - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0149.html - Description: 删除binHandle指向的算子二进制数据,同时也删除加载算子二进制文件时拷贝到Device上的算子二进制数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0149_html.md ## CANN商业版-aclrtBinaryGetFunction - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0150.html - Description: 根据核函数名称,查找到对应的核函数,并使用funcHandle表达。 对于同一个binHandle,首次调用aclrtBinaryGetFunction接口时,会默认将binHandle关联的算子二进制数据拷贝至当前Context对应的Device上。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0150_html.md ## CANN商业版-aclrtLaunchKernel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0151.html - Description: 启动对应算子的计算任务,异步接口。此处的算子为使用Ascend C语言开发的自定义算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0151_html.md ## CANN商业版-aclrtSetGroup - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0153.html - Description: 指定当前运算使用哪个Group的算力,该接口必须在指定Context后调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0153_html.md ## CANN商业版-aclrtGetGroupCount - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0154.html - Description: 查询当前Context下可以使用的Group个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0154_html.md ## CANN商业版-aclrtGetAllGroupInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0155.html - Description: 查询当前Context下可以使用的所有Group的详细算力信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0155_html.md ## CANN商业版-aclrtGetGroupInfoDetail - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0156.html - Description: 查询当前Context下指定Group的算力信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0156_html.md ## CANN商业版-aclrtCreateGroupInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0157.html - Description: 根据实际支持的Group数量创建aclrtGroupInfo类型的连续内存块,并返回对应指针。 如需销毁aclrtGroupInfo类型的数据,请参见aclrtDestroyGroupInfo。 不支持在 Atlas 推理系列产品 Ascend EP 形态下调用本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0157_html.md ## CANN商业版-aclrtDestroyGroupInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0158.html - Description: 销毁aclrtGroupInfo类型的数据,释放相关的内存。只能销毁通过aclrtCreateGroupInfo接口创建的aclrtGroupInfo类型。 不支持在 Atlas 推理系列产品 Ascend EP 形态下调用本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0158_html.md ## CANN商业版-aclopStartDumpArgs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0255.html - Description: 调用本接口开启算子信息统计功能,并需与aclopStopDumpArgs接口配合使用,将算子信息文件输出到path参数指定的目录,一个shape对应一个算子信息文件,文件中包含算子类型、算子属性、算子输入&输出的format/数据类型/shape等信息。 使用场景:例如要统计某个模型执行涉及哪些算子,可在模型执行之前调用aclopStartDumpArgs接口,在模型执行之后调用aclopStop - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0255_html.md ## CANN商业版-aclopStopDumpArgs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0256.html - Description: 调用本接口关闭算子信息统计功能,并需与aclopStartDumpArgs接口配合使用,将算子信息文件输出到path参数指定的目录,一个shape对应一个算子信息文件,文件中包含算子类型、算子属性、算子输入&输出的format/数据类型/shape等信息。 使用场景:例如要统计某个模型执行涉及哪些算子,可在模型执行之前调用aclopStartDumpArgs接口,在模型执行之后调用aclopSto - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0256_html.md ## CANN商业版-aclmdlInitDump - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0314.html - Description: Dump初始化。 本接口需与其它接口配合使用实现以下功能:- Dump数据落盘到文件aclmdlInitDump 接口、aclmdlSetDump 接口、aclmdlFinalizeDump 接口配合使用,用于将Dump数据记录到文件中。一个进程内,可以根据需求多次调用这些接口,基于不同的Dump配置信息,获取Dump数据。场景举例如下: - 执行两个不同的模型,需要设置不同的Du - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0314_html.md ## CANN商业版-aclmdlSetDump - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0315.html - Description: 设置Dump参数。 aclmdlInitDump接口、aclmdlSetDump接口、aclmdlFinalizeDump接口配合使用,用于将Dump数据记录到文件中。一个进程内,可以根据需求多次调用这些接口,基于不同的Dump配置信息,获取Dump数据。场景举例如下:- 执行两个不同的模型,需要设置不同的Dump配置信息,接口调用顺序: aclInit 接口--> aclmdlInitDum - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0315_html.md ## CANN商业版-acldumpRegCallback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0316.html - Description: Dump数据回调函数注册接口。 aclmdlInitDump接口、acldumpRegCallback接口(通过该接口注册的回调函数需由用户自行实现,回调函数实现逻辑中包括获取Dump数据及数据长度)、acldumpUnregCallback接口、aclmdlFinalizeDump接口配合使用,用于通过回调函数获取Dump数据。场景举例如下:- 执行一个模型,通过回调获取Dump数据: 支持以下 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0316_html.md ## CANN商业版-acldumpUnregCallback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0317.html - Description: Dump数据回调函数取消注册接口。acldumpUnregCallback需要和acldumpRegCallback配合使用,且必须在acldumpRegCallback调用后才有效。 aclmdlInitDump接口、acldumpRegCallback接口(通过该接口注册的回调函数需由用户自行实现,回调函数实现逻辑中包括获取Dump数据及数据长度)、acldumpUnregCallback接口 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0317_html.md ## CANN商业版-aclmdlFinalizeDump - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_0318.html - Description: Dump去初始化。 本接口需与其它接口配合使用实现以下功能:- Dump数据落盘到文件aclmdlInitDump 接口、aclmdlSetDump 接口、aclmdlFinalizeDump 接口配合使用,用于将Dump数据记录到文件中。一个进程内,可以根据需求多次调用这些接口,基于不同的Dump配置信息,获取Dump数据。场景举例如下: - 执行两个不同的模型,需要设置不同的D - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_0318_html.md ## 数据采集说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1257.html - Description: 不能与订阅算子信息的接口交叉调用:aclprofInit接口和aclprofFinalize接口之间不能调用aclprofModelSubscribe接口、aclprofGet*接口、aclprofModelUnSubscribe接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1257_html.md ## CANN商业版-aclprofInit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1258.html - Description: 初始化Profiling,目前用于设置保存性能数据的文件的路径。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1258_html.md ## CANN商业版-aclprofStart - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1260.html - Description: 下发Profiling请求,使能对应数据的采集。 用户可根据需要,在模型执行过程中按需调用aclprofStart接口,Profiling采集到的数据为调用该接口之后的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1260_html.md ## CANN商业版-aclprofStop - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1261.html - Description: 停止Profiling数据采集。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1261_html.md ## CANN商业版-aclprofFinalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1262.html - Description: 结束Profiling。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1262_html.md ## 扩展接口使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1264.html - Description: - 调用接口要求:msproftx功能相关接口须在 aclprofStart - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1264_html.md ## CANN商业版-aclprofCreateStamp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1265.html - Description: 创建msproftx事件标记。后续调用aclprofMark、aclprofSetStampTraceMessage、aclprofPush和aclprofRangeStart接口时需要以描述该事件的指针作为输入,表示记录该事件发生的时间跨度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1265_html.md ## CANN商业版-aclprofSetStampTraceMessage - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1269.html - Description: 为msproftx事件标记携带字符串描述,在Profiling解析并导出结果中msproftx summary数据展示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1269_html.md ## CANN商业版-aclprofMark - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1270.html - Description: msproftx标记瞬时事件。 调用此接口后,Profiling自动在Stamp指针中加上当前时间戳,将Event type设置为Mark,表示开始一次msproftx采集。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1270_html.md ## CANN商业版-aclprofMarkEx - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1271.html - Description: aclprofMarkEx打点接口。 调用此接口向配置的Stream流上下发打点任务,用于标识Host侧打点与Device侧打点任务的关系。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1271_html.md ## CANN商业版-aclprofPush - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1272.html - Description: msproftx用于记录事件发生的时间跨度的开始时间。 调用此接口后,Profiling自动在Stamp指针中记录开始的时间戳,将Event type设置为Push/Pop。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1272_html.md ## CANN商业版-aclprofPop - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1273.html - Description: msproftx用于记录事件发生的时间跨度的结束时间。 调用此接口后,Profiling自动在Stamp指针中记录采集结束的时间戳。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1273_html.md ## CANN商业版-aclprofRangeStart - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1274.html - Description: msproftx用于记录事件发生的时间跨度的开始时间。 调用此接口后,Profiling自动在Stamp指针记录采集开始的时间戳,将Event type设置为Start/Stop,生成一个进程唯一的id,并将Stamp保存在以进程粒度维护的一个map中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1274_html.md ## CANN商业版-aclprofRangeStop - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1275.html - Description: msproftx用于记录事件发生的时间跨度的结束时间。 调用此接口后,Profiling自动在Stamp指针中记录采集结束的时间戳。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1275_html.md ## CANN商业版-aclprofDestroyStamp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1276.html - Description: 释放msproftx事件标记。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1276_html.md ## 订阅接口使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1278.html - Description: 不能与Profiling数据采集接口的接口交叉调用:aclprofModelSubscribe接口和aclprofModelUnSubscribe接口之间不能调用aclprofInit接口、aclprofStart接口、aclprofStop接口和aclprofFinalize接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1278_html.md ## CANN商业版-aclprofModelSubscribe - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1279.html - Description: 网络场景下,订阅算子的基本信息,包括算子名称、算子类型、算子执行耗时等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1279_html.md ## CANN商业版-aclprofModelUnSubscribe - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1280.html - Description: 网络场景下,取消订阅算子的基本信息,包括算子名称、算子类型、算子执行耗时等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1280_html.md ## CANN商业版-aclprofGetOpDescSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1281.html - Description: 获取单个算子数据结构的大小,单位为Byte。当前版本中约定每个算子数据结构的大小是一样的。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1281_html.md ## CANN商业版-aclprofGetOpNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1282.html - Description: 获取指定内存中算子的数量。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1282_html.md ## CANN商业版-aclprofGetOpTypeLen - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1283.html - Description: 获取算子类型的字符串长度,用于内存申请。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1283_html.md ## CANN商业版-aclprofGetOpType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1284.html - Description: 获取指定算子的算子类型名称。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1284_html.md ## CANN商业版-aclprofGetOpNameLen - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1285.html - Description: 获取算子名称的字符串长度,用于内存申请。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1285_html.md ## CANN商业版-aclprofGetOpName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1286.html - Description: 获取指定算子的算子名称。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1286_html.md ## CANN商业版-aclprofGetOpStart - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1287.html - Description: 获取算子执行的开始时间,单位为ns。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1287_html.md ## CANN商业版-aclprofGetOpEnd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1288.html - Description: 获取算子执行的结束时间,单位为ns。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1288_html.md ## CANN商业版-aclprofGetOpDuration - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1289.html - Description: 获取算子执行的耗时时间,单位为ns。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1289_html.md ## CANN商业版-aclprofGetModelId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1292.html - Description: 获取指定算子所在模型的ID。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1292_html.md ## CANN商业版-aclprofGetStepTimestamp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1296.html - Description: 利用单算子模型执行接口实现训练的场景下,使用本接口用于标记迭代开始与结束时间,为后续Profiling解析提供迭代标识,以便以迭代为粒度展示性能数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1296_html.md ## CANN商业版-acltdtCreateChannel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1299.html - Description: 创建acltdtChannelHandle类型的数据,表示可以用于向Device发送数据或是从Device接收数据的通道。通道使用完成后,需及时依次调用acltdtStopChannel、acltdtDestroyChannel接口释放通道资源。 对于 Atlas 训练系列产品 ,仅支持在昇腾虚拟化实例场景下使用本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1299_html.md ## CANN商业版-acltdtSendTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1300.html - Description: 从Host向Device发送预处理好的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1300_html.md ## CANN商业版-acltdtReceiveTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1301.html - Description: 在Host接收Device发过来的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1301_html.md ## CANN商业版-acltdtStopChannel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1302.html - Description: 调用acltdtSendTensor接口发送数据时或调用acltdtReceiveTensor接口接收数据时,用户线程可能在没有数据时会卡住,此时如果需要退出的话,需要先将线程唤醒,该接口就是用来唤醒被卡住阻塞的线程用的。需要用户在发送、接收线程之外的一个线程里调用这个函数,来唤醒处于阻塞状态的发送/接收线程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1302_html.md ## CANN商业版-acltdtDestroyChannel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1303.html - Description: 销毁acltdtChannelHandle类型的数据,只能销毁通过acltdtCreateChannel接口或acltdtCreateChannelWithCapacity接口创建的acltdtChannelHandle类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1303_html.md ## acltdtCreateChannelWithCapacity - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1304.html - Description: 创建acltdtChannelHandle类型的数据,表示可以用于向Device发送数据或是从Device接收数据的通道,通道带容量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1304_html.md ## CANN商业版-acltdtQueryChannelSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1305.html - Description: 查询队列通道内的消息数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1305_html.md ## CANN商业版-acltdtGetSliceInfoFromItem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1306.html - Description: 用于输出Tensor分片信息。 使用场景:OutfeedEnqueueOpV2算子由于其功能要求需申请Device上的大块内存存放数据,在Device内存不足时,可能会导致内存申请失败,进而导致某些算子无法正常执行,该场景下,用户可以调用本接口获取Tensor分片信息(分片数量、分片索引),再根据分片信息拼接算子的Tensor数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1306_html.md ## CANN商业版-acltdtCleanChannel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1307.html - Description: 清空通道中的所有数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1307_html.md ## 共享队列管理使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1309.html - Description: 本章提供的接口用于实现Device侧的数据队列和数据转发功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1309_html.md ## CANN商业版-acltdtCreateQueue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1310.html - Description: 创建队列。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1310_html.md ## CANN商业版-acltdtDestroyQueue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1311.html - Description: 销毁通过acltdtCreateQueue接口创建的队列。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1311_html.md ## CANN商业版-acltdtEnqueueData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1312.html - Description: 向队列中添加数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1312_html.md ## CANN商业版-acltdtDequeueData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1313.html - Description: 从队列中获取数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1313_html.md ## CANN商业版-acltdtDequeue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1315.html - Description: 从队列中获取数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1315_html.md ## CANN商业版-acltdtBindQueueRoutes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1316.html - Description: 当应用存在数据一对多分发时,通过本接口绑定队列间数据转发路由关系。 如下图所示,可以建立两条路由关系Q1->Q2,Q1->Q3。数据一对多分发时,传递的共享Buffer数据是无锁的,消费者不能对数据进行inplace操作,如下图所示消费者1对共享数据的修改会导致消费者2访问的数据发生变化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1316_html.md ## CANN商业版-acltdtUnbindQueueRoutes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1317.html - Description: 解绑定数据队列路由关系。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1317_html.md ## CANN商业版-acltdtQueryQueueRoutes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1318.html - Description: 根据指定条件查询数据队列路由关系。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1318_html.md ## CANN商业版-acltdtGrantQueue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1319.html - Description: 进程间需要共享队列信息时,可以调用本接口给其它进程授予队列相关的权限,例如Enqueue(指向队列中添加数据)权限、Dequeue(指从队列中获取数据)权限等。 进程间传递队列相关信息时,安全性由用户保证。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1319_html.md ## CANN商业版-acltdtAttachQueue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1320.html - Description: 进程间需要共享队列信息时,在被授权的进程中调用本接口确认当前进程对队列有相应权限。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1320_html.md ## CANN商业版-acltdtAllocBuf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1322.html - Description: 申请共享Buffer内存。 使用acltdtAllocBuf接口申请内存后,数据区的长度为size参数的大小,在用户还未填入有效数据前,该内存的有效数据长度初始值为0,可在用户向内存中填入有效数据后,再通过acltdtSetBufDataLen接口设置有效数据长度。 使用acltdtAllocBuf接口申请的内存,需要通过acltdtFreeBuf接口释放内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1322_html.md ## CANN商业版-acltdtFreeBuf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1323.html - Description: 释放通过acltdtAllocBuf接口申请的mbuf。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1323_html.md ## CANN商业版-acltdtGetBufData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1324.html - Description: 获取共享Buffer的数据区指针和数据区长度,用户可以使用此指针填入数据。 接口调用顺序:调用acltdtAllocBuf或acltdtCopyBufRef接口申请到共享Buffer后,因此需由用户调用acltdtGetBufData接口获取共享Buffer的内存指针及长度后,再自行向内存中填充有效数据,然后再调用acltdtSetBufDataLen接口设置共享Buffer中有效数据的长度,且长 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1324_html.md ## CANN商业版-acltdtSetBufUserData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1325.html - Description: 设置共享Buffer的私有数据区数据,从用户内存拷贝到共享内存的私有数据区的指定偏移位置,用于设置控制信息作为上下文传递。当前默认私有数据区大小是96Byte,offset+size必须小于或等于96Byte,否则返回报错。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1325_html.md ## CANN商业版-acltdtGetBufUserData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1326.html - Description: 获取共享Buffer的私有数据区数据,偏移offset后,拷贝至用户申请的内存区域。当前默认私有数据区大小是96Byte,offset+size必须小于或等于96Byte,否则返回报错。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1326_html.md ## CANN商业版-acltdtSetBufDataLen - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1327.html - Description: 设置共享Buffer中有效数据的长度。 接口调用顺序:调用acltdtAllocBuf或acltdtCopyBufRef接口申请到共享Buffer后,因此需由用户调用acltdtGetBufData接口获取共享Buffer的内存指针及长度后,再自行向内存中填充有效数据,然后再调用acltdtSetBufDataLen接口设置共享Buffer中有效数据的长度,且长度必须小于acltdtGetBufD - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1327_html.md ## CANN商业版-acltdtGetBufDataLen - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1328.html - Description: 获取共享Buffer中有效数据的长度。 通过acltdtSetBufDataLen接口设置共享Buffer中有效数据的长度后,可调用本接口获取有效数据的长度,否则,通过本接口获取到的长度为0。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1328_html.md ## CANN商业版-acltdtCopyBufRef - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1329.html - Description: 对共享Buffer数据区的引用拷贝,创建并返回一个新的Buffer管理结构指向相同的数据区。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1329_html.md ## CANN商业版-acltdtAppendBufChain - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1330.html - Description: 将某个共享Buffer内存添加到共享Buffer链表中。共享Buffer链最大支持128个共享Buffer。共享Buffer可通过acltdtAllocBuf或acltdtCopyBufRef接口申请获得。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1330_html.md ## CANN商业版-acltdtGetBufChainNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1331.html - Description: 获取共享Buffer链中的共享Buffer数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1331_html.md ## CANN商业版-acltdtGetBufFromChain - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1332.html - Description: 获取Mbuf链中第index个Mbuf。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1332_html.md ## CANN商业版-aclError - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1345.html - Description: ``` typedef int aclError; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1345_html.md ## CANN商业版-aclDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1346.html - Description: ``` typedef enum \{ ACLDTUNDEFINED \= -1, //未知数据类型,默认值 ACLFLOAT \= 0, // fp32 ACLFLOAT16 \= 1, ACLINT8 \= 2, ACLINT32 \= 3, ACLUINT8 \= 4, ACLINT16 \= 6, ACLUINT16 \= - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1346_html.md ## CANN商业版-aclFloat16 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1347.html - Description: 该数据类型仅用于数据传递,不能用于加减乘除等运算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1347_html.md ## CANN商业版-aclFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1348.html - Description: ``` typedef enum \{ ACLFORMATUNDEFINED \= -1, ACLFORMATNCHW \= 0, ACLFORMATNHWC \= 1, ACLFORMATND \= 2, ACLFORMATNC1HWC0 \= 3, ACLFORMATFRACTALZ \= 4, ACLFORMATNC1HWC0C04 \= 12, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1348_html.md ## CANN商业版-aclrtMemMallocPolicy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1349.html - Description: ``` typedef enum aclrtMemMallocPolicy \{ ACLMEMMALLOCHUGEFIRST, ACLMEMMALLOCHUGEONLY, ACLMEMMALLOCNORMALONLY, ACLMEMMALLOCHUGEFIRSTP2P, ACLMEMMALLOCHUGEONLYP2P, ACLMEMMALLOCNORM - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1349_html.md ## CANN商业版-aclrtContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1354.html - Description: ``` typedef void aclrtContext; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1354_html.md ## CANN商业版-aclrtStream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1355.html - Description: ``` typedef void aclrtStream; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1355_html.md ## CANN商业版-aclrtEvent - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1356.html - Description: ``` typedef void aclrtEvent; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1356_html.md ## CANN商业版-aclrtEventStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1357.html - Description: ``` typedef enum aclrtEventStatus \{ ACLEVENTSTATUSCOMPLETE \= 0, //完成 ACLEVENTSTATUSNOTREADY \= 1, //未完成 ACLEVENTSTATUSRESERVED \= 2, //预留 \} aclrtEventStatus; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1357_html.md ## CANN商业版-aclrtRunMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1358.html - Description: ``` typedef enum aclrtRunMode \{ ACLDEVICE, ACLHOST, \} aclrtRunMode; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1358_html.md ## CANN商业版-aclrtGroupAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1366.html - Description: ``` typedef enum aclrtGroupAttr \{ ACLGROUPAICOREINT, //指定Group对应的AI Core个数,属性值的数据类型为整型 ACLGROUPAIVINT, //指定Group对应的Vector Core个数,属性值的数据类型为整型 ACLGROUPAICINT, //指定Group对应的AI - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1366_html.md ## CANN商业版-aclprofAicoreMetrics - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1367.html - Description: ``` typedef enum \{ ACLAICOREARITHMETICUTILIZATION \= 0, // 各种计算类指标占比统计 ACLAICOREPIPEUTILIZATION \= 1, // 计算单元和搬运单元耗时占比 ACLAICOREMEMORYBANDWIDTH \= 2, // 外部内存读写类指令占比 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1367_html.md ## CANN商业版-acltdtTensorType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1370.html - Description: ``` enum acltdtTensorType \{ ACLTENSORDATAUNDEFINED \= -1, ACLTENSORDATATENSOR, // 正常tensor数据标识 ACLTENSORDATAENDOFSEQUENCE, // end数据标识 ACLTENSORDATAABNORMAL, // 异常数据标识 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1370_html.md ## CANN商业版-aclprofEventAttributes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1371_2.html - Description: ``` typedef struct \{ uint16t version; uint16t size; uint32t messageType; // MESSAGETYPETENSORINFO union Message \{ aclprofTensorInfo tensorInfo; \} message; \} aclprofEvent - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1371_2_html.md ## CANN商业版-aclMemType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1376.html - Description: ``` typedef enum \{ ACLMEMTYPEDEVICE \= 0, //Device内存 ACLMEMTYPEHOST \= 1, //Host内存 ACLMEMTYPEHOSTCOMPILEINDEPENDENT \= 2 //Host内存 \} aclMemType; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1376_html.md ## CANN商业版-aclrtEventWaitStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1378.html - Description: ``` typedef enum aclrtEventWaitStatus \{ ACLEVENTWAITSTATUSCOMPLETE \= 0, // 完成 ACLEVENTWAITSTATUSNOTREADY \= 1, // 未完成 ACLEVENTWAITSTATUSRESERVED \= 0xFFFF, // 预留 \} aclrtEventWait - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1378_html.md ## CANN商业版-aclprofStepTag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1379.html - Description: ``` typedef enum\{ ACLSTEPSTART \= 0, // step start ACLSTEPEND \= 1 // step end \} aclprofStepTag; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1379_html.md ## CANN商业版-acltdtBuf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1380.html - Description: ``` typedef void acltdtBuf; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1380_html.md ## CANN商业版-acltdtQueueAttrType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1381.html - Description: ``` typedef enum \{ ACLTDTQUEUENAMEPTR \= 0, //队列名 ACLTDTQUEUEDEPTHUINT32 //队列深度 \} acltdtQueueAttrType; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1381_html.md ## CANN商业版-acltdtQueueRouteParamType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1382.html - Description: ``` typedef enum \{ ACLTDTQUEUEROUTESRCUINT32 \= 0, //源队列ID ACLTDTQUEUEROUTEDSTUINT32, //目标队列ID ACLTDTQUEUEROUTESTATUSINT32 //路由绑定状态,0表示未绑定,1表示绑定,2表示绑定异常 \} acltdtQueueRouteParamTyp - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1382_html.md ## CANN商业版-acltdtQueueRouteQueryMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1383.html - Description: ``` typedef enum \{ ACLTDTQUEUEROUTEQUERYSRC \= 0, // 指定为只根据源队列ID匹配查询 ACLTDTQUEUEROUTEQUERYDST \= 1, // 指定为只根据目标队列ID匹配查询 ACLTDTQUEUEROUTEQUERYSRCANDDST \= 2, // 指定为同时根据源、目标队列I - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1383_html.md ## acltdtQueueRouteQueryInfoParamType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1384.html - Description: ``` typedef enum \{ ACLTDTQUEUEROUTEQUERYMODEENUM \= 0, // 查询匹配模式 ACLTDTQUEUEROUTEQUERYSRCIDUINT32, // 指定要查询的源队列ID ACLTDTQUEUEROUTEQUERYDSTIDUINT32 // 指定要查询的目标队列ID \} acltdtQueueRouteQuer - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1384_html.md ## CANN商业版-aclrtEventRecordedStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1388.html - Description: ``` typedef enum aclrtEventRecordedStatus \{ ACLEVENTRECORDEDSTATUSNOTREADY \= 0, //Event未被记录到Stream中,或记录到Stream中的Event未被执行或执行失败 ACLEVENTRECORDEDSTATUSCOMPLETE \= 1, //记录到Stream中的Event执行成功 \} a - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1388_html.md ## CANN商业版-aclrtFloatOverflowMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1389.html - Description: ``` typedef enum aclrtFloatOverflowMode \{ ACLRTOVERFLOWMODESATURATION \= 0, // 溢出检测饱和模式 ACLRTOVERFLOWMODEINFNAN, // 溢出检测Inf/NaN模式,默认值 ACLRTOVERFLOWMODEUNDEF, \} aclrtFloatOverflowMod - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1389_html.md ## CANN商业版-aclrtStreamConfigAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1392.html - Description: ``` typedef enum \{ ACLRTSTREAMWORKADDRPTR \= 0, ACLRTSTREAMWORKSIZE, ACLRTSTREAMFLAG, ACLRTSTREAMPRIORITY, \} aclrtStreamConfigAttr; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1392_html.md ## CANN商业版-aclSysParamOpt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1393.html - Description: ``` typedef enum \{ ACLOPTDETERMINISTIC \= 0, ACLOPTENABLEDEBUGKERNEL \= 1, ACLOPTSTRONGCONSISTENCY \= 2, \} aclSysParamOpt; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1393_html.md ## CANN商业版-aclrtUtilizationInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1394.html - Description: ``` typedef struct aclrtUtilizationInfo \{ int32t cubeUtilization; // Cube利用率 int32t vectorUtilization; // Vector利用率 int32t aicpuUtilization; // AI CPU利用率 int32t memoryUtilization; / - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1394_html.md ## CANN商业版-aclrtStreamStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1395.html - Description: ``` typedef enum aclrtStreamStatus \{ ACLSTREAMSTATUSCOMPLETE \= 0, // Stream上的所有任务已完成 ACLSTREAMSTATUSNOTREADY \= 1, // Stream上至少有一个任务未完成 ACLSTREAMSTATUSRESERVED \= 0xFFFF, // 预留 \} - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1395_html.md ## CANN商业版-aclrtMemHandleType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1396.html - Description: ``` typedef enum aclrtMemHandleType \{ ACLMEMHANDLETYPENONE \= 0, // 通用handle,无类型标识 \} aclrtMemHandleType; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1396_html.md ## CANN商业版-aclrtMemAllocationType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1397.html - Description: ``` typedef enum aclrtMemAllocationType \{ ACLMEMALLOCATIONTYPEPINNED \= 0, // 锁页内存 \} aclrtMemAllocationType; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1397_html.md ## CANN商业版-aclrtMemAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1398.html - Description: ``` typedef enum aclrtMemAttr \{ ACLDDRMEM, // 大页内存+普通内存 ACLHBMMEM, // 大页内存+普通内存 ACLDDRMEMHUGE, // 大页内存 ACLDDRMEMNORMAL, // 普通内存 ACLHBMMEMHUGE, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1398_html.md ## CANN商业版-aclrtMemLocationType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1399.html - Description: ``` typedef enum aclrtMemLocationType \{ ACLMEMLOCATIONTYPEHOST \= 0, // 通过acl接口(例如aclrtMallocHost)申请的Host内存 ACLMEMLOCATIONTYPEDEVICE, // 通过acl接口(例如aclrtMalloc)申请的Device内存 ACLMEM - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1399_html.md ## CANN商业版-aclrtMemLocation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1400.html - Description: ``` typedef struct aclrtMemLocation \{ uint32t id; // Device ID或NUMA(Non-Uniform Memory Access) ID aclrtMemLocationType type; // 内存所在位置 \} aclrtMemLocation; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1400_html.md ## CANN商业版-aclrtPhysicalMemProp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1401.html - Description: ``` typedef struct aclrtPhysicalMemProp \{ aclrtMemHandleType handleType; aclrtMemAllocationType allocationType; aclrtMemAttr memAttr; aclrtMemLocation location; uint64t reserve; \} - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1401_html.md ## CANN商业版-aclrtDrvMemHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1402.html - Description: ``` typedef void aclrtDrvMemHandle; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1402_html.md ## CANN商业版-aclrtDeviceStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1403.html - Description: ``` typedef enum aclrtDeviceStatus \{ ACLRTDEVICESTATUSNORMAL \= 0, // Device正常可用 ACLRTDEVICESTATUSABNORMAL, // Device异常 ACLRTDEVICESTATUSEND \= 0xFFFF, // 预留值 \} aclrtDeviceStatus - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1403_html.md ## CANN商业版-aclrtMemGranularityOptions - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1404.html - Description: ``` typedef enum aclrtMemGranularityOptions \{ ACLRTMEMALLOCGRANULARITYMINIMUM, ACLRTMEMALLOCGRANULARITYRECOMMENDED, ACLRTMEMALLOCGRANULARITYUNDEF \= 0xFFFF, \} aclrtMemGranularityOptions; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1404_html.md ## CANN商业版-aclCannAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1405.html - Description: ``` typedef enum \{ ACLCANNATTRUNDEFINED \= -1, // 未知特性 ACLCANNATTRINFNAN \= 0, // 溢出检测Inf/NaN模式 ACLCANNATTRBF16 \= 1, // bf16数据类型 ACLCANNATTRJITCOMPILE \= 2 // 算子二进制特性 \} a - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1405_html.md ## CANN商业版-aclDeviceInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1406.html - Description: ``` typedef enum \{ ACLDEVICEINFOUNDEFINED \= -1, // 未知规格 ACLDEVICEINFOAICORENUM \= 0, // AI Core数量 ACLDEVICEINFOVECTORCORENUM \= 1, // Vector Core数量 ACLDEVICEINFOL2SIZE \= 2 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1406_html.md ## CANN商业版-aclrtMemUceInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1408.html - Description: ``` \#define MAXMEMUCEINFOARRAYSIZE 128 \#define UCEINFORESERVEDSIZE 14 typedef struct aclrtMemUceInfo \{ void addr; sizet len; sizet reserved\[UCEINFORESERVEDSIZE\]; \} aclrtMemUceInfo; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1408_html.md ## CANN商业版-aclrtCmoType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1410.html - Description: ``` typedef enum aclrtCmoType \{ ACLRTCMOTYPEPREFETCH \= 0, // 内存预取,从内存预取到Cache ACLRTCMOTYPEWRITEBACK, // 把Cache中的数据刷新到内存中,并在Cache中保留副本 ACLRTCMOTYPEINVALID, // 丢弃Cache中的数 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1410_html.md ## CANN商业版-aclrtLastErrLevel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1411.html - Description: ``` typedef enum aclrtLastErrLevel \{ ACLRTTHREADLEVEL \= 0, \} aclrtLastErrLevel; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1411_html.md ## CANN商业版-aclCreateDataBuffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1431.html - Description: 创建aclDataBuffer类型的数据,该数据类型用于描述内存地址、大小等内存信息。 如需销毁aclDataBuffer类型的数据,请参见aclDestroyDataBuffer。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1431_html.md ## CANN商业版-aclDestroyDataBuffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1432.html - Description: 销毁通过aclCreateDataBuffer接口创建的aclDataBuffer类型的数据。 此处仅销毁aclDataBuffer类型的数据,调用aclCreateDataBuffer接口创建aclDataBuffer类型数据时传入的data的内存需由用户自行释放。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1432_html.md ## CANN商业版-aclGetDataBufferAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1433.html - Description: 获取aclDataBuffer类型中的数据的内存地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1433_html.md ## aclGetDataBufferSize(废弃) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1434.html - Description: 须知:此接口后续版本会废弃,请使用aclGetDataBufferSizeV2接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1434_html.md ## CANN商业版-aclGetDataBufferSizeV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1435.html - Description: 获取aclDataBuffer类型中数据的内存大小,单位Byte。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1435_html.md ## CANN商业版-aclUpdateDataBuffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1436.html - Description: 更新aclDataBuffer中数据的内存及大小。 更新aclDataBuffer后,之前aclDataBuffer中存放数据的内存如果不使用,需及时释放,否则可能会导致内存泄漏。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1436_html.md ## CANN商业版-aclprofCreateConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1610.html - Description: 创建aclprofConfig类型的数据,表示创建Profiling配置数据。 aclProfConfig类型数据可以只创建一次、多处使用,用户需要保证数据的一致性和准确性。 如需销毁aclprofConfig类型的数据,请参见aclprofDestroyConfig。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1610_html.md ## CANN商业版-aclprofDestroyConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1611.html - Description: 销毁通过aclprofCreateConfig接口创建的aclprofConfig类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1611_html.md ## CANN商业版-aclprofCreateSubscribeConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1613.html - Description: 创建aclprofSubscribeConfig类型的数据,表示创建订阅配置信息。 如需销毁aclprofSubscribeConfig类型的数据,请参见aclprofDestroySubscribeConfig。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1613_html.md ## CANN商业版-aclprofDestroySubscribeConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1614.html - Description: 销毁通过aclprofCreateSubscribeConfig接口创建的aclprofSubscribeConfig类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1614_html.md ## CANN商业版-aclprofCreateStepInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1616.html - Description: 创建aclprofStepInfo对象,用于描述迭代信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1616_html.md ## CANN商业版-aclprofDestroyStepInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1617.html - Description: 销毁通过aclprofCreateStepInfo接口创建的aclprofStepInfo类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1617_html.md ## CANN商业版-acltdtCreateDataItem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1619.html - Description: 创建acltdtDataItem类型的数据,代表一个业务上的Tensor。 如需销毁acltdtDataItem类型的数据,请参见acltdtDestroyDataItem。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1619_html.md ## CANN商业版-acltdtGetTensorTypeFromItem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1621.html - Description: 收到dataItem数据之后,从数据描述里首先check这个数据是个正常数据,还是一个end数据,还是一个异常数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1621_html.md ## CANN商业版-acltdtGetDataTypeFromItem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1622.html - Description: 获取正常数据的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1622_html.md ## CANN商业版-acltdtGetDataAddrFromItem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1623.html - Description: 得到正常数据的数据地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1623_html.md ## CANN商业版-acltdtGetDataSizeFromItem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1624.html - Description: 得到正常数据的数据长度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1624_html.md ## CANN商业版-acltdtGetDimNumFromItem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1625.html - Description: 得到正常tensor数据的数据Shape中的维度个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1625_html.md ## CANN商业版-acltdtGetDimsFromItem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1626.html - Description: 得到正常tensor数据的数据Shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1626_html.md ## CANN商业版-acltdtCreateDataset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1628.html - Description: 创建acltdtDataset类型的数据,对等一个Vector。 如需销毁acltdtDataset类型的数据,请参见acltdtDestroyDataset。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1628_html.md ## CANN商业版-acltdtDestroyDataset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1629.html - Description: 销毁通过acltdtCreateDataset接口创建的acltdtDataset类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1629_html.md ## CANN商业版-acltdtGetDataItem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1630.html - Description: 获取acltdtDataset中的第n个acltdtDataItem。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1630_html.md ## CANN商业版-acltdtAddDataItem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1631.html - Description: 向acltdtDataset中增加acltdtDataItem。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1631_html.md ## CANN商业版-acltdtGetDatasetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1632.html - Description: 获取acltdtDataset中acltdtDataItem的个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1632_html.md ## CANN商业版-acltdtGetDatasetName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1633.html - Description: 获取标识acltdtDataset(对等一个Vector)的描述符。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1633_html.md ## CANN商业版-acltdtCreateQueueAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1638.html - Description: 创建acltdtQueueAttr类型的数据,表示队列属性配置信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1638_html.md ## CANN商业版-acltdtDestroyQueueAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1639.html - Description: 销毁通过acltdtCreateQueueAttr接口创建的acltdtQueueAttr类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1639_html.md ## CANN商业版-acltdtSetQueueAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1640.html - Description: 设置队列属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1640_html.md ## CANN商业版-acltdtGetQueueAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1641.html - Description: 获取队列属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1641_html.md ## CANN商业版-acltdtCreateQueueRoute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1643.html - Description: 创建acltdtQueueRoute类型的数据,表示创建队列路由配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1643_html.md ## CANN商业版-acltdtDestroyQueueRoute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1644.html - Description: 销毁通过acltdtCreateQueueRoute接口创建的acltdtQueueRoute类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1644_html.md ## CANN商业版-acltdtGetQueueRouteParam - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1645.html - Description: 获取队列路由配置的相关信息,例如源队列ID、目标队列ID等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1645_html.md ## CANN商业版-acltdtCreateQueueRouteList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1647.html - Description: 创建acltdtQueueRouteList类型的数据,表示队列路由配置数组。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1647_html.md ## CANN商业版-acltdtDestroyQueueRouteList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1648.html - Description: 销毁通过acltdtCreateQueueRouteList接口创建的acltdtQueueRouteList类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1648_html.md ## CANN商业版-acltdtAddQueueRoute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1649.html - Description: 向队列路由配置数组中添加队列路由配置信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1649_html.md ## CANN商业版-acltdtGetQueueRoute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1650.html - Description: 从队列路由配置数组中获取指定的队列路由配置信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1650_html.md ## CANN商业版-acltdtGetQueueRouteNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1651.html - Description: 从队列路由配置数组中获取路由数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1651_html.md ## acltdtCreateQueueRouteQueryInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1653.html - Description: 创建acltdtQueueRouteQueryInfo类型的数据,表示队列路由关系查询条件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1653_html.md ## acltdtDestroyQueueRouteQueryInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1654.html - Description: 销毁通过acltdtCreateQueueRouteQueryInfo接口创建的acltdtQueueRouteQueryInfo类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1654_html.md ## CANN商业版-acltdtSetQueueRouteQueryInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1655.html - Description: 设置路由关系查询条件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1655_html.md ## CANN商业版-aclrtCreateStreamConfigHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1663.html - Description: 创建aclrtStreamConfigHandle类型的数据,表示一个Stream的配置对象。 如需销毁aclrtStreamConfigHandle类型的数据,请参见aclrtDestroyStreamConfigHandle。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1663_html.md ## CANN商业版-aclrtDestroyStreamConfigHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1664.html - Description: 销毁通过aclrtCreateStreamConfigHandle接口创建的aclrtStreamConfigHandle类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1664_html.md ## CANN商业版-aclrtAllocatorCreateDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1666.html - Description: 创建aclrtAllocatorDesc类型的数据,表示Allocator描述信息,主要用于注册回调函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1666_html.md ## CANN商业版-aclrtAllocatorDestroyDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1667.html - Description: 销毁通过aclrtAllocatorCreateDesc接口创建的aclrtAllocatorDesc类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1667_html.md ## CANN商业版-aclrtAllocatorSetObjToDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1668.html - Description: 使用用户提供的Allocator场景下,向Allocator描述信息中设置Allocator对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1668_html.md ## CANN商业版-aclrtAllocatorSetAllocFuncToDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1669.html - Description: 使用用户提供的Allocator场景下,设置“申请内存block”的回调函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1669_html.md ## CANN商业版-aclrtAllocatorSetAllocAdviseFuncToDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1670.html - Description: 使用用户提供的Allocator场景下,设置"根据建议地址申请内存block"的回调函数,一般用于内存复用场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1670_html.md ## CANN商业版-aclrtAllocatorSetFreeFuncToDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1671.html - Description: 使用用户提供的Allocator场景下,设置“释放内存block”的回调函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1671_html.md ## CANN商业版-aclrtAllocatorSetGetAddrFromBlockFuncToDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1672.html - Description: 使用用户提供的Allocator场景下,设置“根据申请来的block获取device内存地址”的回调函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1672_html.md ## CANN商业版-aclrtSetSysParamOpt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1776.html - Description: 设置当前进程中的运行时参数值。调用本接口设置运行时参数值后,若需获取参数值,需调用aclrtGetSysParamOpt接口。 本接口与aclrtCtxSetSysParamOpt接口的差别是,本接口作用域是进程,aclrtCtxSetSysParamOpt接口作用域是Context。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1776_html.md ## CANN商业版-aclrtStreamAbort - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1777.html - Description: 停止指定Stream上正在执行的任务、丢弃指定Stream上已下发但未执行的任务。本接口执行期间,指定Stream上新下发的任务不再生效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1777_html.md ## CANN商业版-aclrtMemcpyAsyncWithCondition - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1778.html - Description: 实现内存复制。 本接口中的Host内存支持锁页内存(例如通过aclrtMallocHost接口申请的内存)、非锁页内存(通过malloc接口申请的内存)。当Host内存是非锁页内存时,本接口在内存复制任务完成后才返回;当Host内存是锁页内存时,本接口是异步接口,调用接口成功仅表示任务下发成功,不表示任务执行成功,调用本接口后,需调用同步等待接口(例如,aclrtSynchronizeStream - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1778_html.md ## CANN商业版-aclrtGetSysParamOpt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1779.html - Description: 获取当前进程中的运行时参数值。 如果不调用aclrtSetSysParamOpt接口设置运行时参数的值,直接调用本接口可获取各参数的默认值0,表示不开启确定性计算或内存访问越界检测;调用aclrtSetSysParamOpt接口设置运行时参数值后,若需获取参数值,需调用aclrtGetSysParamOpt接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1779_html.md ## CANN商业版-aclrtEventGetTimestamp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1780.html - Description: 获取Event的执行结束时间点(表示从AI处理器系统启动以来的时间)。 本接口需与其它关键接口配合使用,接口调用顺序:调用aclrtCreateEvent/aclrtCreateEventWithFlag接口创建Event-->调用aclrtRecordEvent接口在Stream中记录Event>调用aclrtSynchronizeStream接口阻塞应用程序运行,直到指定Stream中的所有任 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1780_html.md ## CANN商业版-aclrtSetOpExecuteTimeOutWithMs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1781.html - Description: 设置算子执行的超时时间,单位为毫秒。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1781_html.md ## CANN商业版-aclmdlRICaptureBegin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1782.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于商用产品中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1782_html.md ## CANN商业版-aclmdlRICaptureGetInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1783.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于商用产品中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1783_html.md ## CANN商业版-aclmdlRICaptureEnd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1784.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于商用产品中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1784_html.md ## CANN商业版-aclmdlRICaptureMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1785.html - Description: ``` typedef enum \{ ACLMODELRICAPTUREMODEGLOBAL \= 0, // 全局禁止,所有线程都不可以调用非安全函数 ACLMODELRICAPTUREMODETHREADLOCAL, // 当前线程禁止调用非安全函数 ACLMODELRICAPTUREMODERELAXED, // 全局不禁止,所有线程都可以调用非安全函数 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1785_html.md ## CANN商业版-aclmdlRIDebugPrint - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1786.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于商用产品中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1786_html.md ## CANN商业版-aclmdlRICaptureStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1787.html - Description: ``` typedef enum \{ ACLMODELRICAPTURESTATUSNONE \= 0, // Stream不在捕获状态 ACLMODELRICAPTURESTATUSACTIVE, // Stream处于正常捕获状态 ACLMODELRICAPTURESTATUSINVALIDATED, // 捕获失败状态 \} aclmdlRICapture - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1787_html.md ## aclmdlRICaptureThreadExchangeMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1788.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于商用产品中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1788_html.md ## aclsysGetCANNVersion(废弃) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1789.html - Description: 须知:此接口后续版本会废弃,请使用aclsysGetVersionStr、aclsysGetVersionNum接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1789_html.md ## CANN商业版-aclCANNPackageName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1790.html - Description: 设置为ACL\_PKG\_NAME\_CANN,表示查询CANN的版本号;设置为其它值,表示查询CANN中具体某个模块的版本号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1790_html.md ## CANN商业版-aclCANNPackageVersion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1791.html - Description: ``` \#define ACLPKGVERSIONMAXSIZE 128 \#define ACLPKGVERSIONPARTSMAXSIZE 64 typedef struct aclCANNPackageVersion \{ char version\[ACLPKGVERSIONMAXSIZE\]; // 完整版本号 char majorVers - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1791_html.md ## CANN商业版-aclrtBinaryLoadFromFile - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1792.html - Description: 从文件加载并解析算子二进制文件,输出指向算子二进制的binHandle。 对于AI Core算子,若使用本接口加载并解析算子二进制文件,需配套使用aclrtLaunchKernelWithConfig、aclrtLaunchKernelV2或aclrtLaunchKernelWithHostArgs接口下发计算任务。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1792_html.md ## CANN商业版-aclrtLaunchKernelWithConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1793.html - Description: 指定任务下发的配置信息,并启动对应算子的计算任务。异步接口。 若使用本接口下发AI Core算子的计算任务,需配套使用aclrtBinaryLoadFromFile接口加载并解析算子二进制文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1793_html.md ## CANN商业版-aclrtBinaryGetFunctionByEntry - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1794.html - Description: 须知:本接口为预留接口,暂不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1794_html.md ## CANN商业版-aclrtGetFunctionAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1795.html - Description: 根据核函数句柄获取Device侧算子起始地址。 不同产品上的AI数据处理核心单元不同,关于Core的定义及详细说明,请参见aclrtDevAttr。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1795_html.md ## CANN商业版-aclrtMallocWithCfg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1796.html - Description: 在Device上分配size大小的线性内存,并通过devPtr返回已分配内存的指针,且内存首地址64字节对齐。 与aclrtMalloc接口相比,本接口在申请内存时,还可以指定内存相关的配置信息。 使用本接口申请的内存,需要通过aclrtFree接口或aclrtFreeWithDevSync接口释放内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1796_html.md ## CANN商业版-aclrtMallocForTaskScheduler - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1797.html - Description: 申请AI处理器上Task调度器可使用的内存。 图模式下有部分算子需要使用该类型的内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1797_html.md ## CANN商业版-aclrtMallocHostWithCfg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1799.html - Description: 申请Host内存(该内存是锁页内存),由系统保证内存首地址64字节对齐。 与aclrtMallocHost接口相比,本接口在申请内存时,还可以指定内存相关的配置信息。 通过本接口申请的内存,需要通过aclrtFreeHost接口或aclrtFreeHostWithDevSync接口释放内存。 针对 Ascend RC 形态、Control CPU开放形态,Host与Device是合一的,所以申请H - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1799_html.md ## CANN商业版-aclrtMemcpyAsyncWithDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1800.html - Description: 使用内存复制描述符(二级指针方式)进行内存复制。异步接口。 本接口需与以下其它关键接口配合使用,以便实现内存复制: 1. 调用 aclrtGetMemcpyDescSize 接口获取内存描述符所需的内存大小。 2. 申请Device内存,用于存放内存描述符。 3. 申请源内存、目的内存,分别用于存放复制前后的数据。 4. 调用 aclrtSetMemcpyDesc 接口将源内存地址、目的内存地 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1800_html.md ## CANN商业版-aclrtGetMemcpyDescSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1801.html - Description: 获取当前Device的内存复制描述符占用的内存大小。 本接口需与其它关键接口配合使用,以便实现内存复制,详细描述请参见aclrtMemcpyAsyncWithDesc。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1801_html.md ## CANN商业版-aclrtSetMemcpyDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1802.html - Description: 设置内存复制描述符,此接口调用完成后,会将源地址,目的地址、内存复制长度记录到内存复制描述符中。 本接口需与其它关键接口配合使用,以便实现内存复制,详细描述请参见aclrtMemcpyAsyncWithDesc。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1802_html.md ## CANN商业版-aclrtPointerGetAttributes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1803.html - Description: 获取内存属性信息,包括内存是位于Host还是Device、页表大小等信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1803_html.md ## CANN商业版-aclrtHostRegister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1804.html - Description: 将Host内存映射注册为Device可访问的内存地址,并获取映射后的Device内存地址。映射后的Device内存地址不能用于内存操作,例如内存复制。 如果注册的ptr是通过aclrtMallocHostWithCfg申请的,并且申请时配置的attr类型是ACLRTMEMATTRVAFLAG,vaFlag的值为1,则映射后的Device地址与Host地址一致,可以进行内存操作。 取消注册Host内 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1804_html.md ## CANN商业版-aclrtHostUnregister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1805.html - Description: 取消注册Host内存。 本接口与aclrtHostRegister接口成对使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1805_html.md ## CANN商业版-aclrtMemcpyKind - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1807.html - Description: ``` typedef enum aclrtMemcpyKind \{ ACLMEMCPYHOSTTOHOST, // Host内的内存复制 ACLMEMCPYHOSTTODEVICE, // Host到Device的内存复制 ACLMEMCPYDEVICETOHOST, // Device到Host的内存复制 ACLMEMCPYDEVICETODEV - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1807_html.md ## CANN商业版-aclrtArgsHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1808.html - Description: ``` typedef void aclrtArgsHandle; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1808_html.md ## CANN商业版-aclrtParamHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1809.html - Description: ``` typedef void aclrtParamHandle; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1809_html.md ## CANN商业版-aclrtBinaryLoadOptionValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1810.html - Description: ``` typedef union aclrtBinaryLoadOptionValue \{ uint32t isLazyLoad; uint32t magic; int32t cpuKernelMode; uint32t rsv\[4\]; \} aclrtBinaryLoadOptionValue; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1810_html.md ## CANN商业版-aclrtBinaryLoadOption - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1811.html - Description: ``` typedef struct \{ aclrtBinaryLoadOptionType type; aclrtBinaryLoadOptionValue value; \} aclrtBinaryLoadOption; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1811_html.md ## CANN商业版-aclrtBinaryLoadOptions - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1812.html - Description: ``` typedef struct aclrtBinaryLoadOptions \{ aclrtBinaryLoadOption options; sizet numOpt; \} aclrtBinaryLoadOptions; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1812_html.md ## CANN商业版-aclrtLaunchKernelAttrId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1813.html - Description: ``` typedef enum aclrtLaunchKernelAttrId \{ ACLRTLAUNCHKERNELATTRSCHEMMODE \= 1, // 调度模式 ACLRTLAUNCHKERNELATTRDYNUBUFSIZE \= 2, // 用于指定SIMT算子执行时需要的UB buffer动态内存大小 ACLRTLAUNCHKERNEL - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1813_html.md ## CANN商业版-aclrtLaunchKernelAttrValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1814.html - Description: ``` typedef union aclrtLaunchKernelAttrValue \{ uint8t schemMode; uint32t dynUBufSize; aclrtEngineType engineType; uint32t blockDimOffset; uint8t isBlockTaskPrefetch; uint8t - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1814_html.md ## CANN商业版-aclrtLaunchKernelAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1815.html - Description: ``` typedef struct aclrtLaunchKernelAttr \{ aclrtLaunchKernelAttrId id; aclrtLaunchKernelAttrValue value; \} aclrtLaunchKernelAttr; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1815_html.md ## CANN商业版-aclrtLaunchKernelCfg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1816.html - Description: ``` typedef struct aclrtLaunchKernelCfg \{ aclrtLaunchKernelAttr attrs; sizet numAttrs; \} aclrtLaunchKernelCfg; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1816_html.md ## CANN商业版-aclrtBinaryLoadOptionType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1817.html - Description: ``` typedef enum aclrtBinaryLoadOptionType \{ ACLRTBINARYLOADOPTLAZYLOAD \= 1, // 指定解析算子二进制、注册算子后,是否加载算子到Device侧 ACLRTBINARYLOADOPTLAZYMAGIC \= 2, // 废弃,请使用ACLRTBINARYLOADOPTMAGIC - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1817_html.md ## CANN商业版-aclrtBinHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1818.html - Description: ``` typedef void aclrtBinHandle; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1818_html.md ## CANN商业版-aclrtFuncHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1819.html - Description: ``` typedef void aclrtFuncHandle; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1819_html.md ## CANN商业版-aclmdlRI - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1820.html - Description: ``` typedef void aclmdlRI; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1820_html.md ## CANN商业版-aclmdlRIDestroy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1821.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于商用产品中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1821_html.md ## CANN商业版-aclmdlRIExecuteAsync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1822.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于商用产品中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1822_html.md ## CANN商业版-aclmdlRICaptureTaskGrpBegin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1823.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于商用产品中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1823_html.md ## CANN商业版-aclmdlRICaptureTaskGrpEnd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1824.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于商用产品中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1824_html.md ## aclmdlRICaptureTaskUpdateBegin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1825.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于商用产品中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1825_html.md ## CANN商业版-aclmdlRICaptureTaskUpdateEnd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1826.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于商用产品中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1826_html.md ## CANN商业版-aclrtTaskGrp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1827.html - Description: ``` typedef void aclrtTaskGrp; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1827_html.md ## CANN商业版-aclrtStreamGetId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1828.html - Description: 获取指定Stream的ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1828_html.md ## CANN商业版-aclrtGetThreadLastTaskId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1829.html - Description: 获取当前线程的最后一个下发的Task ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1829_html.md ## 概念及使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1830.html - Description: 本章中的接口涉及对算子的算子二进制、核函数、核函数参数列表以及参数的操作,为便于理解,您可以先通过下图了解它们之间的关系。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1830_html.md ## CANN商业版-aclrtKernelArgsInit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1831.html - Description: 根据核函数句柄初始化参数列表,并获取标识参数列表的句柄。 与aclrtKernelArgsInitByUserMem接口的区别在于,调用本接口表示由系统管理内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1831_html.md ## CANN商业版-aclrtKernelArgsInitByUserMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1832.html - Description: 根据核函数句柄初始化参数列表,并获取标识参数列表的句柄。 与aclrtKernelArgsInit接口的区别在于,调用本接口表示由用户管理内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1832_html.md ## CANN商业版-aclrtKernelArgsGetMemSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1833.html - Description: 获取Kernel Launch时参数列表所需内存的实际大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1833_html.md ## CANN商业版-aclrtKernelArgsGetHandleMemSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1834.html - Description: 获取参数列表句柄占用的内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1834_html.md ## CANN商业版-aclrtKernelArgsAppend - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1835.html - Description: 调用本接口将用户设置的参数值追加拷贝到argsHandle指向的参数数据区域。若参数列表中有多个参数,则需按顺序追加参数。 如果要更新参数值,可调用aclrtKernelArgsParaUpdate接口进行更新。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1835_html.md ## CANN商业版-aclrtKernelArgsAppendPlaceHolder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1836.html - Description: 对于placeholder参数,调用本接口先占位,返回的是paramHandle占位符。 若参数列表中有多个参数,则需按顺序追加参数。等所有参数都追加之后,可调用aclrtKernelArgsGetPlaceHolderBuffer接口获取paramHandle占位符指向的内存地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1836_html.md ## CANN商业版-aclrtKernelArgsGetPlaceHolderBuffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1837.html - Description: 根据用户指定的内存大小,获取paramHandle占位符指向的内存地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1837_html.md ## CANN商业版-aclrtKernelArgsParaUpdate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1838.html - Description: 通过aclrtKernelArgsAppend接口追加的参数,可调用本接口更新参数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1838_html.md ## CANN商业版-aclrtKernelArgsFinalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1839.html - Description: 在所有参数追加完成后,调用本接口以标识参数组装完毕。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1839_html.md ## CANN商业版-aclrtHostRegisterType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1840.html - Description: ``` typedef enum \{ ACLHOSTREGISTERMAPPED \= 0, ACLHOSTREGISTERIOMEMORY \= 0x04, ACLHOSTREGISTERREADONLY \= 0x08 \}aclrtHostRegisterType; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1840_html.md ## CANN商业版-aclrtMallocAttrType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1841.html - Description: ``` typedef enum \{ ACLRTMEMATTRRSV \= 0, // 预留值 ACLRTMEMATTRMODULEID, // 表示模块ID ACLRTMEMATTRDEVICEID, // 表示Device ID ACLRTMEMATTRVAFLAG, // 使用aclrtMallocHostWithCfg接口申请Host内存时,是 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1841_html.md ## CANN商业版-aclrtMallocAttrValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1842.html - Description: ``` typedef union \{ uint16t moduleId; uint32t deviceId; uint32t vaFlag; uint8t rsv\[8\]; \} aclrtMallocAttrValue; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1842_html.md ## CANN商业版-aclrtMallocAttribute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1843.html - Description: ``` typedef struct \{ aclrtMallocAttrType attr; aclrtMallocAttrValue value; \} aclrtMallocAttribute; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1843_html.md ## CANN商业版-aclrtMallocConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1844.html - Description: ``` typedef struct \{ aclrtMallocAttribute attrs; sizet numAttrs; \} aclrtMallocConfig; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1844_html.md ## CANN商业版-aclrtPtrAttributes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1845.html - Description: ``` typedef struct aclrtPtrAttributes \{ aclrtMemLocation location; uint32t pageSize; uint32t rsv\[4\]; \} aclrtPtrAttributes; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1845_html.md ## CANN商业版-aclrtValueWrite - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1847.html - Description: 向指定内存中写数据。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1847_html.md ## CANN商业版-aclrtValueWait - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1848.html - Description: 等待指定内存中的数据满足一定条件后解除阻塞。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1848_html.md ## CANN商业版-aclmdlRIExecute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1850.html - Description: 执行模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1850_html.md ## CANN商业版-aclmdlRIBuildBegin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1851.html - Description: 开始构建一个模型运行实例。 在aclmdlRIBuildBegin接口之后,先调用aclmdlRIBindStream接口将模型运行实例与Stream绑定,接着在指定的Stream上下发任务,所有任务下发完成后,调用aclmdlRIEndTask接口在Stream上标记任务下发结束,随后调用aclmdlRIBuildEnd接口结束模型构建。此时,所有在指定Stream上下发的任务不会立即执行,只有 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1851_html.md ## CANN商业版-aclmdlRIBindStream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1852.html - Description: 将模型运行实例与Stream绑定。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1852_html.md ## CANN商业版-aclmdlRIEndTask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1853.html - Description: 在Stream上标记下发任务结束。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1853_html.md ## CANN商业版-aclmdlRIBuildEnd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1854.html - Description: 结束构建模型运行实例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1854_html.md ## CANN商业版-aclmdlRIUnbindStream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1855.html - Description: 解除模型运行实例与Stream的绑定。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1855_html.md ## CANN商业版-aclrtGetStreamAvailableNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1856.html - Description: 获取当前Device上剩余可用的Stream数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1856_html.md ## CANN商业版-aclrtSetStreamAttribute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1857.html - Description: 设置Stream属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1857_html.md ## CANN商业版-aclrtGetStreamAttribute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1858.html - Description: 获取Stream属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1858_html.md ## CANN商业版-aclrtCreateNotify - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1860.html - Description: 创建Notify。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1860_html.md ## CANN商业版-aclrtDestroyNotify - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1861.html - Description: 销毁Notify。 返回0表示成功,返回其他值表示失败,请参见aclError。 接口调用示例,参见基于Notify同步\(https://www.hiascend. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1861_html.md ## CANN商业版-aclrtRecordNotify - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1862.html - Description: 在指定Stream上记录一个Notify。异步接口。 aclrtRecordNotify接口与aclrtWaitAndResetNotify接口配合使用时,主要用于多Stream之间同步等待的场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1862_html.md ## CANN商业版-aclrtWaitAndResetNotify - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1863.html - Description: 阻塞指定Stream的运行,直到指定的Notify完成,再复位Notify。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1863_html.md ## CANN商业版-aclrtGetNotifyId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1864.html - Description: 获取指定Notify的ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1864_html.md ## CANN商业版-aclrtGetEventId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1865.html - Description: 获取指定Event的ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1865_html.md ## CANN商业版-aclrtGetEventAvailNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1866.html - Description: 查询当前Device上可用的Event数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1866_html.md ## CANN商业版-aclrtGetDeviceInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1867.html - Description: 获取指定Device的信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1867_html.md ## CANN商业版-aclrtDeviceGetStreamPriorityRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1868.html - Description: 查询硬件支持的Stream最低、最高优先级。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1868_html.md ## CANN商业版-aclrtGetDeviceCapability - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1869.html - Description: 查询支持的特性信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1869_html.md ## CANN商业版-aclrtCtxGetCurrentDefaultStream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1870.html - Description: 获取Context上的默认Stream。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1870_html.md ## CANN商业版-aclrtReduceAsync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1871.html - Description: 执行Reduce操作,包括SUM、MIN、MAX等。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1871_html.md ## CANN商业版-aclrtNotify - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1872.html - Description: ``` typedef void aclrtNotify; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1872_html.md ## CANN商业版-aclrtStreamAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1873.html - Description: ``` typedef enum \{ ACLSTREAMATTRFAILUREMODE \= 1, ACLSTREAMATTRFLOATOVERFLOWCHECK \= 2, ACLSTREAMATTRUSERCUSTOMTAG \= 3, ACLSTREAMATTRCACHEOPINFO \= 4, \} aclrtStream - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1873_html.md ## CANN商业版-aclrtStreamAttrValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1874.html - Description: ``` typedef union \{ uint64t failureMode; uint32t overflowSwitch; uint32t userCustomTag; uint32t cacheOpInfoSwitch; uint32t reserve\[4\]; \} aclrtStreamAttrValue; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1874_html.md ## CANN商业版-aclrtReduceKind - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1875.html - Description: ``` typedef enum \{ ACLRTMEMCPYSDMAAUTOMATICSUM \= 10, ACLRTMEMCPYSDMAAUTOMATICMAX \= 11, ACLRTMEMCPYSDMAAUTOMATICMIN \= 12, ACLRTMEMCPYSDMAAUTOMATICEQUAL \= 13, \} aclrtReduceKind - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1875_html.md ## CANN商业版-aclrtDevAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1876.html - Description: 表1 枚举项说明 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1876_html.md ## CANN商业版-aclrtDevFeatureType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1877.html - Description: ``` typedef enum \{ ACLFEATURETSCPUTASKUPDATESUPPORTAICAIV \= 1, // 更新AI Core算子的计算任务 ACLFEATURESYSTEMMEMQEVENTCROSSDEV \= 21, // 跨设备发送队列事件消息 \} aclrtDevFeatureType; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1877_html.md ## CANN商业版-aclrtGetDeviceResLimit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1878.html - Description: 获取当前进程的Device资源限制。 若没有调用aclrtSetDeviceResLimit接口设置当前进程的Device资源限制,则调用本接口获取到的是AI处理器硬件默认的资源限制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1878_html.md ## CANN商业版-aclrtSetDeviceResLimit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1879.html - Description: 设置当前进程的Device资源限制。 本接口应在调用aclrtSetDevice接口之后且在执行算子之前使用。如果对同一Device进行多次设置,将以最后一次设置为准。 除了进程级别的Device资源限制,当前还支持设置Stream级别的Device资源限制,可通过aclrtSetStreamResLimit、aclrtUseStreamResInCurrentThread接口配合使用实现。 De - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1879_html.md ## CANN商业版-aclrtResetDeviceResLimit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1880.html - Description: 调用aclrtSetDeviceResLimit接口设置Device资源限制后,可调用本接口重置当前进程的Device资源限制,恢复默认配置,此时可通过aclrtGetDeviceResLimit接口查询默认的资源限制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1880_html.md ## CANN商业版-aclrtDevResLimitType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1881.html - Description: ``` typedef enum \{ ACLRTDEVRESCUBECORE \= 0, // AI Core或Cube Core ACLRTDEVRESVECTORCORE, // Vector Core \} aclrtDevResLimitType; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1881_html.md ## CANN商业版-aclRecoverAllHcclTasks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1882.html - Description: 须知:本接口为预留接口,暂不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1882_html.md ## CANN商业版-aclmdlRISetName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1883.html - Description: 设置模型运行实例的名称。若针对同一个模型运行实例设置多次,以最后一次为准。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1883_html.md ## CANN商业版-aclmdlRIGetName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1884.html - Description: 获取模型运行实例的名称。如果没有调用aclmdlRISetName接口,调用本接口获取到的为空字符串。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1884_html.md ## CANN商业版-aclrtCreateLabel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1885.html - Description: 创建标签。每个进程最多创建65535个标签。 调用本接口创建标签后,再依次配合aclrtCreateLabelList接口(创建标签列表)、aclrtSetLabel接口(在Stream上设置标签)、aclrtSwitchLabelByIndex接口(跳转到指定Stream)使用,实现Stream之间的跳转。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1885_html.md ## CANN商业版-aclrtSetLabel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1886.html - Description: 在Stream上设置标签。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1886_html.md ## CANN商业版-aclrtDestroyLabel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1887.html - Description: 销毁标签。 返回0表示成功,返回其他值表示失败,请参见aclError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1887_html.md ## CANN商业版-aclrtCreateLabelList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1888.html - Description: 创建标签列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1888_html.md ## CANN商业版-aclrtDestroyLabelList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1889.html - Description: 销毁标签列表。 返回0表示成功,返回其他值表示失败,请参见aclError。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1889_html.md ## CANN商业版-aclrtSwitchLabelByIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1890.html - Description: 根据标签索引跳转到相应的标签位置,执行该标签所在Stream上的任务,同时当前Stream上的任务停止执行。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1890_html.md ## CANN商业版-aclrtActiveStream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1892.html - Description: 激活Stream。异步接口。 被激活的Stream上的任务与当前Stream上的任务并行执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1892_html.md ## CANN商业版-aclrtSwitchStream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1893.html - Description: 根据条件在Stream之间跳转。异步接口。 跳转成功后,只执行所跳转的Stream上的任务,当前Stream上的任务停止执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1893_html.md ## CANN商业版-aclrtGetFunctionName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1894.html - Description: 根据核函数句柄获取核函数名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1894_html.md ## CANN商业版-aclrtGetDevicesTopo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1895.html - Description: 获取两个Device之间的网络拓扑关系。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1895_html.md ## CANN商业版-aclrtBinaryLoadFromData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1896.html - Description: 从内存加载并解析算子二进制数据,输出指向算子二进制的binHandle。 调用本接口用于加载AI CPU算子信息(aclrtBinaryLoadOption.type包含ACLRTBINARYLOADOPTCPUKERNELMODE)时,还需配合使用aclrtRegisterCpuFunc接口注册AI CPU算子。 注意,系统仅将算子加载至当前Context所对应的Device上,因此在调用acl - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1896_html.md ## CANN商业版-aclrtRegisterCpuFunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1897.html - Description: 若使用aclrtBinaryLoadFromData接口加载AI CPU算子二进制数据,还需配合使用本接口注册AI CPU算子信息,得到对应的funcHandle。 本接口只用于AI CPU算子,其它算子会返回报错ACLERRORRTPARAMINVALID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1897_html.md ## CANN商业版-aclrtCmoAsyncWithBarrier - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1898.html - Description: 实现Device上的Cache内存操作,同时携带barrierId,barrierId表示Cache内存操作的屏障标识。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1898_html.md ## CANN商业版-aclrtCmoWaitBarrier - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1899.html - Description: 等待具有指定barrierId的Invalid内存操作任务执行完成。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1899_html.md ## CANN商业版-aclrtGetBufFromChain - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1901.html - Description: 从Mbuf链表中获取第index个共享Buffer。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1901_html.md ## CANN商业版-aclrtGetBufChainNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1902.html - Description: 从Mbuf链表中获取共享Buffer的个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1902_html.md ## CANN商业版-aclrtAppendBufChain - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1903.html - Description: 将共享Buffer添加到Mbuf链表中。共享Buffer链最大支持128个共享Buffer。共享Buffer可通过aclrtAllocBuf或aclrtCopyBufRef接口申请获得。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1903_html.md ## CANN商业版-aclrtCopyBufRef - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1904.html - Description: 对共享Buffer数据区的引用拷贝,创建并返回一个新的Mbuf管理结构指向相同的数据区。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1904_html.md ## CANN商业版-aclrtGetBufUserData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1905.html - Description: 获取共享Buffer的私有数据区数据,偏移offset后,拷贝至用户申请的内存区域。当前默认私有数据区大小是96Byte,offset+size必须小于或等于96Byte,否则返回报错。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1905_html.md ## CANN商业版-aclrtGetBufData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1906.html - Description: 获取共享Buffer的数据区指针和数据区长度,用户可以使用此指针填入数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1906_html.md ## CANN商业版-aclrtGetBufDataLen - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1907.html - Description: 获取共享Buffer中有效数据的长度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1907_html.md ## CANN商业版-aclrtSetBufDataLen - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1908.html - Description: 设置共享Buffer中有效数据的长度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1908_html.md ## CANN商业版-aclrtFreeBuf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1909.html - Description: 释放通过aclrtAllocBuf接口申请的共享Buffer。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1909_html.md ## CANN商业版-aclrtAllocBuf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1910.html - Description: 申请指定大小的共享Buffer。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1910_html.md ## CANN商业版-aclrtTaskUpdateAsync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1911.html - Description: 刷新目标任务的信息。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1911_html.md ## CANN商业版-aclrtLabel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1912.html - Description: ``` typedef void aclrtLabel; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1912_html.md ## CANN商业版-aclrtLabelList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1913.html - Description: ``` typedef void aclrtLabelList; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1913_html.md ## CANN商业版-aclrtCondition - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1914.html - Description: ``` typedef enum \{ ACLRTEQUAL \= 0, ACLRTNOTEQUAL, ACLRTGREATER, ACLRTGREATEROREQUAL, ACLRTLESS, ACLRTLESSOREQUAL \} aclrtCondition; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1914_html.md ## CANN商业版-aclrtCompareDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1915.html - Description: ``` typedef enum \{ ACLRTSWITCHINT32 \= 0, ACLRTSWITCHINT64 \= 1, \} aclrtCompareDataType; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1915_html.md ## CANN商业版-aclrtEngineType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1916.html - Description: ``` typedef enum \{ ACLRTENGINETYPEAIC \= 0, // AI Core ACLRTENGINETYPEAIV, // Vector Core \} aclrtEngineType; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1916_html.md ## CANN商业版-aclrtBarrierTaskInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1917.html - Description: ``` typedef struct \{ sizet barrierNum; aclrtBarrierCmoInfo cmoInfo\[ACLRTCMOMAXBARRIERNUM\]; \} aclrtBarrierTaskInfo; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1917_html.md ## CANN商业版-aclrtTaskUpdateInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1918.html - Description: ``` typedef struct \{ aclrtUpdateTaskAttrId id; aclrtUpdateTaskAttrVal val; \} aclrtTaskUpdateInfo; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1918_html.md ## CANN商业版-aclrtAicAivTaskUpdateAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1919.html - Description: ``` typedef struct \{ void binHandle; void funcEntryAddr; void blockDimAddr; uint32t rsv\[4\]; \} aclrtAicAivTaskUpdateAttr; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1919_html.md ## CANN商业版-aclrtRandomTaskUpdateAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1920.html - Description: ``` typedef struct \{ void srcAddr; sizet size; uint32t rsv\[4\]; \} aclrtRandomTaskUpdateAttr; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1920_html.md ## CANN商业版-aclrtUpdateTaskAttrId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1921.html - Description: ``` typedef enum \{ ACLRTUPDATERANDOMTASK \= 1, ACLRTUPDATEAICAIVTASK, \} aclrtUpdateTaskAttrId; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1921_html.md ## CANN商业版-aclrtUpdateTaskAttrVal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1922.html - Description: ``` typedef union \{ aclrtRandomTaskUpdateAttr randomTaskAttr; aclrtAicAivTaskUpdateAttr aicAivTaskAttr; \} aclrtUpdateTaskAttrVal; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1922_html.md ## CANN商业版-aclrtMbuf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1923.html - Description: ``` typedef void aclrtMbuf; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1923_html.md ## CANN商业版-aclrtSetBufUserData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1924.html - Description: 设置共享Buffer的私有数据区数据,从用户内存拷贝到共享Buffer的私有数据区的指定偏移位置,用于设置控制信息作为上下文传递。当前默认私有数据区大小是96Byte,offset+size必须小于或等于96Byte,否则返回报错。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1924_html.md ## CANN商业版-aclrtRandomNumAsync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1925.html - Description: 下发并执行随机数生成任务。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1925_html.md ## CANN商业版-aclrtRandomParaInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1926.html - Description: ``` typedef struct \{ uint8t isAddr; uint8t valueOrAddr\[8\]; uint8t size; uint8t rsv\[6\]; \} aclrtRandomParaInfo; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1926_html.md ## CANN商业版-aclrtDropoutBitmaskInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1927.html - Description: ``` typedef struct \{ aclrtRandomParaInfo dropoutRation; \} aclrtDropoutBitmaskInfo; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1927_html.md ## CANN商业版-aclrtUniformDisInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1928.html - Description: ``` typedef struct \{ aclrtRandomParaInfo min; aclrtRandomParaInfo max; \} aclrtUniformDisInfo; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1928_html.md ## CANN商业版-aclrtNormalDisInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1929.html - Description: ``` typedef struct \{ aclrtRandomParaInfo mean; aclrtRandomParaInfo stddev; \} aclrtNormalDisInfo; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1929_html.md ## CANN商业版-aclrtRandomNumFuncParaInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1930.html - Description: ``` typedef struct \{ aclrtRandomNumFuncType funcType; union \{ aclrtDropoutBitmaskInfo dropoutBitmaskInfo; aclrtUniformDisInfo uniformDisInfo; aclrtNormalDisInfo norm - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1930_html.md ## CANN商业版-aclrtRandomNumTaskInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1931.html - Description: ``` typedef struct \{ aclDataType dataType; aclrtRandomNumFuncParaInfo randomNumFuncParaInfo; void randomParaAddr; void randomResultAddr; void randomCounterAddr; aclrtRando - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1931_html.md ## CANN商业版-aclrtRandomNumFuncType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1932.html - Description: ``` typedef enum \{ ACLRTRANDOMNUMFUNCTYPEDROPOUTBITMASK \= 0, // Dropout bitmask ACLRTRANDOMNUMFUNCTYPEUNIFORMDIS, // 均匀分布 ACLRTRANDOMNUMFUNCTYPENORMALDIS, // 正态分布 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1932_html.md ## CANN商业版-aclrtMemcpyBatch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1933.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于商用产品中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1933_html.md ## CANN商业版-aclrtIpcMemGetExportKey - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1934.html - Description: 在本进程中将指定Device内存设置为IPC(Inter-Process Communication)共享内存,并返回共享内存key,以便后续将内存共享给其它进程。 本接口需与以下其它关键接口配合使用,以便实现内存共享,此处以A、B进程为例,说明两个进程间的内存共享接口调用流程: 1. 在A进程中: a. 调用 aclrtMalloc 接口申请内存。 b. 调用 aclrtIp - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1934_html.md ## CANN商业版-aclrtIpcMemSetImportPid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1935.html - Description: 设置IPC共享内存的进程白名单。 本接口需与其它接口配合使用,以便实现内存共享的目的,配合使用流程请参见aclrtIpcMemGetExportKey接口处的说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1935_html.md ## CANN商业版-aclrtIpcMemImportByKey - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1936.html - Description: 在本进程中导入key的信息,并返回本进程可以使用的Device内存地址指针。 本接口需与其它接口配合使用,以便实现内存共享的目的,配合使用流程请参见aclrtIpcMemGetExportKey接口处的说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1936_html.md ## CANN商业版-aclrtIpcMemClose - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1937.html - Description: 关闭IPC共享内存,调用aclrtIpcMemImportByKey接口的进程中、调用aclrtIpcMemGetExportKey接口的进程中都需要调用此接口。 对于同一个共享内存key,需所有调用aclrtIpcMemImportByKey接口的进程中都调用aclrtIpcMemClose接口后,调用aclrtIpcMemGetExportKey接口的进程中才可以调用aclrtIpcMemCl - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1937_html.md ## CANN商业版-aclrtNotifyBatchReset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1938.html - Description: 批量复位Notify。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1938_html.md ## CANN商业版-aclrtNotifyGetExportKey - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1939.html - Description: 将本进程中的指定Notify设置为IPC(Inter-Process Communication) Notify,并返回key(即Notify共享名称),用于在多Device上不同进程间实现任务同步。 本接口需与以下其它关键接口配合使用,以便实现多Device上不同进程间的任务同步,此处以Device 0上的A进程、Device 1上的B进程为例,说明两个进程间的任务同步接口调用流程: 1. 在A - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1939_html.md ## CANN商业版-aclrtNotifySetImportPid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1940.html - Description: 设置共享Notify的进程白名单。 本接口需与其它接口配合使用,以便实现多Device上不同进程间的任务同步,请参见aclrtNotifyGetExportKey接口处的说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1940_html.md ## CANN商业版-aclrtNotifyImportByKey - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1941.html - Description: 在本进程中获取key的信息,并返回本进程可以使用的Notify指针。 本接口需与其它接口配合使用,以便实现多Device上不同进程间的任务同步,请参见aclrtNotifyGetExportKey接口处的说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1941_html.md ## CANN商业版-aclrtMemcpyBatchAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1942.html - Description: ``` typedef struct \{ aclrtMemLocation dstLoc; aclrtMemLocation srcLoc; uint8t rsv\[16\]; \} aclrtMemcpyBatchAttr; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1942_html.md ## CANN商业版-aclrtBarrierCmoInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1943.html - Description: ``` typedef struct \{ aclrtCmoType cmoType; uint32t barrierId; \} aclrtBarrierCmoInfo; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1943_html.md ## CANN商业版-aclrtGetStreamResLimit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1946.html - Description: 获取指定Stream的Device资源限制。 若没有调用aclrtSetStreamResLimit接口设置Device资源限制,则调用本接口获取到的Device资源限制优先级为:当前进程的Device资源限制(调用aclrtSetDeviceResLimit接口设置) >AI处理器硬件默认的资源限制 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1946_html.md ## CANN商业版-aclrtSetStreamResLimit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1947.html - Description: 设置指定Stream的Device资源限制。 本接口应在调用aclrtSetDevice接口之后且在执行算子之前使用。如果对同一Stream进行多次设置,将以最后一次设置为准。 调用本接口设置指定Stream的Device资源限制后,需配合调用aclrtUseStreamResInCurrentThread接口,设置在当前线程中使用指定Stream上的Device资源限制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1947_html.md ## CANN商业版-aclrtResetStreamResLimit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1948.html - Description: 调用aclrtSetStreamResLimit接口设置指定Stream的Device资源限制后,可调用本接口重置指定Stream的Device资源限制,恢复默认配置,此时可通过aclrtGetStreamResLimit接口查询默认的资源限制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1948_html.md ## CANN商业版-aclrtUseStreamResInCurrentThread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1949.html - Description: 在当前线程中使用指定Stream上的Device资源限制。如果多次调用本接口设置Stream,将以最后一次设置为准。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1949_html.md ## CANN商业版-aclrtUnuseStreamResInCurrentThread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1950.html - Description: 在当前线程中取消使用指定Stream上的Device资源限制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1950_html.md ## CANN商业版-aclrtGetResInCurrentThread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1951.html - Description: 获取当前线程可使用的Device资源。 获取时,按照如下优先级返回value:Stream级别的Device资源限制(调用aclrtSetStreamResLimit接口设置) > 当前进程的Device资源限制(调用aclrtSetDeviceResLimit接口设置) >AI处理器硬件默认的资源限制 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1951_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1952.html - Description: 接口名以acl作为前缀,命名风格为:acl+接口类别缩写+*,其中,*表示操作动词和对象,均采用首字母大写。下文为了描述方便,将本文中的接口统称为acl接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1952_html.md ## CANN商业版-aclrtMemcpyBatchAsync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1957.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于商用产品中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1957_html.md ## CANN商业版-aclrtGetPrimaryCtxState - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1958.html - Description: 获取默认Context的状态。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1958_html.md ## CANN商业版-aclrtLaunchHostFunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1959.html - Description: 在Stream的任务队列中下发一个Host回调任务,系统内部在执行到该回调任务时,会在Stream上注册的线程(该线程在本接口内部创建并注册)中执行回调函数,并且回调任务默认阻塞本Stream上后续任务的执行。异步接口。 本接口可用于实现异步场景下的callback功能,与另一套实现异步场景下的callback功能接口(aclrtLaunchCallback、aclrtSubscribeRepor - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1959_html.md ## CANN商业版-aclrtLaunchKernelV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1960.html - Description: 指定任务下发的配置信息,并启动对应算子的计算任务。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1960_html.md ## CANN商业版-aclrtLaunchKernelWithHostArgs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1961.html - Description: 指定任务下发的配置信息,并启动对应算子的计算任务。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1961_html.md ## CANN商业版-aclrtGetErrorVerbose - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1963.html - Description: 须知:本接口为预留接口,暂不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1963_html.md ## CANN商业版-aclrtRepairError - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1964.html - Description: 须知:本接口为预留接口,暂不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1964_html.md ## CANN商业版-aclrtAllocator - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1965.html - Description: ``` typedef void aclrtAllocator; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1965_html.md ## CANN商业版-aclrtAllocatorAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1966.html - Description: ``` typedef void aclrtAllocatorAddr; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1966_html.md ## CANN商业版-aclrtAllocatorBlock - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1967.html - Description: ``` typedef void aclrtAllocatorBlock; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1967_html.md ## CANN商业版-aclrtAllocatorGetByStream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1968.html - Description: 根据Stream查询用户注册的Allocator信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1968_html.md ## CANN商业版-aclRegisterCallbackType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1969.html - Description: ``` typedef enum aclRegisterCallbackType \{ ACLREGTYPEACLMODEL, // 模型管理 ACLREGTYPEACLOPEXECUTOR, // 单算子调用 ACLREGTYPEACLOPCBLAS, // 单算子调用中的CBLAS接口 ACLREGTYPEACLOPCOM - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1969_html.md ## CANN商业版-aclInitCallbackRegister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1970.html - Description: 注册初始化回调函数。 若在aclInit接口之前调用本接口,则会在初始化时触发回调函数的调用;若在aclInit接口之后调用本接口,则会在注册时立即触发回调函数的调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1970_html.md ## CANN商业版-aclInitCallbackUnRegister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1971.html - Description: 若不需要触发回调函数的调用,可调用本接口取消注册回调函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1971_html.md ## CANN商业版-aclFinalizeCallbackRegister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1972.html - Description: 注册去初始化回调函数。 在aclFinalize接口之前调用本接口,在去初始化时触发回调函数的调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1972_html.md ## CANN商业版-aclFinalizeCallbackUnRegister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1973.html - Description: 若不需要触发回调函数的调用,可调用本接口取消注册回调函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1973_html.md ## CANN商业版-aclFinalizeReference - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1974.html - Description: 去初始化函数,用于释放进程内acl接口使用的相关资源。 aclFinalizeReference接口内部涉及引用计数的实现,aclInit接口每被调用一次,则引用计数加一,aclFinalizeReference接口每被调用一次,则该引用计数减一,当引用计数减到0时,才会真正去初始化。aclFinalize接口与本接口的区别在于,调用aclFinalize接口会将计数清零,直接去初始化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1974_html.md ## CANN商业版-aclrtGetOpTimeOutInterval - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1985.html - Description: 获取硬件支持的算子超时配置的最短时间间隔interval,单位为微秒。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1985_html.md ## CANN商业版-aclrtSetOpExecuteTimeOutV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1986.html - Description: 设置算子执行的超时时间,单位为微秒。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1986_html.md ## CANN商业版-aclmdlRIDebugJsonPrint - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1988.html - Description: 维测场景下,使用本接口将模型运行实例信息以JSON格式导出到文件中,包括Model ID、Stream ID、Task ID、Task Type等信息。然后,通过tracing方式(例如chrome://tracing/)查看模型的可视化信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1988_html.md ## CANN商业版-aclrtRegDeviceStateCallback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1993.html - Description: 注册Device状态回调函数,不支持重复注册。 当Device状态发生变化时(例如调用aclrtSetDevice、aclrtResetDevice等接口),Runtime模块会触发该回调函数的调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1993_html.md ## CANN商业版-aclrtDevicePeerAccessStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1994.html - Description: 查询两个Device之间的数据交互状态。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1994_html.md ## CANN商业版-aclrtRegStreamStateCallback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1996.html - Description: 注册Stream状态回调函数,不支持重复注册。 当Stream状态发生变化时(例如调用aclrtCreateStream、aclrtDestroyStream等接口),Runtime模块会触发该回调函数的调用。此处的Stream包含显式创建的Stream以及默认Stream。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1996_html.md ## CANN商业版-aclrtStreamStop - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1997.html - Description: 仅停止指定Stream上的正在执行的任务,不清理任务。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1997_html.md ## CANN商业版-aclrtGetHardwareSyncAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_1999.html - Description: 获取Cube Core、Vector Core之间的同步地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_1999_html.md ## CANN商业版-aclrtSetDeviceTaskAbortCallback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2001.html - Description: 调用本接口注册回调函数,用于在调用aclrtDeviceTaskAbort接口前后触发该回调函数。不支持重复注册。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2001_html.md ## CANN商业版-aclrtGetOpExecuteTimeout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2003.html - Description: 获取AI Core算子执行的超时时间。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2003_html.md ## CANN商业版-aclrtMemSharedHandleType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2005.html - Description: ``` typedef enum aclrtMemSharedHandleType \{ ACLMEMSHAREHANDLETYPEDEFAULT \= 0x1, ACLMEMSHAREHANDLETYPEFABRIC \= 0x2, \} aclrtMemSharedHandleType; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2005_html.md ## CANN商业版-aclrtMemExportToShareableHandleV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2006.html - Description: 将本进程通过aclrtMallocPhysical接口获取到的Device物理内存handle导出,以便后续将Device物理内存共享给其它进程。 本接口是在接口aclrtMemExportToShareableHandle基础上进行了增强,用户可通过shareType参数指定导出AI Server内的共享句柄,或导出跨AI Server的共享句柄。AI Server通常是多个Device组成的服 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2006_html.md ## CANN商业版-aclrtMemSetPidToShareableHandleV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2007.html - Description: 设置共享内存的进程白名单。 本接口是在接口aclrtMemSetPidToShareableHandle基础上进行了增强,用户可通过shareType参数指定导出AI Server内的共享句柄,或导出跨AI Server的共享句柄。 本接口的使用流程可参见aclrtMemExportToShareableHandle,但本接口需配合调用aclrtMemExportToShareableHandle - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2007_html.md ## CANN商业版-aclrtMemImportFromShareableHandleV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2008.html - Description: 在本进程中获取shareableHandle里的信息,并返回本进程中的handle,用于在本进程中建立虚拟地址与物理地址之间的映射关系。 本接口是在接口aclrtMemImportFromShareableHandle基础上进行了增强,用户可通过shareType参数指定导出AI Server内的共享句柄,或导出跨AI Server的共享句柄。 本接口的使用流程可参见aclrtMemExportT - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2008_html.md ## CANN商业版-aclrtMemcpyAsyncWithOffset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2011.html - Description: 实现内存复制,适用于基地址是二级指针、有地址偏移的场景。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2011_html.md ## CANN商业版-aclrtIpcMemAttrType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2012.html - Description: ``` typedef enum \{ ACLRTIPCMEMATTRACCESSLINK, // 通信方式 \} aclrtIpcMemAttrType; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2012_html.md ## CANN商业版-aclrtIpcMemSetAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2013.html - Description: 设置IPC共享内存的属性信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2013_html.md ## CANN商业版-aclrtServerPid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2014.html - Description: ``` typedef struct \{ uint32t sdid; int32t pid; sizet num; \} aclrtServerPid; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2014_html.md ## CANN商业版-aclrtIpcMemImportPidInterServer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2015.html - Description: 针对 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 中的超节点产品,批量设置IPC共享内存的进程白名单。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2015_html.md ## CANN商业版-aclrtNotifySetImportPidInterServer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2017.html - Description: 设置共享Notify的进程白名单。 该接口仅针对 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 中的超节点产品, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2017_html.md ## CANN商业版-aclrtCntNotify - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2019.html - Description: ``` typedef void aclrtCntNotify; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2019_html.md ## CANN商业版-aclrtCntNotifyCreate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2020.html - Description: 创建CntNotify。 CntNotify通常也用于Device与Device之间的状态/动作通信通知。但CntNotify是利用计数值实现任务间的同步,跟Notify的区别是,Notify的计数值仅支持1,CntNotify的计数值支持\[1~uint32t最大值\]。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2020_html.md ## CANN商业版-aclrtCntNotifyDestroy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2021.html - Description: 销毁CntNotify。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2021_html.md ## CANN商业版-aclmdlRIAbort - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2025.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于商用产品中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2025_html.md ## CANN商业版-aclrtCmoGetDescSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2027.html - Description: 获取当前Device上的Cache内存描述符占用的内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2027_html.md ## CANN商业版-aclrtCmoSetDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2028.html - Description: 设置Cache内存描述符,此接口调用完成后,会将源内存地址、内存大小记录到Cache内存描述符中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2028_html.md ## CANN商业版-aclrtCmoAsyncWithDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2029.html - Description: 使用内存描述符(二级指针方式)操作Device上的Cache内存。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2029_html.md ## CANN商业版-aclrtCntNotifyRecord - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2032.html - Description: 在指定Stream上记录一个CntNotify。异步接口。 aclrtCntNotifyRecord接口与aclrtCntNotifyWaitWithTimeout接口配合使用时,主要用于多Stream之间同步等待的场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2032_html.md ## CANN商业版-aclrtCntNotifyWaitWithTimeout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2033.html - Description: 阻塞指定Stream的运行,直到指定的CntNotify完成。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2033_html.md ## CANN商业版-aclrtCntNotifyReset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2034.html - Description: 复位一个CntNotify,将CntNotify的计数值清空为0。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2034_html.md ## CANN商业版-aclrtCntNotifyGetId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2035.html - Description: 获取CntNotify的ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2035_html.md ## CANN商业版-aclrtCntNotifyRecordInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2036.html - Description: ``` typedef struct \{ aclrtCntNotifyRecordMode mode; // Record的行为模式 uint32t value; \} aclrtCntNotifyRecordInfo; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2036_html.md ## CANN商业版-aclrtCntNotifyRecordMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2037.html - Description: ``` typedef enum \{ ACLRTCNTNOTIFYRECORDSETVALUEMODE \= 0, // 覆盖模式,CntNotify计数值 \= value ACLRTCNTNOTIFYRECORDADDMODE \= 1, // 累加模式,CntNotify计数值 \= 当前值 + value ACLRTCNTNOTIFYRECO - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2037_html.md ## CANN商业版-aclrtCntNotifyWaitInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2038.html - Description: ``` typedef struct \{ aclrtCntNotifyWaitMode mode; // Wait的行为模式 uint32t value; uint32t timeout; // 超时时间,单位是秒,其中,0表示永久等待 uint8t isClear; // wait解除阻塞后是否CntNotify - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2038_html.md ## CANN商业版-aclrtCntNotifyWaitMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2039.html - Description: ``` typedef enum \{ ACLRTCNTNOTIFYWAITLESSMODE \= 0, // CntNotify的当前计数值 value,则解除Wait ACLRTCNTNOTIFYWAITBIGGEROREQUALMODE \= 3, // CntNotify的当前计数值 >\= value,则解除Wait ACLRTCNTN - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2039_html.md ## CANN商业版-aclrtPersistentTaskClean - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2041.html - Description: 清理ACLSTREAMPERSISTENT类型的Stream上的任务,适用于在不删除该类型Stream的情况下重新下发任务的场景。 ACLSTREAMPERSISTENT类型的Stream需调用aclrtCreateStreamWithConfig接口创建。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2041_html.md ## CANN商业版-aclrtMemGetAccess - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2045.html - Description: 获取内存的访问权限。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2045_html.md ## CANN商业版-aclrtMemAccessFlags - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2046.html - Description: ``` typedef enum \{ ACLRTMEMACCESSFLAGSNONE \= 0x0, // 该地址范围不可访问 ACLRTMEMACCESSFLAGSREAD \= 0x1, // 地址范围可读 ACLRTMEMACCESSFLAGSREADWRITE \= 0x3, // 地址范围可读可写 \} aclrtMemAccessFlags; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2046_html.md ## CANN商业版-aclrtMemAccessDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2047.html - Description: ``` typedef struct \{ aclrtMemAccessFlags flags; aclrtMemLocation location; uint8t rsv\[12\]; \} aclrtMemAccessDesc; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2047_html.md ## CANN商业版-aclrtBinaryGetDevAddress - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2049.html - Description: 获取算子二进制数据在Device上的内存地址及内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2049_html.md ## CANN商业版-aclrtStreamWaitEventWithTimeout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2051.html - Description: 阻塞指定Stream的运行,直到指定的Event完成。异步接口。 该接口是在接口aclrtStreamWaitEvent基础上进行了增强,支持用户配置具体的超时时间。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2051_html.md ## CANN商业版-aclrtUuid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2053.html - Description: ``` typedef struct aclrtUuid \{ char bytes\[16\]; // 一个16字节的字符串,作为Device的唯一标识 \} aclrtUuid; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2053_html.md ## CANN商业版-aclrtDeviceGetUuid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2054.html - Description: 获取Device的唯一标识UUID(Universally Unique Identifier)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2054_html.md ## CANN商业版-aclrtGetLogicDevIdByUserDevId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2057.html - Description: 根据用户设备ID获取对应的逻辑设备ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2057_html.md ## CANN商业版-aclrtGetUserDevIdByLogicDevId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2058.html - Description: 根据逻辑设备ID获取对应的用户设备ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2058_html.md ## CANN商业版-aclrtGetLogicDevIdByPhyDevId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2059.html - Description: 根据物理设备ID获取对应的逻辑设备ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2059_html.md ## CANN商业版-aclrtGetPhyDevIdByLogicDevId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2060.html - Description: 根据逻辑设备ID获取对应的物理设备ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2060_html.md ## CANN商业版-aclrtCheckMemType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2062.html - Description: 检查Device内存类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2062_html.md ## CANN商业版-aclrtSnapShotProcessLock - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2065.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于商用产品中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2065_html.md ## CANN商业版-aclrtSnapShotProcessBackup - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2066.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于商用产品中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2066_html.md ## CANN商业版-aclrtSnapShotProcessUnlock - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2068.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于商用产品中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2068_html.md ## CANN商业版-aclrtCtxGetFloatOverflowAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2071.html - Description: 饱和模式下,获取保存溢出标记的Device内存地址,该内存地址后续需作为Workspace参数传递给AI Core算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2071_html.md ## CANN商业版-aclrtFreeWithDevSync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2074.html - Description: 释放Device上的内存。 本接口内部会进行隐式的Device同步,并等待使用该内存的任务完成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2074_html.md ## CANN商业版-aclrtFreeHostWithDevSync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2075.html - Description: 释放通过aclrtMallocHost接口或aclrtMallocHostWithCfg接口申请的Host内存。 本接口内部会进行隐式的Device同步,并等待使用该内存的任务完成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2075_html.md ## CANN商业版-aclrtTimeoutUs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2090.html - Description: ``` typedef struct \{ uint32t timeoutLow; // 超时时间的低32位值 uint32t timeoutHigh; // 超时时间的高32位值 \} aclrtTimeoutUs; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2090_html.md ## CANN商业版-aclrtCacheLastTaskOpInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2091.html - Description: 基于捕获方式构建模型运行实例场景下,把指定内存中的算子信息按照infoSize大小缓存到当前线程中最后下发的任务上。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2091_html.md ## CANN商业版-aclrtIpcGetEventHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2092.html - Description: 将本进程中的指定Event设置为IPC(Inter-Process Communication) Event,并返回其handle(即Event句柄),用于在跨进程场景下实现任务同步,支持同一个Device内的多个进程以及跨Device的多个进程。 本接口需与以下其它关键接口配合使用,此处以A进程、B进程为例: 1. A进程中: a. 调用 aclrtCreateEventExWithF - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2092_html.md ## CANN商业版-aclrtIpcOpenEventHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2093.html - Description: 在本进程中获取handle的信息,并返回本进程可以使用的Event指针。 本接口需与其它接口配合使用,以便实现不同进程间的任务同步,请参见aclrtIpcGetEventHandle接口处的说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2093_html.md ## CANN商业版-aclrtIpcEventHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2094.html - Description: ``` \#define ACLIPCEVENTHANDLESIZE 64U typedef struct aclrtIpcEventHandle \{ char reserved\[ACLIPCEVENTHANDLESIZE\]; \} aclrtIpcEventHandle; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2094_html.md ## CANN商业版-aclsysGetVersionStr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2096.html - Description: 根据软件包名称查询版本号,版本号是字符串类型,与各包安装目录下version.info文件中的version保持一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2096_html.md ## CANN商业版-aclsysGetVersionNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2097.html - Description: 根据软件包名称查询版本号,版本号是数值类型,通过计算各包安装目录下version.info文件中的version字段的主、次、补丁等版本信息的权重得出。 获取数值类型的版本号并进行比较,数值较大的表示版本发布时间较新,可用于了解版本发布的先后顺序,以及在代码中根据版本区分不同的接口调用逻辑等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2097_html.md ## CANN商业版-aclrtProfTrace - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2098.html - Description: 支持用户在网络指定位置下发自定义的Profiling打点。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2098_html.md ## CANN商业版-aclrtGetFunctionAttribute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2115.html - Description: 根据核函数句柄获取核函数属性信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2115_html.md ## CANN商业版-aclrtFuncAttribute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2116.html - Description: ``` typedef enum \{ ACLFUNCATTRKERNELTYPE \= 1, // Kernel类型 \} aclrtFuncAttribute; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2116_html.md ## CANN商业版-aclrtKernelType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2117.html - Description: ``` typedef enum \{ ACLKERNELTYPEAICORE \= 0, // AI Core ACLKERNELTYPECUBE \= 1, // Cube Core ACLKERNELTYPEVECTOR \= 2, // Vector Core ACLKERNELTYPEMIX \= 3, // 会同时启动AI Cor - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2117_html.md ## CANN商业版-aclrtMemRetainAllocationHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2118.html - Description: 根据虚拟内存地址获取物理内存信息的handle。 若多次调用本接口,则需相应地调用相同次数的aclrtFreePhysical来释放物理内存handle。 若调用接口时返回ACLERRORRTFEATURENOTSUPPORT,这表示底层驱动不支持该特性,需将驱动包升级到26.0.RC1或更高版本。您可以单击Link\(https://www.hiascend.com/hardware/firmwa - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2118_html.md ## CANN商业版-aclrtMemGetAllocationPropertiesFromHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2119.html - Description: 根据物理内存信息的handle查询其内存属性信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2119_html.md ## CANN商业版-aclrtStreamGetPriority - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2120.html - Description: 查询指定Stream的优先级。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2120_html.md ## CANN商业版-aclrtStreamGetFlags - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2121.html - Description: 查询创建Stream时设置的flag标志。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2121_html.md ## CANN商业版-aclrtHostMemMapCapabilities - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2122.html - Description: 查询指定的硬件驱动加速器是否支持访问通过aclrtHostRegister接口注册的内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2122_html.md ## CANN商业版-aclrtHacType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2123.html - Description: ``` typedef enum \{ ACLRTHACTYPESTARS \= 0, // System Task and Resource Scheduler ACLRTHACTYPEAICPU, // AI CPU ACLRTHACTYPEAIC, // AI Core或Cube Core ACLRTHACTYPEAIV, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2123_html.md ## CANN商业版-aclrtHostMemMapCapability - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2124.html - Description: ``` typedef enum \{ ACLRTHOSTMEMMAPNOTSUPPORTED \= 0, // 不支持 ACLRTHOSTMEMMAPSUPPORTED // 支持 \} aclrtHostMemMapCapability; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2124_html.md ## CANN商业版-aclrtGetMemUsageInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2125.html - Description: 查询组件的内存使用信息,包括组件名称、当前内存大小和峰值内存大小等信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2125_html.md ## CANN商业版-aclrtMemUsageInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2126.html - Description: ``` typedef struct aclrtMemUsageInfo \{ char name\[32\]; // 组件名称 uint64t curMemSize; // 当前占用的内存大小,单位Byte uint64t memPeakSize; // 该组件的峰值内存,单位Byte sizet reserved\[8\]; // 预留 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2126_html.md ## CANN商业版-aclrtHostRegisterV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2128.html - Description: 注册Host内存地址。 取消注册需调用aclrtHostUnregister接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2128_html.md ## CANN商业版-aclrtHostGetDevicePointer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2129.html - Description: 获取由aclrtHostRegister接口或aclrtHostRegisterV2接口注册映射的Device内存地址。映射后的Device内存地址不能用于内存操作,例如内存复制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2129_html.md ## CANN商业版-aclrtSnapShotCallbackRegister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2130.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于商用产品中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2130_html.md ## CANN商业版-aclrtSnapShotCallbackUnregister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2131.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于商用产品中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2131_html.md ## CANN商业版-aclrtSnapShotStage - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2132.html - Description: ``` typedef enum \{ ACLRTSNAPSHOTLOCKPRE \= 0, // 锁定前 ACLRTSNAPSHOTBACKUPPRE, // 备份前 ACLRTSNAPSHOTBACKUPPOST, // 备份后 ACLRTSNAPSHOTRESTOREPRE, // 恢复前 ACLRTSNAPSHOTREST - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2132_html.md ## CANN商业版-aclrtReserveMemAddressNoUCMemory - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2134.html - Description: 须知:由用户指定起始地址是试验特性,后续版本可能存在变更,不支持应用于商用产品中 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2134_html.md ## CANN商业版-aclrtMemGetAddressRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2135.html - Description: 获取待查询地址所属内存块的起始地址以及内存块大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2135_html.md ## CANN商业版-aclprofConfigType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2136.html - Description: ``` typedef enum \{ ACLPROFARGSMIN \= 0, ACLPROFSTORAGELIMIT \= 1, ACLPROFSYSHARDWAREMEMFREQ \= 3, ACLPROFLLCMODE \= 4, ACLPROFSYS - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2136_html.md ## CANN商业版-acldumpGetPath - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2137.html - Description: 获取Dump数据存放路径,以便用户将自定维测数据保存到该路径下。 在调用本接口前,需通过aclmdlInitDump接口初始化Dump功能、通过aclmdlSetDump接口配置Dump信息,或者直接通过aclInit接口配置Dump信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2137_html.md ## CANN商业版-acldumpType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2138.html - Description: ``` enum acldumpType \{ AICERRBRIEFDUMP \= 1, // 轻量化exception dump AICERRNORMDUMP \= 2, // 普通exception dump,在轻量化exception dump基础上,还会导出Shape、Data Type、Format以及属性信息 AICERRDETAI - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2138_html.md ## CANN商业版-aclrtBinarySetExceptionCallback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2139.html - Description: 调用本接口注册回调函数。若多次设置回调函数,以最后一次设置为准。 在执行算子之前,调用本接口注册回调函数。如果算子执行过程中出现异常,将触发回调函数的执行,并将异常信息存储在aclrtExceptionInfo结构体中。之后,可以通过调用aclrtGetArgsFromExceptionInfo和aclrtGetFuncHandleFromExceptionInfo接口,从异常信息中获取用户下发算 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2139_html.md ## CANN商业版-aclrtGetArgsFromExceptionInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2140.html - Description: 从aclrtExceptionInfo异常信息中获取用户下发算子执行任务时的参数。此接口与aclrtBinarySetExceptionCallback接口配合使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2140_html.md ## CANN商业版-aclrtGetFuncHandleFromExceptionInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2141.html - Description: 从aclrtExceptionInfo异常信息中获取核函数句柄。此接口与aclrtBinarySetExceptionCallback接口配合使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2141_html.md ## CANN商业版-aclprofStr2Id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2142.html - Description: msproftx用于将字符串转换为哈希ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2142_html.md ## CANN商业版-aclprofRangePushEx - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2143.html - Description: 在Torch场景下,msproftx上报Tensor信息。 调用此接口后,Profiling判断messageType为MESSAGETYPETENSORINFO时,缓存Tensor信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2143_html.md ## CANN商业版-aclprofRangePop - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2144.html - Description: 在Torch场景下,msproftx上报Tensor信息。 调用此接口后,Profiling上报缓存的Tensor信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2144_html.md ## CANN商业版-aclrtMemAllocManaged - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2145.html - Description: 须知:本接口为预留接口,暂不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2145_html.md ## CANN商业版-aclrtMemPoolCreate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2155.html - Description: 须知:预留接口,暂不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2155_html.md ## CANN商业版-aclrtMemPoolDestroy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2156.html - Description: 须知:预留接口,暂不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2156_html.md ## CANN商业版-aclrtMemPoolGetAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2157.html - Description: 须知:预留接口,暂不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2157_html.md ## CANN商业版-aclrtMemPoolSetAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2158.html - Description: 须知:预留接口,暂不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2158_html.md ## CANN商业版-aclrtMemPool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2159.html - Description: ``` typedef void aclrtMemPool; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2159_html.md ## CANN商业版-aclrtMemPoolAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2160.html - Description: ``` typedef enum aclrtMemPoolAttr\{ ACLRTMEMPOOLREUSEFOLLOWEVENTDEPENDENCIES \= 0x1, ACLRTMEMPOOLREUSEALLOWOPPORTUNISTIC \= 0x2, ACLRTMEMPOOLREUSEALLOWINTERNALDEPENDENCIES \= 0x3, ACLRTMEM - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2160_html.md ## CANN商业版-aclrtMemP2PMap - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2162.html - Description: 本接口用于建立同一进程内两个Device之间的内存页表映射,以实现跨Device的内存访问,但在进行此操作前,需先调用aclrtDeviceEnablePeerAccess接口以开启两个Device间的数据交互。 调用本接口建立页表映射后,跨Device访问时不会出现内存缺页的问题,首次访问内存时性能更优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2162_html.md ## 共享Buffer管理使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclcppdevg_03_2199.html - Description: 本特性提供了跨进程共享Buffer管理能力,可配合共享队列管理一起使用。共享Buffer的共享范围由共享队列的授权确定,共享范围包括“一主多从”的这些进程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclcppdevg_03_2199_html.md ## 废弃接口/返回码列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0002.html - Description: - acl.op.execute\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendgraphapi/aclpythondevg010145.html\)接口 此接口后续版本会废弃,请使用acl.op.executev2\(https://www. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0002_html.md ## 同步&异步API说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0003.html - Description: CANN支持以下几类显式同步,调用此类接口后,主机线程会阻塞直到相关的任务执行完成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0003_html.md ## 函数:init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0005.html - Description: 初始化函数。 - C函数原型 1 aclError aclInit\(const char configPath\) - python函数 1 ret \= acl.init\(configpath\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0005_html.md ## 函数:finalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0006.html - Description: 去初始化函数,用于释放进程内的相关资源。 在该接口内,默认增加2000ms延时(实际最大延时可达2000ms),用于Device业务日志回传,保证ERROR级别和EVENT级别日志不丢失,您可以将“ASCENDLOGDEVICEFLUSHTIMEOUT”环境变量设置为“0”(命令示例:export ASCENDLOGDEVICEFLUSHTIMEOUT\=0),去除该默认延时。 关于ASCENDLO - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0006_html.md ## 函数:get\_version - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0007.html - Description: 查询接口版本号,pyacl接口版本号命名可以采用:A.B.C模式,其中,A表示有不兼容修改,B表示新增接口,C表示bug修复。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0007_html.md ## 函数:get\_soc\_name - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0009.html - Description: 查询当前运行环境的芯片版本。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0009_html.md ## 函数:get\_recent\_err\_msg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0010.html - Description: 获取并清空与本接口在同一个线程中的其它pyacl接口调用失败时的错误描述信息。 获取进程级别、还是线程级别的错误描述信息由acl.init接口中的“errmsgmode”配置控制,默认线程级别。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0010_html.md ## 函数:set\_device\_sat\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0011.html - Description: 设置当前Device的浮点计算结果输出模式。 调用该接口成功后,后续在该Device上新创建的Stream按设置的模式生效,对之前已创建的Stream不生效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0011_html.md ## 函数:get\_device\_sat\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0012.html - Description: 查询当前Device的浮点计算结果输出模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0012_html.md ## 函数:float16\_to\_float - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0014.html - Description: 将aclFloat16类型的数据转换为float(指float32)类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0014_html.md ## 函数:float\_to\_float16 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0015.html - Description: 将float(指float32)类型的数据转换为aclFloat16类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0015_html.md ## 函数:create\_data\_buffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0016.html - Description: 创建aclDataBuffer类型的数据,该数据类型用于描述内存地址、大小等内存信息。 如需销毁aclDataBuffer类型的数据,请参见函数:destroydatabuffer。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0016_html.md ## 函数:destroy\_data\_buffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0017.html - Description: 销毁aclDataBuffer类型的数据。 此处仅销毁aclDataBuffer类型的数据,调用acl.createdatabuffer接口创建aclDataBuffer类型数据时传入的data的内存需由用户自行释放。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0017_html.md ## 函数:get\_data\_buffer\_addr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0018.html - Description: 获取aclDataBuffer类型中的数据的内存地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0018_html.md ## 函数:get\_data\_buffer\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0019.html - Description: 获取aclDataBuffer类型中数据的内存大小,单位Byte。 此接口后续版本会废弃,请使用acl.getdatabuffersizev2接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0019_html.md ## 函数:get\_data\_buffer\_size\_v2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0020.html - Description: 获取aclDataBuffer类型中数据的内存大小,单位Byte。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0020_html.md ## 函数:update\_data\_buffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0021.html - Description: 更新aclDataBuffer中数据的内存及大小。 更新aclDataBuffer后,之前aclDataBuffer中存放数据的内存如果不使用,需及时释放,否则可能会导致内存泄漏。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0021_html.md ## 函数:data\_type\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0022.html - Description: 获取aclDataType数据的大小,单位Byte。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0022_html.md ## 函数:app\_log - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0050.html - Description: 将日志记录到系统相应的日志文件中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0050_html.md ## 函数:numpy\_to\_ptr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0052.html - Description: 该接口即将废弃,建议使用acl.util.bytes\_to\_ptr接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0052_html.md ## 函数:numpy\_contiguous\_to\_ptr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0053.html - Description: 该接口即将废弃,建议使用acl.util.bytes\_to\_ptr接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0053_html.md ## 函数:ptr\_to\_numpy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0054.html - Description: 该接口即将废弃,建议使用acl.util.ptr\_to\_bytes接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0054_html.md ## 函数:bytes\_to\_ptr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0055.html - Description: | C函数原型 | 无 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0055_html.md ## 函数:ptr\_to\_bytes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0056.html - Description: | C函数原型 | 无 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0056_html.md ## 函数:start\_thread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0058.html - Description: | C函数原型 | 无 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0058_html.md ## 函数:stop\_thread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0059.html - Description: | C函数原型 | 无 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0059_html.md ## 函数:set\_device - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0062.html - Description: 调用本接口会隐式创建默认Context,该默认Context中包含一个默认Stream。在同一个进程的多个线程中,如果调用aclrtSetDevice接口并指定相同的Device用于计算,那么这些线程将共享同一个默认Context。 但 Atlas 推理系列产品 的EP标准形态除外,其隐式创建的默认Context中包含两个Stream:一个默认Stream和一个执行内部同步的Stream。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0062_html.md ## 函数:get\_device - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0064.html - Description: 获取当前正在使用的Device的ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0064_html.md ## 函数:get\_run\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0065.html - Description: 获取当前昇腾AI软件栈的运行模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0065_html.md ## 函数:set\_ts\_device - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0066.html - Description: 设置本次计算需要使用的Task Schedule。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0066_html.md ## 函数:get\_device\_count - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0067.html - Description: 获取可用Device的数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0067_html.md ## 函数:get\_device\_utilization\_rate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0068.html - Description: 查询Device上Cube、Vector、AI CPU等的利用率。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0068_html.md ## 函数:query\_device\_status - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0069.html - Description: 查询Device状态是正常可用、还是异常不可用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0069_html.md ## 函数:synchronize\_device - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0070.html - Description: 阻塞应用程序运行,直到正在运算中的Device完成运算。 多Device场景下,调用该接口等待的是当前Context对应的Device。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0070_html.md ## 函数:create\_context - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0072.html - Description: 在当前进程或线程中显式创建一个Context。 对于 Atlas 200I/500 A2 推理产品 ,该Context中包含2个Stream,1个默认Stream和1个执行内部同步的Stream。 对于 Atlas 训练系列产品 ,该Context中包含1个默认Stream。 对于 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,该Context中包含1个默认Stream。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0072_html.md ## 函数:destroy\_context - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0073.html - Description: 销毁一个Context,释放Context的资源。只能销毁通过acl.rt.createcontext接口创建的Context。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0073_html.md ## 函数:set\_context - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0074.html - Description: 设置线程的Context。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0074_html.md ## 函数:get\_context - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0075.html - Description: 获取线程的Context。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0075_html.md ## 函数:get\_overflow\_status - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0076.html - Description: 获取当前Device下所有Stream上任务的溢出状态,并将状态值拷贝到用户申请的Device内存中。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0076_html.md ## 函数:reset\_overflow\_status - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0077.html - Description: 清除当前Device下所有Stream上任务的溢出状态。异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0077_html.md ## 函数:create\_stream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0079.html - Description: 在当前进程或线程中创建一个Stream。 该接口不支持设置Stream的优先级;若不设置,Stream的优先级默认为最高。如需在创建Stream时设置优先级,请参见acl.rt.createstreamwithconfig接口。 若不显式调用Stream创建接口,那么每个Context对应一个默认Stream,该默认Stream是调用acl.rt.setdevice接口或acl.rt.create - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0079_html.md ## 函数:create\_stream\_with\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0080.html - Description: 在当前进程或线程中创建一个Stream。 在 Atlas 推理系列产品 上,相比acl.rt.createstream接口,使用本接口可以创建一个快速下发任务的Stream,但会增加内存消耗或CPU的性能消耗。 在 Atlas 训练系列产品 上,相比acl.rt.createstream接口,使用本接口可以创建一个快速下发任务的Stream,但会增加内存消耗或CPU的性能消耗。 在 Atlas A - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0080_html.md ## 函数:destroy\_stream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0081.html - Description: 销毁指定Stream,销毁通过acl.rt.createstream或acl.rt.createstreamwithconfig接口创建的Stream,若Stream上有未完成的任务,会等待任务完成后再销毁Stream。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0081_html.md ## 函数:destroy\_stream\_force - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0082.html - Description: 销毁指定Stream,销毁通过acl.rt.createstream或acl.rt.createstreamwithconfig接口创建的Stream,若Stream上有未完成的任务,不会等待任务完成,直接强制销毁Stream。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0082_html.md ## 函数:set\_stream\_overflow\_switch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0083.html - Description: 饱和模式下,对接上层训练框架时(例如:PyTorch),针对指定Stream,打开或关闭溢出检测开关,关闭后无法通过溢出检测算子获取任务是否溢出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0083_html.md ## 函数:get\_stream\_overflow\_switch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0084.html - Description: 针对指定Stream,获取其当前溢出检测开关是否打开。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0084_html.md ## 函数:stream\_query - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0086.html - Description: 查询指定Stream上的所有任务的执行状态。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0086_html.md ## 函数:synchronize\_stream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0087.html - Description: 阻塞应用程序运行,直到指定Stream中的所有任务都完成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0087_html.md ## 函数:synchronize\_stream\_with\_timeout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0088.html - Description: 阻塞应用程序运行,直到指定Stream中的所有任务都完成,该接口是在acl.rt.synchronizestream接口基础上进行了增强,支持用户设置超时时间,当应用程序异常时可根据所设置的超时时间自行退出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0088_html.md ## 函数:create\_event - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0090.html - Description: 创建一个Event,创建的Event可用于统计两个Event之间的耗时、多Stream场景下的同步等待等场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0090_html.md ## 函数:create\_event\_with\_flag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0091.html - Description: 创建一个带flag的Event,不同flag的Event用于不同的功能。支持创建Event时携带多个flag(按位进行或操作),从而同时使能对应flag的功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0091_html.md ## 函数:destroy\_event - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0092.html - Description: 销毁一个Event,支持在Event未完成前调用本接口销毁Event。此时,本接口不会阻塞线程等Event完成,Event相关资源会在Event完成时被自动释放。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0092_html.md ## 函数:record\_event - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0093.html - Description: 在Stream中记录一个Event。本接口被调用时,会捕获当前Stream上已下发的任务并记录到Event事件中,因此后续若调用acl.rt.queryeventstatus或acl.rt.streamwaitevent接口时,会检查或等待该Event事件中所捕获的任务都已经完成。 对于使用acl rt.createeventexwithflag创建的Event: - 本接口支持对同一个Event - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0093_html.md ## 函数:reset\_event - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0094.html - Description: 复位一个Event。用户需确保等待Stream中的任务都完成后,再复位Event,异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0094_html.md ## 函数:query\_event - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0095.html - Description: 查询与本接口在同一线程中的acl.rt.recordevent接口所记录的Event是否执行完成。 此接口后续版本会废弃,请使用函数:queryeventstatus接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0095_html.md ## 函数:query\_event\_status - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0096.html - Description: 查询该Event捕获的所有任务的执行状态。具体见acl.rt.recordevent接口参考Event捕获的细节。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0096_html.md ## 函数:query\_event\_wait\_status - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0097.html - Description: 调用acl.streamwaitevent接口后查询该Event对应的等待任务是否都执行完成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0097_html.md ## 函数:synchronize\_event\_with\_timeout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0099.html - Description: 阻塞当前线程运行直到Event捕获的所有任务都执行完成(具体见acl.rt.recordevent接口参考Event捕获的细节)。 该接口在acl.rt.synchronizeevent接口的基础上进行了增强,支持用户设置永久等待或配置具体的超时时间,若配置具体的超时时间,则当应用程序异常时可根据所设置的超时时间自行退出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0099_html.md ## 函数:event\_elapsed\_time - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0100.html - Description: 统计两个Event之间的耗时。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0100_html.md ## 函数:stream\_wait\_event - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0101.html - Description: 阻塞指定Stream的运行,直到指定的Event完成,支持多个Stream等待同一个Event的场景。异步接口。 提交到Stream上的所有后续任务都需要等待Event捕获的任务都完成后才能开始执行。具体见acl.rt.recordevent接口了解Event捕获的细节。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0101_html.md ## 函数:set\_op\_wait\_timeout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0102.html - Description: 本接口用于设置等待Event完成的超时时间。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0102_html.md ## 函数:subscribe\_report - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0104.html - Description: 异步任务场景下,指定处理Stream上回调函数的线程。 本接口需与以下其它接口配合使用,以便实现异步场景下的Callback功能:1. 新建线程,在线程函数内,调用 acl.rt.processreport 接口设置超时时间(需循环调用),等待 acl.rt.launchcallback 接口下发的函数回调任务。 2. 调用 acl.rt.subscribereport 接口建立第1步中的线 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0104_html.md ## 函数:launch\_callback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0105.html - Description: 异步任务场景下,在Stream的任务队列中下发一个函数回调任务,系统内部在执行到该回调任务时,会在Stream上订阅的线程(通过acl.rt.subscribereport接口注册的线程)中执行回调函数。异步接口。 本接口需与以下其它接口配合使用,以便实现异步场景下的Callback功能:1. 新建线程,在线程函数内,调用 acl.rt.processreport 接口设置超时时间(需循环调用) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0105_html.md ## 函数:process\_report - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0106.html - Description: 异步任务场景下,调用本接口设置超时时间,等待acl.rt.launchcallback接口下发的回调任务执行。 本接口需与以下其它接口配合使用,以便实现异步场景下的Callback功能:1. 新建线程,在线程函数内,调用 acl.rt.processreport 接口设置超时时间(需循环调用),等待 acl.rt.launchcallback 接口下发的函数回调任务。 2. 调用 acl.r - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0106_html.md ## 函数:unsubscribe\_report - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0107.html - Description: 异步任务场景下,取消线程订阅,Stream上的回调函数不再由指定线程处理。 本接口需与以下其它接口配合使用,以便实现异步场景下的Callback功能:1. 新建线程,在线程函数内,调用 acl.rt.processreport 接口设置超时时间(需循环调用),等待 acl.rt.launchcallback 接口下发的函数回调任务。 2. 调用 acl.rt.subscribereport - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0107_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0109.html - Description: - 若涉及媒体数据处理功能,关于内存使用,有以下注意事项: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0109_html.md ## 函数:malloc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0110.html - Description: 在Device上分配size大小的线性内存,并通过“devptr”返回已分配内存的指针,且内存首地址64字节对齐。使用本接口申请的内存,需要通过acl.rt.free接口释放内存。 本接口分配的内存,会进行字节对齐,会对用户申请的size向上对齐成32字节整数倍后再多加32字节。但对于内存申请粒度为1G的大页内存,为节省大页内存,本接口会对用户申请的size仅向上对齐成32字节整数倍,不会再增加3 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0110_html.md ## 函数:malloc\_cached - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0111.html - Description: 申请Device上的内存,该接口在任何场景下申请的内存都是支持cache缓存。在Device上申请size大小的线性内存,通过devptr返回已分配内存的指针地址。 使用acl.rt.malloccached接口申请的内存与使用acl.rt.malloc接口申请的内存是等价的,都支持cache缓存,不需要用户处理cpu与npu之间的cache一致性。 调用媒体数据处理的接口前,若需要申请Devic - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0111_html.md ## 函数:mem\_flush - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0112.html - Description: 将cache中的数据刷新到DDR中并将cache中的内容设置成无效。 该版本用户无需处理CPU与NPU之间的cache一致性,无需调用该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0112_html.md ## 函数:mem\_invalidate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0113.html - Description: 将cache中的数据设置成无效。 该版本不需要用户处理CPU与NPU之间的cache一致性,无需调用该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0113_html.md ## 函数:get\_mem\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0114.html - Description: 获取指定属性的应用可用内存的空闲大小和总大小,不包括系统预留内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0114_html.md ## 函数:free - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0115.html - Description: 释放Device上的内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0115_html.md ## 函数:malloc\_host - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0116.html - Description: 应用程序在Host上运行时,调用该接口申请的是Host内存(该内存是锁页内存),由系统保证内存首地址64字节对齐。 针对以下产品形态,调用该接口申请的是Device内存,且Device上的内存按普通页申请,如需首地址64字节对齐,需要用户自行处理对齐。 - Ascend RC形态 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0116_html.md ## 函数:free\_host - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0117.html - Description: 释放Host上的内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0117_html.md ## 函数:memset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0118.html - Description: 初始化内存,将内存中的内容设置为指定的值。 待初始化的内存支持在Host侧或Device侧,系统根据地址判定是Host还是Device。如果Host内存不是用acl接口(例如acl.rt.mallochost)申请的,将会导致未定义的行为。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0118_html.md ## 函数:memset\_async - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0119.html - Description: 初始化内存,将内存中的内容设置为指定的值,异步接口。 待初始化的内存支持在Host侧或Device侧,系统根据地址判定是Host还是Device。如果Host内存不是用acl接口(例如acl.rt.mallochost)申请的,将会导致未定义的行为。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0119_html.md ## 函数:memcpy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0120.html - Description: 实现内存复制。 - C函数原型 1 aclError aclrtMemcpy\(void dst, sizet destMax, const void src, sizet count, aclrtMemcpyKind kind\) - python函数 1 ret \= acl.rt. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0120_html.md ## 函数:memcpy\_async - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0121.html - Description: 实现内存复制,异步接口。 本接口中的Host内存支持锁页内存(例如通过acl.rt.mallochost接口申请的内存)、非锁页内存(通过malloc接口申请的内存)。当Host内存是非锁页内存时,本接口在内存复制任务完成后才返回;当Host内存是锁页内存时,本接口是异步接口,调用接口成功仅表示任务下发成功,不表示任务执行成功,调用本接口后,需调用同步等待接口(例如,acl.rt.synchron - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0121_html.md ## 函数:memcpy2d - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0122.html - Description: 实现同步内存复制,主要用于矩阵数据的复制。 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0122_html.md ## 函数:memcpy2d\_async - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0123.html - Description: 实现异步内存复制,主要用于矩阵数据的复制。异步接口。 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0123_html.md ## 函数:reserve\_mem\_address - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0124.html - Description: 预留虚拟内存。 本接口需与以下其它接口配合使用,以便申请地址连续的虚拟内存、最大化利用物理内存的目的:1. 申请虚拟内存( acl.rt.reservememaddress 接口)。 2. 申请物理内存( acl.rt.mallocphysical 接口)。 3. 将虚拟内存映射到物理内存( acl.rt.mapmem 接口)。 4. 执行任务(调用具体的任务接口)。 5. 取消虚拟内存与物 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0124_html.md ## 函数:release\_mem\_address - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0125.html - Description: 释放通过acl.rt.reservememaddress接口申请的虚拟内存。 本接口需与以下其它接口配合使用,以便申请地址连续的虚拟内存、最大化利用物理内存的目的:1. 申请虚拟内存( acl.rt.reservememaddress 接口)。 2. 申请物理内存( acl.rt.mallocphysical 接口)。 3. 将虚拟内存映射到物理内存( acl.rt.mapmem 接口)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0125_html.md ## 函数:malloc\_physical - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0126.html - Description: 申请Host或Device物理内存并返回一个物理内存handle。 本接口可配合acl.rt.reservememaddress接口(申请虚拟内存)、acl.rt.mapmem接口(建立虚拟内存与物理内存之间的映射)使用,以便申请地址连续的虚拟内存、最大化利用物理内存地址的目的。 本接口可配合acl.rt.memexporttoshareablehandle接口(导出物理内存handle)、acl - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0126_html.md ## 函数:free\_physical - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0127.html - Description: 释放通过acl.rt.mallocphysical接口申请的物理内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0127_html.md ## 函数:map\_mem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0128.html - Description: 将虚拟内存映射到物理内存。 本接口需与以下其它接口配合使用,以便申请地址连续的虚拟内存、最大化利用物理内存的目的:1. 申请虚拟内存( acl.rt.reservememaddress 接口)。 2. 申请物理内存( acl.rt.mallocphysical 接口)。 3. 将虚拟内存映射到物理内存( acl.rt.mapmem 接口)。 4. 执行任务(调用具体的任务接口)。 5. 取消 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0128_html.md ## 函数:unmap\_mem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0129.html - Description: 取消虚拟内存与物理内存之间的映射关系。 本接口需与以下其它接口配合使用,以便申请地址连续的虚拟内存、最大化利用物理内存的目的:1. 申请虚拟内存( acl.rt.reservememaddress 接口)。 2. 申请物理内存( acl.rt.mallocphysical 接口)。 3. 将虚拟内存映射到物理内存( acl.rt.mapmem 接口)。 4. 执行任务(调用具体的任务接口)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0129_html.md ## 函数:set\_exception\_info\_callback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0131.html - Description: 设置异常回调函数。 - C函数原型 1 aclError aclrtSetExceptionInfoCallback\(aclrtExceptionInfoCallback callback\) - python函数 1 ret \= acl.rt. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0131_html.md ## 函数:get\_task\_id\_from\_exception\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0132.html - Description: 获取异常信息中的任务ID。该接口与acl.rt.setexceptioninfocallback接口配合使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0132_html.md ## 函数:get\_stream\_id\_from\_exception\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0133.html - Description: 获取异常信息中的Stream ID。该接口与acl.rt.setexceptioninfocallback接口配合使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0133_html.md ## 函数:get\_thread\_id\_from\_exception\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0134.html - Description: 获取异常信息中的线程ID。该接口与acl.rt.setexceptioninfocallback接口配合使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0134_html.md ## 函数:get\_device\_id\_from\_exception\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0135.html - Description: 获取异常信息中的Device ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0135_html.md ## 函数:get\_error\_code\_from\_exception\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0136.html - Description: 获取异常信息中的错误码。该接口与acl.rt.setexceptioninfocallback接口配合使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0136_html.md ## 函数:init\_dump - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0154.html - Description: Dump初始化。 - C函数原型 1 aclError aclmdlInitDump\(\) - python函数 1 ret \= acl.mdl.initdump\(\) 无 - acl.mdl. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0154_html.md ## 函数:set\_dump - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0155.html - Description: 设置dump参数。 - C函数原型 1 aclError aclmdlSetDump\(const char dumpCfgPath\) - python函数 1 ret \= acl.mdl.setdump\(dumpcfgpath\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0155_html.md ## 函数:finalize\_dump - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0156.html - Description: Dump去初始化。 - C函数原型 1 aclError aclmdlFinalizeDump\(\) - python函数 1 ret \= acl.mdl.finalizedump\(\) 无 - acl.mdl. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0156_html.md ## 函数:set\_op\_execute\_time\_out - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0774.html - Description: 设置算子执行的超时时间。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0774_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0847.html - Description: 不能与订阅算子信息的接口交叉调用:acl.prof.init接口和acl.prof.finalize接口之间不能调用acl.prof.model\_subscribe接口、aclprofGet*接口、acl.prof.model\_unsubscribe接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0847_html.md ## 函数:create\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0848.html - Description: 创建aclprofConfig类型的数据,表示创建Profiling配置数据。 aclProfConfig类型数据可以只创建一次、多处使用,用户需要保证数据的一致性和准确性。 如需销毁aclprofConfig类型的数据,请参见函数:destroyconfig。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0848_html.md ## 函数:set\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0849.html - Description: acl.prof.createconfig接口的扩展接口,用于设置性能数据采集参数。 该接口支持多次调用,用户需要保证数据的一致性和准确性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0849_html.md ## 函数:destroy\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0850.html - Description: 销毁aclprofConfig类型的数据,只能销毁通过acl.prof.createconfig接口创建的aclprofConfig类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0850_html.md ## 函数:init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0851.html - Description: 初始化Profiling,目前用于设置保存性能数据的文件的路径。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0851_html.md ## 函数:start - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0852.html - Description: 下发Profiling请求,使能对应数据的采集。 用户可根据需要,在模型执行过程中按需调用acl.prof.start接口,Profiling采集到的数据为调用该接口之后的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0852_html.md ## 函数:stop - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0853.html - Description: 停止Profiling数据采集。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0853_html.md ## 函数:finalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0854.html - Description: 结束Profiling。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0854_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0856.html - Description: - 调用接口要求:msproftx功能相关接口须在 acl.prof.start - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0856_html.md ## 函数:create\_stamp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0857.html - Description: 创建msproftx事件标记。后续调用函数:mark、函数:setstamptracemessage、函数:push和函数:rangestart接口时需要以描述该事件的指针地址作为输入,表示记录该事件发生的时间跨度。 与函数:destroystamp接口配对使用,需提前调用函数:start接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0857_html.md ## 函数:set\_stamp\_trace\_message - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0861.html - Description: 为msproftx事件标记携带字符串描述,在Profiling解析并导出结果中msproftx summary数据展示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0861_html.md ## 函数:mark - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0862.html - Description: msproftx标记瞬时事件。 调用此接口后,Profiling自动在Stamp中加上当前时间戳,将Event type设置为Mark,表示开始一次msproftx采集。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0862_html.md ## 函数:push - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0863.html - Description: msproftx用于记录事件发生的时间跨度的开始时间。 调用此接口后,Profiling自动在Stamp中记录开始的时间戳,将Event type设置为Push/Pop。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0863_html.md ## 函数:pop - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0864.html - Description: msproftx用于记录事件发生的时间跨度的结束时间。 调用此接口后,Profiling自动在Stamp中记录采集结束的时间戳。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0864_html.md ## 函数:range\_start - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0865.html - Description: msproftx用于记录事件发生的时间跨度的开始时间。 调用此接口后,Profiling自动在Stamp记录采集开始的时间戳,将Event type设置为Start/Stop,生成一个进程唯一的id,并将Stamp保存在以进程粒度维护的一个map中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0865_html.md ## 函数:range\_stop - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0866.html - Description: msproftx用于记录事件发生的时间跨度的结束时间。 调用此接口后,Profiling自动在Stamp中记录采集结束的时间戳。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0866_html.md ## 函数:destroy\_stamp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0867.html - Description: 释放msproftx事件标记。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0867_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0869.html - Description: 不能与Profiling数据采集接口的接口交叉调用:acl.prof.model\_subscribe接口和acl.prof.model\_unsubscribe接口之间不能调用acl.prof.init接口、acl.prof.start接口、acl.prof.stop接口、acl.prof.finalize接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0869_html.md ## 函数:create\_subscribe\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0870.html - Description: 创建aclprofSubscribeConfig类型的数据,表示创建订阅配置信息。 如需销毁aclprofSubscribeConfig类型的数据,请参见acl.prof.destroysubscribeconfig。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0870_html.md ## 函数:destroy\_subscribe\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0871.html - Description: 销毁aclprofSubscribeConfig类型的数据,只能销毁通过acl.prof.createsubscribeconfig接口创建的aclprofSubscribeConfig类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0871_html.md ## 函数:model\_subscribe - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0872.html - Description: 网络场景下,订阅算子的基本信息,包括算子名称、算子类型、算子执行耗时等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0872_html.md ## 函数:model\_un\_subscribe - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0873.html - Description: 网络场景下,取消订阅算子的基本信息,包括算子名称、算子类型、算子执行耗时等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0873_html.md ## 函数:model\_unsubscribe - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0874.html - Description: 网络场景下,取消订阅算子的基本信息,包括算子名称、算子类型、算子执行耗时等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0874_html.md ## 函数:get\_op\_desc\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0875.html - Description: 获取单个算子数据结构的大小,单位为Byte。当前版本中约定每个算子数据结构的大小是一样的。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0875_html.md ## 函数:get\_op\_num - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0876.html - Description: 获取指定内存中算子的数量。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0876_html.md ## 函数:get\_op\_type\_len - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0877.html - Description: 获取算子类型的字符串长度,用于内存申请。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0877_html.md ## 函数:get\_op\_name\_len - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0878.html - Description: 获取算子名称的字符串长度,用于内存申请。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0878_html.md ## 函数:get\_op\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0879.html - Description: 获取指定算子的算子类型名称。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 acl.prof.getoptype和acl.prof.getoptypev2接口功能一致,但acl.prof.getoptypev2接口会获取算子类型长度,并分配相应的空间,不需要用户传参来指定算子类型所需空间大小,建议优先使用acl.prof.getoptypev2接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0879_html.md ## 函数:get\_op\_type\_v2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0880.html - Description: 获取指定算子的算子类型名称。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 acl.prof.getoptypev2和acl.prof.getoptype接口功能一致,但acl.prof.getoptypev2接口会获取算子类型长度,并分配相应的空间,不需要用户传参来指定算子类型所需空间大小,建议优先使用acl.prof.getoptypev2接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0880_html.md ## 函数:get\_op\_name - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0881.html - Description: 获取指定算子的算子名称。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 acl.prof.getopname和acl.prof.getopnamev2接口功能一致,但acl.prof.getopnamev2接口会获取算子名称长度,并分配相应的空间,不需要用户传参来指定算子名称所需空间大小,建议优先使用acl.prof.getopnamev2接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0881_html.md ## 函数:get\_op\_name\_v2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0882.html - Description: 获取指定算子的算子名称。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 acl.prof.getopnamev2和acl.prof.getopname接口功能一致,但acl.prof.getopnamev2接口会获取算子名称长度,并分配相应的空间,不需要用户传参来指定算子名称所需空间大小,建议优先使用acl.prof.getopnamev2接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0882_html.md ## 函数:get\_op\_start - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0883.html - Description: 获取算子执行的开始时间,单位为ns。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0883_html.md ## 函数:get\_op\_end - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0884.html - Description: 获取算子执行的结束时间,单位为ns。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0884_html.md ## 函数:get\_op\_duration - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0885.html - Description: 获取算子执行的耗时时间,单位为ns。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0885_html.md ## 函数:get\_model\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0886.html - Description: 获取指定算子所在模型的ID。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0886_html.md ## 函数:get\_step\_timestamp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0888.html - Description: 利用单算子加载与执行接口\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendgraphapi/aclpythondevg010771.html\)实现训练的场景下,使用本接口用于标记迭代开始与结束时间,为后续Profiling解析提供迭代标识,以便以迭代为粒度展示性能数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0888_html.md ## 函数:create\_step\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0889.html - Description: 创建aclprofStepInfo对象,用于描述迭代信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0889_html.md ## 函数:destroy\_step\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0890.html - Description: 销毁通过acl.prof.createstepinfo接口创建的aclprofStepInfo类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0890_html.md ## CANN商业版-aclError - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0911.html - Description: 返回码定义规则: - 规则1:开发人员的环境异常或者代码逻辑错误,可以通过优化环境或代码逻辑的方式解决问题,此时返回码定义为:1XXXXX。 - 规则2:资源不足(Stream、内存等)、开发人员编程时使用的接口或参数与当前硬件不匹配,可以通过在编程时合理使用资源的方式解决,此时返回码定义为:2XXXXX。 - 规则3:业务功能异常,比如队列满、队列空等,此时返回码定义为3XXXXX。 - 规则4 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0911_html.md ## CANN商业版-aclDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0912.html - Description: | 数据类型 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0912_html.md ## CANN商业版-aclFloat16 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0913.html - Description: 该数据类型仅用于数据传递,不能用于加减乘除等运算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0913_html.md ## CANN商业版-aclFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0914.html - Description: 各维度的含义如下:N(Batch)表示批量大小、H(Height)表示特征图高度、W(Width)表示特征图宽度、C(Channels)表示特征图通道、D(Depth)表示特征图深度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0914_html.md ## CANN商业版-aclrtEventStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0919.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0919_html.md ## CANN商业版-aclrtRunMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0920.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0920_html.md ## CANN商业版-aclrtGroupAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0928.html - Description: Atlas 200I/500 A2 推理产品 ,不支持该枚举值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0928_html.md ## CANN商业版-aclprofAicoreMetrics - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0929.html - Description: AI Core性能指标采集项 含义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0929_html.md ## CANN商业版-aclrtEventWaitStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0942.html - Description: | 事件状态 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0942_html.md ## CANN商业版-aclrtEventRecordedStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0943.html - Description: | 事件状态 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0943_html.md ## CANN商业版-aclprofStepTag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0944.html - Description: 同一个aclprofStepInfo对象、同一个tag只能设置一次,否则Profiling解析会出错。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0944_html.md ## CANN商业版-aclrtFloatOverflowMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0950.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0950_html.md ## CANN商业版-aclrtUtilizationInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0951.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0951_html.md ## 函数:get\_cann\_attribute\_list - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0952.html - Description: 查询运行环境中CANN软件和对应芯片支持的特性列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0952_html.md ## 函数:get\_cann\_attribute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0953.html - Description: 查询运行环境是否支持指定的CANN特性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0953_html.md ## 函数:get\_device\_capability - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0954.html - Description: 查询运行环境中对应Device的硬件规格大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0954_html.md ## 函数:create\_event\_ex\_with\_flag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0955.html - Description: 创建一个带flag的Event,不同flag的Event用于不同的功能。支持创建Event时携带多个flag(按位进行或操作),从而同时使能对应flag的功能。创建Event时,Event资源不受硬件限制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0955_html.md ## 函数:mem\_export\_to\_shareable\_handle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0956.html - Description: 将本进程通过acl.rt.mallocphysical接口获取到的Device物理内存handle导出,以便后续将Device物理内存共享给其它进程。 本接口需与以下其它接口配合使用,以便实现内存共享的目的(此处以A、B进程为例,说明两个进程间的物理内存共享接口调用流程): 1. 在A进程中: a. 调用 acl.rt.mallocphysical 接口,申请物理内存。 先调用a - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0956_html.md ## 函数:device\_get\_bare\_tgid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0957.html - Description: 获取当前进程的进程ID。 本接口内部在获取进程ID时已适配物理机、虚拟机场景,用户只需调用本接口获取进程ID,再配置其它接口使用(配合流程请参见acl.rt.memexporttoshareablehandle),达到物理内存共享的目的。若用户不调用本接口、自行获取进程ID,可能会导致后续使用进程ID异常。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0957_html.md ## 函数:mem\_set\_pid\_to\_shareable\_handle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0958.html - Description: 设置可共享内存的进程白名单,只有配置了白名单的进程才能用acl.rt.memexporttoshareablehandle接口导出的shareablehandle。 本接口需与其它接口配合使用,以便实现内存共享的目的,请参见acl.rt.memexporttoshareablehandle接口处的说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0958_html.md ## 函数:mem\_import\_from\_shareable\_handle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0959.html - Description: 在本进程中获取shareablehandle里的信息,并返回本进程中的handle,用于在本进程中建立虚拟地址与物理地址之间的映射关系。本接口还支持生成指定Device上的handle。 本接口需与其它接口配合使用,以便实现内存共享的目的,配合使用流程请参见acl.rt.memexporttoshareablehandle接口处的说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0959_html.md ## 函数:mem\_get\_allocation\_granularity - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0960.html - Description: 查询内存申请粒度。系统内部计算给定分配规范的最小粒度或建议粒度,并以granularity参数返回粒度。此粒度可用作对齐、地址大小或地址映射的倍数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0960_html.md ## CANN商业版-aclrtMemMallocPolicy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0962.html - Description: 此处支持单个枚举项,也支持多个枚举项位或: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0962_html.md ## CANN商业版-aclrtPhysicalMemProp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0963.html - Description: | 成员名称 | 描述 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0963_html.md ## CANN商业版-aclrtStreamStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0964.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0964_html.md ## CANN商业版-aclrtDeviceStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0965.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0965_html.md ## CANN商业版-aclrtMemAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0966.html - Description: 对于申请大页内存的场景,当内存申请粒度为2M时,如果要申请1G大小的大页内存,会占用1024/2\=512个页表,当内存申请粒度为1G时,1G大页内存只占用1个页表,能有效降低页表数量,有效扩大TLB(Translation Lookaside Buffer)缓存的地址范围,从而提升离散访问的性能。TLB是AI处理器中用于高速缓存的硬件模块, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0966_html.md ## CANN商业版-aclrtMemHandleType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0967.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0967_html.md ## CANN商业版-aclDeviceInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0968.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0968_html.md ## CANN商业版-aclCannAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0969.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0969_html.md ## CANN商业版-aclrtMemGranularityOptions - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0970.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0970_html.md ## 函数:ctx\_get\_sys\_param\_opt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0971.html - Description: 获取当前Context中的系统参数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0971_html.md ## 函数:ctx\_set\_sys\_param\_opt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0972.html - Description: 设置当前Context中的系统参数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0972_html.md ## 函数:malloc\_align32 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0973.html - Description: 在Device上分配size大小的线性内存,并通过“devptr”返回已分配内存的指针。本接口分配的内存会进行字节对齐,会对用户申请的size向上对齐成32字节整数倍。使用本接口申请的内存,需要通过acl.rt.free接口释放内存。 与acl.rt.malloc接口相比,本接口只会对用户申请的size向上对齐成32字节整数倍,不会再多加32字节。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0973_html.md ## 函数:allocator\_create\_desc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0974.html - Description: 创建aclrtAllocatorDesc类型的数据,表示Allocator描述信息,主要用于注册回调函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0974_html.md ## 函数:allocator\_destroy\_desc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0975.html - Description: 销毁通过acl.rt.allocatorcreatedesc接口创建的aclrtAllocatorDesc类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0975_html.md ## 函数:allocator\_set\_obj\_to\_desc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0976.html - Description: 使用用户提供的Allocator场景下,向Allocator描述信息中设置Allocator对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0976_html.md ## 函数:allocator\_set\_alloc\_func\_to\_desc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0977.html - Description: 使用用户提供的Allocator场景下,设置"申请内存block"的回调函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0977_html.md ## 函数:allocator\_set\_free\_func\_to\_desc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0978.html - Description: 使用用户提供的Allocator场景下,设置"释放内存block"的回调函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0978_html.md ## 函数:allocator\_set\_alloc\_advise\_func\_to\_desc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0979.html - Description: 使用用户提供的Allocator场景下,设置"根据建议地址申请内存block"的回调函数,一般用于内存复用场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0979_html.md ## 函数:allocator\_set\_get\_addr\_from\_block\_func\_to\_desc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0980.html - Description: 使用用户提供的Allocator场景下,设置"根据申请来的block获取device内存地址"的回调函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0980_html.md ## 函数:allocator\_register - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0981.html - Description: 调用该接口注册用户提供的Allocator以及Allocator对应的回调函数,用于使用用户提供的Allocator。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0981_html.md ## 函数:allocator\_unregister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0982.html - Description: 取消注册用户提供的Allocator以及Allocator对应的回调函数,用于取消使用用户提供的Allocator。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0982_html.md ## 函数:create\_binary - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0984.html - Description: 创建acl.rt.binary类型的数据,该数据类型用于描述算子二进制信息。仅支持Ascend C自定义算子。 如需销毁acl.rt.binary类型的数据,请参见acl.rt.destroybinary。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0984_html.md ## 函数:destroy\_binary - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0985.html - Description: 销毁通过acl.rt.createbinary接口创建的acl.rt.binary类型的数据。仅支持Ascend C自定义算子。 注意,此处仅销毁acl.rt.binary的数据,调用acl.rt.createbinary接口时传入的data内存需由用户自行、及时释放,否则可能会导致内存异常。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0985_html.md ## 函数:binary\_load - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0986.html - Description: 解析、加载算子二进制文件,输出指向算子二进制的binHandle,同时将算子二进制文件数据拷贝至当前Context对应的Device上。仅支持Ascend C自定义算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0986_html.md ## 函数:binary\_unload - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0987.html - Description: 删除binHandle指向的算子二进制数据,同时也删除通过acl.rt.binaryload接口拷贝到Device上的算子二进制数据。仅支持Ascend C自定义算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0987_html.md ## 函数:binary\_get\_function - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0988.html - Description: 根据kernelname,查找到对应的kernel对象,使用funchandle表达。 对于同一个binhandle,首次调用acl.rt.binarygetfunction接口时,会默认将binhandle关联的算子二进制数据拷贝至当前Context对应的Device上。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0988_html.md ## 函数:launch\_kernel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0989.html - Description: 启动对应Kernel的计算任务。仅支持Ascend C自定义算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0989_html.md ## 函数:dump\_reg\_callback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0990.html - Description: Dump数据回调函数注册接口。 函数:initdump接口、函数:dumpregcallback接口(通过该接口注册的回调函数需由用户自行实现,回调函数实现逻辑中包括获取Dump数据及数据长度)、函数:dumpunregcallback接口、函数:finalizedump接口配合使用,用于通过回调函数获取Dump数据。场景举例如下:- 执行一个模型,通过回调获取Dump数据: 支持以下两种方式: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0990_html.md ## 函数:dump\_unreg\_callback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_0991.html - Description: Dump数据回调函数取消注册接口。 函数:initdump接口、函数:dumpregcallback接口(通过该接口注册的回调函数需由用户自行实现,回调函数实现逻辑中包括获取Dump数据及数据长度)、函数:dumpunregcallback接口、函数:finalizedump接口配合使用,用于通过回调函数获取Dump数据。场景举例如下:- 执行一个模型,通过回调获取Dump数据: 函数:ini - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_0991_html.md ## 函数:mark\_ex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1009.html - Description: acl.prof.markex打点接口。 调用此接口向配置的Stream流上下发打点任务,用于标识Host侧打点与Device侧打点任务的关系。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1009_html.md ## CANN商业版-aclSysParamOpt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1010.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1010_html.md ## 函数:get\_cann\_version - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1019.html - Description: 查询CANN软件包版本号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1019_html.md ## 函数:set\_sys\_param\_opt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1021.html - Description: 设置当前进程中的运行时参数值。调用本接口设置运行时参数值后,若需获取参数值,需调用acl.rt.getsysparamopt接口。 本接口与acl.rt.ctxsetsysparamopt接口的差别是,本接口作用域是进程,acl.rt.ctxsetsysparamopt接口作用域是Context。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1021_html.md ## 函数:get\_sys\_param\_opt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1022.html - Description: 获取当前进程中的运行时参数值。 如果不调用acl.rt.setsysparamopt接口设置运行时参数的值,直接调用本接口可获取各参数的默认值0,表示不开启确定性计算或内存访问越界检测;调用acl.rt.setsysparamopt接口设置运行时参数值后,若需获取参数值,需调用acl.rt.getsysparamopt接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1022_html.md ## 函数:reset\_device - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1023.html - Description: 复位当前运算的Device,释放Device上的资源。释放的资源包括默认Context、默认Stream以及默认Context下创建的所有Stream。若默认Context或默认Stream下的任务还未完成,系统会等待任务完成后再释放。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1023_html.md ## 函数:reset\_device\_force - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1024.html - Description: 复位当前运算的Device,释放Device上的资源。释放的资源包括默认Context、默认Stream以及默认Context下创建的所有Stream。若默认Context或默认Stream下的任务还未完成,系统会等待任务完成后再释放。 acl.rt.resetdeviceforce接口可与acl.rt.setdevice接口配对使用,也可不与aclrtSetDevice接口配对使用,若不配对使用 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1024_html.md ## 函数:device\_can\_access\_peer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1025.html - Description: 查询Device之间是否支持内存复制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1025_html.md ## 函数:device\_enable\_peer\_access - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1026.html - Description: 使能当前Device与指定Device之间的数据交互。使能内存复制是Device级的。 可提前调用acl.rt.devicecanaccesspeer接口查询当前Device与指定Device之间能否进行数据交互。需调用两次acl.rt.deviceenablepeeraccess接口使能两个Device之间的数据交互功能(例如,调用一次acl.rt.deviceenablepeeraccess接 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1026_html.md ## 函数:device\_disable\_peer\_access - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1027.html - Description: 关闭当前Device与指定Device之间的内存复制功能。关闭内存复制功能是Device级的。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1027_html.md ## 函数:synchronize\_device\_with\_timeout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1028.html - Description: 阻塞应用程序运行,直到正在运算中的Device完成运算。该接口是在synchronizedevice接口基础上进行了增强,支持用户设置超时时间,当应用程序异常时可根据所设置的超时时间自行退出,超时退出时本接口返回ACLERRORRTSTREAMSYNCTIMEOUT。 多Device场景下,调用该接口等待的是当前Context对应的Device。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1028_html.md ## 函数:get\_device\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1029.html - Description: 获取指定Device的信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1029_html.md ## 函数:get\_device\_capability - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1031.html - Description: 查询device特性是否支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1031_html.md ## 函数:get\_device\_res\_limit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1032.html - Description: 获取当前进程的Device资源限制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1032_html.md ## 函数:set\_device\_res\_limit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1033.html - Description: 设置当前进程的Device资源限制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1033_html.md ## 函数:reset\_device\_res\_limit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1034.html - Description: 调用acl.rt.setdevicereslimit接口设置Device资源限制后,可调用本接口重置当前进程的Device资源限制,恢复默认配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1034_html.md ## 函数:get\_devices\_topo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1035.html - Description: 获取两个Device之间的网络拓扑关系。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1035_html.md ## 函数:ctx\_get\_current\_default\_stream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1036.html - Description: 获取Context上的默认Sream。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1036_html.md ## 函数:stream\_abort - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1037.html - Description: 停止指定Stream上的正在执行的任务、丢弃指定Stream上已下发但未执行的任务。本接口执行期间,指定Stream上新下发的任务不再生效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1037_html.md ## 函数:stream\_get\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1038.html - Description: 获取指定Stream的ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1038_html.md ## 函数:get\_stream\_available\_num - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1039.html - Description: 获取当前Device上剩余可用的Stream数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1039_html.md ## 函数:set\_stream\_attribute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1040.html - Description: 设置Stream属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1040_html.md ## 函数:get\_stream\_attribute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1041.html - Description: 获取Stream属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1041_html.md ## 函数:event\_get\_timestamp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1042.html - Description: 获取Event的执行结束时间点(表示从AI处理器系统启动以来的时间)。 本接口需与其它关键接口配合使用,接口调用顺序: - 调用 acl.rt.createevent / acl.rt.createeventwithflag 接口创建Event。 - 调用 acl.rt.recordevent 接口在Stream中记录Event。 - 调用 acl.rt.synchronizestream - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1042_html.md ## 函数:get\_event\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1043.html - Description: 获取指定Event的ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1043_html.md ## 函数:get\_event\_avail\_num - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1044.html - Description: 查询当前Device上可用的Event数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1044_html.md ## 函数:create\_notify - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1046.html - Description: 创建Notify。 - C函数原型 - python函数 1 notify, ret \= acl.rt.createnotify\(flag\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1046_html.md ## 函数:destroy\_notify - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1047.html - Description: 销毁Notify。 - C函数原型 - python函数 1 ret \= acl.rt.destroynotify\(notify\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1047_html.md ## 函数:record\_notify - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1048.html - Description: 在指定Stream上记录一个Notify。acl.rt.recordnotify接口与acl.rt.waitandresetnotify接口配合使用时,主要用于多Stream之间同步等待的场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1048_html.md ## 函数:wait\_and\_reset\_notify - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1049.html - Description: 阻塞指定Stream的运行,直到指定的Notify完成,再复位Notify。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1049_html.md ## 函数:get\_notify\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1050.html - Description: 获取指定Notify的ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1050_html.md ## 函数:notify\_get\_export\_key - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1052.html - Description: 将本进程中指定Notify设置为IPC(Inter-Process Communication) Notify,并返回key(即Notify共享名称),用于在多Device上不同进程间实现任务同步,调用本接口前,需调用acl.rt.deviceenablepeeraccess接口开启两个Device之间的数据交互。 本接口需与以下其它关键接口配合使用,以便实现多Device上不同进程间的任务同步, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1052_html.md ## 函数:notify\_set\_import\_pid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1053.html - Description: 设置共享Notify的进程白名单,只有配置了白名单的进程才能使用acl.rt.notifygetexportkey接口导出的Notify共享名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1053_html.md ## 函数:notify\_import\_by\_key - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1054.html - Description: 在本进程中获取key的信息,并返回本进程可以使用的Notify指针地址。 本接口需与其它接口配合使用,以便实现多Device上不同进程间的任务同步,请参见acl.rt.notifygetexportkey接口处的说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1054_html.md ## 函数:get\_thread\_last\_task\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1055.html - Description: 获取当前线程的最后一个下发的Task ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1055_html.md ## 函数:reduce\_async - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1056.html - Description: 执行Reduce操作,包括SUM、MIN、MAX等。 本接口是异步接口,调用接口成功仅表示任务下发成功,不表示任务执行成功。调用该接口后,需调用同步等待接口(例如,synchronizestream)确保任务已执行完成,否则可能会导致训练或推理等业务异常、Device断链掉卡等未知情况。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1056_html.md ## 函数:memcpy\_async\_with\_condition - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1057.html - Description: 实现内存复制。 本接口在aclrtMemcpyAsync接口基础上扩展了功能,当传入的内存不是通过pyacl提供的接口申请的,本接口在内存复制完成后才会返回;否则本接口是异步接口,调用接口成功仅表示任务下发成功,不表示任务执行成功,调用本接口后,需调用同步等待接口(例如,acl.rt.synchronizestream)确保内存复制的任务已执行完成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1057_html.md ## 函数:malloc\_with\_cfg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1059.html - Description: 在Device上分配size大小的线性内存,并通过devptr返回已分配内存的指针。 与acl.rt.malloc接口相比,本接口在申请内存时,还可以指定内存相关的配置信息。 使用本接口申请的内存,需要通过acl.rt.free接口释放内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1059_html.md ## 函数:malloc\_for\_task\_scheduler - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1060.html - Description: 申请AI处理器上Task调度器可使用的内存。 图模式下有部分算子需要使用该类型的内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1060_html.md ## 函数:malloc\_host\_with\_cfg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1061.html - Description: 申请Host内存(该内存是锁页内存),由系统保证内存首地址64字节对齐。与acl.rt.mallochost接口相比,本接口在申请内存时,还可以指定内存相关的配置信息。 针对 Ascend RC 形态、Control CPU开放形态,Host与Device是合一的,所以申请Host内存也等同于申请Device内存。此外,申请内存时,按普通页申请。如果需要64字节对齐的首地址,用户需自行处理对齐问题 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1061_html.md ## 函数:memcpy\_async\_with\_desc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1062.html - Description: 使用内存复制描述符(二级指针方式)进行内存复制。 本接口是异步接口,调用接口成功仅表示任务下发成功,不表示任务执行成功。调用该接口后,需调用同步等待接口(例如,acl.rt.synchronizestream)确保任务已执行完成,否则可能会导致训练或推理等业务异常、Device断链掉卡等未知情况。 本接口需与以下其它关键接口配合使用,以便实现内存复制: - 调用 acl.rt.getmemcpy - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1062_html.md ## 函数:get\_memcpy\_desc\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1063.html - Description: 获取当前Device的内存复制描述符占用的内存大小。 本接口需与其它关键接口配合使用,以便实现内存复制,详细描述请参见acl.rt.memcpyasyncwithdesc。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1063_html.md ## 函数:set\_memcpy\_desc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1064.html - Description: 设置内存复制描述符,此接口调用完成后,会将源地址,目的地址、内存复制长度记录到内存复制描述符中。 本接口需与其它关键接口配合使用,以便实现内存复制,详细描述请参见acl.rt.memcpyasyncwithdesc。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1064_html.md ## 函数:pointer\_get\_attributes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1065.html - Description: 获取内存属性信息,包括内存是位于Host还是Device、页表大小等信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1065_html.md ## 函数:host\_register - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1066.html - Description: 将Host内存映射注册为Devcie可访问的地址,供Device侧网卡访问。映射后的Device地址不能用于内存复制操作。 本接口与acl.rt.hostunregister接口成对使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1066_html.md ## 函数:host\_unregister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1067.html - Description: 取消注册Host内存。本接口与acl.rt.hostregister接口成对使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1067_html.md ## 函数:value\_write - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1068.html - Description: 向指定内存中写数据。 - C函数原型 - python函数 1 ret \= acl.rt.valuewrite\(devaddr, value, flag, stream\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1068_html.md ## 函数:value\_wait - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1069.html - Description: 等待指定内存中的数据满足一定条件后解除阻塞。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1069_html.md ## 函数:ipc\_mem\_get\_export\_key - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1070.html - Description: 在本进程中将指定Device内存设置为IPC(Inter-Process Communication)共享内存,并返回共享内存key,以便后续将内存共享给其它进程。本接口需与以下其它关键接口配合使用,以便实现内存共享,此处以A、B进程为例,说明两个进程间的内存共享接口调用流程: 1. 在A进程中: a. 若为不同Device上的两个进程共享内存场景,调用acl.rt.deviceenablep - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1070_html.md ## 函数:ipc\_mem\_set\_import\_pid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1071.html - Description: 设置IPC共享内存的进程白名单,只有配置了白名单的进程才能用acl.rt.ipcmemgetexportkey接口导出的key。 本接口需与其它接口配合使用,以便实现内存共享的目的,配合使用流程请参见acl.rt.ipcmemgetexportkey接口处的说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1071_html.md ## 函数:ipc\_mem\_import\_by\_key - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1072.html - Description: 在本进程中获取key的信息,并返回本进程可以使用的Device内存地址指针。本接口需与其它接口配合使用,以便实现内存共享的目的,配合使用流程请参见函数:ipcmemgetexportkey接口处的说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1072_html.md ## 函数:ipc\_mem\_close - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1073.html - Description: 关闭IPC 共享内存,调用acl.rt.ipcmemimportbykey接口的进程中、调用acl.rt.ipcmemgetexportkey接口的进程中都需要调用此接口。对于同一个共享内存key,需所有调用acl.rt.ipcmemimportbykey接口的进程中都调用acl.rt.ipcmemclose接口后,调用acl.rt.ipcmemgetexportkey接口的进程中才可以调用acl - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1073_html.md ## 函数:device\_task\_abort - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1075.html - Description: 停止指定Device上的正在执行的任务,同时丢弃指定Device上已下发的任务。该接口支持用户设置永久等待、或配置具体的超时时间,若配置具体的超时时间,则调用本接口超出超时时间,则接口返回报错。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1075_html.md ## 函数:peek\_at\_last\_error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1077.html - Description: 获取当前线程的Runtime(运行时管理模块)错误码,仅获取但不清空错误码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1077_html.md ## 函数:get\_last\_error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1078.html - Description: 获取当前线程的Runtime(运行时管理模块)错误码,获取后清空当前线程的错误码,这时在线程中无新增错误码之前,调用本接口获取到的是表示成功的返回码ACLSUCCESS。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1078_html.md ## 概念及使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1079.html - Description: 本章中的接口涉及对算子的算子二进制、核函数、核函数参数列表以及参数的操作,为便于理解,您可以先通过下图了解它们之间的关系。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1079_html.md ## 函数:binary\_load\_from\_file - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1080.html - Description: 从文件加载并解析算子二进制文件,输出指向算子二进制的binHandle。 对于AI Core算子,若使用本接口加载并解析算子二进制文件,需配套使用acl.rt.launchkernelwithconfig接口下发计算任务。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1080_html.md ## 函数:binary\_load\_from\_data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1081.html - Description: 从内存加载并解析AI CPU算子二进制数据,输出指向算子二进制的binHandle。 调用本接口用于加载AI CPU算子信息(aclrtBinaryLoadOptions中的optiontype包含ACLRTBINARYLOADOPTCPUKERNELMODE)时,还需配合使用acl.rt.registercpufunc接口注册AI CPU算子信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1081_html.md ## 函数:get\_function\_addr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1082.html - Description: 根据核函数句柄获取Device侧算子起始地址。对于包含矩阵计算和矢量计算的算子,一个算子有两个起始地址,分别在Cube(矩阵)计算单元、Vector(向量)计算单元上执行,通过本接口可获取Cube计算单元、Vector计算单元上的算子起始地址。若通过本接口获取到aivAddr为空,则表示该算子只在Cube计算单元上执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1082_html.md ## 函数:get\_function\_name - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1083.html - Description: 根据核函数句柄获取核函数名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1083_html.md ## 函数:register\_cpu\_func - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1084.html - Description: 若使用acl.rt.binaryloadfromdata接口加载AI CPU算子二进制数据,还需配合使用本接口注册AI CPU算子信息,得到对应的funchandle。本接口只用于AI CPU算子,其它算子会返回报错ACLERRORRTPARAMINVALID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1084_html.md ## 函数:kernel\_args\_init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1085.html - Description: 根据核函数句柄初始化参数列表,并获取标识参数列表的句柄。 与acl.rt.kernelargsinitbyusermem接口的区别在于,调用本接口表示由系统管理内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1085_html.md ## 函数:kernel\_args\_init\_by\_user\_mem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1086.html - Description: 根据核函数句柄初始化参数列表,并获取标识参数列表的句柄。 与acl.rt.kernelargsinit接口的区别在于,调用本接口表示由用户管理内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1086_html.md ## 函数:kernel\_args\_get\_mem\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1087.html - Description: 获取Kernel Launch时参数列表所需内存的实际大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1087_html.md ## 函数:kernel\_args\_get\_handle\_mem\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1088.html - Description: 获取参数列表句柄占用的内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1088_html.md ## 函数:kernel\_args\_append - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1089.html - Description: 调用本接口将用户设置的参数值追加拷贝到argsHandle指向的参数数据区域。若参数列表中有多个参数,则需按顺序追加参数。 如果要更新参数值,可调用acl.rt.kernelargsparaupdate接口进行更新。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1089_html.md ## 函数:kernel\_args\_append\_place\_holder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1090.html - Description: 对于placeholder参数,调用本接口先占位,返回的是paramhandle占位符。 若参数列表中有多个参数,则需按顺序追加参数。等所有参数都追加之后,可调用acl.rt.kernelargsgetplaceholderbuffer接口获取paramhandle占位符指向的内存地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1090_html.md ## 函数:kernel\_args\_para\_update - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1092.html - Description: 通过acl.rt.kernelargsappend接口追加的参数,可调用本接口更新参数值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1092_html.md ## 函数:kernel\_args\_finalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1093.html - Description: 在所有参数追加完成后,调用本接口以标识参数组装完毕。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1093_html.md ## CANN商业版-aclproftype - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1105.html - Description: 性能数据类型: - ACLPROFACLAPI \= 0x00000001 - ACLPROFTASKTIME \= 0x00000002 - ACLPROFAICOREMETRICS \= 0x00000004 - ACLPROFAICPU \= 0x00000008 - ACLPROFL2CACHE \= 0x00000010 - ACLPROFHCCLTRACE - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1105_html.md ## CANN商业版-aclrtStreamAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1106.html - Description: | 枚举项 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1106_html.md ## CANN商业版-aclrtStreamAttrValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1107.html - Description: | 成员名称 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1107_html.md ## CANN商业版-aclrtReduceKind - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1108.html - Description: Atlas 推理系列产品 仅支持SUM操作。 Atlas 训练系列产品 仅支持SUM操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1108_html.md ## CANN商业版-aclrtMemLocationType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1109.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1109_html.md ## CANN商业版-aclrtMemLocation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1110.html - Description: | 成员名称 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1110_html.md ## CANN商业版-aclrtDevAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1111.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1111_html.md ## CANN商业版-aclrtDevFeatureType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1112.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1112_html.md ## CANN商业版-aclrtLastErrLevel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1115.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1115_html.md ## CANN商业版-aclrtCmoType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1116.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1116_html.md ## CANN商业版-aclCANNPackageName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1117.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1117_html.md ## CANN商业版-aclCANNPackageVersion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1118.html - Description: | 成员名称 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1118_html.md ## CANN商业版-aclrtBinaryLoadOptionType/aclrtBinaryLoadOptionValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1119.html - Description: aclrtBinaryLoadOptionType aclrtBinaryLoadOptionValue - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1119_html.md ## CANN商业版-aclrtBinaryLoadOptions - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1120.html - Description: 加载算子二进制文件的可选参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1120_html.md ## CANN商业版-aclrtLaunchKernelCfg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1121.html - Description: 任务下发的配置信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1121_html.md ## CANN商业版-aclrtLaunchKernelAttrId/aclrtLaunchKernelAttrValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1122.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1122_html.md ## CANN商业版-aclrtEngineType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1124.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1124_html.md ## CANN商业版-aclrtMallocConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1125.html - Description: | 成员名称 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1125_html.md ## CANN商业版-aclrtMallocAttribute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1126.html - Description: | 成员名称 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1126_html.md ## CANN商业版-aclrtMallocAttrType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1127.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1127_html.md ## CANN商业版-aclrtMallocAttrValue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1128.html - Description: | 成员名称 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1128_html.md ## CANN商业版-aclrtPtrAttributes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1129.html - Description: | 成员名称 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1129_html.md ## 函数:finalize\_reference - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1134.html - Description: 去初始化函数,用于释放进程内acl接口使用的相关资源。 acl.finalizereference接口内部涉及引用计数的实现,acl.init接口每被调用一次,则引用计数加一,acl.finalizereference接口每被调用一次,则该引用计数减一,当引用计数减到0时,才会真正去初始化。acl.finalize接口与本接口的区别在于,调用acl.finalize接口会将计数清零,直接去初始化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1134_html.md ## 函数:get\_stream\_res\_limit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1135.html - Description: 获取指定Stream的Device资源限制。 若没有调用acl.rt.setstreamreslimit接口设置Device资源限制,则调用本接口获取到的Device资源限制优先级为:当前进程的Device资源限制(调用acl.rt.setstreamreslimit接口设置) >AI处理器硬件默认的资源限制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1135_html.md ## 函数:set\_stream\_res\_limit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1136.html - Description: 设置指定Stream的Device资源限制。 本接口应在调用acl.rt.setdevice接口之后且在执行算子之前使用。如果对同一Stream进行多次设置,将以最后一次设置为准。 调用本接口设置指定Stream的Device资源限制后,需配合调用acl.rt.usestreamresincurrentthread接口,设置在当前线程中使用指定Stream上的Device资源限制。可通过acl.r - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1136_html.md ## 函数:reset\_stream\_res\_limit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1137.html - Description: 调用acl.rt.setstreamreslimit接口设置指定Stream的Device资源限制后,可调用本接口重置指定Stream的Device资源限制,恢复默认配置,此时可通过acl.rt.getstreamreslimit接口查询默认的资源限制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1137_html.md ## 函数:use\_stream\_res\_in\_current\_thread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1138.html - Description: 在当前线程中使用指定Stream上的Device资源限制。如果多次调用本接口设置Stream,将以最后一次设置为准。 需先调用acl.rt.setstreamreslimit接口设置该Stream上的Device资源限制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1138_html.md ## 函数:unuse\_stream\_res\_in\_current\_thread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1139.html - Description: 在当前线程中取消使用指定Stream上的Device资源限制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1139_html.md ## 函数:get\_res\_in\_current\_thread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1140.html - Description: 获取当前线程可使用的Device资源。 获取时,按照如下优先级返回value:Stream级别的Device资源限制(调用acl.rt.setstreamreslimit接口设置)>当前进程的Device资源限制(调用acl.rt.setdevicereslimit接口设置) >AI处理器硬件默认的资源限制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1140_html.md ## CANN商业版-aclrtHostRegisterType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_11405.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_11405_html.md ## 函数:get\_primary\_ctx\_state - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/aclpythondevg_01_1141.html - Description: 获取默认Context的状态。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_aclpythondevg_01_1141_html.md ## 使用须知 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/cann_base_api_0002.html - Description: 该部分接口仅在定制开发CANN组件及自定义算子开发场景下使用。本文介绍这部分接口的功能、参数等,仅为了便于您了解这部分接口在CANN开放代码中的作用,进而更好地使用或修改CANN开放代码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_cann_base_api_0002_html.md ## 使用须知 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/cann_base_api_00022.html - Description: 该部分接口仅在定制开发CANN组件场景下使用。本文介绍这部分接口的功能、参数等,仅为了便于您了解这部分接口在CANN开放代码中的作用,进而更好地使用或修改CANN开放代码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_cann_base_api_00022_html.md ## CANN商业版-ReportInnerErrMsg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/cann_base_api_0004.html - Description: 用于上报CANN预定义好的内部错误信息,同时也会上报调用处的一些信息,如文件名、函数名以及行号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_cann_base_api_0004_html.md ## CANN商业版-ReportPredefinedErrMsg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/cann_base_api_0005.html - Description: 用于上报CANN预定义好的用户类错误信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_cann_base_api_0005_html.md ## CANN商业版-ReportUserDefinedErrMsg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/cann_base_api_0006.html - Description: 用于开发者上报自定义错误码,推荐使用U码段,比如EU0001。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_cann_base_api_0006_html.md ## CANN商业版-AlogRecord - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/cann_base_api_0008.html - Description: 该接口将在后续版本中废弃,不建议用户使用,以防止引发兼容性问题。 用于记录各模块产生的日志。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_cann_base_api_0008_html.md ## CANN商业版-AlogCheckDebugLevel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/cann_base_api_0009.html - Description: 该接口将在后续版本中废弃,不建议用户使用,以防止引发兼容性问题。 用于校验调测日志级别。 返回调测日志级别校验结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_cann_base_api_0009_html.md ## 数据类型定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/cann_base_api_0010.html - Description: 日志级别宏定义: 日志类型枚举: module id 枚举: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_cann_base_api_0010_html.md ## CANN商业版-RegisterFormatErrorMessage - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/runtimeapi/cann_base_api_0011.html - Description: 按照规定的json格式,调用本接口给CANN注册预定义的错误码信息后,再调用ReportPredefinedErrMsg接口上报错误码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_runtimeapi_cann_base_api_0011_html.md ## CANN商业版-昇腾信号处理加速库(AscendSiPBoost)面向AI模型场景(支持PyTo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP - Description: 昇腾信号处理加速库(AscendSiPBoost)面向AI模型场景(支持PyTorch调用)、信号处理场景(支持C++直接调用),提供一系列信号处理领域相关的高性能算子,包括BLAS(Basic Linear Algebra Subprograms,基本线性代数子系统库)、FFT(Fast Fourier Transform,快速傅里叶变换)、复数基础计算以及信号领域融合算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_0000_html.md ## CANN商业版-昇腾信号处理加速库(AscendSiPBoost)面向AI模型场景(支持PyTo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_0000.html - Description: 昇腾信号处理加速库(AscendSiPBoost)面向AI模型场景(支持PyTorch调用)、信号处理场景(支持C++直接调用),提供一系列信号处理领域相关的高性能算子,包括BLAS(Basic Linear Algebra Subprograms,基本线性代数子系统库)、FFT(Fast Fourier Transform,快速傅里叶变换)、复数基础计算以及信号领域融合算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_0000_html.md ## 安装部署 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_0001.html - Description: - 安装信号处理加速库: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_0001_html.md ## 算子使用指导 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_0002.html - Description: 在安装部署完信号处理加速库软件包后,用户可以调用软件包提供的算子API实现高性能、高精度的信号处理应用,本节介绍基本算子调用样例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_0002_html.md ## 可维可测能力 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_0005.html - Description: 信号处理加速库当前提供以下可维可测能力: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_0005_html.md ## 安全加固 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_0006.html - Description: 安全加固请参考《CANN 软件安装指南》中的“安全加固”章节 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_0006_html.md ## 环境变量参考 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_0008.html - Description: 加速库安装完成后,提供进程级环境变量设置脚本“set\_env.sh”,以自动完成环境变量设置,用户进程结束后自动失效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_0008_html.md ## 头文件列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0002.html - Description: | 头文件目录 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0002_html.md ## CANN商业版-swapLast2Axes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0004.html - Description: 接口功能 - swapLast2AxesGetWorkspaceSize:计算swapLast2Axes算子所需的workspace大小。 若需使用“swapLast2Axes”算子,需先调用“swapLast2AxesGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“swapLast2Axes”接口执行计算。 - swapLast - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0004_html.md ## BLAS公共接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0006.html - Description: 若需使用BLAS算子,需先创建句柄,调用对应算子的plan接口初始化该句柄对应的算子配置并进行绑定,再调用BLAS公共接口“asdBlasGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,然后调用“asdBlasSetWorkspace”给对应的plan设置需要workspaces,最后调用BLAS算子接口执行计算。计算完需要对plan进行销毁 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0006_html.md ## CANN商业版-Asum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0007.html - Description: 接口功能: - asdBlasMakeAsumPlan:初始化该句柄对应的Asum算子配置。 - asdBlasSasum:对输入的所有元素取绝对值后求和。 - asdBlasScasum:对输入的所有元素取绝对值后求和,输入元素为复数。 计算公式 - asdBlasSasum的计算公式: - 示例: 输入“x”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0007_html.md ## CANN商业版-Cal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0008.html - Description: 接口功能: - asdBlasMakeCalPlan:初始化该句柄对应的Cal算子配置。 - asdBlasSscal:对一个实数向量进行缩放,即将向量中的每个元素乘以一个实数alpha。 - asdBlasCsscal:对一个复数向量进行缩放,即将向量中的每个元素乘以一个实数alpha。 - asdBlasCscal:对一个复数向量进行缩放,即将向量中的每个元素乘以一个复数alpha。 计算公式 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0008_html.md ## CANN商业版-Caxpy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0009.html - Description: 接口功能: - asdBlasMakeCaxpyPlan:初始化该句柄对应的Caxpy算子配置。 - asdBlasCaxpy:实现复数向量乘以一个复数标量后,再加上一个复数向量。 计算公式: - asdBlasCaxpy的计算公式: - 示例: 输入“x”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0009_html.md ## CANN商业版-Cgemm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0010.html - Description: 接口功能: - asdBlasMakeCgemmPlan:初始化该句柄对应的Cgemm算子配置。 - asdBlasCgemm:矩阵乘法运算中的一种,用于计算两个复数矩阵的乘积。 计算公式 - asdBlasCgemm的计算公式: 其中, - 示例: 输入“inTensorA”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0010_html.md ## CANN商业版-Cgemv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0011.html - Description: 接口功能 - asdBlasMakeCgemvPlan:初始化该句柄对应的Cgemv算子配置。 - asdBlasCgemv:一个矩阵向量乘法,用于计算复数矩阵A与复数向量x的乘积,结果存储在复数向量y中。 计算公式 - asdBlasCgemv的计算公式: 其中,,alpha和beta是标量,x和y是向量,A是一个mn的矩阵。 - 示例: 输入“A” 为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0011_html.md ## CANN商业版-Cgerc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0012.html - Description: 接口功能 - asdBlasMakeCgercPlan:初始化该句柄对应的Cgerc算子配置。 - asdBlasCgerc:复数向量乘以另一个复数向量的共轭转置后,加在一个矩阵上。 计算公式 - asdBlasCgerc的计算公式: - 示例: 输入“x”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0012_html.md ## CANN商业版-asdMul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0013.html - Description: 接口功能:支持向量逐元素乘积\(Hadamard\)能力,返回一个和输入同样形状大小的复数矩阵。 计算公式: - asdMul的计算公式:,即两个矩阵对应位置的元素相乘。 - 示例: 输入“A”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0013_html.md ## CANN商业版-ComplexMatDot - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0014.html - Description: 接口功能 - asdBlasMakeComplexMatDotPlan:初始化该句柄对应的ComplexMatDot算子配置。 - asdBlasComplexMatDot:实现两个复数矩阵对应位置逐点乘,返回一个和输入矩阵同样形状大小的复数矩阵。 计算公式 - asdBlasComplexMatDot的计算公式: - 示例: 输入“matx”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0014_html.md ## CANN商业版-Copy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0015.html - Description: 接口功能 - asdBlasMakeCopyPlan:初始化该句柄对应的Copy算子配置。 - asdBlasScopy:将实数向量的值复制到另外一个向量中。 - asdBlasCcopy:将复数向量的值复制到另外一个向量中。 计算公式 - asdBlasScopy的计算公式: - 示例: 输入“x”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0015_html.md ## CANN商业版-Csrot - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0016.html - Description: 接口功能 - asdBlasMakeRotPlan:初始化该句柄对应的Csrot算子配置。 - asdBlasCsrot:对输入复向量组(x,y)进行旋转。 计算公式 - asdBlasCsrot的计算公式: 其中c为旋转角度余弦值,s为旋转角度正弦值,x和y是复数向量。 - 示例: 输入“x”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0016_html.md ## CANN商业版-Ctrmv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0017.html - Description: 接口功能 - asdBlasMakeCtrmvPlan:初始化该句柄对应的Ctrmv算子配置。 - asdBlasCtrmv:单精度复数矩阵向量乘法算子,用于计算一个复数三角矩阵与一个复数向量的乘积。 计算公式 - asdBlasCtrmv的计算公式: 矩阵向量乘积: 转置矩阵向量乘积: 共轭转置矩阵向量乘积: - 示例: 输入“A”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0017_html.md ## CANN商业版-Dot - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0018.html - Description: 接口功能 - asdBlasMakeDotPlan:初始化该句柄对应的Dot算子配置。 - asdBlasSdot:计算两个实数向量的点积。 - asdBlasCdotu:计算两个复数向量的点积。 - asdBlasCdotc:计算一个复数向量取共轭后和另一个复数向量的点积。 计算公式 - asdBlasSdot的计算公式: - 示例: 输入“x”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0018_html.md ## CANN商业版-Iamax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0019.html - Description: 接口功能 - asdBlasMakeIamaxPlan:初始化该句柄对应的Iamax算子配置。 - asdBlasIsamax:找到实数向量中绝对值最大的元素,并返回其索引。如果有多个元素相等,则返回其中的最小索引。 - asdBlasIcamax:找到复数向量中虚部、实部绝对值之和最大的元素,并返回其索引。如果有多个元素的绝对值之和相等,则返回最先找到的那个元素的索引。 计算公式 - asdBl - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0019_html.md ## CANN商业版-Nrm2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0021.html - Description: 接口功能 - asdBlasMakeNrm2Plan:初始化该句柄对应的Nrm2算子配置。 - asdBlasSnrm2:用于计算实数向量的欧氏范数。 - asdBlasScnrm2:对输入的所有元素取绝对值后求和。输入元素为复数。 计算公式 - asdBlasSnrm2的计算公式: 其中表示向量中的第个元素。 - 示例: 输入“x”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0021_html.md ## CANN商业版-Ssyr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0022.html - Description: 接口功能 - asdBlasMakeSsyrPlan:初始化该句柄对应的Ssyr算子配置。 - asdBlasSsyr:用于计算单精度向量的外积并将结果加到一个矩阵上。 计算公式 - asdBlasSsyr的计算公式: - 示例: 输入“x”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0022_html.md ## CANN商业版-Ssyr2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0023.html - Description: 接口功能 - asdBlasMakeSsyr2Plan:初始化该句柄对应的Ssyr2算子配置。 - asdBlasSsyr2:用于计算单精度向量的外积并将结果加到一个矩阵上。 计算公式 - asdBlasSsyr2的计算公式: - 示例: 输入“x”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0023_html.md ## CANN商业版-Strmm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0024.html - Description: 接口功能 - asdBlasMakeStrmmPlan:初始化该句柄对应的Strmm算子配置。 - asdBlasStrmm:单精度,其功能是将一个三角矩阵A乘一个矩阵B,得到一个新的矩阵C。 计算公式 - asdBlasStrmm的计算公式: - 示例: 输入“A”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0024_html.md ## CANN商业版-Strmv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0025.html - Description: 接口功能 - asdBlasMakeStrmvPlan 接口功能:初始化该句柄对应的Strmv算子配置。 - asdBlasStrmv 接口功能:单精度,用于计算一个三角矩阵与一个向量的矩阵乘法。 计算公式 - asdBlasStrmv的计算公式 - 矩阵向量乘积: - 转置矩阵向量乘积: - 示例: 输入“A”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0025_html.md ## CANN商业版-Swap - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0026.html - Description: 接口功能 - asdBlasMakeSwapPlan:初始化该句柄对应的Swap算子配置。 - asdBlasSswap:交换两个实数向量。 - asdBlasCswap:交换两个复数向量。 计算公式 - asdBlasSswap的计算公式: - 示例: 输入“x”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0026_html.md ## FFT公共接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0028.html - Description: 功能描述:注册FFT句柄。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0028_html.md ## CANN商业版-FFT\_1D - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0029.html - Description: 接口功能 - asdFftMakePlan1D:初始化该句柄对应的FFT配置。 - asdFftExecC2C:执行复数到复数的FFT变换。 - asdFftExecC2R:执行复数到实数的FFT变换。 - asdFftExecR2C:执行实数到复数的FFT变换。 - asdFftExecC2CSeparated:执行复数到复数的FFT变换,支持实部、虚部分开输入和输出。 计算公式 傅里叶变换(F - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0029_html.md ## CANN商业版-FFT\_2D - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0030.html - Description: 接口功能 - asdFftMakePlan2D:初始化二维FFT配置。 - asdFftExecC2C:执行复数到复数的FFT变换。 - asdFftExecC2R:执行复数到实数的FFT变换。 - asdFftExecR2C:执行实数到复数的FFT变换。 计算公式 傅里叶变换(Fourier transform)是一种线性积分变换,用于信号在时域和频域之间的变换,在物理学和工程学中有许多应用。对 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0030_html.md ## CANN商业版-rsInterpolationBySinc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0032.html - Description: 接口功能 - rsInterpolationBySincGetWorkspaceSize:计算rsInterpolationBySinc算子所需的workspace大小。 若需使用“rsInterpolationBySinc”算子,需先调用“rsInterpolationBySincGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0032_html.md ## CANN商业版-swapLast2Axes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0035.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# swapLast2Axes swapLast2Axes算子的调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0035_html.md ## CANN商业版-Asum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0037.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdBlasSasum asdBlasSasum算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0037_html.md ## CANN商业版-Cal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0038.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdBlasSscal asdBlasSscal算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0038_html.md ## CANN商业版-Caxpy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0039.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdBlasCaxpy asdBlasCaxpy算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0039_html.md ## CANN商业版-Cgemm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0040.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdBlasCgemm asdBlasCgemm算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0040_html.md ## CANN商业版-Cgemv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0041.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdBlasCgemv asdBlasCgemv算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0041_html.md ## CANN商业版-Cgerc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0042.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdBlasCgerc asdBlasCgerc算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0042_html.md ## CANN商业版-Colwise\_mul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0043.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdBlasColwiseMul asdBlasColwiseMul算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0043_html.md ## CANN商业版-ComplexMatDot - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0044.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdBlasComplexMatDot asdBlasComplexMatDot算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0044_html.md ## CANN商业版-Copy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0045.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdBlasScopy asdBlasScopy算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0045_html.md ## CANN商业版-Csrot - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0046.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdBlasCsrot asdBlasCsrot算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0046_html.md ## CANN商业版-Ctrmv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0047.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdBlasCtrmv asdBlasCtrmv算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0047_html.md ## CANN商业版-Dot - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0048.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdBlasSdot asdBlasSdot算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0048_html.md ## CANN商业版-Iamax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0049.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdBlasIsamax asdBlasIsamax算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0049_html.md ## CANN商业版-Nrm2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0051.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdBlasSnrm2 asdBlasSnrm2算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0051_html.md ## CANN商业版-Ssyr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0052.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdBlasSsyr asdBlasSsyr算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0052_html.md ## CANN商业版-Ssyr2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0053.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdBlasSsyr2 asdBlasSsyr2算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0053_html.md ## CANN商业版-Strmm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0054.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdBlasStrmm asdBlasStrmm算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0054_html.md ## CANN商业版-Strmv - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0055.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdBlasStrmv asdBlasStrmv算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0055_html.md ## CANN商业版-Swap - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0056.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdBlasSswap asdBlasSswap算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0056_html.md ## CANN商业版-FFT\_1D - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0058.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# C2C C2C1D算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0058_html.md ## CANN商业版-FFT\_2D - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0059.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# C2C2D C2C2D算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0059_html.md ## CANN商业版-rsInterpolationBySinc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0061.html - Description: 1. 调用示例中会进行incTab预处理: 系数矩阵要和复数点乘,在NPU上会转换为系数矩阵和两组float32相乘,所以需要将系数转为下面格式,此时虚数矩阵会被扩充成 \(\(quantNum + 1\) 2\) \(interpNum 2\)。 \[系数1,0\] \[ 0,系数1\] 2. 为了亲和NPU(32字节对齐),需要有四种格式矩阵,每行开头不补0,补2个0,补4个0及 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0061_html.md ## CANN商业版-Colwise\_mul - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0063.html - Description: 接口功能 - asdBlasMakeColwiseMulPlan:初始化该句柄对应的ColwiseMul算子配置。 - asdBlasColwiseMul:复数矩阵与复数向量按列逐点乘,返回一个和输入矩阵同样形状大小的复数矩阵。 计算公式 - asdBlasColwiseMul的计算公式: - 示例: 输入“A”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0063_html.md ## CANN商业版-HCgemmBatched - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0064.html - Description: 接口功能 - asdBlasMakeHCgemmBatchedPlan:初始化该句柄对应的算子配置。 - asdBlasHCgemmBatched:用于计算复数矩阵的乘积。 计算公式 - asdBlasHCgemmBatched的计算公式: - 示例: 输入“inTensorA\[i\]”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0064_html.md ## CANN商业版-CgemmBatched - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0065.html - Description: 接口功能 - asdBlasMakeCgemmBatchedPlan:初始化该句柄对应的算子配置。 - asdBlasCgemmBatched:用于计算两批复数矩阵的乘积。 计算公式 - asdBlasCgemmBatched的计算公式: - 示例: 输入“inTensorA\[i\]”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0065_html.md ## CANN商业版-HCgemvBatched - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0066.html - Description: 接口功能 - asdBlasMakeHCgemvBatchedPlan:初始化该句柄对应的算子配置。 - asdBlasHCgemvBatched:用于计算批量复数矩阵与向量的乘积。 计算公式 - asdBlasHCgemvBatched的计算公式: 其中op表示矩阵A做“共轭转置”或者“非转置”的操作。 - 示例: 输入“inTensorA\[i\]”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0066_html.md ## CANN商业版-CgemvBatched - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0067.html - Description: 接口功能 - asdBlasMakeCgemvBatchedPlan:初始化该句柄对应的算子配置。 - asdBlasCgemvBatched:用于计算批量复数矩阵与向量的乘积。 计算公式 - asdBlasCgemvBatched的计算公式: 其中op表示矩阵A做“共轭转置”或者“非转置”的操作。 - 示例: 输入“inTensorA\[i\]”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0067_html.md ## CANN商业版-asdConvolve - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0069.html - Description: 接口功能 asdConvolve:对给定的信号进行一维滤波操作。 计算公式 - asdConvolve计算公式: 其中,w\(k\)为输出的k位置的元素,u\(j\)为输入位置为j的一维信号,v\(k-j+1\)为位置为k-j+1的滤波卷积核。一维信号为复数向量,滤波卷积核为实数向量。 - 示例: 输入“u”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0069_html.md ## CANN商业版-asdConvolve\_complex32 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0071.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdConvolvecomplex32 asdConvolvecomplex32算子的调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0071_html.md ## CANN商业版-HcgemmBatched - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0072.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# HcgemmBatched HcgemmBatched算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0072_html.md ## CANN商业版-CgemmBatched - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0073.html - Description: - 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 - CgemmBatched算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0073_html.md ## CANN商业版-HcgemvBatched - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0074.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# HcgemvBatched HcgemvBatched算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0074_html.md ## CANN商业版-CgemvBatched - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0075.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# CmatinvBatched CgemvBatched算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0075_html.md ## CANN商业版-asdInterpWithCoeff - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0076.html - Description: 接口功能 - asdInterpWithCoeffGetWorkspaceSize:计算asdInterpWithCoeff算子所需的workspace大小。 若需使用“asdInterpWithCoeff”算子,需先调用“asdInterpWithCoeffGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“asdInterpWit - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0076_html.md ## CANN商业版-mul\_complex32 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0078.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# mulcomplex32 mulcomplex32算子的调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0078_html.md ## CANN商业版-mul\_complex64 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0079.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# mulcomplex64 mulcomplex64算子的调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0079_html.md ## CANN商业版-asdConvolve\_complex64 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0080.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdConvolvecomplex64 asdConvolvecomplex64算子的调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0080_html.md ## CANN商业版-asdInterpWithCoeff - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0083.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# asdInterpWithCoeff asdInterpWithCoeff算子的调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0083_html.md ## CANN商业版-FFT\_3D - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0084.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# C2C3D C2C3D算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0084_html.md ## CANN商业版-Istft - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0085.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# Istft Istft算子的调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0085_html.md ## CANN商业版-FFT\_3D - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0086.html - Description: 接口功能 - asdFftMakePlan3D:初始化三维FFT配置。 - asdFftExecC2C:执行复数到复数的FFT变换。 - asdFftExecC2R:执行复数到实数的FFT变换。 - asdFftExecR2C:执行实数到复数的FFT变换。 - asdFftExecC2CSeparated:执行复数到复数的FFT变换,支持实部、虚部分开输入和输出。 计算公式: 设有一个三维离散信号 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0086_html.md ## CANN商业版-Istft - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0087.html - Description: 接口功能 - asdFftIstftMakePlan:初始化该句柄对应的istft配置。 - asdFftExecIstft:执行逆短时傅里叶变换。 计算公式 istft函数用于进行逆短时傅里叶变换,它的目标是将stft得到的频域数据转换回时域信号,是stft的逆运算。短时距傅里叶变换是可逆的,也就是说原本的信号可以借由反短时距傅里叶变换将短时距傅里叶变换后的信号还原。其中最广为接受的反短时距傅里 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0087_html.md ## CANN商业版-HCmatinvBatched - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0088.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# HCmatinvBatched HCmatinvBatched算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0088_html.md ## CANN商业版-CmatinvBatched - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0089.html - Description: 安全声明: 该样例旨在提供快速上手、开发和调试算子的最小化实现,其核心目标是使用最精简的代码展示算子的核心功能,而非提供生产级的安全保障。 不推荐用户直接将示例代码作为业务代码,若用户将示例代码应用在自身的真实业务场景中且发生了安全问题,则需用户自行承担。 \#\#\#\# CmatinvBatched CmatinvBatched算子调用示例: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0089_html.md ## CANN商业版-HCmatinvBatched - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0090.html - Description: 接口功能 - asdBlasMakeHCmatinvBatchedPlan:初始化该句柄对应的算子配置 - asdBlasHCmatinvBatched:对复数矩阵进行求逆。 计算公式 - asdBlasHCmatinvBatched的计算公式:计算批量复数矩阵的逆矩阵,每个复数矩阵需满足条件,其中A为非奇异方阵,且A是一个nn的输入方阵,I为单位矩阵。 - 示例: 输入“A”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0090_html.md ## CANN商业版-CmatinvBatched - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/SiP/SIP_API_0091.html - Description: 接口功能 - asdBlasMakeCmatinvBatchedPlan:初始化该句柄对应的算子配置 - asdBlasCmatinvBatched:对复数矩阵进行求逆。 计算公式 - asdBlasCmatinvBatched的计算公式:计算批量复数矩阵的逆矩阵,每个复数矩阵需满足条件,其中A为非奇异方阵,且A是一个nn的输入方阵,I为单位矩阵。 - 示例: 输入“A”为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_API_SiP_SIP_API_0091_html.md ## CANN商业版-AscendNPU IR(AscendNPU Intermediate Repr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/compiler/AscendNPUIR/ir_001.html - Description: AscendNPU IR(AscendNPU Intermediate Representation)是基于MLIR(Multi-Level Intermediate Representation)构建的,面向昇腾亲和算子编译时使用的中间表示,提供昇腾完备表达能力,通过编译优化提升AI处理器计算效率,支持通过生态框架使能AI处理器与深度调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_compiler_AscendNPUIR_ir_001_html.md ## 快速上手 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/compiler/AscendNPUIR/ir_002.html - Description: 本节介绍AscendNPU IR使用的环境配置与简单用例,方便用户快速验证环境信息,熟悉AscendNPU IR的使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_compiler_AscendNPUIR_ir_002_html.md ## 编译AscendNPU IR - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/compiler/AscendNPUIR/ir_003.html - Description: bishengir-compile可以将AscendNPU IR编译成可以在AI处理器上执行的二进制文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_compiler_AscendNPUIR_ir_003_html.md ## 相关工具说明及风险分析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/compiler/AscendNPUIR/ir_004.html - Description: AscendNPU IR包含的主要二进制工具如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_compiler_AscendNPUIR_ir_004_html.md ## CANN商业版-毕昇编译器是一款专为昇腾AI处理器设计的编译器 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/compiler/BishengCompiler - Description: 毕昇编译器是一款专为昇腾AI处理器设计的编译器,支持异构编程扩展,可以将用户编写的昇腾算子代码编译成二进制可执行文件和动态库等形式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_compiler_BishengCompiler_atlas_bisheng_10_0001_html.md ## CANN商业版-毕昇编译器是一款专为昇腾AI处理器设计的编译器 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/compiler/BishengCompiler/atlas_bisheng_10_0001.html - Description: 毕昇编译器是一款专为昇腾AI处理器设计的编译器,支持异构编程扩展,可以将用户编写的昇腾算子代码编译成二进制可执行文件和动态库等形式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_compiler_BishengCompiler_atlas_bisheng_10_0001_html.md ## 快速上手 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/compiler/BishengCompiler/atlas_bisheng_10_0002.html - Description: 本节介绍异构编程环境配置与编译器使用的简单用例,方便用户快速验证环境信息,熟悉毕昇编译器的使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_compiler_BishengCompiler_atlas_bisheng_10_0002_html.md ## 预定义宏和内建变量 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/compiler/BishengCompiler/atlas_bisheng_10_0005.html - Description: 毕昇编译器同其他语言的编译器一样,会有一些预定义宏方便开发者编写程序。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_compiler_BishengCompiler_atlas_bisheng_10_0005_html.md ## 函数执行空间限定符 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/compiler/BishengCompiler/atlas_bisheng_10_0006.html - Description: 函数执行空间限定符(Function Execution Space Qualifier)指示函数是在host侧执行还是在device侧执行,以及它是否可从host侧或device侧调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_compiler_BishengCompiler_atlas_bisheng_10_0006_html.md ## 支持C++高级特性 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/compiler/BishengCompiler/atlas_bisheng_10_0007.html - Description: 下文对设备侧支持的C++高级特性(template模板和constexpr表达式)进行介绍。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_compiler_BishengCompiler_atlas_bisheng_10_0007_html.md ## 支持自动同步 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/compiler/BishengCompiler/atlas_bisheng_10_0008.html - Description: 使用Ascend C编写算子时,通过设置毕昇编译器自动同步编译选项 “--cce-auto-sync”(kernel直调算子工程和自定义算子开发工程已默认开启,无需开发者设置), 能够自动插入如下AI Core内部执行单元间的同步指令: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_compiler_BishengCompiler_atlas_bisheng_10_0008_html.md ## 相关工具说明及风险分析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/compiler/BishengCompiler/atlas_bisheng_10_0009.html - Description: 毕昇编译器包含的主要二进制工具如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_compiler_BishengCompiler_atlas_bisheng_10_0009_html.md ## 编译选项 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/compiler/BishengCompiler/atlas_bisheng_10_0010.html - Description: 常用的编译选项说明如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_compiler_BishengCompiler_atlas_bisheng_10_0010_html.md ## 异构编译步骤 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/compiler/BishengCompiler/atlas_bisheng_10_0011.html - Description: 毕昇编译器支持AI Core异构编译,当需要编写包含AI Core的异构程序时,可按如下步骤进行: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_compiler_BishengCompiler_atlas_bisheng_10_0011_html.md ## 编译、链接、库使用方法 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/compiler/BishengCompiler/atlas_bisheng_10_0012.html - Description: 实际可运行用例,本章节编译指导均以此组用例代码为示例。使用前需要先配置环境,详见异构编译步骤。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_compiler_BishengCompiler_atlas_bisheng_10_0012_html.md ## 编译选项 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/compiler/BishengCompiler/atlas_bisheng_10_0015.html - Description: AI CPU常用的编译选项如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_compiler_BishengCompiler_atlas_bisheng_10_0015_html.md ## 异构编译步骤 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/compiler/BishengCompiler/atlas_bisheng_10_0016.html - Description: 毕昇编译器支持AI CPU异构编译,规范如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_compiler_BishengCompiler_atlas_bisheng_10_0016_html.md ## 函数空间执行限定符 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/compiler/BishengCompiler/atlas_bisheng_10_0019.html - Description: AI CPU函数执行空间限定符(Function Execution Space Qualifier)指示函数是否为AI CPU Kernel函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_compiler_BishengCompiler_atlas_bisheng_10_0019_html.md ## AI CPU Device调测 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/compiler/BishengCompiler/atlas_bisheng_10_0020.html - Description: AI CPU支持通过AscendC::printf\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendcopapi/atlasascendc\_api\_07\_00166.html\)实现Device运行时内容的格式化输出,调试信息可直接打印至Host终端。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_compiler_BishengCompiler_atlas_bisheng_10_0020_html.md ## 编译、链接、库使用方法 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/compiler/BishengCompiler/atlas_bisheng_10_0021.html - Description: 本章节编译指导均以此组实际可运行样例为示例。使用前需要先配置环境,详见4.2.2 异构编译步骤。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_compiler_BishengCompiler_atlas_bisheng_10_0021_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0001.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0001_html.md ## 快速入门 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0002.html - Description: 本章节以压缩特性中的量化功能为例,并借助sample中的网络模型,为您介绍如何使用命令行方式压缩一个模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0002_html.md ## 压缩概念 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0004.html - Description: 本节给出模型压缩过程中用到的所有概念,并介绍了不同压缩方法的原理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0004_html.md ## 工具部署架构 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0005.html - Description: 本节介绍AMCT在不同产品形态下的部署架构。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0005_html.md ## 工具运行流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0009.html - Description: 本节介绍使用AMCT工具的具体流程,不同框架运行环境以及流程会有稍许差异。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0009_html.md ## 获取软件包 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0012.html - Description: 安装前,请单击如下链接获取对应版本的AMCT软件包:Ascend-cann-amct\_\{software version\}\_linux-\{arch\}.tar.gz - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0012_html.md ## 用户准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0014.html - Description: 支持任意用户(root或者非root)安装AMCT,本章节以非root用户为例进行操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0014_html.md ## AMCT(PyTorch) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0016.html - Description: 本章节以Ubuntu 20.04为例,详述安装前准备,AMCT(PyTorch)支持在NPU、CPU两种处理器中执行压缩,版本配套信息如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0016_html.md ## AMCT(ONNX) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0017.html - Description: 本章节以Ubuntu 20.04为例,详述安装前准备,版本配套信息如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0017_html.md ## AMCT(Caffe) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0019.html - Description: 本章节以Ubuntu 20.04为例,详述安装前准备,版本配套信息如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0019_html.md ## AMCT(TensorFlow,Ascend) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0021.html - Description: 该场景仅限 Atlas 训练系列产品 使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0021_html.md ## AMCT(PyTorch) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0023.html - Description: 请使用AMCT的安装用户安装依赖的软件,如果安装用户为非root,请确保该用户拥有sudo权限,请使用su - username命令切换到非root用户执行如下命令(如果安装用户为root,请将安装依赖命令中的--user删除)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0023_html.md ## AMCT(ONNX) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0024.html - Description: 请使用AMCT的安装用户安装依赖的软件,如果安装用户为非root,请确保该用户拥有sudo权限,请使用su - username命令切换到非root用户执行如下命令(如果安装用户为root,请将安装依赖命令中的--user删除)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0024_html.md ## AMCT(TensorFlow) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0025.html - Description: 请使用AMCT的安装用户安装依赖的软件,如果安装用户为非root,请确保该用户拥有sudo权限,请使用su - username命令切换到非root用户执行如下命令(如果安装用户为root,请将安装依赖命令中的--user删除)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0025_html.md ## AMCT(Caffe) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0026.html - Description: 请使用AMCT的安装用户安装依赖的软件,如果安装用户为非root,请确保该用户拥有sudo权限,请使用su - username命令切换到非root用户执行如下命令(如果安装用户为root,请将安装依赖命令中的--user删除)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0026_html.md ## AMCT(TensorFlow,Ascend) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0028.html - Description: 该场景仅限 Atlas 训练系列产品 使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0028_html.md ## 上传软件包 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0029.html - Description: 以AMCT的安装用户将Ascend-cann-amct\_\{software version\}\_linux-\{arch\}.tar.gz软件包上传到Linux服务器任意目录下,本示例为上传到$HOME/amct/目录。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0029_html.md ## AMCT(PyTorch) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0032.html - Description: AMCT量化过程中的日志信息以及日志级别,可以通过环境变量设置,本章节给出详细设置方法。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0032_html.md ## 设置环境变量 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0035.html - Description: AMCT量化过程中的日志信息以及日志级别,可以通过环境变量设置,本章节给出详细设置方法。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0035_html.md ## Caffe patch安装 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0037.html - Description: 安装完AMCT后,量化模型前,用户需要获取并安装Caffe源代码增强包caffe\_patch.tar.gz。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0037_html.md ## 环境变量设置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0038.html - Description: 设置日志打印级别,其中日志包括打印在屏幕上的日志以及保存到amct\_log/amct\_caffe.log文件中的日志。该部分环境变量为可选配置,如果不设置,则按照默认日志级别,默认级别为INFO。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0038_html.md ## 工具卸载 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0042.html - Description: 若用户不再使用AMCT时,可以参见该章节将其卸载。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0042_html.md ## CANN商业版-本节介绍基于图结构的量化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0045.html - Description: 本节介绍基于图结构的量化,给出量化的分类以及各个分类下的量化流程和调用示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0045_html.md ## 基于精度的自动量化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0047.html - Description: 基于精度的自动量化是为了方便用户在对量化精度有一定要求时所使用的功能。该方法能够在保证用户所需的模型精度前提下,自动搜索模型的量化配置并执行训练后量化的流程,最终生成满足精度要求的量化模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0047_html.md ## 手工调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0051.html - Description: 执行训练后量化特性的精度如果不满足要求,可以尝试手动调整config.json文件中的参数,本节给出调整的原则,以及参数解释。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0051_html.md ## 量化流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0053.html - Description: 本节详细介绍量化感知训练支持的量化层,接口调用流程和示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0053_html.md ## 手工调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0054.html - Description: 执行量化感知训练特性后的精度如果不满足要求,可以尝试手动调整config.json文件中的参数,本节给出调整的原则,以及参数解释。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0054_html.md ## CANN商业版-当前通道稀疏支持对不同的层做不同稀疏率的稀疏处理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0058.html - Description: 当前通道稀疏支持对不同的层做不同稀疏率的稀疏处理,但逐层设置稀疏率对用户的使用门槛较高,对于某一层,如何选择稀疏率(即配置中的prune\_ratio)是比较困难的,手工尝试的配置需要进行重训练,耗费时间多。针对上述问题,引入自动通道稀疏搜索特性,根据用户模型来计算各通道的稀疏敏感度(影响精度)以及稀疏收益(影响性能),然后搜索策略依据稀疏敏感度和稀疏收益来搜索最优的逐层通道稀疏率,以平衡精度和性能 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0058_html.md ## 搜索流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0059.html - Description: 介绍自动通道稀疏搜索特性的接口调用流程和调用示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0059_html.md ## 稀疏流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0061.html - Description: 本节介绍手工稀疏特性支持的稀疏层,接口调用流程和调用示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0061_html.md ## 手工调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0062.html - Description: 稀疏后,如果精度不满足要求,可以参见本节提供的方法进行调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0062_html.md ## 稀疏流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0064.html - Description: 本节介绍4选2结构化稀疏支持的层,接口调用流程和调用示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0064_html.md ## 手工调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0065.html - Description: 稀疏后,如果精度不满足要求,可以参见本节提供的方法进行调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0065_html.md ## 压缩流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0068.html - Description: 本节介绍组合压缩特性的接口调用流程和调用示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0068_html.md ## 手工调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0069.html - Description: 组合压缩后,模型精度不满足要求,则需要参见稀疏下的手动调优章节和量化感知训练下的手工调优章节分别进行调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0069_html.md ## CANN商业版-张量分解通过分解卷积核的张量 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0071.html - Description: 张量分解通过分解卷积核的张量,将一个卷积转化成两个小卷积的堆叠来降低推理开销,如用户模型中存在大量卷积,且卷积核shape普遍大于\(64, 64, 3, 3\)时推荐使用张量分解。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0071_html.md ## 分解流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0072.html - Description: 本节给出张量分解的接口调用流程和调用示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0072_html.md ## 单算子模式量化感知训练 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0074.html - Description: 参考量化感知训练章节进行基础量化时,量化的内部处理逻辑需要将原始模型转换成ONNX模型,并在ONNX模型基础上进行图的修改操作,此时若模型中存在Pytorch自定义算子时,可能存在无法导出生成ONNX模型,从而导致量化失败的问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0074_html.md ## 量化数据均衡预处理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0078.html - Description: 在一些数据分布不均匀的场景,由于离群值的影响,对数据进行per-tensor量化得到的结果误差较大,而per-channel量化可以获得更低的误差。但由于当前硬件不支持数据per-channel量化,仅支持权重per-channel量化;在该背景下AMCT设计出一套方法,本节将给出详细介绍。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0078_html.md ## 逐层蒸馏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0079.html - Description: 本节详细介绍逐层蒸馏支持的层,接口调用流程和示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0079_html.md ## KV Cache量化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0080.html - Description: 本节介绍什么是KV Cache、为什么要进行KV Cache量化,量化支持的层,并给出了KV Cache量化调用流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0080_html.md ## 整体约束和接口列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0082.html - Description: - 若接口中存在需要用户输入文件路径的参数,请确保输入路径正确,AMCT不会对路径做安全校验。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0082_html.md ## CANN商业版-create\_quant\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0086.html - Description: 训练后量化接口,根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0086_html.md ## CANN商业版-quantize\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0087.html - Description: 训练后量化接口,将输入的待量化的图结构按照给定的量化配置文件进行量化处理,在传入的图结构中插入权重量化、数据量化相关的算子,生成量化因子记录文件recordfile,返回修改后的torch.nn.Module校准模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0087_html.md ## CANN商业版-accuracy\_based\_auto\_calibration - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0089.html - Description: 根据用户输入的模型、配置文件进行自动的校准过程,搜索得到一个满足目标精度的量化配置,输出可以在ONNX Runtime环境下做精度仿真的fakequant模型,和可在AI处理器上做推理的deploy模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0089_html.md ## CANN商业版-create\_quant\_retrain\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0092.html - Description: 量化感知训练接口,根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入配置文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0092_html.md ## CANN商业版-create\_quant\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0093.html - Description: 量化感知训练接口,将输入的待量化的图结构按照给定的量化配置文件进行量化处理,在传入的图结构中插入量化相关的算子(数据和权重的量化感知训练层以及找N的层),生成量化因子记录文件recordfile,返回修改后可用于量化感知训练的torch.nn.Module模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0093_html.md ## CANN商业版-restore\_quant\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0094.html - Description: 量化感知训练接口,将输入的待量化的图结构按照给定的量化感知训练配置文件进行量化处理,在传入的图结构中插入量化感知训练相关的算子(数据和权重的量化感知训练层以及找N的层),生成量化因子记录文件recordfile,加载训练过程中保存的checkpoint权重参数,返回修改后的torch.nn.Module量化感知训练模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0094_html.md ## CANN商业版-LinearQAT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0097.html - Description: 构造Linear的QAT算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0097_html.md ## CANN商业版-Conv3dQAT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0101.html - Description: 构造Conv3d的QAT算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0101_html.md ## CANN商业版-restore\_prune\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0109.html - Description: 通道稀疏或4选2结构化稀疏接口,两种稀疏特性每次只能使能一个:将输入的待稀疏的图结构按照给定的recordfile中稀疏记录进行稀疏,返回修改后可用于稀疏后训练的torch.nn.Module模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0109_html.md ## CANN商业版-save\_prune\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0110.html - Description: 稀疏接口,根据用户最终的重训练好的稀疏模型,生成最终ONNX仿真模型以及部署模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0110_html.md ## CANN商业版-auto\_channel\_prune\_search - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0112.html - Description: 自动通道稀疏接口,根据用户模型来计算各通道的稀疏敏感度(影响精度)以及稀疏收益(影响性能),然后搜索策略依据该输入来搜索最优的逐层通道稀疏率,以平衡精度和性能。最终输出一个配置文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0112_html.md ## CANN商业版-create\_compressed\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0114.html - Description: 静态组合压缩接口,将输入的待静态组合压缩的模型按照给定的组合压缩配置文件进行压缩处理,即将传入的模型先进行稀疏(通道稀疏或者4选2结构化稀疏,二选一),后对模型插入量化相关的算子(数据和权重的量化感知训练层以及searchN的层),生成稀疏和量化因子记录文件recordfile(如果配置存在),返回修改后的torch.nn.Module模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0114_html.md ## CANN商业版-save\_compressed\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0116.html - Description: 静态组合压缩接口,根据用户最终的重训练好的模型,生成最终静态组合压缩精度仿真模型以及部署模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0116_html.md ## CANN商业版-create\_distill\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0121.html - Description: 蒸馏接口,根据图的结构找到所有可蒸馏量化的层和可蒸馏量化的结构,自动生成蒸馏量化配置文件,并将可蒸馏量化层的量化配置和蒸馏结构写入配置文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0121_html.md ## CANN商业版-create\_distill\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0122.html - Description: 蒸馏接口,将输入的待量化压缩的图结构按照给定的蒸馏量化配置文件进行量化处理,在传入的图结构中插入量化相关的算子(数据和权重的蒸馏量化层以及找N的层),返回修改后可用于蒸馏的torch.nn.Module模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0122_html.md ## CANN商业版-distill - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0123.html - Description: 蒸馏接口,将输入的待蒸馏的图结构按照给定的蒸馏量化配置文件进行蒸馏处理,返回修改后的torch.nn.Module蒸馏模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0123_html.md ## CANN商业版-create\_quant\_cali\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0126.html - Description: KV-cache量化接口,根据用户传入模型、量化层信息与量化配置信息,生成每个层的详细量化配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0126_html.md ## CANN商业版-create\_quant\_cali\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0127.html - Description: KV-cache量化接口,根据模型和量化详细配置,对用户模型进行改图,将待量化Linear算子替换为输出后进行IFMR/HFMG量化的量化算子,后续用户拿到模型后进行在线校准,校准后生成量化因子保存在recordfile中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0127_html.md ## CANN商业版-QuantCalibrationOp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0128.html - Description: KV Cache量化接口,用于用户构图,在前向传播时,根据用户的量化算法配置调用IFMR/HFMG量化算法对输出做校准,校准后,将量化因子依据对应格式输出到recordfile文件指定层名中。 在进行前向传播时,算子对原始输出会做透传,不修改activation输入信息: - 若当前传入数据个数小于batchnum时,使用IFMR/HFMG算子中的积攒数据方法,将数据集进行保存。 - 若当前传入数 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0128_html.md ## 工具实现的融合功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0130.html - Description: 当前该工具主要实现的为Conv+BN融合:AMCT在量化前会对模型中的"torch.nn.Conv2d+torch.nn.BatchNorm2d"结构做Conv+BN融合,融合后的torch.nn.BatchNorm2d层会被删除。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0130_html.md ## 训练后量化简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0131.html - Description: calibration\_config\_pytorch.proto文件参数说明如表1所示,该文件所在目录为:AMCT安装目录/amct\_pytorch/proto/calibration\_config\_pytorch.proto。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0131_html.md ## 量化感知训练简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0132.html - Description: retrain\_config\_pytorch.proto文件参数说明如表1所示,该文件所在目录为:AMCT安装目录/amct\_pytorch/proto/retrain\_config\_pytorch.proto。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0132_html.md ## 自动通道稀疏搜索简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0133.html - Description: 自动通道稀疏搜索的相关配置说明存在于basic\_info.proto文件中,该文件所在目录为:AMCT安装目录/amct\_pytorch/proto/basic\_info.proto。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0133_html.md ## record记录文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0134.html - Description: record文件,为基于protobuf协议的序列化数据结构文件,记录量化场景量化因子scale/offset,稀疏场景各稀疏层间的级联关系等,通过该文件、压缩配置文件以及原始网络模型文件,生成压缩后的模型文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0134_html.md ## 蒸馏简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0135.html - Description: distill\_config\_pytorch.proto文件参数说明如表1所示,该文件所在目录为:AMCT安装目录/amct\_pytorch/proto/distill\_config\_pytorch.proto。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0135_html.md ## KV Cache量化简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0136.html - Description: quant\_calibration\_config\_pytorch.proto文件参数说明如下表所示,该文件所在目录为:AMCT安装目录/amct\_pytorch/proto/。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0136_html.md ## CANN商业版-本章节详细介绍AMCT量化场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0139.html - Description: 本章节详细介绍AMCT量化场景,以及每个场景下的功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0139_html.md ## 基于精度的自动量化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0141.html - Description: 基于精度的自动量化是为了方便用户在对量化精度有一定要求时所使用的功能。该方法能够在保证用户所需的模型精度前提下,自动搜索模型的量化配置并执行训练后量化的流程,最终生成满足精度要求的量化模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0141_html.md ## 量化流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0144.html - Description: 本节详细介绍训练后量化支持的量化层,接口调用流程和示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0144_html.md ## 手工调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0146.html - Description: 执行训练后量化特性的精度如果不满足要求,可以尝试手动调整config.json文件中的参数,本节给出调整的原则,以及参数解释。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0146_html.md ## QAT模型适配CANN模型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0148.html - Description: 如果用户已经使用ONNX原生的QuanitzeLinear、DequantizeLinear算子实现量化功能(以下简称QAT模型),但是该模型无法使用ATC工具转成适配AI处理器的离线模型,则需要借助本节提供的功能,将该QAT模型适配成CANN量化模型格式。然后才能使用ATC工具,将CANN量化模型转成适配AI处理器的离线模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0148_html.md ## 量化数据均衡预处理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0149.html - Description: 在一些数据分布不均匀的场景,由于离群值的影响,对数据进行per-tensor量化得到的结果误差较大,而per-channel量化可以获得更低的误差。但由于当前硬件不支持数据per-channel量化,仅支持权重per-channel量化;在该背景下AMCT设计出一套方法,本节将给出详细介绍。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0149_html.md ## 整体约束和接口列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0151.html - Description: - 若接口中存在需要用户输入文件路径的参数,请确保输入路径正确,AMCT不会对路径做安全校验。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0151_html.md ## CANN商业版-create\_quant\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0153.html - Description: 根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0153_html.md ## CANN商业版-quantize\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0154.html - Description: 将输入的待量化的图结构按照给定的量化配置文件进行量化处理,在传入的图结构中插入权重量化,以及数据量化等相关的算子,生成量化因子记录文件recordfile,返回修改后的ONNX校准模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0154_html.md ## CANN商业版-accuracy\_based\_auto\_calibration - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0156.html - Description: 根据用户输入的模型、配置文件进行自动的校准过程,搜索得到一个满足目标精度的量化配置,输出可以在ONNX Runtime环境下做精度仿真的fakequant模型,和可在AI处理器上做推理的deploy模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0156_html.md ## CANN商业版-convert\_qat\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0160.html - Description: 将ONNX量化模型适配为CANN支持的量化模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0160_html.md ## 训练后量化简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0163.html - Description: calibration\_config\_onnx.proto文件参数说明如表1所示,该文件所在目录为:AMCT安装目录/amct\_onnx/proto/calibration\_config\_onnx.proto。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0163_html.md ## 基于精度的自动量化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0171.html - Description: 基于精度的自动量化是为了方便用户在对量化精度有一定要求时所采用的方法。该功能能够在保证用户所需的模型精度前提下,自动搜索模型的量化配置并执行训练后量化的流程,最终生成满足精度要求的量化模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0171_html.md ## 量化流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0174.html - Description: 本节详细介绍训练后量化支持的量化层,接口调用流程和示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0174_html.md ## 量化流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0178.html - Description: 本节详细介绍量化感知训练支持的量化层,接口调用流程和示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0178_html.md ## 手工调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0179.html - Description: 执行量化感知训练特性后的精度如果不满足要求,可以尝试手动调整config.json文件中的参数,本节给出调整的原则,以及参数解释。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0179_html.md ## CANN商业版-当前通道稀疏支持对不同的层做不同稀疏率的稀疏处理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0183.html - Description: 当前通道稀疏支持对不同的层做不同稀疏率的稀疏处理,但逐层设置稀疏率对用户的使用门槛较高,对于某一层,如何选择稀疏率(即配置中的prune\_ratio)是比较困难的,手工尝试的配置需要进行重训练,耗费时间多。针对上述问题,引入自动通道稀疏搜索特性,根据用户模型来计算各通道的稀疏敏感度(影响精度)以及稀疏收益(影响性能),然后搜索策略依据稀疏敏感度和稀疏收益来搜索最优的逐层通道稀疏率,以平衡精度和性能 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0183_html.md ## 稀疏流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0186.html - Description: 本节介绍手工稀疏特性支持的稀疏层,接口调用流程和调用示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0186_html.md ## 手工调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0187.html - Description: 稀疏后,如果精度不满足要求,可以参见本节提供的方法进行调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0187_html.md ## 压缩流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0193.html - Description: 本节介绍组合压缩特性的接口调用流程和调用示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0193_html.md ## 手工调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0194.html - Description: 组合压缩后,如果模型精度不满足要求,需要参见稀疏下的手工调优章节和量化感知训练下的手工调优章节分别进行调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0194_html.md ## 张量分解 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0195.html - Description: 张量分解通过分解卷积核的张量,将一个卷积转化成两个小卷积的堆叠来降低推理开销,如用户模型中存在大量卷积,且卷积核shape普遍大于\(64, 64, 3, 3\)时推荐使用张量分解。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0195_html.md ## convert\_model接口模型适配 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0198.html - Description: 如果用户有自己计算得到的量化因子以及TensorFlow原始模型,该模型无法直接使用ATC工具转成适配AI处理器的离线模型,需要借助该章节提供的功能,将其转成CANN量化模型格式,然后才能使用ATC工具,将CANN量化模型转成适配AI处理器的离线模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0198_html.md ## QAT模型适配CANN模型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0199.html - Description: 如果用户使用TensorFlow框架的原始模型已经做了量化功能(以下简称QAT模型),但是该模型无法使用ATC工具转成适配AI处理器的离线模型,需要借助本节提供的功能,将该QAT模型适配成CANN量化模型格式。然后才能使用ATC工具,将CANN量化模型转成适配AI处理器的离线模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0199_html.md ## 量化数据均衡预处理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0203.html - Description: 在一些数据分布不均匀的场景,由于离群值的影响,对数据进行per-tensor量化得到的结果误差较大,而per-channel量化可以获得更低的误差。但由于当前硬件不支持数据per-channel量化,仅支持权重per-channel量化;在该背景下AMCT设计出一套方法,本节将给出详细介绍。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0203_html.md ## 整体约束和接口列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0208.html - Description: - 若接口中存在需要用户输入文件路径的参数,请确保输入路径正确,AMCT不会对路径做安全校验。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0208_html.md ## CANN商业版-set\_logging\_level - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0210.html - Description: 设置信息输出的级别,其中信息包括打印在屏幕上的信息以及保存到amctlog/amcttensorflow.log文件中的信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0210_html.md ## CANN商业版-GraphEvaluator - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0211.html - Description: 针对某一个模型,根据模型的bin类型输入数据,提供一个Python实例,可对该模型执行校准和推理的评估器。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0211_html.md ## CANN商业版-create\_quant\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0213.html - Description: 训练后量化接口,根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0213_html.md ## CANN商业版-quantize\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0214.html - Description: 训练后量化接口,将输入的待量化的图结构按照给定的量化配置文件进行量化处理,在传入的图结构中插入量化相关的算子,生成量化因子记录文件recordfile,并返回量化处理新增的算子列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0214_html.md ## CANN商业版-save\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0215.html - Description: 训练后量化接口,根据量化因子记录文件recordfile和用户待量化的原始pb模型,插入AscendQuant、AscendDequant等算子,然后保存为既可以在TensorFlow环境进行精度仿真又可以在AI处理器做离线推理的pb模型文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0215_html.md ## CANN商业版-accuracy\_based\_auto\_calibration - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0216.html - Description: 根据用户输入的模型、配置文件进行自动的校准过程,搜索得到一个满足目标精度的量化配置,输出既可以在TensorFlow环境下做精度仿真的fakequant模型又可在AI处理器上做推理的deploy模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0216_html.md ## CANN商业版-create\_quant\_retrain\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0220.html - Description: 量化感知训练接口,根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入配置文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0220_html.md ## CANN商业版-create\_quant\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0221.html - Description: 量化感知训练接口,根据用户设置的量化配置文件对图结构进行量化处理,该函数在configfile指定的层插入数据和weights伪量化层,将修改后的网络存为新的模型文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0221_html.md ## CANN商业版-save\_quant\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0222.html - Description: 量化感知训练接口,根据用户最终的重训练好的模型,插入AscendQuant、AscendDequant等算子,生成最终既可以进行精度仿真又可以进行部署的模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0222_html.md ## CANN商业版-create\_prune\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0226.html - Description: 通道稀疏或4选2结构化稀疏接口,两种稀疏特性每次只能使能一个。 - 通道稀疏场景:根据用户设置的稀疏配置文件对图结构进行稀疏处理,该函数在图结构中插入通道稀疏mask算子,达到推理时伪稀疏的效果。 - 4选2结构化稀疏:根据用户设置的稀疏配置文件对图结构进行稀疏处理,该函数在图结构中插入4选2结构化稀疏算子,达到推理时伪稀疏的效果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0226_html.md ## CANN商业版-save\_prune\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0227.html - Description: 通道稀疏或4选2结构化稀疏接口,两种稀疏特性每次只能使能一个。 - 通道稀疏场景:根据用户最终的重训练好的带mask算子的模型,生成最终实现通道裁剪的稀疏模型,并删除mask算子。 - 4选2结构化稀疏场景:根据用户最终的重训练好的带4选2结构化稀疏算子的模型,生成最终的稀疏模型,并删除结构化稀疏算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0227_html.md ## CANN商业版-create\_compressed\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0231.html - Description: 静态组合压缩接口,根据用户设置的压缩配置文件对图结构先进行稀疏(通道稀疏或者4选2结构化稀疏,二选一),后插入量化相关的算子,并返回修改后的图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0231_html.md ## CANN商业版-save\_compressed\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0232.html - Description: 静态组合压缩接口,根据用户最终重训练好的模型,生成最终静态组合压缩模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0232_html.md ## CANN商业版-auto\_decomposition - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0237.html - Description: 根据用户提供的TensorFlow模型文件,生成张量分解后的模型文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0237_html.md ## CANN商业版-convert\_qat\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0241.html - Description: 根据TensorFlow的QAT量化模型,适配成分别可以在CPU、GPU上进行精度仿真和AI处理器上部署的量化模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0241_html.md ## 工具实现的融合功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0243.html - Description: 当前该工具主要实现的融合功能,分为如下几类(如下融合场景中涉及的单个算子,需要先满足各个压缩场景比如量化、组合压缩等的约束条件): - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0243_html.md ## 训练后量化简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0244.html - Description: calibration\_config\_tf.proto文件参数说明如表1所示,该文件所在目录为:AMCT安装目录/amct\_tensorflow/proto/calibration\_config\_tf.proto。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0244_html.md ## 量化感知训练简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0245.html - Description: retrain\_config\_tf.proto文件参数说明如表1所示,该文件所在目录为:AMCT安装目录/amct\_tensorflow/proto/retrain\_config\_tf.proto。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0245_html.md ## 自动通道稀疏搜索简易配置文件说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0246.html - Description: 自动通道稀疏搜索的相关配置说明存在于basic\_info.proto文件中,该文件所在目录为:AMCT安装目录/amct\_tensorflow/proto/basic\_info.proto。文件内容如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0246_html.md ## record记录文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0248.html - Description: record文件,为基于protobuf协议的序列化数据结构文件,记录量化场景量化因子scale/offset,稀疏场景各稀疏层间的级联关系等,通过该文件、压缩配置文件以及原始网络模型文件,生成压缩后的模型文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0248_html.md ## 开源网络模型分解数据参考 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0249.html - Description: 精度指标:分类:top1 ACC\(%\),检测: mAP\(%\),分割: DSC\(%\)。fine-tune学习率从原始学习率的0.1倍开始降低。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0249_html.md ## 源码包编译为whl包,以whl包形式安装AMCT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0250.html - Description: 如果用户AMCT安装服务器缺少源码编译安装时的某些依赖,则用户可以将源码包编译为whl包,然后进行安装,方法如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0250_html.md ## CANN商业版-本章节详细介绍AMCT量化场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0253.html - Description: 本章节详细介绍AMCT量化场景,以及每个场景下的功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0253_html.md ## 基于精度的自动量化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0255.html - Description: 基于精度的自动量化是为了方便用户在对量化精度有一定要求时所使用的功能。该方法能够在保证用户所需的模型精度前提下,自动搜索模型的量化配置并执行训练后量化的流程,最终生成满足精度要求的量化模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0255_html.md ## 量化流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0257.html - Description: 本节详细介绍训练后量化支持的量化层,接口调用流程和示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0257_html.md ## 手工调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0262.html - Description: 执行量化感知训练特性后的精度如果不满足要求,可以尝试手动调整config.json文件中的参数,本节给出调整的原则,以及参数解释。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0262_html.md ## 扩展更多特性(模型适配) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0264.html - Description: 如果用户有自己计算得到的量化因子以及Caffe原始模型,该模型无法直接使用ATC工具转成适配AI处理器的离线模型,需要借助该章节提供的功能,将其转成CANN量化模型格式,然后才能使用ATC工具,将CANN量化模型转成适配AI处理器的离线模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0264_html.md ## 整体约束和接口列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0266.html - Description: - 若接口中存在需要用户输入文件路径的参数,请确保输入路径正确,AMCT不会对路径做安全校验。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0266_html.md ## CANN商业版-set\_gpu\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0268.html - Description: 调用该接口之后,AMCT执行权重量化的时候,会使用GPU进行加速。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0268_html.md ## CANN商业版-create\_quant\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0271.html - Description: 训练后量化接口,根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入配置文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0271_html.md ## CANN商业版-init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0272.html - Description: 训练后量化接口,用于初始化AMCT,记录存储量化因子的文件,解析用户模型为图结构graph,供quantizemodel和savemodel使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0272_html.md ## CANN商业版-quantize\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0273.html - Description: 训练后量化接口,根据用户设置的量化配置文件对图结构进行量化处理,该函数在configfile指定的层插入权重量化层,完成权重量化,并插入数据量化层,将修改后的网络存为新的模型文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0273_html.md ## CANN商业版-save\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0274.html - Description: 训练后量化接口,根据修改后的图结构,插入AscendQuant、AscendDequant等算子,将模型保存为可以做推理的文件,支持保存为可在Caffe环境下做精度仿真的fakequant模型,和可在AI处理器上做推理的deploy模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0274_html.md ## CANN商业版-accuracy\_based\_auto\_calibration - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0276.html - Description: 根据用户输入的模型、配置文件进行自动的校准过程,搜索得到一个满足目标精度的量化配置,输出可以在Caffe环境下做精度仿真的fakequant模型,和可在AI处理器上做推理的deploy模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0276_html.md ## CANN商业版-create\_quant\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0279.html - Description: 量化感知训练接口,根据用户设置的量化配置文件对图结构进行量化处理,该函数在configfile指定的层插入数据和weights伪量化层,将修改后的网络存为新的模型文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0279_html.md ## CANN商业版-save\_quant\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0280.html - Description: 量化感知训练接口,根据用户最终的重训练好的模型,插入AscendQuant、AscendDequant等算子,生成最终fake quant仿真模型和deploy部署模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0280_html.md ## CANN商业版-convert\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0282.html - Description: 根据用户自己计算得到的量化因子以及Caffe模型,适配成可以在AI处理器上做在线推理的Deploy量化部署模型和可以在Caffe环境下进行精度仿真的Fakequant量化模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0282_html.md ## proto合并原理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0286.html - Description: 合并原理如图1所示,其中: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0286_html.md ## 工具实现的融合功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0287.html - Description: 当前该工具主要实现的是BN融合功能,分为如下几类(如下融合场景中涉及的单个算子,需要先满足量化场景下的约束条件): - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0287_html.md ## 训练后量化简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0288.html - Description: calibration\_config\_caffe.proto文件参数说明如表1所示,该文件所在目录为:AMCT安装目录/amct\_caffe/proto/calibration\_config\_caffe.proto。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0288_html.md ## 量化感知训练简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0289.html - Description: retrain\_config\_caffe.proto文件参数说明如表1所示,该文件所在目录为:AMCT安装目录/amct\_caffe/proto/retrain\_config\_caffe.proto。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0289_html.md ## CANN商业版-本章节详细介绍AMCT量化场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0321.html - Description: 本章节详细介绍AMCT量化场景,以及每个场景下的功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0321_html.md ## 手工量化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0322.html - Description: 本节详细介绍训练后量化支持的量化层,接口调用流程和示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0322_html.md ## 手工调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0323.html - Description: 执行完量化后,精度如果不满足要求,可以尝试手动调整config.json文件中的参数,本节给出调整的原则,以及参数解释。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0323_html.md ## CANN商业版-create\_quant\_config\_ascend - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0329.html - Description: 训练后量化接口,根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0329_html.md ## CANN商业版-quantize\_model\_ascend - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0330.html - Description: 训练后量化接口,将输入的待量化的图结构按照给定的量化配置文件进行量化处理,在传入的图结构中插入量化相关的算子,生成量化因子记录文件recordfile,并返回量化处理新增的算子列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0330_html.md ## CANN商业版-save\_model\_ascend - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0331.html - Description: 训练后量化接口,根据量化因子记录文件recordfile将用户待量化的原始pb模型保存为可以在NPU(AI处理器)环境进行在线推理的pb模型文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0331_html.md ## 工具实现的融合功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0333.html - Description: 当前该工具主要实现的融合功能,分为如下几类(如下融合场景中涉及的单个算子,需要先满足量化场景的约束条件): - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0333_html.md ## 简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0334.html - Description: 简易配置文件如下表所示,该文件所在目录为:AMCT安装目录/amct\_tensorflow/proto/calibration\_config\_ascend\_tf.proto。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0334_html.md ## record记录文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0335.html - Description: record文件,为基于protobuf协议的序列化数据结构文件,记录量化场景量化因子scale/offset等,通过该文件、压缩配置文件以及原始网络模型文件,生成压缩后的模型文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0335_html.md ## --model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0341.html - Description: 待量化网络模型文件路径与文件名。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0341_html.md ## --weights - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0342.html - Description: 待量化网络权重文件路径与文件名。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0342_html.md ## --outputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0343.html - Description: 该参数仅适用于TensorFlow框架网络模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0343_html.md ## --input\_shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0346.html - Description: 指定模型输入的shape,该shape需要与数据集处理后输入数据shape一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0346_html.md ## --batch\_num - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0347.html - Description: 训练后量化推理阶段的batch数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0347_html.md ## --calibration\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0348.html - Description: 训练后量化简易配置文件路径与文件名。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0348_html.md ## --data\_dir - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0349.html - Description: 与模型匹配的bin格式数据集路径。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0349_html.md ## --data\_types - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0350.html - Description: \#\#\#\# 功能说明 输入数据的类型。 \#\#\#\# 关联参数 若未使用--evaluator参数,则该参数必填。 \#\#\#\# 参数取值 参数值:模型输入数据的类型。 参数值格式:"float32;float64"。 参数值约束:若模型有多个输入,且数据类型不同,则需要分别指定不同输入的数据类型,指定的输入数据类型必须按照输入节点顺序依次放在双引号中,所有的输入数据类型必须放在双引号中,中间使用英文分号分 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0350_html.md ## --evaluator - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0351.html - Description: 基于"Evaluator"基类并且包含evaluator评估器的Python脚本。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0351_html.md ## --gpu\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0353.html - Description: 该参数仅适用于Caffe框架网络模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0353_html.md ## 安装python3-tk时提示错误信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0356.html - Description: 安装python3-tk依赖时,提示如下错误提示信息: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0356_html.md ## 校准执行过程中提示“\[IFMR\]: Do layer xxx data calibration failed\!” - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0357.html - Description: 在调用PyTorch框架执行中间校准模型推理过程中,由于输入数据范围不合法,导致量化算法计算得到的scale不合理,从而校准过程失败,终止校准流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0357_html.md ## 编译并安装自定义算子包时提示"AttributeError: module ‘onnxruntime’ has no attribute ‘SessionOption’"信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0358.html - Description: 安装AMCT过程中,编译并安装自定义算子包时,出现"AttributeError: module 'onnxruntime' has no attribute 'SessionOption' "错误,编译过程中止,AMCT无法使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0358_html.md ## 校准过程中提示"IFMR node. Name:'layer\_ifmr\_op' Status Message: std::bad\_alloc"信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0359.html - Description: 训练后量化校准过程中,对某层进行量化,提示内存错误"IFMR node. Name:'layer\_ifmr\_op' Status Message: std::bad\_alloc "。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0359_html.md ## 校准过程中出现"killed"信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0360.html - Description: 校准过程中,出现“killed”信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0360_html.md ## QDQ格式模型推理过程中出现ONNXRuntimeError报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0361.html - Description: QDQ(Quantize and DeQuantize)格式模型,比如从TensorFlow转换或从PyTorch导出的量化感知训练(QAT)模型,在ONNX Runtime1.8.0及以上的CPU版本环境下推理,出现类似下图的ONNXRuntimeError报错。(QDQ格式模型具体介绍请参见Link\(https://onnxruntime.ai/docs/performance/quantiz - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0361_html.md ## 校准执行过程中提示“\[IfmrQuantWithoutOffset\]scale is illegal” - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0362.html - Description: 在调用ONNX Runtime框架执行中间校准模型推理过程中,由于输入数据范围不合法,导致量化算法计算得到的scale不合理,从而校准过程失败,终止校准流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0362_html.md ## 量化校准过程中因数据量过大导致报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0363.html - Description: - 场景1:积攒数据的size过大溢出 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0363_html.md ## IFMR数据量化时,存在"inf或NaN值"或"xxx calculate scale failed",量化过程报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0364.html - Description: 在调用TensorFlow框架执行中间校准模型推理过程中,由于输入数据范围不合法,导致量化算法计算得到的scale不合理,从而校准过程失败,终止校准流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0364_html.md ## 量化过程中提示某层bias量化超出int32范围 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0365.html - Description: 量化过程中提示某层bias量化超出int32范围,提示信息如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0365_html.md ## 校准时提示“Invalid argument: You must feed a value for placeholder tensor **” - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0366.html - Description: 训练后量化场景,修改模型后执行校准过程时,使用原始模型的输入输出做推理,报错提示必须给一个占位符输入数据,校准过程中断。提示信息如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0366_html.md ## 插入量化算子后,如何恢复模型训练参数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0369.html - Description: 用户调用quantize\_model接口在传入的图中插入量化相关的变量op列表(quant\_add\_ops),该列表中的变量值无法在模型训练参数文件中找到,故模型训练参数直接恢复会出现变量无法找到的错误,因此需要在模型参数恢复之前,将quant\_add\_ops列表中的变量值从恢复列表中剔除,具体的剔除方法如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0369_html.md ## 使用训练后量化进行量化时,量化过程存在空tensor输入报错信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0370.html - Description: 执行训练后量化时,存在空tensor输入报错信息,详细报错信息如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0370_html.md ## 源码包编译为whl包,以whl包形式安装AMCT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0372.html - Description: 如果用户AMCT安装服务器缺少源码编译安装时的某些依赖,则用户可以将源码包编译为whl包,然后进行安装,方法如下,如下步骤以编译并安装AMCT(TensorFlow)为例进行说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0372_html.md ## 使用命令行方式安装Caffe环境失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0373.html - Description: 使用命令行方式安装Caffe环境时,提示类似"/usr/bin/python3.7: can't open file '/usr/lib/python3.7/py\_compile.py': \[Error 2\] No such file or directory"信息,导致Caffe环境安装失败。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0373_html.md ## 执行proto合并时提示ERROR信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0374.html - Description: 用户自定义custom.proto内容如下,其中定义的QuantParameter层信息与amct\_custom.proto中定义的重复: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0374_html.md ## 使用Ubuntu 20.04安装Caffe环境时,出现CUDA和GCC版本不匹配的编译报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0378.html - Description: 使用Ubuntu 20.04安装Caffe环境时,出现类似如下信息的编译报错: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0378_html.md ## 安装Python3.9.2(Ubuntu) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0382.html - Description: 1. 检查系统是否安装满足版本要求的Python开发环境(具体要求请参见系统要求和环境检查,该章节以环境上需要使用Python 3.9.2为例进行说明)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0382_html.md ## 量化算法原理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0385.html - Description: 量化常用的算法有二值化、线性量化、对数量化,线性量化又可根据是否有offset细分为对称\(Symmetric\),非对称\(Asymmetric\)两种。AMCT与昇腾芯片配套的是采用线性量化方式,并将对称和非对称量化方式进行了归一,以INT8量化为例,其应用表达式为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0385_html.md ## CANN商业版-ARQ - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0387.html - Description: ARQ (Adaptive Range Quantization)算法是对权重直接量化的算法。该算法提供了两种方式,channel\_wise(是否对每个channel采用不同的量化因子,以PyTorch框架为例,参数解释请参见表20)量化和非channel\_wise量化,量化原理图如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0387_html.md ## IFMR数据量化算法 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0389.html - Description: IFMR(Input Feature Map Reconstruction)算法在某个数据分布下,通过搜索的方式确定最佳量化方式。该算法用于训练后量化场景,量化原理图如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0389_html.md ## DMQ均衡算法 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0391.html - Description: 该算法用于训练后量化场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0391_html.md ## ULQ数据量化算法 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0394.html - Description: 该算法用于量化感知训练场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0394_html.md ## 自动通道稀疏搜索算法 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0396.html - Description: 自动通道稀疏搜索默认采用的搜索算法为贪婪搜索算法,在给定模型计算量约束下,自动选择每一层可删除的、较为合适的通道(价值排序靠后的通道),降低通道稀疏对模型经过Fine-tune精度损失的影响。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0396_html.md ## 手工通道稀疏算法 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0397.html - Description: AMCT使用的通道稀疏算法为BalancedL2Norm,该算法通过计算权重各个filter(输出维度通道)的L2范数(各元素的平方和然后求平方根),对输出通道进行重要性排序并裁剪重要性较低的通道,即重要性低的通道优先被稀疏,原理下图所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0397_html.md ## 4选2结构化稀疏算法 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0398.html - Description: AMCT使用的4选2结构化稀疏算法为L1SelectivePrune,通过比较权重的l1值即绝对值来决定保留哪些权重,每4个连续的权重中保留l1值最大的2个权重。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0398_html.md ## 蒸馏算法 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0401.html - Description: 蒸馏量化的思想是将量化模型作为学生模型,原始模型作为教师模型,通过引导量化模型“模仿”浮点模型从而获得更好的精度结果。蒸馏量化,仅需要少量无标签数据集,即可以在较短的量化时间内达到较好的精度结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0401_html.md ## CANN商业版-quantize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0411.html - Description: 基于torch module的训练后量化接口,高精度模型转换为校准模型,得到量化校准模型,推理后计算得到量化参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0411_html.md ## CANN商业版-convert - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0412.html - Description: 基于torch module的训练后量化接口,将量化校准模型转换为量化部署模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0412_html.md ## CANN商业版-ADA - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0416.html - Description: 在对神经网络进行量化时,主要方法是将每个浮点权重分配给其最接近的定点值。但这不是最佳的量化策略。本文引入的AdaRound\(Adaptive Rounding\),一种用于训练后量化的更好的权重舍入机制,它可以适应数据和任务损失,并且仅需要少量未标记的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0416_html.md ## MIN-MAX量化算法 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0417.html - Description: 该算法是统计数据(activation)和权重(weight)中数据的最大值最小值,根据最大值和最小值,将数据缩放到量化位宽的边界值范围,然后根据量化公式计算出对应的缩放因子scale与偏移值offset。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0417_html.md ## CANN商业版-algorithm\_register - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0420.html - Description: 将用户提供的自定义算法注册到AMCT工具。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0420_html.md ## 量化流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0421.html - Description: 本节介绍全量化场景下支持的层类型,并给出详细接口调用流程和调用示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0421_html.md ## CANN商业版-本节介绍基于torch module训练后量化的使用场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0423.html - Description: 本节介绍基于torch module训练后量化的使用场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0423_html.md ## SmoothQuant量化算法 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0430.html - Description: SmoothQuant是一种同时确保准确率且推理高效的训练后量化 \(PTQ\) 方法,由于权重很容易量化,而激活则较难量化,SmoothQuant通过引入平滑系数来平滑激活异常值,通过数学上等效的变换将量化难度从激活转移到权重上。一般来说,激活异常值越多,迁移强度越大。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0430_html.md ## CANN商业版-GPTQ - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0435.html - Description: GPTQ(Generative Pre-trained Transformer Quantization)是一种针对大模型的仅权重训练后量化(PTQ)方法,核心思路是逐层贪心量化,通过数学优化最小化量化误差。针对每个量化算子,根据激活值计算海森矩阵,分块将权重进行微调,最小化量化误差,最终输出调整后的权重以及量化因子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_amct_atlasamct_16_0435_html.md ## CANN商业版-概览 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe - Description: | 手册 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_auxiliarydevtool_aoe_0001_html.md ## AOE简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_001.html - Description: 本节介绍AOE相关概念、架构和调优流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_001_html.md ## 调优流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_020.html - Description: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 场景下,不支持离线推理场景下调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_020_html.md ## 快速入门 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_021.html - Description: 本章节介绍各框架下模型如何快速进行AOE调优。如下以算子调优为例,如果需要进行子图调优,请将命令中的job\_type取值修改为1即可。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_021_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_022.html - Description: 1. 请参考《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/canncommercial/900/softwareinst/instg/instg\_0000.html\)》完成驱动、固件以及CANN Toolkit开发套件包和ops算子包的安装,部署开发环境和运行环境。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_022_html.md ## 配置环境变量 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_023.html - Description: 使用AOE调优前,请先使用export命令在当前终端下声明环境变量。该方式在关闭Shell终端后失效。用户也可将设置环境变量的命令写入自定义脚本,方便后续执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_023_html.md ## 执行调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_024.html - Description: 本节介绍离线推理场景下调优的命令示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_024_html.md ## 查看调优结果 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_025.html - Description: 本节介绍调优完成后,如何查看调优结果,包括屏幕打印信息和生成的自定义知识库、om模型、算子调优结果文件和子图调优结果文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_025_html.md ## 性能验证 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_026.html - Description: 调优完成后,请使用调优后的自定义知识库(如何使用请参见如何使用调优后的自定义知识库)重新推理,验证性能是否提高。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_026_html.md ## 调优流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_028.html - Description: - 支持的TensorFlow版本包括1.15和2.6.5。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_028_html.md ## 快速入门 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_029.html - Description: 本章节介绍TensorFlow训练场景下,如何快速进行AOE调优。如下以算子调优为例,如果需要进行子图调优,请在配置环境变量时,将AOE\_MODE修改为1即可。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_029_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_030.html - Description: 1. 请参考《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/canncommercial/900/softwareinst/instg/instg\_0000.html\)》完成驱动、固件以及CANN Toolkit开发套件包和ops算子包的安装,部署开发环境和运行环境。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_030_html.md ## 子图/算子调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_031.html - Description: 本节介绍TensorFlow训练场景下,如何进行子图/算子调优,包括调优前须知、配置环境变量、调优命令、查看调优结果、性能验证。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_031_html.md ## 梯度切分调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_032.html - Description: 本节介绍TensorFlow训练场景下,如何进行梯度调优,包括调优前须知、配置环境变量、调优命令和注意事项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_032_html.md ## 调优流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_040.html - Description: 该调测入口支持的形态如下。- Atlas 训练系列产品 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_040_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_042.html - Description: 1. 请参考《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/canncommercial/900/softwareinst/instg/instg\_0000.html\)》完成驱动、固件以及CANN Toolkit开发套件包和ops算子包的安装,部署开发环境和运行环境。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_042_html.md ## 算子调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_043.html - Description: 本节介绍PyTorch训练场景下,如何进行算子调优,包括调优前须知、dump算子图、配置环境变量和调优命令。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_043_html.md ## 查看调优结果 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_044.html - Description: 执行调优结果如下所示,代表调优完成。调优后的自定义知识库请参见自定义知识库,调优结果文件请参见算子调优结果文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_044_html.md ## 性能验证 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_045.html - Description: 调优完成后,请还原代码,并刷新算子编译缓存,即将ACL\_OP\_COMPILER\_CACHE\_MODE设置为force,使用方法示例如下。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_045_html.md ## TensorFlow在线推理场景下调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_059.html - Description: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 场景下,不支持在线推理场景下调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_059_html.md ## PyTorch在线推理场景下调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_060.html - Description: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 场景下,不支持在线推理场景下调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_060_html.md ## 调优流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_062.html - Description: 通过AOE进行调优步骤如图1所示。调优步骤中具体操作请参考表1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_062_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_063.html - Description: 1. 请参考《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/canncommercial/900/softwareinst/instg/instg\_0000.html\)》完成驱动、固件以及CANN Toolkit开发套件包和ops算子包的安装,部署开发环境和运行环境。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_063_html.md ## 配置环境变量 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_064.html - Description: 使用AOE调优前,请先使用export命令在当前终端下声明环境变量。该方式在关闭Shell终端后失效。用户也可将设置环境变量的命令写入自定义脚本,方便后续执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_064_html.md ## 执行调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_065.html - Description: - 已经完成IR构图,具体开发过程请参见《图开发\(https://www.hiascend.com/document/detail/zh/canncommercial/900/programug/graphdevg/atlasag\_25\_0081.html\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_065_html.md ## 查看调优结果 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_066.html - Description: 本节介绍调优完成后,如何查看调优结果,包括屏幕打印信息和生成的自定义知识库、om模型、算子调优结果文件和子图调优结果文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_066_html.md ## 性能验证 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeep_16_067.html - Description: 调优完成后,请使用调优后的自定义知识库(如何使用请参见如何使用调优后的自定义知识库)编译并运行Graph,验证性能是否提高。此过程中如果调用aclgrphBuildModel接口,请刷新算子编译缓存,即将OP\_COMPILER\_CACHE\_MODE设置为force(详见《图开发\(https://www.hiascend.com/document/detail/zh/canncommercial/9 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeep_16_067_html.md ## 参数概览 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_001.html - Description: 本节介绍AOE调优引擎使用到的命令行参数。参数和参数取值之间可以是“\=”,也可以是空格,本章节统一以“\=”为例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_001_html.md ## --help或-h - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_003.html - Description: 显示帮助信息。 无。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_003_html.md ## --model或-m - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_004.html - Description: 原始模型文件路径与文件名。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_004_html.md ## --model\_path - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_005.html - Description: 原始模型文件路径,该路径下可以存放多个模型文件。PyTorch训练的调优场景,模型文件指的是dump出来的算子图,dump操作请参考dump算子图。 调优时,可以对该路径下的模型文件进行批量调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_005_html.md ## --weight或-w - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_006.html - Description: 原始模型权重文件路径与文件名。 当原始模型是Caffe时需要指定。 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 不支持Caffe框架。 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 不支持Caffe框架。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_006_html.md ## --job\_type或-j - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_007.html - Description: 调优模式。 支持子图调优和算子调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_007_html.md ## --framework或-f - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_008.html - Description: 原始网络模型的框架类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_008_html.md ## --input\_format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_009.html - Description: 指定模型输入数据的格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_009_html.md ## --input\_shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_010.html - Description: 指定模型输入数据的shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_010_html.md ## --dynamic\_batch\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_011.html - Description: 设置动态Batch档位参数,适用于执行推理时,每次处理图片数量不固定的场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_011_html.md ## --dynamic\_image\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_012.html - Description: 设置输入图片的动态分辨率参数。适用于执行推理时,每次处理图片宽和高不固定的场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_012_html.md ## --dynamic\_dims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_013.html - Description: 设置ND格式下动态维度的档位。适用于执行推理时,每次处理任意维度的场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_013_html.md ## --ip - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_014.html - Description: NCS所在服务器的IP。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_014_html.md ## --port - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_015.html - Description: NCS所在服务器的端口号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_015_html.md ## --reload - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_016.html - Description: 子图调优中断后重载。当前次流程被中断后,希望从上次的已有的调优阶段开始继续调优,使用--reload进入重载模式。 使用该参数的命令必须在上次执行调优命令的相同目录下使用。原因是重载调优需要使用上次调优的中间文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_016_html.md ## --device - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_017.html - Description: 用于指定调优在运行环境上运行时使用的device。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_017_html.md ## --progress\_bar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_018.html - Description: 用于开启或关闭调优时进度显示功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_018_html.md ## --singleop - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_019.html - Description: 通过配置算子描述文件,对指定的算子(一个或者多个)进行调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_019_html.md ## --output - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_020.html - Description: 调优后模型的存放路径以及文件名,例如:$\{HOME\}/test/out/tfresnet50,转换后的模型文件名以指定的为准,以.om后缀结尾,例如:tfresnet50.om或tfresnet50linuxx8664.om,若om文件名中包含操作系统及架构,则该om文件只能在该操作系统及架构的运行环境中使用。如果想要在其他操作系统及架构的运行环境使用,请使用ATC重新转换模型(需要带"--hos - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_020_html.md ## --output\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_021.html - Description: 指定网络输出数据类型或指定某个输出节点的输出类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_021_html.md ## --host\_env\_os - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_022.html - Description: 若模型编译环境的操作系统及其架构与模型运行环境不一致时,则需使用本参数设置模型运行环境的操作系统类型。 如果不设置,则默认取模型编译环境的操作系统类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_022_html.md ## --host\_env\_cpu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_023.html - Description: 若模型编译环境的操作系统及其架构与模型运行环境不一致时,则需使用本参数设置模型运行环境的操作系统架构。 如果不设置,则默认取模型编译环境的操作系统架构。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_023_html.md ## --aicore\_num - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_024.html - Description: 用于设置模型编译时使用的aicore数目。 当前版本该参数预留,不建议配置;如需配置,则只能配置为默认值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_024_html.md ## --virtual\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_025.html - Description: 是否支持AOE调优在昇腾虚拟化实例生成的虚拟设备上运行。 昇腾虚拟化实例是当前芯片算力比较大,云端用户或者小企业完全不需要使用这么大算力,而支持对芯片的算力进行切分,可满足用户按照自己的业务按需申请算力的诉求。 虚拟设备是按照指定算力在芯片上申请的虚拟加速资源。 该参数不支持SGAT调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_025_html.md ## --out\_nodes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_027.html - Description: 指定输出节点。 如果不指定输出节点(算子名称),则模型的输出默认为最后一层的算子信息。如果指定,则以指定的为准。 某些情况下,用户想要查看某层算子参数是否合适,则需要将该层算子的参数输出,就可以在调优时通过该参数指定输出某层算子,调优后,在相应.om模型文件最后即可以看到指定输出算子的参数信息,如果通过.om模型文件无法查看,则可以将.om模型文件转换成json格式后查看。关于.om转json格式 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_027_html.md ## --input\_fp16\_nodes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_028.html - Description: 指定输入数据类型为FP16的输入节点名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_028_html.md ## --insert\_op\_conf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_029.html - Description: 插入算子的配置文件路径与文件名,例如AIPP预处理算子。 使用该参数后,输入数据类型为UINT8。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_029_html.md ## --op\_name\_map - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_030.html - Description: 扩展算子(非标准算子)映射配置文件路径和文件名,不同的网络中某扩展算子的功能不同,可以指定该扩展算子到具体网络中,而实际运行的是扩展算子的映射。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_030_html.md ## --is\_input\_adjust\_hw\_layout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_031.html - Description: 用于指定网络输入数据类型是否为FP16,数据格式是否为NC1HWC0。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_031_html.md ## --is\_output\_adjust\_hw\_layout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_032.html - Description: 用于指定网络输出的数据类型是否为FP16,数据格式是否为NC1HWC0。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_032_html.md ## --disable\_reuse\_memory - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_033.html - Description: 内存复用开关。 无。 参数值: - 1:关闭内存复用。 - 0:开启内存复用。 参数默认值:0 参数值约束:如果网络模型较大,关闭内存复用开关,调优时可能会造成内存不足,导致调优失败。 无。 在内存复用场景下(默认开启内存复用),支持基于指定算子(节点名称/算子类型)单独分配内存。通过OPNOREUSEMEM环境变量指定要单独分配的一个或多个节点, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_033_html.md ## --fusion\_switch\_file - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_034.html - Description: 融合规则(包括图融合和UB融合)开关配置文件路径以及文件名,通过该参数关闭配置文件中指定的融合规则。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_034_html.md ## --enable\_scope\_fusion\_passes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_035.html - Description: 指定编译时需要生效的Scope融合规则列表。 无论是内置还是用户自定义的Scope融合规则,都分为如下两类: - 通用融合规则(General):各网络通用的Scope融合规则;默认生效,不支持用户指定失效。 - 定制化融合规则(Non-General):特定网络适用的Scope融合规则;默认不生效,用户可以通过“--enablescopefusionpasses”指定生效的融合规则列表。 当前支 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_035_html.md ## --enable\_single\_stream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_036.html - Description: 静态shape场景下,是否使能模型推理顺序单流串行执行。 其中,流(Stream)用于维护一些异步操作的执行顺序,确保按照应用程序中的代码调用顺序在Device上执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_036_html.md ## --enable\_small\_channel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_037.html - Description: 是否使能small channel的优化,使能后在channel<\=4的卷积层会有性能收益。 建议用户在推理场景下打开此开关。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_037_html.md ## --compress\_weight\_conf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_039.html - Description: 要压缩的node节点列表配置文件路径以及文件名。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_039_html.md ## --compression\_optimize\_conf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_040.html - Description: 压缩优化功能配置文件路径以及文件名,通过该参数使能配置文件中指定的压缩优化特性,从而提升网络性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_040_html.md ## --buffer\_optimize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_041.html - Description: 是否开启数据缓存优化功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_041_html.md ## --precision\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_042.html - Description: 设置网络模型的精度模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_042_html.md ## --op\_select\_implmode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_043.html - Description: 选择算子是高精度实现还是高性能实现。 高精度是指在fp16输入的情况下,通过泰勒展开/牛顿迭代等手段进一步提升算子的精度;高性能是指在fp16输入的情况下,不影响网络精度前提的最优性能实现。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_043_html.md ## --optypelist\_for\_implmode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_044.html - Description: 设置optype列表中算子的实现方式,该参数当前仅支持设置某个具体算子的实现方式,不支持设置多个算子。当前仅支持配置的算子为Pooling、SoftmaxV2、LRN、ROIAlign。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_044_html.md ## --op\_debug\_level - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_045.html - Description: TBE算子编译debug功能开关。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_045_html.md ## --log - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_046.html - Description: 设置调优过程中日志的级别。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_046_html.md ## --tune\_ops\_file - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_047.html - Description: 通过配置文件指定算子名称或者算子类型,对指定的算子进行调优。支持指定的算子范围请参见算子列表。对于不在算子列表范围内的算子,不支持调优。该参数使用的场景举例如下: 在对AOE调优后生成的om模型(或者ATC转换后生成的om模型)进行Profiling性能分析后,可通过此参数指定对某个性能较低的算子进行调优。 指定的算子名称或者算子类型必须配置为经过AOE调优后生成的om模型中的OP Name/OP - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_047_html.md ## --op\_precision\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_048.html - Description: 设置具体某个算子的精度模式,通过该参数可以为多个算子设置不同的精度模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_048_html.md ## --modify\_mixlist - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_049.html - Description: 混合精度场景下,修改算子使用混合精度名单,该文件包括黑名单,白名单和灰名单: - 白名单:表示混合精度模式下,允许将当前float32类型的算子,降低精度到float16。 - 黑名单:表示混合精度模式下,不允许将当前float32类型的算子降低精度到float16,相应算子仍旧使用float32精度。 - 灰名单:表示混合精度模式下,当前算子的混合精度处理机制和前一个算子保持一致,即如果前一个算 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_049_html.md ## --keep\_dtype - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_050.html - Description: 在原始网络模型编译时,保持个别算子的计算精度不变。 推理场景下,使用--precisionmode参数设置整个网络模型的精度模式,可能会有个别算子存在性能或精度问题,为此引入--keepdtype参数,保持原始网络模型编译时个别算子的计算精度不变,具体算子可以通过该参数指定的文件进行配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_050_html.md ## --customize\_dtypes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_051.html - Description: 模型编译时自定义某个或某些算子的计算精度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_051_html.md ## --tune\_optimization\_level - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_052.html - Description: 调优模式,通过该参数可配置不同模式调优,包括高性能模式和正常模式。 想要尝试获取更高性能的情况下,可以使用该参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_052_html.md ## --Fdeeper\_opat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_053.html - Description: 算子深度调优。想要尝试获取更高性能的情况下,可以使用该参数。 该模式下调优耗时会增长数倍,且无法保证一定能拿到极致性能收益。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_053_html.md ## --Fnonhomo\_split - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_054.html - Description: 子图非均匀切分调优。当模型输入的batch为奇数时,或者AI Core的核数与batch不成因子或倍数关系时,建议使用该参数,尝试获得更好的性能。 示例:假设batch为7,在均匀切分功能下,只能选择不切或者切成7份;而在非均匀切分下有更多切分的选择,可以切成非因子的份数,例如4+3。 Atlas 训练系列产品 场景下,不支持该参数。 Atlas A2 训练系列产品 / Atlas A2 推理系列 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_054_html.md ## --Fop\_format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_055.html - Description: 算子format调优。当算子支持多种format时,如果调优过程中携带了该参数,AOE会将该算子支持的多种format调优策略与默认的format调优策略比较,如果优于默认的format调优策略,则将最优的format调优策略写入知识库。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_055_html.md ## --sparsity - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_056.html - Description: Atlas 推理系列产品 场景下,不支持该参数。 Atlas 训练系列产品 场景下,不支持该参数。 使能全局稀疏特性。 AMCT(简称AMCT)4选2结构化稀疏后输出的模型,可能存在weight连续4个Cin维度元素中至少有2个为0的场景,模型转换时通过使能全局稀疏开关,将该场景下的元素筛选成2个,从而节省后续推理的计算量,提高推理性能。其原理如下: weight中每4个连续的元素,会生成两组2b - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_056_html.md ## --op\_tune\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_057.html - Description: 有些大模型场景,部分二进制kernel替换成静态kernel后,性能更优。基于该背景,AOE新增了该参数支持静态kernel调优功能,根据输入的算子信息json文件,生成调优后的kernel,并保存到指定目录。 当前该功能支持如下型号: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_057_html.md ## --op\_tune\_file - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_058.html - Description: 静态Kernel调优模式下,需要预先dump算子json文件,该参数用于指定算子json文件的存放路径。dump算子json文件的具体操作请参考aclopStartDumpArgs和aclopStopDumpArgs接口。 当前该功能支持如下型号: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_058_html.md ## --op\_tune\_kernel\_path - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_059.html - Description: 静态kernel调优后,AOE产生静态kernel。该参数用于用户指定静态kernel的存放路径。 当前该功能支持如下型号: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_059_html.md ## --soc\_version - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_060.html - Description: 当--optunemode\=fast,并且执行aoe命令的环境没有device时,需要通过--socversion指定AI处理器的型号。 当前该功能支持如下型号: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_060_html.md ## --init\_bypass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_063.html - Description: 对于AOE调优框架和调优业务不感知的编译参数,可以通过“--initbypass”在模型构建初始化阶段透传,具体透传的参数请参考“options参数说明\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendgraphapi/atlasgeapi070150.html\)”(其中的全局级别生效的参数)。 AOE - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_063_html.md ## --build\_bypass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_064.html - Description: 对于AOE调优框架和调优业务不感知的编译参数,可以通过“--buildbypass”在模型编译阶段透传,具体透传的参数请参考“options参数说明\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendgraphapi/atlasgeapi070150.html\)”(其中的全局级别生效的参数)。 AOE不校 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_064_html.md ## 知识库合并 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_066.html - Description: AOE工具提供了自定义知识库合并的功能,支持将不同路径下的自定义知识库进行合并,并将其中优于内置知识库中的调优策略存入目标路径中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_066_html.md ## 如何使用调优后的自定义知识库 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_067.html - Description: 知识库是用户的资产,请用户妥善保管,建议归档到用户的存储介质。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_067_html.md ## 日志查看 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_068.html - Description: 调优引擎主进程的日志存放在:$\{HOME\}/ascend/log/debug/plog/plog-pid\_*.log,如果要查看error信息,可以在该日志中使用grep ERROR进行查找。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_068_html.md ## 配置文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_071.html - Description: - 配置文件路径:$\{install\_path\}/cann/conf。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_071_html.md ## 算子列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_072.html - Description: AOE工具当前版本仅支持使用DSL接口实现计算逻辑的AI Core算子的调优,本章节介绍支持的算子列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_072_html.md ## 通过修改训练脚本配置调优模式(TensorFlow 1.15) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_074.html - Description: 除了通过AOE\_MODE环境变量配置调优模式之外,还可以通过修改训练脚本方式,配置调优模式。同时配置的情况下,通过修改训练脚本方式优先生效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_074_html.md ## 通过修改训练脚本配置调优模式(TensorFlow 2.6) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_075.html - Description: - 除了通过AOE\_MODE环境变量配置调优模式之外,还可以通过修改训练脚本方式,配置调优模式。同时配置的情况下,通过修改训练脚本方式优先生效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_075_html.md ## 支持量化的层及约束 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_076.html - Description: 本章节给出不同框架可量化的层以及相关约束。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_076_html.md ## 量化简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_077.html - Description: 如果要自动控制量化过程,例如控制哪些层是否量化、控制使用什么量化算法,则可以通过本章节构造的cfg配置文件实现。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_077_html.md ## 如何处理调优过程中"Out of memory"问题引起的进程异常退出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_079.html - Description: 在调优过程中,可能会出现如下类似报错。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_079_html.md ## 知识库调优生成,但是无法命中 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_080.html - Description: AOE调优工具完成调优,生成了知识库,但是无法命中调优生成的知识库。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_080_html.md ## 系统报错"there is an aicore error" - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_081.html - Description: 调优工具主进程日志中出现如下"there is an aicore error"的打印信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_081_html.md ## 如何处理残留进程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_083.html - Description: 当配套的Python版本是Python3.8.x(3.8.0~3.8.11)或者Python3.9.x(3.9.0~3.9.7)时,AOE调优过程中可能会存在进程残留(例如:调优过程中Ctrl + C会出现进程残留),该情况不影响正常的调优流程,也不影响正常的调优性能。残留进程可以通过kill命令进行清理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_083_html.md ## 如何处理内存不足 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_084.html - Description: TensorFlow训练场景下调优时,可能会出现如下类似报错。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_084_html.md ## 如何确定原始框架网络模型中的算子与AI处理器支持的算子的对应关系 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoepar_16_086.html - Description: 用户使用精度比对工具或者性能比对工具进行算子精度或者性能分析时,若发现某些算子精度或者性能有问题,可能会考虑使用ATC工具中的某些参数调整算子的计算精度后,重新进行模型转换然后推理,比如通过--modify\_mixlist参数将有问题的算子配置为黑名单等,该场景下,ATC中的参数要求配置的必须为基于Ascend IR定义的算子的OpType。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoepar_16_086_html.md ## CANN商业版-本节介绍AOE相关概念、架构和调优流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0002.html - Description: 本节介绍AOE相关概念、架构和调优流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0002_html.md ## 调优流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0003.html - Description: 推荐先进行子图调优,再进行算子调优。原因是:先进行子图调优会生成图的切分方式,子图调优后算子已经被切分成最终的shape了,再进行算子调优,会基于这个最终shape去做算子调优。如果优先算子调优,这时调优的算子shape不是最终切分后的算子shape,不符合实际使用场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0003_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0008.html - Description: AOE工具运行依赖AI处理器,当前调优入口支持开发者使用其他独立机器为开发环境,使用AI处理器所在硬件设备为运行环境。使用NCS工具远程连接开发环境和运行环境,并在开发环境上使用AOE工具对AI处理器进行远程调试。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0008_html.md ## 配置环境变量 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0010.html - Description: AOE调优前,请先使用export命令在当前终端下配置环境变量。该方式在关闭Shell终端后失效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0010_html.md ## 执行AOE调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0011.html - Description: - 单个AOE进程时,请确保调优用户的家目录下磁盘可用空间>\=20G,可用内存>\=32G。注意:如果模型中存在大shape算子,可能需要更多内存。多个AOE进程时,请自行增加相应的磁盘空间和内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0011_html.md ## 调优结果 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0012.html - Description: 本节介绍调优完成后,如何查看调优结果,包括屏幕打印信息和生成的自定义知识库、om模型、算子调优结果文件和子图调优结果文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0012_html.md ## 性能验证 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0013.html - Description: 调优完成后,请使用调优后的自定义知识库(如何使用请参见如何使用调优后的自定义知识库)重新推理,验证性能是否提高。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0013_html.md ## 参数概览 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0017.html - Description: 本节介绍AOE调优引擎使用到的命令行参数。参数和参数取值之间可以是“\=”,也可以是空格,本章节统一以“\=”为例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0017_html.md ## --help或-h - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0019.html - Description: 显示帮助信息。 无。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0019_html.md ## --model或-m - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0020.html - Description: 原始模型文件路径与文件名。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0020_html.md ## --model\_path - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0021.html - Description: 原始模型文件路径,该路径下可以存放多个模型文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0021_html.md ## --weight或-w - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0022.html - Description: 原始模型权重文件路径与文件名。 当原始模型是Caffe时需要指定。 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 不支持Caffe框架。 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 不支持Caffe框架。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0022_html.md ## --job\_type或-j - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0023.html - Description: 调优模式。 支持子图调优和算子调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0023_html.md ## --framework或-f - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0024.html - Description: 原始网络模型的框架类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0024_html.md ## --input\_format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0025.html - Description: 指定模型输入数据的格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0025_html.md ## --input\_shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0026.html - Description: 指定模型输入数据的shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0026_html.md ## --dynamic\_batch\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0027.html - Description: 设置动态Batch档位参数,适用于执行推理时,每次处理图片数量不固定的场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0027_html.md ## --dynamic\_image\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0028.html - Description: 设置输入图片的动态分辨率参数。适用于执行推理时,每次处理图片宽和高不固定的场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0028_html.md ## --dynamic\_dims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0029.html - Description: 设置ND格式下动态维度的档位。适用于执行推理时,每次处理任意维度的场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0029_html.md ## --ip - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0030.html - Description: NCS所在服务器的IP。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0030_html.md ## --port - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0031.html - Description: NCS所在服务器的端口号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0031_html.md ## --reload - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0032.html - Description: 子图调优中断后重载。当前次流程被中断后,希望从上次的已有的调优阶段开始继续调优,使用--reload进入重载模式。 使用该参数的命令必须在上次执行调优命令的相同目录下使用。原因是重载调优需要使用上次调优的中间文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0032_html.md ## --device - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0033.html - Description: 用于指定调优在运行环境上运行时使用的device。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0033_html.md ## --progress\_bar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0034.html - Description: 用于开启或关闭调优时进度显示功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0034_html.md ## --singleop - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0035.html - Description: 通过配置算子描述文件,对指定的算子(一个或者多个)进行调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0035_html.md ## --output - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0036.html - Description: 调优后模型的存放路径以及文件名,例如:$\{HOME\}/test/out/tfresnet50,转换后的模型文件名以指定的为准,以.om后缀结尾,例如:tfresnet50.om或tfresnet50linuxx8664.om,若om文件名中包含操作系统及架构,则该om文件只能在该操作系统及架构的运行环境中使用。如果想要在其他操作系统及架构的运行环境使用,请使用ATC重新转换模型(需要带"--hos - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0036_html.md ## --output\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0037.html - Description: 指定网络输出数据类型或指定某个输出节点的输出类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0037_html.md ## --host\_env\_os - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0038.html - Description: 若模型编译环境的操作系统及其架构与模型运行环境不一致时,则需使用本参数设置模型运行环境的操作系统类型。 如果不设置,则默认取模型编译环境的操作系统类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0038_html.md ## --host\_env\_cpu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0039.html - Description: 若模型编译环境的操作系统及其架构与模型运行环境不一致时,则需使用本参数设置模型运行环境的操作系统架构。 如果不设置,则默认取模型编译环境的操作系统架构。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0039_html.md ## --aicore\_num - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0040.html - Description: 用于设置模型编译时使用的aicore数目。 当前版本该参数预留,不建议配置;如需配置,则只能配置为默认值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0040_html.md ## --virtual\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0041.html - Description: 是否支持AOE调优在昇腾虚拟化实例生成的虚拟设备上运行。 昇腾虚拟化实例是当前芯片算力比较大,云端用户或者小企业完全不需要使用这么大算力,而支持对芯片的算力进行切分,可满足用户按照自己的业务按需申请算力的诉求。 虚拟设备是按照指定算力在芯片上申请的虚拟加速资源。 该参数不支持SGAT调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0041_html.md ## --out\_nodes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0043.html - Description: 指定输出节点。 如果不指定输出节点(算子名称),则模型的输出默认为最后一层的算子信息。如果指定,则以指定的为准。 某些情况下,用户想要查看某层算子参数是否合适,则需要将该层算子的参数输出,就可以在调优时通过该参数指定输出某层算子,调优后,在相应.om模型文件最后即可以看到指定输出算子的参数信息,如果通过.om模型文件无法查看,则可以将.om模型文件转换成json格式后查看。关于.om转json格式 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0043_html.md ## --input\_fp16\_nodes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0044.html - Description: 指定输入数据类型为FP16的输入节点名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0044_html.md ## --insert\_op\_conf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0045.html - Description: 插入算子的配置文件路径与文件名,例如AIPP预处理算子。 使用该参数后,输入数据类型为UINT8。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0045_html.md ## --op\_name\_map - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0046.html - Description: 扩展算子(非标准算子)映射配置文件路径和文件名,不同的网络中某扩展算子的功能不同,可以指定该扩展算子到具体网络中,而实际运行的是扩展算子的映射。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0046_html.md ## --is\_input\_adjust\_hw\_layout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0047.html - Description: 用于指定网络输入数据类型是否为FP16,数据格式是否为NC1HWC0。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0047_html.md ## --is\_output\_adjust\_hw\_layout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0048.html - Description: 用于指定网络输出的数据类型是否为FP16,数据格式是否为NC1HWC0。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0048_html.md ## --disable\_reuse\_memory - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0049.html - Description: 内存复用开关。 无。 参数值: - 1:关闭内存复用。 - 0:开启内存复用。 参数默认值:0 参数值约束:如果网络模型较大,关闭内存复用开关,调优时可能会造成内存不足,导致调优失败。 无。 在内存复用场景下(默认开启内存复用),支持基于指定算子(节点名称/算子类型)单独分配内存。通过OPNOREUSEMEM环境变量指定要单独分配的一个或多个节点, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0049_html.md ## --fusion\_switch\_file - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0050.html - Description: 融合规则(包括图融合和UB融合)开关配置文件路径以及文件名,通过该参数关闭配置文件中指定的融合规则。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0050_html.md ## --enable\_scope\_fusion\_passes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0051.html - Description: 指定编译时需要生效的Scope融合规则列表。 无论是内置还是用户自定义的Scope融合规则,都分为如下两类: - 通用融合规则(General):各网络通用的Scope融合规则;默认生效,不支持用户指定失效。 - 定制化融合规则(Non-General):特定网络适用的Scope融合规则;默认不生效,用户可以通过“--enablescopefusionpasses”指定生效的融合规则列表。 当前支 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0051_html.md ## --enable\_small\_channel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0052.html - Description: 是否使能small channel的优化,使能后在channel<\=4的卷积层会有性能收益。 建议用户在推理场景下打开此开关。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0052_html.md ## --compress\_weight\_conf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0053.html - Description: 要压缩的node节点列表配置文件路径以及文件名。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0053_html.md ## --compression\_optimize\_conf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0054.html - Description: 压缩优化功能配置文件路径以及文件名,通过该参数使能配置文件中指定的压缩优化特性,从而提升网络性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0054_html.md ## --buffer\_optimize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0055.html - Description: 是否开启数据缓存优化功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0055_html.md ## --precision\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0056.html - Description: 设置网络模型的精度模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0056_html.md ## --op\_select\_implmode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0057.html - Description: 选择算子是高精度实现还是高性能实现。 高精度是指在fp16输入的情况下,通过泰勒展开/牛顿迭代等手段进一步提升算子的精度;高性能是指在fp16输入的情况下,不影响网络精度前提的最优性能实现。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0057_html.md ## --optypelist\_for\_implmode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0058.html - Description: 设置optype列表中算子的实现方式,该参数当前仅支持设置某个具体算子的实现方式,不支持设置多个算子。当前仅支持配置的算子为Pooling、SoftmaxV2、LRN、ROIAlign。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0058_html.md ## --op\_debug\_level - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0059.html - Description: TBE算子编译debug功能开关。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0059_html.md ## --log - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0060.html - Description: 设置调优过程中日志的级别。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0060_html.md ## --tune\_ops\_file - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0061.html - Description: 通过配置文件指定算子名称或者算子类型,对指定的算子进行调优。支持指定的算子范围请参见算子列表。对于不在算子列表范围内的算子,不支持调优。该参数使用的场景举例如下: 在对AOE调优后生成的om模型(或者ATC转换后生成的om模型)进行Profiling性能分析后,可通过此参数指定对某个性能较低的算子进行调优。 指定的算子名称或者算子类型必须配置为经过AOE调优后生成的om模型中的OP Name/OP - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0061_html.md ## --op\_precision\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0062.html - Description: 设置具体某个算子的精度模式,通过该参数可以为多个算子设置不同的精度模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0062_html.md ## --modify\_mixlist - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0063.html - Description: 混合精度场景下,修改算子使用混合精度名单,该文件包括黑名单,白名单和灰名单: - 白名单:表示混合精度模式下,允许将当前float32类型的算子,降低精度到float16。 - 黑名单:表示混合精度模式下,不允许将当前float32类型的算子降低精度到float16,相应算子仍旧使用float32精度。 - 灰名单:表示混合精度模式下,当前算子的混合精度处理机制和前一个算子保持一致,即如果前一个算 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0063_html.md ## --keep\_dtype - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0064.html - Description: 在原始网络模型编译时,保持个别算子的计算精度不变。 推理场景下,使用--precisionmode参数设置整个网络模型的精度模式,可能会有个别算子存在性能或精度问题,为此引入--keepdtype参数,保持原始网络模型编译时个别算子的计算精度不变,具体算子可以通过该参数指定的文件进行配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0064_html.md ## --customize\_dtypes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0065.html - Description: 模型编译时自定义某个或某些算子的计算精度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0065_html.md ## --tune\_optimization\_level - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0066.html - Description: 调优模式,通过该参数可配置不同模式调优,包括高性能模式和正常模式。 想要尝试获取更高性能的情况下,可以使用该参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0066_html.md ## --Fdeeper\_opat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0067.html - Description: 算子深度调优。想要尝试获取更高性能的情况下,可以使用该参数。 该模式下调优耗时会增长数倍,且无法保证一定能拿到极致性能收益。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0067_html.md ## --Fnonhomo\_split - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0068.html - Description: 子图非均匀切分调优。当模型输入的batch为奇数时,或者AI Core的核数与batch不成因子或倍数关系时,建议使用该参数,尝试获得更好的性能。 示例:假设batch为7,在均匀切分功能下,只能选择不切或者切成7份;而在非均匀切分下有更多切分的选择,可以切成非因子的份数,例如4+3。 Atlas 训练系列产品 场景下,不支持该参数。 Atlas A2 训练系列产品 / Atlas A2 推理系列 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0068_html.md ## --Fop\_format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0069.html - Description: 算子format调优。当算子支持多种format时,如果调优过程中携带了该参数,AOE会将该算子支持的多种format调优策略与默认的format调优策略比较,如果优于默认的format调优策略,则将最优的format调优策略写入知识库。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0069_html.md ## --sparsity - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0070.html - Description: Atlas 推理系列产品 场景下,不支持该参数。 Atlas 训练系列产品 场景下,不支持该参数。 使能全局稀疏特性。 AMCT(简称AMCT)4选2结构化稀疏后输出的模型,可能存在weight连续4个Cin维度元素中至少有2个为0的场景,模型转换时通过使能全局稀疏开关,将该场景下的元素筛选成2个,从而节省后续推理的计算量,提高推理性能。其原理如下: weight中每4个连续的元素,会生成两组2b - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0070_html.md ## --init\_bypass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0071.html - Description: 对于AOE调优框架和调优业务不感知的编译参数,可以通过“--initbypass”在模型构建初始化阶段透传,具体透传的参数请参考“options参数说明\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendgraphapi/atlasgeapi070150.html\)”(其中的全局级别生效的参数)。 AOE - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0071_html.md ## --build\_bypass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0072.html - Description: 对于AOE调优框架和调优业务不感知的编译参数,可以通过“--buildbypass”在模型编译阶段透传,具体透传的参数请参考“options参数说明\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendgraphapi/atlasgeapi070150.html\)”(其中的全局级别生效的参数)。 AOE不校 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0072_html.md ## CANN商业版-本节介绍配置密钥证书的背景和密钥证书的存放路径 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0075.html - Description: 本节介绍配置密钥证书的背景和密钥证书的存放路径。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0075_html.md ## 配置环境变量 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0077.html - Description: 在开发环境和运行环境安装CANN软件后,使用CANN运行用户编译、运行时,需要以CANN运行用户登录环境配置环境变量。$\{INSTALL\_DIR\}请替换为CANN软件安装后文件存储路径。以root用户安装为例,安装后文件默认存储路径为:/usr/local/Ascend/cann。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0077_html.md ## 向第三方机构申请证书 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0078.html - Description: 商用场景下,需要选择向第三方机构申请证书。步骤如下。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0078_html.md ## 自签名证书及私钥 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0079.html - Description: 该方法仅供调测环境下使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0079_html.md ## 导入密钥证书 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0080.html - Description: 获取密钥证书后,需要以运行用户使用AKT工具在开发环境和运行环境分别进行密钥证书导入,具体信息请参考如下内容。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0080_html.md ## 卸载密钥证书 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0081.html - Description: 当该开发环境和运行环境无需再进行调优,可以选择卸载密钥证书,以释放更多存储空间。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0081_html.md ## 导入密钥证书配置文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0082.html - Description: 当用户需要更新口令加密算法、更新证书过期告警提前日期时,可以使用该功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0082_html.md ## 更新口令 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0083.html - Description: 口令用于加密私钥,出于安全考虑,建议用户定期更新加密私钥的口令。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0083_html.md ## AKT参数说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0084.html - Description: 在AKT存放路径下执行akt --help命令,可以查看AKT相关参数。具体含义请参考表1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0084_html.md ## 知识库合并 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0085.html - Description: AOE工具提供了自定义知识库合并的功能,支持将不同路径下的自定义知识库进行合并,并将其中优于内置知识库中的调优策略存入目标路径中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0085_html.md ## 如何使用调优后的自定义知识库 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0086.html - Description: 知识库是用户的资产,请用户妥善保管,建议归档到用户的存储介质。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0086_html.md ## 日志查看 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0087.html - Description: 调优引擎主进程的日志存放在:$\{HOME\}/ascend/log/debug/plog/plog-pid\_*.log,如果要查看error信息,可以在该日志中使用grep ERROR进行查找。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0087_html.md ## 配置文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0090.html - Description: - 配置文件路径:$\{install\_path\}/cann/conf。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0090_html.md ## 算子列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0091.html - Description: AOE工具当前版本仅支持使用DSL接口实现计算逻辑的AI Core算子的调优,本章节介绍支持的算子列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0091_html.md ## 支持量化的层及约束 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0092.html - Description: 本章节给出不同框架可量化的层以及相关约束。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0092_html.md ## 量化简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0093.html - Description: 如果要自动控制量化过程,例如控制哪些层是否量化、控制使用什么量化算法,则可以通过本章节构造的cfg配置文件实现。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0093_html.md ## 如何处理调优过程中"Out of memory"问题引起的进程异常退出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0095.html - Description: 在调优过程中,可能会出现如下类似报错。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0095_html.md ## 知识库调优生成,但是无法命中 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0096.html - Description: AOE调优工具完成调优,生成了知识库,但是无法命中调优生成的知识库。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0096_html.md ## 系统报错"there is an aicore error" - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0097.html - Description: 调优工具主进程日志中出现如下"there is an aicore error"的打印信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0097_html.md ## 如何处理残留进程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0099.html - Description: 当配套的Python版本是Python3.8.x(3.8.0~3.8.11)或者Python3.9.x(3.9.0~3.9.7)时,AOE调优过程中可能会存在进程残留(例如:调优过程中Ctrl + C会出现进程残留),该情况不影响正常的调优流程,也不影响正常的调优性能。残留进程可以通过kill命令进行清理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0099_html.md ## 如何确定原始框架网络模型中的算子与AI处理器支持的算子的对应关系 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0101.html - Description: 用户使用精度比对工具或者性能比对工具进行算子精度或者性能分析时,若发现某些算子精度或者性能有问题,可能会考虑使用ATC工具中的某些参数调整算子的计算精度后,重新进行模型转换然后推理,比如通过--modify\_mixlist参数将有问题的算子配置为黑名单等,该场景下,ATC中的参数要求配置的必须为基于Ascend IR定义的算子的OpType。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0101_html.md ## 日志报错“DataBuffer is more than 1.9GB”(算子调优) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0102.html - Description: 由于第三方库限制,在运行环境中传输的数据大小不能超过1.9GB,否则调优工具主进程日志中会出现如下信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0102_html.md ## 系统报错"error \= 113"以及告警"Grpc socket closed." - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoerc_16_0103.html - Description: 在调优过程中,可能会出现如下类似报错和告警,错误码113表示Grpc服务不可用,导致调优中断。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoerc_16_0103_html.md ## 接口列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeref_16_0001.html - Description: **表1 AOE调优API** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeref_16_0001_html.md ## AOE调优API简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeref_16_0003.html - Description: 通过AOE API可以使能AOE调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeref_16_0003_html.md ## CANN商业版-AoeInitialize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeref_16_0004.html - Description: AOE初始化函数,用于设置全局调优参数和初始化调优环境。同步接口。 请参考接口约束说明。 返回0表示成功,返回其它值含义请参见AOE API错误码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeref_16_0004_html.md ## CANN商业版-AoeFinalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeref_16_0005.html - Description: 释放AOE初始化的资源。同步接口。 请参考接口约束说明。 无 返回0表示成功,返回其它值含义请参见AOE API错误码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeref_16_0005_html.md ## CANN商业版-AoeCreateSession - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeref_16_0006.html - Description: 创建AOE的调优Session,并输出Session id。同步接口。 请参考接口约束说明。 返回0表示成功,返回其它值含义请参见AOE API错误码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeref_16_0006_html.md ## CANN商业版-AoeDestroySession - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeref_16_0007.html - Description: 销毁AOE的session。同步接口。 请参考接口约束说明。 返回0表示成功,返回其它值含义请参见AOE API错误码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeref_16_0007_html.md ## CANN商业版-AoeSetGeSession - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeref_16_0008.html - Description: 设置GE session,通过GE session运行Graph。同步接口。 请参考接口约束说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeref_16_0008_html.md ## CANN商业版-AoeSetTuningGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeref_16_0009.html - Description: 设置调优图。同步接口。 请参考接口约束说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeref_16_0009_html.md ## CANN商业版-AoeSetTuningGraphInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeref_16_0010.html - Description: 设置调优图的输入。同步接口。 请参考接口约束说明。 返回0表示成功,返回其它值含义请参见AOE API错误码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeref_16_0010_html.md ## CANN商业版-AoeTuningGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeref_16_0011.html - Description: 开始AOE调优,同步接口。 请参考接口约束说明。 返回0表示成功, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeref_16_0011_html.md ## AOE API错误码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeref_16_0018.html - Description: AOE API错误码的定义在头文件"CANN软件安装目录/cann/include/aoe/external/aoe\_errcodes.h"中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeref_16_0018_html.md ## CANN商业版-GlobalOption - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeref_16_0020.html - Description: 介绍AOE的GlobalOption。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeref_16_0020_html.md ## CANN商业版-TuningOption - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/aoeref_16_0021.html - Description: 介绍AOE的TuningOption。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_aoeref_16_0021_html.md ## CANN商业版-概览 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/aoe/auxiliarydevtool_aoe_0001.html - Description: | 手册 | 说明 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_aoe_auxiliarydevtool_aoe_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0001_html.md ## 准备环境 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0002.html - Description: 进行模型转换前,请参见《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/canncommercial/900/softwareinst/instg/instg\_0000.html\)》完成环境搭建,并确保已安装CANN Toolkit开发套件包和ops算子包(针对8.5.0及之后版本,必须安装与目标AI处理器相匹配的ops算子包,否则会导致 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0002_html.md ## 快速入门 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0003.html - Description: 本章节以各框架下模型转换为例,演示如何快速转换一个离线模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0003_html.md ## ATC工具介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0005.html - Description: 介绍ATC工具的功能架构以及使用ATC工具过程中遇到的一些术语或者缩略语。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0005_html.md ## 调用流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0006.html - Description: ATC工具运行前需要准备环境和模型,本节给出ATC工具的运行流程以及和各组件的交互流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0006_html.md ## 原始模型文件或离线模型转成JSON文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0009.html - Description: 如果用户不方便查看原始模型或离线模型的参数信息时,可以将原始模型或离线模型转成JSON文件进行查看。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0009_html.md ## 离线模型支持动态batch\_size/动态分辨率 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0010.html - Description: 某些推理场景,如检测出目标后再执行目标识别网络,由于目标个数不固定导致目标识别网络输入batch\_size不固定。如果每次推理都按照最大的batch\_size或最大分辨率进行计算,会造成计算资源浪费。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0010_html.md ## 离线模型支持动态维度 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0011.html - Description: 为支持Transformer等网络模型在输入Tensor维度不确定的场景,ATC工具提供了--dynamic\_dims参数实现ND格式下任意维度的档位设置。ND表示支持任意格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0011_html.md ## 自定义离线模型的输入输出数据类型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0012.html - Description: 模型转换时支持指定网络的输入节点、输出节点的DataType、Format、模型转换支持精度选择等关键参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0012_html.md ## 借助离线模型查看软件基础版本号 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0013.html - Description: 不同CANN软件包版本,由于软件功能差异,所转换出的离线模型功能也有差异,该场景下建议用户使用匹配CANN软件版本的ATC工具重新进行模型转换。假如用户已有转换好的离线模型,想查看使用的CANN软件包基础版本号,则可以参见本章节完成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0013_html.md ## 什么是AIPP - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0016.html - Description: 本节介绍什么是AIPP,AIPP分类以及包括的特性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0016_html.md ## 如何使能AIPP - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0017.html - Description: 通过在模型转换过程中开启AIPP功能,可以在推理之前就完成所有的数据处理;由于用的是专门的加速模块实现并保证性能,从而可以不让图像处理成为推理阶段的瓶颈,图像处理方式比较灵活。本章节给出如何在模型转换阶段开启AIPP功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0017_html.md ## 静态AIPP配置示例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0019.html - Description: AIPP配置文件支持定义多组AIPP配置,对不同的模型输入进行不同的AIPP处理,配置多组AIPP参数时,将一组AIPP配置放到一个aipp\_op配置项里;如果模型只有一个输入,则只需要配置第一组aipp\_op即可。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0019_html.md ## 动态AIPP配置示例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0020.html - Description: AIPP配置文件支持定义多组AIPP配置,对不同的模型输入进行不同的AIPP处理,配置多组AIPP参数时,将一组AIPP配置放到一个aipp\_op配置项里;如果模型只有一个输入,则只需要配置第一组aipp\_op即可。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0020_html.md ## 色域转换配置说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0021.html - Description: AIPP提供了更为方便的图像格式转换方式:色域转换,用于将输入的图片格式,转换为模型需要的图片格式,一旦确认了AIPP处理前与AIPP处理后的图片格式,即可确定色域转换相关的参数值(matrix\_r*c*配置项的值是固定的,不需要调整)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0021_html.md ## 归一化配置说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0022.html - Description: 归一化是一种将数据缩放到特定范围内的处理方式,有助于后续的数据处理与分析。AIPP支持的归一化功能,通过“减均值”和“乘系数”两步操作实现。这种处理方式不仅适用于常规的归一化需求,还能灵活支持多种数据格式之间的转换,提升数据处理的效率和兼容性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0022_html.md ## Crop/Padding配置说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0023.html - Description: AIPP改变图片尺寸需要遵守如下图中的顺序,即先Crop再Padding,每个操作仅能执行一次。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0023_html.md ## AIPP对模型输入大小的校验说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0024.html - Description: 如果有配置AIPP,无论静态AIPP还是动态AIPP,最终生成离线模型的输入大小(即input\_size)均会被Crop、Padding等操作影响。本节给出对模型输入大小的约束说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0024_html.md ## 配置文件模板 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0025.html - Description: AIPP配置文件通过本章节给出的模板进行配置,内容需要满足prototxt格式,用户根据场景决定配置哪些参数,修改为合适的取值另存后供模型转换使用;使用配置模板之前需要先查看相关约束。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0025_html.md ## YUV400\_U8转GRAY格式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0027.html - Description: AIPP输入图像格式为YUV400U8、输出图像格式为GRAY,输入图像尺寸为224224,有效数据区域从左上角\(0, 0\)像素开始;原始网络模型的C\=1,H和W均为220。 - 该场景下涉及以下AIPP配置: - 开启抠图功能参数crop; - 抠图起始位置水平、垂直方向坐标loadstartposh、loadstartposw为0; - 无需配置cropsizew和cropsize - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0027_html.md ## YUV420SP\_U8转BGR格式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0028.html - Description: AIPP输入图像格式为YUV420SPU8(NV12)、输出图像格式为BGR,输入图像尺寸为256256;原始网络模型的C\=3,H和W与AIPP输入图像尺寸相同。 - 该场景涉及以下AIPP配置: - 无需配置抠图功能参数crop; - 需要配置色域转换开关cscswitch和相应的CSC矩阵参数。 - AIPP配置文件示例如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0028_html.md ## 什么是单算子描述文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0031.html - Description: 单算子描述文件是基于Ascend IR定义的单个算子的定义文件,包括算子的输入、输出及属性等信息,借助该文件转换成适配AI处理器的离线模型后,可以验证单算子的功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0031_html.md ## 如何将算子描述文件转成离线模型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0032.html - Description: 本节给出单算子描述文件转成离线模型的详细步骤。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0032_html.md ## 单算子描述文件配置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0034.html - Description: 不同输入或者不同Format场景,单算子描述文件配置不同,本章节给出各场景的配置示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0034_html.md ## 多组算子描述文件配置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0035.html - Description: 描述文件支持定义多组算子JSON文件配置,一组配置包括算子类型、算子输入和输出信息、视算子情况决定是否包括属性信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0035_html.md ## 动态Shape单算子描述文件配置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0036.html - Description: 动态Shape场景,单算子描述文件根据场景不同,内容也有差异,本章节就给出不同场景下的配置样例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0036_html.md ## 参数概览 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0039.html - Description: 使用ATC工具转换模型之前,首先查看使用工具过程中的一些限制,然后借助本章节提供的参数概览功能,可以快速预览相关参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0039_html.md ## CANN商业版-本章节修改只适用于Caffe网络模型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0043.html - Description: 本章节修改只适用于Caffe网络模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0043_html.md ## 扩展算子列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0044.html - Description: **表1 扩展算子列表** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0044_html.md ## 扩展算子规则 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0045.html - Description: 扩展算子的实现可以在Caffe、TensorFlow、MindSpore深度学习框架中获取,扩展算子中的第一种是基于Caffe框架进行扩展实现的,如ROIPooling、PSROIPooling、Normalize和Upsample层等,因此有公开的prototxt标准定义。而扩展算子中的第二种并不是在Caffe框架下实现的,对于这类网络中的自定义算子,也需要给出prototxt的标准定义,用于在 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0045_html.md ## YOLOv3网络模型prototxt修改 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0048.html - Description: 本章节所有的代码样例都不能直接复制到网络模型中使用,需要用户根据使用的网络模型,自行调整相应参数,比如bottom、top中的参数要和具体网络模型中的bottom、top一一对应,并且bottom和top对应的参数顺序不能更改。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0048_html.md ## YOLOv2网络模型prototxt修改 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0049.html - Description: 本章节所有的代码样例都不能直接复制到网络模型中使用,需要用户根据使用的网络模型,自行调整相应参数,比如bottom、top中的参数要和具体网络模型中的bottom、top一一对应,并且bottom和top对应的参数顺序不能更改。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0049_html.md ## SSD网络模型prototxt修改 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0050.html - Description: 本章节所有的代码样例都不能直接复制到网络模型中使用,需要用户根据使用的网络模型,自行调整相应参数,比如bottom、top中的参数要和具体网络模型中的bottom、top一一对应,并且bottom和top对应的参数顺序不能更改。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0050_html.md ## BatchedMatMul算子prototxt修改 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0051.html - Description: 本章节所有的代码样例都不能直接复制到网络模型中使用,需要用户根据使用的网络模型,自行调整相应参数,比如bottom、top中的参数要和具体网络模型中的bottom、top一一对应,并且bottom和top对应的参数顺序不能更改。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0051_html.md ## SENet网络模型prototxt修改 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0052.html - Description: 本章节所有的代码样例都不能直接复制到网络模型中使用,需要用户根据使用的网络模型,自行调整相应参数,比如bottom、top中的参数要和具体网络模型中的bottom、top一一对应,并且bottom和top对应的参数顺序不能更改。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0052_html.md ## CANN商业版-本章节介绍如何使用TensorFlow的xlacompile工具 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0057.html - Description: 本章节介绍如何使用TensorFlow的xlacompile工具,将有控制流算子的网络模型(如图1所示)转成函数类算子的网络模型(如图2所示),然后利用ATC工具转换成适配AI处理器的离线模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0057_html.md ## 编译可执行文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0058.html - Description: 请以ATC软件包安装用户进行如下操作: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0058_html.md ## 使用bazel编译工具编译时提示“An error occurred during the fetch of repository 'io\_bazel\_rules\_docker'”,编译失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0061.html - Description: 使用bazel build --config\=monolithic //tensorflow/compiler/aot:xlacompilebazel build命令编译过程中,提示“ERROR: An error occurred during the fetch of repository 'io\_bazel\_rules\_docker'”,检查服务器,能够连接网络,但仍旧提示如下错误信息: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0061_html.md ## 获取Switch\_v1.pb网络模型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0063.html - Description: 1. 将如下文件中的脚本复制到.py文件中,例如复制到Switch\_v1.py文件中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0063_html.md ## 获取xlacompile.patch补丁文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0064.html - Description: 用户安装完xlacompile.patch补丁,编译成xlacompile工具后,该工具可以将有控制流的V1网络模型转成函数类的V2网络模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0064_html.md ## dump图详细信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0115.html - Description: 模型转换前,通过设置如下环境变量,dump出编译过程中的模型图,用户可以通过查看dump图观察模型的变化: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0115_html.md ## 开启AI CPU Cast算子自动插入特性 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0116.html - Description: 模型编译时,若遇到AI CPU算子不支持某种数据类型导致编译失败的场景,可通过启用Cast算子自动插入特性快速将输入转换为算子支持的数据类型,从而实现网络的快速打通。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0116_html.md ## 支持量化的层及约束 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0117.html - Description: 本章节给出不同框架可量化的层以及相关约束。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0117_html.md ## 量化简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0118.html - Description: 如果要自动控制量化过程,例如控制哪些层是否量化、控制使用什么量化算法,则可以通过本章节构造的cfg配置文件实现。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0118_html.md ## 开发环境架构为Arm(aarch64)时模型转换耗时较长 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0135.html - Description: 开发环境操作系统以及架构为Arm(aarch64),发现模型转换的耗时较长。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0135_html.md ## 使用AIPP色域转换模型时如何判断视频流的格式标准 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0136.html - Description: 使用AIPP色域转换模型时无法判断视频流的格式标准。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0136_html.md ## 如何确定原始框架网络模型中的算子与AI处理器支持的算子的对应关系 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0137.html - Description: 用户使用精度比对工具或者性能比对工具进行算子精度或者性能分析时,若发现某些算子精度或者性能有问题,可能会考虑使用ATC工具中的某些参数调整算子的计算精度后,重新进行模型转换然后推理,比如通过--modify\_mixlist参数将有问题的算子配置为黑名单等,该场景下,ATC中的参数要求配置的必须为基于Ascend IR定义的算子的OpType。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0137_html.md ## 模型中存在不支持量化的层,量化模型失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0138.html - Description: 执行ATC模型转换命令时,通过--compression\_optimize\_conf参数配置模型量化(将模型中的权重由浮点数float32量化到低比特整数int8)相关的选项,结果报错提示如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0138_html.md ## 量化模型时模型输入大小过大,AI Core执行任务失败,量化模型失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0139.html - Description: 模型转换命令示例如下,模型输入大小与input\_shape参数指定的shape有关: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0139_html.md ## 量化模型时校准集数据大小与模型输入大小不匹配,量化模型失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0140.html - Description: 执行ATC模型转换命令时,通过--compression\_optimize\_conf参数配置模型量化(将模型中的权重由浮点数float32量化到低比特整数int8)相关的选项,结果报错提示如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0140_html.md ## 开启量化功能,模型转换时提示“build\_main build graph\[infer\_graph\_info\] failed” - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0141.html - Description: 模型转换时,通过--compression\_optimize\_conf参数配置了量化功能,结果模型转换失败,提示信息如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0141_html.md ## 算子库包版本问题导致加载单算子失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatc_16_0142.html - Description: 加载单算子报错失败,日志显示如下类似信息: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatc_16_0142_html.md ## --help或--h - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0008.html - Description: 显示帮助信息。 无。 无。 无。 返回的部分信息如下所示: 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0008_html.md ## --mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0009.html - Description: 运行模式。 - 若 --mode 取值为1或5,则需要与 --om 、 --json 参数配合使用。如果将原始模型文件转换成带shape信息的JSON文件,则还需要与 --dumpmode 参数配合使用。 - 若 --mode 取值为6,则只需要与 --om 参数配合使用。 - 若 --mode 取值为3,需要自行指定预检结果保存路径时, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0009_html.md ## --model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0011.html - Description: 原始网络模型文件路径与文件名。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0011_html.md ## --weight - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0012.html - Description: 原始网络模型权重文件路径与文件名,当原始网络模型是Caffe时需要指定。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0012_html.md ## --om - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0013.html - Description: 离线模型(.om)、原始模型文件(例如Caffe框架的.prototxt,TensorFlow框架的.pb等)、GE dump图结构文件(.txt)的路径和文件名。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0013_html.md ## --framework - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0014.html - Description: 原始网络模型框架类型。 Atlas 350 加速卡不支持Caffe框架:Caffe框架在该产品形态已不演进,不保证功能可用。 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 不支持Caffe框架:Caffe框架在该产品形态已不演进,不保证功能可用。 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 不支持Caffe框架:Caffe框架在该产品形态已不演进,不保 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0014_html.md ## --input\_format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0015.html - Description: 指定模型输入数据的格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0015_html.md ## --input\_shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0016.html - Description: 指定模型输入数据的shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0016_html.md ## --input\_shape\_range - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0017.html - Description: 该参数已废弃,请勿使用。若涉及指定模型输入数据的shape范围,请使用--input\_shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0017_html.md ## --dynamic\_batch\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0018.html - Description: 设置动态batchsize参数,适用于执行推理时,每次处理图片或者句子数量不固定的场景。 在某些推理场景,如检测出目标后再执行目标识别网络,由于目标个数不固定导致目标识别网络输入batchsize不固定。如果每次推理都按照最大的batchsize或最大分辨率进行计算,会造成计算资源浪费。因此,推理需要支持动态batchsize和动态分辨率的场景,使用ATC工具时,通过该参数设置支持的batchsi - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0018_html.md ## --dynamic\_image\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0019.html - Description: 设置输入图片的动态分辨率参数。适用于执行推理时,每次处理图片宽和高不固定的场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0019_html.md ## --dynamic\_dims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0020.html - Description: 设置ND格式下动态维度的档位。适用于执行推理时,每次处理任意维度的场景。 为支持Transformer等网络在输入格式的维度不确定的场景,通过该参数实现ND格式下任意维度的档位设置。ND表示支持任意格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0020_html.md ## --singleop - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0021.html - Description: 单算子描述文件,将单个算子描述文件(JSON格式)转换成适配AI处理器的离线模型,以便进行后续的单算子功能验证。 兼容性说明: 动态shape算子场景和昇腾虚拟化实例场景,om离线模型转换环境的CANN软件包版本,必须与运行环境的CANN软件包版本相同。 (昇腾虚拟化实例主要是指NPU资源虚拟化的场景,其主要目的是为了通过相互隔离的vNPU虚拟实例提升物理NPU资源利用率。) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0021_html.md ## --output - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0029.html - Description: - 如果是开源框架的网络模型: 存放转换后的离线模型的路径以及文件名,例如:$HOME/module/out/tfresnet50,转换后的模型文件名以指定的为准,自动以.om后缀结尾,例如:tfresnet50.om或tfresnet50.om,若.om文件名中包含操作系统及架构,则该文件只能在该操作系统及架构的运行环境中使用。 - 如果是单算子描述文件(JSON格式): 存放转换后的单 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0029_html.md ## --output\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0030.html - Description: 指定网络输出数据类型或指定某个输出节点的输出类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0030_html.md ## --check\_report - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0031.html - Description: 用于配置预检结果保存文件路径和文件名。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0031_html.md ## --json - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0032.html - Description: 离线模型、原始模型文件、GE dump图结构文件转换为JSON文件的路径和文件名。 如果是已有的离线模型转换为JSON文件,在转换后的文件中还可以查看原始模型转换为该离线模型时,使用的基础版本号(比如ATC软件版本信息,OPP算子包版本信息等)以及当时模型转换使用的atc命令。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0032_html.md ## --host\_env\_os - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0033.html - Description: 若模型编译环境的操作系统及其架构与模型运行环境不一致时,则需使用本参数设置模型运行环境的操作系统类型。 如果不设置,则默认取模型编译环境的操作系统类型,即ATC工具所在环境的操作系统类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0033_html.md ## --host\_env\_cpu - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0034.html - Description: 若模型编译环境的操作系统及其架构与模型运行环境不一致时,则需使用本参数设置模型运行环境的操作系统架构。 如果不设置,则默认取模型编译环境的操作系统架构,即ATC工具所在环境的操作系统架构。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0034_html.md ## --soc\_version - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0036.html - Description: 配置模型在推理运行阶段所使用的AI处理器型号。 模型转换阶段不依赖AI处理器,但是转换时使用的--socversion取值,必须为转换后模型运行阶段所使用的AI处理器型号。 兼容性说明: - 针对8.5.0及之后版本:使用ATC工具进行模型转换时,必须安装与目标AI处理器匹配的ops算子包,否则会导致编译失败。 - 不同产品,只要--socversion取值相同,则只需转换一次模型,即可分别在这些 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0036_html.md ## --core\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0037.html - Description: 设置模型编译时使用的Core类型。 该参数仅在 Atlas 推理系列产品 支持,其他产品配置后,模型转换成功,但是功能不生效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0037_html.md ## --aicore\_num - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0038.html - Description: 用于配置模型编译时使用的AI Core核数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0038_html.md ## --virtual\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0039.html - Description: 是否支持离线模型在昇腾虚拟化实例特性生成的虚拟设备上运行。 当前芯片算力比较大,云端用户或者小企业完全不需要使用这么大算力,昇腾虚拟化实例特性支持对芯片的算力进行切分,可满足用户按照自己的业务按需申请算力的需求。 昇腾虚拟化实例主要是指NPU资源虚拟化的场景,其主要目的是为了通过相互隔离的vNPU虚拟实例提升物理NPU资源利用率。虚拟设备是按照指定算力在芯片上申请的虚拟加速资源。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0039_html.md ## --out\_nodes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0042.html - Description: 指定某层输出节点(算子)作为网络模型的输出或指定网络模型输出的名称。 如果不指定输出节点,则模型的输出默认为最后一层的算子信息,如果指定,则以指定的为准。某些情况下,用户想要查看中间层算子输出,即可以在模型转换时通过该参数指定输出某层算子,模型转换后,在相应om离线模型文件最后即可以看到指定输出算子的参数信息,如果通过om离线模型文件无法查看,则可以将其转换成JSON格式后查看。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0042_html.md ## --input\_fp16\_nodes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0043.html - Description: 指定输入数据类型为float16的输入节点名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0043_html.md ## --insert\_op\_conf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0044.html - Description: 插入算子的配置文件路径与文件名,例如AIPP预处理算子。Atlas 350 加速卡不支持AIPP特性。 若使用该参数后,输入数据类型为UINT8。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0044_html.md ## --external\_weight - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0045.html - Description: 生成om离线模型文件时,是否将原始网络中的Const/Constant节点的权重外置,同时将节点类型转换为FileConstant类型。 离线场景,如果模型权重较大且环境对om离线模型大小有限制,建议开启外置权重将权重单独保存,来减小om大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0045_html.md ## --op\_name\_map - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0046.html - Description: 扩展算子(非标准算子)映射配置文件路径和文件名,不同的网络中某扩展算子的功能不同,可以指定该扩展算子到具体网络中实际运行的扩展算子的映射。 Caffe网络中具有相同类型名但计算功能不同的层,比如DetectionOutput层,需要使用算子映射指明为FSRDetectionOutput、SSDDetectionOutput等检测算子类型,否则生成离线模型会执行失败。 该参数仅适用与Caffe框架。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0046_html.md ## --is\_input\_adjust\_hw\_layout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0047.html - Description: 与--inputfp16nodes参数配合使用,指定网络模型输入数据类型为float16、数据格式为NC1HWC0。单独配置本参数无效,但模型转换成功。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0047_html.md ## --is\_output\_adjust\_hw\_layout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0048.html - Description: 与--outnodes参数配合使用,指定网络模型输出数据类型为float16、数据格式为NC1HWC0。单独配置本参数无效,但模型转换成功。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0048_html.md ## --buffer\_optimize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0050.html - Description: 数据缓存优化开关。 无。 参数值: - l1optimize:表示开启l1优化。当前版本该参数无效,等同于offoptimize。 - l2optimize:(默认值)表示开启l2优化。 - offoptimize:表示关闭数据缓存优化。 其中,l1表示L1 Buffer,通用内部存储,是AI Core内比较大的一块数据中转区, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0050_html.md ## --disable\_reuse\_memory - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0051.html - Description: 内存复用开关。 内存复用是指按照生命周期和内存大小,把不冲突的内存重复使用,来降低网络内存占用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0051_html.md ## --enable\_scope\_fusion\_passes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0052.html - Description: 指定编译时需要生效的Scope融合规则列表。 无论是内置还是用户自定义的Scope融合规则,都分为如下两类: - 通用融合规则(General):各网络通用的Scope融合规则;默认生效,不支持用户更改。 - 定制化融合规则(Non-General):特定网络适用的Scope融合规则;默认不生效,用户可以通过 --enablescopefusionpasses 指定生效的融合规则列表。 当前支持 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0052_html.md ## --fusion\_switch\_file - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0053.html - Description: 融合规则(包括图融合和UB融合)开关配置文件路径以及文件名,通过该参数关闭配置文件中指定的融合规则。 - 图融合:是FE根据融合规则进行改图的过程。图融合用融合后算子替换图中融合前算子,提升计算效率。图融合的场景如下: - 在某一些算子的数学计算量可以进行优化的情况下,可以进行图融合,融合后可以节省计算时间。例如:conv+biasAdd,可以融合成一个算子,直接在L0C中完成累加,从而省去a - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0053_html.md ## --enable\_single\_stream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0054.html - Description: 静态shape场景下,是否使能模型推理顺序单流串行执行。 其中,流(Stream)用于维护一些异步操作的执行顺序,确保按照应用程序中的代码调用顺序在Device上执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0054_html.md ## --enable\_small\_channel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0055.html - Description: 是否使能small channel的优化,使能后在channel<\=4的卷积层会有性能收益。建议用户在推理场景下打开此开关。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0055_html.md ## --quant\_dumpable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0056.html - Description: 是否采集量化算子的dump数据。 参考《应用开发 \(C&C++\)\(https://www.hiascend.com/document/detail/zh/canncommercial/900/programug/acldevg/aclcppdevg000006.html\)》手册中的“模型推理精度提升建议\(https://www.hiascend.comdocument/detail/zh/cann - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0056_html.md ## --compression\_optimize\_conf - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0059.html - Description: 压缩优化功能配置文件路径以及文件名,通过该参数使能配置文件中指定的压缩优化特性,从而提升网络性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0059_html.md ## --mdl\_bank\_path - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0060.html - Description: Atlas 350 加速卡不支持子图调优特性。 加载子图调优后自定义知识库的路径。 子图调优详情请参见《AOE调优工具\(https://www.hiascend.com/document/detail/zh/canncommercial/900/devaids/aoe/auxiliarydevtoolaoe0001.html\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0060_html.md ## --sparsity - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0061.html - Description: 使能全局稀疏特性。 AMCT(昇腾模型压缩工具)4选2结构化稀疏后输出的模型,可能存在weight连续4个Cin维度元素中至少有2个为0的场景,模型转换时通过使能全局稀疏开关,将该场景下的元素筛选成2个,从而节省后续推理的计算量,提高推理性能。其原理如下: weight中每4个连续的元素,会生成两组2bit的index。index取值范围为\{0, 1, 2\},其中,第一个index表示前三个元素里 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0061_html.md ## --ac\_parallel\_enable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0062.html - Description: 动态shape图中,是否允许AI CPU算子和AI Core算子并行运行。 动态shape图中,开关开启时,系统自动识别图中可以和AI Core并发的AI CPU算子,不同引擎的算子下发到不同流上,实现多引擎间的并行,从而提升资源利用效率和动态shape执行性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0062_html.md ## --oo\_level - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0063.html - Description: 调试功能扩展参数,当前不支持应用于商用产品中,后续版本会作为正式功能更新发布。 图编译多级优化选项,包括子图优化、整图优化、静态Shape模型下沉等。 静态Shape模型下沉:静态Shape模型在编译时即可确定所有算子的输入输出Shape,完成模型级内存编排、算子的Tiling计算等Host侧计算,在模型加载时整体下发到Device流上,但不立即执行,通过下发模型执行Task触发模型中所有Task - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0063_html.md ## --oo\_constant\_folding - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0064.html - Description: 调试功能扩展参数,当前不支持应用于商用产品中,后续版本会作为正式功能更新发布。 是否开启常量折叠优化。 常量折叠是将计算图中可以预先确定输出值的节点替换成常量,并对计算图进行一些结构简化的操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0064_html.md ## --oo\_dead\_code\_elimination - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0065.html - Description: 调试功能扩展参数,当前不支持应用于商用产品中,后续版本会作为正式功能更新发布。 是否开启死边消除优化。 死边消除优化:在Switch节点中,若其第一个输入(pred输入)为常量节点(const),则根据该常量的值消除冗余分支。若常量为true,则移除false分支;若常量为false,则移除true分支。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0065_html.md ## --topo\_sorting\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0066.html - Description: 对算子进行图模式编译时,可选择的不同图遍历模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0066_html.md ## --precision\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0068.html - Description: 设置网络模型的精度模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0068_html.md ## --precision\_mode\_v2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0069.html - Description: 设置网络模型的精度模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0069_html.md ## --op\_precision\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0070.html - Description: 设置指定算子内部处理时的精度模式,支持指定一个算子或多个算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0070_html.md ## --modify\_mixlist - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0071.html - Description: 混合精度场景下,修改算子使用的混合精度黑白灰名单,自行指定哪些算子允许降精度,哪些算子不允许降精度。 黑白灰名单,可从“$\{INSTALLDIR\}/opp/built-in/opimpl/aicore/tbe/config/xxx/aic-xxx-ops-info-.json”内置优化策略文件中查看“precisionreduce”参数下的flag参数值:(其中,$\{INSTALLDIR\}请替换为 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0071_html.md ## --op\_select\_implmode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0072.html - Description: 该参数功能已停止演进,后续版本会废弃,推荐使用--op\_precision\_mode参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0072_html.md ## --optypelist\_for\_implmode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0073.html - Description: 设置optype列表中算子的实现模式,算子实现模式包括highprecision、highperformance两种。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0073_html.md ## --keep\_dtype - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0074.html - Description: 通过配置文件指定原始模型中特定算子的数据类型在模型编译过程中保持不变。 推理场景下,使用--precisionmode或--precisionmodev2参数设置整个网络模型的精度模式,可能会有个别算子存在性能或精度问题,为此引入--keepdtype参数,保持原始网络模型编译时个别算子的计算精度不变,若原始网络模型中算子的计算精度,在AI处理器上不支持,则系统内部会自动采用算子支持的高精度来计算 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0074_html.md ## --customize\_dtypes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0075.html - Description: 模型编译时自定义某个或某些算子的计算精度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0075_html.md ## --op\_bank\_path - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0076.html - Description: Atlas 350 加速卡不支持算子调优特性。 加载算子调优后自定义知识库的路径。 算子调优详情请参见《AOE调优工具\(https://www.hiascend.com/document/detail/zh/canncommercial/900/devaids/aoe/auxiliarydevtoolaoe0001.html\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0076_html.md ## --allow\_hf32 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0077.html - Description: 该参数预留,当前版本暂不支持。 是否启用HF32自动代替float32数据类型的功能,当前版本该参数仅针对Conv类算子与Matmul类算子生效。 HF32是昇腾推出的专门用于算子内部计算的单精度浮点类型,与其他常用数据类型的比较如下图所示。可见,HF32与float32支持相同的数值范围,但尾数位精度(11位)却接近FP16(10位)。通过降低精度让HF32单精度数据类型代替原有的float32 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0077_html.md ## --is\_weight\_clip - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0078.html - Description: 浮点类型权重数据高位转低位时,是否对数据进行裁剪。 若原始模型权重数据类型为高位(比如float32),模型转换过程中会插入Cast算子进行数据类型转换,将高位(比如float32)类型转换为低位(比如float16)类型,该场景下可能会存在数据溢出,而通过使能--isweightclip参数,在Cast算子前对高位(比如float32)类型数据进行裁剪,可以保证数据不溢出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0078_html.md ## --dump\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0081.html - Description: 是否生成带shape信息的JSON文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0081_html.md ## --log - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0082.html - Description: 设置ATC模型转换过程中日志的级别。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0082_html.md ## --display\_model\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0083.html - Description: 编译原始框架网络模型时,查询模型占用的关键资源信息、编译与运行环境等信息,查询出的信息直接在屏幕打印显示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0083_html.md ## --op\_compiler\_cache\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0084.html - Description: 用于配置算子编译磁盘缓存模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0084_html.md ## --op\_compiler\_cache\_dir - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0085.html - Description: 用于配置算子编译磁盘缓存的路径。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0085_html.md ## --op\_debug\_level - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0086.html - Description: 算子debug功能开关。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0086_html.md ## --op\_debug\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0087.html - Description: 使能Global Memory(DDR)内存检测功能的配置文件路径及文件名。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0087_html.md ## --debug\_dir - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0088.html - Description: 用于配置模型转换过程中算子编译生成的调试相关过程文件的路径。 过程文件包括但不限于算子.o(算子二进制文件)、.json(算子描述文件)、.cce等文件,具体生成的文件以--opdebuglevel参数设置的取值为准。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0088_html.md ## --atomic\_clean\_policy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0089.html - Description: 是否集中清理网络中所有memset算子(含有memset属性的算子都是memset算子)占用的内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0089_html.md ## --deterministic - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0090.html - Description: 是否开启确定性计算。 默认情况下,不开启确定性计算,算子在相同的硬件和输入下,多次执行的结果可能不同。这个差异的来源,一般是因为在算子实现中,存在异步的多线程执行,会导致浮点数累加的顺序变化。当开启确定性计算功能时,算子在相同的硬件和输入下,多次执行将产生相同的输出。但启用确定性计算往往导致算子执行变慢。当发现模型多次执行结果不同,或者是进行精度调优时,可开启确定性计算,辅助模型调试、调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0090_html.md ## --status\_check - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0091.html - Description: 控制编译算子时是否添加溢出检测逻辑。 当模型计算精度有问题,并且怀疑是模型中算子有计算溢出时,模型编译时可以通过使能该参数,添加编译算子时的溢出检测逻辑,然后重新编译模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0091_html.md ## --shape\_generalized\_build\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0092.html - Description: 该参数后续版本会废弃,请勿使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0092_html.md ## --tiling\_schedule\_optimize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0097.html - Description: Tiling下沉调度优化开关。 Tiling下沉是在Device侧CPU做Tiling计算。由于NPU中AI Core内部存储无法完全容纳算子输入输出的所有数据,需要每次搬运一部分输入数据进行计算然后搬出,再搬运下一部分输入数据进行计算,该过程称之为Tiling;根据算子的shape等信息来确定数据切分算法相关参数(比如每次搬运的块大小,以及总共循环多少次)的计算程序,称之为Tiling实现。由于 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0097_html.md ## --export\_compile\_stat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0098.html - Description: 配置图编译过程中是否生成算子融合信息(包括图融合和UB融合)的结果文件fusionresult.json。 该文件用于记录图编译过程中使用的融合规则,文件中: - sessionandgraphidxxxx:表示融合结果所属线程和图编号。 - graphfusion:表示图融合。 - ubfusion:表示UB融合,Atlas 350 加速卡不支持UB融合,不会生成该信息。 - matchtime - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0098_html.md ## --deterministic\_level - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0100.html - Description: 该参数为调试参数,当前不支持应用于商用产品中,后续版本会作为正式特性更新发布。 确定性计算级别。 默认情况下,确定性级别为0,即不开启确定性计算,是否开启确定性计算的选项--deterministic也需要是0。当需要使能确定性计算时,确定性级别需要设置为1,同时确定性计算选项--deterministic也需设置为1。当开启强一致性计算时,级别需要设置为2,同时确定性计算选项--determin - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0100_html.md ## --enable\_attr\_compression - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/atctool/atlasatcparam_16_0101.html - Description: 是否对图中的属性进行压缩。 使用ATC工具生成离线模型时,会自动对图中的属性进行压缩,以减小模型体积;但在部分场景下,压缩后的属性解压过程耗时较高,可能影响推理性能;为此,增加该参数,用于控制是否在生成离线模型时对图属性进行压缩。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_atctool_atlasatcparam_16_0101_html.md ## MindSpore场景msTT工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/devtoolquickstart/docs/zh/mindspore_mstt_quick_start.md - Description: 本文介绍训练场景开发工具快速入门,主要针对训练开发流程中的模型开发&迁移、模型精度调试和模型性能调优环节分别使用的开发工具进行介绍。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_devtoolquickstart_docs_zh_mindspore_mstt_quick_start_md.md ## 推理工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/devtoolquickstart/docs/zh/msit_quick_start.md - Description: MindStudio Inference Tools为开发者提供一站式推理开发工具,致力于加速模型问题定位效率,提升模型推理性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_devtoolquickstart_docs_zh_msit_quick_start_md.md ## PyTorch场景msTT工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/devtoolquickstart/docs/zh/pytorch_mstt_quick_start.md - Description: 本文介绍训练场景开发工具快速入门,主要针对训练开发流程中的模型开发&迁移、模型精度调试和模型性能调优环节分别使用的开发工具进行介绍。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_devtoolquickstart_docs_zh_pytorch_mstt_quick_start_md.md ## 算子开发工具链快速入门 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/devtoolquickstart/docs/zh/quick_start/op_tool_quick_start.md - Description: MindStudio 算子开发工具链包含多种工具。本文档以开发一个简单加法算子为例,带您贯穿算子开发全流程,直观体验工具链带来的高效与便捷。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_devtoolquickstart_docs_zh_quick_start_op_tool_quick_start_md.md ## 工具介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/hccltool - Description: 分布式训练场景下,开发者可以通过此工具测试HCCL(Huawei Collective Communication Library)集合通信的功能正确性以及性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_hccltool_HCCLpertest_16_0001_html.md ## 工具介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/hccltool/HCCLpertest_16_0001.html - Description: 分布式训练场景下,开发者可以通过此工具测试HCCL(Huawei Collective Communication Library)集合通信的功能正确性以及性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_hccltool_HCCLpertest_16_0001_html.md ## MPI安装与配置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/hccltool/HCCLpertest_16_0002.html - Description: HCCL性能测试工具依赖MPI启动多个进程,所以需要先安装MPI软件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_hccltool_HCCLpertest_16_0002_html.md ## 工具编译 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/hccltool/HCCLpertest_16_0003.html - Description: 安装完MPI软件后,需要进行HCCL性能测试工具的编译。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_hccltool_HCCLpertest_16_0003_html.md ## 工具执行 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/hccltool/HCCLpertest_16_0004.html - Description: - 运行环境已关闭防火墙。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_hccltool_HCCLpertest_16_0004_html.md ## 参数说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/hccltool/HCCLpertest_16_0005.html - Description: 本节介绍HCCL Test性能测试工具执行时的相关参数说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_hccltool_HCCLpertest_16_0005_html.md ## 结果说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/hccltool/HCCLpertest_16_0006.html - Description: HCCL Test工具执行完成后,回显如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_hccltool_HCCLpertest_16_0006_html.md ## 规格约束 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/hccltool/HCCLpertest_16_0007.html - Description: HCCL性能测试工具会按照用户配置的单个计算节点参与训练的NPU个数来启动Device,假设单个计算节点上参与训练的NPU个数为x(即-p后的参数取值为x),则会从Device ID为0的设备开始,连续启动x个Device。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_hccltool_HCCLpertest_16_0007_html.md ## gethostbyname failed - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/hccltool/HCCLpertest_16_0009.html - Description: 执行mpirun命令时,报“gethostbyname failed”的错误,如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_hccltool_HCCLpertest_16_0009_html.md ## MPI库文件链接错误 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/hccltool/HCCLpertest_16_0010.html - Description: 执行mpirun命令时,报“error while loading shared libraries: libmpi.so.12: cannot open shared object file: No such file or directory”的错误,如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_hccltool_HCCLpertest_16_0010_html.md ## “bash:orted:未找到命令”错误 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/hccltool/HCCLpertest_16_0011.html - Description: 集群场景下,执行mpirun命令时,报“bash: orted: 未找到命令”的错误,如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_hccltool_HCCLpertest_16_0011_html.md ## HCCL Test执行时返回“retcode: 7”错误 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/hccltool/HCCLpertest_16_0012.html - Description: 集群场景下,执行HCCL Test测试命令时,HCCL Test工具已启动成功,但打印出数据量,时间,带宽的表头后,后续执行报错,报错示例如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_hccltool_HCCLpertest_16_0012_html.md ## 工具简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/migrationtools - Description: 昇腾NPU是AI算力的后起之秀,但目前训练和在线推理脚本大多是基于GPU的。由于NPU与GPU的架构差异,基于GPU的训练和在线推理脚本不能直接在NPU上使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_migrationtools_atlasfmkt_16_0001_html.md ## 工具简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/migrationtools/atlasfmkt_16_0001.html - Description: 昇腾NPU是AI算力的后起之秀,但目前训练和在线推理脚本大多是基于GPU的。由于NPU与GPU的架构差异,基于GPU的训练和在线推理脚本不能直接在NPU上使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_migrationtools_atlasfmkt_16_0001_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/migrationtools/atlasfmkt_16_0017.html - Description: - 安装开发套件包,请参见《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/canncommercial/900/softwareinst/instg/instg\_0000.html\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_migrationtools_atlasfmkt_16_0017_html.md ## 迁移分析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/migrationtools/atlasfmkt_16_0018.html - Description: PyTorch Analyse工具提供分析脚本,帮助用户在执行迁移操作前,分析基于GPU平台的PyTorch训练脚本中API、三方库套件、亲和API分析以及动态shape的支持情况,具体请参见表1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_migrationtools_atlasfmkt_16_0018_html.md ## 自动迁移方式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/migrationtools/atlasfmkt_16_0019.html - Description: 本章节将指导用户将PyTorch训练脚本从GPU平台迁移至昇腾NPU平台。自动迁移方式支持PyTorch 2.1.0、2.6.0、2.7.1、2.8.0版本的训练脚本的迁移,自动迁移方式较简单,且修改内容最少,只需在训练脚本中导入库代码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_migrationtools_atlasfmkt_16_0019_html.md ## PyTorch GPU2Ascend工具迁移方式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/migrationtools/atlasfmkt_16_0020.html - Description: 使用PyTorch GPU2Ascend工具执行PyTorch训练脚本迁移前须安装如下依赖。如下命令如果使用非root用户安装,需要在安装命令后加上--user,例如:pip3 install pandas--user,安装命令可在任意路径下执行。``` - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_migrationtools_atlasfmkt_16_0020_html.md ## 训练配置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/migrationtools/atlasfmkt_16_0022.html - Description: 本章节主要介绍在特殊场景中进行模型迁移训练时需要注意的配置事项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_migrationtools_atlasfmkt_16_0022_html.md ## 使用torch.utils.data.DataLoader方式加载数据的场景说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/migrationtools/atlasfmkt_16_0023.html - Description: torch.utils.data.DataLoader是PyTorch中一个用于数据加载的工具类,主要用于将样本数据划分为多个小批次\(batch\),以便进行训练、测试、验证等任务,查看模型脚本中的数据集加载方式是否是通过torch.utils.data.DataLoader加载,示例代码如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_migrationtools_atlasfmkt_16_0023_html.md ## “Segmentation fault”错误 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/migrationtools/atlasfmkt_16_0025.html - Description: 运行转换后代码无报错,仅提示“Segmentation fault”信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_migrationtools_atlasfmkt_16_0025_html.md ## 引用库找不到的问题 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/migrationtools/atlasfmkt_16_0026.html - Description: 引用库找不到的问题,有可能是以下三种情况,请根据实际情况进行排查: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_migrationtools_atlasfmkt_16_0026_html.md ## Muls算子不支持int64 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/migrationtools/atlasfmkt_16_0027.html - Description: 如上图所示,将label\_batch.npu\(\)改成label\_batch.int\(\).npu\(\),即把当前报错行的变量类型改成int32,规避此类Muls算子不支持int64的问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_migrationtools_atlasfmkt_16_0027_html.md ## 对于报错“No supported Ops kernel and engine are found for \[ReduceStdV2A\], optype \[ReduceStdV2A\]”,算子Reduc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/migrationtools/atlasfmkt_16_0028.html - Description: 可以通过用std求标准差再平方得到var,均值单独调用mean接口求来规避问题例如: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_migrationtools_atlasfmkt_16_0028_html.md ## 运行报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/migrationtools/atlasfmkt_16_0029.html - Description: **表1 运行报错** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_migrationtools_atlasfmkt_16_0029_html.md ## 快速入门 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/migrationtools/atlasfmkt_16_0030.html - Description: PyTorch GPU2Ascend工具可将基于GPU的训练脚本迁移为支持NPU的脚本,大幅度提高脚本迁移速度,降低开发者的工作量。本样例可以让开发者快速体验自动迁移(推荐)和PyTorch GPU2Ascend工具的迁移效率。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_migrationtools_atlasfmkt_16_0030_html.md ## GPU单卡脚本迁移为NPU多卡脚本 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/migrationtools/atlasfmkt_16_0038.html - Description: 如果迁移时启用了“distributed”参数,想将GPU单卡脚本迁移为NPU多卡脚本,需进行如下操作获取结果文件: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_migrationtools_atlasfmkt_16_0038_html.md ## CANN商业版-相比于业界标杆算子 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer - Description: 相比于业界标杆算子,昇腾自研算子在AI处理器上的运算结果可能存在差异: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0001_html.md ## CANN商业版-相比于业界标杆算子 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0001.html - Description: 相比于业界标杆算子,昇腾自研算子在AI处理器上的运算结果可能存在差异: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0001_html.md ## 使用前准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0002.html - Description: 数据dump功能会采集算子输入输出信息,由于可能存在客户敏感信息,请在开发和调测场景下使用该功能,生产上线后建议关闭数据dump开关,避免被攻击者利用,造成安全风险。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0002_html.md ## 准备GPU侧npy文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0006.html - Description: - 在通过执行TensorFlow 1.15原始网络训练/在线推理来获取npy文件前,要求有一套完整、可执行的标准TensorFlow模型训练/在线推理工程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0006_html.md ## 准备NPU侧dump数据和计算图文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0007.html - Description: - 需要完成训练/在线推理网络的开发、编译和运行,确保拥有可执行的训练/在线推理工程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0007_html.md ## 比对操作和分析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0008.html - Description: - 本节中的计算图文件、目录等名称均为举例,请根据实际环境替换。其中,-out指定的结果存放路径,需确保操作用户具有读写权限。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0008_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0014.html - Description: 对于该场景需要排查比对结果说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0014_html.md ## 准备TensorFlow模型npy文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0015.html - Description: 本版本不提供TensorFlow模型numpy(.npy)数据生成功能,请自行安装TensorFlow环境并提前准备numpy数据。本文仅提供生成numpy格式TensorFlow原始数据“*.npy”文件的样例参考。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0015_html.md ## 准备全网层信息文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0016.html - Description: 以下介绍通过ATC模型转换工具获取离线模型的操作步骤,更多操作请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/canncommercial/900/devaids/atctool/atlasatc\_16\_0001.html\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0016_html.md ## 比对操作和分析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0018.html - Description: - 本节涉及的.json文件、目录等名称均为举例,请根据实际环境替换。其中,-out指定的结果存放路径,需确保操作用户具有读写权限。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0018_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0020.html - Description: 对于该场景需要排查比对结果说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0020_html.md ## 准备ONNX模型npy文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0021.html - Description: - 需要确保每个算子节点有名称,否则无法生成正确的文件名。没有名称的算子节点需要先生成名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0021_html.md ## 准备全网层信息文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0022.html - Description: 以下介绍通过ATC模型转换工具获取离线模型的操作步骤,更多操作请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/canncommercial/900/devaids/atctool/atlasatc\_16\_0001.html\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0022_html.md ## 比对操作和分析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0024.html - Description: - 本节涉及的.json文件、目录等名称均为举例,请根据实际环境替换。其中,-out指定的结果存放路径,需确保操作用户具有读写权限。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0024_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0026.html - Description: 对于该场景需要排查比对结果说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0026_html.md ## Caffe模型npy文件准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0027.html - Description: - 针对量化原始模型获取npy文件,请先参见 量化原始模型和量化信息文件 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0027_html.md ## 准备离线模型dump数据文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0028.html - Description: - 请在dump数据前,完成模型对应的应用工程的编译、运行,确保工程正常。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0028_html.md ## 准备模型文件和量化信息文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0030.html - Description: 以下介绍通过ATC模型转换工具获取离线模型的操作步骤,更多操作请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/canncommercial/900/devaids/atctool/atlasatc\_16\_0001.html\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0030_html.md ## 比对操作和分析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0031.html - Description: - 本节涉及的.json文件、目录等名称均为举例,请根据实际环境替换。其中,-out指定的结果存放路径,需确保操作用户具有读写权限。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0031_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0033.html - Description: - 对于该场景需要排查 比对结果说明 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0033_html.md ## 准备离线模型文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0034.html - Description: 以下介绍通过ATC模型转换工具获取离线模型的操作步骤,更多操作请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/canncommercial/900/devaids/atctool/atlasatc\_16\_0001.html\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0034_html.md ## 比对操作和分析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0035.html - Description: 当指定的比对数据文件大小超过1GB或.json文件大小超过100MB时,比对过程可能耗时较长,系统提示:'The size \(%d\) of %s more than the XX, it needs more time to run.'。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0035_html.md ## 比对结果说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0036.html - Description: 本节内容主要说明对于比对结果中可能存在部分无法比对或异常情况(比如结果中的NaN)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0036_html.md ## 比对结果分析指导 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0038.html - Description: - 显示“*”,表示在NPU侧新增独有的算子;无对应的标准算子,无法进行比对,结果显示为“NaN”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0038_html.md ## CANN商业版-精度比对工具本身只提供自有实现算子在AI处理器上的运算结果与业界标准算子的运算结 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0040.html - Description: 精度比对工具本身只提供自有实现算子在AI处理器上的运算结果与业界标准算子的运算结果的差异比对功能,输出的比对结果需要用户自行分析并找出问题。对于用户来说,对结果的分析工作也是一大难点。本节提供专家系统工具为用户提供精度比对结果的分析功能,有效减少用户排查问题的时间。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0040_html.md ## 使用前必读 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0041.html - Description: 需要安装pandas 1.3或更高版本依赖。安装示例:pip3 install pandas\=\=1.3.5。非root用户安装,需要在安装命令后加上--user,例如:pip3 install pandas\=\=1.3.5 --user。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0041_html.md ## 通过命令行方式分析比对结果 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0042.html - Description: 通过命令行方式分析比对结果是基于精度比对的基础上执行-advisor参数功能,完成精度比对之后继续进行专家系统分析并输出结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0042_html.md ## 通过脚本工具方式分析比对结果 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0043.html - Description: 专家系统提供“mscmp\_advisor.py”脚本工具。功能及安装路径如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0043_html.md ## 输出结果和优化建议 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0044.html - Description: 针对比对数据中数据类型为Float16的数据,进行溢出检测。如果存在溢出数据,输出专家建议。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0044_html.md ## 计算精度评价指标 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0045.html - Description: 精度比对是以GPU的计算结果为标杆,以不同算法维度,比对算子精度差异,根据每个算法维度的结果判断算子在运行时是否存在精度问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0045_html.md ## npy与npy文件之间的精度比对 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0046.html - Description: 精度比对工具支持单个npy与npy文件之间的精度比对。基本要求如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0046_html.md ## CANN商业版-单算子比对功能由compare命令的具体参数决定 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0048.html - Description: 单算子比对功能由compare命令的具体参数决定,主要包括配置输入文件和输出路径、选择具体比对算子、设置比对算子的输入或输出数据和输出文件的形式等。可以根据参数具体的功能描述,判断输入文件的实际情况,来决定使用具体的参数功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0048_html.md ## 比对操作 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0049.html - Description: - 本节涉及的.json文件、目录等名称均为举例,请根据实际环境替换。其中,-out指定的结果存放路径,需确保操作用户具有读写权限。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0049_html.md ## 结果文件说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0050.html - Description: 单算子比对执行比对操作,默认比对指定算子数据的绝对误差和相对误差,根据指定比对算子的输入或输出数据以及设置的输出文件形式生成比对结果文件如表1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0050_html.md ## 溢出算子数据采集与解析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0052.html - Description: AI业务运行过程中出现浮点异常情况时,可通过溢出算子数据采集和解析进行问题定界定位。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0052_html.md ## Top溢出算子解析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0053.html - Description: AI业务运行过程中可能存在算子溢出的情况,此时若直接进行精度比对操作则会造成比对结果不准确。通过执行查看溢出算子数据,可以检测并收集溢出的算子信息,生成算子溢出数据文件和溢出算子的dump文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0053_html.md ## dump数据文件Format转换 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0054.html - Description: 本版本提供dump数据文件Format转换能力,用于用户根据自身需求将AI处理器生成的dump数据文件转换成numpy数据文件,方便查看。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0054_html.md ## 查看dump数据文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0055.html - Description: dump文件无法通过文本工具直接查看其内容,为了查看dump文件内容,本文提供以下脚本将dump文件转换为numpy格式文件后,再通过numpy官方提供的能力转为txt文档进行查看。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0055_html.md ## GPU/NPU映射表获取 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0056.html - Description: 本节涉及的.json文件、目录等名称均为举例,请根据实际环境替换。其中,-out指定的结果存放路径,需确保操作用户具有读写权限。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0056_html.md ## 自定义算法.py文件准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0057.html - Description: 用户自定义的比对算法Python文件只能用来进行精度比对,文件安全性和传入参数的安全性由用户保证。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0057_html.md ## AICPU自定义算子日志解析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0058.html - Description: dump数据文件解析功能通过解析dump数据文件,获取dump数据文件中的信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0058_html.md ## 生成npy文件名异常情况批量处理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0059.html - Description: TensorFlow模型生成dump数据时,因tfdbg自身原因或运行环境原因,会出现tfdbg截断算子名,导致生成的npy文件名与预期不符,造成转换dump数据文件异常。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0059_html.md ## Windows dump文件转换为Linux dump文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0060.html - Description: 1. 在Linux上准备转换脚本windows\_to\_linux.py,内容如下。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0060_html.md ## 数据格式要求 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0062.html - Description: msaccucmp.py脚本精度比对工具支持多种比对方式,因此dump、npy文件命名需满足以下要求: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0062_html.md ## 命令格式说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0063.html - Description: 精度比对命令行格式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0063_html.md ## 完整比对结果参数说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0064.html - Description: **表1 完整比对结果参数说明** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0064_html.md ## 数据格式要求 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0067.html - Description: compare\_vector.py精度比对工具将在后续版本下线,当前版本推荐使用上文中的msaccucmp.py工具。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0067_html.md ## 准备离线模型dump数据文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0068.html - Description: 在准备dump数据前,请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/canncommercial/900/devaids/atctool/atlasatc\_16\_0001.html\)》模型转换,准备好模型文件;如果涉及模型量化,请参见《AMCT模型压缩工具\(https://www.hiascend.com/document/ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0068_html.md ## 准备Caffe模型npy文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0069.html - Description: 本版本不提供Caffe模型npy文件生成功能,请自行安装Caffe环境并提前准备Caffe原始数据“*.npy”文件。本文仅提供生成符合精度比对要求的numpy格式Caffe原始数据“*.npy”文件的样例参考。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0069_html.md ## 准备TensorFlow模型npy文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0070.html - Description: 本版本不提供TensorFlow模型npy文件生成功能,请自行安装TensorFlow环境并提前准备npy文件。本文仅提供生成numpy格式TensorFlow原始数据“*.npy”文件的样例参考。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0070_html.md ## 说明与约束 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0072.html - Description: - 原命令行比对方式将保持原有功能,不继续演进,推荐使用新的比对方式进行精度比对。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0072_html.md ## 比对数据说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0073.html - Description: 执行Tensor比对前,请按照表1要求准备好比对数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0073_html.md ## 整网比对 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0074.html - Description: Tensor比对命令行格式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0074_html.md ## 单算子比对 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0075.html - Description: Tensor比对命令行格式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0075_html.md ## 如何进行npy文件转dump文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0076.html - Description: 本功能将在后续版本下线,当前版本推荐使用上文中的dump数据文件Format转换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0076_html.md ## 如何进行dump数据文件Format转换 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0077.html - Description: 本功能将在后续版本下线,当前版本推荐使用上文中的dump数据文件Format转换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0077_html.md ## 如何查看dump数据文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0078.html - Description: 本功能将在后续版本下线,当前版本推荐使用上文中的查看dump数据文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0078_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_1001.html - Description: 对于该场景需要排查比对结果说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_1001_html.md ## API参考 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/msMemScope/docs/zh/api.md - Description: msMemScope工具提供开放接口,帮助用户进行内存分析,识别内存问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_msMemScope_docs_zh_api_md.md ## msMemScope安装指南 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/msMemScope/docs/zh/install_guide.md - Description: 本文档主要介绍msMemScope工具的安装方式,包括: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_msMemScope_docs_zh_install_guide_md.md ## 内存分析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/msMemScope/docs/zh/memory_analysis.md - Description: msMemScope工具基于采集的内存数据,提供泄漏、对比、监测、拆解,以及低效识别等分析能力,帮助开发者快速诊断和优化内存问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_msMemScope_docs_zh_memory_analysis_md.md ## 内存采集 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/msMemScope/docs/zh/memory_profile.md - Description: msMemScope工具提供内存事件的采集能力,支持自定义配置采集内存范围和采集项,精准采集关键数据,为后续分析提供可靠的支撑。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_msMemScope_docs_zh_memory_profile_md.md ## 输出文件说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/msMemScope/docs/zh/output_file_spec.md - Description: msMemScope工具进行内存分析后,输出的文件如**表 1** 输出文件说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_msMemScope_docs_zh_output_file_spec_md.md ## msMemScope快速入门 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/msMemScope/docs/zh/quick_start.md - Description: 简介 msMemScope工具提供内存事件采集功能,基于采集事件开展内存泄漏检测、内存对比、内存块监测、内存拆解和低效内存识别等分析功能。本文档通过一个简单的PyTorch脚本介绍msMemScope工具的使用方法以及功能。 环境准备 请根据《msMemScope安装指南》完成安装。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_msMemScope_docs_zh_quick_start_md.md ## CANN商业版-算子编译工具(op\_compiler)是昇腾CANN提供的编译算子生成算子二进制 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/opcompiletool - Description: 算子编译工具(op\_compiler)是昇腾CANN提供的编译算子生成算子二进制文件的命令行工具。该工具的具体功能和使用约束如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_opcompiletool_atlasop_compiler_07_0001_html.md ## CANN商业版-算子编译工具(op\_compiler)是昇腾CANN提供的编译算子生成算子二进制 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/opcompiletool/atlasop_compiler_07_0001.html - Description: 算子编译工具(op\_compiler)是昇腾CANN提供的编译算子生成算子二进制文件的命令行工具。该工具的具体功能和使用约束如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_opcompiletool_atlasop_compiler_07_0001_html.md ## 使用前准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/opcompiletool/atlasop_compiler_07_0003.html - Description: 1. 安装软件包。请参考《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/canncommercial/900/softwareinst/instg/instg\_0000.html\)》完成驱动、固件、CANN软件包的安装。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_opcompiletool_atlasop_compiler_07_0003_html.md ## 算子编译生成Kernel包 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/opcompiletool/atlasop_compiler_07_0005.html - Description: 1. 准备Dump的算子信息统计文件。目前支持两种方式Dump算子json文件,请根据实际情况选择合适的方式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_opcompiletool_atlasop_compiler_07_0005_html.md ## Kernel包安装和卸载 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/opcompiletool/atlasop_compiler_07_0006.html - Description: 下文以默认命名的Kernel包为例,实际运行时,具体命令请替换为实际的Kernel包名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_opcompiletool_atlasop_compiler_07_0006_html.md ## 算子编译生成Kernel包 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/opcompiletool/atlasop_compiler_07_0008.html - Description: 在任意目录下,以运行用户(如HwHiAiUser)身份执行如下命令,进行算子编译: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_opcompiletool_atlasop_compiler_07_0008_html.md ## Kernel包安装和卸载 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/opcompiletool/atlasop_compiler_07_0009.html - Description: 下文以默认命名的Kernel包为例,实际运行时,具体命令请替换为实际的Kernel包名。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_opcompiletool_atlasop_compiler_07_0009_html.md ## 参数概览 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/opcompiletool/atlasop_compiler_07_0011.html - Description: **表1 算子编译工具参数概览** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_opcompiletool_atlasop_compiler_07_0011_html.md ## --help - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/opcompiletool/atlasop_compiler_07_0013.html - Description: 显示帮助信息。简写为-h。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_opcompiletool_atlasop_compiler_07_0013_html.md ## --op\_params\_dir - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/opcompiletool/atlasop_compiler_07_0015.html - Description: 和--kernel\_name二选一必选,Dump工具导出的统计数据所在的文件夹路径,支持绝对和相对路径。简写为-p。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_opcompiletool_atlasop_compiler_07_0015_html.md ## --kernel\_name - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/opcompiletool/atlasop_compiler_07_0016.html - Description: 和--op\_params\_dir二选一必选,设置需要编译的调试版本的算子kernel\_name。简写为-k。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_opcompiletool_atlasop_compiler_07_0016_html.md ## --job - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/opcompiletool/atlasop_compiler_07_0017.html - Description: 设置编译时工作进程数。最小取值为1,默认为16。简写为-j。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_opcompiletool_atlasop_compiler_07_0017_html.md ## --compile\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/opcompiletool/atlasop_compiler_07_0018.html - Description: 工作模式。可选。默认为纯编译模式,配置为tune为调优模式。简写为-m。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_opcompiletool_atlasop_compiler_07_0018_html.md ## --output - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/opcompiletool/atlasop_compiler_07_0020.html - Description: 可选,编译输出的安装包路径+名称,如xxx/xxx/xxx.run,支持相对路径和绝对路径。不输入路径的情况下,在当前路径下生成;不输入安装包名称的情况下,静态shape安装包默认命名为“static\_kernel\_$\{datetime\}\_$\{pid\}.run”,调试版本安装包默认命名为“debug\_kernel\_$\{datetime\}.run”。简写为-o。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_opcompiletool_atlasop_compiler_07_0020_html.md ## --soc\_version - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/opcompiletool/atlasop_compiler_07_0022.html - Description: 执行算子编译功能时必选,指定算子编译时AI处理器的型号。简写为-v。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_opcompiletool_atlasop_compiler_07_0022_html.md ## --log - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/opcompiletool/atlasop_compiler_07_0024.html - Description: 设置算子编译过程中日志的级别。简写为-l。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_opcompiletool_atlasop_compiler_07_0024_html.md ## --count - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/opcompiletool/atlasop_compiler_07_0025.html - Description: 和--op\_params\_dir参数配合使用,用于统计--op\_params\_dir参数指定的目录下算子信息统计json文件的数目。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_opcompiletool_atlasop_compiler_07_0025_html.md ## --op\_debug\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/opcompiletool/atlasop_compiler_07_0026.html - Description: 调试配置文件的路径及文件名。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_opcompiletool_atlasop_compiler_07_0026_html.md ## MindStudio Kernel Launcher API接口文档 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/api_reference/mskl_api_reference.md - Description: msKL工具提供的接口可以调用msOpGen工程中的tiling函数以及用户自定义的Kernel函数,同时提供了autotune系列接口支持开发者可以高效地针对多个调优点进行代码替换、编译、运行以及性能对比。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_api_reference_mskl_api_reference_md.md ## MindStudio Kernel Performance Prediction对外接口使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/api_reference/mskpp_api_reference.md - Description: msKPP工具分为基础功能接口和指令接口两种接口类型。基础功能接口用于模拟算子计算中芯片平台、基础数据等。指令接口用于模拟特定的算子指令操作,包括Vector类计算指令和Cube类计算指令。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_api_reference_mskpp_api_reference_md.md ## MindStudio Sanitizer 对外接口使用说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/api_reference/mssanitizer_api_reference.md - Description: 调用aclrtMalloc接口在Device上分配size大小的线性内存,并通过devPtr返回已分配内存的指针,并向检测工具上报内存分配信息。实际的内存分配行为和参数含义与aclrtMalloc一致。 > \[\!NOTE\] > 可参见《应用开发接口》手册中“acl API参考(C) > 运行时管理 > 内存管理”章节查看aclrtMalloc的详细说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_api_reference_mssanitizer_api_reference_md.md ## MindStudio Ops Generator典型案例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/best_practices/example.md - Description: 展示如何使用msOpGen工具进行Ascend C自定义算子的工程创建、编译和部署,并使用msOpST工具对Ascend C自定义算子进行功能测试。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_best_practices_example_md.md ## 典型案例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/best_practices/msdebug_basic_cases.md - Description: \#\# 上板调试Vector算子 概述 展示如何使用msDebug工具来上板调试一个Vector算子,该Vector算子可实现两个向量相加并输出结果的功能。 前期准备 - 单击链接获取样例工程,为进行算子调试做准备。 - 完成相关环境变量配置,请参见MindStudio Debugger工具用户指南。 操作步骤 1. 基于样例工程编译算子,获取可执行文件add.fatbin。 1. 修改sa - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_best_practices_msdebug_basic_cases_md.md ## 基础案例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/best_practices/mssanitizer_basic_cases.md - Description: 1. 参考《\[MindStudio Sanitizer 安装指南\]\(https://www.hiascend.com/document/detail/zh/canncommercial/900/devaids/optool/docs/zh/install\_guide/mssanitizer\_install\_guide.md\)》完成相关环境变量的配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_best_practices_mssanitizer_basic_cases_md.md ## 典型案例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/best_practices/typical_cases.md - Description: \#\# 通过指令流水图优化算子 概述 展示如何通过msOpProf工具的指令流水图特性,分析算子的瓶颈点,并实现算子的性能优化。 操作步骤 1. 参考msopprof simulator用户指南,将算子仿真性能数据采集得到的visualizedata.bin文件导入MindStudio Insight,具体导入操作请参考《MindStudio Insight用户指南》的“导入性能数据”章节。 2. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_best_practices_typical_cases_md.md ## 算子工具开发环境安装指导 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/common/dev_env_setup.md - Description: > > 由于 glibc 遵循“向后兼容”但不“向前兼容”的原则,为确保编译生成的可执行程序能在大多数操作系统上运行,编译镜像通常选用较旧版本的操作系统。 > 若在较高版本操作系统上编译的程序发布到较低版本环境中运行,可能出现异常。场景二的编译专用镜像发布于 2018 年左右,可广泛适配当前主流的老旧运行环境。 > 但该操作系统版本功能较为受限(例如不支持 VS Code 远程连接),因此仅建议 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_common_dev_env_setup_md.md ## MindStudio Debugger安装指南 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/install_guide/msdebug_install_guide.md - Description: 本工具已集成于CANN中,若已安装CANN且无需更新此工具,可直接使用,无需按本文档安装。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_install_guide_msdebug_install_guide_md.md ## MindStudio Kernel Launcher 安装指南 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/install_guide/mskl_install_guide.md - Description: 本工具已集成于CANN中,若已安装CANN且无需更新此工具,可直接使用,无需按本文档安装。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_install_guide_mskl_install_guide_md.md ## MindStudio Kernel Performance Prediction 安装指南 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/install_guide/mskpp_install_guide.md - Description: 本工具已集成于CANN中,若已安装CANN且无需更新此工具,可直接使用,无需按本文档安装。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_install_guide_mskpp_install_guide_md.md ## MindStudio Ops Generator安装指南 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/install_guide/msopgen_install_guide.md - Description: 本工具已集成于CANN中,若已安装CANN且无需更新此工具,可直接使用,无需按本文档安装。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_install_guide_msopgen_install_guide_md.md ## MindStudio Ops Profiler 安装指南 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/install_guide/msopprof_install_guide.md - Description: 本工具已集成于CANN中,若已安装CANN且无需更新此工具,可直接使用,无需按本文档安装。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_install_guide_msopprof_install_guide_md.md ## MindStudio Sanitizer 安装指南 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/install_guide/mssanitizer_install_guide.md - Description: 本工具已集成于CANN中,若已安装CANN且无需更新此工具,可直接使用,无需按本文档安装。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_install_guide_mssanitizer_install_guide_md.md ## 昇腾 CANN 容器环境安装指南 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/quick_start/cann_container_setup.md - Description: 本指南基于**昇腾 CANN 官方镜像**,帮助您通过 Docker 容器化方式,快速搭建面向昇腾 AI 的算子开发环境。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_quick_start_cann_container_setup_md.md ## 昇腾 AI 算子开发工具链学习环境安装指南 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/quick_start/installation_guide.md - Description: > \[\!CAUTION\]注意 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_quick_start_installation_guide_md.md ## msDebug算子调试工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/quick_start/msdebug_quick_start.md - Description: msDebug 是一款面向昇腾设备的算子调试工具,用于调试在NPU侧执行的算子程序,为算子开发人员提供关键调试能力,包括读取昇腾设备内存与寄存器、断点暂停与恢复程序运行状态等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_quick_start_msdebug_quick_start_md.md ## msKL 算子 Kernel 轻量化调用快速入门 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/quick_start/mskl_quick_start.md - Description: 使用 msKL 工具可以利用其提供的接口在 Python 脚本中快速实现 Kernel 下发的代码生成、编译及运行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_quick_start_mskl_quick_start_md.md ## msKPP 算子建模工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/quick_start/mskpp_quick_start.md - Description: msKPP 工具用于算子开发前的性能建模设计,开发者基于其 DSL(Domain-Specific Language,领域特定语言),以算子的数学逻辑为输入,编写算子表达式,即可在秒级内获得性能预测结果。该建模仅依赖输入/输出规模,无需执行真实计算,可高效验证算子实现方案。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_quick_start_mskpp_quick_start_md.md ## msOpGen算子工程工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/quick_start/msopgen_quick_start.md - Description: MindStudio Ops Generator(算子工程工具,msOpGen)工具在算子开发过程中可自动生成自定义算子工程,使用户能够聚焦于算子的核心逻辑与算法实现,避免在项目搭建、编译配置等重复性工作上耗费大量时间,从而显著提升开发效率。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_quick_start_msopgen_quick_start_md.md ## msOpProf 算子性能调优工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/quick_start/msopprof_quick_start.md - Description: msOpProf 工具用于采集和分析运行在昇腾 AI 处理器上的算子的关键性能指标,用户可根据输出的性能数据,快速定位算子的软、硬件性能瓶颈,提升算子性能的分析效率。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_quick_start_msopprof_quick_start_md.md ## msOpST算子测试工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/quick_start/msopst_quick_start.md - Description: MindStudio Ops System Test(算子测试工具,msOpST)工具用于算子开发完成后,对算子功能进行初步测试,该工具可以更加高效地进行算子性能的分析和优化,提高算子的执行效率,降低开发成本。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_quick_start_msopst_quick_start_md.md ## msSanitizer算子检测工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/quick_start/mssanitizer_quick_start.md - Description: msSanitizer工具是基于昇腾AI处理器的异常检测工具,包含单算子开发场景下的内存检测、竞争检测、未初始化检测和同步检测四个子功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_quick_start_mssanitizer_quick_start_md.md ## CANN商业版-**问题现象** - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/support/msdebug_faq.md - Description: \#\# msDebug工具打印Tensor变量功能不可用,提示“unavailable”或“memory read failed” 问题现象 提示“unavailable”或“Failed to dereference pointer from xxx for DWOPderef: memory read failed for xxx”。 原因分析 单步调试功能不支持Tensor按值传递的写法。 解 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_support_msdebug_faq_md.md ## 运行Kernel时提示权限错误 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/support/mskl_faq.md - Description: 运行Kernel时出现以下报错: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_support_mskl_faq_md.md ## MindStudio Sanitizer常见问题 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/support/mssanitizer_faq.md - Description: \#\# msSanitizer工具异常报告中未打印正确的文件名和行号 问题现象 文件名和行号显示为":0",或文件名显示正确,但行号显示为"0"。 解决方案 - 文件名和行号显示为":0"。 说明msSanitizer工具没有解析到正确的文件名和行号,根据用户的检测场景,有以下两种解决方法: - 如果启用了"--check-cann-heap\=yes"选项,对CANN软件栈内存进行检 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_support_mssanitizer_faq_md.md ## 开启全量检测 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/user_guide/compile_option_config.md - Description: 如需启用全量检测,须在算子代码的编译阶段添加相应编译选项并重新编译算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_user_guide_compile_option_config_md.md ## 扩展功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/user_guide/extended_functions.md - Description: 编写算子的定义json文件,配置参数的具体说明请参考**表 1** json文件配置参数说明和**表 2** test\_case参数字段说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_user_guide_extended_functions_md.md ## MindStudio Debugger工具用户指南 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/user_guide/msdebug_user_guide.md - Description: MindStudio Debugger(算子调试工具,msDebug)是一款面向昇腾设备的算子调试工具,用于调试NPU侧运行的算子程序,为算子开发人员提供调试手段。调试手段包括了读取昇腾设备内存与寄存器、暂停与恢复程序运行状态等。用户使用其他拉起算子的方式或msOpST工具在真实的硬件环境中对算子的功能进行测试后,可根据实际测试情况选择是否使用msDebug工具进行功能调试。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_user_guide_msdebug_user_guide_md.md ## MindStudio Kernel Launcher工具用户指南 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/user_guide/mskl_user_guide.md - Description: MindStudio Kernel Performance Prediction(算子调用工具,msKL)具有调用msOpGen算子工程和基于Ascend C模板库进行自动调优的功能,具体介绍如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_user_guide_mskl_user_guide_md.md ## MindStudio Kernel Performance Prediction 用户指南 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/user_guide/mskpp_user_guide.md - Description: MindStudio Kernel Performance Prediction(算子设计工具,msKPP)具有性能建模分析的功能,在算子开发前,可根据算子的数学逻辑作为输入、基于msKPP提供的接口,写出一个算子实现方案的算子表达式,获得该方案的算子性能建模结果。由于本身针对性能的预测不需要进行真实的计算,仅需要依据输入和输出的规模,给出对应算法的执行时间,故而,可以在秒级给出性能建模结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_user_guide_mskpp_user_guide_md.md ## MindStudio Ops Generator工具用户指南 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/user_guide/msopgen_user_guide.md - Description: msOpGen目前已支持的功能如下:包括算子工程创建、算子实现(Host侧&Kernel侧)、算子工程编译部署以及解析算子仿真流水图文件等。 表 1 msOpGen工具功能 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_user_guide_msopgen_user_guide_md.md ## msopprof模式性能数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/user_guide/msopprof_performance_data.md - Description: Cube及Vector类型指令的cycle占比数据ArithmeticUtilization.csv,建议优化算子逻辑,减少冗余计算指令。详情介绍请参见下表中的字段说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_user_guide_msopprof_performance_data_md.md ## msopprof simulator模式性能数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/user_guide/msopprof_simulator_performance_data.md - Description: 代码行耗时数据文件core*\_code\_exe.csv。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_user_guide_msopprof_simulator_performance_data_md.md ## msopprof simulator模式用户指南 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/user_guide/msopprof_simulator_user_guide.md - Description: MindStudio Ops Profiler(算子调优工具,msOpProf)用于采集和分析运行在AI处理器上算子的关键性能指标,用户可根据输出的性能数据,快速定位算子的软、硬件性能瓶颈,提升算子性能的分析效率。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_user_guide_msopprof_simulator_user_guide_md.md ## msOpProf使用场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/user_guide/msopprof_usage.md - Description: > > 本示例中可执行文件的名称(add)仅为示例,具体以当前工程中用户实际编译的脚本为准。 2. 使用如下命令完成msopprof上板性能数据和精细化调优数据的采集,也可参考msopprof模式命令指定其他命令参数。 ```shell msprof op add ``` 3. 修改样例工程的编译文件CMakeLists.txt,构建可运行在仿真器上的算子可执行文 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_user_guide_msopprof_usage_md.md ## msOpProf模式用户指南 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/user_guide/msopprof_user_guide.md - Description: MindStudio Ops Profiler(算子调优工具,msOpProf)用于采集和分析运行在AI处理器上算子的关键性能指标,用户可根据输出的性能数据,快速定位算子的软、硬件性能瓶颈,提升算子性能的分析效率。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_user_guide_msopprof_user_guide_md.md ## MindStudio Sanitizer 使用指南 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/optool/docs/zh/user_guide/mssanitizer_user_guide.md - Description: MindStudio Sanitizer(异常检测工具,msSanitizer)是一种基于AI处理器的工具,包含了单算子开发场景下的内存检测、竞争检测、未初始化检测和同步检测四个子功能: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_optool_docs_zh_user_guide_mssanitizer_user_guide_md.md ## CANN商业版-性能调优工具用于采集和分析运行在AI处理器上的AI任务在各运行阶段的关键性能指标 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling - Description: 性能调优工具用于采集和分析运行在AI处理器上的AI任务在各运行阶段的关键性能指标,用户可根据输出的性能数据,快速定位软、硬件性能瓶颈,提升AI任务性能分析的效率。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0001_html.md ## CANN商业版-性能调优工具用于采集和分析运行在AI处理器上的AI任务在各运行阶段的关键性能指标 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0001.html - Description: 性能调优工具用于采集和分析运行在AI处理器上的AI任务在各运行阶段的关键性能指标,用户可根据输出的性能数据,快速定位软、硬件性能瓶颈,提升AI任务性能分析的效率。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0001_html.md ## 使用前准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0002.html - Description: 1. 根据实际用户场景选择CANN相关软件包安装并配置CANN环境变量,具体请参见《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/canncommercial/900/softwareinst/instg/instg\_0000.html\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0002_html.md ## 离线推理场景性能分析快速入门 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0005.html - Description: 离线推理场景下,推荐使用msprof命令行方式采集和解析性能数据,并通过生成的结果文件分析性能瓶颈。下文根据AI处理器的PCIe工作模式区分为 Ascend EP 和 Ascend RC 两种场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0005_html.md ## PyTorch训练场景性能分析快速入门 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0006.html - Description: PyTorch训练场景下,推荐通过Ascend PyTorch Profiler接口采集并解析性能数据,用户可以根据结果自行分析和识别性能瓶颈。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0006_html.md ## msprof采集通用命令 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0010.html - Description: msprof命令行工具提供了AI任务运行性能数据、AI处理器系统数据等性能数据的采集和解析能力。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0010_html.md ## 采集AI任务运行性能数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0011.html - Description: msprof支持采集AI任务运行时相关的性能数据,并且在采集后可以自动进行性能数据解析和文件落盘。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0011_html.md ## 采集AI处理器系统数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0012.html - Description: msprof支持采集AI处理器的系统数据,并且在采集后可以自动进行性能数据解析和文件落盘。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0012_html.md ## 采集Host侧系统数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0014.html - Description: msprof支持采集Host侧的系统数据(CPU利用率、内存利用率、磁盘I/O利用率、网络I/O利用率等),并且在采集后可以自动进行性能数据解析和文件落盘。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0014_html.md ## 采集msproftx数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0015.html - Description: 当用户需要定位应用程序或上层框架程序的性能瓶颈时,可通过特定接口,记录应用程序执行期间特定事件发生的时间跨度,写入性能数据文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0015_html.md ## 动态采集性能数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0016.html - Description: 在执行采集的过程中可以随时启动和停止采集进程。动态采集性能数据支持通过launch和attach两种方式执行: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0016_html.md ## 延迟采集性能数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0017.html - Description: 用户可以通过设置--delay和--duration参数来配置数据采集的延迟时间和持续时间。延迟采集场景下不支持动态采集性能数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0017_html.md ## 解析性能数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0019.html - Description: 该功能只会进行性能数据解析,不会导出性能数据文件,导出性能数据文件功能请参见解析并导出性能数据。 一般情况下,解析性能数据功能不需要单独使用,主要有如下两种使用场景:- 对于性能数据文件解析失败的场景(例如:当存在首次解析由于某些原因导致解析失败,残留文件时),可以使用msprof--parse功能重新解析后,再次执行msprof --export。 - 对于需要指定--iteration-id和 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0019_html.md ## 查询性能数据文件信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0020.html - Description: 本功能用于查询性能数据文件信息,确认导出时指定迭代(Iteration ID)/模型(Model ID)。 性能数据解析时自动打印展示性能数据文件信息,故本功能在数据解析中为可选操作,主要用于已解析的历史PROFXXX目录重新查询性能数据文件信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0020_html.md ## 解析并导出性能数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0021.html - Description: 本功能用于解析并导出性能数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0021_html.md ## CANN商业版-msprof解析工具是通过msprof - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0023.html - Description: msprof解析工具是通过msprof.py脚本封装的,可直接使用msprof解析工具进行性能数据的解析和导出操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0023_html.md ## 解析性能数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0024.html - Description: 本功能用于解析性能数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0024_html.md ## 查询性能数据文件信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0025.html - Description: 本功能用于查询性能数据文件信息,性能数据文件信息中包含迭代(Iteration ID)/模型(Model ID)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0025_html.md ## 导出性能数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0026.html - Description: 本功能用于导出性能数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0026_html.md ## 通信性能数据解析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0027.html - Description: msprof通信性能数据解析功能主要用于统计通信类的分段耗时、拷贝信息、带宽等信息,以便进行通信类数据分析。通信类数据只有在多卡、多节点或集群场景下存在。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0027_html.md ## 性能数据文件分片 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0028.html - Description: 性能数据文件分片是对于解析完成的timeline数据文件(.json),系统会识别.json文件在Chrome浏览器(“chrome://tracing”)上打开时间的长短,适当将.json文件切分成合适的数量,以方便用户快速打开。分片操作是在执行性能数据导出时自动启动。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0028_html.md ## 获取设备信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0029.html - Description: 性能数据采集完成后可以通过“getmsprofinfo.py”脚本工具在PROFXXX目录下的device\{id\}或host目录文件获取设备信息。“getmsprofinfo.py”功能及安装路径如下: 表1 脚本介绍 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0029_html.md ## MSPTI调优工具 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0031.html - Description: MSPTI调优工具(MSPTI,MindStudio Profiling Tool Interface)是MindStudio针对Ascend设备提出的一套Profiling API,用户可以通过MSPTI构建针对NPU应用程序的工具,用于分析应用程序的性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0031_html.md ## 性能数据采集和自动解析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0033.html - Description: Ascend PyTorch调优工具(Ascend PyTorch Profiler)是针对PyTorch框架开发的性能分析工具,通过在PyTorch训练/在线推理脚本中添加Ascend PyTorch Profiler,执行训练/在线推理的同时采集性能数据,完成训练/在线推理后直接输出可视化的性能数据文件,提升了性能分析效率。Ascend PyTorch Profiler可全面采集PyTorch - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0033_html.md ## 离线解析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0034.html - Description: 当使用Ascend PyTorch Profiler接口采集的性能数据较大时,若在当前环境直接使用on\_trace\_ready接口进行自动解析,则可能导致资源占用过大出现卡顿,那么可以取消on\_trace\_ready接口,并通过环境变量ASCEND\_WORK\_PATH设置落盘目录(例如:export ASCEND\_WORK\_PATH\=xx/xx),在采集完成性能数据后,使用如下方式进行离线解析: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0034_html.md ## 数据目录说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0035.html - Description: 性能数据落盘目录结构为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0035_html.md ## Profiling options参数解释 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0039.html - Description: - output:Profiling采集结果文件保存路径。支持配置绝对路径或相对路径(相对执行命令行时的当前路径)。路径中不能包含特殊字符:"\\n"、"\\f"、"\\r"、"\\b"、"\\t"、"\\v"、"\\u007F"。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0039_html.md ## 总体介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0042.html - Description: 本章节提供离线推理场景下,如何通过API方式采集性能数据,支持以下实现方式: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0042_html.md ## 采集并落盘性能数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0043.html - Description: 通过调用API方式使能性能数据采集功能,从而自动采集性能原始数据。采集性能原始数据成功后,可将采集的原始数据拷贝到装有工具的开发环境上进行原始性能数据解析,可视化展示原始性能数据解析结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0043_html.md ## 使用msproftx扩展接口采集并落盘性能数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0044.html - Description: 为了获取用户和上层框架程序的性能数据,Profiling开启msproftx功能之前,需要在程序内调用msproftx相关接口来对用户程序进行打点以输出对应的性能数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0044_html.md ## 订阅算子信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0045.html - Description: 通过调用消息订阅接口实现将采集到的Profiling数据解析后写入管道,由用户读入内存,再由用户调用API获取性能数据。当前支持获取网络模型中算子的性能数据,包括算子名称、算子类型名称、算子执行时间等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0045_html.md ## 采集数据说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0046.html - Description: 采集性能数据后请参见使用msprof命令解析、查询与导出性能数据将原始数据文件解析并导出为可视化的性能数据文件,保存在PROF\_XXX/mindstudio\_profiler\_output目录下。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0046_html.md ## 总体介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0048.html - Description: 本章节提供离线推理场景下,如何通过API方式采集性能数据,支持以下实现方式: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0048_html.md ## 采集并落盘性能数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0049.html - Description: 通过调用API方式使能Profiling功能,从而自动采集性能原始数据。采集性能原始数据成功后,可将采集的原始数据拷贝到装有Ascend-cann-toolkit开发套件包的开发环境上进行原始性能数据解析,可视化展示原始性能数据解析结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0049_html.md ## 使用msproftx扩展接口采集并落盘性能数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0050.html - Description: 为了获取用户和上层框架程序的性能数据,Profiling开启msproftx功能之前,需要在程序内调用msproftx相关接口来对用户程序进行打点以输出对应的性能数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0050_html.md ## 订阅算子信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0051.html - Description: 通过调用消息订阅接口实现将采集到的Profiling数据解析后写入管道,由用户读入内存,再由用户调用API获取性能数据。当前支持获取网络模型中算子的性能数据,包括算子名称、算子类型名称、算子执行时间等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0051_html.md ## 采集数据说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0052.html - Description: 采集性能数据后请参见使用msprof命令解析、查询与导出性能数据将原始数据文件解析并导出为可视化的timeline和summary文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0052_html.md ## 使用Ascend Graph接口采集性能数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0053.html - Description: Ascend Graph API是在构图过程中采集性能数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0053_html.md ## 使用acl.json配置文件采集性能数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0054.html - Description: 离线推理场景下,用户可以在推理程序中调用acl.json文件,读取性能采集参数,从而自动采集性能原始数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0054_html.md ## 使用环境变量采集性能数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0055.html - Description: 环境变量方式采集适用于TensorFlow框架训练/在线推理场景。与直接使用TensorFlow框架接口采集方式不同的是,环境变量方式是在训练/在线推理脚本中直接插入PROFILING\_OPTIONS环境变量配置性能数据采集项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0055_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0057.html - Description: 采集性能原始数据,并解析导出成可视化的性能数据文件后,文件目录结构及主要文件如下。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0057_html.md ## msprof(timeline数据总表) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0059.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0059_html.md ## msproftx数据说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0061.html - Description: \#\#\#\# 产品支持情况 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0061_html.md ## task\_time(任务调度信息) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0062.html - Description: 任务调度信息数据timeline信息在msprof\_*.json文件的Ascend Hardware层级展示,summary信息在task\_time\_*.csv文件汇总,用于识别AI任务运行时的调度耗时。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0062_html.md ## api\_statistic(API耗时统计信息) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0063.html - Description: API耗时信息统计数据timeline信息在msprof\_*.json文件的CANN层级展示,summary信息在api\_statistic\_*.csv文件汇总,用于统计CANN层的API执行耗时信息,主要包括AscendCL、Runtime、Node、Model、Communication层级的API。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0063_html.md ## step\_trace(迭代轨迹信息) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0064.html - Description: 迭代轨迹数据timeline信息在step\_trace\_*.json文件展示,summary信息在step\_trace\_*.csv文件汇总,用于判断并找出耗时较长的迭代。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0064_html.md ## dp(数据增强信息) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0065.html - Description: 数据增强数据仅在训练场景下生成且仅生成summary数据dp\_*.csv。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0065_html.md ## communication\_statistic(集合通信算子统计信息) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0066.html - Description: 集合通信算子和计算及通信流水掩盖数据timeline信息在msprof\_*.json文件的Communication层级展示,summary信息在communication\_statistic\_*.csv文件汇总,以及在msprof\_*.json下展示“Overlap Analysis”计算及通信的流水掩盖分析数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0066_html.md ## op\_summary(算子详细信息) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0067.html - Description: AI Core、AI Vector Core和AI CPU算子汇总信息无timeline信息,summary信息在op\_summary\_*.csv文件汇总,用于统计算子的具体信息和耗时情况。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0067_html.md ## op\_statistic(算子调用次数及耗时) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0068.html - Description: AI Core和AI CPU算子调用的次数及耗时数据无timeline信息,summary信息在op\_statistic\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0068_html.md ## ai\_core\_utilization(AI Core指令占比) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0069.html - Description: AI Core指令占比数据timeline信息在msprof\_*.json文件的AI Core Utilization层级展示,summary信息在ai\_core\_utilization\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0069_html.md ## ai\_vector\_core\_utilization(AI Vector Core指令占比) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0070.html - Description: AI Vector Core指令占比数据无timeline信息,summary信息在ai\_vector\_core\_utilization\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0070_html.md ## aicpu(AI CPU算子详细耗时) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0071.html - Description: aicpu算子详细耗时数据无timeline信息,summary信息在aicpu\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0071_html.md ## aicpu\_mi(数据准备的队列) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0072.html - Description: 数据准备的队列大小。数据下沉场景下开启aicpu时生成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0072_html.md ## l2\_cache(L2 Cache命中率) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0073.html - Description: L2 Cache数据无timeline信息,summary信息在l2\_cache\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0073_html.md ## fusion\_op(算子融合信息) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0074.html - Description: 展示模型中算子融合前后的信息数据,该数据无timeline信息,summary信息在fusion\_op\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0074_html.md ## CANN商业版-npu\_mem(NPU内存占用) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0075.html - Description: NPU内存占用数据timeline信息在msprof\_*.json文件的NPU MEM层级展示,summary信息在npu\_mem\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0075_html.md ## CANN商业版-npu\_module\_mem(NPU组件内存占用) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0076.html - Description: NPU组件内存占用数据无timeline信息,summary信息在npu\_module\_mem\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0076_html.md ## memory\_record(CANN算子的内存占用记录) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0077.html - Description: CANN算子的内存占用记录无timeline信息,summary信息在memory\_record\_*.csv文件汇总,主要记录CANN层级的GE组件申请的内存及占用时间。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0077_html.md ## operator\_memory(CANN算子的内存占用明细) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0078.html - Description: CANN算子的内存占用明细无timeline信息,summary信息在operator\_memory\_*.csv文件汇总,主要记录CANN层级的算子在NPU上执行时所需内存及占用时间。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0078_html.md ## static\_op\_mem(静态图算子内存) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0079.html - Description: 静态图算子内存无timeline信息,summary信息在static\_op\_mem\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0079_html.md ## sys\_mem(系统内存数据) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0080.html - Description: 系统内存数据无timeline信息,summary信息在sys\_mem\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0080_html.md ## process\_mem(进程内存占用数据) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0081.html - Description: 进程内存占用数据无timeline信息,summary信息在process\_mem\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0081_html.md ## cpu\_usage(AI CPU、Ctrl CPU利用率) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0082.html - Description: AI CPU(执行AI CPU算子)、Ctrl CPU(执行Driver任务)利用率数据无timeline信息,summary信息在cpu\_usage\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0082_html.md ## process\_cpu\_usage(进程CPU占用率) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0083.html - Description: 进程CPU占用率数据无timeline信息,summary信息在process\_cpu\_usage\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0083_html.md ## 片上内存读写速率 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0084.html - Description: 片上内存读写速率数据timeline信息在msprof\_*.json文件展示,summary信息在ddr\_*.csv和hbm\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0084_html.md ## hccs(集合通信带宽) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0086.html - Description: HCCS集合通信带宽数据timeline信息在msprof\_*.json文件的HCCS层级展示,summary信息在hccs\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0086_html.md ## nic(每个时间节点网络信息) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0087.html - Description: 每个时间节点网络信息数据timeline信息在msprof\_*.json文件的NIC层级展示,summary信息在nic\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0087_html.md ## roce(RoCE通信接口带宽) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0088.html - Description: RoCE通信接口带宽数据timeline信息在msprof\_*.json文件的RoCE层级展示,summary信息在roce\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0088_html.md ## pcie(PCIe带宽) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0089.html - Description: PCIe带宽数据timeline信息在msprof\_*.json文件的PCIe层级展示,summary信息在pcie\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0089_html.md ## biu\_group/aic\_core\_group/aiv\_core\_group(AI Core和AI Vector的带宽和延时) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0090.html - Description: AI Core和AI Vector的带宽和延时数据无summary信息,timeline信息在msprof\_*.json文件的biu\_group、aic\_core\_group、aiv\_core\_group层级展示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0090_html.md ## Acc PMU(加速器带宽及并发信息) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0091.html - Description: 加速器带宽及并发数据无summary信息,timeline信息在msprof\_*.json文件的Acc PMU层级展示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0091_html.md ## Stars Soc Info(SoC传输带宽信息) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0092.html - Description: SoC传输带宽信息数据无summary信息,timeline信息在msprof\_*.json文件的Stars Soc Info层级展示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0092_html.md ## Stars Chip Trans(片间传输带宽信息) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0093.html - Description: 片间传输带宽信息数据无summary信息,timeline信息在msprof\_*.json文件的Stars Chip Trans层级展示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0093_html.md ## llc\_read\_write(三级缓存读写速率) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0094.html - Description: 三级缓存读写速率数据timeline信息在msprof\_*.json文件的LLC层级展示,summary信息在llc\_read\_write\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0094_html.md ## dvpp(DVPP信息) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0098.html - Description: DVPP数据无timeline信息,summary信息在dvpp\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0098_html.md ## ai\_cpu\_top\_function(AI CPU热点函数) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0099.html - Description: AI CPU热点函数数据无timeline信息,summary信息在ai\_cpu\_top\_function\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0099_html.md ## ai\_cpu\_pmu\_events(AI CPU PMU事件) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0100.html - Description: AI CPU PMU事件数据无timeline信息,summary信息在ai\_cpu\_pmu\_events\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0100_html.md ## ctrl\_cpu\_top\_function(Ctrl CPU热点函数) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0101.html - Description: Ctrl CPU热点函数数据无timeline信息,summary信息在ctrl\_cpu\_top\_function\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0101_html.md ## ctrl\_cpu\_pmu\_events(Ctrl CPU PMU事件) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0102.html - Description: Ctrl CPU PMU事件数据无timeline信息,summary信息在ctrl\_cpu\_pmu\_events\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0102_html.md ## ts\_cpu\_top\_function(TS CPU热点函数) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0103.html - Description: TS CPU热点函数数据无timeline信息,summary信息在ts\_cpu\_top\_function\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0103_html.md ## ts\_cpu\_pmu\_events(TS CPU PMU事件) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0104.html - Description: TS CPU PMU事件数据无timeline信息,summary信息在ts\_cpu\_pmu\_events\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0104_html.md ## host\_cpu\_usage(Host侧CPU利用率) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0106.html - Description: Host侧CPU利用率数据在msprof\_*.json文件的CPU Usage层级展示,summary信息在host\_cpu\_usage\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0106_html.md ## host\_mem\_usage(Host侧内存利用率) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0107.html - Description: Host侧内存利用率数据timeline信息在msprof\_*.json文件的Memory Usage层级展示,summary信息在host\_mem\_usage\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0107_html.md ## host\_disk\_usage(Host侧磁盘I/O利用率) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0108.html - Description: Host侧磁盘I/O利用率数据timeline信息在msprof\_*.json文件的Disk Usage层级展示,summary信息在host\_disk\_usage\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0108_html.md ## host\_network\_usage(Host侧网络I/O利用率) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0109.html - Description: Host侧网络I/O利用率数据timeline信息在msprof\_*.json文件的Network Usage层级展示,summary信息在host\_network\_usage\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0109_html.md ## os\_runtime\_statistic(Host侧syscall和pthreadcall) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0110.html - Description: Host侧syscall和pthreadcall数据timeline信息在msprof\_*.json文件的OS Runtime API层级展示,summary信息在os\_runtime\_statistic\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0110_html.md ## cpu\_usage(Host侧系统CPU利用率) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0111.html - Description: Host侧系统CPU利用率数据无timeline信息,summary信息在cpu\_usage\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0111_html.md ## process\_cpu\_usage(Host侧进程CPU利用率) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0112.html - Description: Host侧进程CPU利用率数据无timeline信息,summary信息在process\_cpu\_usage\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0112_html.md ## sys\_mem(Host侧系统内存利用率) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0113.html - Description: Host侧系统内存利用率数据无timeline信息,summary信息在sys\_mem\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0113_html.md ## process\_mem(Host侧进程内存利用率) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0114.html - Description: Host侧进程内存利用率数据无timeline信息,summary信息在process\_mem\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0114_html.md ## 安装perf、iotop、ltrace工具 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0136.html - Description: perf、iotop、ltrace为第三方工具,以下安装方式仅为示例,请用户根据实际环境自行适配。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0136_html.md ## 配置用户权限 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0137.html - Description: 完成安装perf、iotop、ltrace工具后,需要给用户配置依赖权限。可参见如下步骤进行配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0137_html.md ## 集群训练场景性能分析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0138.html - Description: 一个集群是由多个节点组成,每个节点都有单独的系统,通过管理界面统一管理。在集群场景执行采集每个节点的性能数据,每个节点均生成一个PROF\_XXX目录并进行预解析,将各个节点的PROF\_XXX目录汇总到OBS。用户需要手动将OBS汇总的所有PROF\_XXX目录拷贝到可以展示和分析集群数据的环境下进行展示和分析。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0138_html.md ## mstx API使用示例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0142.html - Description: 本节中提供的代码仅为示例,非完整代码,完整样例代码获取请参照如下步骤: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0142_html.md ## 其他工具 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_0145.html - Description: Driver包中提供了其他工具,用于协助Profiling工具进行性能数据采集,用户无需直接使用,相关说明如下表所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_0145_html.md ## msprof导出db格式数据说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_1144.html - Description: msprof命令执行完成后,会生成一个汇总所有性能数据的msprof\_\{时间戳\}.db表结构文件,该文件推荐使用MindStudio Insight工具查看,也可以使用Navicat Premium等数据库开发工具直接打开。当前db文件汇总的性能数据如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_1144_html.md ## ascend\_pytorch\_profiler\_\{Rank\_ID\}.db数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_1145.html - Description: 该文件为表结构文件,该文件推荐使用MindStudio Insight工具查看,也可以使用Navicat Premium等数据库开发工具直接打开。当前db文件汇总的性能数据如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_1145_html.md ## analysis.db数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_1147.html - Description: 该文件为表结构文件,推荐使用MindStudio Insight工具查看,也可以使用Navicat Premium等数据库开发工具直接打开。当前db文件汇总的性能数据如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_1147_html.md ## timeline和summary数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_1149.html - Description: 图1 trace\_view - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_1149_html.md ## PyTorch多卡大集群场景如何避免性能数据直接落盘到共享存储时导致的性能膨胀问题 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_1158.html - Description: PyTorch多卡大集群场景在使用Ascend PyTorch Profiler接口采集并落盘性能数据时,通过使用on\_trace\_ready执行tensorboard\_trace\_handler函数的方式进行性能数据落盘。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_1158_html.md ## 性能数据采集和自动解析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_1159.html - Description: MindSpore Profiler是针对MindSpore框架开发的性能分析工具,通过在MindSpore训练脚本中添加MindSpore Profiler接口,执行训练的同时采集性能数据,完成训练后直接输出可视化的性能数据文件,提升了性能分析效率。MindSpore Profiler接口可全面采集MindSpore训练场景下的性能数据,主要包括MindSpore层算子信息、CANN层算子信息、 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_1159_html.md ## 离线解析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_1160.html - Description: 若需要重新解析MindSpore Profiler接口采集的性能数据,可以使用mindspore.profiler.profiler.analyse接口进行离线解析。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_1160_html.md ## MindSpore场景特有数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_1161.html - Description: 文件主要汇总所有性能数据的.db格式文件。字段说明以msprof导出db格式数据说明为参考,实际结果略有不同,请以实际情况为准。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_1161_html.md ## ccu\_mission(集合通信指令信息) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_1162.html - Description: 集合通信指令timeline信息在msprof\_*.json文件的CCU层级展示,summary信息在ccu\_mission\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_1162_html.md ## ub(UB带宽数据) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_1163.html - Description: UB带宽数据timeline信息在msprof\_*.json文件的UB层级展示,summary信息在ub\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_1163_html.md ## ccu\_channel(集合通信硬件加速单元带宽信息) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_1164.html - Description: 集合通信硬件加速单元(CCU)带宽无timeline信息,summary信息在ccu\_channel\_*.csv文件汇总。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_1164_html.md ## soc\_pmu(TLB命中率) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_1165.html - Description: TLB页表缓存命中率数据,文件名为soc\_pmu\_*.csv,该文件记录页表缓存命中情况。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_1165_html.md ## 性能调优建议 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/atlasprofiling_16_2260.html - Description: 该功能为msprof工具解析后输出调优建议的功能,已不再演进,分析性能数据并输出调优建议更多的功能请参见《msprof-analyze\(https://gitcode.com/Ascend/mstt/tree/master/profiler/msprof\_analyze/\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_atlasprofiling_16_2260_html.md ## CANN商业版-本文介绍推理服务化性能数据采集工具 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0002.html - Description: 本文介绍推理服务化性能数据采集工具,本工具主要使用msServiceProfiler接口,在MindIE Motor推理服务化进程中,采集关键过程的开始和结束时间点,识别关键函数或迭代等信息,记录关键事件,支持多样的信息采集,对性能问题快速定界。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0002_html.md ## 产品支持情况 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0003.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0003_html.md ## 使用前准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0004.html - Description: 工具支持的硬件环境与MindIE一致,详细支持情况请参见《MindIE安装指南》的“安装说明”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0004_html.md ## 数据采集 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0005.html - Description: 采集服务化性能数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0005_html.md ## 数据解析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0008.html - Description: 解析服务化性能数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0008_html.md ## 解析结果 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0011.html - Description: ms\_service\_profiler.parse解析生成的结果如下。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0011_html.md ## MindStudio Insight可视化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0013.html - Description: MindStudio Insight工具支持对服务化调优工具采集并解析的性能数据(解析结果)进行可视化,当前支持chrome\_tracing.json文件及profiler.db文件的可视化,详细操作及可视化结果介绍请参见《MindStudio Insight工具用户指南》中的“服务化调优\(https://www.hiascend.com/document/detail/zh/mindstudio - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0013_html.md ## Chrome tracing可视化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0014.html - Description: Chrome tracing工具支持对服务化调优工具采集并解析的chrome\_tracing.json文件进行可视化,操作如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0014_html.md ## Grafana可视化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0015.html - Description: Grafana工具支持对服务化调优工具采集并解析的性能数据进行可视化展示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0015_html.md ## 自定义添加采集代码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0020.html - Description: MindIE Motor推理服务化框架中默认已添加性能数据采集代码,当前步骤可选。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0020_html.md ## 服务化性能数据比对工具 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0021.html - Description: 大模型推理服务化不同版本,不同框架之间可能存在性能差异,服务化性能数据比对工具支持对使用msServiceProfiler工具采集的性能数据进行差异比对,通过比对快速识别可能存在的问题点。详细介绍请参见《服务化性能数据比对工具\(https://gitcode.com/Ascend/msserviceprofiler/blob/26.0.0/docs/zh/ms\_service\_profiler\_c - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0021_html.md ## vLLM服务化性能采集工具 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0022.html - Description: 本工具基于Ascend-vLLM,提供性能数据采集能力,结合msServiceProfiler的数据解析与可视化能力,进行vLLM服务化推理调试调优。详细介绍请参见《vLLM服务化性能采集工具\(https://gitcode.com/Ascend/msserviceprofiler/blob/26.0.0/docs/zh/vLLM\_service\_oriented\_performance\_coll - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0022_html.md ## 服务化自动寻优工具 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0023.html - Description: 本工具基于msServiceProfiler工具采集的性能数据,提供服务化参数自动寻优能力,可以对服务化的参数以及测试工具的参数进行寻优。详细介绍请参见《服务化自动寻优工具\(https://gitcode.com/Ascend/msserviceprofiler/blob/26.0.0/docs/zh/serviceparam\_optimizer\_instruct.md\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0023_html.md ## CANN商业版-msServiceProfiler Trace提供基于OpenTelemetry - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0025.html - Description: msServiceProfiler Trace提供基于OpenTelemetry Protocol(OTLP)协议的Trace数据转发服务,该服务用于接收、处理和转发分布式Trace数据,帮助用户监控和分析微服务架构的性能表现。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0025_html.md ## 产品支持情况 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0026.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0026_html.md ## 使用前准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0027.html - Description: 1. 在昇腾NPU环境安装配套版本的CANN Toolkit开发套件包和ops算子包并配置CANN环境变量,具体请参见《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/canncommercial/900/softwareinst/instg/instg\_0000.html\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0027_html.md ## 开启采集开关 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0029.html - Description: 1. 通过配置环境变量MS\_TRACE\_ENABLE开启Trace采集开关。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0029_html.md ## 配置目标采集服务器 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0030.html - Description: 出于安全考虑,推荐用户使用安全模式,建议使用TLS认证。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0030_html.md ## 启动Trace转发进程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0031.html - Description: 启动Trace转发进程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0031_html.md ## 发送请求 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0032.html - Description: 当前建议使用/v1/chat/completions及/v1/completions接口发送请求。且这两个接口的HTTP请求头中需要添加“开启采样”信息。当前支持添加“开启采样”的HTTP请求头格式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0032_html.md ## 输出结果说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0033.html - Description: 完成发送请求后,可以在支持OTLP协议的开源监控平台(例如Jaeger,须先开启Jaeger平台服务)查看可视化结果,示例如下。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0033_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0037.html - Description: msServiceProfiler模块提供推理服务化性能数据采集(C++)接口,用于采集服务化调优场景性能数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0037_html.md ## CANN商业版-IsEnable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0038.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0038_html.md ## CANN商业版-SpanStart - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0039.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0039_html.md ## CANN商业版-SpanEnd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0040.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0040_html.md ## CANN商业版-Metric - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0041.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0041_html.md ## CANN商业版-MetricInc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0042.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0042_html.md ## CANN商业版-MetricScope - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0043.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0043_html.md ## CANN商业版-MetricScopeAsReqID - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0044.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0044_html.md ## CANN商业版-MetricScopeAsGlobal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0045.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0045_html.md ## CANN商业版-Launch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0046.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0046_html.md ## CANN商业版-Event - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0047.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0047_html.md ## CANN商业版-Link - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0048.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0048_html.md ## Attr系列 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0049.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0049_html.md ## CANN商业版-ArrayResource - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0050.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0050_html.md ## CANN商业版-Resource - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0051.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0051_html.md ## CANN商业版-Domain - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0052.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0052_html.md ## CANN商业版-NumArrayAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0053.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0053_html.md ## CANN商业版-ArrayAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0054.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0054_html.md ## CANN商业版-GetMsg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0055.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0055_html.md ## 宏定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0056.html - Description: - PROF:将采集语句封装起来,这样可以通过ENABLE\_PROF宏定义在编译期间控制是否采集数据,支持传入一个参数或者两个参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0056_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0058.html - Description: Trace模块提供推理服务化性能数据采集(C++)接口,用于Trace数据监控。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0058_html.md ## 示例代码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0059.html - Description: 以下是关键步骤的代码示例,不可以直接拷贝编译运行,仅供参考。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0059_html.md ## CANN商业版-GetTraceCtx - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0061.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0061_html.md ## CANN商业版-addResAttribute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0062.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0062_html.md ## CANN商业版-ExtractAndAttach - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0063.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0063_html.md ## CANN商业版-Attach - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0064.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0064_html.md ## CANN商业版-Unattach - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0065.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0065_html.md ## CANN商业版-GetCurrent - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0066.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0066_html.md ## CANN商业版-Span - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0068.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0068_html.md ## CANN商业版-Activate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0069.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0069_html.md ## CANN商业版-SetAttribute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0070.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0070_html.md ## CANN商业版-SetStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0071.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0071_html.md ## CANN商业版-End - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0072.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0072_html.md ## CANN商业版-StartSpanAsActive - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0074.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0074_html.md ## CANN商业版-IsEnable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0075.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0075_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0078.html - Description: msServiceProfiler模块提供推理服务化性能数据采集(Python)接口,用于实现采集服务化调优场景性能数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0078_html.md ## CANN商业版-init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0079.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0079_html.md ## \_\_enter\_\_/\_\_exit\_\_ - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0080.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0080_html.md ## CANN商业版-span\_start - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0081.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0081_html.md ## CANN商业版-span\_end - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0082.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0082_html.md ## CANN商业版-event - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0083.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0083_html.md ## CANN商业版-link - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0084.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0084_html.md ## CANN商业版-metric - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0085.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0085_html.md ## CANN商业版-metric\_inc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0086.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0086_html.md ## CANN商业版-metric\_scope - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0087.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0087_html.md ## CANN商业版-metric\_scope\_as\_req\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0088.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0088_html.md ## CANN商业版-launch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0089.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0089_html.md ## CANN商业版-attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0090.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0090_html.md ## CANN商业版-domain - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0091.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0091_html.md ## CANN商业版-res - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0092.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0092_html.md ## CANN商业版-get\_msg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/Profiling/mindieprofiling_0093.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_devaids_Profiling_mindieprofiling_0093_html.md ## CANN商业版-CANN - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/index/index.html - Description: 异构计算架构CANN(Compute Architecture for Neural Networks)是昇腾针对AI场景推出的异构计算架构,向上支持多种AI框架,包括MindSpore、PyTorch、TensorFlow等,向下服务AI处理器与编程,发挥承上启下的关键作用,是提升昇腾AI处理器计算效率的关键平台。同时针对多样化应用场景,提供多层次编程接口,支持用户快速构建基于昇腾平台的AI应用 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_index_index_html.md ## 基础数据结构和接口列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00001.html - Description: 本文档提供了进行算子开发和图开发时依赖的基础数据结构和接口说明,分类如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00001_html.md ## CANN商业版-本类用于描述算子原型定义中输入输出信息与算子实例化后实际输入输出之间的映射关系 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00004.html - Description: 本类用于描述算子原型定义中输入输出信息与算子实例化后实际输入输出之间的映射关系。每个AnchorInstanceInfo对象对应一个输入或输出,并记录两个关键信息: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00004_html.md ## 构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00005.html - Description: 提供了默认的构造函数以及指定了两个数据成员信息的构造函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00005_html.md ## CANN商业版-GetInstanceNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00006.html - Description: 获取IR原型定义某个输入对应的实际输入个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00006_html.md ## CANN商业版-GetInstanceStart - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00007.html - Description: 获取算子某个IR输入在实际输入中的起始序号(index)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00007_html.md ## CANN商业版-SetInstanceStart - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00008.html - Description: 设置算子某个IR输入在实际输入中的起始序号(index)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00008_html.md ## 构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00011.html - Description: CompileTimeTensorDesc类用于描述编译时的Tensor描述信息,包含dtype信息以及format信息。由于编译时无法确定shape,因此不包含shape信息。该函数为CompileTimeTensorDesc类的构造函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00011_html.md ## CANN商业版-GetDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00012.html - Description: 获取CompileTimeTensorDesc所描述的Tensor的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00012_html.md ## CANN商业版-GetFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00013.html - Description: 获取编译时Tensor的数据排布格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00013_html.md ## CANN商业版-GetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00015.html - Description: 获取运行时Tensor中存储数据的实际排布格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00015_html.md ## CANN商业版-GetExpandDimsType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00016.html - Description: 获取原始Format向运行时Format转换时的补维规则。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00016_html.md ## CANN商业版-SetDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00017.html - Description: 向CompileTimeTensorDesc中设置Tensor的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00017_html.md ## CANN商业版-SetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00018.html - Description: 向CompileTimeTensorDesc中设置运行时Tensor的数据排布格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00018_html.md ## CANN商业版-SetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00019.html - Description: 向CompileTimeTensorDesc中设置Tensor的原始数据排布格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00019_html.md ## CANN商业版-SetExpandDimsType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00020.html - Description: 设置原始Format向运行时Format转换时的补维规则。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00020_html.md ## CANN商业版-ComputeNodeInfo用于序列化保存算子的相关编译信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00022.html - Description: ComputeNodeInfo用于序列化保存算子的相关编译信息,包括算子类型、算子名称、输入输出数量、编译时张量的基本信息(CompileTimeTensorDesc)和输入输出实例化信息(AnchorInstanceInfo)。此外,该类还支持获取和设置算子原型中定义的属性的值(RuntimeAttrs)。ComputeNodeInfo的序列化内存空间是平铺式的,内存排布顺序为ComputeNo - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00022_html.md ## 构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00023.html - Description: ComputeNodeInfo类的构造函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00023_html.md ## CANN商业版-GetNodeType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00024.html - Description: \#\#\#\# 函数功能 获取算子的类型。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00024_html.md ## CANN商业版-GetNodeName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00025.html - Description: \#\#\#\# 函数功能 获取算子的名称。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00025_html.md ## CANN商业版-GetInputsNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00027.html - Description: 获取算子在网络中的实际输入个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00027_html.md ## CANN商业版-GetOutputsNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00028.html - Description: 获取算子在网络中的实际输出个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00028_html.md ## CANN商业版-GetIrOutputsNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00029.html - Description: 获取算子IR原型定义中的输出个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00029_html.md ## CANN商业版-GetInputInstanceInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00030.html - Description: 根据算子IR原型中的输入索引,获取对应的实例化对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00030_html.md ## CANN商业版-GetOutputInstanceInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00031.html - Description: 根据算子IR原型中的输出索引,获取对应的实例化对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00031_html.md ## CANN商业版-GetOutputTdInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00033.html - Description: 获取算子指定输出的Tensor描述,注意,编译时无法确定的shape信息不在Tensor描述中(由于编译时无法确定shape,因此该Tensor描述里不包含shape信息)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00033_html.md ## CANN商业版-GetAttrs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00034.html - Description: \#\#\#\# 函数功能 获取算子的属性值。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00034_html.md ## CANN商业版-MutableInputInstanceInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00035.html - Description: 根据算子IR原型中的输入索引,获取对应的实例化对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00035_html.md ## CANN商业版-MutableOutputInstanceInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00036.html - Description: 根据算子IR原型中的输出索引,获取对应的实例化对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00036_html.md ## CANN商业版-MutableInputTdInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00037.html - Description: 根据输入索引信息,获取算子的对应输入Tensor描述,注意,编译时无法确定的shape信息不在Tensor描述中(由于编译时无法确定shape,因此该Tensor描述里不包含shape信息)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00037_html.md ## CANN商业版-MutableOutputTdInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00038.html - Description: 获取算子的输出Tensor描述,注意,编译时无法确定的shape信息不在Tensor描述中(由于编译时无法确定shape,因此该Tensor描述里不包含shape信息)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00038_html.md ## CANN商业版-MutableAttrs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00039.html - Description: 获取算子的属性值,仅在算子IR原型定义和调用IMPL\_OP宏注册的属性值会被返回,其他属性值被丢弃。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00039_html.md ## CANN商业版-SetNodeType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00040.html - Description: \#\#\#\# 函数功能 设置算子的类型。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00040_html.md ## CANN商业版-SetNodeName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00041.html - Description: 设置该ComputeNodeInfo对应的算子的名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00041_html.md ## CANN商业版-Init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00042.html - Description: 初始化ComputeNodeInfo类。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00042_html.md ## CANN商业版-CalcSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00043.html - Description: 用于计算算子对应的ComputeNodeInfo需要预分配的内存空间大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00043_html.md ## CANN商业版-本类是一个POD类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00045.html - Description: 本类是一个POD类,在一块连续的内存空间中存储数据的描述信息以及实际的数据元素,元素类型为ContinuousVector结构。不支持动态扩容。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00045_html.md ## CANN商业版-Init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00046.html - Description: 初始化ContinuousVectorVector类。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00046_html.md ## CANN商业版-Add - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00047.html - Description: 新增一个ContinuousVector元素,其中新增ContinuousVector元素的容量为inner\_vector\_capacity。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00047_html.md ## CANN商业版-Get - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00048.html - Description: 获取第index个元素的首地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00048_html.md ## CANN商业版-GetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00049.html - Description: 获取当前存放的实际元素数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00049_html.md ## CANN商业版-GetOverHeadLength - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00050.html - Description: 获取数据描述信息的长度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00050_html.md ## CANN商业版-本类是一个POD类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00052.html - Description: 本类是一个POD类,在一块连续的内存空间中存储描述信息以及实际的数据元素(元素类型由模板参数T指定)。不支持动态扩容。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00052_html.md ## CANN商业版-Create - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00053.html - Description: 创建一个ContinuousVector实例,ContinuousVector不支持动态扩容。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00053_html.md ## CANN商业版-Init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00054.html - Description: 使用最大容量初始化本实例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00054_html.md ## CANN商业版-GetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00055.html - Description: 获取当前保存的元素个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00055_html.md ## CANN商业版-SetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00056.html - Description: 设置当前保存的元素个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00056_html.md ## CANN商业版-GetCapacity - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00057.html - Description: 获取最大可保存的元素个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00057_html.md ## CANN商业版-GetData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00058.html - Description: 获取首个元素的指针地址,\[GetData\(\), reinterpret\_cast\(GetData\(\)\) + GetSize\(\)\) 中的数据即为当前容器中保存的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00058_html.md ## CANN商业版-MutableData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00059.html - Description: 获取首个元素的指针地址,\[MutableData\(\), reinterpret\_cast\(MutableData\(\)\) + GetSize\(\)\) 中的数据即为当前容器中保存的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00059_html.md ## CANN商业版-ExpandDimsType类基于补维后的shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00061.html - Description: ExpandDimsType类基于补维后的shape,描述了补维规则。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00061_html.md ## 构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00062.html - Description: \#\#\#\# 函数功能 创建一个补维规则。 \#\#\#\# 函数原型 - 构造的实例中,补维规则(mask)以及补维后的维度(size)均为0 1 ExpandDimsType\(\) : size\(0U\), mask\(0U\) - 通过字符串创建一个补维规则 1 explicit ExpandDimsType\(const ge::chart const expanddimstype\) - 通过int64 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00062_html.md ## operator\=\= - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00063.html - Description: 判断本补维规则对象与另一个对象是否一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00063_html.md ## CANN商业版-GetFullSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00064.html - Description: 获取补维后的dim数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00064_html.md ## CANN商业版-SetExpandIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00065.html - Description: 将第index轴设置为补维轴。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00065_html.md ## CANN商业版-IsExpandIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00066.html - Description: 基于补维后的shape,判断指定的index轴是否为补维轴。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00066_html.md ## Expand(输出新shape) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00067.html - Description: 对shape做补维,并将补维后的结果写入指定的输出shape对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00067_html.md ## Expand(更改原shape) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00068.html - Description: 对shape做补维,并将补维后的结果直接更新原shape对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00068_html.md ## CANN商业版-GetInputDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00071.html - Description: 根据算子输入索引获取对应输入的tensor描述信息。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00071_html.md ## CANN商业版-GetOutputDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00072.html - Description: 根据算子输出索引获取对应输出的tensor描述信息。这里的输出索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00072_html.md ## CANN商业版-GetOptionalInputDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00073.html - Description: 根据算子原型定义中的输入索引获取对应可选输入的tensor描述信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00073_html.md ## CANN商业版-GetDynamicInputDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00074.html - Description: 根据算子原型定义中的输入索引获取对应动态输入的tensor描述信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00074_html.md ## CANN商业版-GetRequiredInputDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00075.html - Description: 根据算子原型定义中的输入索引获取对应必选输入的tensor描述信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00075_html.md ## CANN商业版-GetIrInputInstanceInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00076.html - Description: 根据算子原型定义中的输入索引获取对应输入的实例化信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00076_html.md ## CANN商业版-GetComputeNodeInputNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00078.html - Description: 获取算子的输入个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00078_html.md ## CANN商业版-GetAttrs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00080.html - Description: 获取算子的属性值,仅在算子IR原型定义中的属性值会被返回,其他属性值被丢弃。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00080_html.md ## CANN商业版-GetNodeType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00081.html - Description: \#\#\#\# 函数功能 获取算子的类型。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00081_html.md ## CANN商业版-GetComputeNodeInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00083.html - Description: 获取本Kernel对应的计算节点的信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00083_html.md ## CANN商业版-GetKernelName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00084.html - Description: 获取本kernel的名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00084_html.md ## CANN商业版-GetKernelType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00085.html - Description: 获取本kernel的类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00085_html.md ## CANN商业版-GetExtendInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00086.html - Description: 获取本kernel的扩展信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00086_html.md ## CANN商业版-GetInputDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00088.html - Description: 根据算子输入索引获取对应输入的数据类型。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00088_html.md ## CANN商业版-GetOptionalInputDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00089.html - Description: 根据算子原型定义中的输入索引获取对应可选输入的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00089_html.md ## CANN商业版-GetDynamicInputDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00090.html - Description: 根据算子原型定义中的输入索引获取对应动态输入的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00090_html.md ## CANN商业版-GetRequiredInputDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00091.html - Description: 根据算子原型定义中的输入索引获取对应必选输入的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00091_html.md ## CANN商业版-SetOutputDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00093.html - Description: 根据输出索引,设置指定输出的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00093_html.md ## CANN商业版-GetInputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00095.html - Description: 根据算子输入索引获取对应的输入shape指针。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00095_html.md ## CANN商业版-GetInputTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00096.html - Description: 根据算子输入索引获取对应的输入tensor指针。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00096_html.md ## CANN商业版-GetOptionalInputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00097.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入shape指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00097_html.md ## CANN商业版-GetDynamicInputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00098.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入shape指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00098_html.md ## CANN商业版-GetRequiredInputTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00099.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入tensor指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00099_html.md ## CANN商业版-GetOutputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00101.html - Description: 根据算子输出索引获取对应的输出Shape指针。这里的输出索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00101_html.md ## CANN商业版-GetInputShapeRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00104.html - Description: 根据算子输入索引获取对应的输入shape range指针。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00104_html.md ## CANN商业版-GetInputTensorRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00105.html - Description: 根据算子输入索引获取对应的输入tensor range指针。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00105_html.md ## CANN商业版-GetOptionalInputTensorRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00106.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入tensor range指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00106_html.md ## CANN商业版-GetDynamicInputTensorRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00107.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入tensor range指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00107_html.md ## CANN商业版-GetDynamicInputShapeRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00109.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入shape range指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00109_html.md ## CANN商业版-GetRequiredInputShapeRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00110.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入shape range指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00110_html.md ## CANN商业版-GetRequiredInputTensorRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00111.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入tensor range指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00111_html.md ## CANN商业版-GetOutputShapeRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00112.html - Description: 根据算子输出索引获取对应的输出shape range指针。这里的输出索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00112_html.md ## 构造和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00114.html - Description: OpImplRegisterV2类作为注册接口类,提供了一系列算子原型注册接口,供用户注册指定算子类型的Tiling函数、Infershape函数、私有属性等信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00114_html.md ## CANN商业版-InferShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00115.html - Description: 注册算子的InferShape函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00115_html.md ## CANN商业版-InferShapeRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00116.html - Description: 注册算子的InferShapeRange函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00116_html.md ## CANN商业版-InferDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00117.html - Description: 注册算子的InferDataType函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00117_html.md ## CANN商业版-Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00118.html - Description: 注册算子的Tiling函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00118_html.md ## CANN商业版-PrivateAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00119.html - Description: 用于注册算子的私有属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00119_html.md ## CANN商业版-TilingParse - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00120.html - Description: 注册算子的TilingParse函数,用于解析算子编译阶段生成的算子信息JSON文件,在注册时需要注册算子自行指定数据类型T,该数据类型用于保存解析后的算子信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00120_html.md ## CANN商业版-InputsDataDependency - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00121.html - Description: 设置算子计算依赖第几个输入tensor的值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00121_html.md ## CANN商业版-InferOutDataTypeSameWithFirstInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00122.html - Description: 注册一种datatype推导规则,该规则将算子第一个输入的datatype作为所有输出的datatype。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00122_html.md ## CANN商业版-GenSimplifiedKey - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00123.html - Description: 注册算子的GenSimplifiedKey函数,以提供一个更加快速的二进制匹配key值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00123_html.md ## CANN商业版-OpExecuteFunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00124.html - Description: 单个算子包含多kernel组合执行逻辑的场景下,算子可以通过该接口设置算子级的回调函数,回调函数内实现多kernel的下发。该功能为预留特性,暂不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00124_html.md ## CANN商业版-HostInputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00126.html - Description: 当算子输入中存在标量输入时,需要传入host侧地址。该接口用于标记算子的第几个输入的地址是host侧地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00126_html.md ## CANN商业版-Range类用于描述一个对象的上下界 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00129.html - Description: Range类用于描述一个对象的上下界,包含两个信息: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00129_html.md ## Range构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00130.html - Description: Range构造函数,对应如下3种构造方法: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00130_html.md ## operator\=\= - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00131.html - Description: 判断与另外一个range对象是否相等,如果两个range的上下界的地址相同,或者上下界的值相同,这两个对象相等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00131_html.md ## CANN商业版-SetMin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00132.html - Description: 设置最小的T对象指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00132_html.md ## CANN商业版-SetMax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00133.html - Description: 设置最大的T对象指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00133_html.md ## CANN商业版-GetMin - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00134.html - Description: 获取最小的T对象指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00134_html.md ## CANN商业版-GetMax - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00135.html - Description: 获取最大的T对象指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00135_html.md ## 构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00137.html - Description: RuntimeAttrs类的构造函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00137_html.md ## CANN商业版-GetAttrPointer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00138.html - Description: 获取指定索引的算子属性,返回指向此属性的指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00138_html.md ## CANN商业版-GetListInt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00140.html - Description: 获取list int类型的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00140_html.md ## CANN商业版-GetListListInt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00141.html - Description: 获取ContinuousVectorVector *类型的属性值,即二维数组且每个元素类型为int。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00141_html.md ## CANN商业版-GetStr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00142.html - Description: 获取string类型的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00142_html.md ## CANN商业版-GetFloat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00144.html - Description: 获取float类型的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00144_html.md ## CANN商业版-GetBool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00145.html - Description: 获取bool类型的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00145_html.md ## CANN商业版-GetListFloat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00146.html - Description: 获取list\_float32类型的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00146_html.md ## CANN商业版-GetListListFloat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00147.html - Description: 获取ContinuousVectorVector *类型的属性值,即二维数组且每个元素类型为float。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00147_html.md ## CANN商业版-GetAttrNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00148.html - Description: \#\#\#\# 函数功能 获取属性的数量。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00148_html.md ## CANN商业版-Shape结构体用于描述一个tensor的shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00150.html - Description: Shape结构体用于描述一个tensor的shape,包含两个信息: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00150_html.md ## Shape构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00151.html - Description: Shape构造函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00151_html.md ## operator\=\= - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00152.html - Description: 判断与另外一个shape对象是否相等,如果两个shape的dim num相等,并且dim num内每个dim的值都相等,则认为两个shape相等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00152_html.md ## operator\!\= - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00153.html - Description: 判断与另一个Shape对象是否不等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00153_html.md ## operator\[\] - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00154.html - Description: 获取指定index轴的dim值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00154_html.md ## CANN商业版-SetScalar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00156.html - Description: 设置shape为标量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00156_html.md ## CANN商业版-GetDimNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00157.html - Description: 获取Shape的维度个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00157_html.md ## CANN商业版-SetDimNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00158.html - Description: 设置Shape的维度个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00158_html.md ## CANN商业版-GetDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00159.html - Description: 获取对应idx轴的dim值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00159_html.md ## CANN商业版-AppendDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00161.html - Description: 向后扩展一个dim值,如果扩展的dim数量超出Shape的最大限制,那么本函数不做任何事情。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00161_html.md ## CANN商业版-GetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00164.html - Description: 获取原始format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00164_html.md ## CANN商业版-GetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00166.html - Description: 获取运行时format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00166_html.md ## CANN商业版-SetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00167.html - Description: 设置运行时format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00167_html.md ## CANN商业版-GetExpandDimsType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00168.html - Description: \#\#\#\# 函数功能 获取补维规则。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00168_html.md ## CANN商业版-SetExpandDimsType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00169.html - Description: \#\#\#\# 函数功能 设置补维规则。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00169_html.md ## CANN商业版-MutableExpandDimsType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00170.html - Description: 获取可写的补维规则。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00170_html.md ## operator\=\= - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00171.html - Description: \#\#\#\# 函数功能 判断格式是否相同。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00171_html.md ## operator\!\= - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00172.html - Description: 判断格式是否不相同。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00172_html.md ## CANN商业版-该类描述了tensor的shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00174.html - Description: 该类描述了tensor的shape,包含两个信息:origin\_shape以及storage\_shape。其中,origin\_shape表示tensor的shape数学描述,storage\_shape表示origin\_shape实际运行时的shape格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00174_html.md ## CANN商业版-GetOriginShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00176.html - Description: 获取原始shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00176_html.md ## CANN商业版-GetStorageShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00177.html - Description: 获取运行时shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00177_html.md ## CANN商业版-MutableOriginShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00178.html - Description: 获取可写的原始shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00178_html.md ## CANN商业版-MutableStorageShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00179.html - Description: 获取可写的运行时shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00179_html.md ## operator\=\= - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00180.html - Description: 判断shape是否相等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00180_html.md ## 构造及析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00183.html - Description: 构造一个TensorData。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00183_html.md ## operator\= - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00184.html - Description: \#\#\#\# 函数功能 禁用拷贝赋值函数。 使用移动赋值函数。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00184_html.md ## CANN商业版-GetAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00185.html - Description: 获取tensor数据地址。若存在manager函数,则由manager函数给出地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00185_html.md ## CANN商业版-GetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00186.html - Description: 获取tensor数据的内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00186_html.md ## CANN商业版-SetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00187.html - Description: 设置tensor数据的内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00187_html.md ## CANN商业版-GetPlacement - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00188.html - Description: 获取tensor的placement,tensor数据所在的设备位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00188_html.md ## CANN商业版-Free - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00190.html - Description: \#\#\#\# 函数功能 释放Tensor。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00190_html.md ## CANN商业版-SetAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00191.html - Description: 设置tensor地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00191_html.md ## CANN商业版-TensorPlacementUtils - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00194.html - Description: 提供一组函数,判断TensorPlacement的位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00194_html.md ## 构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00196.html - Description: 用于构造指定的Tensor对象。Tensor类用来描述一个tensor对象的信息以及行为,包含:shape信息、format信息、datatype信息以及tensor数据内容tensordata。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00196_html.md ## CANN商业版-GetShapeSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00197.html - Description: 获取当前Tensor运行时的shape大小,即此Tensor中包含的元素的数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00197_html.md ## CANN商业版-GetData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00198.html - Description: 获取Tensor的数据地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00198_html.md ## CANN商业版-SetData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00199.html - Description: 设置Tensor的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00199_html.md ## CANN商业版-GetAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00200.html - Description: 获取Tensor的数据地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00200_html.md ## CANN商业版-GetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00201.html - Description: 获取Tensor数据的内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00201_html.md ## CANN商业版-SetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00202.html - Description: 设置Tensor的内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00202_html.md ## CANN商业版-GetDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00203.html - Description: 获取Tensor的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00203_html.md ## CANN商业版-SetDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00204.html - Description: 设置Tensor的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00204_html.md ## CANN商业版-CreateFollowing - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00205.html - Description: 创建一个指定数据类型以及大小的Tensor,其数据在Tensor对象后连续排布。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00205_html.md ## CANN商业版-GetStorageShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00206.html - Description: 获取运行时Tensor的StorageShape,此shape对象为只读。StorageShape和Originshape的区别如下:Originshape是Tensor最初创建时的形状,StorageShape是保存Tensor数据的底层存储的形状。运行时为了适配底层硬件,Tensor的StorageShape和其Originshape可能会有所不同。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00206_html.md ## CANN商业版-MutableStorageShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00207.html - Description: 获取运行时Tensor的shape,此shape对象是可变的。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00207_html.md ## CANN商业版-GetOriginShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00208.html - Description: 获取Tensor的原始shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00208_html.md ## CANN商业版-GetShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00210.html - Description: 获取Tensor的shape,包含运行时和原始shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00210_html.md ## CANN商业版-GetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00211.html - Description: 获取运行时Tensor的format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00211_html.md ## CANN商业版-SetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00212.html - Description: 设置运行时Tensor的format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00212_html.md ## CANN商业版-GetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00213.html - Description: 获取Tensor的原始format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00213_html.md ## CANN商业版-SetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00214.html - Description: 设置Tensor的原始format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00214_html.md ## CANN商业版-GetFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00215.html - Description: 获取Tensor的format,包含运行时format和原始format,返回的format对象都是只读的。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00215_html.md ## CANN商业版-MutableFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00216.html - Description: 获取Tensor的format,包含运行时format和原始format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00216_html.md ## CANN商业版-GetExpandDimsType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00217.html - Description: 获取shape的补维规则。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00217_html.md ## CANN商业版-SetExpandDimsType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00218.html - Description: 设置shape的补维规则。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00218_html.md ## CANN商业版-GetPlacement - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00219.html - Description: 获取tensor的placement。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00219_html.md ## CANN商业版-SetPlacement - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00220.html - Description: 设置tensor的placement。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00220_html.md ## CANN商业版-GetTensorData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00221.html - Description: 获取tensor中的数据,返回只读的TensorData类型对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00221_html.md ## CANN商业版-MutableTensorData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00222.html - Description: 获取tensor中的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00222_html.md ## CANN商业版-GetInputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00224.html - Description: 根据算子输入索引获取对应的输入shape指针。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00224_html.md ## CANN商业版-GetInputTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00225.html - Description: 根据算子输入索引获取对应的输入tensor指针。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00225_html.md ## CANN商业版-GetOptionalInputTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00226.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入tensor指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00226_html.md ## CANN商业版-GetDynamicInputTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00227.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入Tensor指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00227_html.md ## CANN商业版-GetRequiredInputTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00228.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入tensor指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00228_html.md ## CANN商业版-GetDynamicInputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00230.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入shape指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00230_html.md ## CANN商业版-GetRequiredInputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00231.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入shape指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00231_html.md ## CANN商业版-GetOutputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00232.html - Description: 根据算子输出索引获取对应的输出shape指针。这里的输出索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00232_html.md ## CANN商业版-SetTilingKey - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00234.html - Description: 设置TilingKey。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00234_html.md ## CANN商业版-GetTilingKey - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00235.html - Description: 获取tiling key。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00235_html.md ## CANN商业版-SetBlockDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00236.html - Description: 设置blockDim,即参与计算的Vector或者Cube核数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00236_html.md ## CANN商业版-GetBlockDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00237.html - Description: 获取blockDim,即参与计算的Vector或者Cube核数。blockDim的详细概念和设置方式请参考SetBlockDim。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00237_html.md ## CANN商业版-SetTilingCond - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00238.html - Description: 设置tiling cond。tiling cond是一个整型值,用于选择算子实际使用的Tiling实现。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00238_html.md ## CANN商业版-GetTilingCond - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00239.html - Description: 获取GetTilingCond中设置的tiling cond。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00239_html.md ## CANN商业版-SetNeedAtomic - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00240.html - Description: 用于设置是否需要框架来完成atomic clean操作,保证在算子kernel执行前,输出内存已经被初始化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00240_html.md ## CANN商业版-NeedAtomic - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00241.html - Description: 获取是否需要atomic clean的标识值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00241_html.md ## CANN商业版-GetTilingData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00242.html - Description: 获取有类型的tiling data指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00242_html.md ## CANN商业版-GetRawTilingData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00243.html - Description: 获取无类型的tiling data指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00243_html.md ## CANN商业版-GetWorkspaceSizes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00244.html - Description: 获取workspace sizes指针,workspace大小以字节为单位。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00244_html.md ## CANN商业版-GetWorkspaceNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00245.html - Description: 获取workspace个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00245_html.md ## CANN商业版-GetPlatformInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00246.html - Description: 获取PlatFormInfos指针。PlatformInfos类用于管理和查询硬件平台的相关信息,包括核数、内存带宽等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00246_html.md ## CANN商业版-GetCompileInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00247.html - Description: 获取编译信息CompileInfo。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00247_html.md ## CANN商业版-SetScheduleMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00248.html - Description: 设置算子在NPU上执行时的调度模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00248_html.md ## CANN商业版-GetScheduleMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00249.html - Description: 获取算子在NPU上执行时的调度模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00249_html.md ## CANN商业版-SetLocalMemorySize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00250.html - Description: SIMT算子用于设置需要使用的Dynamic Unified Buffer大小。不设置的情况下,默认为0,即算子不需要使用Dynamic Unified Buffer。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00250_html.md ## CANN商业版-GetLocalMemorySize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00251.html - Description: SIMT算子获取所需的Dynamic Unified Buffer大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00251_html.md ## 构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00253.html - Description: TilingData类的构造函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00253_html.md ## CANN商业版-GetCapacity - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00254.html - Description: 获取本实例可容纳的最大tiling data长度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00254_html.md ## CANN商业版-GetDataSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00255.html - Description: 获取tiling data长度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00255_html.md ## CANN商业版-SetDataSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00256.html - Description: 设置tiling data长度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00256_html.md ## CANN商业版-GetData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00257.html - Description: 获取TilingData的数据指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00257_html.md ## CANN商业版-Append - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00258.html - Description: 向后添加tiling data,若添加超过可容纳的最大长度,则添加失败。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00258_html.md ## CANN商业版-CreateCap - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00259.html - Description: 根据指定的最大容量创建一个TilingData类实例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00259_html.md ## CANN商业版-CalcTotalSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00260.html - Description: 通过最大容量计算TilingData实例所占用的内存空间。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00260_html.md ## CANN商业版-Init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00261.html - Description: 初始化TilingData。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00261_html.md ## CANN商业版-AppendConvertedAttrVal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00262.html - Description: 将RuntimeAttrs内存中的第index个属性,从src\_type数据类型转成dst\_type数据类型后,追加在当前的tilingdata后面。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00262_html.md ## operator<< - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00263.html - Description: 使用<<运算符重载的方式,实现向后添加tiling data的功能。若添加超过可容纳的最大长度,则忽略本次操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00263_html.md ## CANN商业版-本类继承自ContinuousVector类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00270.html - Description: 本类继承自ContinuousVector类,与ContinuousVector类不同的是MutableData和GetData返回的是指定类型的地址,而不是void *。因此称为Typed。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00270_html.md ## CANN商业版-MutableData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00271.html - Description: 获取首个元素的指针地址,\[MutableData\(\), reinterpret\_cast\(MutableData\(\)\) + GetSize\(\)\) 中的数据即为当前容器中保存的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00271_html.md ## CANN商业版-GetData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00272.html - Description: 获取首个元素的指针地址,\[GetData\(\), reinterpret\_cast\(GetData\(\)\) + GetSize\(\)\) 中的数据即为当前容器中保存的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00272_html.md ## CANN商业版-TensorPlacement - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00273.html - Description: ``` enum TensorPlacement \{ kOnDeviceHbm, ///< Tensor位于Device kOnHost, ///< Tensor位于Host kFollowing, ///< Tensor位于Host,且数据紧跟在结构体后面 kOnDeviceP2p, ///< Tensor位于Device, P2p内存指的是Device内存透到PCIE B - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00273_html.md ## 内部关联接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00274.html - Description: 在进行算子原型注册、Tiling实现、shape推导过程中,使用到的外部开放接口中会调用到一些辅助数据结构和接口,称之为内部关联接口。开发者不会直接调用内部关联接口,此处仅作简单介绍。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00274_html.md ## Allocator构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00278.html - Description: Allocator构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00278_html.md ## CANN商业版-Malloc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00279.html - Description: 在用户内存池中根据指定size大小申请device内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00279_html.md ## CANN商业版-Free - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00280.html - Description: 根据指定的MemBlock释放内存到内存池。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00280_html.md ## CANN商业版-MallocAdvise - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00281.html - Description: 在用户内存池中根据指定size大小申请device内存,建议申请的内存地址为addr。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00281_html.md ## AscendString构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00283.html - Description: AscendString构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00283_html.md ## CANN商业版-GetString - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00284.html - Description: \#\#\#\# 函数功能 获取字符串地址。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00284_html.md ## CANN商业版-Find - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00286.html - Description: 查找子串在当前字符串中的位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00286_html.md ## CANN商业版-GetLength - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00288.html - Description: \#\#\#\# 函数功能 获取字符串的长度。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00288_html.md ## CANN商业版-AutoMappingSubgraphIOIndexFuncRegister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00293.html - Description: FrameworkRegistry类的封装,通过类的构造函数调用FrameworkRegistry类的AddAutoMappingSubgraphIOIndexFunc函数完成映射函数的注册。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00293_html.md ## FrameworkRegistry类构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00295.html - Description: FrameworkRegistry构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00295_html.md ## CANN商业版-GetAutoMappingSubgraphIOIndexFunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00296.html - Description: 根据网络类型,获取已经注册的自动映射函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00296_html.md ## CANN商业版-AddAutoMappingSubgraphIOIndexFunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00297.html - Description: 注册的具体网络类型的自动映射函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00297_html.md ## CANN商业版-ListTensorType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00320.html - Description: ListTensorType类用以定义输入或者输出支持的数据类型,是TensorType的封装,用于标识支持多个数据类型的情况。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00320_html.md ## MemBlock构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00322.html - Description: MemBlock构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00322_html.md ## CANN商业版-GetAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00323.html - Description: - 获取只读的device内存地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00323_html.md ## CANN商业版-GetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00324.html - Description: 获取device内存对应的大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00324_html.md ## CANN商业版-SetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00325.html - Description: 设置device内存地址大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00325_html.md ## CANN商业版-Free - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00326.html - Description: MemBlock的引用计数减为0时,释放MemBlock到内存池。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00326_html.md ## CANN商业版-AddCount - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00327.html - Description: MemBlock引用计数加1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00327_html.md ## CANN商业版-SubCount - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00328.html - Description: MemBlock引用计数减1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00328_html.md ## CANN商业版-GetCount - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00329.html - Description: 获取MemBlock的引用计数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00329_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00384.html - Description: 开发人员完成自定义算子的实现代码后,需要进行适配插件的开发将基于第三方框架的算子映射成适配AI处理器的算子,可调用REGISTER\_CUSTOM\_OP宏实现算子转换。在调用REGISTER\_CUSTOM\_OP宏时,以REGISTER\_CUSTOM\_OP开始,以“.”链接FrameworkType、OriginOpType、ParseParamsFn等接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00384_html.md ## OpRegistrationData构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00385.html - Description: OpRegistrationData构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00385_html.md ## REGISTER\_CUSTOM\_OP宏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00386.html - Description: 按指定名称注册算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00386_html.md ## CANN商业版-FrameworkType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00387.html - Description: 设置原始模型的框架类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00387_html.md ## CANN商业版-OriginOpType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00388.html - Description: 设置原始模型的算子类型或算子类型列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00388_html.md ## CANN商业版-ParseParamsFn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00389.html - Description: 注册解析算子属性的函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00389_html.md ## CANN商业版-ParseParamsByOperatorFn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00390.html - Description: 注册解析用户自定义算子属性的函数 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00390_html.md ## CANN商业版-FusionParseParamsFn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00391.html - Description: 注册解析融合算子属性的函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00391_html.md ## FusionParseParamsFn(Overload) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00392.html - Description: 注册解析融合算子属性的函数,为FusionParseParamsFn的重载函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00392_html.md ## CANN商业版-ParseSubgraphPostFn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00393.html - Description: 根据算子类型,注册算子的子图中输入输出节点跟算子的输入输出的对应关系函数实现。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00393_html.md ## CANN商业版-ParseOpToGraphFn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00394.html - Description: 注册实现算子一对多子图映射的函数,即将算子映射为多个算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00394_html.md ## CANN商业版-ImplyType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00395.html - Description: \#\#\#\# 函数功能 设置算子执行方式。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00395_html.md ## CANN商业版-DelInputWithCond - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00396.html - Description: 根据算子属性,删除算子指定输入边。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00396_html.md ## CANN商业版-DelInputWithOriginalType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00397.html - Description: 根据算子类型,删除算子指定输入边。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00397_html.md ## CANN商业版-GetImplyType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00398.html - Description: \#\#\#\# 函数功能 获取算子执行方式。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00398_html.md ## CANN商业版-GetOmOptype - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00399.html - Description: 获取模型的算子类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00399_html.md ## CANN商业版-GetOriginOpTypeSet - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00400.html - Description: 获取原始模型的算子类型集合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00400_html.md ## CANN商业版-GetFrameworkType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00401.html - Description: 获取原始模型的框架类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00401_html.md ## CANN商业版-GetParseParamFn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00402.html - Description: 获取解析算子属性的函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00402_html.md ## CANN商业版-GetFusionParseParamFn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00404.html - Description: 获取解析融合算子属性的函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00404_html.md ## CANN商业版-GetFusionParseParamByOpFn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00405.html - Description: 获取解析融合算子属性的函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00405_html.md ## CANN商业版-GetParseSubgraphPostFn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00406.html - Description: 根据算子类型,获取算子注册的子图中输入输出节点跟算子的输入输出的对应关系实现的函数对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00406_html.md ## CANN商业版-GetParseOpToGraphFn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00407.html - Description: 获取将算子映射为一对多子图的实现函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00407_html.md ## CANN商业版-AutoMappingFn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00408.html - Description: \#\#\#\# 函数功能 自动映射回调函数。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00408_html.md ## CANN商业版-AutoMappingByOpFn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00409.html - Description: \#\#\#\# 函数功能 自动映射回调函数。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00409_html.md ## CANN商业版-AutoMappingFnDynamic - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00410.html - Description: 动态输入/输出算子的自动映射回调函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00410_html.md ## CANN商业版-AutoMappingSubgraphIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00412.html - Description: 设置子图的输入输出和主图对应父节点输入输出的对应关系。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00412_html.md ## CANN商业版-InputReorderVector - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00413.html - Description: 支持在算子插件中调整算子的输入参数顺序,此接口为内部使用接口,外部开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00413_html.md ## CANN商业版-Promote - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00414.html - Description: Promote类用于表示输出数据类型为输入或属性指定的数据类型间的提升类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00414_html.md ## Shape构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00422.html - Description: Shape构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00422_html.md ## CANN商业版-GetDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00423.html - Description: 获取Shape第idx维的长度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00423_html.md ## CANN商业版-GetDims - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00424.html - Description: 获取Shape所有维度组成的向量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00424_html.md ## CANN商业版-GetDimNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00425.html - Description: 获取Shape的维度个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00425_html.md ## CANN商业版-GetShapeSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00426.html - Description: 获取Shape中所有dim的累乘结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00426_html.md ## CANN商业版-SetDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00427.html - Description: 将Shape中第idx维度的值设置为value。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00427_html.md ## CANN商业版-TensorDescInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00428.html - Description: ``` struct TensorDescInfo \{ Format format \= FORMATRESERVED; / tbe op register support format / DataType dataType \= DTUNDEFINED; / tbe op register support datatype / \}; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00428_html.md ## TensorDesc构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00430.html - Description: TensorDesc构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00430_html.md ## CANN商业版-GetConstData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00431.html - Description: 如果TensorDesc是常量节点的描述,获取TensorDesc中的权重值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00431_html.md ## CANN商业版-GetDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00432.html - Description: 获取TensorDesc所描述Tensor的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00432_html.md ## CANN商业版-GetExpandDimsRule - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00433.html - Description: 获取Tensor的补维规则。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00433_html.md ## CANN商业版-GetFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00434.html - Description: 获取TensorDesc所描述的Tensor的Format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00434_html.md ## CANN商业版-GetName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00435.html - Description: 获取TensorDesc所描述Tensor的名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00435_html.md ## CANN商业版-GetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00436.html - Description: 获取TensorDesc所描述Tensor的原始Format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00436_html.md ## CANN商业版-GetOriginShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00437.html - Description: 获取TensorDesc所描述Tensor的原始Shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00437_html.md ## CANN商业版-GetPlacement - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00438.html - Description: 获取Tensor中数据地址的类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00438_html.md ## CANN商业版-GetRealDimCnt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00439.html - Description: 获取TensorDesc所描述Tensor的实际维度个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00439_html.md ## CANN商业版-GetShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00440.html - Description: 获取TensorDesc所描述Tensor的Shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00440_html.md ## CANN商业版-GetShapeRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00441.html - Description: 获取设置的shape变化范围。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00441_html.md ## CANN商业版-GetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00442.html - Description: 获取TensorDesc所描述Tensor的数据大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00442_html.md ## CANN商业版-SetConstData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00443.html - Description: 如果TensorDesc是常量节点的描述,向TensorDesc中设置权重值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00443_html.md ## CANN商业版-SetDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00444.html - Description: 向TensorDesc中设置Tensor的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00444_html.md ## CANN商业版-SetExpandDimsRule - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00445.html - Description: 设置补维规则。补维是指在原有shape的基础上,添加一到多个维度。例如原shape\[2,2\]有两根轴,那么在两根轴中间补两维后的shape为\[2,1,1,2\],补维后shape的第0、3根轴被称为原始轴,第1、2根轴被称为补维轴。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00445_html.md ## CANN商业版-SetFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00446.html - Description: 向TensorDesc中设置Tensor的Format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00446_html.md ## CANN商业版-SetName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00447.html - Description: 向TensorDesc中设置Tensor的名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00447_html.md ## CANN商业版-SetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00448.html - Description: 向TensorDesc中设置Tensor的原始Format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00448_html.md ## CANN商业版-SetOriginShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00449.html - Description: 向TensorDesc中设置Tensor的原始Shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00449_html.md ## CANN商业版-SetPlacement - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00450.html - Description: 设置Tensor的数据存放的位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00450_html.md ## CANN商业版-SetRealDimCnt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00451.html - Description: 向TensorDesc中设置Tensor的实际维度数目。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00451_html.md ## CANN商业版-SetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00452.html - Description: 向TensorDesc中设置Tensor的数据大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00452_html.md ## CANN商业版-SetShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00453.html - Description: 向TensorDesc中设置Tensor的Shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00453_html.md ## CANN商业版-SetShapeRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00454.html - Description: 设置shape的变化范围。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00454_html.md ## CANN商业版-SetUnknownDimNumShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00455.html - Description: 设置tensor的shape为\{-2\},用来表示tensor是完全未知的。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00455_html.md ## CANN商业版-Update - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00456.html - Description: 更新TensorDesc的Shape、Format、DataType属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00456_html.md ## CANN商业版-TensorType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00457.html - Description: TensorType类用以定义输入或者输出支持的数据类型,TensorType提供以下接口指定支持的数据类型: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00457_html.md ## Tensor构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00459.html - Description: Tensor构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00459_html.md ## CANN商业版-IsValid - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00461.html - Description: 判断Tensor对象是否有效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00461_html.md ## CANN商业版-GetDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00463.html - Description: 获取Tensor的DataType。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00463_html.md ## CANN商业版-GetFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00465.html - Description: 获取Tensor的Format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00465_html.md ## CANN商业版-GetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00466.html - Description: 获取Tensor的原始Format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00466_html.md ## CANN商业版-GetOriginShapeDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00467.html - Description: 获取原始Shape第idx维度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00467_html.md ## CANN商业版-GetOriginShapeDimNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00468.html - Description: 获取原始Shape的维度大小,即rank大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00468_html.md ## CANN商业版-GetPlacement - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00469.html - Description: 获取Tensor的Placement。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00469_html.md ## CANN商业版-GetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00470.html - Description: 获取Tensor中的数据的大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00470_html.md ## CANN商业版-GetShapeDimNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00471.html - Description: 获取Shape的维度大小,即rank大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00471_html.md ## CANN商业版-GetShapeDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00472.html - Description: 获取Shape第idx维度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00472_html.md ## CANN商业版-GetTensorDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00473.html - Description: 获取Tensor的描述符。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00473_html.md ## CANN商业版-SetDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00475.html - Description: 设置Tensor的Datatype。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00475_html.md ## CANN商业版-SetExpandDimsRule - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00476.html - Description: 设置Tensor的补维规则。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00476_html.md ## CANN商业版-SetFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00477.html - Description: 设置Tensor的Format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00477_html.md ## CANN商业版-SetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00478.html - Description: 设置Tensor的原始Format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00478_html.md ## CANN商业版-SetOriginShapeDimNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00480.html - Description: 设置原始shape的维度大小,即rank大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00480_html.md ## CANN商业版-SetPlacement - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00481.html - Description: 设置Tensor的数据存放的位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00481_html.md ## CANN商业版-SetShapeDimNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00482.html - Description: 设置shape的维度大小,即rank大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00482_html.md ## CANN商业版-SetShapeDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00483.html - Description: 设置shape第idx维度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00483_html.md ## CANN商业版-SetTensorDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00484.html - Description: 设置Tensor的描述符(TensorDesc)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00484_html.md ## CANN商业版-ResetData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00485.html - Description: 释放Tensor中数据内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00485_html.md ## CANN商业版-DataTypeToAscendString - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00487.html - Description: 将DataType类型值转化为字符串表达。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00487_html.md ## CANN商业版-AscendStringToDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00488.html - Description: 将DataType字符串表达转化为DataType类型值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00488_html.md ## CANN商业版-FormatToAscendString - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00489.html - Description: 将Format类型值转化为字符串表达。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00489_html.md ## CANN商业版-AscendStringToFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00490.html - Description: 将字符串转化为Format类型值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00490_html.md ## CANN商业版-DataTypeToSerialString - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00491.html - Description: 将DataType类型值转化为字符串表达。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00491_html.md ## CANN商业版-FormatToSerialString - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00493.html - Description: 将Format类型值转化为字符串表达。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00493_html.md ## CANN商业版-SerialStringToFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00494.html - Description: 将字符串转化为Format类型值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00494_html.md ## CANN商业版-DataFormatToFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00495.html - Description: 将数据格式字符串转化为Format类型值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00495_html.md ## CANN商业版-GetDataTypeLength - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00496.html - Description: 获取数据类型所占内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00496_html.md ## CANN商业版-ConvertToListAscendString - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00500.html - Description: 定义了一个模板函数ConvertToListAscendString,用于将不同类型的字符串列表转换为AscendString类型的列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00500_html.md ## CANN商业版-GetC0Format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00501.html - Description: 根据实际format获取C0 format的值。C0值是AI处理器特有数据格式所需要的参数。例如NC1HWC0,最后一维即表示C0值,C0值在不同的AI处理器中数值不同,通过C0 format来承载。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00501_html.md ## CANN商业版-GetC0Value - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00502.html - Description: 从实际format中解析出C0 format信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00502_html.md ## CANN商业版-GetFormatFromC0 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00503.html - Description: 根据传入的format和C0 format信息得到实际的format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00503_html.md ## CANN商业版-GetFormatFromSub - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00504.html - Description: 根据传入的主format和子format信息得到实际的format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00504_html.md ## CANN商业版-GetFormatFromSubAndC0 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00505.html - Description: 根据传入的主format,子format和C0 format信息得到实际的format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00505_html.md ## CANN商业版-GetFormatName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00506.html - Description: 根据传入的Format类型,获取Format的字符串描述。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00506_html.md ## CANN商业版-GetPrimaryFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00507.html - Description: 从实际format中解析出主format信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00507_html.md ## CANN商业版-GetSizeByDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00508.html - Description: 根据传入的data\_type,获取该data\_type所占用的内存大小。如果要获取多个元素的内存大小,请使用GetSizeInBytes。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00508_html.md ## CANN商业版-GetSizeInBytes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00509.html - Description: 根据传入的element\_count和data\_type,获取element\_count个该data\_type所占用的内存总大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00509_html.md ## CANN商业版-GetSubFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00510.html - Description: 从实际format中解析出子format信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00510_html.md ## CANN商业版-HasC0Format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00511.html - Description: 判断实际format中是否包含C0 format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00511_html.md ## ge::graphStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00513.html - Description: graphStatus类型即uint32\_t类型,其不同的状态说明如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00513_html.md ## CANN商业版-DataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00514.html - Description: DataType枚举值定义如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00514_html.md ## CANN商业版-Format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00515.html - Description: ``` enum Format \{ FORMATNCHW \= 0, // NCHW FORMATNHWC, // NHWC FORMATND, // Nd Tensor FORMATNC1HWC0, // NC1HWC0 FORMATFRACTALZ, // FRACTALZ FORMATNC1C0HWPAD \= 5, FORMA - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00515_html.md ## CANN商业版-DECLARE\_ERRORNO - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00518.html - Description: 错误码及描述注册宏,该宏对外提供如下四个错误码供用户使用: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00518_html.md ## CANN商业版-GetDeterministic - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00535.html - Description: 获取确定性计算配置选项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00535_html.md ## CANN商业版-SetReuseInputIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00539.html - Description: 设置算子输出TensorDesc复用内存的输入TensorDesc的序号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00539_html.md ## CANN商业版-OpLibRegister类所提供的接口为内部关联接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00541.html - Description: OpLibRegister类所提供的接口为内部关联接口,当前主要为自定义算子动态库提供注册功能,供自定义算子工程框架注册指定初始化函数,开发者无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00541_html.md ## 构造和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00542.html - Description: OpLibRegister的构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00542_html.md ## CANN商业版-RegOpLibInit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00543.html - Description: 注册自定义算子动态库的初始化函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00543_html.md ## CANN商业版-GetDynamicInputTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00544.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入tensor指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00544_html.md ## CANN商业版-CompileTimeTensorDesc用于描述编译时张量的基本信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00545.html - Description: CompileTimeTensorDesc用于描述编译时张量的基本信息,包括数据类型(ge::DataType)、数据排布格式(gert::StorageFormat,包括原始格式和运行时格式)以及原始格式向运行时格式转换时的补维规则。该类提供了对张量数据类型的获取和设置方法,同时支持对原始格式和运行时格式的管理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00545_html.md ## CANN商业版-ExtendedKernelContext是KernelContext的子类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00546.html - Description: ExtendedKernelContext是KernelContext的子类,在KernelContext的基础上,封装了与计算节点(Compute Node,即算子)相关的Context信息处理接口。它提供了对计算节点输入、输出、属性、类型、名称等信息的访问接口。该类的主要目的是简化对计算节点信息的获取和处理过程。用户无需感知KernelContext信息的排布,可以直接通过ExtendedKe - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00546_html.md ## CANN商业版-InferDataTypeContext继承自ExtendedKernelCon - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00547.html - Description: InferDataTypeContext继承自ExtendedKernelContext,是一个用于数据类型(DataType)推导的上下文类,该类的主要作用是在算子数据类型推导过程中,提供获取输入、输出数据类型的接口,并支持设置输出数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00547_html.md ## CANN商业版-InferShapeContext继承自ExtendedKernelContex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00548.html - Description: InferShapeContext继承自ExtendedKernelContext,是一个用于shape推导的上下文类。该类的主要作用是在推导算子输出shape的过程中,提供必要的输入输出shape和输入tensor访问接口。对于部分推导shape过程依赖输入张量值的算子(例如Slice、Pad),该类提供了GetInputTensor等接口以获取实际输入数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00548_html.md ## CANN商业版-InferShapeRangeContext继承自ExtendedKernelC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00549.html - Description: InferShapeRangeContext继承自ExtendedKernelContext,主要用于获取算子的输入输出ShapeRange和输入TensorRange,其中ShapeRange和TensorRange分别是Range模板的特化类型,记录了算子Shape和Tensor值的上下限。部分算子(例如,NonZero算子)在进行shape推导时,无法推导出具体的输出shape,只能通 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00549_html.md ## CANN商业版-OpImplRegisterV2是一个算子实现注册工具类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00550.html - Description: OpImplRegisterV2是一个算子实现注册工具类,用于自定义算子开发。它支持以下功能: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00550_html.md ## CANN商业版-RuntimeAttrs是一个算子属性存取类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00551.html - Description: RuntimeAttrs是一个算子属性存取类,用于在算子执行过程中提供对属性的访问能力。该类提供了一系列方法,允许用户根据属性索引获取不同类型的属性值,例如,int64\_t、float、bool、string、Tensor等类型。在ExtendedKernelContext及其子类中,可通过GetAttrs接口获取算子属性,返回值中仅包含在IR原型定义中的属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00551_html.md ## CANN商业版-StorageFormat是算子数据存储格式管理类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00552.html - Description: StorageFormat是算子数据存储格式管理类,用于表达张量格式、记录不同格式的转换补维规则。该类主要存储: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00552_html.md ## CANN商业版-TensorData是一个张量数据管理类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00553.html - Description: TensorData是一个张量数据管理类,用于记录张量的地址、大小、存放位置(TensorPlacement),支持张量的共享、所有权释放,管理张量的生命周期。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00553_html.md ## CANN商业版-Tensor是张量管理类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00554.html - Description: Tensor是张量管理类,用于存储和操作张量数据。该类记录了张量的shape、数据格式、数据类型、存放位置,提供了数据地址访问、数据大小计算等接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00554_html.md ## CANN商业版-TilingContext继承自ExtendedKernelContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00555.html - Description: TilingContext继承自ExtendedKernelContext,是用于算子Tiling计算的上下文类,提供了获取算子编译信息(CompileInfo),输入输出shape、输入张量的值以及访问算子Tiling相关参数的接口。在算子Tiling实现中,可以通过该类获取计算Tiling所依赖的参数,然后将Tiling结果(例如TilingKey、TilingData)保存至上下文中,供后续 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00555_html.md ## CANN商业版-TilingData用于存储算子Tiling的计算结果 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00556.html - Description: TilingData用于存储算子Tiling的计算结果,即Tiling实现根据算子的shape等信息确定的数据切分算法相关参数(比如每次搬运的数据块大小,搬运、计算操作的循环次数)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00556_html.md ## CANN商业版-IntegerChecker是一个模板类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00560.html - Description: IntegerChecker是一个模板类,带有模板参数T,用于检查一个整数是否在指定数据类型T的合法范围内。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00560_html.md ## CANN商业版-Compat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00561.html - Description: 检查入参的数值是否超过指定数据类型T所能表示的数值范围。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00561_html.md ## CANN商业版-AddOverflow - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00562.html - Description: 该模板函数用于判断两个数值相加是否会发生溢出,并在不溢出的情况下返回正确的计算结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00562_html.md ## CANN商业版-MulOverflow - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00563.html - Description: 该模板函数用于判断两个数值相乘是否会发生溢出,并在不溢出的情况下返回正确的计算结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00563_html.md ## CANN商业版-GetOptionalInputTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00564.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入tensor指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00564_html.md ## CANN商业版-InferFormatContext继承自ExtendedKernelConte - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00572.html - Description: InferFormatContext继承自ExtendedKernelContext,是一个用于Format推导的上下文类。该类的主要作用是在推导算子输出Format的过程中,提供必要的输入输出Format、输入输出Shape和输入Tensor访问接口。InferFormatContext是Format推导函数的入参,Format推导函数的相关解释请参考InferFormat。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00572_html.md ## CANN商业版-GetInputFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00573.html - Description: 根据算子输入索引获取对应的输入Format指针。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00573_html.md ## CANN商业版-GetRequiredInputFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00574.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入Format指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00574_html.md ## CANN商业版-GetOptionalInputFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00575.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入Format指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00575_html.md ## CANN商业版-GetDynamicInputFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00576.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入Format指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00576_html.md ## CANN商业版-GetInputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00577.html - Description: 根据算子输入索引获取对应的输入Shape指针。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00577_html.md ## CANN商业版-GetRequiredInputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00578.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入Shape指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00578_html.md ## CANN商业版-GetOptionalInputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00579.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入Shape指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00579_html.md ## CANN商业版-GetDynamicInputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00580.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入Shape指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00580_html.md ## CANN商业版-GetInputTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00581.html - Description: 根据算子输入索引获取对应的输入Tensor指针。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00581_html.md ## CANN商业版-GetRequiredInputTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00582.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入Tensor指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00582_html.md ## CANN商业版-GetOptionalInputTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00583.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入Tensor指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00583_html.md ## CANN商业版-GetDynamicInputTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00584.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入Tensor指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00584_html.md ## CANN商业版-GetOutputFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00585.html - Description: 根据算子输出索引获取对应的输出Format指针。这里的输出索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00585_html.md ## CANN商业版-GetRequiredOutputFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00586.html - Description: 根据算子原型定义中的输出索引获取对应的必选输出Format指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00586_html.md ## CANN商业版-GetDynamicOutputFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00587.html - Description: 根据算子原型定义中的输出索引获取对应的动态输出Format指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00587_html.md ## CANN商业版-InferFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00588.html - Description: 注册算子的InferFormat函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00588_html.md ## CANN商业版-SetAicpuBlockDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00589.html - Description: 设置可以调度的AI CPU核数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00589_html.md ## CANN商业版-GetAicpuBlockDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00590.html - Description: 获取用户设置的可以调度的AI CPU核数。设置方式请参考SetAicpuBlockDim。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00590_html.md ## CANN商业版-GetShapeSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00591.html - Description: 获取Shape中所有维度大小的累乘结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00591_html.md ## CANN商业版-Context是算子Host侧实现函数执行时的上下文 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00597.html - Description: Context是算子Host侧实现函数执行时的上下文,由于构造出来的Context存储的都是指针类型,为了方便进行生命周期和所有权管理,提供ContextHolder类进行资源管理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00597_html.md ## CANN商业版-GetContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00598.html - Description: 根据指定类型获取对应的Context指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00598_html.md ## CANN商业版-OpContextBuilderBase是各ContextBuilder的基类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00600.html - Description: OpContextBuilderBase是各ContextBuilder的基类,用于构造子类context中算子信息,包括算子类型、名称、输入输出原型个数、输入输出实例个数、属性等信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00600_html.md ## CANN商业版-OpType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00601.html - Description: 设置算子类型,用于构造各子类Context的基类ExtendedKernelContext中ComputeNodeInfo信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00601_html.md ## CANN商业版-OpName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00602.html - Description: 设置算子名称,用于构造各子类Context的基类ExtendedKernelContext中ComputeNodeInfo信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00602_html.md ## CANN商业版-IONum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00603.html - Description: 设置算子输入输出IR原型个数,用于构造各子类Context的基类ExtendedKernelContext中ComputeNodeInfo信息。该接口默认每个IR原型输入输出的实例个数为1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00603_html.md ## CANN商业版-IOInstanceNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00604.html - Description: 当输入IR原型实例个数不为1时(一般是可选输入或动态输入场景),需要设置算子每个输入IR原型的实例个数,用于构造各子类Context的基类ExtendedKernelContext中ComputeNodeInfo信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00604_html.md ## CANN商业版-AppendAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00605.html - Description: 追加算子IR原型的属性信息,下标从0开始,用于构造各子类Context的基类ExtendedKernelContext中的ExtendedInfo信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00605_html.md ## CANN商业版-OpInferDataTypeContextBuilder用于构建InferDa - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00607.html - Description: OpInferDataTypeContextBuilder用于构建InferDataTypeContext 。构造出的Context在算子数据类型推导过程中作为入参,用于获取必要的算子输入输出数据。推导完成后,结果会被写入回上下文中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00607_html.md ## OpInferDataTypeContextBuilder构造与析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00608.html - Description: OpInferDataTypeContextBuilder类构造函数与析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00608_html.md ## CANN商业版-InputTensorDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00609.html - Description: 设置输入Tensor的描述信息,用于构造InferDataTypeContext的基类ExtendedKernelContext中的ComputeNodeInfo信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00609_html.md ## CANN商业版-OutputTensorDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00610.html - Description: 设置输出Tensor描述信息,用于构造InferDataTypeContext的基类ExtendedKernelContext中的ComputeNodeInfo信息。无需设置输出数据类型信息,输出数据类型由算子根据输入数据类型计算推导得到。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00610_html.md ## CANN商业版-Build - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00611.html - Description: 根据之前的设置,构建InferDataTypeContext,返回一个ContextHolder对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00611_html.md ## CANN商业版-OpInferShapeContextBuilder用于构建InferShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00613.html - Description: OpInferShapeContextBuilder用于构建InferShapeContext。构造出的Context在算子Shape推导过程中作为入参,用于获取必要的算子输入输出数据。推导完成后,结果会被写回上下文中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00613_html.md ## OpInferShapeContextBuilder构造与析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00614.html - Description: OpInferShapeContextBuilder构造与析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00614_html.md ## CANN商业版-OutputTensorDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00615.html - Description: 设置算子输出的Tensor描述信息,用于构造InferShapeContext的基类ExtendedKernelContext中的ComputeNodeInfo等信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00615_html.md ## CANN商业版-Build - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00617.html - Description: 根据前期的设置,构建InferShapeContext,返回一个ContextHolder对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00617_html.md ## CANN商业版-OpInferShapeRangeContextBuilder用于构建Infer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00619.html - Description: OpInferShapeRangeContextBuilder用于构建InferShapeRangeContext。构造出的Context在算子ShapeRange推导过程中作为输入,用于获取必要的算子输入输出数据。推导完成后,结果会被写回上下文中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00619_html.md ## OpInferShapeRangeContextBuilder构造函数与析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00620.html - Description: OpInferShapeRangeContextBuilder构造函数与析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00620_html.md ## CANN商业版-OutputTensorDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00621.html - Description: 设置算子输出的Tensor描述信息,用于构造InferShapeRangeContext的基类ExtendedKernelContext中的ComputeNodeInfo信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00621_html.md ## CANN商业版-InputTensorsRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00622.html - Description: 设置输入Tensor的Range指针,用于在Shape Range推导时,可通过该Builder类构造的上下文InferShapeRangeContext获取相应的输入Tensor Range指针,即可以获得最大Shape的Tensor和最小Shape的Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00622_html.md ## CANN商业版-Build - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00623.html - Description: 根据之前的设置,构建InferShapeRangeContext,返回一个ContextHolder对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00623_html.md ## CANN商业版-用于构建一个通用的KernelContext对象 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00625.html - Description: 用于构建一个通用的KernelContext对象,该上下文作为算子Host实现实际执行阶段的输入上下文。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00625_html.md ## OpKernelContextBuilder构造与析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00626.html - Description: OpKernelContextBuilder构造与析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00626_html.md ## CANN商业版-InputTensorDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00627.html - Description: 设置Tensor描述信息,用于构造KernelContext的基类ExtendedKernelContext中的ComputeNodeInfo等信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00627_html.md ## CANN商业版-OutputTensorDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00628.html - Description: 设置Tensor描述信息,用于构造KernelContext的基类ExtendedKernelContext中的ComputeNodeInfo信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00628_html.md ## CANN商业版-Inputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00629.html - Description: 设置Context的values的输入指针,values承载的类型为void*的指针数组。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00629_html.md ## CANN商业版-Build - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00630.html - Description: 根据之前的设置,构建KernelContext,返回一个ContextHolder对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00630_html.md ## CANN商业版-OpTilingContextBuilder用于构建TilingContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00632.html - Description: OpTilingContextBuilder用于构建TilingContext。构造出的Context在算子Tiling计算过程中作为入参,用于获取必要的算子输入输出等数据。Tiling计算完成后,结果会被写回上下文中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00632_html.md ## OpTilingContextBuilder构造与析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00633.html - Description: OpTilingContextBuilder构造与析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00633_html.md ## CANN商业版-CompileInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00634.html - Description: 设置算子的CompileInfo指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00634_html.md ## CANN商业版-PlatformInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00635.html - Description: 设置PlatformInfo平台信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00635_html.md ## CANN商业版-TilingDataSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00638.html - Description: 设置算子TilingData的大小,设置该大小后,会申请相应大小的内存用于存储算子的TilingData。相较于TilingData,调用此接口时生成的TilingData指针所有权归属ContextHolder,调用者无需关注TilingData的生命周期。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00638_html.md ## CANN商业版-InputTensors - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00640.html - Description: 设置输入Tensor指针,用于在Tiling计算时,可通过该Builder类构造的上下文TilingContext获取相应的输入Tensor指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00640_html.md ## CANN商业版-Build - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00642.html - Description: 根据之前的设置,构建TilingContext,返回一个ContextHolder对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00642_html.md ## CANN商业版-OpTilingParseContextBuilder用于构建TilingPar - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00644.html - Description: OpTilingParseContextBuilder用于构建TilingParseContext。构造出的Context在算子TilingParse计算过程中作为输入,用于获取必要的算子输入输出数据。完成Parser计算后,结果会被写回到上下文中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00644_html.md ## OpTilingParseContextBuilder构造与析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00645.html - Description: OpTilingParseContextBuilder构造与析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00645_html.md ## CANN商业版-InputTensorDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00646.html - Description: 设置Tensor描述信息,用于构造TilingParseContext的基类ExtendedKernelContext中的ComputeNodeInfo等信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00646_html.md ## CANN商业版-OutputTensorDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00647.html - Description: 设置输出Tensor描述信息,用于构造TilingParseContext的基类ExtendedKernelContext中的ComputeNodeInfo等信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00647_html.md ## CANN商业版-CompiledJson - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00648.html - Description: 设置算子的CompiledJson指针,json格式文件指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00648_html.md ## CANN商业版-CompiledInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00649.html - Description: 设置算子的CompiledInfo指针,用于存储TilingParse的结果即CompileInfo信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00649_html.md ## CANN商业版-PlatformInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00650.html - Description: 设置算子的PlatFormInfo指针,用于构造TilingParseContext的PlatformInfo字段。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00650_html.md ## CANN商业版-Build - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00651.html - Description: 根据之前的设置,构建TilingParseContext,返回一个ContextHolder对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00651_html.md ## CANN商业版-LoadFromData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00671.html - Description: 提供将序列化后的Task任务反序列化的能力,主要用于在GenerateTask函数中,将框架构造的Task反序列化后,修改其参数使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00671_html.md ## CANN商业版-CreateAicpuKfcTask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00672.html - Description: 创建一个AI CPU的KFC Task。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00672_html.md ## CANN商业版-CreateHcomWaitTask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00674.html - Description: 创建一个Wait Task,此Task用于阻塞流,当与其有相同group\_name的Record Task被执行时,阻塞会被解除。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00674_html.md ## CANN商业版-Serialize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00675.html - Description: 将KernelLaunchInfo序列化成数据流。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00675_html.md ## CANN商业版-GetStreamId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00676.html - Description: 获取当前Task所在流的id。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00676_html.md ## CANN商业版-SetStreamId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00677.html - Description: 设置Task的流id。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00677_html.md ## CANN商业版-SetBlockDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00679.html - Description: 设置算子BlockDim。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00679_html.md ## CANN商业版-GetArgsFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00680.html - Description: 获取算子的ArgsFormat。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00680_html.md ## CANN商业版-SetArgsFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00681.html - Description: 设置算子的ArgsFormat。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00681_html.md ## CANN商业版-GetSoName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00682.html - Description: 获取AI CPU任务的so名称。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00682_html.md ## CANN商业版-GetKernelName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00683.html - Description: 获取AI CPU任务的Kernel入口函数名字。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00683_html.md ## CANN商业版-Expand - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00686.html - Description: 该函数用于将TilingData扩展指定的大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00686_html.md ## CANN商业版-Op2StageExecuteFuncs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00688.html - Description: 单个算子包含多Kernel组合执行逻辑的场景下,算子可以通过该接口设置算子级的回调函数,包含下发准备回调函数和下发回调函数,下发准备回调函数完成Kernel下发使用到的参数的准备,下发回调函数内实现多Kernel的下发。本接口为内部关联接口,开发者不会直接调用,暂时无需关注。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00688_html.md ## CANN商业版-ExeResGenerationContext继承自ExtendedKernel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00690.html - Description: ExeResGenerationContext继承自ExtendedKernelContext,用于生成执行资源的上下文类,主要用于在算子执行前,生成或配置执行所需的各种资源,包括:内存、异步执行流、同步资源、算子属性、输入输出张量的形状信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00690_html.md ## CANN商业版-GetExecuteMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00691.html - Description: 返回当前算子运行的执行模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00691_html.md ## CANN商业版-IsConstInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00692.html - Description: 用于判断某个输入张量是否为常量数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00692_html.md ## CANN商业版-GetInputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00693.html - Description: 获取算子输入张量的实际存储形状。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00693_html.md ## CANN商业版-SetAttachedStreamInfos - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00695.html - Description: 为当前算子附着一组Stream信息,用于指定该算子在哪个执行流(Stream)上运行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00695_html.md ## CANN商业版-GetAttachedStreamInfos - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00696.html - Description: 返回当前算子绑定的所有StreamInfo列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00696_html.md ## CANN商业版-GetStreamId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00697.html - Description: 返回当前算子绑定的StreamId。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00697_html.md ## CANN商业版-SetSyncResInfos - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00698.html - Description: 将传入的同步资源信息列表(sync\_info\_vec)设置到当前对象中,用于配置图执行时的同步资源行为。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00698_html.md ## CANN商业版-SetWorkspaceBytes - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00701.html - Description: 设置Workspace大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00701_html.md ## CANN商业版-GetOpId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00702.html - Description: 获取当前算子的唯一标识ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00702_html.md ## CANN商业版-SetListStr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00703.html - Description: 设置字符串列表类型的属性值到算子中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00703_html.md ## CANN商业版-SetStrAttrVal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00705.html - Description: 设置一个字符串类型的属性值到算子中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00705_html.md ## CANN商业版-GetIntAttrVal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00706.html - Description: 获取算子整数类型的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00706_html.md ## CANN商业版-SetIntAttrVal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00707.html - Description: 设置一个整数类型的属性值到算子中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00707_html.md ## CANN商业版-OpCheckContext继承自ExtendedKernelContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00709.html - Description: OpCheckContext继承自ExtendedKernelContext,用于算子参数与形状校验的上下文类,OpCheckContext的核心作用是在算子注册或执行前,对输入输出张量的形状、数据类型、维度等进行合法性校验,确保算子能够安全、正确地运行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00709_html.md ## CANN商业版-GetInputShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00710.html - Description: 获取算子输入张量的实际存储形状。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00710_html.md ## CANN商业版-CalcOpParam - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00712.html - Description: 该接口用于GenerateTask阶段的资源计算和申请。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00712_html.md ## CANN商业版-GenerateTask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00713.html - Description: GenerateTask阶段具体Task的生成和处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00713_html.md ## CANN商业版-CheckSupport - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00714.html - Description: 注册一个“是否支持该算子”的判断函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00714_html.md ## CANN商业版-OpSelectFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00715.html - Description: 注册一个格式选择函数,获取数据类型和数据格式,由算子自行决定支持情况。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00715_html.md ## CANN商业版-StreamInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00716.html - Description: name: 资源名称(或类型名),若reusekey为空,则该字段用作资源复用的键(reuse key)。 reusekey: 资源复用键,相同key的资源将被复用(共享),用于优化内存或计算资源分配。 dependvalueinputindices: 依赖的输入值索引列表,表示该资源的创建或分配依赖于哪些输入张量的值。 required: 是否为必选资源。若为true,资源必须 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00716_html.md ## CANN商业版-SyncResInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00717.html - Description: type: 资源类型,标识该同步资源的类别(如事件同步、内存同步、计算同步等)。 name: 资源名称(或类型名),若reusekey为空,则此字段将作为资源复用的键(reuse key)使用。 reusekey: 资源复用键,相同key的资源将被复用(共享),用于优化资源分配与减少冗余创建。 required: 是否为必选资源。若为true,表示该资源必须成功分配,否则算子校验 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00717_html.md ## CANN商业版-C\_DataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00719.html - Description: C\_DataType枚举值定义如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00719_html.md ## CANN商业版-C\_Format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00720.html - Description: ``` typedef enum \{ CFORMATNCHW \= 0, // NCHW CFORMATNHWC, // NHWC CFORMATND, // Nd Tensor CFORMATNC1HWC0, // NC1HWC0 CFORMATFRACTALZ, // FRACTALZ CFORMATNC1C0HWPAD \= 5, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00720_html.md ## Stride构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00723.html - Description: Stride构造函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00723_html.md ## operator\=\= - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00724.html - Description: 判断与另外一个Stride对象是否相等,如果两个Stride的维度数量相等,并且每个维度的步长的值都相等,则认为两个Stride对象相等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00724_html.md ## operator\!\= - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00725.html - Description: 判断与另一个Stride对象是否不等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00725_html.md ## operator\[\] - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00726.html - Description: 获取指定idx轴的步长值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00726_html.md ## CANN商业版-GetDimNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00727.html - Description: 获取Stride对象的维度个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00727_html.md ## CANN商业版-SetDimNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00728.html - Description: 设置Stride对象的维度个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00728_html.md ## CANN商业版-GetStride - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00729.html - Description: 获取对应idx轴的步长值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00729_html.md ## CANN商业版-SetStride - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00730.html - Description: 设置指定idx轴的步长值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00730_html.md ## CANN商业版-AppendStride - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00731.html - Description: 向后扩展一个步长值,如果扩展的步长数量超出Stride的最大限制,那么本函数不做任何事情。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00731_html.md ## CANN商业版-GetShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00733.html - Description: 获取原始shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00733_html.md ## CANN商业版-MutableShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00734.html - Description: 获取可写的原始shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00734_html.md ## CANN商业版-TensorV2是张量管理类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00736.html - Description: TensorV2是张量管理类,用于存储和操作张量数据。该类记录了张量的形状、步长、偏移、数据格式、数据类型、存放位置,提供了数据地址访问、数据大小计算等接口。相对于Tensor类,TensorV2增加携带了步长和偏移信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00736_html.md ## 构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00737.html - Description: 用于构造指定的Tensor对象。TensorV2类用来描述一个Tensor对象的信息以及行为,包含:形状、数据格式、数据类型、步长、偏移以及tensor数据内容tensordata。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00737_html.md ## CANN商业版-GetShapeSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00738.html - Description: 获取当前Tensor运行时的形状大小,即此Tensor中包含的元素的数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00738_html.md ## CANN商业版-GetData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00739.html - Description: 获取Tensor的数据地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00739_html.md ## CANN商业版-SetData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00740.html - Description: 设置Tensor的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00740_html.md ## CANN商业版-GetAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00741.html - Description: 获取Tensor的数据地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00741_html.md ## CANN商业版-GetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00742.html - Description: 获取Tensor数据的内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00742_html.md ## CANN商业版-SetSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00743.html - Description: 设置Tensor的内存大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00743_html.md ## CANN商业版-GetDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00744.html - Description: 获取Tensor的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00744_html.md ## CANN商业版-SetDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00745.html - Description: 设置Tensor的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00745_html.md ## CANN商业版-CreateFollowing - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00746.html - Description: 创建一个指定数据类型以及大小的Tensor,其数据在TensorV2对象后连续排布。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00746_html.md ## CANN商业版-GetStorageShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00747.html - Description: 获取运行时Tensor的StorageShape,此Shape对象为只读。StorageShape和Originshape的区别如下:Originshape是Tensor最初创建时的形状,StorageShape是保存Tensor数据的底层存储的形状。运行时为了适配底层硬件,Tensor的StorageShape和其Originshape可能会有所不同。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00747_html.md ## CANN商业版-MutableStorageShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00748.html - Description: 获取运行时Tensor的形状,此Shape对象是可变的。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00748_html.md ## CANN商业版-GetOriginShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00749.html - Description: 获取Tensor的原始Shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00749_html.md ## CANN商业版-MutableOriginShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00750.html - Description: 获取Tensor的原始shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00750_html.md ## CANN商业版-GetShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00751.html - Description: 获取Tensor的Shape,包含运行时和原始Shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00751_html.md ## CANN商业版-GetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00752.html - Description: 获取运行时Tensor的数据格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00752_html.md ## CANN商业版-SetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00753.html - Description: 设置运行时Tensor的数据格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00753_html.md ## CANN商业版-GetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00754.html - Description: 获取Tensor的原始数据格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00754_html.md ## CANN商业版-SetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00755.html - Description: 设置Tensor的原始数据格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00755_html.md ## CANN商业版-GetFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00756.html - Description: 获取Tensor的数据格式,包含运行时数据格式和原始数据格式,返回的Format对象都是只读的。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00756_html.md ## CANN商业版-MutableFormat - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00757.html - Description: 获取Tensor的数据格式,包含运行时数据格式和原始数据格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00757_html.md ## CANN商业版-GetExpandDimsType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00758.html - Description: 获取形状的补维规则。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00758_html.md ## CANN商业版-GetPlacement - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00760.html - Description: 获取Tensor的placement。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00760_html.md ## CANN商业版-SetPlacement - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00761.html - Description: 设置Tensor的placement。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00761_html.md ## CANN商业版-GetTensorData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00762.html - Description: 获取Tensor中的数据,返回只读的TensorData类型对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00762_html.md ## CANN商业版-MutableTensorData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00763.html - Description: 获取Tensor中的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00763_html.md ## CANN商业版-GetVersion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00764.html - Description: 获取Tensor中的version。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00764_html.md ## CANN商业版-GetStride - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00765.html - Description: 获取Tensor中的stride。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00765_html.md ## CANN商业版-MutableStride - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00767.html - Description: 获取Tensor中的Stride引用,该Stride可修改。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00767_html.md ## CANN商业版-SetOffset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00768.html - Description: 设置Tensor中的offset。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00768_html.md ## CANN商业版-GetVersion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00769.html - Description: 获取Tensor中的版本。kTensorV1:不携带view和offset信息,kTensorV2:携带view和offset信息 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00769_html.md ## CANN商业版-TensorVersion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00770.html - Description: 头文件位于CANN软件安装后文件存储路径下的include/exe\_graph/runtime/tensor.h。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00770_html.md ## CANN商业版-GetInputStride - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00772.html - Description: 根据算子输入索引获取对应的输入Stride指针。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00772_html.md ## CANN商业版-GetInputOffset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00773.html - Description: 根据算子输入索引获取对应的输入offset。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00773_html.md ## CANN商业版-OutputIsView - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00774.html - Description: 根据算子输出索引获取对应的输出是否携带非连续信息。这里的输出索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00774_html.md ## CANN商业版-GetOutputStride - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00775.html - Description: 根据算子输出索引获取对应的输出Stride指针。这里的输出索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00775_html.md ## CANN商业版-GetOutputOffset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00776.html - Description: 根据算子输出索引获取对应的输出offset。这里的输出索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00776_html.md ## CANN商业版-OptionalInputIsView - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00777.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入Tensor是否携带非连续描述信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00777_html.md ## CANN商业版-GetOptionalInputStride - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00778.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入Tensor的Stride指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00778_html.md ## CANN商业版-GetOptionalInputOffset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00779.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入Tensor的offset。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00779_html.md ## CANN商业版-DynamicInputIsView - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00780.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入Tensor是否携带非连续描述信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00780_html.md ## CANN商业版-RequiredInputIsView - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00783.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入Tensor是否携带非连续描述信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00783_html.md ## CANN商业版-GetRequiredInputStride - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00784.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入Tensor的Stride指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00784_html.md ## CANN商业版-GetRequiredInputOffset - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00785.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入Tensor的offset。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00785_html.md ## CANN商业版-SetDynUBufSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00786.html - Description: SIMT算子用于设置需要使用的Dynamic Unified Buffer大小。不设置的情况下,默认为0,即算子不需要使用Dynamic Unified Buffer。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00786_html.md ## CANN商业版-GetDynUBufSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00787.html - Description: SIMT算子获取所需的Dynamic Unified Buffer大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00787_html.md ## CANN商业版-CreateCcuTask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00788.html - Description: 创建一个CCU类型的Task。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00788_html.md ## CANN商业版-CreateFusionTask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00789.html - Description: 创建一个Fusion类型的Task,Fusion类型的Task指融合类型的Task,目前支持AI Core Task和CCU Task组成一个Fusion Task。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00789_html.md ## CANN商业版-Release - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00790.html - Description: 释放对TensorAddress的所有权,本接口调用后,本对象不再管理TensorAddress,而且TensorAddress并没有被释放,因此调用者负责通过manager释放TensorAddress。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00790_html.md ## CANN商业版-DeterministicLevel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00791.html - Description: 设置确定性计算级别。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00791_html.md ## gert\_TilingContextBuilder\_SetDeterministicLevel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00793.html - Description: 使用OpTilingContextBuilder构造TilingContext时设置确定性计算级别,对应弱符号C接口,与OpTilingContextBuilder::DeterministicLevel等价。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00793_html.md ## CANN商业版-ExceptionDumpParseFunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00794.html - Description: 注册一个异常处理函数,在算子发生aic error时,执行用户定义的异常处理逻辑。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00794_html.md ## CANN商业版-SimtBlockDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00795.html - Description: 设置SIMT线程块的维度,即参与计算的Vector运算单元的线程块内部的线程数量,用Dim3结构体表示。Dim3是包含了x、y、z三个uint32的字段的结构体,表示一个Block线程块在x、y、z三个维度上的线程数量。算子Tiling函数可通过该Builder类构造的上下文TilingContext获取相应的Dim3指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00795_html.md ## CANN商业版-SimtGridDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00796.html - Description: 设置SIMT线程格的维度,即参与计算的Vector运算单元的线程格内部的线程块数量,用Dim3结构体表示。Dim3是包含了x、y、z三个uint32的字段的结构体,表示一个Grid线程格在x、y、z三个维度上的线程块数量。算子Tiling函数可通过该Builder类构造的上下文TilingContext获取相应的Dim3指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00796_html.md ## CANN商业版-SetSimdNumBlocks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00797.html - Description: 设置SIMD Blocks的数量,即参与计算的Vector或者Cube核数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00797_html.md ## CANN商业版-GetSimdNumBlocks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00798.html - Description: 获取SIMD Blocks数量,即参与计算的Vector或者Cube核数。num\_blocks的详细概念和设置方式请参考SetSimdNumBlocks。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00798_html.md ## CANN商业版-SetAicpuNumBlocks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00799.html - Description: 设置可以调度的AI CPU核数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00799_html.md ## CANN商业版-GetAicpuNumBlocks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00800.html - Description: 获取用户设置的可以调度的AI CPU核数。设置方式请参考SetAicpuNumBlocks。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00800_html.md ## CANN商业版-SetSimtBlockDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00801.html - Description: 设置SIMT线程块的维度,即参与计算的Vector运算单元的线程块内部的线程数量,用Dim3结构体表示。Dim3是包含了x、y、z三个uint32的字段的结构体,表示一个Block线程块在x、y、z三个维度上的线程数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00801_html.md ## CANN商业版-GetSimtBlockDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00802.html - Description: 获取SIMT线程块的维度,即参与计算的Vector运算单元的线程块内部的线程数量,用Dim3结构体表示。Dim3是包含了x、y、z三个uint32的字段的结构体,表示一个Block线程块在x、y、z三个维度上的线程数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00802_html.md ## CANN商业版-SetSimtGridDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00803.html - Description: 设置SIMT线程格的维度,即参与计算的Vector运算单元的线程格内部的线程块数量,用Dim3结构体表示。Dim3是包含了x、y、z三个uint32的字段的结构体,表示一个Grid线程格在x、y、z三个维度上的线程块数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00803_html.md ## CANN商业版-GetSimtGridDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00804.html - Description: 获取SIMT线程格的维度,即参与计算的Vector运算单元的线程格内部的线程块数量,用Dim3结构体表示。Dim3是包含了x、y、z三个uint32的字段的结构体,表示一个Grid线程格在x、y、z三个维度上的线程块数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00804_html.md ## gert\_TilingContextBuilder\_SetSimtBlockDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00805.html - Description: 使用OpTilingContextBuilder构造TilingContext时设置SIMT Block维度,对应弱符号C接口,与OpTilingContextBuilder::SimtBlockDim等价。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00805_html.md ## gert\_TilingContextBuilder\_SetSimtGridDim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/basicdataapi/atlasopapi_07_00806.html - Description: 使用OpTilingContextBuilder构造TilingContext时设置SIMT Grid维度,对应弱符号C接口,与OpTilingContextBuilder::SimtGridDim等价。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_basicdataapi_atlasopapi_07_00806_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0001.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0001_html.md ## 安装后自动配置环境变量 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0003.html - Description: 描述CANN软件安装完成后,系统通过“set\_env.sh”脚本默认配置的程序编译、执行相关的基础环境变量,以及后续程序编译执行时,需要手工配置的与安装包相关的环境变量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0003_html.md ## CANN商业版-ASCEND\_CACHE\_PATH - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0006.html - Description: 若开发者期望编译运行过程中产生的文件落盘到统一路径,可通过此环境变量设置共享文件的存储路径,各组件编译运行过程中产生的可共享文件会存储到此环境变量定义的路径中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0006_html.md ## CANN商业版-ASCEND\_WORK\_PATH - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0007.html - Description: 若开发者期望编译运行过程中产生的文件落盘到归一路径,可通过此环境变量设置单机独享文件的存储路径,各组件编译运行过程中产生的单机独享文件会存储到此环境变量定义的路径中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0007_html.md ## CANN商业版-DUMP\_GE\_GRAPH - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0011.html - Description: 把整个流程中各个阶段的图描述信息打印到文件中,此环境变量控制dump图的内容多少。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0011_html.md ## CANN商业版-DUMP\_GRAPH\_LEVEL - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0012.html - Description: 把整个图编译流程中各个阶段的图描述信息打印到文件中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0012_html.md ## CANN商业版-DUMP\_GRAPH\_PATH - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0013.html - Description: 指定DUMP图文件的保存路径,可配置为绝对路径或脚本执行目录的相对路径。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0013_html.md ## CANN商业版-ASCEND\_ENGINE\_PATH - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0015.html - Description: 单算子JSON文件转换成离线模型场景,如果希望模型转换时只使用TBE算子(不查找AI CPU算子,找不到TBE算子则报错),则需要使用该环境变量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0015_html.md ## CANN商业版-MAX\_COMPILE\_CORE\_NUMBER - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0016.html - Description: 此环境变量用于指定图编译时可用的CPU核数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0016_html.md ## CANN商业版-MULTI\_THREAD\_COMPILE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0017.html - Description: 此环境变量用于控制模型转换时是否使用单线程编译。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0017_html.md ## CANN商业版-ENABLE\_NETWORK\_ANALYSIS\_DEBUG - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0018.html - Description: TensorFlow训练场景下,计算图编译失败时默认会终止训练流程,不会继续向Device下发剩余的图。若开发者希望图编译失败时,不终止训练流程,允许TF Adapter持续向Device下发计算图,可通过设置该环境变量实现。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0018_html.md ## CANN商业版-TE\_PARALLEL\_COMPILER - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0020.html - Description: 算子最大并行编译进程数,当该参数大于1时,系统将开启并行编译功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0020_html.md ## CANN商业版-ASCEND\_MAX\_OP\_CACHE\_SIZE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0021.html - Description: 启用算子编译缓存功能时,可通过此环境变量限制某个AI处理器下缓存文件夹的磁盘空间的大小。默认为500,单位为MB。- 当编译缓存文件的大小超过此环境变量的设置值,且超过半小时缓存文件未被访问时,缓存文件就会老化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0021_html.md ## CANN商业版-ASCEND\_REMAIN\_CACHE\_SIZE\_RATIO - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0022.html - Description: 启用算子编译缓存功能时,当编译缓存空间大小达到ASCEND\_MAX\_OP\_CACHE\_SIZE而需要删除旧的kernel文件时,系统需要保留缓存的空间大小比例,默认为50,单位为百分比。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0022_html.md ## CANN商业版-ASCEND\_RT\_VISIBLE\_DEVICES - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0028.html - Description: 指定哪些Device对当前进程可见,支持一次指定一个或多个Device ID。通过该环境变量,可实现不修改应用程序即可调整所用Device的功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0028_html.md ## CANN商业版-AUTO\_USE\_UC\_MEMORY - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0029.html - Description: 控制系统是否允许算子搬移数据不经过L2 Cache的功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0029_html.md ## CANN商业版-ACLNN\_CACHE\_LIMIT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0031.html - Description: 此环境变量用于配置aclnn API在Host侧缓存的算子信息条目个数。缓存的算子信息包含workspace大小、算子计算的执行器、Tiling信息等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0031_html.md ## CANN商业版-ENABLE\_DYNAMIC\_SHAPE\_MULTI\_STREAM - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0033.html - Description: 计算图执行时,开启多流并发执行功能在一定场景下可提升网络性能。当前多流并发执行功能默认关闭,动态shape图模式场景下,若开发者想开启多流并发执行功能,可通过此环境变量开启。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0033_html.md ## CANN商业版-MAX\_RUNTIME\_CORE\_NUMBER - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0034.html - Description: 训练与在线推理场景下,针对动态shape图模式执行的网络,可通过设置此环境变量开启图执行器(Host侧)的多线程任务调度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0034_html.md ## CANN商业版-JOB\_ID - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0036.html - Description: TensorFlow训练与在线推理场景下,可通过此环境变量自定义任务ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0036_html.md ## CANN商业版-ENABLE\_FORCE\_V2\_CONTROL - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0037.html - Description: TensorFlow 1.15训练场景下,如果输入是动态shape,由于tf.case/tf.cond/tf.while\_loop这些API对应TensorFlow V1版本的控制流算子(例如Switch、Merge、Enter、LoopCond、NextIteration、Exit、ControlTrigger等)不支持动态shape,仅TensorFlow V2版本的控制流算子(例如If、Ca - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0037_html.md ## CANN商业版-ENABLE\_HF32\_EXECUTION - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0038.html - Description: 针对TensorFlow 1.15网络,是否启用HF32自动代替FP32数据类型的功能,当前版本此环境变量仅针对Conv类算子与Matmul类算子生效。- "1":启用FP32数据类型自动转换为HF32数据类型的功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0038_html.md ## CANN商业版-NPU\_DEBUG - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0039.html - Description: TensorFlow 2.6.5训练与在线推理场景下,用于开启TF Adapter的Debug级别执行日志。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0039_html.md ## CANN商业版-NPU\_DUMP\_GRAPH - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0040.html - Description: TensorFlow 2.6.5训练与在线推理场景下,用于开启TF Adapter图Dump功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0040_html.md ## CANN商业版-NPU\_ENABLE\_PERF - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0041.html - Description: TensorFlow 2.6.5训练与在线推理场景下,用于开启TF Adapter图耗时打印功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0041_html.md ## CANN商业版-NPU\_LOOP\_SIZE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0042.html - Description: TensorFlow 2.6.5训练与在线推理场景下,用于设置NPU上循环下沉的次数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0042_html.md ## CANN商业版-STEP\_NOW - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0043.html - Description: TensorFlow 1.15训练场景下,若通过“experimental\_accelerate\_train\_mode”参数或者“accelerate\_train\_mode”参数触发了训练加速功能,可通过此环境变量设置NPU上当前的执行步数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0043_html.md ## CANN商业版-TOTAL\_STEP - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0044.html - Description: TensorFlow 1.15训练场景下,若通过“experimental\_accelerate\_train\_mode”参数或者“accelerate\_train\_mode”参数触发了训练加速功能,可通过此环境变量设置NPU上总训练步数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0044_html.md ## CANN商业版-LOSS\_NOW - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0045.html - Description: TensorFlow 1.15训练场景下,若通过“experimental\_accelerate\_train\_mode”参数或者“accelerate\_train\_mode”参数触发了训练加速功能,可通过此环境变量设置NPU上当前迭代的loss值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0045_html.md ## CANN商业版-TARGET\_LOSS - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0046.html - Description: TensorFlow 1.15训练场景下,若通过“experimental\_accelerate\_train\_mode”参数或者“accelerate\_train\_mode”参数触发了训练加速功能,可通过此环境变量设置NPU上的目标训练loss值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0046_html.md ## CANN商业版-RANK\_TABLE\_FILE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0047.html - Description: TensorFlow分布式训练或推理场景下,通过此环境变量指定参与集合通信的AI处理器的rank table资源配置文件,包含rank table文件路径和文件名。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0047_html.md ## CANN商业版-RANK\_ID - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0048.html - Description: TensorFlow分布式训练或推理场景下,通过此环境变量指定当前进程在集合通信进程组中对应的rank标识。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0048_html.md ## CANN商业版-RANK\_SIZE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0049.html - Description: TensorFlow分布式训练或推理场景下,通过此环境变量指定当前训练进程对应的Device数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0049_html.md ## CANN商业版-CM\_CHIEF\_IP - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0050.html - Description: TensorFlow分布式训练或推理场景下,用户可以选择不使用rank table文件,通过组合使用环境变量CM\_CHIEF\_IP、CM\_CHIEF\_PORT、CM\_CHIEF\_DEVICE、CM\_WORKER\_SIZE、CM\_WORKER\_IP的方式自动生成资源信息,完成集合通信组件初始化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0050_html.md ## CANN商业版-CM\_CHIEF\_PORT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0051.html - Description: TensorFlow分布式训练或推理场景下,用户可以选择不使用rank table文件,通过组合使用环境变量CM\_CHIEF\_IP、CM\_CHIEF\_PORT、CM\_CHIEF\_DEVICE、CM\_WORKER\_SIZE、CM\_WORKER\_IP的方式自动生成资源信息,完成集合通信组件初始化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0051_html.md ## CANN商业版-CM\_CHIEF\_DEVICE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0052.html - Description: TensorFlow分布式训练或推理场景下,用户可以选择不使用rank table文件,通过组合使用环境变量CM\_CHIEF\_IP、CM\_CHIEF\_PORT、CM\_CHIEF\_DEVICE、CM\_WORKER\_SIZE、CM\_WORKER\_IP的方式自动生成资源信息,完成集合通信组件初始化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0052_html.md ## CANN商业版-CM\_WORKER\_SIZE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0053.html - Description: TensorFlow分布式训练或推理场景下,用户可以选择不使用rank table文件,通过组合使用环境变量CM\_CHIEF\_IP、CM\_CHIEF\_PORT、CM\_CHIEF\_DEVICE、CM\_WORKER\_SIZE、CM\_WORKER\_IP的方式自动生成资源信息,完成集合通信组件初始化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0053_html.md ## CANN商业版-CM\_WORKER\_IP - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0054.html - Description: TensorFlow分布式训练或推理场景下,用户可以选择不使用rank table文件,通过组合使用环境变量CM\_CHIEF\_IP、CM\_CHIEF\_PORT、CM\_CHIEF\_DEVICE、CM\_WORKER\_SIZE、CM\_WORKER\_IP的方式自动生成资源信息,完成集合通信组件初始化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0054_html.md ## CANN商业版-HCCL\_IF\_IP - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0073.html - Description: 当通信域的创建方式为“基于root节点信息创建\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/hcclug/hcclug\_000008.html\#ZH-CN\_TOPIC\_0000002562460885\_\_section1539155710538\)”时,可通过此环境变量配置HCCL初始化时Host使用的通信IP地 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0073_html.md ## CANN商业版-HCCL\_IF\_BASE\_PORT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0074.html - Description: 当通信域的创建方式为“基于root节点信息创建\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/hcclug/hcclug\_000008.html\#ZH-CN\_TOPIC\_0000002562460885\_\_section1539155710538\)”时,可以通过该环境变量指定Host网卡起始端口号,配置后系统默认 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0074_html.md ## CANN商业版-HCCL\_SOCKET\_IFNAME - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0075.html - Description: 配置HCCL初始化时Host使用的通信网卡名,HCCL将通过该网卡名获取Host IP,与root节点通信,以完成通信域的创建。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0075_html.md ## CANN商业版-HCCL\_SOCKET\_FAMILY - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0076.html - Description: 该环境变量指定通信网卡使用的IP协议,支持如下两种配置:- AF\_INET:代表使用IPv4协议。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0076_html.md ## CANN商业版-HCCL\_CONNECT\_TIMEOUT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0077.html - Description: 分布式训练或推理场景下,用于限制不同设备之间socket建链过程的超时等待时间。不同设备进程在集合通信初始化之前由于其他因素会导致执行不同步。该环境变量控制设备间的建链超时等待时间,在该配置时间内各设备进程等待其他设备建链同步。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0077_html.md ## CANN商业版-HCCL\_EXEC\_TIMEOUT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0078.html - Description: 不同设备进程在分布式训练或推理过程中存在卡间执行任务不一致的场景(如仅特定进程会保存checkpoint数据),通过该环境变量可控制设备间执行时同步等待的时间,在该配置时间内各设备进程等待其他设备执行通信同步。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0078_html.md ## CANN商业版-HCCL\_ALGO - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0079.html - Description: 此环境变量用于配置集合通信Server间通信算法以及超节点间通信算法,支持全局配置算法类型与按算子配置算法类型两种配置方式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0079_html.md ## CANN商业版-HCCL\_BUFFSIZE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0080.html - Description: 此环境变量用于控制通信域所使用的共享数据缓存区大小。需要配置为整数,取值大于等于1,默认值为200,单位MB。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0080_html.md ## CANN商业版-HCCL\_INTRA\_PCIE\_ENABLE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0081.html - Description: 用于配置Server内是否使用PCIe链路进行通信。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0081_html.md ## CANN商业版-HCCL\_INTRA\_ROCE\_ENABLE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0082.html - Description: 用于配置Server内或超节点内是否使用RoCE链路进行通信。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0082_html.md ## CANN商业版-HCCL\_INTER\_HCCS\_DISABLE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0083.html - Description: 此环境变量用于配置超节点模式组网中超节点内的通信链路类型,支持如下取值: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0083_html.md ## CANN商业版-HCCL\_OP\_RETRY\_ENABLE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0085.html - Description: 此环境变量用于配置是否开启HCCL算子的重执行特性。HCCL算子重执行以通信域为粒度,当通信算子执行报 SDMA 或者RDMA CQE类型的错误时,HCCL会尝试重新执行此通信算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0085_html.md ## CANN商业版-HCCL\_OP\_RETRY\_PARAMS - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0086.html - Description: 当开发者通过环境变量HCCL\_OP\_RETRY\_ENABLE开启了HCCL的算子重执行特性时,可通过本环境变量配置第一次重执行的等待时间、最大重执行的次数以及两次重执行的间隔时间。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0086_html.md ## CANN商业版-HCCL\_DIAGNOSE\_ENABLE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0087.html - Description: 此环境变量用于配置集合通信是否缓存部分任务的详细信息,以便任务执行失败时,打印详细日志,用于问题定位。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0087_html.md ## CANN商业版-HCCL\_ENTRY\_LOG\_ENABLE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0088.html - Description: 此环境变量用于控制是否实时打印通信算子的调用行为日志。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0088_html.md ## CANN商业版-HCCL\_RDMA\_TC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0089.html - Description: 用于配置RDMA网卡的traffic class。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0089_html.md ## CANN商业版-HCCL\_RDMA\_SL - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0090.html - Description: 用于配置RDMA网卡的service level,该值需要和网卡配置的PFC优先级保持一致,若配置不一致可能导致性能劣化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0090_html.md ## CANN商业版-HCCL\_RDMA\_TIMEOUT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0091.html - Description: 用于配置RDMA网卡重传超时时间的系数timeout。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0091_html.md ## CANN商业版-HCCL\_RDMA\_RETRY\_CNT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0092.html - Description: 用于配置RDMA网卡的重传次数,需要配置为整数,取值范围为\[1,7\],默认值为7。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0092_html.md ## CANN商业版-HCCL\_RDMA\_PCIE\_DIRECT\_POST\_NOSTRICT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0093.html - Description: 多机通信且Host操作系统小页内存页表大小非4KB的场景,当通信算子下发性能Host Bound时,开发者可设置此环境变量,通过PCIe Direct的方式提交RDMA任务,提升通信算子下发性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0093_html.md ## CANN商业版-HCCL\_RDMA\_QPS\_PER\_CONNECTION - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0094.html - Description: 两个rank之间RDMA通信时会默认创建1个QP(Queue Pair)进行数据传输,若开发者想让两个rank之间的RDMA通信使用多个QP,可通过此环境变量实现。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0094_html.md ## CANN商业版-HCCL\_OP\_EXPANSION\_MODE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0096.html - Description: 该环境变量用于配置通信算子的展开模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0096_html.md ## CANN商业版-HCCL\_DETERMINISTIC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0099.html - Description: 此环境变量用于配置是否开启归约类通信算子的确定性计算或保序功能,其中归约类通信算子包括AllReduce、ReduceScatter、ReduceScatterV、Reduce,归约保序是指严格的确定性计算,在确定性的基础上保证归约顺序一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0099_html.md ## CANN商业版-HCCL\_LOGIC\_SUPERPOD\_ID - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0100.html - Description: 针对 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 的超节点模式组网,若不使用rank table文件配置集群资源信息,可通过此环境变量指定当前节点运行进程所属的超节点ID,实现将一个物理超节点划分为多个逻辑超节点的功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0100_html.md ## 场景说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0103.html - Description: 本节描述推理与训练场景下,使用AOE工具进行性能调优时,AOE调优工具提供的可用环境变量。另外,调优过程中,您也可以使用编译或执行相关的环境变量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0103_html.md ## CANN商业版-TUNE\_BANK\_PATH - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0104.html - Description: 可通过此环境变量指定调优后自定义知识库的存储路径。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0104_html.md ## CANN商业版-REPEAT\_TUNE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0105.html - Description: 是否重新发起调优,此环境变量在开启子图调优或算子调优的场景下生效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0105_html.md ## CANN商业版-AOE\_MODE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0106.html - Description: 在线推理与训练场景下,可通过此环境变量指定AOE调优模式,支持如下取值: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0106_html.md ## 场景说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0108.html - Description: 本节描述使用AMCT工具进行模型压缩时,AMCT工具提供的可用环境变量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0108_html.md ## CANN商业版-AMCT\_LOG\_FILE\_LEVEL - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0109.html - Description: 控制日志文件(PyTorch框架:amct\_pytorch.log;Caffe框架:amct\_caffe.log;ONNX:amct\_onnx.log)的信息级别以及生成精度仿真模型时,对应量化层生成的日志文件信息级别。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0109_html.md ## CANN商业版-AMCT\_LOG\_LEVEL - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0110.html - Description: 控制屏幕输出的信息级别。该环境变量仅适用于PyTorch框架、Caffe框架、ONNX网络模型的量化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0110_html.md ## CANN商业版-DUMP\_AMCT\_RECORD - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0111.html - Description: 控制是否生成权重和数据的量化因子。该环境变量仅适用于MindSpore框架的模型压缩。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0111_html.md ## CANN商业版-AMCT\_LOG\_DUMP - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0112.html - Description: 控制训练后量化过程中日志落盘等信息的环境变量。该环境变量仅适用于调用aclgrphCalibration接口进行的量化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0112_html.md ## 场景说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0114.html - Description: Profiling性能分析工具可在推理或训练任务执行过程中进行性能数据的采集,辅助定位系统的软、硬件性能瓶颈,提高性能分析的效率。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0114_html.md ## CANN商业版-PROFILING\_MODE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0115.html - Description: 是否开启Profiling采集功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0115_html.md ## CANN商业版-PROFILING\_OPTIONS - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0116.html - Description: 训练或在线推理场景下,开发者可通过PROFILING\_OPTIONS环境变量配置Profiling配置选项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0116_html.md ## 场景说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0119.html - Description: 日志主要用于记录系统的运行过程及异常信息,帮助用户快速定位系统运行过程中出现的问题以及开发过程中的程序调试问题。开发者可通过本节描述的环境变量,控制日志的落盘路径以及日志级别等信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0119_html.md ## CANN商业版-ASCEND\_PROCESS\_LOG\_PATH - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0120.html - Description: 设置日志落盘路径。 日志存储时如果不存在该目录,会自动创建该目录;如果存在则直接存储。 - 通过执行echo $ASCENDPROCESSLOGPATH命令可以查看环境变量设置的路径。 - 日志落盘优先级为:ASCENDPROCESSLOGPATH > ASCENDWORKPATH > 日志默认存储路径($HOME/ascend/log) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0120_html.md ## CANN商业版-ASCEND\_SLOG\_PRINT\_TO\_STDOUT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0121.html - Description: 是否开启日志打印。开启后,日志将不会保存在log文件中,而是将产生的日志直接打印显示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0121_html.md ## CANN商业版-ASCEND\_GLOBAL\_LOG\_LEVEL - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0122.html - Description: 设置应用类日志的日志级别及各模块日志级别,仅支持调试日志。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0122_html.md ## CANN商业版-ASCEND\_MODULE\_LOG\_LEVEL - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0123.html - Description: 设置应用类日志的各模块日志级别,仅支持调试日志。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0123_html.md ## CANN商业版-ASCEND\_GLOBAL\_EVENT\_ENABLE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0124.html - Description: 设置应用类日志是否开启Event日志。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0124_html.md ## CANN商业版-ASCEND\_LOG\_DEVICE\_FLUSH\_TIMEOUT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0125.html - Description: 指定Device侧应用类日志回传到Host侧的延时时间。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0125_html.md ## CANN商业版-ASCEND\_HOST\_LOG\_FILE\_NUM - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0126.html - Description: Ascend EP 场景下,设置应用类日志目录(plog和device-id)下存储每个进程日志文件的数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0126_html.md ## CANN商业版-ASCEND\_COREDUMP\_SIGNAL - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0127.html - Description: 设置trace处理的core dump信号量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0127_html.md ## CANN商业版-ASCEND\_LOG\_SYNC\_SAVE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0128.html - Description: 指定日志拥塞处理方式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0128_html.md ## CANN商业版-ASCEND\_DUMP\_PATH - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0130.html - Description: 指定异常算子Dump信息的存储路径,可配置为绝对路径或执行程序的相对路径。指定的路径支持大小写字母(a-z,A-Z)、数字(0-9)、下划线(\_)、中划线(-)、句点(.)、中文字符,执行用户需具有读、写、执行权限,若路径不存在,系统会自动创建该路径中的目录。不指定路径时,异常算子Dump信息默认存放在应用程序的当前执行目录。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0130_html.md ## CANN商业版-RESOURCE\_CONFIG\_PATH - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0133.html - Description: 用于设置配置异构资源描述信息文件的存储路径。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0133_html.md ## CANN商业版-GE\_USE\_STATIC\_MEMORY - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0138.html - Description: 网络运行时使用的内存分配方式,支持以下取值: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0138_html.md ## CANN商业版-ENABLE\_ACLNN - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0139.html - Description: 该环境变量在后续版本会废弃。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0139_html.md ## CANN商业版-ASCEND\_TRACE\_RECORD\_NUM - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0140.html - Description: 设置trace日志文件的老化规格,取值范围\[10, 1000\]。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0140_html.md ## CANN商业版-HCCL\_RDMA\_QP\_PORT\_CONFIG\_PATH - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0141.html - Description: 两个rank之间RDMA通信时会默认创建1个QP(Queue Pair)进行数据传输,若开发者想让两个rank之间的RDMA通信使用多个QP,并指定多QP通信时使用的源端口号,可通过此环境变量实现。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0141_html.md ## CANN商业版-IGNORE\_INFER\_ERROR - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0142.html - Description: 该环境变量为试验特性,后续版本可能会存在变更。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0142_html.md ## CANN商业版-HCCL\_HOST\_SOCKET\_PORT\_RANGE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0143.html - Description: 当通信域的创建方式为“基于root节点信息创建\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/hcclug/hcclug\_000008.html\#ZH-CN\_TOPIC\_0000002562460885\_\_section1539155710538\)”时,开发者可通过此环境变量配置HCCL在Host侧使用的通信端口 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0143_html.md ## CANN商业版-HCCL\_NPU\_SOCKET\_PORT\_RANGE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0144.html - Description: 当通信域的创建方式为“基于root节点信息创建\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/hcclug/hcclug\_000008.html\#ZH-CN\_TOPIC\_0000002562460885\_\_section1539155710538\)”时,开发者可通过此环境变量配置HCCL在NPU侧使用的通信端口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0144_html.md ## CANN商业版-HCCL\_DEBUG\_CONFIG - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0145.html - Description: 启用此环境变量后,运行日志(即“$HOME/ascend/log/run”目录下的日志)将包含HCCL特定子模块的详细运行信息。目前支持ALG或alg(算法编排模块)、TASK或task(任务编排模块)、RESOURCE或resource(资源管理模块,包括资源的申请和释放操作)几个配置项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0145_html.md ## CANN商业版-ASCEND\_CUSTOM\_OPP\_PATH - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0147.html - Description: 用户自定义算子安装路径。配置该路径后,算子入图场景下,GE框架在图编译和执行时根据该环境变量搜索算子二进制并使用。支持配置多个路径,以英文冒号分隔。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0147_html.md ## CANN商业版-CANN\_KNOWLEDGE\_BANK\_PROCESS\_NUM - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0148.html - Description: CANN\_KNOWLEDGE\_BANK\_PROCESS\_NUM用于设置知识库管理模块查询知识库的进程数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0148_html.md ## CANN商业版-DUMP\_GRAPH\_FORMAT - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0155.html - Description: 控制需要生成的dump文件类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0155_html.md ## CANN商业版-HCCL\_WHITELIST\_DISABLE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0156.html - Description: 配置在使用HCCL时是否开启通信白名单。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0156_html.md ## CANN商业版-HCCL\_WHITELIST\_FILE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0157.html - Description: 当通过HCCL\_WHITELIST\_DISABLE开启了通信白名单校验功能时,需要通过此环境变量配置指向HCCL通信白名单配置文件的路径,只有在通信白名单中的IP地址才允许进行集合通信。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0157_html.md ## 通信算子重执行对整网性能说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0159.html - Description: 开启HCCL通信算子重执行功能后,整网端到端性能的变化与模型的切分部署方式密切相关,本节详细讲述重执行功能与网络性能的关系。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0159_html.md ## Server间通信算法支持度列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0160.html - Description: 下面分别给出Server间不同型号的产品支持的算法,以及对应算法下支持的通信算子介绍,表格中未列出的则代表不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0160_html.md ## CANN商业版-HCCL\_DFS\_CONFIG - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0162.html - Description: HCCL提供了多种故障检测功能的开关设置,包括建链故障探测时间配置、集群心跳监测开关以及进程卡死检测开关等。这些检测功能开启后,能够在业务出现异常时快速定位并显示故障信息,有助于问题及时排查处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0162_html.md ## CANN商业版-NPU\_COLLECT\_PATH - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0163.html - Description: 在复现问题场景下,使用该环境变量指定故障信息(包括dump图、AI Core算子异常数据、算子编译信息等)的保存路径,可配置为绝对路径或相对路径(此处是相对执行程序或命令的路径),执行用户需对该路径具有读、写、可执行权限,若路径不存在,系统会自动创建该路径中的目录。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0163_html.md ## CANN商业版-ASCEND\_DUMP\_SCENE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/envvar/envref_07_0164.html - Description: 在复现问题场景时,使用该环境变量开启异常算子Dump,导出异常算子的输入输出数据、workspace信息和Tiling信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_envvar_envref_07_0164_html.md ## CANN商业版-算子融合是整网性能提升的一种关键手段 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref - Description: 算子融合是整网性能提升的一种关键手段,包括图融合和UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0003_html.md ## CANN商业版-算子融合是整网性能提升的一种关键手段 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0003.html - Description: 算子融合是整网性能提升的一种关键手段,包括图融合和UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0003_html.md ## CANN商业版-V100RequantFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0005.html - Description: 该融合在推理场景下对量化节点进行优化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0005_html.md ## CANN商业版-V200RequantFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0006.html - Description: 该融合在推理场景下对量化节点进行优化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0006_html.md ## CANN商业版-ConvToFullyConnectionFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0007.html - Description: 该融合规则将Conv卷积算子融合为FullyConnection算子,提高计算性能: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0007_html.md ## CANN商业版-SoftmaxFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0008.html - Description: 该融合规则将SoftmaxV2输入和输出添加TransposeD算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0008_html.md ## CANN商业版-SoftmaxSmallOpFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0009.html - Description: 该融合规则将ReduceMaxD、Sub等小算子组合识别并融合为SoftmaxV2算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0009_html.md ## CANN商业版-LayerNormFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0010.html - Description: 该融合规则将ReduceMean、SquaredDifference等小算子组合识别并融合为LayerNorm算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0010_html.md ## CANN商业版-GeluFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0011.html - Description: 该融合规则将Pow、Mul、Add、Tanh等小算子融合为Gelu算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0011_html.md ## CANN商业版-GridSampler3DFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0012.html - Description: 该融合规则主要是使用GridSample算子替换GridSampler3D算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0012_html.md ## CANN商业版-SplitConvConcatFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0013.html - Description: 对如下几种场景进行融合: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0013_html.md ## CANN商业版-ConvConcatFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0014.html - Description: 在concat算子前插入跳写算子,将原先通过concat拼接多个Conv2D内存的方式,修改成通过StridedWrite算子进行Conv2D内存拼接,以消除concat算子任务执行带来的性能消耗。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0014_html.md ## CANN商业版-PoolingFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0015.html - Description: 融合成 - 不支持动态shape。 - 静态融合数据类型仅支持float16和int8。 - 在AVG Pooling下融合规则生效,如果网络模型中涉及AVG Pooling int8量化情况,即prototxt文件中pooling属性参数pool为AVG时,该融合规则必须打开。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0015_html.md ## CANN商业版-BatchMatMulReduceMeanFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0016.html - Description: 为batchmatmul、batchmatmulv2、matmul、matmulv2和reducemean算子节点的常量输入添加pad算子节点,提高计算性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0016_html.md ## CANN商业版-PadDepthwiseConv2dFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0017.html - Description: 该融合规则将PadD+DepthwiseConv2D算子融合为DepthwiseConv2D算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0017_html.md ## CANN商业版-SameInputConv2dPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0018.html - Description: 非量化场景:该融合将符合约束条件的多路Conv2D+Relu算子融合成一路Conv2D+Relu+Split融合算子,如下图所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0018_html.md ## CANN商业版-ConvScaleFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0019.html - Description: 该融合规则将conv卷积算子和scale算子融合为conv卷积算子,filter输入替换为ConvScaleFilterHost算子,bias输入替换为ConvScaleBiasHost算子,提高计算性能: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0019_html.md ## CANN商业版-Conv2DSqueezeBiasaddFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0020.html - Description: 该融合将conv2D+squeeze+biasadd转换成conv2D+biasadd+squeeze的结构。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0020_html.md ## CANN商业版-ConvBatchnormFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0021.html - Description: 该融合将Conv2d+batchnorm或者Conv3d+batchnorm融合为一个融合算子;当batchnorm为2个输入时,在这种情况下,会将DepthwiseConv2d+batchnorm融合为一个融合算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0021_html.md ## CANN商业版-AConv2dMulFusion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0022.html - Description: 该融合将Conv2d+mul或Conv3d+mul融合为一个融合算子Conv。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0022_html.md ## CANN商业版-DepthwiseDfFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0023.html - Description: 该融合规则为DepthwiseConv2DbackpropInput卷积算子添加TransposeD算子,提高计算性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0023_html.md ## CANN商业版-ZBNupdateReluV2Conv2DBNreducePass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0024.html - Description: 该融合规则将BNTrainingUpdate+ReluV2+Conv2D+BNTrainingReduce四个算子融合成一个Conv2D算子,提高性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0024_html.md ## CANN商业版-ASplitConv2dConcatPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0025.html - Description: 将Split/SplitV + Conv2D *N + Concat/ConcatV2融合成一个组卷积,简化图结构。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0025_html.md ## CANN商业版-Conv3DQuantProcessFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0026.html - Description: 静态shape场景下,当匹配到如下图结构时,可以进行量化回退或者bias优化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0026_html.md ## CANN商业版-MatmulCastFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0027.html - Description: 将MatMul/MatMulV2/BatchMatMul/BatchMatMulV2算子和cast算子融合为MatMul/MatMulV2/BatchMatMul/BatchMatMulV2算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0027_html.md ## CANN商业版-MatMulBiasAddFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0028.html - Description: 将MatMul/MatMulV2/MatMulV3/BatchMatmul/BatchMatMulV2/BatchMatMulV3算子和biasadd/add算子融合为MatMul/MatMulV2/MatMulV3/BatchMatmul/BatchMatMulV2/BatchMatMulV3算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0028_html.md ## CANN商业版-DeconvWeightTransFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0029.html - Description: 在int8量化场景下,对输入filter进行转置逆序。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0029_html.md ## CANN商业版-Conv2DbpInputBiasAddFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0030.html - Description: 将Conv2DBackpropInput算子和BiasAdd算子融合为Conv2DTransposeD算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0030_html.md ## CANN商业版-BatchMatMulV2ReshapeFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0031.html - Description: 该融合模式分为三种场景: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0031_html.md ## CANN商业版-BatchMatMulFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0032.html - Description: 有如下两种融合模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0032_html.md ## CANN商业版-SwapMergeCastFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0033.html - Description: 该融合调节Merge与Cast节点间顺序: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0033_html.md ## CANN商业版-PSROIPoolingFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0034.html - Description: 当PSROIPooling前驱是Conv2D时,在Conv2D的Filter和Bias的输出插入SwapCo算子;如果PSROIPooling前驱不是Conv2D,则在PSROIPooling输入插入SwapCi算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0034_html.md ## CANN商业版-ConvWeightCompressFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0035.html - Description: 对于Cube类运算算子,通过插入压缩算子将Filter进行压缩,或通过插入四选二结构化稀疏算子进行稀疏。该Pass根据用户配置的参数执行压缩或者四选二结构化稀疏。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0035_html.md ## CANN商业版-ConcatQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0036.html - Description: 该融合规则将ConcatD/ConcatV2D+Quant子图融合成Quant+ConcatD/ConcatV2D子图模式。该融合规则可以减少数据搬运量,提高计算性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0036_html.md ## CANN商业版-BatchMatMulV2ReduceFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0037.html - Description: 该融合规则将BatchMatMulV2+ReduceSumD算子融合为BatchMatMulV2算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0037_html.md ## CANN商业版-BatchMatMulNonAlignedFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0038.html - Description: 该融合为BatchMatMul非对齐场景下的融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0038_html.md ## CANN商业版-Conv3DbpInputBiasAddFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0039.html - Description: 该融合规则将Conv3DBackpropInput+BiasAdd算子融合为Conv3DTransposeD算子,BiasAdd输入作为Conv3DTransposeD的输入bias。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0039_html.md ## CANN商业版-FullyConnectionPowerPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0040.html - Description: 该融合规则将FullyConnection+Power算子融合为FullyConnectionPower算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0040_html.md ## CANN商业版-AFullyConnectionReshapePass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0041.html - Description: 该融合规则将FullyConnection+Reshape算子融合为AFullyConnectionReshape算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0041_html.md ## CANN商业版-GemmTransFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0042.html - Description: 该融合规则将Transpose+Gemm算子融合为GemmTrans算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0042_html.md ## CANN商业版-MatmulTransdataFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0043.html - Description: 该融合规则通过等价替换将图中的Transdata算子从2个减少为1个。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0043_html.md ## CANN商业版-Matmulv2FusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0044.html - Description: 对于weight int8量化场景,输入数量为3的MatMulV2算子,该融合规则在需要转置的输入TensorB之前插入TransposeD算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0044_html.md ## CANN商业版-Resnet50DbnDwFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0045.html - Description: 该融合规则将在Conv2DBackpropFilterD算子前添加BNTrainingReduceGrad,融合成FusedDbnDw算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0045_html.md ## CANN商业版-AAMatMulNzToNdFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0046.html - Description: 该融合规则用于减少如下4个场景中的TransData或Cast算子。其中,TensorC节点是可选的。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0046_html.md ## CANN商业版-CastReluCastFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0047.html - Description: 该融合规则将Cast+Relu+Cast算子融合为Relu算子,即消除Relu前后的Cast算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0047_html.md ## CANN商业版-StrideHoistingPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0048.html - Description: 该融合主要是根据不同的图结构插入ReadSelect算子;如果匹配到Conv2D,会修改Conv2D的shape和属性。最终目的是让计算量减半。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0048_html.md ## CANN商业版-PadConv2dFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0049.html - Description: 该融合将Pad/PadV3+Conv2D算子融合成Conv2D算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0049_html.md ## CANN商业版-Conv2DTransposeBatchnormFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0050.html - Description: 该融合规则将Conv2DTranspose+BatchNorm或BNInference算子融合为Conv2DTransposeD算子,将BatchNorm或BNInference的输入转化为Conv2DTransposeD的weight和bias输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0050_html.md ## CANN商业版-AvgPoolV2GradFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0051.html - Description: 该融合规则将AvgPoolV2Grad算子融合为AvgPoolV2GradD算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0051_html.md ## CANN商业版-DropOutDoMaskFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0052.html - Description: 该融合规则替换DropOutDoMaskV3D算子为DropOutDoMask。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0052_html.md ## CANN商业版-TransposeSigmoidMulAddPowConcatFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0053.html - Description: 该融合规则将yolov3,yolov5和yolov7不带nms后处理算子的模型最后的sigmoid结构融合成一个算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0053_html.md ## CANN商业版-ConvCastFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0054.html - Description: 将Conv2D算子与Cast算子融合为一个Conv2D算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0054_html.md ## CANN商业版-YoloxBoundingBoxDecodeONNXFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0055.html - Description: 该融合规则将StridedSliceD/Mul/Exp/GatherV2/Add/Muls/Sub/Unsqueeze/ConcatD算子融合为YoloxBoundingBoxDecode算子,提高计算性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0055_html.md ## CANN商业版-MatMulUnsqueezeSqueezeFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0056.html - Description: 融合模式一 MatMul/MatMulV2/BatchMatmul/BatchMatmulV2支持1 dim x N dim和N dim x 1 dim的输入场景下,需要将1 dim的输入插入Unsqueeze算子扩成二维,输出插入Squeeze算子去掉对应的扩维轴。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0056_html.md ## CANN商业版-LayerNormSpecialTrainingFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0057.html - Description: 该融合规则将Mean/SquaredDifference/Add/Rsqrt/RsqrtGrad/Mul/Sub/AddN算子融合成一个LayerNorm算子和两个LayerNormGrad算子,提高计算性能。如下图所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0057_html.md ## CANN商业版-StridedSliceConcatFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0058.html - Description: 该融合规则将StridedSliceD/StridedSliceD/ConcatD算子融合成Squeeze/Roll/Unsqueeze,提高计算性能。如下图所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0058_html.md ## CANN商业版-ZSplitVDFusionPassV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0060.html - Description: 该融合模式用在SplitV的size\_splits和split\_dim为常量时,将其融合成SplitVD,同时删除了size\_splits和split\_dim节点,将其变成SplitVD的属性,用于提升算子性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0060_html.md ## CANN商业版-RGB2YUV422FusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0061.html - Description: 由于RGB2YUV422算子和该算子中的load\_image支持形态不一致,所以新增融合规则,将RGB2YUV422拆分成两个算子:Aipp+YUV4442YUV422。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0061_html.md ## CANN商业版-MatMulAlignInputsFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0062.html - Description: 当matmul算子输入shape内轴非512B对齐时,MTE效率较低,性能表现较差。该图融合就是将matmul的输入shape进行对齐,解决性能问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0062_html.md ## CANN商业版-BatchMatMul2MulFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0063.html - Description: 网络中存在部分k\=1的MatMul/MatMulv2/MatMulV3/BatchMatmul/BatchMatMulV2/BatchMatMulV3算子,性能表现较差。该图融合就是将MatMul/MatMulv2/MatMulV3/BatchMatmul/BatchMatMulV2/BatchMatMulV3转为mul,解决性能问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0063_html.md ## CANN商业版-AInplaceAddFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0064.html - Description: 该图融合就是将网络中的InplaceAdd算子拆分成TensorMove+ScatterAdd算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0064_html.md ## CANN商业版-AInplaceSubFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0065.html - Description: 该图融合就是将网络中的InplaceSub算子拆分成TensorMove+ScatterSub算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0065_html.md ## CANN商业版-AInplaceUpdateFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0066.html - Description: 该图融合就是将网络中的InplaceUpdate算子拆分成TensorMove+ScatterUpdate算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0066_html.md ## CANN商业版-BatchMatmulFixpipeFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0067.html - Description: 在量化场景中,将下图结构融合为BatchMatmulFixpipe算子,使用Fixpipe使能量化功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0067_html.md ## CANN商业版-IncreFlashAttentionQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0068.html - Description: 量化场景,将IncreFlashAttention+AscendQuant融合为IncreFlashAttention算子,quant的scale和offset转化为ifa的quant\_scale2和quant\_offset2入参。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0068_html.md ## CANN商业版-PromptFlashAttentionQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0069.html - Description: 量化场景,将PromptFlashAttention+AscendQuant融合为PromptFlashAttention算子,quant的scale和offset转化为pfa的quant\_scale2和quant\_offset2入参。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0069_html.md ## CANN商业版-BatchMatMulDequantElemwiseFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0070.html - Description: 量化场景,将BatchMatMul/MatMul +AscendDequant + Elemwise融合为BatchMatMul算子,Elemwise算子broadcast到MatMul上。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0070_html.md ## CANN商业版-AddLayerNormFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0071.html - Description: - 场景一:基础场景,将Add + Cast\(可选\)+ LayerNorm/LayerNormV3/LayerNormV4融合为AddLayerNorm算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0071_html.md ## CANN商业版-IndexByTensorStaticFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0072.html - Description: 在PyTorch图模式场景中,静态shape时,将IndexByTensor转换为Index算子,用于保证图下沉不被破坏。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0072_html.md ## CANN商业版-MaskedSoftmaxWithRelPosBiasFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0073.html - Description: 将符合如下模式中的Mul,Add,Reshape,Softmax融合成MaskedSoftmaxWithRelPosBias算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0073_html.md ## CANN商业版-WeightQuantBatchMatmulV2TransposeFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0074.html - Description: 对于WeightQuantBatchMatmulV2所连接的Transpose节点,将其信息下沉到transpose\_x和transpose\_weight属性中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0074_html.md ## CANN商业版-GeGluV2FusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0076.html - Description: 完成如下结构的融合,把小算子\(SplitVD + Gelu + Mul\)融合成大算子GeGluV2。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0076_html.md ## CANN商业版-QuantBatchMatmulV3TransposeFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0077.html - Description: 将算子QuantBatchMatmulV3的输入x1/x2所连接的Transpose/TransposeD算子节点融合,将其信息分别转化到QuantBatchMatmulV3的两个属性transpose\_x1和transpose\_x2中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0077_html.md ## CANN商业版-FusedInferAttentionScoreQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0078.html - Description: 量化场景,将FusedInferAttentionScore+AscendQuant融合为FusedInferAttentionScore算子,quant的scale和offset转化为FIA接口的quant\_scale2和quant\_offset2入参。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0078_html.md ## CANN商业版-ConfusionTransposeTransDataFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0079.html - Description: 在图融合阶段将ConfusionTransposeD\(NHWC->NCHW\)+TransData\(NCHW->5HD\)融合为TransData\(NHWC->5HD\)算子,减少一次ConfusionTransposeD操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0079_html.md ## CANN商业版-QuantizeAddLayerNormPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0080.html - Description: 场景1:将算子AddLayerNorm的输出y所连接的两个Quantize算子或两个AscendQuantV2算子融合掉,融合成新算子DuaQuantizeAddLayerNorm。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0080_html.md ## CANN商业版-InplaceAddRmsNormFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0081.html - Description: 场景一:将AddRmsNorm的y输出地址复用x1输入地址,x输出地址复用x2输入地址,转换为InplaceAddRmsNorm算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0081_html.md ## CANN商业版-ZInplaceAddLayerNormFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0082.html - Description: 将AddLayerNorm的y输出地址复用x1输入地址,x输出地址复用x2输入地址,转换为InplaceAddLayerNorm算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0082_html.md ## CANN商业版-TransdataTransposeTransdataBatchMatMulv2FusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0083.html - Description: 将双BatchMatMulV2节点间的TransData、Transpose等冗余节点删除。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0083_html.md ## CANN商业版-MatmulLayerNormReduceFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0084.html - Description: 将满足如下Pattern的结构融合成MatmulLayerNormReduce算子加LayerNormUpdate算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0084_html.md ## CANN商业版-DynamicQuantUpdateScatterFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0085.html - Description: 将满足如下Pattern的结构融合成DynamicQuantUpdateScatter算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0085_html.md ## CANN商业版-AscendQuantV2ScatterFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0086.html - Description: 将满足如下Pattern的结构融合成QuantUpdateScatter算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0086_html.md ## CANN商业版-AddLayerNormDynamicQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0087.html - Description: 将AddLayerNorm和其下游的1个或2个DynamicQuant融合成AddLayerNormQuant算子,如下图所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0087_html.md ## CANN商业版-AddRmsNormQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0088.html - Description: 将满足如下Pattern的结构融合成AddRmsNormQuant算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0088_html.md ## CANN商业版-GeluQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0089.html - Description: 完成如下结构的融合,把小算子\(Gelu + AscendQuantV2\)或\(Gelu + DynamicQuant\)融合成大算子GeluQuant。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0089_html.md ## CANN商业版-DeleteNoConstFoldingFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0091.html - Description: 识别到如下图结构时,AscendWeightQuant算子上如有ATTR\_NO\_NEED\_CONSTANT\_FOLDING标签则删除。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0091_html.md ## CANN商业版-TfMergeWeightQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0095.html - Description: 量化场景,在下列图结构中,对于匹配到的Cube类算子(包括Conv2D/DepthwiseConv2D/Conv3D/Deconvolution/Conv2DTransposeD/MatMulV2/BatchMatMulV2),做如下图中处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0095_html.md ## CANN商业版-LayerNormSpecialFourGradsTrainingFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0097.html - Description: 和LayerNormSpecialTrainingFusionPass类似,该融合规则将Mean/SquaredDifference/Add/Rsqrt/RsqrtGrad/Mul/Sub/AddN算子融合成一个LayerNorm算子和两个LayerNormGrad算子,提高计算性能。有差异的是该融合pass会匹配四个反向的pattern,并将其中两个scope名称和正向LayerNorm一致的反 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0097_html.md ## CANN商业版-GroupedMatmulTransFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0098.html - Description: 融合模式一:将Transpose或TransposeD从图中删除,并将weight转置信息添加在算子属性上。如下图所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0098_html.md ## CANN商业版-SameInputConv2dFixpipePass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0099.html - Description: 该融合将符合约束条件的多路Conv2D+AscendDequant+Relu+AscendQuant算子融合成一路Conv2D+AscendDequant+Relu+AscendQuant+Split融合算子,如下图所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0099_html.md ## CANN商业版-SpaceToBatchConv2dBatchToSpacePass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0101.html - Description: 该融合将顺序连接的SpaceToBatchND、Conv2D、BatchToSpaceND算子融合为Conv2D算子,如下图所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0101_html.md ## CANN商业版-ConcatTileFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0102.html - Description: 该融合将连续具备相同Multiple的Tile算子的输入使用Concat进行连接,进而完成Tile算子的融合,如下图所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0102_html.md ## CANN商业版-MatmulReshapeTransposeFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0103.html - Description: 该融合将符合图融合pattern的Matmul算子前后的Transpose算子删除,同时交换Matmul算子的两路输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0103_html.md ## CANN商业版-AddRmsNormFusionGraphPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0104.html - Description: 该融合将符合图融合pattern的Add算子和RmsNorm算子融合成融合算子AddRmsNorm,其中Add算子的输出作为RmsNorm算子的第一个输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0104_html.md ## CANN商业版-AddRmsNormDynamicQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0105.html - Description: 该融合将符合图融合pattern的AddRmsNorm算子和DynamicQuant算子融合成融合算子AddRmsNormDynamicQuant,其中AddRmsNorm算子的输出y作为DynamicQuant算子的第一个输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0105_html.md ## CANN商业版-ReluFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0106.html - Description: caffe框架下,该融合会匹配到如下特定图结构,匹配成功后,转成随路指令完成激活函数的计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0106_html.md ## CANN商业版-CubeTransFixpipeFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0110.html - Description: 当匹配到下图结构时,将transdata节点后移用于匹配Fixpipe融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0110_html.md ## CANN商业版-MatMulTransposeWeightFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0111.html - Description: 二维矩阵的第一个轴为外轴,第二个轴为内轴,比如A \= M x K中,内轴为K,转置之后A^T \= k x M,内轴为M。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0111_html.md ## CANN商业版-ConvFormatRefreshFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0112.html - Description: 针对如下图中的结构时,将卷积算子Input1的shape和format配置为输出的shape和format。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0112_html.md ## CANN商业版-FIXPIPEFUSIONPASS - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0113.html - Description: 在拥有FIXPIPE相关硬件上,当cube算子包含FixPipeAbilityProcessPass配置的“support\_fixpipe\_ability”属性时,会按照图中顺序依次匹配convert、activation和transform单元,当三个单元中至少存在一个单元时(不存在的单元则跳过),会将匹配到的算子融合为FIXPIPE算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0113_html.md ## CANN商业版-ConstToAttrReduceSumFusion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0114.html - Description: 静态场景下,该融合将符合图融合pattern的ReduceSum算子修改为ReduceSumD算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0114_html.md ## CANN商业版-AReduceSumFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0116.html - Description: 静态场景下,该融合将符合图融合pattern的ReduceSum算子修改为Reshape算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0116_html.md ## CANN商业版-TransposedUpdateFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0119.html - Description: 该融合将符合图融合pattern的TransposeD算子,当算子中的check\_supported函数返回True时,将图中的TransposeD算子改为Transpose算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0119_html.md ## CANN商业版-ConstToAttrStridedSliceFusion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0120.html - Description: 将StridedSlice算子融合成StridedSliceD算子,并将StridedSlice算子的Const节点输入begin、end、strides,转变成StridedSliceD算子的属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0120_html.md ## CANN商业版-ZSplitVFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0121.html - Description: 将输出数量超限的SplitV节点拆分成多层级联的SplitV节点结构。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0121_html.md ## CANN商业版-ZSplitFusionPassV2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0123.html - Description: 将输出数量超限的Split节点拆分成多层级联的Split/SplitV节点结构。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0123_html.md ## CANN商业版-ZConfusionSoftmaxGradFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0126.html - Description: 该融合将符合图融合pattern的Mul + ReduceSumD/ReduceSum(仅Atlas 350 加速卡支持) + Sub这几个小算子融合成ConfusionSoftmaxGrad算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0126_html.md ## CANN商业版-SoftmaxGradExtFusion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0128.html - Description: 该融合将符合下图左侧图结构的Mul、ReduceSumD、Sub这些小算子,融合成下图右侧的SoftmaxGradExt算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0128_html.md ## CANN商业版-TransposeReshapeFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0130.html - Description: 该融合将符合图融合pattern的TransposeD+Reshape算子,融合成ConfusionTransposeD算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0130_html.md ## CANN商业版-SoftmaxGradFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0131.html - Description: 该融合将符合图融合pattern的小算子融合成SoftmaxGrad算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0131_html.md ## CANN商业版-SparseSoftMaxFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0133.html - Description: 该融合将符合图融合pattern的SparseSoftmaxCrossEntropyWithLogits算子,融合成OneHotD + SoftmaxCrossEntropyWithLogits算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0133_html.md ## CANN商业版-FixPipeAbilityProcessPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0134.html - Description: 该融合规则给fixpipe节点打上“support\_fixpipe\_ability”属性。属性值为枚举类型,含义如下。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0134_html.md ## CANN商业版-ARefreshCubeC0FusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0135.html - Description: 修正cube类算子的输入输出是重型格式(私有格式)的c0值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0135_html.md ## CANN商业版-ApplyAddOutputPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0136.html - Description: 为表1中的算子增加可选输出和precheck。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0136_html.md ## CANN商业版-ZZMatMulToMatmulV3FusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0137.html - Description: 该融合将符合图融合pattern的MatmulV2的算子转换为MatmulV3算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0137_html.md ## CANN商业版-PaddUpdateFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0138.html - Description: 该融合将符合图融合pattern的PadD算子,在静态场景下且非5HD场景下,将图中的PadD算子改为Pad算子,并将属性转换为输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0138_html.md ## CANN商业版-PadFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0139.html - Description: 该融合将符合图融合pattern的Pad算子,在输入paddings为const节点时,将图中的Pad算子改为PadD算子,并将输入转换为属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0139_html.md ## CANN商业版-ForceFp16CastFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0140.html - Description: 针对cast算子中,输入和输出的数据类型为int32->fp32或fp32->int32时,可以通过设置attr\_keep\_dtype来提高精度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0140_html.md ## CANN商业版-TensorScatterUpdateFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0141.html - Description: 该融合将符合图融合pattern的TensorScatterUpdate算子,在输入输出数据类型不是Bool或int32时,修改为TensorMove+ScatterNdUpdate算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0141_html.md ## CANN商业版-SubFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0142.html - Description: 该融合将符合图融合pattern的Sub算子,在满足以下约束的情况下,融合成Const节点,修改Const节点的value是全0,shape与Sub节点的输出shape一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0142_html.md ## CANN商业版-ZZConfusionTransposeNdFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0143.html - Description: 将静态场景下ND格式的ConfusionTransposeD替换为Transpose算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0143_html.md ## CANN商业版-AddNFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0144.html - Description: 当输入过多时,将输入按照如下规则进行分组,最后将每组之和进行相加。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0144_html.md ## CANN商业版-ReshapeTransposeFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0145.html - Description: 该融合将符合图融合pattern的Reshape+TransposeD算子改为ConfusionTransposeD算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0145_html.md ## CANN商业版-SoftmaxCrossEntropyWithLogitsPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0146.html - Description: 该融合将符合图融合pattern的reshape+SoftmaxCrossEntropyWithLogits算子,融合后消除Reshape算子,仅保留SoftmaxCrossEntropyWithLogits算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0146_html.md ## CANN商业版-MulAddNPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0148.html - Description: 该融合规则在Mul节点个数大于2时,将多个Mul节点和AddN节点融合成一个MulAddN节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0148_html.md ## CANN商业版-ZConcatExt2FusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0149.html - Description: 该融合规则将ConcatV2算子的多个输入拆分成多个ConcatV2D,根据实际输入个数,按照一定计算规则确定融合后ConcatV2D个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0149_html.md ## CANN商业版-EinsumPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0150.html - Description: 该融合规则根据Einsum算子的表达式构造出对应的计算图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0150_html.md ## CANN商业版-MatmulReshapeFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0151.html - Description: 该融合规则在Matmul N轴等于1时,会对第二个输入增加Reshape节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0151_html.md ## CANN商业版-AABiasaddConvFusion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0152.html - Description: 该融合规则将不包含Bias的Conv卷积算子和BiasAdd算子进行融合,融合为一个包含Bias输入的Conv卷积算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0152_html.md ## CANN商业版-TileConstToAttrFusion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0153.html - Description: 该融合规则将Tile转换成TileD,其中该融合规则的输入multiples将转换为required\_attr。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0153_html.md ## CANN商业版-MatMulReshapeBiasAddFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0154.html - Description: 该融合规则对MatMul算子的输出做了Reshape处理,并对Reshape输出进行BiasAdd/Add处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0154_html.md ## CANN商业版-RealDiv2MulsFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0155.html - Description: 在RealDiv算子的第二个输入的数据类型为scalar时,该融合规则会将其转换为调用Muls算子,且第二个输入变为原输入的倒数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0155_html.md ## CANN商业版-TopKFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0157.html - Description: 该融合规则将TopK或TopKV2节点,基于平台的不同替换为TopKV2/TopKD/TopKV2D算子,或直接拆解为SegmentSort+MultiMerge的组合。详细场景如下。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0157_html.md ## CANN商业版-UniqueSortFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0158.html - Description: 将Unique或UniqueWithCount算子拆分为Sort+AdjacentDifference+Cumsum+Scatter+UniqueConsecutive算子的组合以完成计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0158_html.md ## CANN商业版-BatchMatMul2TransposeBatchMatMulFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0159.html - Description: 模式一: 当Transpose(可选)、BatchMatMul、Transpose这几个节点按下图所示顺序连接时,可融合为TransposeBatchMatmul算子节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0159_html.md ## CANN商业版-BatchMatMulToBatchMatmulV3FusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0160.html - Description: 该融合将符合图融合pattern的BatchMatMulV2/BatchMatMul的算子转换为BatchMatMulV3算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0160_html.md ## CANN商业版-MatMulToMatmulV3FusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0161.html - Description: 该融合将符合图融合pattern的MatMulV2/MatMul的算子转换为MatMulV3算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0161_html.md ## CANN商业版-BatchMatMulTransposeFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0162.html - Description: 该融合将符合图融合pattern的Transpose1/Transpose2算子融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0162_html.md ## CANN商业版-MatmulToGemmOpFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0164.html - Description: 该融合将符合图融合pattern的MatMulV3/MatMulV2/MatMul的算子转换为GemmV3算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0164_html.md ## CANN商业版-BernoulliFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0170.html - Description: 在GE中对于prob是多个值的场景,将StatelessBernoulliV2中x的shape关联到StatelessBernoulli第一个输入shape,x的value关联到第二输入prob中,形成统一在线编译的适配能力。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0170_html.md ## CANN商业版-RotaryMul2RotaryPositionEmbeddingFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0172.html - Description: 完成如下结构的融合,把算子RotaryMul融合成算子RotaryPositionEmbedding。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0172_html.md ## CANN商业版-InterleaveRope2RotaryPositionEmbeddingFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0173.html - Description: 完成如下结构的融合,把算子InterleaveRope融合成算子RotaryPositionEmbedding。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0173_html.md ## CANN商业版-RotaryMulGrad2RotaryPositionEmbeddingGradFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0174.html - Description: 完成如下结构的融合,把算子RotaryMulGrad融合成算子RotaryPositionEmbeddingGrad。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0174_html.md ## CANN商业版-TbePool2dQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0176.html - Description: 该融合将Pool2D+Quant+strided\_write算子融合成一个融合算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0176_html.md ## CANN商业版-FusionVirtualOpSetSwitch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0177.html - Description: 控制执行split\_n轴优化和split\_c\_to\_n轴优化的开关。将符合约束条件的Split类算子\(SplitD/SplitVD\)添加no\_task属性,通过N轴拼接操作跳过算子编译流程,从而提升性能。如果Split类算子输入的内存过大,可以选择关闭该融合规则。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0177_html.md ## CANN商业版-TbeAippConv2dAddRelu6MulMulFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0178.html - Description: 该融合规则将满足如下Pattern的结构融合成一个融合算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0178_html.md ## CANN商业版-TbeConv3dElemwisePass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0179.html - Description: 该融合将满足如下pattern关系的子图中Conv3D和Elemwise进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0179_html.md ## CANN商业版-TbeConv3dDxElemwisePass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0180.html - Description: 该融合将满足如下Pattern关系的子图中Conv3dBackpropInput和Elemwise进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0180_html.md ## CANN商业版-MatmulDropOutDoMaskV3DFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0181.html - Description: 该融合将满足如下Pattern关系的子图中MatMul和DropOutDoMaskV3D/Add进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0181_html.md ## CANN商业版-BatchMatmulDropOutDoMaskV3DFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0182.html - Description: 该融合将满足如下Pattern关系的子图中BatchMatMul和DropOutDoMaskV3D/Add进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0182_html.md ## CANN商业版-MatmulReduceSumUbFusion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0183.html - Description: 该融合将满足如下Pattern关系的子图中BatchMatMul和ReduceSum进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0183_html.md ## CANN商业版-TbeBatchMatMulQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0184.html - Description: 该融合将满足如下Pattern关系的子图中BatchMatMul/GEMM和AscendDequant/AscendQuant/Elemwise进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0184_html.md ## CANN商业版-TbeBatchMatmulElementWiseFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0185.html - Description: 该融合将满足如下Pattern关系的子图中BatchMatMul/GEMM和ElemWise进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0185_html.md ## CANN商业版-ATbeMatMulElemwiseFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0186.html - Description: 该融合将满足如下Pattern关系的子图中MatMul/GEMM和Elemwise进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0186_html.md ## CANN商业版-MatMulFastgelugradUbFusion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0187.html - Description: 该融合将满足如下Pattern关系的子图中MatMul/GEMM和Elemwise进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0187_html.md ## CANN商业版-MatmulConfusiontransposeUbFusion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0188.html - Description: 该融合将满足如下Pattern关系的子图中MatMul和ConfusionTransposeD进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0188_html.md ## CANN商业版-BatchMatMulV2DequantMulAddFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0189.html - Description: 该融合将满足如下Pattern关系的子图中BatchMatMul+Elemwise+AscendDequant节点进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0189_html.md ## CANN商业版-MatMulGelugradUbFusion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0190.html - Description: 该融合将满足如下Pattern关系的子图中MatMul/GEMM和ElemWise进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0190_html.md ## CANN商业版-TbeFullyconnectionElemwiseDequantFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0191.html - Description: 该融合将满足如下Pattern关系的子图中FullyConnection/MatMul/MatMulV2/BatchMatMul/BatchMatMulV2+ElemWise+AscendQuant+AscendDequant对应节点进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0191_html.md ## CANN商业版-BatchMatmulConfusiontransposeUbFusion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0192.html - Description: 该融合将满足如下Pattern关系的子图中batch\_matmul和batchmatmul\_transpose进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0192_html.md ## CANN商业版-TbeConvSigmoidMulQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0194.html - Description: 该融合将Conv+Sigmoid+Mul+Quant算子融合成一个融合算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0194_html.md ## CANN商业版-TbeConvDequantVaddReluQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0195.html - Description: 该融合支持将以下7种融合模式融合成单个conv2d融合算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0195_html.md ## CANN商业版-TbeConvDequantVaddReluFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0196.html - Description: 该融合支持将以下三种融合模式融合成单个Conv2D融合算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0196_html.md ## CANN商业版-TbeConv2DReluv2Pass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0197.html - Description: 该融合将Conv2D+ReluV2算子融合成1个Conv2D融合算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0197_html.md ## CANN商业版-TbeConvDoubleInFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0198.html - Description: 该融合将Conv2D + Elemtwise + Elemtwise算子融合成1个Conv2D融合算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0198_html.md ## CANN商业版-Conv2DDequantClipByValueFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0199.html - Description: 该融合将Conv2D + AscendDequant(可选) + ClipByValue + AscendQuant(可选)算子融合成一个融合算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0199_html.md ## CANN商业版-TbeConv2dAddClipMulDivFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0200.html - Description: 该融合将Conv2D + Add + Clip + Mul + Div(可选)算子融合成一个融合算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0200_html.md ## CANN商业版-TbeConv2DAddMulQuantPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0201.html - Description: 将Conv2D + Dequant + Add + Quant进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0201_html.md ## CANN商业版-TbeConv2dAddRelu6MulMulFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0202.html - Description: 支持以下两种融合模式 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0202_html.md ## CANN商业版-ConvClipByValueFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0203.html - Description: 支持以下融合模式 将Conv2D + Elemwise(ClipByValue类型)算子融合成一个融合算子。 - Elemwise个数为1-3个,第一个Elemwise算子必须是ClipByValue类型,后两个Elemwise算子类型为Relu或Add。 - Conv2D算子的output channel需为16的整数倍大小。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0203_html.md ## CANN商业版-TbeAippConvReluMaxpoolingFusion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0204.html - Description: 该融合将满足如下Pattern关系的子图中Aipp(可选) + Conv2D + Dequant(可选) + ElemWise(可选) + MaxPool(MaxPool/Pooling/MaxPoolv3)+ AscendQuant(可选)算子融合成一个融合算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0204_html.md ## CANN商业版-TbeAippCommonFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0205.html - Description: 该融合将满足如下Pattern关系的子图中Aipp+Conv2D+Fixpipe(可选)或Requant(可选)对应节点进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0205_html.md ## CANN商业版-AutomaticUbFusion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0206.html - Description: 经过其他UB融合之后,将未参与UB融合且相连的Elemwise类算子进行UB融合。该融合优先级最低。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0206_html.md ## CANN商业版-TbeReduceElemwiseFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0207.html - Description: 该融合规则在静态shape场景下将如下pattern子图进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0207_html.md ## CANN商业版-TbeReadSelectEltwiseFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0208.html - Description: 该融合将ReadSelect + ElemWise算子进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0208_html.md ## CANN商业版-TbeMultiOutputFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0209.html - Description: 该融合将满足如下Pattern关系的子图中ElemWise对应节点进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0209_html.md ## CANN商业版-TbeEltwiseWriteSelectFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0210.html - Description: 该融合将满足如下Pattern关系的子图中ElemWise + write\_select对应节点进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0210_html.md ## CANN商业版-TbeEltwiseQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0211.html - Description: 该融合将满足如下Pattern关系的子图中ElemWise/Broadcast类和quant类节点进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0211_html.md ## CANN商业版-TbeEltwiseFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0212.html - Description: 该融合将满足如下Pattern关系的子图中ElemWise/Broadcast对应节点进行UB融合,ElemWise/Broadcast节点可以连续多个,最多支持6个。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0212_html.md ## CANN商业版-TbeDynamicElemwiseReduceFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0213.html - Description: 该融合规则在动态shape场景下将如下pattern子图进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0213_html.md ## CANN商业版-TbeDynamicElemwiseBroadcastFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0214.html - Description: 该融合在动态shape场景下Elemwise/Broadcast类算子的UB融合,最多融合6个算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0214_html.md ## CANN商业版-TbeConvBnreduceFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0215.html - Description: 该融合将满足如下Pattern关系的子图中Convolution + bn\_reduce对应节点进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0215_html.md ## CANN商业版-TbeConv2DBackpropElemwiseFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0216.html - Description: 该融合将满足DX+ElementWise+ElementWise1(可选)进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0216_html.md ## CANN商业版-TbeDepthwiseConvElemwiseFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0217.html - Description: 将满足如下Pattern关系的Elemwise+DepthwiseConvolution进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0217_html.md ## CANN商业版-TbeDxDeqElemQuantPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0218.html - Description: 该融合将满足DX+AscendDequant + ElementWise + AscendQuant(可选)进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0218_html.md ## CANN商业版-TbeDxElemwisePass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0219.html - Description: 该融合将满足DX+ElementWise进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0219_html.md ## CANN商业版-TbeConv2dBackpropRequantFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0220.html - Description: 该融合将满足DX+AscendRequant+StrideWrite(可选)进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0220_html.md ## CANN商业版-TbeDxTransdataFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0221.html - Description: 该融合将满足TransData(可选)+TransData+DX+TransData(可选)进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0221_html.md ## CANN商业版-MatmulGeneralizedUbFusion - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0222.html - Description: 该融合将对满足如下模式(pattern)关系的子图进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0222_html.md ## CANN商业版-MatmulTransdataFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0223.html - Description: 该融合将满足如下Pattern关系的子图进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0223_html.md ## CANN商业版-TbeElemwiseQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0224.html - Description: 该融合将Elemwise/Broadcast类算子和Quant算子进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0224_html.md ## CANN商业版-TbeEltwiseCastFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0225.html - Description: 该融合将Elemwise类算子和Cast算子进行融合,具体可以分为如下四种场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0225_html.md ## CANN商业版-TbeConv2DBackpropDequantFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0226.html - Description: 该融合将DX+AscendDequant进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0226_html.md ## CANN商业版-TbeQuantConv2DElemWiseFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0227.html - Description: 将QuantConv2D和elemwise/broadcast节点进行UB融合。elemwise白名单为Add/Div/Realdiv。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0227_html.md ## CANN商业版-TbeConv2DAddRealDivTransdataFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0228.html - Description: 将Conv2D和elemwise/broadcast以及transdata节点进行UB融合。elemwise白名单为Add/Div/Realdiv。仅支持SDXL网络中的单输出级联结构:即静态场景下的conv2d+transdata、conv2d+add+transdata、conv2d+div+transdata、conv2d+realdiv+transdata、conv2d+add+div+t - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0228_html.md ## CANN商业版-AddLayerNormV3FusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0229.html - Description: 该融合规则将RealDiv+Add+LayerNormV3结构或者Add+LayerNormV3结构进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0229_html.md ## CANN商业版-TbeConvFixPipeFusionPass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0230.html - Description: 将conv2d与FIXPIPEFUSIONPASS中生成的fixpipe节点、elemwise类算子(可选)和quant算子(可选)进行UB融合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_graphubfusionref_atlasrr_30_0230_html.md ## 日志简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/logreference - Description: 日志主要用于记录系统的运行过程及异常信息,帮助用户快速定位系统运行过程中出现的问题以及开发过程中的程序调试问题。日志分为如下几类: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_logreference_logreference_0001_html.md ## 日志简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/logreference/logreference_0001.html - Description: 日志主要用于记录系统的运行过程及异常信息,帮助用户快速定位系统运行过程中出现的问题以及开发过程中的程序调试问题。日志分为如下几类: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_logreference_logreference_0001_html.md ## 查看日志( Ascend RC ) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/logreference/logreference_0003.html - Description: 本节介绍 Ascend RC 形态下,日志文件存储路径以及各日志文件记录的主要信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_logreference_logreference_0003_html.md ## 查看日志(Control CPU开放形态) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/logreference/logreference_0004.html - Description: 本节介绍Control CPU开放形态下,日志文件存储路径以及各日志文件记录的主要信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_logreference_logreference_0004_html.md ## 设置日志级别 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/logreference/logreference_0008.html - Description: 日志记录了运行环境的运行情况和功能流程的处理情况,是维护人员查看系统状态、进行问题定位的重要工具和手段。日志模块根据系统设置的日志级别,记录不同详细程度的内容,满足不同系统维护需求。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_logreference_logreference_0008_html.md ## 重启日志进程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/logreference/logreference_0012.html - Description: 修改Device侧日志配置文件后,需要重启日志进程使配置生效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_logreference_logreference_0012_html.md ## 查看日志配置文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/logreference/logreference_0017.html - Description: 本节介绍Device侧的日志配置文件。该文件中记录了Device侧系统类日志的日志级别、日志输出路径、日志数量、单个日志文件大小等配置信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_logreference_logreference_0017_html.md ## 查看trace日志 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/logreference/logreference_0022.html - Description: trace机制是指在程序运行过程中将软件栈的维测信息记录在内存中,当程序运行出错或进程结束时落盘到文件,以免在程序运行过程中频繁产生和记录日志文件,影响性能。当前仅 Ascend EP 标准形态支持该功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_logreference_logreference_0022_html.md ## 日志没有正常落盘 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/logreference/logreference_0024.html - Description: 通过msnpureport工具导出Device侧系统日志失败 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_logreference_logreference_0024_html.md ## 未设置日志打印环境变量,但是在屏幕上仍有日志显示 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/logreference/logreference_0026.html - Description: 用户未设置日志打印环境变量(export ASCEND\_SLOG\_PRINT\_TO\_STDOUT\=1),但是在屏幕上仍有日志显示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_logreference_logreference_0026_html.md ## 通信矩阵 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/refdoc/refer001.html - Description: CANN通信矩阵中包含产品开放的端口、该端口使用的传输层协议、通过该端口与对端通信的通信网元名称、认证方式、用途等信息说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_refdoc_refer001_html.md ## 漏洞修复列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/refdoc/refer002.html - Description: 版本开源及第三方软件漏洞修复情况: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_refdoc_refer002_html.md ## 开源软件声明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/refdoc/refer003.html - Description: 开源软件声明: - CANN 9.0.0: CANN 9.0.0 Open Source Software Notice.docx 。 - CANN 9.0.1: CANN 9.0.1 Open Source Software Notice.docx 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_refdoc_refer003_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0001_html.md ## E10001 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0001.html - Description: Value %s for parameter %s is invalid. Reason: %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0001_html.md ## E10002 Invalid\_Argument\_Tensor\_Input\_Shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0002.html - Description: Value %s for parameter --input\_shape is invalid. Reason: %s. The value must be formatted as %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0002_html.md ## E10003 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0003.html - Description: Value %s for parameter --%s is invalid. Reason: %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0003_html.md ## E10004 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0004.html - Description: Value for --%s is empty. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0004_html.md ## E10005 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0005.html - Description: Value %s for parameter --%s is invalid. The value must be either true or false. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0005_html.md ## E10006 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0006.html - Description: Value %s for parameter --%s is invalid. The value must be either 1 or 0. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0006_html.md ## E10007 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0007.html - Description: --%s is required. The value must be %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0007_html.md ## E10008 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0008.html - Description: --weight must not be empty when --framework is set to 0 \(Caffe\). - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0008_html.md ## E10009 Invalid\_Argument\_Tensor\_Dynamic\_Shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0009.html - Description: --dynamic\_batch\_size, --dynamic\_image\_size, --input\_shape\_range, and --dynamic\_dims are mutually exclusive. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0009_html.md ## E10010 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0010.html - Description: Value %s for parameter --log is invalid. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0010_html.md ## E10011 Invalid\_Argument\_Tensor\_Input\_Shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0011.html - Description: Value %s for parameter --input\_shape is invalid. Shape values must be positive integers. The error value in the shape is %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0011_html.md ## E10012 Invalid\_Argument\_Tensor\_Input\_Shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0012.html - Description: --dynamic\_batch\_size is included, but the dimension count of the dynamic-shape input configured in --input\_shape is less than 1. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0012_html.md ## E10013 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0013.html - Description: Value %s for --%s is out of range. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0013_html.md ## E10014 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0014.html - Description: Value %s for parameter --%s is invalid. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0014_html.md ## E10016 Invalid\_Argument\_Operator\_Name - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0016.html - Description: Opname %s specified in --%s is not found in the model. Confirm whether this node name exists, or the node is not split with the specified delimiter ';'. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0016_html.md ## E10017 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0017.html - Description: Input Op %s specified in --%s is invalid. The Op type must be Data. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0017_html.md ## E10018 Invalid\_Argument\_Tensor\_Dynamic\_Shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0018.html - Description: Value %s for shape %s is invalid. When --dynamic\_batch\_size is included, only batch size N can be -1 in --input\_shape. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0018_html.md ## E10019 Invalid\_Argument\_Tensor\_Input\_Shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0019.html - Description: When --dynamic\_image\_size is included, only the height and width axes can be -1 in --input\_shape. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0019_html.md ## E10020 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0020.html - Description: Value %s for parameter --dynamic\_image\_size is invalid. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0020_html.md ## E10021 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0021.html - Description: Path for parameter --%s is too long. Keep the length within %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0021_html.md ## E10022 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0022.html - Description: Path %s for parameter --%s does not include the file name. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0022_html.md ## E10023 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0023.html - Description: Value %s for parameter --singleop is invalid. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0023_html.md ## E10024 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0024.html - Description: Failed to open file %s specified by --singleop. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0024_html.md ## E10025 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0025.html - Description: File %s specified by --singleop is not a valid JSON file. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0025_html.md ## E10026 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0026.html - Description: The Op name is empty in the file specified by --singleop. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0026_html.md ## E10027 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0027.html - Description: Attribute %s of %s tensor %s for Op %s is invalid when --singleop is specified. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0027_html.md ## E10029 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0028.html - Description: Attribute name of Op %s is empty in the file specified by --singleop. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0028_html.md ## E10030 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0029.html - Description: There is an invalid value for attribute name %s of Op %s in the file specified by --singleop. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0029_html.md ## E10031 Invalid\_Argument\_Tensor\_Input\_Shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0030.html - Description: --dynamic\_batch\_size is included, but none of the nodes specified in --input\_shape has a batch size equaling -1. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0030_html.md ## E10032 File\_Operation\_Error\_Parse - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0031.html - Description: Parse json file %s failed. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0031_html.md ## E10034 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0032.html - Description: Nodes \(for example, %s\) connected to AIPP must not be of type fp16. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0032_html.md ## E10035 Invalid\_Argument\_Tensor\_Dynamic\_Shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0033.html - Description: --dynamic\_batch\_size, --dynamic\_image\_size, or --dynamic\_dims has %s profiles, which is less than the minimum %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0033_html.md ## E10036 Invalid\_Argument\_Tensor\_Dynamic\_Shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0034.html - Description: --dynamic\_batch\_size, --dynamic\_image\_size, or --dynamic\_dims has %s profiles, which is greater than the maximum %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0034_html.md ## E10037 Invalid\_Argument\_Tensor\_Dynamic\_Shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0035.html - Description: The profiles configured in --dynamic\_batch\_size, --dynamic\_image\_size, or --dynamic\_dims have inconsistent dimension counts. A profile has %s dimensions while another has %s dimensions. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0035_html.md ## E10038 Invalid\_Argument\_Tensor\_Dynamic\_Shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0036.html - Description: Dimension size %s is invalid. The value must be greater than 0. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0036_html.md ## E10039 Invalid\_Argument\_Tensor\_Dynamic\_Shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0037.html - Description: The --dynamic\_batch\_size, --dynamic\_image\_size, or --dynamic\_dims argument have duplicate profiles. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0037_html.md ## E10040 Invalid\_Argument\_Tensor\_Input\_Shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0038.html - Description: As the --dynamic\_batch\_size, --dynamic\_image\_size, or --dynamic\_dims argument is included, the corresponding nodes specified in --input\_shape must have -1 axes and cannot have '~'. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0038_html.md ## E10041 Invalid\_Argument\_Model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0039.html - Description: Failed to load the model from %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0039_html.md ## E10045 Invalid\_Argument\_Tensor\_Dynamic\_Shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0042.html - Description: The number of -1 axes in the --input\_shape argument exceeds the dimension count per profile in --dynamic\_dims. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0042_html.md ## E10046 Invalid\_Argument\_Tensor\_Dynamic\_Shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0043.html - Description: The total number of -1 axes in the --input\_shape argument is greater than the dimension count per profile in --dynamic\_dims. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0043_html.md ## E10047 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0044.html - Description: --%s and --%s are mutually exclusive. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0044_html.md ## E10048 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0045.html - Description: Value %s for parameter --input\_shape\_range or dynamic\_inputs\_shape\_range is invalid. Reason: %s. The value must be formatted as %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0045_html.md ## E10049 Invalid\_Argument\_Tensor\_Input\_Shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0046.html - Description: Dimension count %s configured in --input\_shape does not match dimension count %s of the node. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0046_html.md ## E10050 Invalid\_Argument\_Tensor\_Input\_Shape\_Range - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0047.html - Description: Current dimension size %s is not in the range of %s–%s specified by --input\_shape. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0047_html.md ## E10051 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0048.html - Description: Value %s for parameter --job\_id exceeds the allowed maximum %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0048_html.md ## E10052 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0049.html - Description: AIPP configuration is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0049_html.md ## E10054 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0051.html - Description: The required parameter %s for ATC is empty. Another possible reason is that the values of some parameters are not enclosed by quotation marks \(\\"\\"\). - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0051_html.md ## E10055 Not\_Supported - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0052.html - Description: The operation is not supported. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0052_html.md ## E10056 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0053.html - Description: Cannot configure both parameters %s and %s simultaneously. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0053_html.md ## E10057 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0054.html - Description: --%s and --%s can only be used together - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0054_html.md ## E10401 Invalid\_Argument\_Operator\_Input\_Count - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0055.html - Description: The number of operator inputs %s exceeds the allowed maximum %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0055_html.md ## E10402 Invalid\_Argument\_Operator\_Input\_Buffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0056.html - Description: Input indexed %s requires a %s buffer, but %s aligned buffer is allocated. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0056_html.md ## E10403 Invalid\_Argument\_Operator\_Output\_Count - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0057.html - Description: The number of operator outputs %s exceeds the allowed maximum %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0057_html.md ## E10404 Invalid\_Argument\_Operator\_Output\_Buffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0058.html - Description: Output indexed %s requires a %s buffer, but %s aligned buffer is allocated. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0058_html.md ## E10405 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0059.html - Description: The number of input buffers is %s, which does not match the number of input tensors %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0059_html.md ## E10406 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0060.html - Description: The number of output buffers is %s, which does not match the number of output tensors %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0060_html.md ## E10410 File\_Operation\_Error\_File\_Not\_Exist - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0061.html - Description: File %s does not exist. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0061_html.md ## E10501 Not\_Supported\_Operator - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0062.html - Description: IR for Op %s with optype %s is not registered. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0062_html.md ## E11001 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0063.html - Description: input\_dim and input\_shape are mutually exclusive in NetParameter for Caffe model conversion. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0063_html.md ## E11003 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0064.html - Description: The number of input\_dim fields in the model is %s, which is not 4x the input count %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0064_html.md ## E11004 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0065.html - Description: The number of input shapes is %s, which does not match the number of inputs %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0065_html.md ## E11005 Invalid\_Argument\_Tensor\_Input\_Shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0066.html - Description: The shape is not defined by using --input\_shape for input %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0066_html.md ## E11008 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0067.html - Description: Optype DetectionOutput is unsupported. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0067_html.md ## E11009 Not\_Supported\_Operator - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0068.html - Description: No Caffe parser is registered for Op %s with optype %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0068_html.md ## E11012 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0069.html - Description: Unknown bottom blob %s at layer %s. The bottom blob is indexed %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0069_html.md ## E11014 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0070.html - Description: Failed to find the top blob for layer %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0070_html.md ## E11015 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0071.html - Description: Failed to find the bottom blob for layer %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0071_html.md ## E11016 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0072.html - Description: Failed to add Op %s to NetOutput. Op output index %s is not less than %s. NetOutput input\_index %s is not less than %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0072_html.md ## E11017 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0073.html - Description: Failed to find node %s specified by --out\_nodes. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0073_html.md ## E11018 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0074.html - Description: Op name %s contains invalid characters. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0074_html.md ## E11021 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0075.html - Description: Model file %s contains "layers" structures, which have been deprecated in Caffe and unsupported by ATC. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0075_html.md ## E11022 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0076.html - Description: Invalid prototxt file. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0076_html.md ## E11023 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0077.html - Description: Weight file contains "layers" structures, which have been deprecated in Caffe and unsupported by ATC." - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0077_html.md ## E11024 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0078.html - Description: Invalid Caffe weight file. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0078_html.md ## E11027 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0079.html - Description: Op %s with optype %s in the Caffe model has an input node with shape size 0. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0079_html.md ## E11029 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0080.html - Description: Op %s exists in model file but not found in weight file. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0080_html.md ## E11032 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0081.html - Description: Failed to parse message %s. The error field is %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0081_html.md ## E11033 Invalid\_Argument\_Caffe\_Model\_Weight - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0082.html - Description: Failed to convert the weight file. Blob %s of size %s is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0082_html.md ## E11035 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0083.html - Description: The top size of data node %s is not 1 but %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0083_html.md ## E11036 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0084.html - Description: Data nodes have duplicate top blobs %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0084_html.md ## E11037 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0085.html - Description: Op %s has zero outputs. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0085_html.md ## E12004 Invalid\_Argument\_Operator\_Input\_Index - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0086.html - Description: Failed to register the prototype of Op %s. If input index is less than 0, then input index –%s \(absolute value\) must be less than the input count %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0086_html.md ## E12009 Invalid\_Argument\_TensorFlow\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0087.html - Description: Input %s for Op %s is not found in graph\_def. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0087_html.md ## E12013 Invalid\_Argument\_TensorFlow\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0088.html - Description: Failed to find a subgraph by the name %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0088_html.md ## E12029 Invalid\_Argument\_TensorFlow\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0089.html - Description: Failed to find the subgraph library. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0089_html.md ## E14001 Invalid\_Argument\_Operator\_Compilation\_Parameter - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0090.html - Description: Argument %s for Op %s with optype %s is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0090_html.md ## E14002 Invalid\_Argument\_Tensor\_Attribute - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0091.html - Description: In the current process, the attribute of %s must be obtained successfully. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0091_html.md ## E16001 Invalid\_Argument\_ONNX\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0092.html - Description: The model has no %s node. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0092_html.md ## E16002 Invalid\_Argument\_ONNX\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0093.html - Description: No ONNX parser is registered for optype %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0093_html.md ## E16004 Invalid\_Argument\_ONNX\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0094.html - Description: ONNX model has no graph. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0094_html.md ## E16005 Invalid\_Argument\_ONNX\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0095.html - Description: The model has %s --domain\_version fields, but only one is allowed. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0095_html.md ## E19999 Inner\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0113.html - Description: Unknown error occurred. Please check the log. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0113_html.md ## W11001 Performance\_Not\_Optimal\_Operator - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0114.html - Description: Op %s does not hit the high-priority operator information library, which might result in compromised performance. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0114_html.md ## W11002 Config\_Error\_Weight\_Configuration - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0115.html - Description: In the compression weight configuration file %s, some nodes do not exist in graph: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0115_html.md ## E20001 Compilation\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0117.html - Description: Operator %s compilation failed.Optype is %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0117_html.md ## E20002 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0118.html - Description: Value %s for environment variable %s is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0118_html.md ## E20003 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0119.html - Description: Configuration item %s in configuration file %s is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0119_html.md ## E20007 Compilation\_Error\_Execute\_Fusion\_Pass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0120.html - Description: Graph fusion pass %s failed. The pass type is %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0120_html.md ## E20101 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0121.html - Description: Value %s for parameter %s is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0121_html.md ## E20103 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0122.html - Description: Value %s for parameter %s is invalid. The value must be in the range of \(0, %s\]. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0122_html.md ## E21001 File\_Operation\_Error\_Open - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0123.html - Description: Failed to open file %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0123_html.md ## E21002 File\_Operation\_Error\_Parse - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0124.html - Description: Failed to parse file %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0124_html.md ## E22001 Compilation\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0125.html - Description: Compilation result for operator %s not found. Optype is %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0125_html.md ## E30003 Not\_Supported\_Specification - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0127.html - Description: The number of started NN processes exceeds the limit. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0127_html.md ## E30004 NN\_Process\_Bin\_Error(已废弃) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0128.html - Description: The binary file of the NN process is damaged. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0128_html.md ## E30005 Device\_Connection\_Failure(已废弃) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0129.html - Description: Failed to connect the device. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0129_html.md ## E30006 Package\_Error\_Verify\_OPP - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0130.html - Description: Failed to verify the OPP. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0130_html.md ## E30007 Cgroup\_Add\_Failure(已废弃) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0131.html - Description: Failed to add the AI CPU scheduler to the Cgroup. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0131_html.md ## E30008 Execution\_Error\_AICPU\_Operator\_Timeout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0132.html - Description: AI CPU operator execution timed out. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0132_html.md ## E39001 Invalid\_Argument(已废弃) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0133.html - Description: The argument is invalid. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0133_html.md ## E39002 Inner\_Error\_Driver\_API\_Call\_Failed - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0134.html - Description: Failed to obtain the number of devices and the device list. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0134_html.md ## E39004 Inner\_Error\_AICPU\_Scheduler\_Init\_Failed - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0135.html - Description: The AI CPU scheduler process initialization is abnormal. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0135_html.md ## E39005 Inner\_Error\_TSDaemon\_Process\_Abnormal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0136.html - Description: The TSDaemon process initialization is abnormal. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0136_html.md ## E39006 Inner\_Error\_Failed\_Send\_OPP\_To\_Device - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0137.html - Description: Failed to send the OPP to the device. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0137_html.md ## E39007 Inner\_Error\_Device\_Subprocess\_Startup\_Timeout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0138.html - Description: Starting a subprocess on the device timed out. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0138_html.md ## E40001 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0140.html - Description: Value %s for environment variable %s is invalid when %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0140_html.md ## E40002 Environment\_Error\_Incorrect\_Python\_Version - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0141.html - Description: Unsupported Python version: %s. Expected: %s or later. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0141_html.md ## E40003 File\_Operation\_Error\_Open - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0142.html - Description: Failed to open the JSON file: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0142_html.md ## E40020 Environment\_Error\_Import\_Python\_Module\_Failed - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0143.html - Description: Failed to import Python module %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0143_html.md ## E40021 Compilation\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0144.html - Description: Failed to compile Op %s. oppath is %s and optype is %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0144_html.md ## E40022 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0145.html - Description: Value %s for parameter %s is invalid. The value must be in the range of %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0145_html.md ## E40023 File\_Operation\_Error\_Invalid\_Path - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0146.html - Description: Path %s for %s is invalid. Result: %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0146_html.md ## W40010 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0147.html - Description: Value %s for environment variable %s is invalid. Result: %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0147_html.md ## W40011 Directory\_Operation\_Error\_Create\_Failed - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0148.html - Description: Failed to create disk cache directory %s. Result: %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0148_html.md ## W40012 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0149.html - Description: Value %s for parameter %s is invalid. The value must be in the range of %s and defaults to %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0149_html.md ## E76002 ONNX\_Model\_Data\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0151.html - Description: No ONNX parser is registered for optype \[%s\]. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0151_html.md ## E80001 Invalid\_Config\_Value - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0153.html - Description: The %s information is missing in the %s configuration file of OPP package - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0153_html.md ## EB0000 Compilation\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0155.html - Description: Failed to compile the operator. Reason:%s, %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0155_html.md ## EB1000 Compilation\_Error\_Invalid\_Primitives - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0156.html - Description: Primitives check failed. Reason: %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0156_html.md ## EB3000 Compilation\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0157.html - Description: Memory allocation check failed. Reason: %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0157_html.md ## EB4000 Compilation\_Error\_Invalid\_Emit\_Insn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0158.html - Description: Insn check failed. Reason: %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0158_html.md ## EB9000 Compilation\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0159.html - Description: Compiler Error check failed. Reason: %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0159_html.md ## EB0500 Compilation\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0160.html - Description: Compiler Error check failed. Reason: %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0160_html.md ## EC0000 Communication\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0162.html - Description: Failed to connect the remote device IP: %s, port: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0162_html.md ## EC0001 Permission\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0163.html - Description: User %s failed to log in to the remote device. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0163_html.md ## EC0002 Directory\_Operation\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0164.html - Description: Remote mount path %s does not exist. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0164_html.md ## EC0003 File\_Operation\_Error\_File\_Not\_Exist - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0165.html - Description: File tss/bin/kernel\_perf\_comm does not exist in remote mount path %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0165_html.md ## EC0004 Permission\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0166.html - Description: The permissions for tss/bin or tss/bin/kernel\_perf\_comm in the remote mount path %s are insufficient. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0166_html.md ## EC0005 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0167.html - Description: Value for parameter --soc\_version is invalid or the config.json is not set correctly. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0167_html.md ## EC0006 Directory\_Operation\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0168.html - Description: Directory operation failed. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0168_html.md ## EC0007 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0169.html - Description: The environment variable argument is invalid. Value %s for environment variable %s must be less than %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0169_html.md ## EC0008 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0170.html - Description: Environment variable %s is not set. Use bash command env to check whether the environment variable is missing, and then use the export command to set it correctly. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0170_html.md ## EC0009 Resource\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0171.html - Description: Computing resources are insufficient. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0171_html.md ## EC0010 Environment\_Error\_Import\_Python\_Module\_Failed - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0172.html - Description: Failed to import Python module %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0172_html.md ## EC0011 Permission\_Error\_User\_Denied - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0173.html - Description: The permissions for current user in the custom strategy path %s are insufficient. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0173_html.md ## EC0012 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0174.html - Description: Value %s for environment variable %s is invalid. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0174_html.md ## ED0000 Communication\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0176.html - Description: Failed to obtain the basic information about the remote device. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0176_html.md ## ED0001 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0177.html - Description: Value %s for parameter --soc\_version is invalid. Reason: The SoC version does not match device %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0177_html.md ## ED0002 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0178.html - Description: The environment variable argument is invalid. Value %s for environment variable %s must be less than %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0178_html.md ## EE1001 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0180.html - Description: The argument is invalid.Reason: %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0180_html.md ## EE1002 Execution\_Error\_Stream\_Synchronize\_Timeout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0181.html - Description: Stream synchronize timeout. %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0181_html.md ## EE4001 Model\_Binding\_Errors - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0182.html - Description: Failed to bind the stream to the model. %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0182_html.md ## EE4002 Model\_Unbinding\_Errors - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0183.html - Description: Failed to unbind the stream to the model. %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0183_html.md ## EE4004 Profiling\_Enable\_Errors - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0184.html - Description: Failed to enable profiling. %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0184_html.md ## EF0000 Directory\_Operation\_Error\_Open\_Failed - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0186.html - Description: Failed to open the directory where repository file %s is located with read, write and execute permissions. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0186_html.md ## EF0001 Invalid\_Argument\_SOC\_Version - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0187.html - Description: soc\_version %s is invalid. AOE SGAT is not supported on current platform. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0187_html.md ## EF0003 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0188.html - Description: The environment variable argument is invalid. Value %s for environment variable %s must be %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0188_html.md ## WF0000 File\_Operation\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0189.html - Description: Failed to open config file \[%s\]. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0189_html.md ## WF0001 Invalid\_Config\_Value - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0190.html - Description: Value \[%s\] for key \[%s\] is invalid. The value must be in the range of \[%s\]. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0190_html.md ## WF0002 Model\_Performance\_Not\_Optimal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0191.html - Description: Model performance may not be optimal due to changes in UB fusion. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0191_html.md ## EG0000 Invalid\_Argument\_Command - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0222.html - Description: The command line argument is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0222_html.md ## EG0001 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0223.html - Description: The configuration argument is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0223_html.md ## EG0002 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0224.html - Description: The environment variable argument is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0224_html.md ## EG0010 Directory\_Operation\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0226.html - Description: Directory operation failed. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0226_html.md ## EG0011 File\_Operation\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0227.html - Description: File operation failed. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0227_html.md ## EG0012 Environment\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0228.html - Description: Component loading failed. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0228_html.md ## EG0013 Invalid\_Argument\_Device\_ID - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0229.html - Description: Device operation failed. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0229_html.md ## EG2000 Communication\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0230.html - Description: Network communication failed. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0230_html.md ## EG2001 Permission\_Error\_Private\_Key\_Certificate\_Verify\_Failed - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0231.html - Description: Verification of the private key or certificates failed. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0231_html.md ## WG0000 Resource\_Error\_Insufficient\_Host\_Memory - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0232.html - Description: Memory check failed. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0232_html.md ## EH0001 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0234.html - Description: Value \[%s\] for \[%s\] is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0234_html.md ## EH0002 Invalid\_Argument\_Null\_Pointer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0235.html - Description: Argument \[%s\] must not be null. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0235_html.md ## EH0003 File\_Operation\_Error\_Invalid\_Path - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0236.html - Description: Path \[%s\] is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0236_html.md ## EH0004 File\_Operation\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0237.html - Description: File \[%s\] is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0237_html.md ## EH0005 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0238.html - Description: AIPP argument \[%s\] is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0238_html.md ## EH0006 Not\_Supported - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0239.html - Description: %s is not supported. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0239_html.md ## EI0001 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0241.html - Description: Value %s for environment variable \[%s\] is invalid. Expected value: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0241_html.md ## EI0002 Communication\_Error\_Timeout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0242.html - Description: An timeout occurs when the Notify register waits for execution. Waiting peer end: %s; task information: %s; communication operator information: %s; communicator: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0242_html.md ## EI0003 Invalid\_Argument\_Collective\_Communication\_Operator - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0243.html - Description: Failed to verify parameters of operator %s \(operator name\). Value %s for parameter %s is invalid. The expected value is %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0243_html.md ## EI0004 File\_Operation\_Error\_Parse - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0244.html - Description: Failed to parse the ranktable file %s. Reason: %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0244_html.md ## EI0005 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0245.html - Description: The arguments for collective communication are inconsistent between ranks, ccl\_op %s, group %s, parameter %s, local end %s, remote end %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0245_html.md ## EI0006 Communication\_Error\_Get\_Socket - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0246.html - Description: Getting socket times out. Reason: %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0246_html.md ## EI0007 Resource\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0247.html - Description: Failed to allocate resource %s with info %s. Reason: Resources are exhausted. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0247_html.md ## EI0008 Package\_Error\_Incorrect\_HCCL\_Version - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0248.html - Description: The HCCL versions are inconsistent. The local version is %s, while the remote version is %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0248_html.md ## EI0010 Communication\_Error\_P2P - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0250.html - Description: P2P communication failed. Reason: %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0250_html.md ## EK0001 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0257.html - Description: Value %s for parameter %s is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0257_html.md ## EK0002 Invalid\_Argument\_API\_Call\_Sequence - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0258.html - Description: Call the following APIs in order: %s and %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0258_html.md ## EK0003 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0259.html - Description: Value %s for %s is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0259_html.md ## EK0004 Not\_Supported\_API - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0260.html - Description: The current system or device does not support %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0260_html.md ## EK0201 Resource\_Error\_Insufficient\_Host\_Memory - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0261.html - Description: Failed to allocate host memory for Profiling: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0261_html.md ## EK9999 System\_Terminated - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0262.html - Description: An unknown error occurred. Please check the log. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0262_html.md ## EL0001 Device\_Absent/Abnormal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0264.html - Description: Device not found or invalid. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0264_html.md ## EL0002 Invalid\_Device\_ID - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0265.html - Description: The device ID is invalid. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0265_html.md ## EL0003 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0266.html - Description: The argument is invalid. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0266_html.md ## EL0004 Memory\_Allocation\_Failure - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0267.html - Description: Failed to allocate memory requested by %s module. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0267_html.md ## EL0005 Resource\_Busy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0268.html - Description: The resources are busy. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0268_html.md ## EL0006 Insufficient\_Resources - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0269.html - Description: The resources are insufficient. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0269_html.md ## EL0007 No\_Permission - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0270.html - Description: You have no permission. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0270_html.md ## EL0008 Insufficient\_Event\_Resources - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0271.html - Description: The event resources are insufficient. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0271_html.md ## EL0009 Insufficient\_Stream\_Resources - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0272.html - Description: The stream resources are insufficient. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0272_html.md ## EL0010 Insufficient\_Notify\_Resources - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0273.html - Description: The Notify resources are insufficient. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0273_html.md ## EL0011 Insufficient\_Model\_Resources - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0274.html - Description: The model resources are insufficient. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0274_html.md ## EL0012 Full\_Service\_Queue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0275.html - Description: The service queue is full. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0275_html.md ## EL0013 Insufficient\_CDQM\_Resources - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0276.html - Description: The CDQM resources are insufficient. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0276_html.md ## EL0014 Operation\_Unsupported - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0277.html - Description: The operation is unsupported. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0277_html.md ## EL0015 Invalid\_Device\_Access - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0278.html - Description: The device access is invalid. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0278_html.md ## EM9001 Inner\_Error\_Group\_Attach\_Failed - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0280.html - Description: Failed to attach the queue\_schedule process to the shared memory group. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0280_html.md ## EM9002 Inner\_Error\_Queue\_Scheduler\_Init\_Failed - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0281.html - Description: Failed to initialize the queue\_schedule process. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0281_html.md ## EN0001 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0283.html - Description: Value %s for %s is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0283_html.md ## EN0002 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0284.html - Description: Some arguments are invalid. For details, see the description of API %s in the API Reference, the slog of device will display detailed errors. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0284_html.md ## EN0003 Invalid\_Argument\_Null\_Pointer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0285.html - Description: Parameter %s is null. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0285_html.md ## EN0004 Not\_Supported - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0286.html - Description: The operation is not supported. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0286_html.md ## EN0005 Invalid\_Argument\_Channel\_ID - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0287.html - Description: An error occurred on channel resource %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0287_html.md ## EN0006 Invalid\_Argument\_Memory\_Address - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0288.html - Description: The passed memory address is incorrect. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0288_html.md ## EN0007 Execution\_Error\_DVPP\_Operator\_Timeout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0289.html - Description: %s times out. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0289_html.md ## EN0008 Not\_Supported\_File\_Type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0290.html - Description: The input JPEG picture is not supported. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0290_html.md ## EN0009 Not\_Supported\_File\_Type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0291.html - Description: The input PNG picture is not supported. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0291_html.md ## EO0001 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0293.html - Description: Value %s for configuration item %s in configuration file %s is invalid. Expected value: %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0293_html.md ## EO0002 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0294.html - Description: Invalid quantization configuration. Reason: %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0294_html.md ## EO0003 Invalid\_Model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0295.html - Description: Invalid model. Reason: %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0295_html.md ## EO0004 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0296.html - Description: The content of configuration item %s in configuration file %s is invalid. Reason: %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0296_html.md ## EO9999 Inner\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0297.html - Description: An unknown error occurred. Check logs. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0297_html.md ## EZ0001 Invalid\_Input\_Shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0299.html - Description: OP\[%s\] %sth input has incorrect shape\[: %s\], it should be\[: %s\]. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0299_html.md ## EZ0002 Invalid\_Attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0300.html - Description: OP\[%s\] attr\[: %s\], has incorrect value\[: %s\], it should be\[: %s\]. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0300_html.md ## EZ0003 Invalid\_Attr\_Size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0301.html - Description: OP\[%s\] attr\[: %s\], has incorrect size\[: %s\], it should be\[: %s\]. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0301_html.md ## EZ0004 Invalid\_Input - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0302.html - Description: OP\[%s\] get \[%s\] failed. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0302_html.md ## EZ0005 Invalid\_Input\_ShapeSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0303.html - Description: OP\[%s\] %sth input has incorrect shape size\[: %s\], it should be\[: %s\]. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0303_html.md ## EZ0006 Invalid\_Input\_Format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0304.html - Description: OP\[%s\] %s has incorrect format\[: %s\], it should be %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0304_html.md ## EZ0007 Invalid\_Input\_Dtype - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0305.html - Description: OP\[%s\] %s has incorrect dtype\[: %s\], it should be %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0305_html.md ## EZ0501 Unsupported\_Operator - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0306.html - Description: IR for Op \[%s, optype \[%s\]\], is not registered. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0306_html.md ## EZ3002 Unsupported\_Operator - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0307.html - Description: Optype \[%s\] of Ops kernel \[%s\] is unsupported. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0307_html.md ## EZ3003 Unsupported\_Operator - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0308.html - Description: No supported Ops kernel and engine are found for \[%s\], optype \[%s\]. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0308_html.md ## EZ9010 Unsupported\_Operator - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0309.html - Description: No parser is registered for Op \[%s, optype \[%s\]\]. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0309_html.md ## EZ1001 AclNN\_Parameter\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0311.html - Description: Parameter validation failed. Please check the log. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0311_html.md ## EZ9903 AclNN\_Runtime\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0312.html - Description: The error information is not fixed. Check the error information according to the specific prompt. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0312_html.md ## EZ9999 AclNN\_Inner\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0313.html - Description: The error information is not fixed. Check the error information according to the specific prompt. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0313_html.md ## E9** Inner Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0314.html - Description: E*9***表示系统内部错误码,请根据报错信息进行问题排查。如果问题仍然存在,请联系技术支持。您可以获取日志后单击Link\(https://www.hiascend.com/support\)联系技术支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0314_html.md ## E40024 Environment\_Error\_Call\_Python\_Function\_Failed - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0315.html - Description: Failed to call Python Method %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0315_html.md ## EG0004 Invalid\_Argument\_Command - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0318.html - Description: The command line argument is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0318_html.md ## EP0001 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0320.html - Description: The content of configuration item %s in configuration file %s is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0320_html.md ## EP0002 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0321.html - Description: Value %s for configuration item %s in configuration file %s is invalid. Expected value: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0321_html.md ## W11003 Config\_Error\_Operator\_Missing\_Implementation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0322.html - Description: Operator %s lacks required %s implementation. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0322_html.md ## EC0013 File\_Operation\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0323.html - Description: File operation failed under %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0323_html.md ## EI0011 Resource\_Error\_Insufficient\_Device\_Memory - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0324.html - Description: Failed to allocate \[%s\] bytes of NPU memory. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0324_html.md ## E39008 Inner\_Error\_Verify\_NN\_Process\_Binary - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0325.html - Description: The binary file of the NN process is damaged. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0325_html.md ## E39009 Inner\_Error\_Device\_Status\_Abnormal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0326.html - Description: Failed to connect the device. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0326_html.md ## E39010 Inner\_Error\_Cgroup\_Add\_Failed - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0327.html - Description: Failed to add the AI CPU scheduler to the Cgroup. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0327_html.md ## E13000 File\_Operation\_Error\_Invalid\_Path - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0328.html - Description: Path %s is empty. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0328_html.md ## E13001 File\_Operation\_Error\_Open - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0329.html - Description: Failed to open file %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0329_html.md ## E13002 Directory\_Operation\_Error\_Name\_Too\_Long - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0330.html - Description: Directory %s is too long. Keep the length within %s characters. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0330_html.md ## E13003 File\_Operation\_Error\_Read - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0331.html - Description: Failed to read file %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0331_html.md ## E13004 File\_Operation\_Error\_Write - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0332.html - Description: Failed to write file %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0332_html.md ## E13005 File\_Operation\_Error\_Parse - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0333.html - Description: Failed to parse file %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0333_html.md ## E13009 Invalid\_Argument\_Operator\_Name - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0334.html - Description: Operator %s already exists in the graph. Ensure that operator names are unique. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0334_html.md ## E13010 Not\_Supported\_Operator - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0335.html - Description: No operator plugin is registered for Op: %s, optype: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0335_html.md ## E13014 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0336.html - Description: Value %s of parameter %s for Op %s is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0336_html.md ## E13015 File\_Operation\_Error\_Invalid\_File\_Size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0337.html - Description: File %s has a size of %s, which is out of valid range \(0, %s\]. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0337_html.md ## E13018 File\_Operation\_Error\_Parse - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0338.html - Description: Failed to parse file %s through google::protobuf::TextFormat::Parse. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0338_html.md ## E13023 Invalid\_Argument\_OM\_Model\_Size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0339.html - Description: Model %s has a size of %s bytes, which exceeds system limit of %s bytes. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0339_html.md ## E13024 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0340.html - Description: Value %s for environment variable %s is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0340_html.md ## E13025 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0341.html - Description: Input tensor is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0341_html.md ## E13026 File\_Operation\_Error\_Invalid\_Path - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0342.html - Description: Input path %s is invalid. Reason: %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0342_html.md ## E13027 Invalid\_Argument\_Network\_Connection - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0343.html - Description: Failed to connect to the peer address %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0343_html.md ## E13028 Compilation\_Error\_Execute\_Custom\_Fusion\_Pass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0344.html - Description: Failed to run custom fusion pass %s. Return code: %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0344_html.md ## E13029 Compilation\_Error\_Load\_Custom\_Fusion\_Pass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0345.html - Description: Failed to load custom fusion pass lib %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0345_html.md ## E13030 Initialization\_Error\_Register\_Custom\_Fusion\_Pass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0346.html - Description: Failed to get custom fusion pass func %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0346_html.md ## E13031 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0347.html - Description: Output tensor is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0347_html.md ## EI0012 Execution\_Error\_SDMA - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0348.html - Description: SDMA memory copy task exception occurred. Remote rank: \[%s\]. Base information: \[%s\]. Task information: \[%s\]. Communicator information: \[%s\]. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0348_html.md ## EI0013 Execution\_Error\_ROCE\_CQE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0349.html - Description: An error CQE occurred during operator execution. Local information: server %s, device ID %s, device IP %s. Peer information: server %s, device ID %s, device IP %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0349_html.md ## EI0014 Config\_Error\_Ranktable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0350.html - Description: Value %s for ranktable variable %s is invalid. Expected value: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0350_html.md ## EI0015 Communication\_Error\_Ranktable\_Detect - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0351.html - Description: Failed to collect cluster information of the communicator based on rootInfo detection. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0351_html.md ## EI0016 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0352.html - Description: Value %s for config %s is invalid. Expected value: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0352_html.md ## EI0017 Config\_Error\_Ranktable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0353.html - Description: Config %s is missing in the ranktable file. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0353_html.md ## E13006 File\_Operation\_Error\_Parse - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0354.html - Description: Type %s of file %s is incorrect. Expected type: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0354_html.md ## EE1003 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0355.html - Description: %s failed because value %s for parameter %s is invalid. Expected value: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0355_html.md ## EE1004 Invalid\_Argument\_Null\_Pointer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0356.html - Description: %s failed because %s cannot be a NULL pointer. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0356_html.md ## EE1005 Not\_Supported - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0357.html - Description: The current system or device does not support %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0357_html.md ## EE1006 Not\_Supported - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0358.html - Description: %s execution failed because %s is not supported. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0358_html.md ## EE1007 Resource\_Error\_Bind\_Stream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0359.html - Description: Failed to bind stream with ID %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0359_html.md ## EE1008 Execution\_Error\_Load\_OP\_Kernel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0360.html - Description: OP kernel loading failed. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0360_html.md ## EE1009 Execution\_Error\_Model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0361.html - Description: Failed to execute model with ID %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0361_html.md ## EE1010 Execution\_Error\_Invalid\_Context - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0362.html - Description: %s execution failed because %s does not belong to the current context. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0362_html.md ## EE2002 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0363.html - Description: Value %s for environment variable %s is invalid. Expected value: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0363_html.md ## EE1011 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0364.html - Description: %s failed. Value %s for parameter %s is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0364_html.md ## E10058 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0365.html - Description: Parameter %s is not configured or is empty. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0365_html.md ## EK0005 Not\_Supported - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0366.html - Description: Parameter %s is not supported. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0366_html.md ## EK0006 Invalid\_Argument\_Null\_Pointer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0367.html - Description: %s failed because parameter %s cannot be a null pointer. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0367_html.md ## EO0005 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0368.html - Description: The content of configuration file %s abnormal. Reason: %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0368_html.md ## EO0006 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0369.html - Description: Value %s for configuration item %s in configuration file %s is invalid. Reason: %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0369_html.md ## E10059 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0370.html - Description: %s failed. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0370_html.md ## E10060 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0371.html - Description: Parameter is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0371_html.md ## E10061 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0372.html - Description: Value %s for parameter %s is invalid. Expected value: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0372_html.md ## EN0010 Resource\_Error\_Insufficient\_Host\_Memory - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0373.html - Description: Failed to allocate %s host memory for DVPP. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0373_html.md ## EN0011 Resource\_Error\_Insufficient\_Host\_Memory - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0374.html - Description: Failed to allocate host memory by std::make\_shared. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0374_html.md ## EN0012 Resource\_Error\_Insufficient\_Device\_Memory - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0375.html - Description: Failed to allocate %s device memory for DVPP. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0375_html.md ## EN0013 Resource\_Error\_Busy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0376.html - Description: The channel resources are busy. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0376_html.md ## EN0014 Resource\_Error\_Insufficient\_Channel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0377.html - Description: The channel resources are insufficient. The maximum number of channels is %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0377_html.md ## EN0015 Resource\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0378.html - Description: The %s has not been initialized. Call %s to initialize the resource first. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0378_html.md ## EN0016 File\_Operation\_Error\_Open - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0379.html - Description: Failed to open file %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0379_html.md ## EN0017 Invalid\_Argument\_API\_Call\_Sequence - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0380.html - Description: Call the following APIs in order: %s and %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0380_html.md ## EI0009 Communication\_Error\_Initialize\_Transport - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0381.html - Description: Device %s transport init error. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0381_html.md ## EI0018 Execution\_Error\_UB\_CQE - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0382.html - Description: An error CQE occurred during operator execution. Local information: server %s, device ID %s, device IP %s. Peer information: server %s, device ID %s, device IP %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0382_html.md ## EI0019 Communication\_Error\_Bind\_IP\_Port - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0383.html - Description: Failed to enable listening for the host network adapter socket. Reason: %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0383_html.md ## EI0020 Communication\_Error\_Bind\_IP\_Port - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0384.html - Description: Failed to enable listening for the host network adapter socket. Reason: %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0384_html.md ## EP0003 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0385.html - Description: Value %s for configuration item %s in configuration file %s is invalid. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0385_html.md ## EP0004 File\_Operation\_Error\_Parse - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0389.html - Description: Failed to parse file %s. Reason: %s. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0389_html.md ## EE1015 Package\_Error\_Incorrect\_Driver\_Version - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/atlaserrorcode_15_0391.html - Description: %s failed. Reason: The driver version capacity is insufficient. %s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_atlaserrorcode_15_0391_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0001.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0001_html.md ## AI Core Error问题现象描述 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0004.html - Description: 用户应用程序报错退出,终端屏幕日志错误码为EZ9999,且日志中包含“there is an aivec error exception”或“there is an aicore error exception”;或者plog日志中存在报错日志“Aicore kernel execute failed”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0004_html.md ## AI Core Error问题定位思路 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0005.html - Description: 您可以按如下步骤定位问题,若无法解决问题,再联系技术支持。您可以获取日志后单击Link\(https://www.hiascend.com/support\)联系技术支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0005_html.md ## 收集AI Core Error问题信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0006.html - Description: 注意:在收集日志时,需收集本次AI Core Error问题附近时间的日志,旧日志中的不相关信息或其它报错信息可能导致后续msaicerr工具分析AI Core Error问题时报错。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0006_html.md ## 使用msaicerr工具分析AI Core Error问题 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0007.html - Description: msaicerr工具的功能及约束请参见msaicerr工具功能及约束,环境准备请参见msaicerr工具环境准备。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0007_html.md ## HBM比特ECC故障 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0009.html - Description: Device的event日志(slog/dev-os-id/run/event/event\_*.log)中存在“event\_id\=0x80E01809”或“event\_id\=0x80E01801”关键字。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0009_html.md ## icache数据校验故障 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0010.html - Description: Device的event日志(slog/dev-os-id/run/event/event\_*.log)中存在“event\_id\=0x80C98000”关键字。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0010_html.md ## AI Core硬件故障 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0011.html - Description: Host应用类日志(log/\[run|debug\]/plog/plog-pid\_*.log)中存在如下报错: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0011_html.md ## 索引类算子索引越界 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0012.html - Description: Host应用类日志(log/\[run|debug\]/plog/plog-pid\_*.log)中存在索引类算子0x800000的报错。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0012_html.md ## 系统环境/硬件问题 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0013.html - Description: 如果在info.txt中给出如下分析结论,则一般为系统环境/硬件问题: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0013_html.md ## 单算子运行报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0014.html - Description: 如果info.txt中给出如下结论,说明是单算子运行报错或pass异常。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0014_html.md ## atomic add精度溢出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0015.html - Description: 如果info.txt中给出如下结论,说明是精度溢出导致的AI Core error。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0015_html.md ## 算子输入输出数据地址异常 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0016.html - Description: 如果info.txt中给出如下分析结论,一般为地址非法错误: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0016_html.md ## 算子输入args下发前后不一致 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0017.html - Description: 如果在info.txt中给出如下分析结论,则一般为args错误: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0017_html.md ## Dump数据失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0018.html - Description: 如果在info.txt中给出如下分析结论,则推断为dump数据失败: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0018_html.md ## 算子输入args错误 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0019.html - Description: Host应用类日志(log/\[run|debug\]/plog/plog-pid\_*.log)中存在如下报错: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0019_html.md ## 使用msnpureport工具收集更多AI Core Error信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0021.html - Description: 联系技术支持定位一些疑难AI Core Error问题时,除了收集AI Core Error问题信息中收集的信息外,还需借助msnpureport工具获取Device配置信息、设置TaskSchedule是否自动复位加速器、导出寄存器信息、设置AI Core上任务串联或并行执行、屏蔽指定AI Core或Vector Core上的任务执行等,以便更进一步排查算子问题、硬件问题。定位问题后,建议恢复配 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0021_html.md ## 内存OOM问题现象描述 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0050.html - Description: 业务使用内存过多引起内存申请失败。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0050_html.md ## 内存OOM问题定位思路 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0051.html - Description: 您可以按如下步骤定位问题,若无法解决问题,再联系技术支持。您可以获取日志后单击Link\(https://www.hiascend.com/support\)联系技术支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0051_html.md ## 收集内存OOM问题信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0052.html - Description: 支持用户手动收集、工具自动收集两种方式。- 用户手动收集:收集Host、Device日志和文件,仅收集最小集信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0052_html.md ## 使用第三方asan工具检测内存错误问题 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0054.html - Description: asan是一款面向C/C++语言的第三方内存错误问题检查工具,可以检测使用已释放内存、内存越界、内存泄漏等问题,gcc4.8以上版本中已包含asan工具,无需单独安装。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0054_html.md ## 查看CANN各组件内存统计信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0055.html - Description: 1. 查看并解读日志 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0055_html.md ## 查看Device业务进程内存统计信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0056.html - Description: 1. 查看并解读日志 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0056_html.md ## 进程中断问题现象描述 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0061.html - Description: 应用进程异常退出,一般主要由于以下原因导致: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0061_html.md ## 进程中断问题定位思路 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0062.html - Description: 您可以按如下步骤定位问题,若无法解决问题,再联系技术支持。您可以获取日志后单击Link\(https://www.hiascend.com/support\)联系技术支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0062_html.md ## 收集进程中断问题信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0063.html - Description: 支持用户手动收集、工具自动收集两种方式。- 用户手动收集:收集Host、Device日志和文件,仅收集最小集信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0063_html.md ## 调用SetDevice接口错误导致无可用Context - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0065.html - Description: 参见收集进程中断问题信息收集日志文件,收集的日志所存放的目录,下文以$\{HOME\}/err\_log\_info/为例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0065_html.md ## rtMemcpyAsync异步参数校验报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0066.html - Description: 参见收集进程中断问题信息收集日志文件,收集的日志所存放的目录,下文以$\{HOME\}/err\_log\_info/为例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0066_html.md ## 算子执行过程中D2D拷贝出错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0067.html - Description: 参见收集进程中断问题信息收集日志文件,收集的日志所存放的目录,下文以$\{HOME\}/err\_log\_info/为例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0067_html.md ## 环境变量访问冲突,导致应用程序异常终止 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0068.html - Description: 多卡训练场景,出现多次core dump,应用程序异常终止。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0068_html.md ## 进程卡住问题现象描述 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0071.html - Description: 用户在执行任务过程中出现卡住,此类问题一般会伴随超时报错,如果配置了永不超时,则会一直卡住。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0071_html.md ## 进程卡住问题定位思路 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0072.html - Description: 您可以按如下步骤定位问题,若无法解决问题,再联系技术支持。您可以获取日志后单击Link\(https://www.hiascend.com/support\)联系技术支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0072_html.md ## 收集进程卡住问题信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0073.html - Description: 支持用户手动收集、工具自动收集两种方式。- 用户手动收集:收集Host、Device日志和文件,仅收集最小集信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0073_html.md ## fork方式创建子进程导致应用进程卡死 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0075.html - Description: 多卡训练场景下,出现训练进程卡死,或者出现训练超时、用户dataloader卡死等现象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0075_html.md ## asys工具功能及约束 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0096.html - Description: 为提高系统故障维测效率,提供故障信息收集工具asys一键式收集信息。该工具仅支持在 Ascend EP 形态下使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0096_html.md ## asys工具环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0097.html - Description: 已在CANN运行环境上安装Toolkit软件包。详细安装请参见《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/canncommercial/900/softwareinst/instg/instg\_0000.html\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0097_html.md ## msaicerr工具功能及约束 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0099.html - Description: msaicerr工具可用于分析AI Core Error问题、解析Dump文件、转换Dump文件数据类型、检查环境。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0099_html.md ## 通过Device日志获取故障ID并排查RAS硬件故障 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0103.html - Description: RAS硬件故障是指与硬件的可靠性(Reliability)、可用性(Availability)和可服务性(Serviceability)有关的故障。此处可通过日志中的“event\_id”的值(即RAS硬件故障码),在对应版本的故障码手册中查找解决方法。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0103_html.md ## 通过Device日志查看资源占用过高的信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0104.html - Description: 有些业务程序运行异常的情况可能由于Device的内存被耗尽、CPU占用率过高、文件句柄数达到上限、进程数达到上限等问题引起,因此在定位问题时,我们可以通过日志中的一些关键信息排查这部分问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0104_html.md ## 通过Device日志确认Host进程的拉起与结束时间 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0105.html - Description: 问题定位时往往需要先初步定界到问题发生的大致时间点,再根据出错时间的详细日志继续定位。这时,可以通过查找Device日志的ringbuffer关键字,来判断业务进程的拉起与结束时间,定界到问题发生的时间点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0105_html.md ## 如何查看Python、C&C++应用程序的堆栈 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0106.html - Description: 此处以pyspy工具查看Python堆栈信息为例说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0106_html.md ## 案例集说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0108.html - Description: 本章收集了推理、训练、算子执行等场景下的典型或高频问题,并针对这些问题给出现象描述、定位思路以及解决方法。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0108_html.md ## 内存未释放导致内存泄漏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0110.html - Description: 测试用例长稳运行时,出现内存泄漏的现象,内存占用持续上升。如图1所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0110_html.md ## Event数量超过上限导致aclrtRecordEvent接口返回失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0111.html - Description: 调用aclrtRecordEvent接口在Stream中记录一个Event时,日志中的报错如下,红框中是关键日志信息,提示Event申请失败。由于软件版本在持续优化中,新旧版本的日志不同,如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0111_html.md ## 进程异常退出后重新执行任务失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0112.html - Description: 进程异常退出时,包括强行终止任务(如ctrl + c或者kill命令终止进程)的场景,然后重新启动任务失败。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0112_html.md ## 进程异常,下一次执行任务报错“unbind model stream failed” - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0113.html - Description: 用户捕获异常退出信号,并在信号处理函数中释放已申请资源,下一次执行时会报执行失败。此时查看日志,会发现unbind model stream failed报错。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0113_html.md ## 用户进程异常退出后重启进程失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0114.html - Description: 用户进程卡住或者用户强制退出进程后,再次重启,重启后发现进程无法正常启动。类似的日志信息如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0114_html.md ## AI应用进程未退出,导致休眠唤醒失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0115.html - Description: \#\#\#\# 问题现象描述 休眠失败。 查看应用类日志,系统内部的任务分发模块hwts正处于busy状态,检查发现不满足休眠条件,日志片段示例如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0115_html.md ## 内存申请失败,出现OOM - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0118.html - Description: 内存申请失败,Host侧日志提示EL9999返回码,有如下打印信息: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0118_html.md ## 异步拷贝调用查询接口报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0120.html - Description: 通过event实现H2D或D2H异步拷贝任务的同步等待时,在调用aclrtQueryEventStatus确认任务完成后,先调用aclrtFreeHost释放Host内存再调用aclrtDestroyEvent接口,可能会有如下报错信息打印: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0120_html.md ## 低版本内核使用asan导致算子执行失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0121.html - Description: 执行算子时,算子输入数据正确,但输出数据异常,全为0,Host侧plog日志中的报错示例如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0121_html.md ## 析构函数中调用去初始化接口aclFinalize导致应用进程coredump - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0122.html - Description: 应用程序运行过程中出现core dump,应用程序异常终止。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0122_html.md ## 使用dump功能未获取dump结果 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0124.html - Description: 日志显示正确执行了Dump功能,但在Dump结果路径下没有Dump的结果。日志信息包含了以下关键字: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0124_html.md ## 动态shape推理申请内存失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0125.html - Description: 模型推理过程中,申请了大小为0的内存,日志报错信息中包含以下关键信息: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0125_html.md ## 注册算子数超过最大规格 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0126.html - Description: 推理过程中,用户load model出现报错。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0126_html.md ## 动态shape模型用户输入和模型推导结果不匹配 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0127.html - Description: 场景1:模型执行报错,日志信息中包含以下关键信息: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0127_html.md ## 动态shape模型输入大小校验失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0128.html - Description: 动态shape模型输入大小校验失败,plog日志信息中包含以下关键信息:tensor size mismatches. expected: ..., but given ... - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0128_html.md ## 算子插件未注册报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0148.html - Description: 查看日志, 存在报错某个算子类型不支持: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0148_html.md ## 算子原型未注册报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0149.html - Description: 查看日志, 存在报错某个算子没有原型定义: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0149_html.md ## AI Core算子执行报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0150.html - Description: Runtime执行报错,在应用程序运行日志中Runtime打印了类似fault kernel\_name和func\_name的关键信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0150_html.md ## AI CPU算子Kernel执行报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0151.html - Description: Runtime执行报错,在应用程序运行日志中Runtime打印了PrintAicpuErrorInfo的错误信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0151_html.md ## AI CPU算子维度超过8维报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0152.html - Description: GE执行报错,在应用程序运行日志中GE打印了ReportErrMessage的错误信息,且提示“shape dim num should be less than 8”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0152_html.md ## AI CPU算子执行超时报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0153.html - Description: 算子执行过程中,如果遇到下面任意一种报错,均属于算子执行超时报错。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0153_html.md ## 单算子匹配失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0155.html - Description: 单算子执行过程中,出现匹配失败,日志显示如下类似信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0155_html.md ## 执行单算子产生coredump的定位处理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0156.html - Description: 单算子执行结束,出现重复释放内存,导致coredump,屏幕显示关键日志信息: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0156_html.md ## 算子库包版本问题导致加载单算子失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0157.html - Description: 加载单算子报错失败,日志显示如下类似信息: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0157_html.md ## DVPP驱动引擎异常返回码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0159.html - Description: 视频解码失败,Device日志提示-512返回码:\[dvpp\_ioct1\_vpc 845\] call proc failed:-512, engine\_id:1,如下所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0159_html.md ## 两个版本的DVPP接口混用导致应用程序报错退出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0161.html - Description: 使用媒体数据处理V1接口(接口名以acldvpp开头)创建了通道,同时又使用媒体数据处理V2接口(接口名以hi\_mpi开头)接口创建通道,后者创建通道时失败。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0161_html.md ## 调用错误的内存申请接口,导致内存地址校验出错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0163.html - Description: 调用VPC接口,返回HI\_ERR\_VPC\_BADADDR (0xA0078011)错误码,同时日志中有错误提示,不同版本的报错日志可能存在差别: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0163_html.md ## 使用正确的内存申请接口,但内存大小传值错误 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0164.html - Description: 不同版本的报错日志可能存在差别: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0164_html.md ## 读/写内存地址无效,导致异常中断 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0165.html - Description: Device侧内核态日志报错VPC异常(不同版本的报错日志可能存在差别): - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0165_html.md ## VPC调用失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0166.html - Description: VPC模块调用失败(不同版本的报错日志可能存在差别),查看日志有类似如下报错信息: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0166_html.md ## VPC参数校验失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0167.html - Description: 调用VPC功能接口返回0xA0078003,即HI\_ERR\_VPC\_ILLEGAL\_PARAM,参数超出合法范围。查看日志有类似如下报错信息,不同版本的报错日志可能存在差别: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0167_html.md ## VPC创建通道失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0168.html - Description: 调用hi\_mpi\_vpc\_create\_chn创建通道返回错误码HI\_ERR\_VPC\_EXIST,查看日志有如下类似错误信息,不同版本的报错日志可能存在差别: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0168_html.md ## VPC获取结果失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0169.html - Description: 调用hi\_mpi\_vpc\_get\_process\_result,返回HI\_ERR\_VPC\_ILLEGAL\_PARAM,查看日志信息,不同版本的报错日志可能存在差别: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0169_html.md ## VPC输出图片存在花屏/绿边等 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0170.html - Description: 输出图片存在花屏、绿边等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0170_html.md ## 调用错误的内存申请接口,导致内存地址校验出错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0172.html - Description: \#\#\#\# 问题现象描述 日志报错如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0172_html.md ## 内存被提前释放,导致解码数据花屏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0173.html - Description: 原始H264/H265每一帧视频流正常,解码过程无异常(无异常日志),仅输出图片有异常。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0173_html.md ## JPEGD图像解码进程超时退出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0174.html - Description: \#\#\#\# 问题现象描述 用户进程退出。 查看应用类日志,发现类似ERROR日志“task timeout, userData\= ..., timeout\=30, duration\=…”和WARNING日志“frames statistic: ACL receive\(n\), send\(n-1\)”,n表示处理任务数量,需根据实际情况确定。 日志片段举例如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0174_html.md ## JPEGD图片解码失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0175.html - Description: JPEGD模块解码失败,查看日志有类似如下报错信息: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0175_html.md ## VDEC视频解码丢帧/丢包 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0176.html - Description: 视频解码丢帧,出现重影或不连续现象。查看Device日志,发现日志中存在以下几个报错的内容信息中的一个或多个,不同版本日志信息可能有所不同。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0176_html.md ## VDEC视频解码花屏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0177.html - Description: 输入码流给VDEC进行解码,得到的解码数据不正确,产生花屏现象,如图1所示。并且日志中存在类似“decode error”、“input stream error, can't decode, report to user”、“num\_ref\_idx\_l0\_active\(30\) out of range\(0,16\)”、“dvpp\_vdec\_vdm\_process failed”、“Chan 0 E - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0177_html.md ## VDEC视频解码性能问题 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0178.html - Description: VDEC解码性能下降,小于VDEC对外发布的性能规格,导致发生卡顿等现象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0178_html.md ## 输入码流不符合要求导致VDEC视频解码失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0179.html - Description: 视频解码失败,日志中打印如下所示的异常信息,不同版本日志信息可能有所不同:- 日志信息:Invalid width or height - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0179_html.md ## VDEC视频帧解码失败不触发回调函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0180.html - Description: 用户输入码流给VDEC解码,某些帧或所有帧都没有触发回调函数,用户收不到解码结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0180_html.md ## VDEC视频解码异常导致进程卡死,无法退出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0181.html - Description: 用户进程卡死,无法退出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0181_html.md ## retCode返回值设置错误,导致VDEC视频解码异常 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0182.html - Description: 调用aclvdecSendFrame接口发送一帧码流后,继续复用output输出图片描述信息,进行后续帧码流的解码操作,结果反复出现解码不成功、解码异常的情况。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0182_html.md ## VDEC视频解码无报错,但无解码结果数据、CPU占用率高 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0183.html - Description: 查看应用类日志,无ERROR报错、无解码结果数据输出,另外,在运行应用程序的Linux服务器上执行top命令,该应用进程的cpu占用率持续升高。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0183_html.md ## 复用输出图片描述类型,VDEC视频解码报错,提示有不支持的图片格式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0184.html - Description: 循环调用aclvdecSendFrame接口解码视频中的每一帧码流时,在遇到异常帧之后,解码下一帧就会报错,退出应用进程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0184_html.md ## 异常码流导致VDEC视频解码失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0185.html - Description: 调用hi\_mpi\_vdec\_get\_frame接口成功,返回的解码结果为失败\(frame\_info->v\_frame.frame\_flag \= 1\),表示可能由于输入码流异常、设置的码流格式与实际码流不一致等问题导致解码失败。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0185_html.md ## 非annex-B格式的码流导致VDEC视频解码失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0186.html - Description: \#\#\#\# 问题现象描述 解码失败。 日志示例如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0186_html.md ## 不支持的协议字段0x31导致JPEGD图片解码结果异常 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0187.html - Description: JPEGD图片解码的结果数据都是0,查看日志,有报错“Unsupported marker type 0x31”,日志示例如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0187_html.md ## 码流大小校验失败导致VDEC视频解码失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0188.html - Description: 调用hi\_mpi\_vdec\_send\_stream接口返回错误码HI\_ERR\_VDEC\_ILLEGAL\_PARAM,查看应用类日志,有报错“stream len can't be zero\!”,日志示例如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0188_html.md ## 多帧码流当一帧送入解码导致VDEC视频解码异常 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0190.html - Description: 解码发生丢帧,有ERROR日志。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0190_html.md ## 送帧太快,VDEC视频解码发生OOM - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0191.html - Description: 进行多路解码时,送帧间隔设置太短,导致发帧过快,出现OOM现象,解码卡住。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0191_html.md ## 解码器帧存大小以及参考帧个数设置过小,VDEC视频解码卡住 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0192.html - Description: 解码卡住,日志中提示无法申请帧存的相关错误。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0192_html.md ## 昇腾虚拟化实例场景使用不含DVPP的算力模板时,创建VDEC通道失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0193.html - Description: 无法创建VDEC视频解码通道。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0193_html.md ## 昇腾虚拟化实例场景下VDEC通道数量达到上限,无法创建通道 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0194.html - Description: 创建一定数量的通道后,无法继续创建vdec通道。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0194_html.md ## 调用错误的内存申请接口,导致内存地址校验出错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0196.html - Description: \#\#\#\# 问题现象描述 日志报错如下: - 日志1 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0196_html.md ## 使用正确的内存申请接口,但内存大小传值错误 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0197.html - Description: \#\#\#\# 问题现象描述 日志报错如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0197_html.md ## 内存被提前释放,导致VENC编码数据花屏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0198.html - Description: 编码出来的数据花屏,其他无异常日志信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0198_html.md ## VENC创建通道失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0199.html - Description: 调用VENC创建通道的接口hi\_mpi\_venc\_create\_chn返回值非0,通道创建失败。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0199_html.md ## VENC送入待编码图像帧失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0200.html - Description: 调用VENC发送帧的接口hi\_mpi\_venc\_send\_frame返回值非0,发送失败。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0200_html.md ## buf\_size参数设置不合理导致视频编码异常 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0201.html - Description: 视频编码场景下,需通过hi\_venc\_attr结构体中buf\_size参数值来设置编码缓冲区的内存大小,buf\_size参数值设置得不合理,可能会导致视频编码耗时长或编码失败。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0201_html.md ## VENC编码无输出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0202.html - Description: VENC通道创建,发送帧都成功,但调用VENC获取码流的接口hi\_mpi\_venc\_get\_stream返回0xa008800e,获取不到编码后码流数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0202_html.md ## 播放VENC编码的码流,亮暗与原始YUV不一致 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0203.html - Description: 用户使用第三方播放器播放经过VENC编码的码流,发现编码后的码流亮暗与原始YUV不一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0203_html.md ## Camera找不到设备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0205.html - Description: - 业务场景:Camera出图 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0205_html.md ## Camera不出图 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0206.html - Description: - 业务场景:Camera出图 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0206_html.md ## Camera一直丢帧,无图片dump出来 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0207.html - Description: - 业务场景:Camera出图,同时dump raw和yuv图片 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0207_html.md ## Camera出图效果不对 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0208.html - Description: - 业务场景:Camera出图,dump图片 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0208_html.md ## 无法正常播音 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0210.html - Description: \#\#\#\# 适用场景 - 业务场景:播音 - 适用处理器:Atlas 200I/500 A2 推理产品 - 处理器形态:EP、RC \#\#\#\# 问题现象描述 在执行播音业务时,不能正常播音,并产生报错,返回错误码0xa0168009。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0210_html.md ## 播音属性设置无效 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0211.html - Description: \#\#\#\# 适用场景 - 业务场景:播音 - 适用处理器:Atlas 200I/500 A2 推理产品 - 处理器形态:EP、RC \#\#\#\# 问题现象描述 在初始化播音相关参数时失败,并产生报错,返回错误码0xa0168003或者0xa016800c。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0211_html.md ## 播音音调、语速不对 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0212.html - Description: - 业务场景:播音 - 适用处理器:Atlas 200I/500 A2 推理产品 - 处理器形态:EP、RC 执行播音命令之后,pcm音频文件被成功读取,音乐播放有声音,但速度变慢或者变快,对应的音调变低或变高。 例如:原始pcm为单音正弦波,频率为1kHz。 经过播放之后频率变为2kHz,播放速度变快,音调变高。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0212_html.md ## 音量调节失效 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0213.html - Description: - 业务场景:播音/录音时调节音量 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0213_html.md ## HDMI OPEN失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0215.html - Description: - 业务场景:通过HDMI接口送显 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0215_html.md ## HDMI与VO模块多进程时报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0216.html - Description: - 业务场景:通过vo模块及HDMI接口送显 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0216_html.md ## HDMI接口无显示 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0217.html - Description: - 业务场景:通过HDMI接口送显 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0217_html.md ## 编译运行应用样例报错,提示找不到头文件或库文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0219.html - Description: 获取samples仓的样例代码(以图片分类应用\(https://gitee.com/ascend/samples/tree/master/cplusplus/level2\_simple\_inference/1\_classification/resnet50\_imagenet\_classification\)为例): - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0219_html.md ## 执行应用程序的权限不足导致acl接口初始化报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0221.html - Description: 用户进程报错并退出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0221_html.md ## acl接口执行无输出无报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0222.html - Description: 调用acl时,无接口报错,但是没得到预期结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0222_html.md ## APP使用dvpp接口编译失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0223.html - Description: 编译提示DVPP的相关接口未定义,编译报错,日志关键字包括:undefined reference to *** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0223_html.md ## CANN商业版-错误码以6位字符形式体现 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0225.html - Description: 错误码以6位字符形式体现,例如E10035,其中:- 第1位表示级别,分为E、W、I,分别表示错误、告警、提示类。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0225_html.md ## 手动收集算子编译信息(算子.o和.json文件) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0228.html - Description: 先从CANN软件安装路径下查找算子.json和.o文件,CANN软件默认安装路径为/usr/local/Ascend/cann,如果找不到,再从缓存目录下查找,默认为$\{HOME\}/atc\_data目录,如果配置了ASCEND\_CACHE\_PATH环境变量,则从该环境变量配置的路径下查找。关于环境变量的详细说明及约束,请参见《环境变量参考\(https://www.hiascend.com/docu - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0228_html.md ## AI CPU算子输入标量执行报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0492.html - Description: Host侧Runtime执行报错,在应用程序运行日志中Runtime打印了PrintAicpuErrorInfo错误信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0492_html.md ## AI Core超时故障 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0500.html - Description: Host应用类日志(log/\[run|debug\]/plog/plog-pid\_*.log)中存在如下报错: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0500_html.md ## 故障信息收集 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0501.html - Description: 不复跑业务,仅收集故障信息,例如软硬件信息、日志等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0501_html.md ## 业务复跑+故障信息收集 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0502.html - Description: 复跑业务后再收集故障信息,例如软硬件信息、日志等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0502_html.md ## 软硬件、Device状态信息展示 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0503.html - Description: 收集安装包版本信息、Device温度、功率等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0503_html.md ## 健康检查 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0504.html - Description: 检查所有Device或指定Device的健康状态(若不健康,会展示报错信息)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0504_html.md ## 综合检测 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0505.html - Description: 包括压力检测、HBM硬件检测、CPU检测等功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0505_html.md ## 组件检测 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0506.html - Description: 组件检测,当前只支持AI Vector组件检测,不支持并行执行 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0506_html.md ## trace文件解析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0507.html - Description: 解析trace文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0507_html.md ## coredump文件解析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0510.html - Description: 解析coredump文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0510_html.md ## stackcore文件解析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0511.html - Description: 解析stackcore文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0511_html.md ## coretrace文件解析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0512.html - Description: 解析coretrace文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0512_html.md ## 环境配置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0514.html - Description: 获取或恢复指定配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0514_html.md ## AI Core Error故障信息解析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0515.html - Description: 执行业务时,若日志文件或屏幕打印信息中包含AI Core Error报错(例如“there is an aivec error exception”或“there is an aicore error exception”),可使用AI Core Error故障信息解析功能,快速定位AI Core Error问题的原因,提高排查效率。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0515_html.md ## 性能数据采集 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0516.html - Description: \#\#\#\# 功能说明 采集性能数据。 \#\#\#\# - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0516_html.md ## CANN商业版-- 问题现象 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0517.html - Description: \#\#\#\# 业务复跑报错FAQ - 问题现象 先使用ctrl+z中止业务复跑task,接着再次拉起业务复跑task,屏显日志显示业务复跑task错误,如下图所示。 图1 业务复跑报task occurred error - 可能原因 执行ctrl+z操作等导致任务异常终止,但还存在任务进程残留(且还进行重定向写文件操作等操作),与后面新启动的asys复跑任务相互冲突,导致复跑异常。 - - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0517_html.md ## 分析AI Core Error问题 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0531.html - Description: 分析AI Core Error问题的故障信息,辅助定位AI Core Error问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0531_html.md ## 解析Dump文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0532.html - Description: 将Dump文件解析成.bin或.npy文件,文件中记录算子的输入、输出、workspace等信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0532_html.md ## 转换Dump文件数据类型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0533.html - Description: 转换*.bin格式的Dump文件中的数据类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0533_html.md ## 检查环境 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0534.html - Description: 运行内置算子样例检查软硬件环境。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0534_html.md ## msaicerr工具环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0535.html - Description: 已在CANN运行环境上安装Toolkit软件包。详细安装请参见《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/canncommercial/900/softwareinst/instg/instg\_0000.html\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0535_html.md ## 网络问题导致Moe Dispatch/Combine算子执行报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0537.html - Description: Atlas A3 训练系列产品 / Atlas A3 推理系列产品 场景下,Host侧Runtime执行报错,在应用程序运行日志中Runtime打印了fault kernel\_name和func\_name的关键信息,其中fault kernel\_name为MoeDistributeDispatchV2、MoeDistributeCombineV2算子,报错Error为“ errcode:\(0x80 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0537_html.md ## UB文件解析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/troubleshooting/troubleshooting_0538.html - Description: 解析UB维测信息文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_maintenref_troubleshooting_troubleshooting_0538_html.md ## CANN商业版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dataflow_dev_001_html.md ## CANN商业版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dataflow_dev_001.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dataflow_dev_001_html.md ## DataFlow简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevc_23_0002.html - Description: 本文档用于指导开发者如何使用DataFlow接口进行计算图的构建、修改、编译和执行。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevc_23_0002_html.md ## 开发前准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevc_23_0003.html - Description: 支持的产品型号: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 和 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevc_23_0003_html.md ## 应用场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevc_23_0004.html - Description: DataFlow可用于多模型串接下沉执行场景,在该场景下,DataFlow可以对自定义计算节点或模型进行编排,通过数据驱动模型执行,其中被定义成GraphProcessPoint的节点可以完全下沉到device侧执行,且相邻的两个GraphProcessPoint之间的数据传输将在device-device间进行。上述机制减少了host和device之间控制面和数据面的交互,降低整个DataFlo - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevc_23_0004_html.md ## 什么是FlowOperator - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevc_23_0006.html - Description: FlowOperator是FlowGraph的节点基类,衍生类有FlowData和FlowNode两种类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevc_23_0006_html.md ## 如何通过FlowOperator构建FlowGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevc_23_0007.html - Description: 用户使用创建好的FlowOperator节点,创建一个FlowGraph实例,并在FlowGraph中设置输入、输出,从而完成Graph构建。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevc_23_0007_html.md ## 编译并运行FlowGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevc_23_0008.html - Description: 构建完FlowGraph之后,如果您希望直接编译并运行FlowGraph,得到图的执行结果,可以参考本节内容。涉及的主要接口为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevc_23_0008_html.md ## 完整样例参考 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevc_23_0009.html - Description: 单击GitCode\(https://gitcode.com/cann/ge/tree\),选择对应版本的分支,从“examples/dflow”目录中获取样例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevc_23_0009_html.md ## 开发流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevc_23_0013.html - Description: 进行UDF开发的流程如下图所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevc_23_0013_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevc_23_0015.html - Description: - 进行UDF开发前,需要完成驱动固件及开发套件包Ascend-cann-toolkit的安装,详细操作请参见《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/canncommercial/900/softwareinst/instg/instg\_0000.html\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevc_23_0015_html.md ## 工程创建 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevc_23_0016.html - Description: UDF工程分成如下几类,请根据使用场景进行创建。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevc_23_0016_html.md ## 开发过程(调用MetaFlowFunc类) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevc_23_0017.html - Description: 在UDF开发过程中,用户可以调用MetaFlowFunc类进行自定义的单func处理函数的编写。也可以调用MetaMultiFunc类进行自定义的多func处理函数的编写。本小节介绍调用MetaFlowFunc类进行UDF的开发过程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevc_23_0017_html.md ## 开发过程(调用MetaMultiFunc类) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevc_23_0018.html - Description: 在UDF开发过程中,用户可以调用MetaFlowFunc类进行自定义的单func处理函数的编写。也可以调用MetaMultiFunc类进行自定义的多func处理函数的编写。本小节介绍调用MetaMultiFunc类进行UDF的开发过程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevc_23_0018_html.md ## 工程编译 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevc_23_0019.html - Description: 在udf\_workspace/01\_udf\_add目录下创建build和release目录: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevc_23_0019_html.md ## 使用DataFlow API构建graph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevc_23_0020.html - Description: 1. 构建FlowGraph。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevc_23_0020_html.md ## CANN商业版-测试 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevc_23_0022.html - Description: 请使用开发好的UDF,构建单UDF的FlowGraph并编译运行,详细操作可以参考通过FlowOperator构建FlowGraph和编译并运行FlowGraph。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevc_23_0022_html.md ## 基于flow标记的图切分 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevc_23_0023.html - Description: 前端表达仅支持IR表达,在同构引擎间,若希望进行Flow表达,可以通过"\_flow\_attr"设置Op或者SubGraphOp的flow属性,分别拆分成不同的Flow图,并分别进行图编译、部署和执行;对于子图,可以通过PartitionedCall算子来实现子图的嵌套; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevc_23_0023_html.md ## 指定DataFlow节点部署位置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevc_23_0024.html - Description: 支持使用配置文件指定DataFlow图节点部署位置。该功能可以实现多卡多实例。分摊计算量,提升性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevc_23_0024_html.md ## DataFlow子图编译缓存 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevc_23_0025.html - Description: 开启DataFlow编译缓存功能,当修改DataFlow单个节点的子图时,只增量编译修改的子图,其余子图使用缓存,从而降低编译耗时。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevc_23_0025_html.md ## DataFlow离线编译 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevc_23_0026.html - Description: DataFlow离线编译是指在开发环境编译,在运行环境上加载和部署,从而实现编译和建链解耦。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevc_23_0026_html.md ## numa\_config.json配置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevc_23_0032.html - Description: numa\_config.json全量字段含义如表1所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevc_23_0032_html.md ## 读者对象 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0003.html - Description: 本文档用于指导开发者如何使用DataFlow接口进行异步流水应用的开发,或者对原应用进行异步流水的改造,实现应用的大吞吐和高并发。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0003_html.md ## 阅读向导 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0004.html - Description: 如果您对DataFlow不太了解,或者首次阅读本文档,建议先从阅读向导开始,帮助您快速了解手册内容,按需访问对应章节。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0004_html.md ## DataFlow简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0006.html - Description: DataFlow是一套面向异构系统的应用开发和执行框架,提供了一套API来帮助用户快速表达业务逻辑。框架屏蔽异构硬件和组网的差异,并以异步流水方式提升应用的整体性能和吞吐量。同时,DataFlow提供了简单灵活的部署策略,用户可以方便地调整每个业务实例的个数以及部署位置,从而提升应用的资源利用率,降低用户的使用成本。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0006_html.md ## 多模型串接下沉执行 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0008.html - Description: DataFlow可以对自定义计算节点或模型进行编排,通过数据驱动模型执行,其中被定义成GraphProcessPoint的节点可以完全下沉device侧执行,且相邻的两个GraphProcessPoint之间的数据传输将在device-device间进行。上述机制减少了host和device之间控制面和数据面的交互,降低整个DataFlow图执行的时延,从而提升整体性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0008_html.md ## 基于PyTorch模型的在线推理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0009.html - Description: DataFlow可以结合多种深度学习框架进行模型的训练或在线推理,来达到提高模型吞吐的目的。以PyTorch为例,在使用PyTorch进行模型在线推理时,通常会经过预处理、模型推理以及后处理三个步骤,其中模型推理又可以根据模型结构拆分成多个串行执行的子模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0009_html.md ## 整体开发流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0011.html - Description: \# 整体开发流程 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0011_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0012.html - Description: 支持的产品型号: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 和 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0012_html.md ## 完整样例参考 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0013.html - Description: Sample名称 代码地址 场景说明 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0013_html.md ## CANN商业版-该章节将介绍如何构建并执行一张FlowGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0015.html - Description: 该章节将介绍如何构建并执行一张FlowGraph,包含以下两种方式: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0015_html.md ## 通过注解构图并执行 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0016.html - Description: 通过注解构图并执行的流程如下所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0016_html.md ## 通过API构图并执行 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0017.html - Description: 通过API构图并执行的流程如下所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0017_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0020.html - Description: - 进行UDF开发前,需要完成驱动固件及开发套件包Ascend-cann-toolkit的安装,详细操作请参见《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/canncommercial/900/softwareinst/instg/instg\_0000.html\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0020_html.md ## 通过注解创建UDF - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0021.html - Description: 通过注解进行UDF开发的流程如下图所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0021_html.md ## 通过工程创建UDF - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0022.html - Description: 通过工程进行UDF开发的流程如下图所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0022_html.md ## 指定DataFlow节点部署位置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0023.html - Description: 支持使用配置文件指定DataFlow图节点部署位置。该功能可以实现多卡多实例。分摊计算量,提升性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0023_html.md ## DataFlow子图编译缓存 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0024.html - Description: 开启DataFlow编译缓存功能,当修改DataFlow单个节点的子图时,只增量编译修改的子图,其余子图使用缓存,从而降低编译耗时。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0024_html.md ## DataFlow离线编译 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0025.html - Description: DataFlow离线编译是指在开发环境编译,在运行环境上加载和部署,从而实现编译和建链解耦。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0025_html.md ## 数据对齐 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0026.html - Description: 了解数据对齐之前,需要先了解什么是数据对。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0026_html.md ## 配置动态shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0027.html - Description: 配置动态shape可以给予图编译阶段更多shape range信息,编译器用以编译高效的算子和更好地管理内存。设置maxOutputSize用于配置更精准的输出最大值,图执行器会根据此配置在图计算前预先申请好输出内存,提升性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0027_html.md ## 多实例部署 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0028.html - Description: 当某个节点需要较多的计算资源时,可以考虑采用部署多份的方式来加速计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0028_html.md ## 流式输入和输出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0029.html - Description: 在DataFlow中,流式输入是指:UDF执行一次可以获取多次输入。比如流式输出是指:UDF执行一次可以输出多次。详细介绍和示例请参见使用方法。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0029_html.md ## DataFlow框架介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0031.html - Description: 图1 DataFlow框架结构 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0031_html.md ## Mbuf多内存 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0032.html - Description: Mbuf是一种共享内存,包含了MbufHead和MbufData两部分数据,如表1所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0032_html.md ## numa\_config.json配置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0033.html - Description: numa\_config.json全量字段含义如表1所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0033_html.md ## UDF Python工程创建工具 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfdevp_23_0034.html - Description: 该工具的作用是创建一个UDF Python工程模板,包括对应的文件夹和文件,用户可以基于该模板进行功能的开发,减少了手工创建的工作量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfdevp_23_0034_html.md ## DataFlow接口列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0001.html - Description: 您可以在“$\{INSTALL\_DIR\}/include/flow\_graph”路径下查看对应接口的头文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0001_html.md ## FlowOperator类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0004.html - Description: FlowOperator类是DataFlow Graph的节点基类,继承于GE的Operator。详细介绍请参考“Operator\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendgraphapi/atlasgeapi\_07\_0623.html\)”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0004_html.md ## FlowData的构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0007.html - Description: FlowData构造函数和析构函数,构造函数会返回一个FlowData节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0007_html.md ## FlowNode构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0010.html - Description: FlowNode构造函数和析构函数,构造函数返回一个FlowNode节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0010_html.md ## CANN商业版-SetInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0011.html - Description: 给FlowNode设置输入,表示将srcop的第srcindex个输出作为FlowNode的第dstindex个输入,返回设置好输入的FlowNode节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0011_html.md ## CANN商业版-AddPp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0012.html - Description: 给FlowNode添加映射的ProcessPoint,当前一个FlowNode仅能添加一个ProcessPoint,添加后会默认将FlowNode的输入输出和ProcessPoint的输入输出按顺序进行映射。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0012_html.md ## CANN商业版-MapInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0013.html - Description: 给FlowNode映射输入,表示将FlowNode的第nodeinputindex个输入给到ProcessPoint的第ppinputindex个输入,并且给ProcessPoint的该输入设置上attrs里的所有属性,返回映射好的FlowNode节点。该函数可选,不被调用时会默认按顺序映射FlowNode和ProcessPoint的输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0013_html.md ## CANN商业版-MapOutput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0014.html - Description: 给FlowNode映射输出,表示将ProcessPoint的第ppoutputindex个输出给到FlowNode的第nodeoutputindex个输出,返回映射好的FlowNode节点。 可选调用方法,不调用会默认按顺序去映射FlowNode和ProcessPoint的输出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0014_html.md ## CANN商业版-SetBalanceScatter - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0015.html - Description: 设置节点balance scatter属性,具有balance scatter属性的UDF可以使用balance options设置负载均衡输出。 无。 返回设置完属性的FlowNode节点。 无。 与SetBalanceGather接口互斥。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0015_html.md ## CANN商业版-SetBalanceGather - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0016.html - Description: 设置节点balance gather属性,具有balance gather属性的UDF可以使用balance options设置负载均衡亲和输出。 无。 返回设置完属性的FlowNode节点。 无。 与SetBalanceScatter接口互斥。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0016_html.md ## FlowGraph构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0019.html - Description: FlowGraph构造函数和析构函数,构造函数会返回一张空的FlowGraph图。 返回一张空的FlowGraph图。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0019_html.md ## CANN商业版-SetInputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0020.html - Description: 设置FlowGraph的输入节点,会自动根据节点的输出连接关系构建出一张FlowGraph图,并返回该图。 返回构建好输入节点的FlowGraph图。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0020_html.md ## CANN商业版-SetOutputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0021.html - Description: 设置FlowGraph的输出节点,并返回该图。 返回设置了输出节点的FlowGraph图。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0021_html.md ## SetOutputs(index) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0022.html - Description: 设置FlowGraph中的FlowNode和FlowNode输出index的关联关系,并返回该图。常用于设置FlowNode部分输出场景,比如FlowNode1有2个输出,但是作为FlowNode2输入的时候只需要FlowNode1的一个输出,这种情况下可以设置FlowNode1的一个输出index。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0022_html.md ## CANN商业版-SetContainsNMappingNode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0023.html - Description: 设置FlowGraph是否包含nmapping节点。nmapping节点指存在以下任意一种情况。 - 一次输入生成非一次(多个,0个,或不定)输出。 - 多次输入生成一次输出。 - 多次输入生成非一次(多个,0个,或不定)输出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0023_html.md ## CANN商业版-SetInputsAlignAttrs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0024.html - Description: 设置FlowGraph中的输入对齐属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0024_html.md ## const ge::Graph &ToGeGraph\(\) const - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0025.html - Description: 将FlowGraph转换到GE的Graph。具体的GE Graph介绍请参考《图开发\(https://www.hiascend.com/document/detail/zh/canncommercial/900/programug/graphdevg/atlasag\_25\_0081.html\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0025_html.md ## CANN商业版-SetGraphPpBuilderAsync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0026.html - Description: 设置FlowGraph中的GraphPp的Builder是否异步执行。 无 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0026_html.md ## CANN商业版-SetExceptionCatch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0027.html - Description: 设置用户异常捕获功能是否开启。 返回当前对象。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0027_html.md ## ProcessPoint析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0030.html - Description: ProcessPoint析构函数。 无 无 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0030_html.md ## CANN商业版-GetProcessPointType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0031.html - Description: 获取ProcessPoint的类型。 无 返回一个ProcessPoint的类型。类型取值如下: 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0031_html.md ## CANN商业版-GetProcessPointName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0032.html - Description: 获取ProcessPoint的名称。 无 返回一个ProcessPoint的名称。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0032_html.md ## CANN商业版-GetCompileConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0033.html - Description: 获取ProcessPoint编译配置的文件。 无 返回ProcessPoint编译配置的文件。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0033_html.md ## CANN商业版-Serialize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0034.html - Description: ProcessPoint的序列化方法。由ProcessPoint的子类去实现该方法的功能。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0034_html.md ## FunctionPp构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0037.html - Description: FunctionPp的构造函数和析构函数,构造函数会返回一个FunctionPp对象。 返回一个FunctionPp对象。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0037_html.md ## CANN商业版-SetCompileConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0038.html - Description: 设置FunctionPp的json配置文件名字和路径,该配置文件用于将FunctionPp和UDF进行映射。 返回设置好的FunctionPp。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0038_html.md ## AddInvokedClosure \(添加调用的GraphPp\) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0039.html - Description: 添加FunctionPp调用的GraphPp,返回添加好的FunctionPp。 返回设置好的FunctionPp。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0039_html.md ## AddInvokedClosure \(添加调用的ProcessPoint子类\) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0040.html - Description: 添加FunctionPp调用的GraphPp/FlowGraphPp,返回添加好的FunctionPp。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0040_html.md ## AddInvokedClosure \(添加调用的FlowGraphPp\) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0041.html - Description: 添加FunctionPp调用的FlowGraphPp,返回添加好的FunctionPp。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0041_html.md ## CANN商业版-SetInitParam - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0042.html - Description: 设置FunctionPp的初始化参数,返回设置好的FunctionPp。 返回设置好的FunctionPp。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0042_html.md ## CANN商业版-Serialize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0043.html - Description: FunctionPp的序列化方法。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0043_html.md ## CANN商业版-GetInvokedClosures - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0044.html - Description: 获取FunctionPp调用的GraphPp。 无 返回AddInvokedClosure设置的的map。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0044_html.md ## GraphPp构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0047.html - Description: GraphPp构造函数和析构函数,构造函数会返回一个GraphPp对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0047_html.md ## CANN商业版-SetCompileConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0048.html - Description: 设置GraphPp的json配置文件路径和文件名。配置文件用于AscendGraph的描述和编译。 返回设置好的GraphPp。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0048_html.md ## CANN商业版-Serialize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0049.html - Description: GraphPp的序列化方法。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0049_html.md ## CANN商业版-GetGraphBuilder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0050.html - Description: 获取GraphPp中Graph的创建函数。 无 Graph的创建函数,函数原型如下。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0050_html.md ## FlowGraphPp构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0053.html - Description: FlowGraphPp构造函数和析构函数,构造函数会返回一个FlowGraphPp对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0053_html.md ## CANN商业版-Serialize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0054.html - Description: FlowGraphPp的序列化方法。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0054_html.md ## CANN商业版-GetGraphBuilder - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0055.html - Description: 获取FlowGraphPp中Graph的创建函数。 无 Graph的创建函数,函数原型如下。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0055_html.md ## CANN商业版-TimeBatch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0057.html - Description: TimeBatch功能是基于UDF为前提的。 正常模型每次处理一个数据,当需要一次处理一批数据时,就需要将这批数据组成一个batch,最基本的batch方式是将这批N个数据直接拼接,然后shape前加N,而某些场景需要将某段或者某几段时间数据组成一个batch,并且按特定的维度拼接,则可以通过使用TimeBatch功能来组batch。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0057_html.md ## CANN商业版-CountBatch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0058.html - Description: CountBatch功能是指基于UDF为计算处理点将多个数据按batchsize组成batch。 该功能应用于DataFlow异步场景,具体如下。 - 长时间没有数据输入时,可以通过CountBatch功能设置超时时间,如果没有设置padding,超时后取当前已有数据送计算处理点处理。 - 设置超时时间后,如果数据不满batchsize时, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0058_html.md ## DataFlow运行接口简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0060.html - Description: 本文档主要描述模型执行接口,您可以在“$\{INSTALL\_DIR\}/include/ge”路径下查看对应接口的头文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0060_html.md ## FeedDataFlowGraph(feed所有输入) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0062.html - Description: 将数据输入到Graph图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0062_html.md ## FeedDataFlowGraph(按索引feed输入) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0063.html - Description: 将数据按索引输入到Graph图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0063_html.md ## FeedDataFlowGraph(feed所有FlowMsg) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0064.html - Description: 将数据输入到Graph图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0064_html.md ## FeedDataFlowGraph(按索引feed FlowMsg) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0065.html - Description: 将数据按索引输入到Graph图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0065_html.md ## CANN商业版-FeedRawData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0066.html - Description: 将原始数据输入到Graph图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0066_html.md ## FetchDataFlowGraph(获取所有输出数据) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0067.html - Description: 获取图输出数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0067_html.md ## FetchDataFlowGraph(按索引获取输出数据) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0068.html - Description: 按索引获取图输出数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0068_html.md ## FetchDataFlowGraph(获取所有输出FlowMsg) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0069.html - Description: 获取图输出数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0069_html.md ## FetchDataFlowGraph(按索引获取输出FlowMsg) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0070.html - Description: 按索引获取图输出数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0070_html.md ## DataFlowInfo数据类型构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0072.html - Description: DataFlowInfo构造函数和析构函数。 无 无 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0072_html.md ## CANN商业版-SetUserData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0073.html - Description: 设置用户信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0073_html.md ## CANN商业版-GetUserData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0074.html - Description: 获取用户信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0074_html.md ## CANN商业版-SetStartTime - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0075.html - Description: 设置数据的开始时间戳。 无 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0075_html.md ## CANN商业版-GetStartTime - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0076.html - Description: 获取数据的开始时间戳。 无 返回数据的开始时间戳。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0076_html.md ## CANN商业版-SetEndTime - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0077.html - Description: 设置数据的结束时间戳。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0077_html.md ## CANN商业版-GetEndTime - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0078.html - Description: 获取数据的结束时间戳。 无 返回数据中的结束时间戳。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0078_html.md ## CANN商业版-SetFlowFlags - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0079.html - Description: 设置数据中的flags。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0079_html.md ## CANN商业版-GetFlowFlags - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0080.html - Description: 获取数据中的flags。 无。 返回数据中的flags。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0080_html.md ## CANN商业版-SetTransactionId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0081.html - Description: 设置DataFlow数据传输使用的事务ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0081_html.md ## CANN商业版-GetTransactionId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0082.html - Description: 获取DataFlow数据传输使用的事务ID。 无。 返回DataFlow数据传输使用的transactionid。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0082_html.md ## FlowMsg数据类型构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0084.html - Description: FlowMsg构造函数和析构函数。 无。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0084_html.md ## CANN商业版-GetMsgType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0085.html - Description: 获取FlowMsg的消息类型。 无。 返回FlowMsg的消息类型。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0085_html.md ## CANN商业版-SetMsgType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0086.html - Description: 设置FlowMsg的消息类型。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0086_html.md ## CANN商业版-GetTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0087.html - Description: 获取FlowMsg中的Tensor指针。 无 返回Tensor类型指针。 无。 只有消息类型为TENSORDATATYPE时,才能获取Tensor类型指针,否则返回NULL。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0087_html.md ## CANN商业版-GetRetCode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0088.html - Description: 获取输入FlowMsg中的错误码。 无 返回FlowMsg消息中的错误码。0表示正常,非0表示异常。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0088_html.md ## CANN商业版-SetRetCode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0089.html - Description: 设置FlowMsg中的错误码。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0089_html.md ## CANN商业版-SetStartTime - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0090.html - Description: 设置FlowMsg消息头中的开始时间戳。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0090_html.md ## CANN商业版-GetStartTime - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0091.html - Description: 获取FlowMsg消息中的开始时间戳。 无。 返回FlowMsg消息中的开始时间戳。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0091_html.md ## CANN商业版-SetEndTime - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0092.html - Description: 设置FlowMsg消息头中的结束时间戳。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0092_html.md ## CANN商业版-GetEndTime - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0093.html - Description: 获取FlowMsg消息中的结束时间戳。 无。 返回FlowMsg消息中的结束时间戳。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0093_html.md ## CANN商业版-SetFlowFlags - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0094.html - Description: 设置FlowMsg消息头中的flags。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0094_html.md ## CANN商业版-GetFlowFlags - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0095.html - Description: 获取FlowMsg消息头中的flags。 无。 返回FlowMsg消息中的flags。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0095_html.md ## CANN商业版-GetTransactionId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0096.html - Description: 获取FlowMsg消息中的事务ID,事务ID从1开始计数,每feed一批数据,事务ID会加一,可用于识别哪一批数据。 无。 事务ID。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0096_html.md ## CANN商业版-SetTransactionId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0097.html - Description: 设置FlowMsg消息中的事务ID,事务ID从1开始计数,可用于识别哪一批数据,设置为0时表示不使用自定义的transactionid,内部会采用自增的方式自动生成transactionid。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0097_html.md ## CANN商业版-SetUserData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0098.html - Description: 设置用户信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0098_html.md ## CANN商业版-GetUserData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0099.html - Description: 获取用户信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0099_html.md ## CANN商业版-GetRawData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0100.html - Description: 获取RawData类型的数据对应的数据指针和数据大小。 - 0:SUCCESS。 - other:FAILED 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0100_html.md ## CANN商业版-AllocTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0102.html - Description: 根据shape、data type和对齐大小申请Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0102_html.md ## CANN商业版-AllocTensorMsg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0103.html - Description: 根据shape、data type和对齐大小申请FlowMsg。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0103_html.md ## CANN商业版-AllocRawDataMsg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0104.html - Description: 根据输入的size申请一块连续内存,用于承载raw data类型的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0104_html.md ## CANN商业版-AllocEmptyDataMsg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0105.html - Description: 申请空数据的MsgType类型的message。 申请的FlowMsg指针。 申请不到FlowMsg指针则返回NULL。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0105_html.md ## ToFlowMsg(tensor) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0106.html - Description: 根据输入的Tensor转换成用于承载Tensor的FlowMsg。 转换的FlowMsg指针。 转换失败则返回NULL。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0106_html.md ## ToFlowMsg(raw data) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefc_23_0107.html - Description: 根据输入的raw data转换成用于承载raw data的FlowMsg。 转换的FlowMsg指针。 转换失败则返回NULL。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefc_23_0107_html.md ## DataFlow接口列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0001.html - Description: 使用DataFlow Python接口构造DataFlow图进行推理。支持定义图处理点,UDF处理点,描述处理点之间的数据流关系;支持导入TensorFlow, ONNX, MindSpore的IR文件作为图处理点计算逻辑定义。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0001_html.md ## dataflow.FlowData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0003.html - Description: DataFlow Graph中的数据节点,每个FlowData对应一个输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0003_html.md ## CANN商业版-FlowNode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0005.html - Description: DataFlow Graph中的计算节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0005_html.md ## CANN商业版-add\_process\_point - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0006.html - Description: 给FlowNode添加映射的pp,当前一个FlowNode仅能添加一个pp,添加后会默认将FlowNode的输入输出和pp的输入输出按顺序进行映射。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0006_html.md ## CANN商业版-map\_input - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0007.html - Description: 给FlowNode映射输入,表示将FlowNode的第nodeinputindex个输入给到ProcessPoint的第ppinputindex个输入,并且给ProcessPoint的该输入设置上attr里的所有属性,返回映射好的FlowNode节点。该函数可选,不被调用时会默认按顺序去映射FlowNode和ProcessPoint的输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0007_html.md ## CANN商业版-map\_output - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0008.html - Description: 给FlowNode映射输出,表示将pp的第ppoutputindex个输出给到FlowNode的第nodeoutputindex个输出,返回映射好的FlowNode节点。 可选调方法,不调用会默认按顺序去映射FlowNode和pp的输出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0008_html.md ## CANN商业版-set\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0009.html - Description: 设置FlowNode的属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0009_html.md ## CANN商业版-\_\_call\_\_ - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0010.html - Description: 调用FlowNode进行计算。 一个输出时返回FlowOutput对象,多个输出时返回FlowOutput元组。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0010_html.md ## CANN商业版-set\_balance\_scatter - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0011.html - Description: 设置节点balance scatter属性,具有balance scatter属性的UDF可以使用balance options设置负载均衡输出。 无 返回None。 与setbalancegather接口互斥。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0011_html.md ## CANN商业版-set\_balance\_gather - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0012.html - Description: 设置节点balance gather属性,具有balance gather属性的UDF可以使用balance options设置负载均衡亲和输出。 无 返回None。 与setbalancescatter接口互斥。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0012_html.md ## CANN商业版-set\_alias - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0013.html - Description: 设置节点别名,使用option:ge.experiment.dataflowdeployinfopath指定节点部署位置时,flownodelist字段可使用别名进行指定。 返回当前FlowNode。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0013_html.md ## dataflow.FlowFlag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0014.html - Description: 枚举值如下: - FlowFlag.DATAFLOWFLAGEOS - FlowFlag.DATAFLOWFLAGSEG - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0014_html.md ## CANN商业版-FlowGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0016.html - Description: DataFlow的graph,由输入节点FlowData和计算节点FlowNode构成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0016_html.md ## CANN商业版-set\_contains\_n\_mapping\_node - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0017.html - Description: 设置FlowGraph是否包含nmapping节点。nmapping节点指存在以下任意一种情况。 - 一次输入生成非一次(多个,0个,或不定)输出 - 多次输入生成一次输出 - 多次输入生成非一次(多个,0个, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0017_html.md ## CANN商业版-set\_inputs\_align\_attrs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0018.html - Description: 设置FlowGraph中的输入对齐属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0018_html.md ## CANN商业版-set\_exception\_catch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0019.html - Description: 设置用户异常捕获功能是否开启。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0019_html.md ## dataflow.FlowOutput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0020.html - Description: 描述FlowNode的输出。 用户无需自己定义,调用FlowNode的call方法会返回FlowOutput或者Tuple\[FlowOutput\]。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0020_html.md ## dataflow.Framework - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0021.html - Description: 枚举值如下: - Framework.TENSORFLOW - Framework.ONNX - Framework.MINDSPORE - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0021_html.md ## CANN商业版-FuncProcessPoint - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0023.html - Description: FuncProcessPoint的构造函数,返回一个FuncProcessPoint对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0023_html.md ## CANN商业版-set\_init\_param - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0024.html - Description: 设置FuncProcessPoint的初始化参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0024_html.md ## CANN商业版-add\_invoked\_closure - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0025.html - Description: 添加FuncProcessPoint调用的GraphProcessPoint或FlowGraphProcessPoint,返回添加好的FuncProcessPoint。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0025_html.md ## CANN商业版-GraphProcessPoint - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0027.html - Description: GraphProcessPoint构造函数,返回一个GraphProcessPoint对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0027_html.md ## CANN商业版-fnode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0028.html - Description: 根据当前的GraphProcessPoint生成一个FlowNode,返回一个FlowNode对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0028_html.md ## dataflow.FlowGraphProcessPoint - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0029.html - Description: FlowGraphProcessPoint构造函数,返回一个FlowGraphProcessPoint对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0029_html.md ## CANN商业版-Tensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0031.html - Description: Tensor的构造函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0031_html.md ## CANN商业版-numpy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0032.html - Description: 将Tensor转换到numpy的ndarray。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0032_html.md ## dataflow.TensorDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0033.html - Description: Tensor的描述函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0033_html.md ## dataflow.alloc\_tensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0034.html - Description: 根据shape、data type以及对齐大小申请dataflow tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0034_html.md ## dataflow.utils.generate\_deploy\_template - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0035.html - Description: 根据FlowGraph生成指定部署位置的option:"ge.experiment.dataflowdeployinfopath"所需要的文件的模板,具体格式请参见指定DataFlow节点部署位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0035_html.md ## CANN商业版-register - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0037.html - Description: 注册自定义类型对应的序列化、反序列化、计算size的函数,可结合feed,fetch接口使用,用于feed/fetch任意Python类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0037_html.md ## CANN商业版-registered - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0038.html - Description: 判断消息类型ID是否被注册过 bool,True表示注册过, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0038_html.md ## CANN商业版-get\_msg\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0039.html - Description: 根据类型定义获取注册的消息类型ID。 注册的消息类型ID,没有注册过返回None。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0039_html.md ## CANN商业版-get\_serialize\_func - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0040.html - Description: 根据消息类型ID获取注册的序列化函数。 注册的序列化函数,没有注册过返回None。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0040_html.md ## CANN商业版-get\_deserialize\_func - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0041.html - Description: 根据消息类型ID获取注册的反序列化函数。 注册的反序列化函数,没有注册过返回None。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0041_html.md ## CANN商业版-get\_size\_func - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0042.html - Description: 根据消息类型ID获取注册的计算序列化内存大小的函数。 注册的计算序列化内存大小函数,没有注册过返回None。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0042_html.md ## CANN商业版-deserialize\_from\_file - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0043.html - Description: 从序列化的pickle文件进行反序列化恢复Python对象。 反序列化恢复的Python对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0043_html.md ## CANN商业版-pyflow - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0044.html - Description: 支持将函数作为pipeline任务在本地或者远端运行。为此,需使用@pyflow装饰函数,以表达需要使用pipeline方式运行此函数。当用户的类或者函数被@pyflow装饰后,会自动添加fnode的构图方法,使用方式参考调用示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0044_html.md ## CANN商业版-method - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0045.html - Description: 对于复杂场景支持将类作为pipeline任务在本地或者远端运行。为此,需使用@pyflow装饰类,同时使用@method装饰类中的函数,以表达需要使用pipeline方式运行此函数,支持一个类中存在多个被@method修饰的函数,以表达可同时接受输入进行执行,同时被@method修饰的函数均需要参与进行构造FlowGraph图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0045_html.md ## CANN商业版-npu\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0046.html - Description: 如果UDF部署在host侧,执行时数据需要从device拷贝到本地进行运算。对于PyTorch场景,如果计算全在device侧,输入输出也是在device侧,执行时数据需要从device拷贝到host,执行后PyTorch再将数据搬到device侧,影响执行性能,使用npumodel可以优化为不搬移数据(即直接下沉到device执行)的方式触发执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0046_html.md ## dataflow.CountBatch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0047.html - Description: CountBatch功能是指基于UDF为计算处理点将多个数据按batchsize组成batch。该功能应用于dataflow异步场景,具体如下。 - 长时间没有数据输入时,可以通过CountBatch功能设置超时时间,如果没有设置padding,超时后取当前已有数据送计算处理点处理。 - 设置超时时间后,如果数据不满batchsize时, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0047_html.md ## dataflow.TimeBatch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0048.html - Description: TimeBatch功能是基于UDF为前提的。 正常模型每次处理一个数据,当需要一次处理一批数据时,就需要将这批数据组成一个batch。最基本的batch方式是将这批N个数据直接拼接,然后shape前加N,而某些场景需要将某段或者某几段时间数据组成一个batch,并且按特定的维度拼接,则可以通过使用TimeBatch功能来组batch。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0048_html.md ## dataflow.init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0050.html - Description: 初始化dataflow时的options。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0050_html.md ## CANN商业版-FlowInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0052.html - Description: DataFlow的flow信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0052_html.md ## CANN商业版-set\_user\_data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0053.html - Description: 设置用户信息。 正常场景下返回None。 异常情况抛出异常, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0053_html.md ## CANN商业版-get\_user\_data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0054.html - Description: 获取用户信息。 正常场景下返回bytearray。 异常情况抛出异常, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0054_html.md ## CANN商业版-user\_data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0055.html - Description: 获取用户信息。 无 以属性方式返回userdata对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0055_html.md ## CANN商业版-data\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0056.html - Description: 获取userdata的长度。 无 返回userdata的长度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0056_html.md ## CANN商业版-start\_time - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0057.html - Description: 以属性方式读取和设置FlowInfo的开始时间。 starttime属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0057_html.md ## CANN商业版-end\_time - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0058.html - Description: 以属性方法读取和设置FlowInfo的结束时间。 endtime属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0058_html.md ## CANN商业版-flow\_flags - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0059.html - Description: 以属性方法读取和设置FlowInfo的flowflags。 flowflags属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0059_html.md ## CANN商业版-transaction\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0060.html - Description: 以属性方式读写事务ID。 transactionid的属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0060_html.md ## CANN商业版-feed\_data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0062.html - Description: 将数据输入到Graph。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0062_html.md ## CANN商业版-feed - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0063.html - Description: 将数据输入到Graph,支持可序列化的任意的输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0063_html.md ## CANN商业版-fetch\_data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0064.html - Description: 获取Graph输出数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0064_html.md ## CANN商业版-fetch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0065.html - Description: 获取Graph输出数据。支持可序列化的任意的输出。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0065_html.md ## dataflow.finalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0066.html - Description: 释放dataflow初始化的资源。 无 无 无 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0066_html.md ## dataflow.get\_running\_device\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0067.html - Description: UDF执行时获取当前UDF的运行deviceid,该信息来源于dataflowdeployinfo.json中的logicdevicelist配置。 无 返回当前UDF的运行deviceid,数据类型为int。 需配合pyflow装饰器进行使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0067_html.md ## dataflow.get\_running\_instance\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0068.html - Description: UDF执行时获取当前UDF的运行实例ID,该信息来源于dataflowdeployinfo.json中的logicdevicelist配置。 无 返回当前UDF的运行实例ID,数据类型为int。 需配合pyflow装饰器进行使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0068_html.md ## dataflow.get\_running\_instance\_num - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0069.html - Description: UDF执行时获取当前UDF的运行实例个数,该信息来源于dataflowdeployinfo.json中的logicdevicelist配置。 无 返回当前UDF的运行实例个数,数据类型为int。 需配合pyflow装饰器进行使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0069_html.md ## DataFlow错误码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/dfrefp_23_0070.html - Description: DataFlow错误码含义如下。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_dfrefp_23_0070_html.md ## UDF接口列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00001.html - Description: 本文档主要描述UDF(User Defined Function)模块对外提供的接口,用户可以调用这些接口进行自定义处理函数的开发,然后通过DataFlow构图在CPU上执行该处理函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00001_html.md ## AttrValue构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00004.html - Description: AttrValue构造函数和析构函数。 无 返回AttrValue类型的对象。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00004_html.md ## CANN商业版-GetVal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00005.html - Description: 获取string类型的属性值。 - 0:SUCCESS。 - 其他返回值请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00005_html.md ## CANN商业版-GetVal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00006.html - Description: 获取list string类型的属性值。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00006_html.md ## CANN商业版-GetVal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00007.html - Description: 获取int类型的属性值。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00007_html.md ## CANN商业版-GetVal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00008.html - Description: 获取list int类型的属性值。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00008_html.md ## CANN商业版-GetVal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00009.html - Description: 获取list list int类型的属性值。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00009_html.md ## CANN商业版-GetVal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00010.html - Description: 获取float类型的属性值。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00010_html.md ## CANN商业版-GetVal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00011.html - Description: 获取list float类型的属性值。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00011_html.md ## CANN商业版-GetVal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00012.html - Description: 获取bool类型的属性值。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00012_html.md ## CANN商业版-GetVal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00013.html - Description: 获取list bool类型的属性值。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00013_html.md ## CANN商业版-GetVal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00014.html - Description: 获取TensorDataType类型的属性值。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00014_html.md ## CANN商业版-GetVal - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00015.html - Description: 获取list TensorDataType类型的属性值。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00015_html.md ## AscendString构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00018.html - Description: AscendString构造函数和析构函数。 无 AscendString构造函数返回AscendString类型的对象。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00018_html.md ## CANN商业版-GetString - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00019.html - Description: 获取字符串地址。 无 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00019_html.md ## 关系符重载 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00020.html - Description: 对于AscendString对象大小比较的使用场景(例如map数据结构的key进行排序),通过重载以下关系符实现。 无。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00020_html.md ## CANN商业版-GetLength - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00021.html - Description: 获取字符串的长度。 无 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00021_html.md ## MetaContext构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00024.html - Description: MetaContext构造函数和析构函数。 无 返回MetaContext类型的对象。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00024_html.md ## CANN商业版-AllocTensorMsg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00025.html - Description: 根据shape和data type申请Tensor类型的msg。该函数供Proc调用。 申请的Tensor指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00025_html.md ## CANN商业版-AllocEmptyDataMsg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00026.html - Description: 申请空数据的MsgType类型的message。该函数供Proc调用。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00026_html.md ## CANN商业版-SetOutput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00027.html - Description: 设置指定index的output的tensor。该函数供Proc调用。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00027_html.md ## CANN商业版-GetAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00028.html - Description: 根据属性名获取AttrValue类型的指针。该函数供Init调用。 获取到的AttrValue类型的指针。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00028_html.md ## CANN商业版-GetAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00029.html - Description: 根据属性名获取对应的属性值。该函数供Init调用。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00029_html.md ## CANN商业版-RunFlowModel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00030.html - Description: 同步执行指定的模型。该函数供Proc调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00030_html.md ## CANN商业版-GetInputNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00031.html - Description: 获取Flowfunc的输入个数。该函数供Init调用。 无 返回Flowfunc的输入个数。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00031_html.md ## CANN商业版-GetOutputNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00032.html - Description: 获取Flowfunc的输出个数。该函数供Init调用。 无 返回Flowfunc的输出个数。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00032_html.md ## CANN商业版-GetWorkPath - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00033.html - Description: 获取Flowfunc的工作路径。该函数供Init调用。 无 返回Flowfunc的工作路径。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00033_html.md ## CANN商业版-GetRunningDeviceId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00034.html - Description: 获取正在运行的设备ID。该函数供Init调用。 无 返回运行的设备ID。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00034_html.md ## CANN商业版-GetUserData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00035.html - Description: 获取用户数据。该函数供Proc调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00035_html.md ## CANN商业版-AllocTensorMsgWithAlign - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00036.html - Description: 根据shape、data type和对齐大小申请Tensor类型的FlowMsg,与AllocTensorMsg函数区别是AllocTensorMsg默认申请以64字节对齐,此函数可以指定对齐大小,方便性能调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00036_html.md ## CANN商业版-RaiseException - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00037.html - Description: UDF主动上报异常,该异常可以被同作用域内的其他UDF捕获。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00037_html.md ## CANN商业版-GetException - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00038.html - Description: UDF获取异常,如果开启了异常捕获功能,需要在UDF中Proc函数开始位置尝试捕获异常。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00038_html.md ## FlowMsg构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00041.html - Description: FlowMsg构造函数和析构函数。 无 返回FlowMsg类型的对象。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00041_html.md ## CANN商业版-GetMsgType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00042.html - Description: 获取FlowMsg的消息类型。 无 返回FlowMsg的消息类型。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00042_html.md ## CANN商业版-GetTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00043.html - Description: 获取FlowMsg中的Tensor指针。 无 返回Tensor类型指针。 无。 只有消息类型为TENSORDATATYPE时,才能获取Tensor类型指针,否则返回NULL。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00043_html.md ## CANN商业版-SetRetCode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00044.html - Description: 设置FlowMsg消息中的错误码。 无 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00044_html.md ## CANN商业版-GetRetCode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00045.html - Description: 获取输入FlowMsg消息中的错误码。 无 返回FlowMsg消息中的错误码。0表示正常,非0表示异常。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00045_html.md ## CANN商业版-SetStartTime - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00046.html - Description: 设置FlowMsg消息头中的开始时间戳。 无 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00046_html.md ## CANN商业版-GetStartTime - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00047.html - Description: 获取FlowMsg消息中的开始时间戳。 无 返回FlowMsg消息中的开始时间戳。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00047_html.md ## CANN商业版-SetEndTime - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00048.html - Description: 设置FlowMsg消息头中的结束时间戳。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00048_html.md ## CANN商业版-GetEndTime - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00049.html - Description: 获取FlowMsg消息中的结束时间戳。 无 返回FlowMsg消息中的结束时间戳。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00049_html.md ## CANN商业版-SetFlowFlags - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00050.html - Description: 设置FlowMsg消息头中的flags。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00050_html.md ## CANN商业版-GetFlowFlags - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00051.html - Description: 获取FlowMsg消息头中的flags。 无。 返回FlowMsg消息中的flags。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00051_html.md ## CANN商业版-SetRouteLabel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00052.html - Description: 设置route的标签。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00052_html.md ## CANN商业版-GetTransactionId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00053.html - Description: 获取FlowMsg消息中的事务ID,事务ID从1开始计数,每feed一批数据,事务ID会加一,可用于识别哪一批数据。 无 事务ID。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00053_html.md ## CANN商业版-GetTensorList - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00054.html - Description: 返回FlowMsg中所有的Tensor指针列表。 无 所有的Tensor指针列表。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00054_html.md ## CANN商业版-GetRawData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00055.html - Description: 获取RawData类型的数据对应的数据指针和数据大小。 - 0:SUCCESS。 - other:FAILED,具体请参考错误码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00055_html.md ## CANN商业版-SetMsgType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00056.html - Description: 设置FlowMsg的消息类型。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00056_html.md ## CANN商业版-SetTransactionId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00057.html - Description: 设置FlowMsg消息中的事务ID,事务ID从1开始计数,可用于识别哪一批数据,设置为0时表示不使用自定义的transactionid,内部会采用自增的方式自动生成transactionid。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00057_html.md ## Tensor构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00060.html - Description: Tensor构造函数和析构函数。 无 返回Tensor类型的对象。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00060_html.md ## CANN商业版-GetShape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00061.html - Description: 获取Tensor的Shape。 无。 返回Tensor的Shape。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00061_html.md ## CANN商业版-GetDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00062.html - Description: 获取Tensor中的数据类型。 无。 返回Tensor的数据类型。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00062_html.md ## CANN商业版-GetData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00063.html - Description: 获取Tensor中的数据。 无。 返回Tensor中的数据。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00063_html.md ## CANN商业版-GetDataSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00064.html - Description: 获取Tensor中的数据大小。 无。 返回Tensor的数据大小。 无。 修改返回的TensorDesc信息,不影响Tensor对象中已有的TensorDesc信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00064_html.md ## CANN商业版-GetElementCnt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00065.html - Description: 获取Tensor中的元素的个数。 无。 返回Tensor中的元素的个数。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00065_html.md ## CANN商业版-GetDataBufferSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00066.html - Description: 获取Tensor中的对齐后的数据大小。 无。 Tensor中对齐后的data大小。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00066_html.md ## CANN商业版-Reshape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00067.html - Description: 对Tensor进行Reshape操作,不改变Tensor的内容。 - 0:SUCCESS。 - other:FAILED,具体请参考错误码。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00067_html.md ## MetaFlowFunc构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00070.html - Description: 用户继承该类进行自定义的单func处理函数的编写。在析构函数中,执行释放相关资源操作。 无。 返回MetaFlowFunc类型的对象。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00070_html.md ## CANN商业版-SetContext - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00071.html - Description: 设置flow func的上下文信息。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00071_html.md ## CANN商业版-Init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00072.html - Description: 用户自定义flow func的初始化函数。 无 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00072_html.md ## CANN商业版-Proc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00073.html - Description: 用户自定义flow func的处理函数。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 如果有不可恢复的异常信息发生, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00073_html.md ## CANN商业版-RegisterFlowFunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00074.html - Description: 注册flow func。 不建议直接使用该函数,建议使用MetaFlowFunc注册函数宏来注册flow func。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00074_html.md ## CANN商业版-ResetFlowFuncState - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00075.html - Description: 在故障恢复场景下,快速重置FlowFunc为初始化状态。 无 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 此接口为虚函数,当用户的FlowFunc未实现ResetFlowFuncState函数时,框架默认返回FLOWFUNCERRNOTSUPPORT(认为当前FlowFunc不支持此操作), - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00075_html.md ## CANN商业版-其他 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00076.html - Description: REGISTER\_FLOW\_FUNC\_INNER\(name, ctr, clazz\)和REGISTER\_FLOW\_FUNC\_IMPL\(name, ctr, clazz\)是MetaFlowFunc注册函数宏的实现,不建议用户直接调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00076_html.md ## MetaMultiFunc构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00079.html - Description: 用户继承该类进行自定义的多func处理函数的编写。在析构函数中,执行释放相关资源操作。 无。 返回MetaMultiFunc类型的对象。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00079_html.md ## CANN商业版-Init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00080.html - Description: 用户自定义flow func的初始化函数。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00080_html.md ## 多func处理函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00081.html - Description: 用户自定义的多flow func处理函数。 - 普通场景下,函数输入由框架准备完毕后直接给用户使用,用户直接使用入参中的flowMsg即可。 1 std::function \(const std::sharedptr &runContext, const std::vector> &flowMsg\) - 流式输入(即函数入参为队列)场景下, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00081_html.md ## CANN商业版-RegisterMultiFunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00082.html - Description: 注册多flow func。 不建议直接使用该函数,建议使用MetaMultiFunc注册函数宏来注册flow func。 - 注册普通flow func,即flow func输入为flowMsg时使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00082_html.md ## CANN商业版-ResetFlowFuncState - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00083.html - Description: 在故障恢复场景下,快速重置FlowFunc为初始化状态。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 此接口为虚函数, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00083_html.md ## CANN商业版-RegProcFunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00086.html - Description: 注册多flow func处理函数,结合MetaMultiFunc注册函数宏来注册flow func。 - 注册普通flow func,即flow func输入为flowMsg时使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00086_html.md ## CANN商业版-CreateMultiFunc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00087.html - Description: 创建多func处理对象和处理函数,框架内部使用,用户不直接使用。 创建普通flow func处理对象和处理函数时使用,即flow func输入为flowMsg时使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00087_html.md ## CANN商业版-CreateMultiFuncWithQ - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00088.html - Description: 创建输入类型为FlowMsgQueue的多func处理对象和处理函数,框架内部使用,用户不直接使用。 创建流式输入(即函数入参为队列)flow func处理对象和处理函数时使用,即flow func输入为flowMsgQueue时使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00088_html.md ## MetaParams构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00091.html - Description: MetaParams构造函数和析构函数。 无。 返回MetaParams类型的对象。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00091_html.md ## CANN商业版-GetName - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00092.html - Description: 获取Flowfunc的实例名。 无 返回Flowfunc的实例名。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00092_html.md ## CANN商业版-GetAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00093.html - Description: 根据属性名获取AttrValue类型的指针。该函数供Init调用。 获取到的AttrValue类型的指针。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00093_html.md ## CANN商业版-GetAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00094.html - Description: 根据属性名获取对应的属性值。该函数供Init调用。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00094_html.md ## CANN商业版-GetInputNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00095.html - Description: 获取Flowfunc的输入个数。该函数供Init调用。 无 返回Flowfunc的输入个数。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00095_html.md ## CANN商业版-GetOutputNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00096.html - Description: 获取Flowfunc的输出个数。该函数供Init调用。 无 返回Flowfunc的输出个数。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00096_html.md ## CANN商业版-GetWorkPath - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00097.html - Description: 获取Flowfunc的工作路径。该函数供Init调用。 无 返回Flowfunc的工作路径。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00097_html.md ## CANN商业版-GetRunningDeviceId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00098.html - Description: 获取正在运行的设备ID。 无 返回运行的设备ID。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00098_html.md ## CANN商业版-GetRunningInstanceId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00099.html - Description: 获取正在运行的实例ID。 无 返回运行的实例ID。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00099_html.md ## CANN商业版-GetRunningInstanceNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00100.html - Description: 获取正在运行的实例数量。 无 返回运行的实例个数。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00100_html.md ## MetaRunContext构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00103.html - Description: MetaRunContext构造函数和析构函数。 无。 返回MetaRunContext类型的对象。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00103_html.md ## CANN商业版-AllocTensorMsg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00104.html - Description: 根据shape和data type申请Tensor类型的msg。该函数供Proc调用。 申请的Tensor指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00104_html.md ## CANN商业版-SetOutput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00105.html - Description: 设置指定index的output的tensor。该函数供Proc调用。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00105_html.md ## CANN商业版-RunFlowModel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00106.html - Description: 同步执行指定的模型。该函数供Proc调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00106_html.md ## CANN商业版-AllocEmptyDataMsg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00107.html - Description: 申请空数据的MsgType类型的message。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00107_html.md ## CANN商业版-GetUserData - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00108.html - Description: 获取用户数据。该函数供Proc调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00108_html.md ## CANN商业版-SetOutput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00109.html - Description: 设置指定index和options的输出,该函数供func函数调用。 - 0:SUCCESS。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00109_html.md ## CANN商业版-SetMultiOutputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00110.html - Description: 批量设置指定index和options的输出,该函数供func函数调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00110_html.md ## CANN商业版-AllocTensorMsgWithAlign - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00111.html - Description: 根据shape、data type和对齐大小申请Tensor类型的FlowMsg,与AllocTensorMsg函数区别是AllocTensorMsg默认申请以64字节对齐,此函数可以指定对齐大小,方便性能调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00111_html.md ## CANN商业版-AllocTensorListMsg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00112.html - Description: 根据输入的dtype shapes数组分配一块连续内存,用于承载Tensor数组。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00112_html.md ## CANN商业版-RaiseException - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00113.html - Description: UDF主动上报异常,该异常可以被同作用域内的其他UDF捕获。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00113_html.md ## CANN商业版-GetException - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00114.html - Description: UDF获取异常,如果开启了异常捕获功能,需要在UDF中Proc函数开始位置尝试捕获异常。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00114_html.md ## CANN商业版-AllocRawDataMsg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00115.html - Description: 根据输入的size申请一块连续内存,用于承载RawData类型的数据。 申请的FlowMsg指针。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00115_html.md ## CANN商业版-ToFlowMsg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00116.html - Description: 根据输入的Tensor转换成用于承载Tensor的FlowMsg。 转换的FlowMsg指针。 转换失败则返回NULL。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00116_html.md ## OutOptions构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00134.html - Description: OutOptions的构造和析构函数。 无。 无 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00134_html.md ## CANN商业版-MutableBalanceConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00135.html - Description: 获取或创建BalanceConfig。 无 返回BalanceConfig。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00135_html.md ## CANN商业版-GetBalanceConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00136.html - Description: 获取BalanceConfig。 无 返回null表示没有BalanceConfig配置。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00136_html.md ## BalanceConfig构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00139.html - Description: BalanceConfig的构造和析构函数。 无。 无 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00139_html.md ## CANN商业版-SetAffinityPolicy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00140.html - Description: 设置均衡分发亲和性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00140_html.md ## CANN商业版-GetAffinityPolicy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00141.html - Description: 获取亲和性。 无 返回任务名称。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00141_html.md ## CANN商业版-SetBalanceWeight - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00142.html - Description: 设置均衡分发权重信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00142_html.md ## CANN商业版-GetBalanceWeight - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00143.html - Description: 获取均衡分发权重信息。 无 均衡分发权重信息。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00143_html.md ## CANN商业版-SetDataPos - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00144.html - Description: 设置输出数据对应权重矩阵中的位置。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00144_html.md ## CANN商业版-GetDataPos - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00145.html - Description: 获取输出数据对应权重矩阵中的位置。 无。 输出数据对应权重矩阵中的位置, pair中第一个值表示对应的行号,第二个值表示对应的列号。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00145_html.md ## CANN商业版-AllocTensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00147.html - Description: 为了减少输入输出的拷贝耗时,提供了构建使用共享内存的类型的类FlowBufferFactory 。 AllocTensor根据shape、data type和对齐大小申请Tensor,默认申请以64字节对齐,可以指定对齐大小,方便性能调优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00147_html.md ## FlowMsgQueue构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00150.html - Description: FlowMsgQueue的构造和析构函数。 无。 无。 无。 流式输入(即flow func函数入参为队列)场景下,框架不支持数据对齐和UDF主动上报异常。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00150_html.md ## CANN商业版-Dequeue - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00151.html - Description: 设置均衡分发亲和性。 - 0:SUCCESS。 - other:FAILED, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00151_html.md ## CANN商业版-Depth - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00152.html - Description: 获取队列的深度,即获取队列可容纳元素的最大个数。 无。 队列深度。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00152_html.md ## CANN商业版-Size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00153.html - Description: 获取队列中当前元素的个数。 无。 队列中当前元素的个数。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00153_html.md ## MetaFlowFunc注册函数宏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00155.html - Description: 注册MetaFlowFunc的实现类。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00155_html.md ## MetaMultiFunc注册函数宏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00156.html - Description: 注册MetaMultiFunc的实现类。 该函数的使用示例如下: 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00156_html.md ## UDF日志接口简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00158.html - Description: flow\_func\_log.h提供了日志接口,方便flowfunc开发中进行日志记录,日志相关场景如下。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00158_html.md ## FlowFuncLogger构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00159.html - Description: FlowFuncLogger构造函数和析构函数。 无。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00159_html.md ## CANN商业版-GetLogger - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00160.html - Description: 获取日志实现类。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00160_html.md ## CANN商业版-GetLogExtHeader - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00161.html - Description: 获取日志扩展头信息。 无。 日志扩展头。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00161_html.md ## CANN商业版-IsLogEnable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00162.html - Description: 查询对应级别和类型的日志是否开启。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00162_html.md ## CANN商业版-Error - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00163.html - Description: 记录ERROR级别日志。 无。 日志流控后日志不会记录。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00163_html.md ## CANN商业版-Warn - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00164.html - Description: 记录Warn级别日志。 无。 日志流控后日志不会记录。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00164_html.md ## CANN商业版-Info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00165.html - Description: 记录Info级别日志。 无。 日志流控后日志不会记录。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00165_html.md ## CANN商业版-Debug - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00166.html - Description: 记录Debug级别日志。 无。 日志流控后日志不会记录。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00166_html.md ## 运行日志Error级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00167.html - Description: 运行日志Error级别日志宏。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00167_html.md ## 运行日志Info级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00168.html - Description: 运行日志Info级别日志宏。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00168_html.md ## 调试日志Error级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00169.html - Description: 调试日志Error级别日志宏。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00169_html.md ## 调试日志Warn级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00170.html - Description: 调试日志Warn级别日志宏。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00170_html.md ## 调试日志Info级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00171.html - Description: 调试日志Info级别日志宏。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00171_html.md ## 调试日志Debug级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00172.html - Description: 调试日志Debug级别日志宏。 无。 无。 无。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00172_html.md ## UDF错误码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefc_23_00173.html - Description: flow\_func\_defines.h提供了flowfunc的错误码供用户使用,主要用于对异常逻辑的判断处理。每个错误码含义如下。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefc_23_00173_html.md ## UDF接口列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0001.html - Description: 本文档主要描述UDF(User Defined Function)模块对外提供的接口,用户可以调用这些接口进行自定义处理函数的开发,然后通过DataFlow构图在CPU上执行该处理函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0001_html.md ## FlowMsg构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0004.html - Description: flowfuncwrapper模块中定义的FlowMsg。实际执行时由C++代码传入,通过pybind11的绑定关系映射成flowfuncwrapper的FlowMsg对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0004_html.md ## CANN商业版-get\_msg\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0005.html - Description: 获取FlowMsg的消息类型。 无 返回FlowMsg的消息类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0005_html.md ## CANN商业版-get\_tensor - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0006.html - Description: 获取FlowMsg中的tensor对象。 无 返回dataflow.Tensor类型对象。 无 如果FlowMsg中是空,则tensor返回None。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0006_html.md ## CANN商业版-set\_ret\_code - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0007.html - Description: 设置FlowMsg消息中的错误码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0007_html.md ## CANN商业版-get\_ret\_code - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0008.html - Description: 获取输入FlowMsg消息中的错误码。 无 返回FlowMsg消息中的错误码。0表示正常,非0表示异常。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0008_html.md ## CANN商业版-set\_start\_time - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0009.html - Description: 设置FlowMsg消息头中的开始时间戳。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0009_html.md ## CANN商业版-get\_start\_time - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0010.html - Description: 获取FlowMsg消息中的开始时间戳。 无 返回FlowMsg消息中的开始时间戳。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0010_html.md ## CANN商业版-set\_end\_time - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0011.html - Description: 设置FlowMsg消息头中的结束时间戳。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0011_html.md ## CANN商业版-get\_end\_time - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0012.html - Description: 获取FlowMsg消息中的结束时间戳。 无 返回FlowMsg消息中的结束时间戳。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0012_html.md ## CANN商业版-set\_flow\_flags - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0013.html - Description: 设置FlowMsg消息头中的flags。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0013_html.md ## CANN商业版-get\_flow\_flags - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0014.html - Description: 获取FlowMsg消息头中的flags。 无 返回FlowMsg消息中的flags。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0014_html.md ## CANN商业版-set\_route\_label - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0015.html - Description: 设置路由的标签。 举例:udf1,udf2节点分别部署在device1和device2,且都有2个输出(out0和out1)。如用户希望每组out0和out1发送到同一个device上,需要给2个输出flowmsg设置相同的routelabel。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0015_html.md ## CANN商业版-get\_transaction\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0016.html - Description: 获取FlowMsg消息中的事务ID,事务ID从1开始计数,每feed一批数据,事务ID会加一,可用于识别哪一批数据。 无 事务ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0016_html.md ## CANN商业版-set\_msg\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0017.html - Description: 设置FlowMsg的消息类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0017_html.md ## CANN商业版-get\_raw\_data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0018.html - Description: 获取rawdata类型的数据。 无 正常输出bytes类型的数据,即字节流;失败场景返回None。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0018_html.md ## CANN商业版-set\_transaction\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0019.html - Description: 设置DataFlow数据传输使用的事务ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0019_html.md ## Tensor构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0022.html - Description: Tensor构造函数。 无 返回dataflow模块Tensor类型的对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0022_html.md ## CANN商业版-get\_shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0023.html - Description: 获取Tensor的Shape。 无 返回Tensor的Shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0023_html.md ## CANN商业版-get\_data\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0024.html - Description: 获取Tensor中的数据类型。 无 返回Tensor的数据类型。返回的类型为numpy的dtype。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0024_html.md ## CANN商业版-get\_data\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0025.html - Description: 获取Tensor中的数据大小。 无 返回Tensor的数据大小。 无 修改返回的TensorDesc信息,不影响Tensor对象中已有的TensorDesc信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0025_html.md ## CANN商业版-get\_element\_cnt - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0026.html - Description: 获取Tensor中的元素的个数。 无 返回Tensor中的元素的个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0026_html.md ## CANN商业版-reshape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0027.html - Description: 对tensor进行Reshape操作,不改变tensor的内容。 - 0:SUCCESS - other:FAILED,具体请参考 UDF错误码 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0027_html.md ## PyMetaParams构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0030.html - Description: PyMetaParams构造函数。 无 返回PyMetaParams类型的对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0030_html.md ## CANN商业版-get\_name - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0031.html - Description: 获取Flowfunc的实例名。 无 返回Flowfunc的实例名。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0031_html.md ## CANN商业版-get\_attr\_int - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0032.html - Description: 获取指定名称的int类型属性值。 获取返回码及int类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS,第二个元素为int类型的属性值。 - 如果属性不存在, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0032_html.md ## CANN商业版-get\_attr\_bool\_list - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0033.html - Description: 获取指定名称的bool数组类型属性值。 获取返回码及bool数组类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS,第二个元素为bool数组的list。 - 如果属性不存在, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0033_html.md ## CANN商业版-get\_attr\_int\_list - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0034.html - Description: 获取指定名称的int数组类型属性值。 获取返回码及int数组类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS,第二个元素为int类型数组的属性值。 - 如果属性不存在, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0034_html.md ## CANN商业版-get\_attr\_int\_list\_list - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0035.html - Description: 获取指定名称的int二维数组类型属性值。 获取返回码及int二维数组类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS,第二个元素为int二维数组类型的属性值。 - 如果属性不存在, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0035_html.md ## CANN商业版-get\_attr\_bool - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0036.html - Description: 获取指定名称的bool类型属性值。 获取返回码及bool类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS,第二个元素为bool类型的属性值。 - 如果属性不存在, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0036_html.md ## CANN商业版-get\_attr\_float\_list - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0037.html - Description: 获取指定名称的float数组类型属性值。 获取返回码及float数组类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS,第二个元素为float数组类型的属性值。 - 如果属性不存在, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0037_html.md ## CANN商业版-get\_attr\_tensor\_dtype - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0038.html - Description: 获取指定名称的numpy dtype类型的属性值。 获取返回码及numpy dtype类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS,第二个元素为numpy dtype类型的属性值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0038_html.md ## CANN商业版-get\_attr\_tensor\_dtype\_list - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0039.html - Description: 获取指定名称的numpy dtype数组类型的属性值。 获取返回码及numpy dtype数组类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0039_html.md ## CANN商业版-get\_attr\_str - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0040.html - Description: 获取指定名称的string类型的属性值。 获取返回码及string类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS,第二个元素为string类型的属性值。 - 如果属性不存在, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0040_html.md ## CANN商业版-get\_attr\_str\_list - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0041.html - Description: 获取指定名称的string数组类型的属性值。 获取返回码及string数组类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS,第二个元素为string数组类型的属性值。 - 如果属性不存在, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0041_html.md ## CANN商业版-get\_attr\_float - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0042.html - Description: 获取指定名称的float类型属性值。 获取返回码及float类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS,第二个元素为float类型的属性值。 - 如果属性不存在, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0042_html.md ## CANN商业版-get\_input\_num - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0043.html - Description: 获取Flowfunc的输入个数。 无 返回Flowfunc的输入个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0043_html.md ## CANN商业版-get\_output\_num - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0044.html - Description: 获取Flowfunc的输出个数。 无 返回Flowfunc的输出个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0044_html.md ## CANN商业版-get\_work\_path - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0045.html - Description: 获取Flowfunc的工作路径。 无 返回Flowfunc的工作路径。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0045_html.md ## CANN商业版-get\_running\_device\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0046.html - Description: 获取正在运行的设备ID。 无 返回运行的设备ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0046_html.md ## MetaRunContext构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0049.html - Description: MetaRunContext构造函数。 无 返回MetaRunContext类型的对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0049_html.md ## CANN商业版-alloc\_tensor\_msg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0050.html - Description: 根据shape、data type以及对齐大小申请Tensor类型的FlowMsg。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0050_html.md ## CANN商业版-set\_output - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0051.html - Description: 设置指定index的output的tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0051_html.md ## CANN商业版-set\_multi\_outputs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0052.html - Description: 批量设置指定index的output的tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0052_html.md ## CANN商业版-run\_flow\_model - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0053.html - Description: 同步执行指定的模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0053_html.md ## CANN商业版-alloc\_empty\_data\_msg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0054.html - Description: 申请空数据的MsgType类型的message。 无 返回FlowMsg的实例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0054_html.md ## CANN商业版-get\_user\_data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0055.html - Description: 获取用户定义数据。 返回用户自定义的数据,类型是bytearray。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0055_html.md ## CANN商业版-raise\_exception - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0056.html - Description: UDF主动上报异常。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0056_html.md ## CANN商业版-get\_exception - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0057.html - Description: UDF获取其他UDF节点上报的异常。 无 返回tuple\(bool, int, int\),元组中各元素含义如下。 - 元组中第一个元素标识是否存在异常:True表示存在异常被捕获成功,False表示不存在异常。 - 元组中第二个元素标识被捕获异常中用户自定义的异常的错误码。 - 元组中第三个元素标识被捕获异常中用户自定义的异常的上下文ID, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0057_html.md ## CANN商业版-alloc\_raw\_data\_msg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0058.html - Description: 根据输入的size申请一块连续内存,用于承载raw data类型的FlowMsg。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0058_html.md ## CANN商业版-to\_flow\_msg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0059.html - Description: 将dataflow Tensor转换成FlowMsg。 正常返回FlowMsg的实例。失败返回None。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0059_html.md ## AffinityPolicy类 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0060.html - Description: 亲和策略枚举定义。 说明:按行和按列亲和的策略只用于设置BalanceConfig均衡分发。按行亲和使用示例可参考多实例部署。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0060_html.md ## BalanceConfig构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0063.html - Description: BalanceConfig构造函数。 返回BalanceConfig类型的对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0063_html.md ## CANN商业版-set\_data\_pos - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0064.html - Description: 设置输出数据对应权重矩阵中的位置。 无 无 pos的位置坐标必须在权重矩阵的行列内。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0064_html.md ## CANN商业版-get\_inner\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0065.html - Description: 获取内部配置对象,被setoutput或者setmultioutputs调用。 无 内部配置对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0065_html.md ## FlowMsgQueue构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0068.html - Description: FlowMsgQueue构造函数和析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0068_html.md ## CANN商业版-get - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0069.html - Description: 获取队列中的元素。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0069_html.md ## CANN商业版-get\_nowait - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0070.html - Description: 无等待地获取队列中的元素,功能等同于get\(block\=False\)。 无 MsgType中所对应类型的数据对象。 队列为空时会抛出queue.Empty异常。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0070_html.md ## CANN商业版-full - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0071.html - Description: 判断队列是否满。 无 - True:队列满。 - False:队列非满。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0071_html.md ## CANN商业版-empty - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0072.html - Description: 判断队列是否为空。 无 True,表示队列空; False,表示队列非空。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0072_html.md ## CANN商业版-qsize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0073.html - Description: 获取队列中当前元素的个数。 无 队列中元素的个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0073_html.md ## UDF日志接口简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0075.html - Description: UDF Python开放了日志记录接口,使用时导入flow\_func模块。使用其中定义的logger对象,调用logger对象封装的不同级别的日志接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0075_html.md ## FlowFuncLogger构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0076.html - Description: FlowFuncLogger构造函数。 无 无 无 无 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0076_html.md ## CANN商业版-get\_log\_header - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0077.html - Description: 获取日志扩展头信息。 无 日志扩展头。 无 无 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0077_html.md ## CANN商业版-is\_log\_enable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0078.html - Description: 查询对应级别和类型的日志是否开启。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0078_html.md ## 运行日志Error级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0079.html - Description: 运行日志Error级别日志宏。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0079_html.md ## 运行日志Info级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0080.html - Description: 运行日志Info级别日志宏。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0080_html.md ## 调试日志Error级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0081.html - Description: 调试日志Error级别日志宏。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0081_html.md ## 调试日志Warn级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0082.html - Description: 调试日志Warn级别日志宏。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0082_html.md ## 调试日志Info级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0083.html - Description: 调试日志Info级别日志宏。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0083_html.md ## 调试日志Debug级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0084.html - Description: 调试日志Debug级别日志宏。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0084_html.md ## UDF错误码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/dataflowdevg/udfrefp_23_0085.html - Description: flow\_func\_defines.h提供了flowfunc的错误码供用户使用,主要用于对异常逻辑的判断处理。每个错误码含义如下。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_dataflowdevg_udfrefp_23_0085_html.md ## 特征向量检索说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch - Description: 在图像检索场景,通常使用深度学习算法处理感兴趣的图像时,提取出高维特征向量;并将一组感兴趣的图像提取得到的特征向量作为底库,待搜索的特征向量与底库中的向量依次进行相似度计算,按相似度排序返回检索结果。为了进一步降低存储和计算的开销,对浮点型长特征向量进行量化处理、转换为短特征再进行检索比对的技术被广泛应用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1334_html.md ## 特征向量检索说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1334.html - Description: 在图像检索场景,通常使用深度学习算法处理感兴趣的图像时,提取出高维特征向量;并将一组感兴趣的图像提取得到的特征向量作为底库,待搜索的特征向量与底库中的向量依次进行相似度计算,按相似度排序返回检索结果。为了进一步降低存储和计算的开销,对浮点型长特征向量进行量化处理、转换为短特征再进行检索比对的技术被广泛应用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1334_html.md ## CANN商业版-aclfvInit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1335.html - Description: 初始化特征检索模块。一个进程内只能调用一次aclfvInit接口,且需与aclfvRelease接口配套使用。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1335_html.md ## CANN商业版-aclfvRelease - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1336.html - Description: 特征检索模块去初始化,释放内存空间,与aclfvInit接口配套使用。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1336_html.md ## CANN商业版-aclfvRepoAdd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1337.html - Description: 添加底库或向已存在底库中添加特征。该章节描述的1:N表示“检索请求的个数:底库的数量”,N:M用于碰撞两个库的相似性。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1337_html.md ## CANN商业版-aclfvRepoDel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1338.html - Description: 删除底库。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1338_html.md ## CANN商业版-aclfvDel - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1339.html - Description: 精确删除底库中某个特征,一次只能删除底库中一个特征。N:M场景下不涉及这个接口。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1339_html.md ## CANN商业版-aclfvModify - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1340.html - Description: 修改底库中某个特征,一次只能修改底库中一个特征,不允许修改底库中不存在的特征。N:M场景下不涉及这个接口。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1340_html.md ## CANN商业版-aclfvSearch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1341.html - Description: 特征1:N或N:M检索。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1341_html.md ## CANN商业版-aclError - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1345_3.html - Description: ``` typedef int aclError; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1345_3_html.md ## CANN商业版-aclfvSearchType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1361.html - Description: ``` enum aclfvSearchType \{ SEARCH1N, // 1:N operation type SEARCHNM // N:M operation type \}; - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1361_html.md ## CANN商业版-aclfvCreateRepoRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1590.html - Description: 创建aclfvRepoRange类型的数据,表示创建特征库范围的参数。如需销毁aclfvRepoRange类型的数据,请参见aclfvDestroyRepoRange。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1590_html.md ## CANN商业版-aclfvDestroyRepoRange - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1591.html - Description: 销毁通过aclfvCreateRepoRange接口创建的aclfvRepoRange类型的数据。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1591_html.md ## CANN商业版-aclfvCreateFeatureInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1593.html - Description: 创建aclfvFeatureInfo类型的数据,表示创建特征描述信息。如需销毁aclfvFeatureInfo类型的数据,请参见aclfvDestroyFeatureInfo。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1593_html.md ## CANN商业版-aclfvDestroyFeatureInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1594.html - Description: 销毁通过aclfvCreateFeatureInfo接口创建的aclfvFeatureInfo类型的数据。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1594_html.md ## CANN商业版-aclfvCreateQueryTable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1596.html - Description: 创建aclfvQueryTable类型的数据,表示创建检索输入表信息。如需销毁aclfvQueryTable类型的数据,请参见aclfvDestroyQueryTable。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1596_html.md ## CANN商业版-aclfvDestroyQueryTable - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1597.html - Description: 销毁通过aclfvCreateQueryTable接口创建的aclfvQueryTable类型的数据。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1597_html.md ## CANN商业版-aclfvCreateSearchInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1599.html - Description: 创建aclfvSearchInput类型的数据,表示创建检索任务输入信息。如需销毁aclfvSearchInput类型的数据,请参见aclfvDestroySearchInput。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1599_html.md ## CANN商业版-aclfvDestroySearchInput - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1600.html - Description: 销毁通过aclfvCreateSearchInput接口创建的aclfvSearchInput类型的数据。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1600_html.md ## CANN商业版-aclfvCreateSearchResult - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1602.html - Description: 创建aclfvSearchResult类型的数据,表示创建检索结果信息。如需销毁aclfvSearchResult类型的数据,请参见aclfvDestroySearchResult。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1602_html.md ## CANN商业版-aclfvDestroySearchResult - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1603.html - Description: 销毁通过aclfvCreateSearchResult接口创建的aclfvSearchResult类型的数据。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1603_html.md ## CANN商业版-aclfvCreateInitPara - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1605.html - Description: 创建aclfvInitPara类型的数据,表示创建特征向量检索的初始化参数。如需销毁aclfvInitPara类型的数据,请参见aclfvDestroyInitPara。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1605_html.md ## CANN商业版-aclfvDestroyInitPara - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1606.html - Description: 销毁通过aclfvCreateInitPara接口创建的aclfvInitPara类型的数据。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1606_html.md ## CANN商业版-aclfvSet1NTopNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1607.html - Description: 设置1:N场景下返回的topK结果数量的最大值,如果不设置,默认topK结果数量的最大值为4800。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1607_html.md ## CANN商业版-aclfvSetNMTopNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclcppdevg_03_1608.html - Description: 设置N:M场景下返回的topK结果数量的最大值,如果不设置,默认topK结果数量的最大值为500。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclcppdevg_03_1608_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0822.html - Description: 在图像检索场景,通常使用深度学习算法处理目标等感兴趣的图像,提取出高维特征向量,并将一组感兴趣的图像提取得到的特征向量作为底库,待搜索的特征向量与底库中的向量依次进行相似度计算,按相似度排序返回检索结果。为了进一步降低存储和计算的开销,对浮点型长特征向量进行量化处理、转换为短特征再进行检索比对的技术被广泛应用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0822_html.md ## 函数:init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0823.html - Description: 初始化特征检索模块。与acl.fv.release接口配套使用。 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0823_html.md ## 函数:release - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0824.html - Description: 特征检索模块去初始化,释放内存空间,与acl.fv.init接口配套使用。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0824_html.md ## 函数:repo\_add - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0825.html - Description: 添加底库或向已存在底库中添加特征。该章节描述的1:N表示“检索请求的个数:底库的数量”,N:M用于碰撞两个库的相似性。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0825_html.md ## 函数:repo\_del - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0826.html - Description: 删除底库。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0826_html.md ## 函数:delete - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0827.html - Description: 精确删除底库中某个特征,一次只能删除底库中一个特征。N:M场景下不涉及这个接口。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0827_html.md ## 函数:modify - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0828.html - Description: 修改底库中某个特征,一次只能修改底库中一个特征,不允许修改底库中不存在的特征。N:M场景下不涉及这个接口。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0828_html.md ## 函数:search - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0829.html - Description: 特征1:N或N:M检索。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0829_html.md ## 函数:create\_init\_para - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0830.html - Description: 创建aclfvInitPara类型的数据,表示创建特征向量检索的初始化参数。 如需销毁aclfvInitPara类型的数据,请参见函数:destroyinitpara。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0830_html.md ## 函数:destroy\_init\_para - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0831.html - Description: 销毁通过acl.fv.createinitpara接口创建的aclfvInitPara类型的数据。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0831_html.md ## 函数:set\_1n\_top\_num - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0833.html - Description: 设置1:N场景下返回的topK结果数量的最大值,如果不设置,默认topK结果数量的最大值为4800。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0833_html.md ## 函数:set\_nm\_top\_num - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0834.html - Description: 设置N:M场景下返回的topK结果数量的最大值,如果不设置,默认topK结果数量的最大值为500。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0834_html.md ## 函数:create\_feature\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0835.html - Description: 创建aclfvFeatureInfo类型的数据,表示创建特征描述信息。 如需销毁aclfvFeatureInfo类型的数据,请参见函数:destroyfeatureinfo。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0835_html.md ## 函数:destroy\_feature\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0836.html - Description: 销毁通过acl.fv.createfeatureinfo接口创建的aclfvFeatureInfo类型的数据。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0836_html.md ## 函数:create\_repo\_range - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0837.html - Description: 创建aclfvRepoRange类型的数据,表示创建特征库范围的参数。 如需销毁aclfvRepoRange类型的数据,请参见函数:destroyreporange。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0837_html.md ## 函数:destroy\_repo\_range - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0838.html - Description: 销毁通过acl.fv.createreporange接口创建的aclfvRepoRange类型的数据。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0838_html.md ## 函数:create\_query\_table - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0839.html - Description: 创建aclfvQueryTable类型的数据,表示创建检索输入表信息。 如需销毁aclfvQueryTable类型的数据,请参见函数:destroyquerytable。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0839_html.md ## 函数:destroy\_query\_table - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0840.html - Description: 销毁通过acl.fv.createquerytable接口创建的aclfvQueryTable类型的数据。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0840_html.md ## 函数:create\_search\_input - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0841.html - Description: 创建aclfvSearchInput类型的数据,表示创建检索任务输入信息。 如需销毁aclfvSearchInput类型的数据,请参见函数:destroysearchinput。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0841_html.md ## 函数:destroy\_search\_input - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0842.html - Description: 销毁通过acl.fv.createsearchinput接口创建的aclfvSearchInput类型的数据。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0842_html.md ## 函数:create\_search\_result - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0843.html - Description: 创建aclfvSearchResult类型的数据,表示创建检索结果信息。 如需销毁aclfvSearchResult类型的数据,请参见函数:destroysearchresult。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0843_html.md ## 函数:destroy\_search\_result - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0844.html - Description: 销毁通过acl.fv.createsearchresult接口创建的aclfvSearchResult类型的数据。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0844_html.md ## CANN商业版-aclError - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0911.html - Description: 返回码定义规则: - 规则1:开发人员的环境异常或者代码逻辑错误,可以通过优化环境或代码逻辑的方式解决问题,此时返回码定义为:1XXXXX。 - 规则2:资源不足(Stream、内存等)、开发人员编程时使用的接口或参数与当前硬件不匹配,可以通过在编程时合理使用资源的方式解决,此时返回码定义为:2XXXXX。 - 规则3:业务功能异常,比如队列满、队列空等,此时返回码定义为3XXXXX。 - 规则4 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0911_html.md ## CANN商业版-aclfvSearchType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_0923.html - Description: Atlas 200I/500 A2 推理产品 ,不支持该枚举值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_0923_html.md ## CANN商业版-destory\_init\_para - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/fvsearch/aclpythondevg_01_1104.html - Description: 销毁通过acl.fv.createinitpara接口创建的aclfvInitPara类型的数据。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_fvsearch_aclpythondevg_01_1104_html.md ## ISP Firmware介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug - Description: ISP Firmware包含三部分,一部分是ISP控制单元和基础算法库,一部分是3A算法库(包括AE、AWB、AF算法库,其中,AF算法库当前不支持),一部分是Sensor库。仅 Atlas 200I/500 A2 推理产品 支持ISP Firmware功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0001_html.md ## 接口简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0001.html - Description: ISP提供了各种图像调优算法API,供开发者进行ISP二次开发及图像质量调试。仅 Atlas 200I/500 A2 推理产品 支持这部分功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0001_html.md ## CANN商业版-hi\_mpi\_isp\_sensor\_reg\_callback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0003.html - Description: ISP提供的Sensor注册的回调接口,用于获取差异化的初始化参数,并控制Sensor。 此接口不支持多进程操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0003_html.md ## CANN商业版-hi\_mpi\_isp\_sensor\_unreg\_callback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0004.html - Description: ISP提供的取消Sensor注册的回调接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0004_html.md ## CANN商业版-hi\_mpi\_isp\_mem\_init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0005.html - Description: 初始化ISP内部资源。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0005_html.md ## CANN商业版-hi\_mpi\_isp\_set\_pub\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0006.html - Description: 设置ISP公共属性,例如裁剪分辨率、帧率等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0006_html.md ## CANN商业版-hi\_mpi\_isp\_get\_pub\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0007.html - Description: 获取ISP公共属性。 - 0:成功 - 非0:失败,参见 错误码 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0007_html.md ## CANN商业版-hi\_mpi\_isp\_init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0008.html - Description: 初始化ISP firmware。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0008_html.md ## CANN商业版-hi\_mpi\_isp\_run - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0009.html - Description: 运行ISP firmware。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0009_html.md ## CANN商业版-hi\_mpi\_isp\_exit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0010.html - Description: 退出ISP firmware。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0010_html.md ## CANN商业版-hi\_mpi\_isp\_set\_sns\_slave\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0011.html - Description: 设置从模式Sensor行场同步信号。 从模式Sensor需要其提供行同步信号XHS和场同步信号XVS,在这两个信号的控制下进行曝光与数据读出,这个接口主要配置同步信号发生模块,使其输出Sensor要求的行场时序。此接口一般在Sensor库里调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0011_html.md ## CANN商业版-hi\_mpi\_isp\_get\_sns\_slave\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0012.html - Description: 获取从模式Sensor行场同步信号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0012_html.md ## CANN商业版-hi\_mpi\_ae\_register - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0013.html - Description: 向ISP注册AE库。AE库可以注册多个实例。 此接口不支持多进程操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0013_html.md ## CANN商业版-hi\_mpi\_ae\_unregister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0014.html - Description: 向ISP取消注册AE库。 此接口不支持多进程操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0014_html.md ## CANN商业版-hi\_mpi\_ae\_sensor\_reg\_callback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0015.html - Description: AE库提供的Sensor注册的回调接口。AE通过Sensor注册的一系列回调接口,获取差异化的初始化参数,并控制Sensor。 此接口不支持多进程操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0015_html.md ## CANN商业版-hi\_mpi\_ae\_sensor\_unreg\_callback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0016.html - Description: AE库提供的Sensor注销的回调接口。 此接口不支持多进程操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0016_html.md ## CANN商业版-hi\_mpi\_awb\_register - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0017.html - Description: 向ISP注册AWB库。AWB库可以注册多个实例。 此接口不支持多进程操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0017_html.md ## CANN商业版-hi\_mpi\_awb\_unregister - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0018.html - Description: 向ISP取消注册AWB库。 此接口不支持多进程操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0018_html.md ## CANN商业版-hi\_mpi\_awb\_sensor\_reg\_callback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0019.html - Description: AWB库提供的Sensor注册的回调接口。AWB通过Sensor注册的一系列回调接口,获取差异化的初始化参数,并控制Sensor。 此接口不支持多进程操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0019_html.md ## CANN商业版-hi\_mpi\_awb\_sensor\_unreg\_callback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0020.html - Description: AWB库提供的Sensor注销的回调接口。 此接口不支持多进程操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0020_html.md ## 基本数据类型说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0022.html - Description: ``` typedef unsigned char hiu8; typedef signed char his8; typedef unsigned short hiu16; typedef short his16; typedef unsigned int hiu32; typedef int his32; typedef unsigned long long hiu64; typedef lo - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0022_html.md ## CANN商业版-hi\_video\_field - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0023.html - Description: 定义视频图像帧场类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0023_html.md ## CANN商业版-hi\_pixel\_format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0024.html - Description: DVPP所支持的各种图片格式的枚举。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0024_html.md ## CANN商业版-hi\_video\_format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0025.html - Description: \#\#\#\# 说明 定义视频格式枚举。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0025_html.md ## CANN商业版-hi\_compress\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0026.html - Description: 定义视频压缩数据格式枚举。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0026_html.md ## CANN商业版-hi\_dynamic\_range - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0027.html - Description: \#\#\#\# 说明 定义动态范围枚举。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0027_html.md ## CANN商业版-hi\_color\_gamut - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0028.html - Description: \#\#\#\# 说明 定义色域范围枚举。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0028_html.md ## CANN商业版-hi\_video\_supplement - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0029.html - Description: 定义视频图像帧补充信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0029_html.md ## CANN商业版-hi\_video\_frame - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0030.html - Description: 定义视频原始图像帧结构。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0030_html.md ## CANN商业版-hi\_mod\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0031.html - Description: 定义模块ID枚举类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0031_html.md ## CANN商业版-hi\_video\_frame\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0032.html - Description: 定义视频图像帧信息结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0032_html.md ## CANN商业版-hi\_rect - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0033.html - Description: 定义矩形宽高和左上角坐标 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0033_html.md ## CANN商业版-hi\_op\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0034.html - Description: \#\#\#\# 说明 定义操作模式枚举。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0034_html.md ## CANN商业版-hi\_point - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0035.html - Description: \#\#\#\# 说明 定义坐标点结构体。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0035_html.md ## CANN商业版-hi\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0036.html - Description: 定义矩形尺寸的结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0036_html.md ## CANN商业版-hi\_wdr\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0037.html - Description: \#\#\#\# 说明 定义宽动态模式。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0037_html.md ## CANN商业版-hi\_vi\_pipe - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0038.html - Description: 定义VI PIPE号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0038_html.md ## CANN商业版-hi\_sensor\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0040.html - Description: 定义Sensor ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0040_html.md ## CANN商业版-hi\_isp\_sns\_attr\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0041.html - Description: 定义ISP Sensor属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0041_html.md ## CANN商业版-hi\_isp\_cmos\_sensor\_image\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0042.html - Description: 定义Sensor输出的宽高和帧率属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0042_html.md ## CANN商业版-hi\_isp\_cmos\_alg\_key - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0043.html - Description: 定义ISP的各算法是否采用cmos中的默认配置的标志位。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0043_html.md ## CANN商业版-hi\_isp\_cmos\_noise\_calibration - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0044.html - Description: \#\#\#\# 说明 定义噪声校正参数。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0044_html.md ## CANN商业版-hi\_isp\_cmos\_sensor\_max\_resolution - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0045.html - Description: 定义Sensor最大分辨率结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0045_html.md ## CANN商业版-hi\_isp\_dng\_blc\_repeat\_dim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0046.html - Description: \#\#\#\# 说明 保留结构体。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0046_html.md ## CANN商业版-hi\_isp\_dng\_repeat\_pattern\_dim - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0047.html - Description: \#\#\#\# 说明 保留结构体。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0047_html.md ## CANN商业版-hi\_isp\_dng\_srational - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0048.html - Description: \#\#\#\# 说明 保留结构体。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0048_html.md ## CANN商业版-hi\_isp\_dng\_default\_scale - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0049.html - Description: \#\#\#\# 说明 保留结构体。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0049_html.md ## CANN商业版-hi\_isp\_dng\_cfa\_layout\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0050.html - Description: \#\#\#\# 说明 保留枚举定义。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0050_html.md ## CANN商业版-hi\_isp\_dng\_raw\_format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0051.html - Description: \#\#\#\# 说明 保留结构体。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0051_html.md ## CANN商业版-hi\_isp\_cmos\_sensor\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0052.html - Description: 定义Sensor模式寄存器。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0052_html.md ## CANN商业版-hi\_isp\_cmos\_dng\_color\_param - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0053.html - Description: 定义DNG白平衡校正系数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0053_html.md ## CANN商业版-hi\_isp\_cmos\_wdr\_switch\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0054.html - Description: 定义WDR切换属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0054_html.md ## CANN商业版-hi\_isp\_cmos\_default - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0055.html - Description: 定义ISP基础算法库的初始化参数结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0055_html.md ## CANN商业版-hi\_isp\_cmos\_black\_level - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0056.html - Description: 定义Sensor的黑电平结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0056_html.md ## CANN商业版-hi\_isp\_sns\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0057.html - Description: 定义Sensor与ISP的通信接口类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0057_html.md ## CANN商业版-hi\_isp\_sns\_commbus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0058.html - Description: 定义与Sensor绑定的设备号信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0058_html.md ## CANN商业版-hi\_isp\_i2c\_data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0059.html - Description: 定义I2C数据参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0059_html.md ## CANN商业版-hi\_isp\_ssp\_data - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0060.html - Description: 定义SSP数据参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0060_html.md ## CANN商业版-hi\_isp\_sns\_regs\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0061.html - Description: 定义sensor的寄存器信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0061_html.md ## CANN商业版-hi\_isp\_sensor\_exp\_func - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0062.html - Description: 定义sensor回调函数结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0062_html.md ## CANN商业版-hi\_isp\_sensor\_register - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0063.html - Description: 定义sensor注册结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0063_html.md ## CANN商业版-hi\_isp\_bayer\_format - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0064.html - Description: 定义输入Bayer图像数据格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0064_html.md ## CANN商业版-hi\_isp\_pub\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0065.html - Description: 定义ISP公共属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0065_html.md ## CANN商业版-hi\_isp\_frame\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0066.html - Description: 定义ISP实时信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0066_html.md ## CANN商业版-hi\_slave\_dev - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0067.html - Description: \#\#\#\# 说明 定义从信号设备号。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0067_html.md ## CANN商业版-hi\_isp\_slave\_sns\_sync - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0068.html - Description: 定义从模式sensor同步信号配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0068_html.md ## CANN商业版-hi\_isp\_3a\_alg\_lib - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0069.html - Description: 定义AE/AWB算法库结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0069_html.md ## CANN商业版-hi\_isp\_ae\_accuracy\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0070.html - Description: 定义曝光时间、增益的精度类型的枚举。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0070_html.md ## CANN商业版-hi\_isp\_ae\_accuracy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0071.html - Description: 定义曝光时间、增益的精度的结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0071_html.md ## CANN商业版-hi\_isp\_ae\_sensor\_default - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0072.html - Description: 定义AE算法库的初始化参数结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0072_html.md ## CANN商业版-hi\_isp\_ae\_sensor\_exp\_func - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0073.html - Description: sensor回调函数结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0073_html.md ## CANN商业版-hi\_isp\_ae\_sensor\_register - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0074.html - Description: 定义sensor注册结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0074_html.md ## CANN商业版-hi\_isp\_awb\_agc\_table - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0075.html - Description: 定义饱和度初始化参数结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0075_html.md ## CANN商业版-hi\_isp\_awb\_ccm\_tab - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0076.html - Description: 定义不同色温下自动颜色校正矩阵系数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0076_html.md ## CANN商业版-hi\_isp\_awb\_ccm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0077.html - Description: 定义CCM颜色校正矩阵属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0077_html.md ## CANN商业版-hi\_isp\_awb\_sensor\_default - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0078.html - Description: 定义AWB算法库的初始化参数结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0078_html.md ## CANN商业版-hi\_isp\_awb\_sensor\_exp\_func - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0079.html - Description: 定义sensor回调函数结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0079_html.md ## CANN商业版-hi\_isp\_awb\_sensor\_register - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0080.html - Description: 定义sensor注册结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0080_html.md ## CANN商业版-hi\_mpi\_isp\_run\_once - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0082.html - Description: 运行ISP firmware一次。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0082_html.md ## CANN商业版-hi\_mpi\_isp\_set\_module\_ctrl - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0083.html - Description: 设置是否启用ISP各功能模块。 该接口对应的寄存器与各模块的使能寄存器复用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0083_html.md ## CANN商业版-hi\_mpi\_isp\_get\_module\_ctrl - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0084.html - Description: 获取ISP各功能模块是否启用的开关。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0084_html.md ## CANN商业版-hi\_mpi\_isp\_set\_ctrl\_param - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0085.html - Description: 设置ISP控制参数。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0085_html.md ## CANN商业版-hi\_mpi\_isp\_get\_ctrl\_param - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0086.html - Description: 获取ISP控制参数。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0086_html.md ## CANN商业版-hi\_mpi\_isp\_ae\_lib\_reg\_callback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0087.html - Description: 用于向ISP注册AE算法库回调函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0087_html.md ## CANN商业版-hi\_mpi\_isp\_ae\_lib\_unreg\_callback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0088.html - Description: ISP提供的AE库反注册的回调接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0088_html.md ## CANN商业版-hi\_mpi\_isp\_awb\_lib\_reg\_callback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0089.html - Description: ISP提供的AWB库注册的回调接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0089_html.md ## CANN商业版-hi\_mpi\_isp\_awb\_lib\_unreg\_callback - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0090.html - Description: ISP提供的AWB库反注册的回调接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0090_html.md ## CANN商业版-hi\_mpi\_isp\_set\_bind\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0091.html - Description: 设置ISP库与3A库、sensor的绑定关系。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0091_html.md ## CANN商业版-hi\_mpi\_isp\_get\_bind\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0092.html - Description: 获取ISP库与3A库、sensor的绑定关系。 此接口不支持多进程操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0092_html.md ## CANN商业版-hi\_mpi\_isp\_get\_vd\_time\_out - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0093.html - Description: 获取ISP中断信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0093_html.md ## CANN商业版-hi\_mpi\_isp\_set\_fmw\_state - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0094.html - Description: 设置ISP firmware状态。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0094_html.md ## CANN商业版-hi\_mpi\_isp\_get\_fmw\_state - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0095.html - Description: 获取ISP firmware状态。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0095_html.md ## CANN商业版-hi\_isp\_bayer\_raw\_bit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0097.html - Description: 定义输入Bayer图像数据位宽。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0097_html.md ## CANN商业版-hi\_isp\_fmw\_state - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0098.html - Description: 定义ISP firmware状态。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0098_html.md ## CANN商业版-hi\_isp\_wdr\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0099.html - Description: 定义ISP宽动态模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0099_html.md ## CANN商业版-hi\_isp\_module\_ctrl - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0100.html - Description: 定义ISP功能模块的控制。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0100_html.md ## CANN商业版-hi\_isp\_vd\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0101.html - Description: 定义ISP场同步信号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0101_html.md ## CANN商业版-hi\_isp\_cmos\_lsc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0102.html - Description: 定义镜头阴影校正LSC的CMOS参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0102_html.md ## CANN商业版-hi\_isp\_acs\_y\_shading\_lut - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0103.html - Description: 定义Auto Color Shading亮度分量上的校正强度表,也就是Gr/Gb分量的校正强度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0103_html.md ## CANN商业版-hi\_isp\_acs\_color\_shading\_lut - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0104.html - Description: 定义Auto Color Shading颜色分量上的Lut表,算法会根据R/B分量上的Lut表,动态生成适合当前场景的Lut表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0104_html.md ## CANN商业版-hi\_isp\_acs\_calib\_param - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0105.html - Description: 定义Auto Color Shading的标定参数,用标定工具生成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0105_html.md ## CANN商业版-hi\_isp\_cmos\_acs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0106.html - Description: 定义Auto Color Shading的CMOS参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0106_html.md ## CANN商业版-hi\_isp\_lsc\_cabli\_table - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0107.html - Description: 定义LSC的校正参数 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0107_html.md ## CANN商业版-hi\_isp\_cmos\_expander\_point - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0108.html - Description: 定义Expander结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0108_html.md ## CANN商业版-hi\_isp\_expander\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0109.html - Description: 定义Expander结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0109_html.md ## CANN商业版-hi\_isp\_cmos\_clut - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0110.html - Description: 定义CLUT结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0110_html.md ## CANN商业版-hi\_isp\_cmos\_drc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0111.html - Description: 定义DRC的CMOS参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0111_html.md ## CANN商业版-hi\_isp\_cmos\_demosaic - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0112.html - Description: 定义demosaic的CMOS参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0112_html.md ## CANN商业版-hi\_isp\_cmos\_pregamma - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0113.html - Description: 定义pregamma的CMOS参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0113_html.md ## CANN商业版-hi\_isp\_cmos\_gamma - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0114.html - Description: 定义gamma的CMOS参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0114_html.md ## CANN商业版-hi\_isp\_cmos\_sharpen\_manual - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0115.html - Description: 定义sharpen manual档的CMOS参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0115_html.md ## CANN商业版-hi\_isp\_cmos\_sharpen\_auto - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0116.html - Description: 定义sharpen auto档的CMOS参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0116_html.md ## CANN商业版-hi\_isp\_cmos\_sharpen - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0117.html - Description: 定义sharpen的CMOS参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0117_html.md ## CANN商业版-hi\_isp\_cmos\_edgemark - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0118.html - Description: 定义edgemark的CMOS参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0118_html.md ## CANN商业版-hi\_isp\_cmos\_hlc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0119.html - Description: 定义hlc的CMOS参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0119_html.md ## CANN商业版-hi\_isp\_cmos\_ldci - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0120.html - Description: 定义ldci的CMOS参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0120_html.md ## CANN商业版-hi\_isp\_cmos\_dpc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0121.html - Description: 定义dpc的CMOS参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0121_html.md ## CANN商业版-hi\_isp\_cmos\_ge - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0122.html - Description: 定义ge的CMOS参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0122_html.md ## CANN商业版-hi\_isp\_cmos\_afc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0123.html - Description: 定义afc的CMOS参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0123_html.md ## CANN商业版-hi\_isp\_cmos\_bayernr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0124.html - Description: 定义bayernr的CMOS参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0124_html.md ## CANN商业版-hi\_isp\_cmos\_ca - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0125.html - Description: 定义ca的CMOS参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0125_html.md ## CANN商业版-hi\_isp\_cmos\_wdr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0126.html - Description: 定义wdr的CMOS参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0126_html.md ## CANN商业版-hi\_isp\_cmos\_dehaze - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0127.html - Description: 定义dehaze的CMOS参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0127_html.md ## CANN商业版-hi\_isp\_cmos\_lcac\_manual - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0128.html - Description: 定义手动模式下配置紫边校正强度参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0128_html.md ## CANN商业版-hi\_isp\_cmos\_lcac\_auto - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0129.html - Description: 定义自动模式下配置紫边校正强度参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0129_html.md ## CANN商业版-hi\_isp\_cmos\_lcac - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0130.html - Description: 定义lcac的CMOS参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0130_html.md ## CANN商业版-hi\_isp\_bnr\_lsc\_calib\_table - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0131.html - Description: 定义Bayer NR LSC的标定LUT 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0131_html.md ## CANN商业版-hi\_isp\_3a\_alg\_lib - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0132.html - Description: 定义AE/AWB算法库结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0132_html.md ## CANN商业版-hi\_isp\_bind\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0133.html - Description: 定义ISP库与Sensor、3A库之间绑定关系的结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0133_html.md ## CANN商业版-hi\_isp\_ctrl\_proc\_write - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0134.html - Description: 定义ISP的PROC信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0134_html.md ## CANN商业版-hi\_isp\_ctrl\_cmd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0135.html - Description: 定义ISP对3A的控制命令。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0135_html.md ## CANN商业版-hi\_isp\_stitch\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0136.html - Description: 定义ISP拼接结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0136_html.md ## CANN商业版-hi\_isp\_ae\_register - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0137.html - Description: 定义AE注册结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0137_html.md ## CANN商业版-hi\_isp\_ae\_exp\_func - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0138.html - Description: 定义AE回调函数结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0138_html.md ## CANN商业版-hi\_isp\_ae\_param - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0139.html - Description: 定义ISP提供给AE的初始化参数结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0139_html.md ## CANN商业版-hi\_isp\_fe\_ae\_stat\_1 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0140.html - Description: 定义AE统计信息结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0140_html.md ## CANN商业版-hi\_isp\_fe\_ae\_stat\_2 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0141.html - Description: 定义AE统计信息结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0141_html.md ## CANN商业版-hi\_isp\_fe\_ae\_stat\_3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0142.html - Description: 定义AE统计信息结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0142_html.md ## CANN商业版-hi\_isp\_fe\_ae\_stitch\_stat\_3 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0143.html - Description: 定义AE统计信息结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0143_html.md ## CANN商业版-hi\_isp\_ae\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0144.html - Description: 定义ISP提供给AE的统计信息结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0144_html.md ## CANN商业版-hi\_isp\_ae\_stat\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0145.html - Description: 定义AE库返回给ISP的配置寄存器结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0145_html.md ## CANN商业版-hi\_isp\_ae\_result - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0146.html - Description: 定义AE库返回给ISP的配置寄存器结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0146_html.md ## CANN商业版-hi\_isp\_awb\_register - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0147.html - Description: 定义AWB注册结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0147_html.md ## CANN商业版-hi\_isp\_awb\_exp\_func - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0148.html - Description: 定义AWB回调函数结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0148_html.md ## CANN商业版-hi\_isp\_awb\_param - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0149.html - Description: 定义ISP提供给AWB的初始化参数结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0149_html.md ## CANN商业版-hi\_isp\_awb\_stat\_result - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0150.html - Description: 定义AWB统计信息结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0150_html.md ## CANN商业版-hi\_isp\_awb\_stat\_1 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0151.html - Description: 定义AWB统计信息结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0151_html.md ## CANN商业版-hi\_isp\_awb\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0152.html - Description: 定义ISP提供给AWB的统计信息结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0152_html.md ## CANN商业版-hi\_isp\_awb\_raw\_stat\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0153.html - Description: 定义AWB库返回给ISP的配置寄存器结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0153_html.md ## CANN商业版-hi\_isp\_awb\_result - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0154.html - Description: 定义AWB库返回给ISP的配置寄存器结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0154_html.md ## CANN商业版-hi\_isp\_dcf\_update\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0155.html - Description: 定义DCF信息中ISP实时更新配置参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0155_html.md ## CANN商业版-hi\_isp\_ctrl\_param - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0156.html - Description: 定义ISP控制参数结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0156_html.md ## CANN商业版-hi\_isp\_quick\_start\_param - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0157.html - Description: 设定不带光敏AE快速启动参数结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0157_html.md ## CANN商业版-hi\_isp\_awb\_alg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0158.html - Description: 定义AWB算法类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0158_html.md ## CANN商业版-hi\_isp\_init\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0159.html - Description: 定义ISP第一次启动时AE/AWB的初始化参数结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0159_html.md ## CANN商业版-hi\_mpi\_isp\_set\_exposure\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0162.html - Description: 设定AE曝光属性。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - AE曝光控制类型为自动时,曝光时间, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0162_html.md ## CANN商业版-hi\_mpi\_isp\_get\_exposure\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0163.html - Description: 获取AE曝光属性。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0163_html.md ## CANN商业版-hi\_mpi\_isp\_set\_wdr\_exposure\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0164.html - Description: 设置WDR模式下的AE。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0164_html.md ## CANN商业版-hi\_mpi\_isp\_get\_wdr\_exposure\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0165.html - Description: 获取WDR模式下的AE。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0165_html.md ## CANN商业版-hi\_mpi\_isp\_set\_ae\_route\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0166.html - Description: 设置AE曝光分配策略属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0166_html.md ## CANN商业版-hi\_mpi\_isp\_get\_ae\_route\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0167.html - Description: 获取AE曝光分配策略属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0167_html.md ## CANN商业版-hi\_mpi\_isp\_set\_ae\_route\_attr\_ex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0168.html - Description: 设置AE曝光分配扩展属性,支持分别设置AE分配策略中的sensor模拟增益,sensor数字增益和ISP数字增益。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0168_html.md ## CANN商业版-hi\_mpi\_isp\_get\_ae\_route\_attr\_ex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0169.html - Description: 获取AE曝光分配策略扩展属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0169_html.md ## CANN商业版-hi\_mpi\_isp\_set\_ae\_route\_sf\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0170.html - Description: WDR模式下,设置AE短帧的曝光分配策略属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0170_html.md ## CANN商业版-hi\_mpi\_isp\_get\_ae\_route\_sf\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0171.html - Description: 获取AE短帧曝光分配策略属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0171_html.md ## CANN商业版-hi\_mpi\_isp\_set\_ae\_route\_sf\_attr\_ex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0172.html - Description: 此接口用于WDR模式下设定AE短帧的曝光分配扩展属性,AE计算得到的短帧的曝光量将按照设定的路线进行分配,用户可以根据自己的需求设定曝光时间优先、sensor模拟增益优先、sensor数字增益优先、ISP数字增益优先和光圈优先。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0172_html.md ## CANN商业版-hi\_mpi\_isp\_get\_ae\_route\_sf\_attr\_ex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0173.html - Description: 获取AE短帧曝光分配策略扩展属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0173_html.md ## CANN商业版-hi\_mpi\_isp\_query\_exposure\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0174.html - Description: 获取AE内部状态信息,包括全局 5 段直方图、1024 段直方图和平均亮度等统计信息,同时还可获取AE运行状态中的曝光时间、增益、曝光量和实际生效的AE route等信息。 - 调用该接口需要确保系统已经运行起来并且统计信息已经生成;当系统刚运行起来第一帧,AE内部还没有统计信息时,调用该接口统计信息会返回全 0,这时候系统内存是足够的。 - 手动模式下,实际生效的again、dgain等其他值可 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0174_html.md ## CANN商业版-hi\_mpi\_isp\_set\_exp\_convert - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0175.html - Description: 设定等曝光量转换的曝光参数相关属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0175_html.md ## CANN商业版-hi\_mpi\_isp\_get\_exp\_convert - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0176.html - Description: 设定等曝光量转换的曝光参数相关属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0176_html.md ## CANN商业版-hi\_mpi\_isp\_set\_iris\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0180.html - Description: 设定光圈的控制属性,该函数可实现手动光圈属性和光圈类型等参数的设置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0180_html.md ## CANN商业版-hi\_mpi\_isp\_get\_iris\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0181.html - Description: 获取光圈的控制属性。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0181_html.md ## CANN商业版-hi\_mpi\_isp\_set\_dciris\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0182.html - Description: 设定DC-Iris AI算法的控制属性,该函数可实现DC-Iris自动光圈的参数设置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0182_html.md ## CANN商业版-hi\_mpi\_isp\_get\_dciris\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0183.html - Description: 获取DC-Iris自动光圈的控制属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0183_html.md ## CANN商业版-hi\_mpi\_isp\_set\_piris\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0184.html - Description: 设定P-Iris自动光圈的控制属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0184_html.md ## CANN商业版-hi\_mpi\_isp\_get\_piris\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0185.html - Description: 获取P-Iris自动光圈的控制属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0185_html.md ## CANN商业版-hi\_isp\_ae\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0187.html - Description: 定义自动曝光的模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0187_html.md ## CANN商业版-hi\_isp\_ae\_strategy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0188.html - Description: 定义AE曝光策略模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0188_html.md ## CANN商业版-hi\_isp\_ae\_delay - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0189.html - Description: \#\#\#\# 说明 定义AE延时属性。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0189_html.md ## CANN商业版-hi\_isp\_ae\_range - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0190.html - Description: 定义曝光时间或增益的最大值和最小值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0190_html.md ## CANN商业版-hi\_isp\_antiflicker\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0191.html - Description: \#\#\#\# 说明 定义抗闪模式。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0191_html.md ## CANN商业版-hi\_isp\_antiflicker - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0192.html - Description: \#\#\#\# 说明 定义抗闪属性。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0192_html.md ## CANN商业版-hi\_isp\_subflicker - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0193.html - Description: 定义ISP图像亚抗闪属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0193_html.md ## CANN商业版-hi\_isp\_ae\_fswdr\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0195.html - Description: 定义isp fswdr运行模式 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0195_html.md ## CANN商业版-hi\_isp\_ae\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0196.html - Description: \#\#\#\# 说明 定义自动曝光属性。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0196_html.md ## CANN商业版-hi\_isp\_me\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0197.html - Description: \#\#\#\# 说明 定义手动曝光属性。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0197_html.md ## CANN商业版-hi\_isp\_exposure\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0198.html - Description: 定义ISP曝光属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0198_html.md ## CANN商业版-hi\_isp\_wdr\_exposure\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0199.html - Description: 定义WDR模式下的曝光属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0199_html.md ## CANN商业版-hi\_isp\_ae\_route\_node - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0200.html - Description: 定义AE分配路线节点属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0200_html.md ## CANN商业版-hi\_isp\_ae\_route - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0201.html - Description: 定义AE曝光分配策略属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0201_html.md ## CANN商业版-hi\_isp\_ae\_route\_ex\_node - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0202.html - Description: 定义AE扩展分配路线节点属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0202_html.md ## CANN商业版-hi\_isp\_ae\_route\_ex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0203.html - Description: 定义AE曝光分配策略扩展属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0203_html.md ## CANN商业版-hi\_isp\_exp\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0204.html - Description: 定义ISP曝光内部状态信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0204_html.md ## CANN商业版-hi\_isp\_prior\_frame - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0205.html - Description: WDR模式下的优先帧。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0205_html.md ## CANN商业版-hi\_isp\_iris\_status - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0206.html - Description: 定义ISP光圈状态。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0206_html.md ## CANN商业版-hi\_isp\_iris\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0207.html - Description: 定义ISP光圈类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0207_html.md ## CANN商业版-hi\_isp\_iris\_f\_no - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0208.html - Description: 定义ISP光圈F值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0208_html.md ## CANN商业版-hi\_isp\_mi\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0209.html - Description: \#\#\#\# 说明 定义手动光圈属性。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0209_html.md ## CANN商业版-hi\_isp\_dciris\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0210.html - Description: 定义DC-Iris AI算法属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0210_html.md ## CANN商业版-hi\_isp\_piris\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0211.html - Description: 定义P-Iris属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0211_html.md ## CANN商业版-hi\_isp\_iris\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0212.html - Description: 定义ISP光圈属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0212_html.md ## CANN商业版-hi\_isp\_exp\_conv\_param - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0213.html - Description: AE算法中定义不同帧率下等曝光量转换相关曝光参数属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0213_html.md ## CANN商业版-hi\_isp\_ae\_convert\_param - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0214.html - Description: 对接驱动时,定义不同帧率下等曝光量转换相关曝光参数属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0214_html.md ## CANN商业版-hi\_isp\_ae\_param\_reg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0215.html - Description: \#\#\#\# 说明 定义寄存器状态。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0215_html.md ## CANN商业版-hi\_mpi\_isp\_set\_wb\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0220.html - Description: 设置白平衡属性。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - 白平衡控制类型为自动时,AWB算法自动调节白平衡系数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0220_html.md ## CANN商业版-hi\_mpi\_isp\_get\_wb\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0221.html - Description: 获取白平衡属性。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0221_html.md ## CANN商业版-hi\_mpi\_isp\_set\_awb\_attr\_ex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0222.html - Description: 设置自动白平衡扩展属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0222_html.md ## CANN商业版-hi\_mpi\_isp\_get\_awb\_attr\_ex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0223.html - Description: 获取自动白平衡扩展属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0223_html.md ## CANN商业版-hi\_mpi\_isp\_query\_wb\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0224.html - Description: 获取当前白平衡增益系数,检测色温,饱和度值,颜色校正矩阵系数等信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0224_html.md ## CANN商业版-hi\_mpi\_isp\_cal\_gain\_by\_temp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0225.html - Description: 计算特定色温下的白平衡增益系数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0225_html.md ## CANN商业版-hi\_isp\_awb\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0227.html - Description: 定义ISP自动白平衡属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0227_html.md ## CANN商业版-hi\_isp\_awb\_cbcr\_track\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0228.html - Description: 定义Bayer域统计信息的联动参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0228_html.md ## CANN商业版-hi\_isp\_awb\_lum\_histgram\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0229.html - Description: 定义白平衡的亮度直方图统计参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0229_html.md ## CANN商业版-hi\_isp\_awb\_alg\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0230.html - Description: 定义白平衡的算法类型属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0230_html.md ## CANN商业版-hi\_isp\_awb\_ct\_limit\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0231.html - Description: 定义白平衡的增益范围限制属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0231_html.md ## CANN商业版-hi\_isp\_mwb\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0232.html - Description: 定义ISP手动白平衡属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0232_html.md ## CANN商业版-hi\_isp\_wb\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0233.html - Description: \#\#\#\# 说明 定义白平衡属性。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0233_html.md ## CANN商业版-hi\_isp\_awb\_multi\_ls\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0234.html - Description: 定义混合光源下的AWB策略。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0234_html.md ## CANN商业版-hi\_isp\_awb\_indoor\_outdoor\_status - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0235.html - Description: 定义AWB室内外状态。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0235_html.md ## CANN商业版-hi\_isp\_awb\_attr\_ex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0236.html - Description: 定义自动白平衡扩展属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0236_html.md ## CANN商业版-hi\_isp\_awb\_extra\_light\_source\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0237.html - Description: 定义独立光源点的信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0237_html.md ## CANN商业版-hi\_isp\_awb\_in\_out\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0238.html - Description: 定义对场景做室内外判断的参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0238_html.md ## CANN商业版-hi\_isp\_wb\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0239.html - Description: 定义白平衡,饱和度,颜色校正信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0239_html.md ## CANN商业版-sensor对光谱的响应 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0241.html - Description: sensor对光谱的响应,在RGB各分量上与人眼对光谱的响应通常是有偏差的,通常通过一个色彩校正矩阵校正光谱响应的交叉效应和响应强度,使前端捕获的图片与人眼视觉在色彩上保持一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0241_html.md ## CANN商业版-hi\_mpi\_isp\_set\_saturation\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0242.html - Description: 设置颜色饱和度属性。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0242_html.md ## CANN商业版-hi\_mpi\_isp\_get\_saturation\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0243.html - Description: 获取颜色饱和度属性。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0243_html.md ## CANN商业版-hi\_mpi\_isp\_set\_ccm\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0244.html - Description: 设置颜色矩阵。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - 颜色校正矩阵的数据格式,应与校正工具提供的保持一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0244_html.md ## CANN商业版-hi\_mpi\_isp\_get\_ccm\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0245.html - Description: 获取颜色矩阵。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0245_html.md ## CANN商业版-hi\_isp\_saturation\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0247.html - Description: 定义ISP颜色饱和度属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0247_html.md ## CANN商业版-hi\_isp\_saturation\_manual - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0248.html - Description: 定义手动饱和度属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0248_html.md ## CANN商业版-hi\_isp\_saturation\_auto - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0249.html - Description: 定义自动饱和度属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0249_html.md ## CANN商业版-hi\_isp\_color\_matrix\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0250.html - Description: 定义ISP颜色矩阵属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0250_html.md ## CANN商业版-hi\_isp\_color\_matrix\_auto - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0251.html - Description: 定义自动颜色校正矩阵属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0251_html.md ## CANN商业版-hi\_isp\_color\_matrix\_param - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0252.html - Description: 定义不同色温下自动颜色校正矩阵系数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0252_html.md ## CANN商业版-hi\_isp\_color\_matrix\_manual - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0253.html - Description: 定义手动颜色校正矩阵属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0253_html.md ## CANN商业版-hi\_mpi\_isp\_get\_auto\_color\_shading\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0255.html - Description: 获取Auto Color Shading属性参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0255_html.md ## CANN商业版-hi\_mpi\_isp\_set\_auto\_color\_shading\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0256.html - Description: 设置Auto Color Shading属性参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0256_html.md ## CANN商业版-hi\_isp\_acs\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0258.html - Description: 定义Auto Color Shading属性参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0258_html.md ## 功能描述 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0260.html - Description: Inner State Information接口的作用是输出与ISO相关的多个参数的逻辑寄存器当前配置的真实值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0260_html.md ## CANN商业版-hi\_mpi\_isp\_query\_inner\_state\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0261.html - Description: 预留接口,当前版本不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0261_html.md ## CANN商业版-hi\_isp\_inner\_state\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0263.html - Description: 定义内部寄存器实际配置信息参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0263_html.md ## CANN商业版-hi\_mpi\_isp\_get\_pregamma\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0265.html - Description: 获取PreGamma属性参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0265_html.md ## CANN商业版-hi\_mpi\_isp\_set\_pregamma\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0266.html - Description: 设置PreGamma属性参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0266_html.md ## CANN商业版-hi\_isp\_pregamma\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0268.html - Description: 定义PreGamma属性参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0268_html.md ## CANN商业版-hi\_mpi\_isp\_get\_clut\_coeff - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0270.html - Description: 获取CLUT系数。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0270_html.md ## CANN商业版-hi\_mpi\_isp\_set\_clut\_coeff - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0271.html - Description: 设置CLUT系数。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0271_html.md ## CANN商业版-hi\_mpi\_isp\_get\_clut\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0272.html - Description: 获取CLUT属性。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0272_html.md ## CANN商业版-hi\_mpi\_isp\_set\_clut\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0273.html - Description: 设置CLUT属性。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0273_html.md ## CANN商业版-hi\_isp\_clut\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0275.html - Description: 定义CLUT的增益。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0275_html.md ## CANN商业版-hi\_isp\_clut\_lut - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0276.html - Description: 定义CLUT的查找表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0276_html.md ## CANN商业版-hi\_mpi\_isp\_set\_csc\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0278.html - Description: 设定CSC(色彩空间转换)属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0278_html.md ## CANN商业版-hi\_mpi\_isp\_get\_csc\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0279.html - Description: 获取CSC(色彩空间转换)属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0279_html.md ## CANN商业版-hi\_isp\_csc\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0281.html - Description: 说明定义ISP色彩空间转换模块属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0281_html.md ## CANN商业版-hi\_isp\_csc\_matrix - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0282.html - Description: 定义色彩空间转换矩阵系数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0282_html.md ## CANN商业版-hi\_mpi\_isp\_get\_ldci\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0284.html - Description: 获取LDCI属性参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0284_html.md ## CANN商业版-hi\_mpi\_isp\_set\_ldci\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0285.html - Description: 设置LDCI属性参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0285_html.md ## CANN商业版-hi\_isp\_ldci\_gauss\_coef\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0287.html - Description: 定义GAUSS分布属性参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0287_html.md ## CANN商业版-hi\_isp\_ldci\_he\_wgt\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0288.html - Description: 定义直方图均衡与原图融合权重属性参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0288_html.md ## CANN商业版-hi\_isp\_ldci\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0289.html - Description: 定义LDCI手动模式属性参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0289_html.md ## CANN商业版-hi\_isp\_ldci\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0290.html - Description: 定义LDCI自动模式下属性参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0290_html.md ## CANN商业版-hi\_isp\_ldci\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0291.html - Description: 定义LDCI属性参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0291_html.md ## CANN商业版-hi\_mpi\_isp\_set\_color\_tone\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0293.html - Description: 设置色调的参数。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0293_html.md ## CANN商业版-hi\_mpi\_isp\_get\_color\_tone\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0294.html - Description: 获取色调的参数。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0294_html.md ## CANN商业版-hi\_isp\_color\_tone\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0296.html - Description: \#\#\#\# 说明 定义色调调整属性。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0296_html.md ## CANN商业版-hi\_mpi\_isp\_get\_fswdr\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0298.html - Description: 获取帧合成参数。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0298_html.md ## CANN商业版-hi\_mpi\_isp\_set\_fswdr\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0299.html - Description: 设置帧合成参数。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0299_html.md ## CANN商业版-hi\_isp\_wdr\_merge\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0301.html - Description: 定义ISP合成方式属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0301_html.md ## CANN商业版-hi\_isp\_fswdr\_mdt\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0302.html - Description: 定义ISPFSWDR运动检测属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0302_html.md ## CANN商业版-hi\_isp\_wdr\_combine\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0303.html - Description: 定义ISP FSWDR combine属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0303_html.md ## CANN商业版-hi\_isp\_fusion\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0304.html - Description: 定义ISP FUSION属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0304_html.md ## CANN商业版-hi\_isp\_fswdr\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0305.html - Description: 定义ISP FSWDR手动属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0305_html.md ## CANN商业版-hi\_isp\_fswdr\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0306.html - Description: 定义ISP FSWDR自动属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0306_html.md ## CANN商业版-hi\_isp\_wdr\_fs\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0307.html - Description: 定义ISP FSWDR属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0307_html.md ## CANN商业版-hi\_mpi\_isp\_get\_global\_cac\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0309.html - Description: 获取色差校正参数。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0309_html.md ## CANN商业版-hi\_mpi\_isp\_set\_global\_cac\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0310.html - Description: 设置横向色差校正参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0310_html.md ## CANN商业版-hi\_mpi\_isp\_get\_local\_cac\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0311.html - Description: 获取紫边检测校正参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0311_html.md ## CANN商业版-hi\_mpi\_isp\_set\_local\_cac\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0312.html - Description: 设置紫边检测校正参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0312_html.md ## CANN商业版-hi\_isp\_depurplestr\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0314.html - Description: 定义紫边校正手动属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0314_html.md ## CANN商业版-hi\_isp\_depurplestr\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0315.html - Description: 定义紫边校正自动属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0315_html.md ## CANN商业版-hi\_isp\_local\_cac\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0316.html - Description: \#\#\#\# 说明 紫边检测校正属性。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0316_html.md ## CANN商业版-hi\_isp\_global\_cac\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0317.html - Description: \#\#\#\# 说明 定义色差校正属性。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0317_html.md ## CANN商业版-hi\_mpi\_isp\_get\_ca\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0319.html - Description: 获取CA属性。 - 0:成功 - 非0:失败,参见 ISP返回码 HDR模式,默认关闭CA,客户可以自行设置打开。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0319_html.md ## CANN商业版-hi\_mpi\_isp\_set\_ca\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0320.html - Description: 设置CA属性。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0320_html.md ## CANN商业版-hi\_isp\_ca\_lut - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0322.html - Description: 定义CA模式的属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0322_html.md ## CANN商业版-hi\_isp\_ca\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0323.html - Description: 定义颜色调整模块的属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0323_html.md ## CANN商业版-hi\_mpi\_isp\_set\_fpn\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0325.html - Description: 设置去FPN属性。 - 0:成功 - 非0:失败,参见 ISP返回码 - 不支持分块模式下校正。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0325_html.md ## CANN商业版-hi\_mpi\_isp\_get\_fpn\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0326.html - Description: 获取去FPN属性。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0326_html.md ## CANN商业版-hi\_mpi\_isp\_fpn\_calibrate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0327.html - Description: 设置去FPN标定属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0327_html.md ## CANN商业版-hi\_isp\_fpn\_frame\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0329.html - Description: 定义去FPN标定的黑帧信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0329_html.md ## CANN商业版-hi\_isp\_fpn\_calibrate\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0330.html - Description: 定义去FPN的标定属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0330_html.md ## CANN商业版-hi\_isp\_fpn\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0331.html - Description: 定义去FPN的校正属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0331_html.md ## CANN商业版-hi\_isp\_fpn\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0332.html - Description: 定义去FPN在手动模式下的校正属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0332_html.md ## CANN商业版-hi\_isp\_fpn\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0333.html - Description: 定义去FPN在自动模式下的校正属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0333_html.md ## CANN商业版-hi\_isp\_fpn\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0334.html - Description: \#\#\#\# 说明 定义去FPN类型。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0334_html.md ## CANN商业版-hi\_mpi\_isp\_get\_black\_level\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0336.html - Description: 获取黑电平属性。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0336_html.md ## CANN商业版-hi\_mpi\_isp\_set\_black\_level\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0337.html - Description: 设置黑电平属性。 - 0:成功 - 非0:失败,参见 ISP返回码 - 如果接口配置为自动模式:若cmos. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0337_html.md ## CANN商业版-hi\_isp\_black\_level\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0339.html - Description: 定义ISP黑电平属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0339_html.md ## CANN商业版-hi\_mpi\_isp\_get\_demosaic\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0341.html - Description: 获取Demosaic参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0341_html.md ## CANN商业版-hi\_mpi\_isp\_set\_demosaic\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0342.html - Description: 设置Demosaic参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0342_html.md ## CANN商业版-hi\_isp\_demosaic\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0344.html - Description: 定义ISP DEMOSAIC手动属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0344_html.md ## CANN商业版-hi\_isp\_demosaic\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0345.html - Description: 定义ISP DEMOSAIC自动属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0345_html.md ## CANN商业版-hi\_isp\_demosaic\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0346.html - Description: 定义ISP DEMOSAIC属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0346_html.md ## CANN商业版-hi\_mpi\_isp\_get\_anti\_false\_color\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0348.html - Description: 获取Anti FalseColor参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0348_html.md ## CANN商业版-hi\_mpi\_isp\_set\_anti\_false\_color\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0349.html - Description: 设置Anti FalseColor参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0349_html.md ## CANN商业版-hi\_isp\_anti\_false\_color\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0351.html - Description: 定义ISP Anti FalseColor手动属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0351_html.md ## CANN商业版-hi\_isp\_anti\_false\_color\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0352.html - Description: 定义ISP Anti FalseColor自动属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0352_html.md ## CANN商业版-hi\_isp\_anti\_false\_color\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0353.html - Description: 定义Anti FalseColor属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0353_html.md ## CANN商业版-hi\_mpi\_isp\_get\_nr\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0355.html - Description: 获取BNR参数。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0355_html.md ## CANN商业版-hi\_mpi\_isp\_set\_nr\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0356.html - Description: 设置BNR参数。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0356_html.md ## CANN商业版-hi\_isp\_nr\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0358.html - Description: 定义ISP NR手动属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0358_html.md ## CANN商业版-hi\_isp\_nr\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0359.html - Description: 定义ISP NR自动属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0359_html.md ## CANN商业版-hi\_isp\_nr\_wdr\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0360.html - Description: 定义ISP NR在WDR模式下属性,与自动/手动模式并行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0360_html.md ## CANN商业版-hi\_isp\_nr\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0361.html - Description: 定义ISP NR属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0361_html.md ## CANN商业版-hi\_mpi\_isp\_get\_crosstalk\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0363.html - Description: 获取Crosstalk属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0363_html.md ## CANN商业版-hi\_mpi\_isp\_set\_crosstalk\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0364.html - Description: 设置Crosstalk属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0364_html.md ## CANN商业版-hi\_isp\_cr\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0366.html - Description: 定义ISP Crosstalk属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0366_html.md ## CANN商业版-hi\_mpi\_isp\_get\_dp\_dynamic\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0368.html - Description: 获取动态坏点调试属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0368_html.md ## CANN商业版-hi\_mpi\_isp\_set\_dp\_dynamic\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0369.html - Description: 设置动态坏点调试属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0369_html.md ## CANN商业版-hi\_mpi\_isp\_get\_dp\_static\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0370.html - Description: 获取静态坏点属性。 在设置静态坏点属性中,亮点坏点表中表示亮坏点坐标信息,暗坏点表中则保存的是暗坏点坐标信息;而获取静态坏点属性时,亮点坏点表中保存的是所有坏点的坐标信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0370_html.md ## CANN商业版-hi\_mpi\_isp\_set\_dp\_static\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0371.html - Description: 设置静态坏点属性,合并坏点表,将坏点坐标信息与坏点数目写入系统内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0371_html.md ## CANN商业版-hi\_mpi\_isp\_get\_dp\_calibrate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0372.html - Description: 获取静态坏点标定结果。 该接口一般用于调试场景下标定Defect Pixel算法的参数,商用场景下不建议使用,可能会引起内存异常、图片效果异常等问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0372_html.md ## CANN商业版-hi\_mpi\_isp\_set\_dp\_calibrate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0373.html - Description: 设置静态坏点标定参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0373_html.md ## CANN商业版-hi\_isp\_static\_dp\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0375.html - Description: 定义静态坏点标定类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0375_html.md ## CANN商业版-hi\_isp\_status - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0376.html - Description: 定义ISP校正(检测)状态。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0376_html.md ## CANN商业版-hi\_isp\_dp\_static\_calibrate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0377.html - Description: 定义静态坏点标定的属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0377_html.md ## CANN商业版-hi\_isp\_dp\_static\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0378.html - Description: 定义静态坏点校正属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0378_html.md ## CANN商业版-hi\_isp\_dp\_dynamic\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0379.html - Description: 定义动态坏点校正的手动属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0379_html.md ## CANN商业版-hi\_isp\_dp\_dynamic\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0380.html - Description: 定义动态坏点校正的自动属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0380_html.md ## CANN商业版-hi\_isp\_dp\_dynamic\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0381.html - Description: 定义动态坏点校正属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0381_html.md ## CANN商业版-hi\_mpi\_isp\_set\_mesh\_shading\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0383.html - Description: 设置Mesh Shading算法参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0383_html.md ## CANN商业版-hi\_mpi\_isp\_get\_mesh\_shading\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0384.html - Description: 获取Mesh Shading算法参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0384_html.md ## CANN商业版-hi\_mpi\_isp\_set\_mesh\_shading\_gain\_lut\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0385.html - Description: 设置Mesh Shading增益表属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0385_html.md ## CANN商业版-hi\_mpi\_isp\_get\_mesh\_shading\_gain\_lut\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0386.html - Description: 获取Mesh Shading增益表属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0386_html.md ## CANN商业版-hi\_isp\_shading\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0388.html - Description: 定义Mesh Shading算法参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0388_html.md ## CANN商业版-hi\_isp\_shading\_gain\_lut - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0389.html - Description: 定义Mesh Shading增益表参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0389_html.md ## CANN商业版-hi\_isp\_bnr\_lsc\_gain\_lut - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0390.html - Description: 定义BayerNR所参考的LSC(lens shading correction,镜头阴影校正)增益表参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0390_html.md ## CANN商业版-hi\_isp\_shading\_lut\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0391.html - Description: 定义Mesh Shading增益表属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0391_html.md ## CANN商业版-hi\_mpi\_isp\_set\_drc\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0393.html - Description: 设置动态范围压缩参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0393_html.md ## CANN商业版-hi\_mpi\_isp\_get\_drc\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0394.html - Description: 获取动态范围压缩参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0394_html.md ## CANN商业版-hi\_isp\_drc\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0396.html - Description: 定义ISP DRC手动属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0396_html.md ## CANN商业版-hi\_isp\_drc\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0397.html - Description: 定义ISP DRC自动属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0397_html.md ## CANN商业版-hi\_isp\_drc\_asymmetry\_curve\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0398.html - Description: 定义ISP DRC Asymmetry Curve属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0398_html.md ## CANN商业版-hi\_isp\_drc\_curve\_select - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0399.html - Description: 定义ISP DRC Tone Mapping曲线类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0399_html.md ## CANN商业版-hi\_isp\_drc\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0400.html - Description: 定义ISP DRC属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0400_html.md ## CANN商业版-hi\_mpi\_isp\_get\_gamma\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0402.html - Description: 获取Gamma属性。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0402_html.md ## CANN商业版-hi\_mpi\_isp\_set\_gamma\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0403.html - Description: 设置Gamma属性。 - 0:成功。 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0403_html.md ## CANN商业版-hi\_isp\_gamma\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0405.html - Description: 定义ISP Gamma校正属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0405_html.md ## CANN商业版-hi\_isp\_gamma\_curve\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0406.html - Description: 定义Gamma曲线类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0406_html.md ## CANN商业版-hi\_mpi\_isp\_get\_hlc\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0408.html - Description: 获取图像的高光遮蔽属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0408_html.md ## CANN商业版-hi\_mpi\_isp\_set\_hlc\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0409.html - Description: 设置图像的高光遮蔽属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0409_html.md ## CANN商业版-hi\_isp\_hlc\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0411.html - Description: 定义ISP HLC属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0411_html.md ## CANN商业版-hi\_mpi\_isp\_get\_edge\_mark\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0413.html - Description: 获取图像边缘标记属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0413_html.md ## CANN商业版-hi\_mpi\_isp\_set\_edge\_mark\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0414.html - Description: 设置图像边缘标记属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0414_html.md ## CANN商业版-hi\_isp\_edge\_mark\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0416.html - Description: 定义ISP EdgeMark属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0416_html.md ## CANN商业版-hi\_mpi\_isp\_set\_sharpen\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0418.html - Description: 设定图像锐化属性。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0418_html.md ## CANN商业版-hi\_mpi\_isp\_get\_sharpen\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0419.html - Description: 获取图像锐化属性。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0419_html.md ## CANN商业版-hi\_isp\_sharpen\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0421.html - Description: 定义图像锐化的手动属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0421_html.md ## CANN商业版-hi\_isp\_sharpen\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0422.html - Description: 定义图像锐化的自动属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0422_html.md ## CANN商业版-hi\_isp\_sharpen\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0423.html - Description: 定义图像锐化的属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0423_html.md ## CANN商业版-hi\_mpi\_isp\_get\_dehaze\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0425.html - Description: 获取Dehaze属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0425_html.md ## CANN商业版-hi\_mpi\_isp\_set\_dehaze\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0426.html - Description: 设置Dehaze属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0426_html.md ## CANN商业版-hi\_isp\_dehaze\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0428.html - Description: 定义去雾手动模式属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0428_html.md ## CANN商业版-hi\_isp\_dehaze\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0429.html - Description: 定义去雾自动模式属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0429_html.md ## CANN商业版-hi\_isp\_dehaze\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0430.html - Description: 定义ISP去雾属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0430_html.md ## 功能描述 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0432.html - Description: Auto Flicker Type Detection(自动工频闪类型检测)是一个结合软件和硬件一起实现的算法。该算法能够计算出当前环境光源的频闪频率是50Hz还是60Hz\(当前版本只支持50HZ检测\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0432_html.md ## CANN商业版-hi\_mpi\_isp\_calc\_flicker\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0433.html - Description: 输入帧信息,获取工频闪类型检测的结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0433_html.md ## CANN商业版-hi\_isp\_calc\_flicker\_input - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0435.html - Description: 定义计算工频闪输入参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0435_html.md ## CANN商业版-hi\_isp\_calc\_flicker\_output - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0436.html - Description: 定义自动工频闪类型检测输出结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0436_html.md ## CANN商业版-hi\_isp\_calc\_flicker\_type - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0437.html - Description: 自动工频闪检测结果类型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0437_html.md ## CANN商业版-hi\_mpi\_mfusion\_set\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0439.html - Description: 设置motionfusion属性。 调用本接口前,必须调用himpisysinit进行系统初始化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0439_html.md ## CANN商业版-hi\_mfusion\_steady\_detect\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0441.html - Description: 定义IMU噪声和静止检测灵敏度参数类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0441_html.md ## CANN商业版-hi\_mfusion\_attr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0442.html - Description: 定义motionfusion属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0442_html.md ## CANN商业版-ISP提供的3A统计信息及相关配置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0444.html - Description: ISP提供的3A统计信息及相关配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0444_html.md ## AE区域统计信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0446.html - Description: AE按支持17×15分块进行统计,每个分块均可以输出16bit R,Gr, Gb,B均值\(Average R/Gr/Gb/B\)。以R、Gr为例,区块的统计信息读取地址与数据的对应关系如下表所示。m表示水平分区个数,n表示垂直分区个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0446_html.md ## 带权重的AE全局统计信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0447.html - Description: 与AE的区域统计信息基本一致,对于整幅图像,AE也提供了4个全局统计信息。分别为HI\_ISP\_AE\_TOTAL\_R\_AVER,HI\_ISP\_AE\_TOTAL\_GR\_AVER,HI\_ISP\_AE\_TOTAL\_GB\_AVER,HI\_ISP\_AE\_TOTAL\_B\_AVER。其物理意义与分块统计一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0447_html.md ## 带权重的AE直方图信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0448.html - Description: AE提供1024阶直方图统计0-1023,直方图信息读取地址与数据的对应关系如下表所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0448_html.md ## MG区域统计信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0450.html - Description: MG按17×15 分块统计,每个分块均可以输出 8bit R,Gr, Gb,B均值\(Average R/Gr/Gb/B\)。ISP统计算法内部区块的统计信息读取地址与数据的对应关系如下表所示。m表示水平分区个数,n表示垂直分区个数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0450_html.md ## AWB区域统计信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0452.html - Description: AWB中最大支持图像的32x32 分块,每个分块均可以输出R、G、B均值\(Average R/G/B\)。其中统计的像素点均为16bit,分块内统计有效点个数Count All,点数统计值均已根据图像大小做了归一化处理,归一化到16bit。同时,每一个分块支持分亮度区间进行统计,最大支持分4个亮度区间。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0452_html.md ## AWB全局统计信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0453.html - Description: 与AWB的区域统计信息基本一致,对于整幅图像,AWB也提供了四个全局统计信息。分别为ISP\_AWB\_AVG\_R/G/B,ISP\_AWB\_CNT\_ALL。其物理意义与分块统计一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0453_html.md ## CANN商业版-hi\_mpi\_isp\_set\_stats\_cfg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0455.html - Description: 设置ISP 3A统计信息配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0455_html.md ## CANN商业版-hi\_mpi\_isp\_get\_stats\_cfg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0456.html - Description: 获取ISP 3A统计信息配置。 该接口必须在调用himpiispinit接口之后才能调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0456_html.md ## CANN商业版-hi\_mpi\_isp\_get\_ae\_stats - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0457.html - Description: 获取 AE 统计信息。 该接口必须在调用himpiispinit接口之后才能调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0457_html.md ## CANN商业版-hi\_mpi\_isp\_get\_mg\_stats - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0458.html - Description: 获取 MG 统计信息。 该接口必须在调用himpiispinit接口之后才能调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0458_html.md ## CANN商业版-hi\_mpi\_isp\_get\_wb\_stats - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0459.html - Description: 获取WB统计信息。 该接口必须在调用himpiispinit接口之后才能调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0459_html.md ## CANN商业版-hi\_isp\_stats\_cfg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0461.html - Description: 定义ISP 3A统计信息配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0461_html.md ## CANN商业版-hi\_isp\_stats\_ctrl - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0462.html - Description: 定义ISP 3A统计信息使能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0462_html.md ## CANN商业版-hi\_isp\_ae\_stats\_cfg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0463.html - Description: 定义AE统计信息配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0463_html.md ## CANN商业版-hi\_isp\_ae\_switch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0464.html - Description: 定义AE统计模块在ISP pipeline的位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0464_html.md ## CANN商业版-hi\_isp\_ae\_four\_plane\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0465.html - Description: FourPlaneMode使能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0465_html.md ## CANN商业版-hi\_isp\_ae\_hist\_skip - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0466.html - Description: 直方图统计时采样点设置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0466_html.md ## CANN商业版-hi\_isp\_ae\_hist\_offset\_x - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0467.html - Description: 直方图统计时水平方向起始点设置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0467_html.md ## CANN商业版-hi\_isp\_ae\_hist\_offset\_y - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0468.html - Description: 直方图统计时垂直方向起始点设置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0468_html.md ## CANN商业版-hi\_isp\_ae\_hist\_config - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0469.html - Description: 定义全局直方图统计时的采样点方式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0469_html.md ## CANN商业版-hi\_isp\_ae\_stat\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0470.html - Description: 定义统计模块的开方模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0470_html.md ## CANN商业版-hi\_isp\_ae\_crop - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0471.html - Description: 对AE模块输入图像进行裁剪。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0471_html.md ## CANN商业版-hi\_isp\_awb\_switch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0472.html - Description: 定义AWB统计模块在ISP pipeline的位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0472_html.md ## CANN商业版-hi\_isp\_awb\_gain\_switch - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0473.html - Description: 定义AWB增益的位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0473_html.md ## CANN商业版-hi\_isp\_awb\_crop - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0474.html - Description: 对AWB模块输入图像进行裁剪。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0474_html.md ## CANN商业版-hi\_isp\_wb\_stats\_cfg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0475.html - Description: 定义AWB统计信息配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0475_html.md ## CANN商业版-hi\_isp\_ae\_grid\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0476.html - Description: 定义AE分区间统计信息的坐标信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0476_html.md ## CANN商业版-hi\_isp\_ae\_stats - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0477.html - Description: \#\#\#\# 说明 定义AE统计信息。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0477_html.md ## CANN商业版-hi\_isp\_ae\_stitch\_stats - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0478.html - Description: 定义拼接模式AE统计信息。当前版本不支持该功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0478_html.md ## CANN商业版-hi\_isp\_mg\_grid\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0479.html - Description: MG分区间统计信息的坐标信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0479_html.md ## CANN商业版-hi\_isp\_mg\_stats - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0480.html - Description: \#\#\#\# 说明定义 MG统计信息。 \#\#\#\# 定义 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0480_html.md ## CANN商业版-hi\_isp\_awb\_grid\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0481.html - Description: 定义AWB分区间统计信息的坐标信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0481_html.md ## CANN商业版-hi\_isp\_wb\_stats - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0482.html - Description: 定义AWB统计信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0482_html.md ## CANN商业版-hi\_isp\_wb\_stitch\_stats - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0483.html - Description: 定义拼接模式WB统计信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0483_html.md ## CANN商业版-hi\_isp\_focus\_stats\_cfg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0484.html - Description: 定义AF统计信息配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0484_html.md ## CANN商业版-hi\_isp\_af\_cfg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0485.html - Description: 定义AF统计信息配置参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0485_html.md ## CANN商业版-hi\_isp\_af\_peak\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0486.html - Description: PEAK模式,决定分区间统计值是否进行求峰值处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0486_html.md ## CANN商业版-hi\_isp\_af\_squ\_mode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0487.html - Description: 平方模式,决定分区间统计值是否进行平方处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0487_html.md ## CANN商业版-hi\_isp\_af\_crop - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0488.html - Description: 对AF模块输入图像进行裁剪。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0488_html.md ## CANN商业版-hi\_isp\_af\_stats\_pos - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0489.html - Description: 配置AF模块统计位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0489_html.md ## CANN商业版-hi\_isp\_af\_raw\_cfg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0490.html - Description: AF模块Bayer域配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0490_html.md ## CANN商业版-hi\_isp\_af\_pre\_filter\_cfg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0491.html - Description: AF模块预滤波器配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0491_html.md ## CANN商业版-hi\_isp\_af\_level\_depend - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0492.html - Description: AF Level Depend Gain 模块配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0492_html.md ## CANN商业版-hi\_isp\_af\_coring - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0493.html - Description: AF Coring 模块配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0493_html.md ## CANN商业版-hi\_isp\_af\_h\_param - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0494.html - Description: AF 统计水平滤波器 IIR 参数设置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0494_html.md ## CANN商业版-hi\_isp\_af\_v\_param - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0495.html - Description: AF 统计垂直滤波器 FIR 参数设置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0495_html.md ## CANN商业版-hi\_isp\_af\_fv\_param - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0496.html - Description: AF统计结果输出格式参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0496_html.md ## CANN商业版-hi\_isp\_focus\_zone - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0497.html - Description: 定义 AF 统计信息参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0497_html.md ## CANN商业版-hi\_isp\_fe\_focus\_stats - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0498.html - Description: 定义 FE AF 统计信息,当前不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0498_html.md ## CANN商业版-hi\_isp\_be\_focus\_stats - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0499.html - Description: 定义 BE AF 统计信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0499_html.md ## CANN商业版-hi\_isp\_focus\_grid\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0500.html - Description: 定义 AF 分区间统计信息的坐标信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0500_html.md ## CANN商业版-hi\_isp\_af\_stats - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0501.html - Description: 定义FE和BE的AF统计信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0501_html.md ## 错误码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevapi_0546.html - Description: **表1 ISP API错误码** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevapi_0546_html.md ## ISP Firmware介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0001.html - Description: ISP Firmware包含三部分,一部分是ISP控制单元和基础算法库,一部分是3A算法库(包括AE、AWB、AF算法库,其中,AF算法库当前不支持),一部分是Sensor库。仅 Atlas 200I/500 A2 推理产品 支持ISP Firmware功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0001_html.md ## ISP调优算法介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0002.html - Description: ISP模块支持标准的Sensor图像数据处理,包括自动白平衡、自动曝光、Demosaic、坏点矫正及镜头阴影矫正等基本功能,也支持WDR、DRC、降噪等高级处理功能。ISP主要支持的图像处理功能如下表所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0002_html.md ## 3A算法介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0004.html - Description: 3A算法库,包括AE、AWB、AF算法库,其中,AF算法库当前不支持。3A算法库以注册的方式,添加到Firmware中,完成曝光、白平衡、色彩还原等处理,接口调用流程请参见总体接口调用流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0004_html.md ## Sensor对接 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0005.html - Description: Sensor库主要是为了提供差异化的Sensor适配,里面的内容可以分为两部分:Sensor向ISP库注册的差异化适配,这些差异化适配主要由Firmware中的基础算法单元决定;Sensor向3A库注册的差异化适配。Sensor的适配包括算法的初始化默认值,及Sensor控制接口,Sensor的适配是通过接口回调的形式注册给ISP库和3A算法库。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0005_html.md ## 向ISP库注册AE算法 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0007.html - Description: 1. 用户需要在自开发定制的AE库中实现以下回调函数(回调函数的说明请参见hi\_isp\_ae\_exp\_func),如下表所示:| 成员名称 | 描述 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0007_html.md ## 向ISP注册AWB算法 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0008.html - Description: 1. 用户需要在自开发定制的AWB库中实现以下回调函数(回调函数的说明请参见hi\_isp\_awb\_exp\_func),如下表所示:| 成员名称 | 描述 | - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0008_html.md ## 开发AE无光敏快速收敛功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0009.html - Description: 无光敏快速收敛是在没有光敏传感器反馈当前亮度的情况下,AE算法在启动后以最快速收敛到目标亮度范围的功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0009_html.md ## 调试流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0011.html - Description: 请按照下图所示流程进行调试。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0011_html.md ## 准备材料 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0012.html - Description: 需提前确认是否支持以下规格: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0012_html.md ## 硬件准备就绪 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0014.html - Description: 首先验证是否可以读写Sensor寄存器。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0014_html.md ## 完成初始化序列配置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0015.html - Description: 配置初始化序列,建议参考版本发布包里面的Sensor驱动,以便于快速开发。为了方便调试,此时要排除AE配置及帧率配置的干扰,建议暂时空实现驱动中cmos\_get\_sns\_regs\_info函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0015_html.md ## Sensor输出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0016.html - Description: 参考《应用开发 \(C&C++\)\(https://www.hiascend.com/document/detail/zh/canncommercial/900/programug/acldevg/aclcppdevg\_000006.html\)》,依次配置vi、mipi、isp等模块。待整个系统运行起来,可以通过cat /proc/umap/mipi\_rx以及cat /proc/umap/vi查看各模 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0016_html.md ## 开发ISP基本功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0017.html - Description: 本章节涉及Sensor部分,请仔细阅读Sensor的Datasheet,或联系Sensor原厂工程师。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0017_html.md ## 完成AE配置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0018.html - Description: AE配置,请按如下顺序实现: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0018_html.md ## 完善功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0019.html - Description: 完善所有其它的函数,例如Sensor启停流控制、各函数里与Sensor工作模式的配合,确保所有功能工作正常。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0019_html.md ## 帧合成WDR模式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0023.html - Description: - sensor\_init函数使用线性模式的初始化序列。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0023_html.md ## Built-in WDR 模式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0024.html - Description: Sensor输出的raw数据是压缩格式,因此需要使用EXPANDER模块实现解压缩功能。具体方法是在pfn\_cmos\_get\_isp\_default回调函数中配置hi\_isp\_cmos\_default.hi\_isp\_expander\_attr结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0024_html.md ## GDC功能介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0026.html - Description: 几何畸变矫正(Geometric Distortion Correction,以下简称GDC)子系统实现的功能:对一帧图像进行鱼眼校正(包括360全景、180全景和Normal三种校正模式)、LDC(镜头畸变校正)校正功能。GDC相关API和参数说明请参见“媒体数据处理V2\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0026_html.md ## 鱼眼校正典型场景的调试说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0027.html - Description: 壁装时,推荐使用180全景校正模式或normal校正模式,演示效果及参数说明如下表所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0027_html.md ## 镜头畸变校正典型场景的调试说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0028.html - Description: **表1 桶形矫正说明** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0028_html.md ## DIS功能介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0058.html - Description: DIS(Digital Image Stabilization)数字图像防抖是对图像进行数字处理的过程,采用防抖算法计算出当前图像的运动偏移,然后根据计算得到的运动偏移对当前图像进行平移、旋转等变换,从而起到防抖的效果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0058_html.md ## DIS调试关键参数说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0059.html - Description: 在启动DIS前需要先设置DIS配置信息和属性等相关参数,参数的不同值会不同程度的影响防抖效果。这里主要介绍几个重要影响防抖效果的参数设置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0059_html.md ## 3DNR功能介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0061.html - Description: 3DNR是数字降噪,英文全名为Three-dimensional Noise Reduction,主要用来降低弱信号图像的噪波干扰,并通过对比相邻的几帧图像,将不重叠的信息(即噪波)自动滤出,从而显示出比较纯净细腻的画面。相比ISP中的去噪模块, 3DNR在YUV域做降噪,采用时域和空域相结合的形式,并且不需要做噪声标定。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0061_html.md ## 默认参数说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0063.html - Description: 图1 3DNR参数的接口参数界面 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0063_html.md ## 空域接口参数说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0064.html - Description: 空域滤波包含0~4号基础滤波器即nXsf0、nXsf1、nXsf2、nXsf3、nXsf4,也包含基础滤波器的组合处理。不同级采用了不同类型的空域滤波器,第0级和第1级采用的滤波器去噪保边的能力较强,但易出现条状噪声(称为SFi滤波器组)。第2级和第3级的滤波器去噪保边的能力稍弱,但副作用较小(称为SFk滤波器组)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0064_html.md ## 时域接口参数说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0065.html - Description: 每一级均包含了时域的信息用于图像处理。第1级的时域可采用分层处理结构(第0层和第1层),其中每个时域的接口都有两套分别对应于两层(如果接口有多个参数,接口带上后缀0,1来区分层级,例如nXtfr0、nXtfr1)。针对IPC应用场景一般建议采用分层处理,将第1层设置为背景层,将第0层设置为前景层分开处理。其他三级采用了单层结构,其中第四级采用了利用时域信息的空域处理方式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0065_html.md ## 色度去噪参数说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0066.html - Description: 视频色度去噪接口NRc去噪主要调试参数为sfc,tfc,trc,tpc,mode,presfc。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0066_html.md ## IPC类非目标抓拍场景的3DNR调试 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0067.html - Description: 支持分层处理。可将图像划分为前景和背景层,分别配置相应的时域和空域系数。主要依赖时域去噪,空域去噪作为补充。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0067_html.md ## 注册函数的关系 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0212.html - Description: hi\_mpi\_isp\_ae\_lib\_reg\_callback和hi\_mpi\_isp\_awb\_lib\_reg\_callback这两个接口是ISP firmware库提供的钩子函数,用于开发3A算法库时实现注册动作。例如3A算法库的hi\_mpi\_ae\_register和hi\_mpi\_awb\_register接口,在实现时调用了相应的钩子函数,所以调用hi\_mpi\_ae\_register能实现AE算法库 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0212_html.md ## 扩展性的设计考虑 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0213.html - Description: 在代码中有hi\_vi\_pipe、hi\_isp\_3a\_alg\_lib、hi\_sensor\_id这样一些概念,这些概念是出于架构扩展性的考虑。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0213_html.md ## 3A架构的设计思路 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0214.html - Description: 设计思路基本是这样,ISP firmware初始化并销毁各个算法单元;在运行时,提供前一帧的统计信息,并根据返回值配置寄存器,其他内容,均由用户开发。所以当用户替换自己的3A算法后,当前的AE/AWB的MPI不可复用,cmos.c中的AE/AWB相关的内容不可复用,对于AE的权重配置和AWB的找白点配置的内容不可复用,这几个配置理论上是由3A算法配置,而不是从ISP firmware获取,ISP - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0214_html.md ## 外部寄存器的说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0215.html - Description: 在IPC的应用中,通常除了业务主程序进程外,板端还会有另外的进程去支持PC端的工具来调节图像质量。ISP的各个算法的许多状态、参数均驻留于全局变量中,不足以支持多进程的访问,所以引入外部寄存器的概念,用以支持多进程的业务场景。用户通过PC端工具与板端进程通信,调用提供的MPI,实际是改变外部寄存器中的内容,从而改变业务主程序中的ISP的各个算法的状态和参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0215_html.md ## 不同格式图像所需内存大小说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0217.html - Description: CEILING\(X, Y\)表示将X按Y大小向上取整对齐。以下计算公式以字节为单位,width表示图像宽度,height表示图像高度,bit\_width表示图像像素位宽。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0217_html.md ## CANN商业版-VI - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0219.html - Description: VI采集状态下一般会占用三个视频帧VB。一个用于当前帧采集,一个用于准备给下一帧采集,一个在轮转流程中(主要是后级模块占用)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0219_html.md ## CANN商业版-ISP - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0220.html - Description: 每路isp pipe,全量算法开启后,额外需要10M内存,内存占用较大的算法说明如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0220_html.md ## CANN商业版-VPSS - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0221.html - Description: - vpss chn buffer:每路chn一般至少需要3个YUV格式视频帧,一个用于当前帧处理,一个用于准备给下一帧处理,一个在轮转流程中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0221_html.md ## CANN商业版-MIPI\_RX - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0222.html - Description: 不涉及 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0222_html.md ## CANN商业版-VI - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0224.html - Description: 措施 相关接口 收益 影响 注意 proc信息 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0224_html.md ## CANN商业版-ISP - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0225.html - Description: 措施 相关接口/参数 收益 影响 注意 proc信息 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0225_html.md ## CANN商业版-VPSS - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0226.html - Description: 措施 相关模块参数/接口 收益 影响 注意 proc信息 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0226_html.md ## CANN商业版-MIPI\_RX - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0227.html - Description: 不涉及 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0227_html.md ## 工频闪类型自适应Sample用例处理流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/ispdevug/ispdevug_0228.html - Description: 图1 工频闪类型自适应Sample用例处理流程 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_ispdevug_ispdevug_0228_html.md ## CANN商业版-LLM-DataDist作为大模型分布式集群和数据管理组件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev - Description: LLM-DataDist作为大模型分布式集群和数据管理组件,提供了高性能、零拷贝的点对点KV传输的能力,该能力通过简易的API开放给用户。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmdastdev_001_html.md ## ClusterInfo和IpInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmc_42_0040.html - Description: 数据类型ClusterInfo和IpInfo定义在“$\{INSTALL\_DIR\}/include/ge/llm\_engine\_types.h”。$\{INSTALL\_DIR\}请替换为CANN软件安装后文件存储路径。以root用户安装为例,安装后文件默认存储路径为:/usr/local/Ascend/cann。具体信息如下。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmc_42_0040_html.md ## 错误码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmc_42_0041.html - Description: 错误码定义存放路径:"$\{INSTALL\_DIR\}/include/ge/llm\_error\_codes.h"和"$\{INSTALL\_DIR\}/include/llm\_datadist/llm\_datadist.h"。$\{INSTALL\_DIR\}请替换为CANN软件安装后文件存储路径。以root用户安装为例,安装后文件默认存储路径为:/usr/local/Ascend/cann。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmc_42_0041_html.md ## 读者对象 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcdv1_42_02.html - Description: 本文档用于指导开发者如何使用LLM-DataDist的C++接口实现集群间的数据传输,构建大模型推理分离式框架,从而提高大模型推理系统的吞吐性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcdv1_42_02_html.md ## 阅读向导 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcdv1_42_03.html - Description: 如果您对LLM-DataDist不太了解,或者首次阅读本文档。建议先阅读表1,帮助您快速了解手册内容,按需访问对应章节。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcdv1_42_03_html.md ## LLM-DataDist简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcdv1_42_05.html - Description: 在大模型推理场景下,随着模型batch size的增大,Prefill阶段的性能会线性降低,Decode阶段会额外占用更多的内存。两阶段对资源的需求不同,部署在一起导致资源分配不均,成本居高不下。通过LLM-DataDist构建的大模型推理分离式框架有效地解决了该问题。在分离式框架中,将Prefill和Decode分别部署在不同规格和架构的集群中,提升了性能和资源利用效率,提升了大模型推理系统吞吐 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcdv1_42_05_html.md ## LLM-DataDist应用场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcdv1_42_06.html - Description: 通过LLM-DataDist构建大模型推理PD分离式框架。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcdv1_42_06_html.md ## 整体开发流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcdv1_42_08.html - Description: 为了方便后续的描述,我们对于不同的推理框架抽象为几个模块: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcdv1_42_08_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcdv1_42_09.html - Description: 支持的产品形态如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcdv1_42_09_html.md ## 完整样例参考 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcdv1_42_10.html - Description: 本示例通过LLM-DataDist接口实现分离部署场景下KV Cache管理功能。为不同框架使用LLM-DataDist的功能提供一些参考和改造思路。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcdv1_42_10_html.md ## CANN商业版-建链 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcdv1_42_13.html - Description: 调用LinkLlmClusters接口在PD节点之间建立通信链路,链路主要用于KV Cache的传输。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcdv1_42_13_html.md ## CANN商业版-断链 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcdv1_42_14.html - Description: 调用UnlinkLlmClusters接口断开并清理PD之间的通信链路。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcdv1_42_14_html.md ## KV Cache管理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcdv1_42_15.html - Description: 在LLM-DataDist初始化时会预申请一块指定大小的内存池,由OPTION\_BUF\_POOL\_CFG配置项决定其大小,后续的KV Cache的内存申请及释放都在预申请的内存上进行,相比每次执行时申请一块cache内存,可以节省耗时。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcdv1_42_15_html.md ## 角色切换 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcdv1_42_17.html - Description: 主要用于在PD集群节点数量固定的场景下,由于业务的变化,期望PD集群节点间可以相互切换,充分利用资源。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcdv1_42_17_html.md ## 公共前缀 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcdv1_42_18.html - Description: 公共前缀指的是模型推理的多个输入包含相同的起始部分。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcdv1_42_18_html.md ## 基本概念 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcdv1_42_20.html - Description: **表1 基本概念** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcdv1_42_20_html.md ## 大模型推理流程简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcdv1_42_21.html - Description: ChatGPT的推出意味着交互式人工智能逐渐成为商业化成熟产品,同时也进一步推动了底层技术大型语言模型LLM的研究和进步。现有主要使用的LLM包括GPT系列、LLAMA系列、GLM系列。其模型基础架构都采用Transformer架构,并以Decode-Only为主。该类Transformer-Based-Decode-Only的LLM在推理预测时,采用自回归生成(auto-regressive g - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcdv1_42_21_html.md ## 为什么要做PD分离 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcdv1_42_22.html - Description: 从实现上来看,整个LLM推理过程由Prefill和多轮迭代的Decode组成,想要在Decode阶段实现Continuous batching的前提是,每个被调度的request需要有空闲算力完成Prefill计算。按现有的部署模式,Prefill和Decode部署在一起,当有新的Prefill请求时,会被优先处理,从而导致Decode的执行流程由于增量token时延(TBT)而无法得到有效保障。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcdv1_42_22_html.md ## LLM-DataDist接口列表\_V1 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_02.html - Description: LLM-DataDist:大模型分布式集群和数据加速组件,提供了集群KV数据管理能力,支持全量图和增量图分离部署。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_02_html.md ## LlmDataDist构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_04.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 创建LLM-DataDist对象。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_04_html.md ## ~LlmDataDist\(\) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_05.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 LLM-DataDist对象析构函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_05_html.md ## CANN商业版-Initialize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_06.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 初始化LLM-DataDist。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_06_html.md ## CANN商业版-Finalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_07.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 LLM-DataDist的资源释放函数。 无 无 无 - 需要和 Initialize 配对使用。 - 分离部署下,当增量集群去全量集群拉取kv的时候, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_07_html.md ## CANN商业版-SetRole - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_08.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 设置LLM-DataDist的角色。建议仅在使用PagedAttention的场景使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_08_html.md ## CANN商业版-LinkLlmClusters - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_09.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 进行Device间建链。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_09_html.md ## CANN商业版-UnlinkLlmClusters - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_10.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 进行Device间断链。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_10_html.md ## CANN商业版-PullKvCache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_11.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 从远端节点拉取Cache到本地Cache,仅当角色为Decoder时可调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_11_html.md ## CANN商业版-PullKvBlocks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_12.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 在传输Blocks Cache场景下,通过block列表的方式,从远端节点拉取Cache到本地Cache,仅当角色为Decoder时可调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_12_html.md ## CANN商业版-CopyKvCache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_13.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 拷贝KV Cache。支持D2D,D2H的拷贝。 当期望PullKvCache和其他使用Cache的操作流水时,可以额外申请一块中转Cache。当其他流程在使用Cache时, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_13_html.md ## CANN商业版-CopyKvBlocks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_14.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 PA场景下,通过block列表的方式拷贝KV Cache。支持D2D,D2H,H2D的拷贝。 - D2D场景主要是针对当多个回答需要共用相同block,block没填满时, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_14_html.md ## CANN商业版-PushKvCache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_15.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 推送Cache到远端节点,仅当角色为Prompt时可调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_15_html.md ## CANN商业版-PushKvBlocks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_16.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 通过配置block列表的方式,从本地节点推送Cache到远端节点,仅当角色为Prompt时可调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_16_html.md ## CANN商业版-AllocateCache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_17.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 分配Cache。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_17_html.md ## CANN商业版-DeallocateCache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_18.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 释放Cache。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_18_html.md ## CANN商业版-LlmRole - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_20.html - Description: LLM-DataDist的角色 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_20_html.md ## CANN商业版-CachePlacement - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_21.html - Description: Cache的内存类型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_21_html.md ## CANN商业版-CacheDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_22.html - Description: Cache的描述信息 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_22_html.md ## CANN商业版-CacheIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_23.html - Description: Cache的索引 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_23_html.md ## CANN商业版-Cache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_24.html - Description: Cache,其中维护了一组tensor的地址 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_24_html.md ## ClusterInfo和IpInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_25.html - Description: 用于描述集群信息,用于建链与断链。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_25_html.md ## CANN商业版-KvCacheExtParam - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_26.html - Description: 调用Pull或Push相关接口时传入的扩展参数。``` - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_26_html.md ## 错误码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_27.html - Description: 错误码是通过如下宏定义的。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_27_html.md ## 不支持的接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmcrv1_42_30.html - Description: 该场景下,不支持的接口列表如下。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmcrv1_42_30_html.md ## CANN商业版-LLM-DataDist作为大模型分布式集群和数据管理组件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmdastdev_001.html - Description: LLM-DataDist作为大模型分布式集群和数据管理组件,提供了高性能、零拷贝的点对点KV传输的能力,该能力通过简易的API开放给用户。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmdastdev_001_html.md ## 读者对象 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpdv1_42_02.html - Description: 本文档用于指导开发者如何使用LLM-DataDist的Python接口实现点对点数据传输,构建大模型推理分离式框架,从而提高大模型推理系统的吞吐性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpdv1_42_02_html.md ## 阅读向导 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpdv1_42_03.html - Description: 如果您对LLM-DataDist不太了解,或者首次阅读本文档。建议先阅读表1,帮助您快速了解手册内容,按需访问对应章节。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpdv1_42_03_html.md ## LLM-DataDist简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpdv1_42_05.html - Description: 在大模型推理场景下,随着模型batch size的增大,Prefill阶段的性能会线性降低,Decode阶段会额外占用更多的内存。两阶段对资源的需求不同,部署在一起导致资源分配不均,成本居高不下。通过LLM-DataDist构建的大模型推理分离式框架有效地解决了该问题。在分离式框架中,将Prefill和Decode分别部署在不同规格和架构的集群中,提升了性能和资源利用效率,提升了大模型推理系统吞吐 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpdv1_42_05_html.md ## LLM-DataDist应用场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpdv1_42_06.html - Description: 通过LLM-DataDist构建大模型推理PD分离式框架。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpdv1_42_06_html.md ## 整体开发流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpdv1_42_08.html - Description: 为了方便后续的描述,我们对于不同的推理框架抽象为几个模块: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpdv1_42_08_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpdv1_42_09.html - Description: 支持的产品形态如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpdv1_42_09_html.md ## 完整样例参考 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpdv1_42_10.html - Description: 本示例是以transformers的LLAMA模型为样例,主要展示PD分离前后的脚本变化点,提供如何从非分离脚本改为PD分离脚本的一个参考,PD分离脚本示例请单击Gitee\(https://gitee.com/ascend/torchair/tree/master\#version\_match\),根据版本配套表下载对应版本的sample包,从“npu\_tuned\_model/llm/llama/be - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpdv1_42_10_html.md ## 链路管理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpdv1_42_12.html - Description: NN模型执行时调用的HCCL集合通信接口是双边通信,即需要两边同时发起建链,而在P-D分离方案中,简化建链操作,由Client单侧发起建链。由于动态扩缩的部分大多数是Decode侧,因此将P定义为Server端,D定义为Client端,建链过程实现由D向P发起建链的流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpdv1_42_12_html.md ## KV Cache管理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpdv1_42_13.html - Description: 在LLM-DataDist初始化时会预申请一块指定大小的内存池,由ge.flowGraphMemMaxSize配置项决定其大小,后续的KV Cache的内存申请及释放都在预申请的内存上进行,相比每次申请一块内存,可以节省耗时。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpdv1_42_13_html.md ## KV Cache换入换出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpdv1_42_15.html - Description: KV Cache换入换出指将KV Cache从Device换出到Host,或者从Host换入Device。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpdv1_42_15_html.md ## 公共前缀 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpdv1_42_16.html - Description: 公共前缀指的是在一次推理过程中,多个输入提示包含相同的起始部分。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpdv1_42_16_html.md ## 基本概念 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpdv1_42_18.html - Description: **表1 基本概念** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpdv1_42_18_html.md ## 大模型推理流程简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpdv1_42_19.html - Description: ChatGPT的推出意味着交互式人工智能逐渐成为商业化成熟产品,同时也进一步推动了底层技术大型语言模型LLM的研究和进步。现有主要使用的LLM包括GPT系列、LLAMA系列、GLM系列。其模型基础架构都采用Transformer架构,并以Decode-Only为主。该类Transformer-Based-Decode-Only的LLM在推理预测时,采用自回归生成(auto-regressive g - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpdv1_42_19_html.md ## 为什么要做PD分离 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpdv1_42_20.html - Description: 从实现上来看,整个LLM推理过程由Prefill和多轮迭代的Decode组成,想要在Decode阶段实现Continuous batching的前提是,每个被调度的request需要有空闲算力完成Prefill计算。按现有的部署模式,Prefill和Decode部署在一起,当有新的Prefill请求时,会被优先处理,从而导致Decode的执行流程由于增量token时延(TBT)而无法得到有效保障。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpdv1_42_20_html.md ## LLM-DataDist接口列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0002.html - Description: LLM-DataDist:大模型分布式集群和数据加速组件,提供了集群KV数据管理能力,以支持全量图和增量图分离部署。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0002_html.md ## LLMDataDist构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0004.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造LLMDataDist。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0004_html.md ## CANN商业版-init - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0005.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 初始化LLMDataDist。通过单边建链,即Client向Server发起建链,Prompt作为Server,Decode作为Client;限制只能从Decode往Prompt拉取KV。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0005_html.md ## CANN商业版-finalize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0006.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 释放LLMDataDist。 无 无 初始化成功后,系统退出前需要调用finalize。 finalize不能和其他接口并发调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0006_html.md ## CANN商业版-link\_clusters - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0007.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 由Client单侧发起建链。由于动态扩缩的部分大部分是Decode侧,因此将P定义为Server端,D定义为Client端,建链过程实现由D向P发起建链的流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0007_html.md ## CANN商业版-unlink\_clusters - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0008.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 断链。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0008_html.md ## CANN商业版-check\_link\_status - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0009.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 可快速检测链路状态是否正常。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0009_html.md ## CANN商业版-kv\_cache\_manager - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0010.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取KvCacheManager实例。 无 返回KvCacheManager实例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0010_html.md ## CANN商业版-switch\_role - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0011.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 切换当前LLMDataDist的角色,建议仅在使用PagedAttention的场景使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0011_html.md ## LLMConfig构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0019.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造LLMConfig,调用init接口需要传入一个配置项字典,为了简化配置,可以通过此类来构造该配置项字典。 无 返回LLMConfig的实例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0019_html.md ## CANN商业版-generate\_options - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0020.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 生成配置项字典。 无 返回配置项字典。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0020_html.md ## CANN商业版-device\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0021.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 设置当前进程Device ID,对应底层ge.exec.deviceId配置项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0021_html.md ## CANN商业版-sync\_kv\_timeout - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0022.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 配置一系列接口的超时时间,对应底层llm.SyncKvCacheWaitTime配置项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0022_html.md ## CANN商业版-enable\_switch\_role - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0023.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 配置是否支持角色平滑切换,对应底层llm.EnableSwitchRole配置项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0023_html.md ## CANN商业版-ge\_options - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0024.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 配置额外的GE配置项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0024_html.md ## CANN商业版-listen\_ip\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0025.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 PROMPT侧设置集群侦听信息,对应底层llm.listenIpInfo配置项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0025_html.md ## CANN商业版-mem\_utilization - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0026.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 配置ge.flowGraphMemMaxSize内存的利用率。默认值0.95。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0026_html.md ## CANN商业版-buf\_pool\_cfg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0027.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 用户指定内存档位配置,提高内存申请性能和使用率。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0027_html.md ## KvCacheManager构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0035.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 KvCacheManager的实例应该通过kvcachemanager返回。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0035_html.md ## CANN商业版-is\_initialized - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0036.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 查询KvCacheManager实例是否已初始化。 NA 如果LLMDataDist已初始化,则返回True。 如果LLMDataDist已销毁,则返回False。 如果该接口返回False, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0036_html.md ## CANN商业版-allocate\_cache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0037.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 分配Cache,分配成功后,会同时被cacheid与cachekeys引用,只有当这些引用都解除后,cache所占用的资源才会实际释放。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0037_html.md ## CANN商业版-deallocate\_cache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0038.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 释放Cache。 如果该Cache在Allocate时关联了CacheKey,则实际的释放会延后到所有的CacheKey被拉取或执行了removecachekey。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0038_html.md ## CANN商业版-remove\_cache\_key - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0039.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 移除CacheKey,仅当LLMRole为PROMPT时可调用。 移除CacheKey后,该Cache将无法再被pullcache拉取。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0039_html.md ## CANN商业版-pull\_cache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0040.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 根据CacheKey,从对应的Prompt节点拉取KV到本地KV Cache,仅当LLMRole为DECODER时可调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0040_html.md ## CANN商业版-copy\_cache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0041.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 拷贝KV Cache。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0041_html.md ## CANN商业版-get\_cache\_tensors - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0042.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取cache tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0042_html.md ## CANN商业版-allocate\_blocks\_cache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0043.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 PagedAttention场景下,分配多个blocks的Cache,Cache分配成功后,可通过deallocatecache释放内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0043_html.md ## CANN商业版-pull\_blocks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0044.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 PagedAttention场景下,根据BlocksCacheKey,通过block列表的方式从对应的Prompt节点拉取KV到本地KV Cache,仅当LLMRole为DECODER时可调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0044_html.md ## CANN商业版-copy\_blocks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0045.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 PagedAttention场景下,拷贝block。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0045_html.md ## CANN商业版-swap\_blocks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0046.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 对cpucache和npucache进行换入换出。 对于swap out功能,该接口启用了4个线程执行并行任务;对于swap in功能,该接口启用了1个d2d线程。为了性能稳定, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0046_html.md ## CANN商业版-transfer\_cache\_async - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0047.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 异步分层传输KV Cache。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0047_html.md ## KvCache构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0049.html - Description: 构造KvCache,该接口通常不需要用户调用,KvCache对象由KvCacheManager.allocate\_cache或allocate\_blocks\_cache返回。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0049_html.md ## CANN商业版-cache\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0050.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取KvCache的id。 无 正常情况返回类型为KvCache的id。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0050_html.md ## CANN商业版-cache\_desc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0051.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取KvCache描述。 无 正常情况返回类型为KvCache的cache描述。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0051_html.md ## CANN商业版-per\_device\_tensor\_addrs - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0052.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取KvCache的地址。 无 正常情况返回类型为KVCache的地址。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0052_html.md ## CANN商业版-create\_cpu\_cache - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0053.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 创建cpu cache。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0053_html.md ## CANN商业版-LLMRole - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0078.html - Description: 调用init接口传入的角色类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0078_html.md ## LLMClusterInfo构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0080.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造LLMClusterInfo,用于linkclusters和unlinkclusters接口的参数类型。 无 返回LLMClusterInfo的实例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0080_html.md ## CANN商业版-remote\_cluster\_id - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0081.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 设置对端集群ID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0081_html.md ## CANN商业版-append\_local\_ip\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0082.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 添加本地集群IP信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0082_html.md ## CANN商业版-append\_remote\_ip\_info - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0083.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 添加远端集群IP信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0083_html.md ## CANN商业版-Placement - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0085.html - Description: 表示Cache所在位置,通常作为CacheDesc的placement参数的类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0085_html.md ## CANN商业版-CacheDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0086.html - Description: 构造CacheDesc,通常在KvCacheManager的allocate\_cache接口中作为参数类型使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0086_html.md ## CANN商业版-CacheKey - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0089.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造CacheKey,通常在KvCacheManager的allocatecache、pullcache接口中作为参数类型使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0089_html.md ## CANN商业版-CacheKeyByIdAndIndex - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0090.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造CacheKeyByIdAndIndex,通常在pullcache接口中作为参数类型使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0090_html.md ## CANN商业版-BlocksCacheKey - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0091.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造BlocksCacheKey,通常在KvCacheManager的allocateblockscache、pullblocks接口中作为参数类型使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0091_html.md ## CANN商业版-LayerSynchronizer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0093.html - Description: 抽象类,需要由用户继承该抽象类实现相关接口。当前该类下只有一个接口synchronize\_layer。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0093_html.md ## CANN商业版-TransferConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0094.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造TransferConfig。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0094_html.md ## CANN商业版-TransferWithCacheKeyConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0095.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造TransferWithCacheKeyConfig。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0095_html.md ## CacheTask构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0097.html - Description: 构造CacheTask,由KvCacheManager.transfer\_cache\_async接口返回,表示分层传输异步任务。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0097_html.md ## CANN商业版-synchronize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0098.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 等待所有层传输完成,并获取整体执行结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0098_html.md ## CANN商业版-get\_results - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0099.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 等待所有层传输完成,并获取每个TransferConfig对应执行结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0099_html.md ## CANN商业版-LLMException - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0100.html - Description: 调用LLMDataDist各接口,异常场景可能抛出LLMException异常。当前该类下只有一个接口status\_code。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0100_html.md ## CANN商业版-LLMStatusCode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0101.html - Description: LLMException中status\_code对应的枚举类,枚举值及解决方法如下表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0101_html.md ## CANN商业版-DataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0102.html - Description: DataType枚举类,枚举值如下表所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0102_html.md ## TensorDesc构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0137.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造TensorDesc。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0137_html.md ## CANN商业版-dtype - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0138.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取dtype属性值。 无 返回dtype。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0138_html.md ## CANN商业版-shape - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0139.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取shape属性值。 无 返回shape。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0139_html.md ## Tensor构造函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0141.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造Tensor。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0141_html.md ## CANN商业版-numpy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0142.html - Description: 说明:针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取tensor的numpy数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_llmdatadistdev_llmpr_42_0142_html.md ## CANN商业版-Atlas 350 加速卡 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev - Description: Atlas 350 加速卡 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_RPing_02_0001_html.md ## 接口列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0001.html - Description: RPing是一种基于RDMA/UB的网络探测技术,昇腾AI软件栈提供了RPing功能相关接口供开发者调用,用以实现发送检测报文、记录网络时延、统计报文收发情况,从而帮助客户进行网络链路状态的监测。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0001_html.md ## CANN商业版-HccnRpingInit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0002.html - Description: 初始化参与RPing的Device,启动网络状态监测。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0002_html.md ## CANN商业版-HccnRpingDeinit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0003.html - Description: 释放内存资源。 HccnResult类型错误码的解析结果。 - 该接口会主动释放资源,若入参rpingCtx指向为空可能会触发异常。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0003_html.md ## CANN商业版-HccnRpingAddTarget - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0004.html - Description: 添加探测目标,建立client与target之间的RPing通信链路。 其中client为发送端NPU,target为接收端NPU。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0004_html.md ## CANN商业版-HccnRpingRemoveTarget - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0005.html - Description: 删除探测目标并关闭RPing功能的通信链路。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0005_html.md ## CANN商业版-HccnRpingGetTarget - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0006.html - Description: 获取链路状态信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0006_html.md ## CANN商业版-HccnRpingBatchPingStart - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0007.html - Description: 发起探测请求。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0007_html.md ## CANN商业版-HccnRpingBatchPingStop - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0008.html - Description: 中止探测请求。 HccnResult类型错误码的解析结果。 该接口需要与HccnRpingBatchPingStart接口配对使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0008_html.md ## CANN商业版-HccnRpingGetResult - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0009.html - Description: 获取对目标的探测结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0009_html.md ## CANN商业版-HccnResult - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0011.html - Description: 定义RPing功能相关操作的返回值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0011_html.md ## CANN商业版-HccnRpingMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0012.html - Description: 定义RPing功能使用的网络类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0012_html.md ## CANN商业版-HccnRpingAddTargetState - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0013.html - Description: 定义添加探测目标操作的返回状态。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0013_html.md ## CANN商业版-HccnRpingInitAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0014.html - Description: 定义RPing功能初始化时要配置的参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0014_html.md ## CANN商业版-HccnRpingTargetInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0015.html - Description: 定义需要被探测的target信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0015_html.md ## CANN商业版-HccnRpingResultInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0016.html - Description: 定义RPing的探测结果信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0016_html.md ## CANN商业版-HccnRpingResultState - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0017.html - Description: 定义RPing的探测结果是否有效。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0017_html.md ## CANN商业版-HccnRpingCtx - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0018.html - Description: 指向RPing对象的句柄。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0018_html.md ## CANN商业版-HccnRpingGetPayload - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0019.html - Description: 获取对目标探测报文的自定义payload。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0019_html.md ## CANN商业版-HccnRpingTimestamp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0020.html - Description: \#\#\#\# 功能 时间戳的数据结构。 \#\#\#\# 定义原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0020_html.md ## CANN商业版-HccnRpingPayloadHead - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0021.html - Description: 保存自定义payload数据头的数据结构。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0021_html.md ## CANN商业版-HccnRpingAddTargetWithCfg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0022.html - Description: 添加探测目标,建立client与target之间的RPing通信链路,支持RPing超时时间可配置。 其中client为发送端NPU,target为接收端NPU。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0022_html.md ## CANN商业版-HccnRpingAddTargetConfig - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/hccnrpingapi_07_0023.html - Description: 定义RPing超时时间配置的数据结构。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_hccnrpingapi_07_0023_html.md ## CANN商业版-Atlas 350 加速卡 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/RPing_02_0001.html - Description: Atlas 350 加速卡 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_RPing_02_0001_html.md ## 开发流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/RPing_02_0002.html - Description: 介绍RPing功能实现的详细流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_RPing_02_0002_html.md ## 样例参考 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/rpingdev/RPing_02_0003.html - Description: 本节给出实现RPing功能的完整代码样例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_rpingdev_RPing_02_0003_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg - Description: 本文用于指导开发人员如何进行自定义算子的开发,掌握以下经验和技能可以更好地理解本文档:- 具备Python/C++/C语言程序开发能力 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0001.html - Description: 本文用于指导开发人员如何进行自定义算子的开发,掌握以下经验和技能可以更好地理解本文档:- 具备Python/C++/C语言程序开发能力 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0001_html.md ## 了解算子开发场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0002.html - Description: CANN算子库包含了丰富的高性能算子,让神经网络的运行性能更高。CANN算子库中的算子都是预先实现和编译的,是华为工程师使用AI处理器架构专用编程语言开发的高度优化的内核函数,能够较好的适配底层硬件架构,具有较高的性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0002_html.md ## CANN算子类型介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0005.html - Description: 首先看下CANN算子在AI处理器中的位置,如图1所示,其中:- AI Core是AI处理器的计算核心,负责执行矩阵、向量、标量计算密集的算子任务。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0005_html.md ## TBE简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0010.html - Description: TBE(Tensor Boost Engine)负责执行AI处理器中运行在AI Core上的算子,TBE提供了基于TVM(Tensor Virtual Machine)框架的自定义算子开发能力,通过TBE提供的API可以完成相应神经网络算子的开发。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0010_html.md ## AI CPU简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0011.html - Description: AI CPU负责执行AI处理器的CPU类算子(包括控制算子、标量和向量等通用计算),其在解决方案系统架构中的位置如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0011_html.md ## 算子编译运行流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0012.html - Description: 一个完整的CANN算子包含四部分:算子原型定义、对应开源框架的算子适配插件、算子信息库定义和算子实现。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0012_html.md ## 全新开发 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0015.html - Description: 全新开发,指CANN算子库中不包含相应的算子,需要先完成自定义算子的开发,再进行第三方框架的适配。可以查看《算子库\(https://www.hiascend.com/document/detail/zh/canncommercial/900/API/aolapi/operatorlist\_00001.html\)》,判断算子库是否包含对应算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0015_html.md ## 框架适配开发 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0016.html - Description: 框架适配开发,指CANN算子库中已实现了相应的算子,但未适配第三方框架的场景。可以查看《算子库\(https://www.hiascend.com/document/detail/zh/canncommercial/900/API/aolapi/operatorlist\_00001.html\)》,判断算子库是否包含对应算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0016_html.md ## 硬件变更后适配 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0017.html - Description: 仅TBE自定义算子存在硬件变更后需要适配的场景,AI CPU自定义算子不涉及,即AI CPU算子与AI处理器的型号无关。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0017_html.md ## 选择算子开发方式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0018.html - Description: 在章节CANN算子类型介绍中,我们了解到CANN算子有几种开发方式:TBE DSL、TBE TIK与AI CPU。针对全新开发的算子,在进行代码开发前,首先需要选择合适的算子实现方式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0018_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0019.html - Description: - 进行自定义算子开发前,需要完成驱动及CANN软件的安装,详情可参见《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/canncommercial/900/softwareinst/instg/instg\_0000.html\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0019_html.md ## 基于msopgen工具 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0024.html - Description: CANN开发套件包中提供了自定义算子工程生成工具msopgen,可基于算子原型定义输出算子开发相关交付件,包括算子代码实现文件、算子适配插件、算子原型定义、算子信息库定义以及工程编译配置文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0024_html.md ## 基于算子样例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0025.html - Description: 命令行场景下,开发者可以直接基于Ascend社区中提供的自定义算子样例工程进行修改,追加自定义算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0025_html.md ## CANN商业版-原理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0028.html - Description: 算子原型定义规定了在AI处理器上可运行算子的约束,主要体现算子的数学含义,包含定义算子输入、输出和属性信息,基本参数的校验和shape的推导,原型定义的信息会被注册到GE的算子原型库中。网络模型生成时,GE会调用算子原型库的校验接口进行基本参数的校验,校验通过后,会根据原型库中的推导函数推导每个节点的输出shape与dtype,进行输出tensor的静态内存的分配。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0028_html.md ## 算子IR注册 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0029.html - Description: 算子的原型(即IR)用于进行算子的描述,包括算子输入输出信息,属性信息等,用于把算子注册到算子原型库中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0029_html.md ## Shape推导与校验 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0030.html - Description: IR实现的cc文件中主要实现如下两个功能: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0030_html.md ## DSL简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0032.html - Description: 为了方便开发者进行自定义算子开发,TBE(Tensor Boost Engine)提供了一套计算接口供开发者用于组装算子的计算逻辑,这套计算接口称之为DSL(Domain-Specific Language)。基于DSL开发的算子,可以直接使用TBE提供的Auto Schedule机制,自动完成调度过程,省去最复杂的调度编写过程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0032_html.md ## 入门示例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0033.html - Description: 使用TBE DSL进行算子开发,开发者只需要关注算子本身计算逻辑,无需关注调度策略,开发方式简单便捷。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0033_html.md ## 算子实现流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0034.html - Description: 基于TBE DSL进行算子开发时,由于算子调度依赖Auto Schedule机制,算子开发层面无法直接控制,因此开发者基于TBE DSL算子开发时只需要重点关注算子的计算过程的实现,同时在计算过程中可以通过一些方式进行算子精度和性能的提升。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0034_html.md ## 代码结构介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0035.html - Description: TBE DSL方式实现的算子代码结构如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0035_html.md ## 计算实现 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0037.html - Description: 计算实现包含依赖python模块导入、算子函数声明、算子入参校验、计算逻辑实现以及调度与编译。计算实现时,可以通过一定的方法进行精度与性能上的提升。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0037_html.md ## 调度与编译 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0038.html - Description: 如下代码所示,当定义完计算逻辑后,需要在算子接口实现函数中实现调度与编译。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0038_html.md ## (可选)Format推导及参数校验 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0039.html - Description: 开发者可以在算子实现文件中实现op\_select\_format函数,推导出算子的输入输出支持的dtype与format,后续进行算子信息库定义时将输入输出的dtype与format的dynamicFormat.flag配置为true即可,算子融合时会自动调用算子实现文件中的op\_select\_format函数进行dtype与format的设置,无需配置固定的dtype与format;若算子实现文件 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0039_html.md ## DSL功能调试 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0040.html - Description: 若算子运行出错,开发者可参见本章节描述的方法在CPU中进行DSL算子的功能调试,验证算子的算法逻辑是否正确。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0040_html.md ## DSL算子泛化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0044.html - Description: 如果开发者想支持“一类” 算子,要能适合任何合法的数据类型、数据形状,甚至适合多种AI处理器型号,这种场景,称之为算子的泛化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0044_html.md ## DSL性能优化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0045.html - Description: DSL方式进行算子代码实现时,性能优化主要有以下三种方法: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0045_html.md ## TIK简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0047.html - Description: TIK(Tensor Iterator Kernel)是一种基于Python语言的动态编程框架,呈现为一个Python模块。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0047_html.md ## 入门示例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0048.html - Description: 本节以一个简单的Add算子为例,带您快速熟悉TIK算子的编写流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0048_html.md ## TIK算子实现流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0049.html - Description: 基于TIK API编写TIK算子Python程序的通用步骤,如下图所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0049_html.md ## TIK数据定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0050.html - Description: - 指用于数据定义和运算的每一个数的数值类型,包括:int8, uint8, int16, uint16, int32, uint32, float16, float32,uint1(bool)等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0050_html.md ## TIK作用域 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0051.html - Description: TIK的作用域即一个TIK变量有效的区域,又可叫生命周期或活跃状态。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0051_html.md ## TIK程序控制 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0052.html - Description: 过程式编程的程序结构元素包括:顺序、分支、循环。TIK提供if\_scope、elif\_scope和else\_scope接口在TIK DSL程序中定义分支结构;提供for\_range接口在TIK DSL程序中定义循环结构;除此之外,其它的TIK DSL接口在当前的代码块中形成顺序结构。TIK借用Python的with语句特性,表达代码块语义。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0052_html.md ## TIK数据搬运 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0053.html - Description: 对于Vector计算,一般是用Unified Buffer去存放数据,再进行计算,所以整体数据流应该是从Global Memory>Unified Buffer>Global Memory。TIK提供了data\_move接口实现Global Memory和Unified Buffer间的数据搬运,函数原型为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0053_html.md ## TIK矢量计算 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0054.html - Description: TIK提供了大量计算类API以调用Vector计算资源展开计算,用户需要关注API参数的合理设置以及背后的原理。考虑到API参数的共通性,以下仅以矢量单目运算API为例进行阐述。矢量单目运算的函数原型如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0054_html.md ## TIK表达式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0055.html - Description: 本节主要介绍TIK中表达式即Expr的概念和相关技巧。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0055_html.md ## TIK语句 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0056.html - Description: 上节我们讲过表达式的概念。TIK表达式不会生成对应的IR,而TIK语句会生成对应的IR,当TIK语句中包含了表达式时,表达式会被实例化进行相应的计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0056_html.md ## TIK函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0057.html - Description: 经过前几章的学习,相信读者已经掌握了编写TIK算子的数据搬运和矢量计算的技能,以及了解了TIK作为代码生成器的本质,也已经可以编写一些最基本的TIK算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0057_html.md ## TIK功能调试 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0058.html - Description: 用户开发完TIK算子之后,建议使用TIK调试工具进行算子调试,这样可以通过模拟算子运行的过程,解决算子的绝大部分功能问题(例如数据越界)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0058_html.md ## TIK算子泛化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0059.html - Description: 在TIK简介的示例中,我们仅支持固定的数据输入个数和数据类型,所有的tensor申请的大小和TIK API参数配置为固定值。但是我们若想编写“一类”算子,要能够适应任何合法的数据类型、数据形状和数据排布格式,这种场景就称之为算子的泛化。由于当前版本TIK对数据排布格式不敏感,所以算子的泛化仅考虑数据类型和数据形状的泛化即可。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0059_html.md ## TIK常见编译错误 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0066.html - Description: 当发生TIK编译错误时,在界面上显示错误信息、发生错误时算子的代码行、算子源代码的上下文和算子调用堆栈,下面是部分英文错误信息,中文含义, 处理方式: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0066_html.md ## 入门样例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0068.html - Description: 该样例实现了从Global Memory中的A,B两处分别读取128个float16类型的数值,相加,并将结果写入Global Memory地址C中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0068_html.md ## 进阶样例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0069.html - Description: 本节设计了一个张量加法的Sample,通过综合应用文档介绍的TIK优化机制,增强用户对TIK编程与优化的理解。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0069_html.md ## 更多样例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0070.html - Description: 单击Gitee\(https://gitee.com/ascend/samples/\)或Github\(https://github.com/Ascend/samples\),进入Ascend samples样例仓,参见README中的“版本说明”下载配套版本的sample包,从“cplusplus/level1\_single\_api/4\_op\_dev/1\_custom\_op/tbe/impl”目录中获 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0070_html.md ## CANN商业版-AI CPU算子的实现包括两部分: - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0072.html - Description: AI CPU算子的实现包括两部分: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0072_html.md ## 算子类声明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0073.html - Description: 用户需要在算子工程的“cpukernel/impl/xx.h”文件中进行算子类的声明,如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0073_html.md ## 实现流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0075.html - Description: 用户需要在算子工程的“cpukernel/impl/xx.cc”文件中进行算子的计算逻辑实现,如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0075_html.md ## Compute函数实现 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0076.html - Description: Compute函数实现示例如下,主要包括合法性校验和计算逻辑实现两部分,可根据需要在合适的地方调用Dump日志接口,打印相关调试信息。示例中使用到的API接口介绍可参见AI CPU API。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0076_html.md ## CANN商业版-算子信息库作为算子开发的交付件之一 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0078.html - Description: 算子信息库作为算子开发的交付件之一,主要体现算子在AI处理器上的具体实现规格。针对TBE算子,算子信息库包括算子支持的输入输出dtype、format以及输入shape等信息;针对AI CPU算子,算子信息库包括算子输入输出的name,支持的dtype、format等信息。网络运行时,图编译器会根据算子信息库中的算子信息做基本校验,并进行算子匹配。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0078_html.md ## TBE算子信息库 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0079.html - Description: 算子开发者需要通过配置算子信息库文件,将算子在AI处理器上相关实现信息注册到算子信息库中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0079_html.md ## AI CPU算子信息库 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0080.html - Description: 算子开发者需要通过配置算子信息库文件,将算子在AI处理器上相关实现信息注册到算子信息库中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0080_html.md ## 适配插件开发(TensorFlow框架) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0083.html - Description: 您可以参考本章节进行算子适配插件的开发,将第三方框架的算子映射成适配AI处理器的算子。基于TensorFlow 框架的网络运行时,首先会加载并调用Graph Engine(简称GE)中的插件信息,将原始框架网络中的算子进行解析并映射成适配AI处理器算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0083_html.md ## 适配插件开发(ONNX框架) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0085.html - Description: 您可以参考本章节进行算子适配插件的开发,将基于第三方框架的算子映射成适配AI处理器的算子,将算子信息注册到Graph Engine(简称:GE)中。基于ONNX框架的网络运行时,首先会加载并调用GE中的插件信息,将原始框架网络中的算子进行解析并映射成适配AI处理器中的算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0085_html.md ## 适配插件开发(PyTorch框架) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0086.html - Description: Pytorch框架单算子模式下的适配插件开发流程和具体样例请参见《Ascend Extension for PyTorch 套件与三方库支持清单\(https://www.hiascend.com/document/detail/zh/Pytorch/60RC2/modthirdparty/modparts/thirdpart\_0002.html\)》中的单算子适配OpPlugin插件开发章节。图模式 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0086_html.md ## CANN商业版-自定义算子开发完成后 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0088.html - Description: 自定义算子开发完成后,需要对算子工程编译出可直接安装的自定义算子run包,然后进行run包的安装,将自定义算子部署到CANN算子库。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0088_html.md ## 算子工程编译 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0089.html - Description: 算子交付件开发完成后,需要对算子工程进行编译,生成自定义算子安装包*.run,详细的编译操作包括: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0089_html.md ## 算子包部署 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0091.html - Description: 算子部署指将算子编译生成的自定义算子安装包(*.run)部署到CANN算子库中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0091_html.md ## CANN商业版-自定义算子部署到算子库后 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0093.html - Description: 自定义算子部署到算子库后,可进行ST(System Test)测试,在真实的硬件环境中,验证算子功能的正确性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0093_html.md ## CANN商业版-CANN开发套件包中提供了ST测试工具:msopst - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0096.html - Description: CANN开发套件包中提供了ST测试工具:msopst,支持生成算子的ST测试用例并在硬件环境中执行。具有如下功能:- 根据算子信息库定义文件(*.ini)生成算子测试用例定义文件(*.json),作为算子ST测试用例的输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0096_html.md ## 生成测试用例定义文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0097.html - Description: 指导用户使用msopst工具生成算子测试用例定义文件(*.json),作为算子ST测试用例的输入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0097_html.md ## 生成/执行测试用例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0098.html - Description: 指导用户根据算子测试用例定义文件生成ST测试数据及测试用例执行代码,在硬件环境上执行算子测试用例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0098_html.md ## 测试用例定义文件配置样例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0099.html - Description: - Less算子的测试用例定义文件“Less\_case.json”如下所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0099_html.md ## 基于ST测试样例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0100.html - Description: 命令行场景下,开发者可以直接基于Ascend社区中提供的算子测试样例代码进行修改,适配自己的算子测试代码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0100_html.md ## 算子网络测试(推理) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0102.html - Description: 算子部署到算子库后,可以将其加载到网络模型中进行整网的推理验证,验证自定义算子在网络中运行结果是否正确。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0102_html.md ## CANN商业版-算子部署到算子库后 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0104.html - Description: 算子部署到算子库后,可通过运行包含自定义算子的TensorFlow网络,验证算子在网络中的运行结果是否正确。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0104_html.md ## 实现过程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0105.html - Description: 本节详细介绍通过构造仅包含待验证算子的单算子网络进行算子验证的方法。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0105_html.md ## 算子网络测试(训练,PyTorch) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0106.html - Description: 完成算子适配开发后,可通过运行适配昇腾处理器的PyTorch算子,验证算子运行结果是否正确。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0106_html.md ## 精度基本概念 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0109.html - Description: 绝对误差和相对误差是常用的衡量精度的概念,通俗的说,绝对误差是指真实值和测量值的差值,相对误差是这个差值和真实值的比。用公式表示为 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0109_html.md ## 精度查看方法 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0110.html - Description: 本节我们介绍一种借助开源的可视化工具Octave分析相对误差的方法。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0110_html.md ## 数据类型转换 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0112.html - Description: 由于float16数据类型本身存在精度限制,详情请参见Link\(https://en.wikipedia.org/wiki/Half-precision\_floating-point\_format\),所以在进行算子实现时,可将入参中float16类型的数据转换成float32类型进行计算,用高精度数据进行中间计算来提升精度,从而提升最终结果的精度。当中间计算过程较为复杂时,此方法精度提升效果比较明 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0112_html.md ## 指令精度优化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0113.html - Description: 指令精度优化仅针对TBE DSL开发方式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0113_html.md ## 数学公式优化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0114.html - Description: 对于一些数学算子,常常采用泰勒级数用无限项连加式来拟合,这些相加的项由函数在某一点的导数求得,通过函数在自变量零点的导数求得的泰勒级数又叫做麦克劳林级数。在数学上,对于一个在实数或复数α邻域上,以实数作为变量或以复数作为变量、无穷可微的函数放f\(x\),它的泰勒级数是以下这种形式的幂级数: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0114_html.md ## CANN商业版-总结 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0115.html - Description: 针对TBE算子,我们已经介绍了一些定位以及解决精度问题的方法。总结一下,当我们遇到精度问题,可以按照以下步骤来解决: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0115_html.md ## TBE算子性能优化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0116.html - Description: 当DSL方式实现的算子性能不满足需求时,可以参考如下流程进行优化: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0116_html.md ## AI Core算子执行时间超时导致网络运行失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0144.html - Description: 执行模型推理时,返回模型执行失败。Device侧日志中有如下ERROR级别的打印日志,关键信息如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0144_html.md ## 网络调测时ReduceSum算子性能差如何处理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0146.html - Description: 网络调测时,网络整体性能较慢。通过Profiling工具获取网络的Profiling数据(Profiling工具的使用方法可参见对应版本的《性能调优工具\(https://www.hiascend.com/document/detail/zh/canncommercial/900/devaids/Profiling/atlasprofiling\_16\_0144.html\)》),并进行算子的性能数据分 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0146_html.md ## 开启AI CPU Cast算子自动插入特性 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/tbeaicpudevg/atlasopdev_10_0147.html - Description: 模型编译时,若遇到AI CPU算子不支持某种数据类型导致编译失败的场景,可通过启用Cast算子自动插入特性快速将输入转换为算子支持的数据类型,从而实现网络的快速打通。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_others_tbeaicpudevg_atlasopdev_10_0147_html.md ## CANN商业版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_acldevg_0001_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000006.html - Description: 基于CANN提供的接口开发、编译AI应用时,开发环境需具备如下软硬件基本要求: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000006_html.md ## 模型推理简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000026.html - Description: 本章中的模型是指基于CANN图引擎(Graph Engine, 简称GE)将训练好的开源框架网络模型编译生成的om模型。GE在编译模型时会执行图优化、算子调度优化和权重数据重排等操作,以进一步调优开源框架的网络模型,满足部署场景下的高性能需求,确保其在AI处理器上高效运行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000026_html.md ## 模型编译 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000027.html - Description: 以运行用户登录开发环境。使用ATC工具将开源框架的网络模型(如ONNX、TensorFlow等)编译成*.om模型文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000027_html.md ## 模型加载 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000029.html - Description: 本节描述的是整网模型加载的接口调用流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000029_html.md ## 模型执行 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000030.html - Description: 本节描述的是整网模型执行的接口调用流程。本节结合接口调用流程、示例代码介绍模型执行前需要准备哪些数据、模型执行接口以及模型执行之后需要释放哪些资源。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000030_html.md ## 模型卸载 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000031.html - Description: 模型执行结束后,需及时卸载模型,释放模型资源。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000031_html.md ## 异步模型推理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000033.html - Description: 本节介绍异步推理接口如何与回调函数配合使用,每隔一段时间下发一次回调任务,获取前一段时间内的异步推理结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000033_html.md ## 多模型串联推理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000034.html - Description: 多模型推理的基本流程与单模型类似,请参见静态Shape输入模型推理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000034_html.md ## 队列方式模型推理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000035.html - Description: 本节介绍如何基于队列加载模型、准备模型输入数据、获取模型推理输出数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000035_html.md ## 概念及使用约束 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000037.html - Description: AIPP(Artificial Intelligence Pre-Processing)用于在AI Core上完成图像预处理,包括色域转换(转换图像格式)、图像归一化(减均值/乘系数)和抠图(指定抠图起始点,抠出神经网络需要的图片大小)等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000037_html.md ## 动态AIPP(单个动态AIPP输入) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000038.html - Description: 本节介绍在执行模型推理时,单个动态AIPP输入的模型所涉及的关键接口、示例代码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000038_html.md ## 动态AIPP(多个动态AIPP输入) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000039.html - Description: 本节介绍在执行模型推理时,多个动态AIPP输入的模型所涉及的关键接口、示例代码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000039_html.md ## 概念及使用约束 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000041.html - Description: **表1 概念介绍** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000041_html.md ## 动态Batch/动态分辨率/动态维度(设置多档维度值) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000043.html - Description: 本节介绍动态Batch/动态分辨率/动态维度功能涉及的关键接口、接口调用流程及示例代码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000043_html.md ## 动态Shape输入(设置Shape范围) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000044.html - Description: 本节介绍动态Shape输入场景下,如何设置Shape范围,介绍其关键接口、接口调用流程及示例代码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000044_html.md ## 权重更新(由系统管理内存) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000045.html - Description: 对于权重更新的场景,为便于用户一次编译模型后,在模型执行阶段能动态更新权重,可通过以下接口配合使用实现该功能: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000045_html.md ## 媒体数据处理功能简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000047.html - Description: 本章主要介绍图像/视频/音频数据处理的具体功能、接口调用流程以及示例代码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000047_html.md ## 媒体数据处理多版本接口的差异 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000048.html - Description: 以下是各套媒体数据处理接口的简介,各套接口不可混用: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000048_html.md ## 各产品型号功能支持情况 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000049.html - Description: 各产品型号上媒体数据处理各功能的支持度如下表所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000049_html.md ## VPC图像处理典型功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000051.html - Description: 本节以抠图、缩放为例说明VPC图像处理时的接口调用流程,同时配合以下典型功能的示例代码辅助理解该接口调用流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000051_html.md ## JPEGD图像解码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000052.html - Description: 本节介绍JPEGD图片解码的接口调用流程,同时配合示例代码辅助理解该接口调用流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000052_html.md ## JPEGE图片编码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000053.html - Description: 本节介绍JPEGE图片编码的接口调用流程,同时配合示例代码辅助理解该接口调用流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000053_html.md ## PNGD图片解码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000054.html - Description: 本节介绍PNGD图片解码的接口调用流程,同时配合示例代码辅助理解该接口调用流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000054_html.md ## VDEC视频解码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000055.html - Description: 本节介绍VDEC视频解码的接口调用流程,同时配合示例代码辅助理解该接口调用流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000055_html.md ## VENC视频编码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000056.html - Description: 本节介绍VENC视频编码的接口调用流程,同时配合示例代码辅助理解该接口调用流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000056_html.md ## VPC图片处理典型功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000058.html - Description: 本节以抠图、缩放为例说明VPC图像处理时的接口调用流程,同时配合以下典型功能的示例代码辅助理解该接口调用流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000058_html.md ## JPEGD图片解码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000059.html - Description: 本节介绍JPEGD图片解码的接口调用流程,同时配合示例代码辅助理解该接口调用流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000059_html.md ## JPEGE图片编码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000060.html - Description: 本节介绍JPEGE图片编码的接口调用流程,同时配合示例代码辅助理解该接口调用流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000060_html.md ## PNGD图片解码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000061.html - Description: 本节介绍PNGD图片解码的接口调用流程,同时配合示例代码辅助理解该接口调用流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000061_html.md ## VDEC视频解码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000062.html - Description: 本节介绍VDEC视频解码的接口调用流程,同时配合示例代码辅助理解该接口调用流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000062_html.md ## VENC视频编码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000063.html - Description: 本节介绍VENC视频编码的接口调用流程,同时配合示例代码辅助理解该接口调用流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000063_html.md ## 视频数据获取功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000065.html - Description: 视频获取功能需要ISP、MIPI Rx、VI等多个功能模块配合才能实现,本节介绍视频数据获取功能的总体接口调用流程、各功能模块的接口调用流程及注意事项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000065_html.md ## 视频数据获取+VPSS视频处理功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000066.html - Description: VPSS必须配合VI模块一起使用,本节介绍其接口调用流程及注意事项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000066_html.md ## NVR场景视频解码、处理和显示 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000067.html - Description: 本节介绍NVR视频业务处理的典型流程、关键接口及注意事项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000067_html.md ## NVR场景语音对讲 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000068.html - Description: 本节介绍NVR音频业务处理的典型流程、关键接口及注意事项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000068_html.md ## 音频获取&音频播放 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000069.html - Description: 本节介绍音频获取、音频播放功能的接口调用流程及注意事项。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000069_html.md ## 采用VPC多功能组合接口,减少系统调度压力,性能更优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000074.html - Description: 在对图像进行抠图、缩放、贴图、填充等处理时,媒体数据处理部分提供了以下实现功能的接口: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000074_html.md ## 采用VPC批处理接口,降低时延,性能更优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000075.html - Description: 在对图像进行抠图、缩放等处理时,媒体数据处理部分提供了以下两类接口: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000075_html.md ## 合理选择VDEC视频解码输出格式和分辨率,性能更优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000076.html - Description: 如果用户需要借助DVPP进行视频解码,想要得到RGB格式图片,在部分AI处理器上,当前视频解码接口aclvdecSendFrame支持输出YUV420SP格式或RGB888格式,且支持在解码时对图片进行缩放,所以从提升性能的角度,可以优化代码逻辑,直接调用视频解码接口aclvdecSendFrame输出RGB888格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000076_html.md ## 合理使用VDEC解码跳帧,减少内存申请,减轻VPC压力,性能更优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000077.html - Description: 在视频解码+模型推理的场景下,若视频的帧数比较多,且不是每一帧都需要进行推理,对于不需要推理的帧,推荐用户使用aclvdecSendSkippedFrame接口进行解码,不输出解码结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000077_html.md ## VPC处理时合理选择输出格式,降低内存申请,性能更优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000078.html - Description: VPC图像处理功能支持输出YUV400格式(灰度图像),如果模型推理的输入图像是灰度图像,就直接使用VPC功能,无需再使用AIPP色域转换功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000078_html.md ## 采用VPC多功能组合接口,减少系统调度压力,性能更优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000080.html - Description: 在对图像进行抠图、缩放、贴图、填充等处理时,媒体数据处理部分提供了以下实现功能的接口: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000080_html.md ## 采用VPC批处理接口,降低时延,性能更优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000081.html - Description: 在对图像进行抠图、缩放等处理时,媒体数据处理部分提供了以下两类接口: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000081_html.md ## 合理选择VDEC视频解码输出格式和分辨率,性能更优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000082.html - Description: 如果用户需要借助DVPP进行视频解码,想要得到RGB格式图片,在部分AI处理器上当前视频解码接口hi\_mpi\_vdec\_send\_stream支持输出YUV420SP格式或RGB888格式,且支持在解码时对图片进行缩放,所以从提升性能的角度,可以优化代码逻辑,直接调用视频解码接口hi\_mpi\_vdec\_send\_stream输出RGB888格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000082_html.md ## 合理使用VDEC解码跳帧,减少内存申请,减轻VPC压力,性能更优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000083.html - Description: 在视频解码+模型推理的场景下,若视频的帧数比较多,且不是每一帧都需要进行推理,对于不需要推理的帧,推荐用户在调用hi\_mpi\_vdec\_send\_stream接口解码时设置当前帧输出不显示,不输出解码结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000083_html.md ## VPC处理时合理选择输出格式,降低内存申请,性能更优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000084.html - Description: VPC图像处理功能支持输出YUV400格式(灰度图像),如果模型推理的输入图像是灰度图像,就直接使用VPC功能,无需再使用AIPP色域转换功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000084_html.md ## 合理设置队列深度,减少硬件资源浪费,提升性能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000085.html - Description: 可使用媒体数据处理V2版本接口,配置VPC队列深度,队列深度范围\[10,350\]之间。用户业务下发任务时,若VPC队列满后,会反压阻塞任务下发,影响性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000085_html.md ## 特征向量检索(FV) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000092.html - Description: 该部分主要实现了对特征检索的功能验证,生成随机底库,随机生成特征数据进行特征检索(当前支持1:N、M:N两种检索模式,下文的示例代码以1:N为例)。大致可分为初始化、添加特征到底库、底库搜索、精准修改或删除底库特征、去初始化几个主要步骤,具体接口调用方式如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000092_html.md ## 调优简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000096.html - Description: 本章重点介绍推理应用的精度、性能调优,由于是调优,因此在调优前,请确保已经完成了整网推理功能调测,功能不阻塞,只是推理精度错误、推理精度与标杆数据存在少量差距、模型推理性能不符合预期或待提升等问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000096_html.md ## 精度提升简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000098.html - Description: 本文介绍整网推理场景下的精度调优流程、相关配置及典型案例等。由于是调优,因此在调优前,请确保已经完成了整网推理功能调测,功能不阻塞,只是推理精度错误,或推理精度与标杆数据存在少量差距。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000098_html.md ## 问题描述 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000101.html - Description: 推理结果不达标,包括以下两种情况: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000101_html.md ## 问题定位流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000102.html - Description: 图1 定位流程 1. 推理结果错误,为了后续定位问题,需要重新执行推理,用于获取模型的Dump数据。 获取模型的Dump数据,需要调用acl接口打开Dump开关,详细描述请参见《精度调试工具\(https://www.hiascend. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000102_html.md ## 配置精度模式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000103.html - Description: 如果在模式转换时不指定网络模型或算子的精度模式,默认采用fp16(float16)数据类型进行计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000103_html.md ## 关闭数据缓存优化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000104.html - Description: 如果在模型转换时不指定关闭数据缓存优化功能,当前默认开启数据缓存优化,开启数据缓存优化可提高计算效率、提升性能,但由于部分算子在实现上可能存在未考虑的场景,导致影响精度,因此在出现精度问题时可以尝试关闭数据缓存优化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000104_html.md ## 关闭融合规则 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000105.html - Description: 如果在模型转换时不指定关闭融合规则,当前默认开启融合规则,开启融合规则可提高计算效率、提升性能,但算子之间可能会融合,融合后的部分算子在实现上可能存在未考虑的场景,导致影响精度,因此在出现精度问题时可以尝试关闭融合规则。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000105_html.md ## 检查数据处理或配置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000106.html - Description: 1. 检查om模型与标杆网络推理的输入数据以及输入数据的处理是否一致,如果不一致,需调整成一致。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000106_html.md ## 案例介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000107.html - Description: FastRCNN网络,模型转换时,保持默认高性能模式、force\_fp16精度模式,推理出来的精度错误,MAP结果为0。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000107_html.md ## 模型推理性能调优思路 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000109.html - Description: 在整网推理时,可能由于模型在AI处理器上的算子适配、数据读写等问题,导致模型推理的性能不符合预期,您可以查阅本节介绍的内容,了解模型推理时的性能调优流程。由于是调优,因此在调优前,请确保已经完成了整网推理功能调测,功能不阻塞,只是模型推理性能不符合预期、待提升。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000109_html.md ## 使用AOE工具调优模型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000110.html - Description: 本节介绍推理场景下使用aoe命令进行子图调优、算子调优的基本方法。在调优前,您需要先参见《AOE调优工具\(https://www.hiascend.com/document/detail/zh/canncommercial/900/devaids/aoe/auxiliarydevtool\_aoe\_0001.html\)》准备好环境、了解使用约束以及基本的参数使用方法。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000110_html.md ## 采集&解析性能数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000111.html - Description: 本节介绍推理场景下使用msprof命令行方式采集和解析性能数据、并通过生成的结果文件分析性能瓶颈的基本方法。在使用msprof命令行前,您需要先参见《性能调优工具\(https://www.hiascend.com/document/detail/zh/canncommercial/900/devaids/Profiling/atlasprofiling\_16\_0144.html\)》准备好环境、了解 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000111_html.md ## 基于精度的自动量化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000113.html - Description: 基于精度的自动量化是为了方便用户在对量化精度有一定要求时所使用的功能,是借助AMCT工具提供的Python接口实现。该方法能够在保证用户所需的模型精度前提下,自动搜索模型的量化配置并执行训练后量化的流程,最终生成满足精度要求的量化模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000113_html.md ## 关于增加校准集的建议 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000114.html - Description: 在基于精度的自动量化时,手动修改量化配置中的batch\_num,可根据batch大小以及量化需要使用的图片数量调整,以便调整校准使用的数据量。batch\_num控制量化使用数据的batch数目,batch\_num \= total\_nums / batch\_size,其中,total\_nums表示总的图片数量,batch\_size表示每个batch使用的图片数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000114_html.md ## 查找量化场景下的精度损失层 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000115.html - Description: 当前仅支持Caffe框架模型,使用精度比对工具查找量化场景下的精度损失层,主要包含以下两步的比对: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000115_html.md ## 配置skip\_layers跳过量化损失大的层 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000116.html - Description: 使用精度比对工具比对原始模型、量化后模型各层的精度,查找精度损失大的层,在基于精度的自动量化时通过配置skip\_layers跳过量化损失大的层。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000116_html.md ## FAQ案例集 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000137.html - Description: 调试应用过程中可能遇到运行时资源异常、推理报错、算子执行报错等问题,您可以参见《故障处理\(https://www.hiascend.com/document/detail/zh/canncommercial/900/maintenref/troubleshooting/troubleshooting\_0001.html\)》中的“故障案例集\(https://www.hiascend.comdocum - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000137_html.md ## 使用约束 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000222.html - Description: **表1 总体约束列表** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000222_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000523.html - Description: CANN应用开发场景涉及Runtime、图引擎(Graph Engine,简称GE)和DVPP(Digital Vision Pre-Processing)等组件提供的接口。各组件提供的接口及其详细说明,请参见各组件的API参考。本节仅介绍接口分类以及调用接口时依赖的头文件和库文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000523_html.md ## 权重更新(由用户管理内存) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000527.html - Description: 对于权重更新的场景,为便于用户一次编译模型后,在模型执行阶段能动态更新权重,可通过以下接口配合使用实现该功能: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000527_html.md ## 入门样例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000530.html - Description: 本样例展示了如何使用CANN的Runtime API以及算子库中的Add算子实现向量加法运算out \= self + alpha * other。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000530_html.md ## CANN内置算子调用 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000531.html - Description: CANN算子库提供了一系列丰富且经过深度优化、硬件亲和的高性能内置算子,可直接应用于AI业务。算子包括Device侧Kernel实现和Host侧调用两部分,为方便调用,每个算子都提供了相应的C语言API,方便用户在Host侧调用,下文简称单算子API(或者算子Host API)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000531_html.md ## 集合通信 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000537.html - Description: 集合通信库HCCL(Huawei Collective Communication Library)是基于昇腾硬件的高性能集合通信库,为计算集群提供高性能、高可靠的通信方案。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000537_html.md ## 单边通信 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000538.html - Description: HIXL(Huawei Xfer Library)是一个灵活、高效的昇腾单边通信库,面向集群场景提供简单、可靠、高效的点对点数据传输能力,并通过简易API开放给用户, 在多AI应用和多传输链路之间建立了桥梁。可用于构建大模型PD分离、RL后训练参数切换、模型参数缓存等多种业务场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000538_html.md ## 查看日志 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000540.html - Description: 日志主要用于记录系统的运行过程及异常信息,帮助用户快速定位系统运行过程中出现的问题以及开发过程中的程序调试问题。日志分为如下几类:- 系统类日志:系统运行时在Device侧产生的日志。主要包括: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000540_html.md ## 性能分析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000541.html - Description: 性能调优工具用于采集和分析运行在AI处理器上的AI任务在各运行阶段的关键性能指标,用户可根据输出的性能数据,快速定位软、硬件性能瓶颈,提升AI任务性能分析的效率。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000541_html.md ## 媒体数据处理算子 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclcppdevg_000542.html - Description: 调用媒体数据处理算子通常采用“两段式接口”形式,具体如下,其中“acldvpp”表示算子接口前缀\=;而“Xxx”表示对应的算子类型,如EncodeJpeg算子。``` - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclcppdevg_000542_html.md ## CANN商业版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/acldevg_0001.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_acldevg_0001_html.md ## 接口调用流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0005.html - Description: 调用pyacl接口,可开发包含模型推理、媒体数据处理、单算子调用等功能的应用,这些功能可以独立存在,也可以组合存在。下图给出了使用pyacl接口开发AI应用的整体接口调用流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0005_html.md ## 应用开发环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0006.html - Description: 开发应用前,需安装驱动固件及CANN软件,请参见《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/canncommercial/900/softwareinst/instg/instg\_0000.html\)》部署环境。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0006_html.md ## 初始化与去初始化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0007.html - Description: 关于初始化与去初始化的接口调用流程,请参见接口调用流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0007_html.md ## 运行时资源申请与释放 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0009.html - Description: 开发应用时,应用程序中必须包含运行时资源申请的代码逻辑,关于运行时资源申请的接口调用流程,请先参见接口调用流程了解整体流程,再查看本节中的资源申请、释放流程说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0009_html.md ## 原理介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0017.html - Description: Stream是一个任务队列,应用程序通过Stream来管理任务的并行,一个Stream内部的任务保序执行,即Stream根据发送过来的任务依次执行,不同Stream中的任务并行执行。一个默认Context下会挂一个默认Stream,如果不显式创建Stream,可使用默认Stream。默认Stream作为接口入参时,直接传0。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0017_html.md ## 单线程单Stream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0018.html - Description: 调用接口后,需增加异常处理的分支,并记录报错日志、提示日志,此处不一一列举。以下是关键步骤的代码示例,不可以直接拷贝运行,仅供参考。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0018_html.md ## 单线程多Stream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0019.html - Description: 调用接口后,需增加异常处理的分支,并记录报错日志、提示日志,此处不一一列举。以下是关键步骤的代码示例,不可以直接拷贝运行,仅供参考。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0019_html.md ## 多线程多Stream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0020.html - Description: 调用接口后,需增加异常处理的分支,并记录报错日志、提示日志,此处不一一列举。以下是关键步骤的代码示例,不可以直接拷贝运行,仅供参考。``` - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0020_html.md ## 基本原理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0023.html - Description: 提供以下几种同步机制: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0023_html.md ## 关于Event的同步等待 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0024.html - Description: 调用接口后,需增加异常处理的分支,并记录报错日志、提示日志,此处不一一列举。以下是关键步骤的代码示例,不可以直接拷贝运行,仅供参考。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0024_html.md ## 关于Stream内任务的同步等待 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0025.html - Description: 调用接口后,需增加异常处理的分支,并记录报错日志、提示日志,此处不一一列举。以下是关键步骤的代码示例,不可以直接拷贝运行,仅供参考。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0025_html.md ## 关于Stream间任务的同步等待(通过Event实现) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0026.html - Description: 多Stream之间任务的同步等待可以利用Event实现,调用acl.rt.stream\_wait\_event\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/runtimeapi/aclpythondevg\_01\_0101.html\)接口阻塞指定Stream的运行,直到指定的Event完成。需在调用acl.rt.s - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0026_html.md ## 关于Device的同步等待 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0027.html - Description: 调用接口后,需增加异常处理的分支,并记录报错日志、提示日志,示例代码中不一一列举。以下是关键步骤的代码示例,不可以直接拷贝运行,仅供参考。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0027_html.md ## 开发流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0029.html - Description: 图1 开发流程 1. 准备环境,包括开发环境和运行环境。 2. 创建代码目录。 在开发应用前,您需要先创建目录,存放代码文件、测试图片数据、模型文件等。如下仅是示例,可参考: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0029_html.md ## 模型构建 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0030.html - Description: 对于开源框架的网络模型(如Caffe、TensorFlow等),不能直接在AI处理器上做推理,需要先使用ATC(Ascend Tensor Compiler)工具将开源框架的网络模型转换为适配AI处理器的离线模型(*.om文件)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0030_html.md ## 模型加载 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0031.html - Description: 从模型构建中的说明构建出模型后,需进行模型加载,为模型执行做准备。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0031_html.md ## 模型执行 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0032.html - Description: 开发应用时,如果涉及整网模型推理,则应用程序中必须包含模型执行的代码逻辑,关于模型执行的接口调用流程。请先参见接口调用流程了解整体流程,再查看本节中的流程说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0032_html.md ## 模型卸载 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0033.html - Description: 关于模型卸载的接口调用流程,请参见接口调用流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0033_html.md ## 多Batch模型推理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0034.html - Description: 多Batch推理的基本流程与单Batch类似,请参见模型管理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0034_html.md ## 多模型串联推理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0035.html - Description: 多模型推理的基本流程与单模型类似,请参见模型管理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0035_html.md ## 接口调用流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0037.html - Description: 开发应用时,如果涉及异步场景下的同步等待,则应用程序中必须包含相关的代码逻辑,关于该场景的接口调用流程,请参见下图。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0037_html.md ## 示例代码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0038.html - Description: 您可以从样例介绍\(https://gitee.com/ascend/samples/tree/master/python/level2\_simple\_inference/1\_classification/resnet50\_async\_imagenet\_classification\)中查看完整样例代码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0038_html.md ## 概念及使用约束 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0040.html - Description: AIPP\(Artificial Intelligence Pre-Processing\)用于在AI Core上完成图像预处理,包括色域转换(转换图像格式)、图像归一化(减均值/乘系数)和抠图(指定抠图起始点,抠出神经网络需要大小的图片)等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0040_html.md ## 动态AIPP(单个动态AIPP输入) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0041.html - Description: 动态AIPP场景下模型推理与模型管理的流程类似,都涉及初始化与去初始化、运行时资源申请与释放、模型构建、模型加载、模型执行、模型卸载等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0041_html.md ## 动态AIPP(多个动态AIPP输入) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0042.html - Description: 模型有多个动态AIPP输入时的推理基本流程与单个动态AIPP输入类似,请参见动态AIPP(单个动态AIPP输入)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0042_html.md ## 概念及使用约束 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0044.html - Description: **表1 概念介绍** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0044_html.md ## 动态Batch/动态分辨率/动态维度(设置多档维度值) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0046.html - Description: 动态Shape输入场景下模型推理与模型管理的流程类似,都涉及初始化与去初始化、运行时资源申请与释放、模型构建、模型加载、模型执行、模型卸载等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0046_html.md ## 动态Shape输入(设置Shape范围) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0047.html - Description: Atlas 200I/500 A2 推理产品 不支持该特性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0047_html.md ## 媒体数据处理基础知识 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0049.html - Description: 本章主要介绍图像/视频数据处理的具体功能、接口调用流程以及示例代码。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0049_html.md ## V1与V2版本的差别 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0050.html - Description: 本手册中媒体数据处理V1版本与媒体数据处理V2版本的接口都是描述处理媒体数据的接口,用于实现抠图、图片缩放、格式转换等功能,但两套接口不能混用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0050_html.md ## 各产品功能支持度说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0051.html - Description: AI处理器对媒体数据处理各功能的支持度如下表所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0051_html.md ## VPC图像处理典型功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0053.html - Description: VPC(Vision Preprocessing Core)负责图像处理功能,支持对图片做抠图、缩放、格式转换等操作。关于VPC功能的详细介绍请参见功能说明\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/dvpp/aclpythondevg\_01\_0294.html\),关于VPC功能对输入、输出的约束要求,请参见 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0053_html.md ## JPEGD图片解码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0054.html - Description: JPEGD(JPEG Decoder)负责完成图像解码功能,将.jpg、.jpeg、.JPG、.JPEG图片解码成YUV格式图片。关于JPEGD功能的详细介绍及约束请参见功能及约束说明\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/dvpp/aclpythondevg\_01\_0321.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0054_html.md ## JPEGE图片编码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0055.html - Description: JPEGE(JPEG Encoder)负责完成图像编码功能,将YUV格式图片编码成.jpg图片。关于JPEGE功能的详细介绍及约束请参见功能及约束说明\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/dvpp/aclpythondevg\_01\_0328.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0055_html.md ## PNGD图片解码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0056.html - Description: 本节介绍PNGD图片解码的接口调用流程,同时配合示例代码辅助理解该接口调用流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0056_html.md ## VDEC视频解码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0057.html - Description: VDEC(Video Decoder)负责将H.264/H.265格式的视频码流解码为YUV/RGB格式的图片。关于VDEC功能的详细介绍及约束请参见功能及约束说明\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/dvpp/aclpythondevg\_01\_0337.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0057_html.md ## VENC视频编码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0058.html - Description: VENC(Video Encoder)将YUV420SP格式的图片编码成H.264/H.265格式的视频码流。关于VENC功能的详细介绍及约束请参见功能及约束说明\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/dvpp/aclpythondevg\_01\_0366.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0058_html.md ## VPC图片处理典型功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0060.html - Description: VPC(Vision Preprocessing Core)负责图像处理功能,支持对图片做抠图、缩放、格式转换等操作。关于VPC功能的详细介绍请参见VPC功能\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/dvpp/aclpythondevg\_01\_0428.html\),关于VPC功能对输入、输出的约束要求,请参 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0060_html.md ## JPEGD图片解码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0061.html - Description: JPEGD(JPEG Decoder)负责完成图像解码功能,将.jpg、.jpeg、.JPG、.JPEG图片解码成YUV格式图片。关于JPEGD功能的详细介绍及约束请参见JPEGD功能及约束说明\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/dvpp/aclpythondevg\_01\_0476.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0061_html.md ## JPEGE图片编码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0062.html - Description: JPEGE(JPEG Encoder)负责完成图像编码功能,将YUV格式图片编码成.jpg图片。关于JPEGE功能的详细介绍请参见JPEGE功能及约束说明\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/dvpp/aclpythondevg\_01\_0502.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0062_html.md ## PNGD图片解码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0063.html - Description: 本节介绍PNGD图片解码的接口调用流程,同时配合示例代码辅助理解该接口调用流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0063_html.md ## VDEC视频解码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0064.html - Description: VDEC(Video Decoder)负责将H.264/H.265格式的视频码流解码为YUV/RGB格式的图片。关于VDEC功能的详细介绍及约束请参见VDEC功能及约束说明\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/dvpp/aclpythondevg\_01\_0478.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0064_html.md ## VENC视频编码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0065.html - Description: VENC(Video Encoder)将YUV420SP格式的图片编码成H.264/H.265格式的视频码流。关于VENC功能的详细介绍请参见VENC功能及约束说明\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/dvpp/aclpythondevg\_01\_0504.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0065_html.md ## CANN商业版-如果AI应用中不仅包括模型推理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0067.html - Description: 如果AI应用中不仅包括模型推理,还有数学运算(例如BLAS基础线性代数运算)、数据类型转换等功能,也想使用昇腾的算力,昇腾CANN还能支持吗? - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0067_html.md ## 开发流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0068.html - Description: 图1 开发流程 1. 准备环境。 请参见应用开发环境准备。 2. 创建代码目录。 在开发应用前,您需要先创建目录,存放代码文件、脚本、测试图片数据、模型文件等。 3. 准备算子。 使用ATC工具编译算子生成om模型文件。 该种方式,需要先构造.json格式单算子描述文件(描述算子的输入、输出及属性等信息),借助ATC工具, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0068_html.md ## 接口调用流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0069.html - Description: 开发应用时,如果涉及执行单个算子,则应用程序中必须包含执行单个算子的代码逻辑。关于执行单个算子的接口调用流程,请先参见接口调用流程了解整体流程,再查看本节中的流程说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0069_html.md ## 调用CBLAS接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0070.html - Description: 目前,pyacl已将GEMM算子(用于矩阵-向量乘、矩阵-矩阵乘)、Cast算子(用于转换数据类型)封装成pyacl接口,可参见CBLAS接口\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendgraphapi/aclpythondevg\_01\_0799.html\),目前支持以下两种执行方式:- 不以ha - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0070_html.md ## 固定Shape算子 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0071.html - Description: 对于不支持的算子,用户需参考《TBE&AI CPU算子开发\(https://www.hiascend.com/document/detail/zh/canncommercial/900/others/tbeaicpudevg/atlasopdev\_10\_0001.html\)》先完成自定义算子的开发,再参考如下内容执行单算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0071_html.md ## 动态Shape算子(不注册算子选择器) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0072.html - Description: 对于支持动态Shape的算子: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0072_html.md ## 特征向量检索 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0079.html - Description: Atlas 200I/500 A2 推理产品 上,不支持该功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0079_html.md ## 应用调试 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0080.html - Description: 运行应用的步骤,请参考基于Caffe ResNet-50网络实现图片分类(同步推理)\(https://gitee.com/ascend/samples/tree/master/python/level2\_simple\_inference/1\_classification/resnet50\_imagenet\_classification\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0080_html.md ## CANN商业版-调试应用过程中可能遇到运行时资源异常、推理报错、算子执行报错等问题 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0091.html - Description: 调试应用过程中可能遇到运行时资源异常、推理报错、算子执行报错等问题,您可以参见《故障处理\(https://www.hiascend.com/document/detail/zh/canncommercial/900/maintenref/troubleshooting/troubleshooting\_0001.html\)》中的“故障案例集\(https://www.hiascend.comdocum - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0091_html.md ## 使用约束 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0094.html - Description: - 进入系统休眠前,需要确保将正在运行的AI推理业务、媒体数据处理业务等进程退出。等待唤醒成功后,再继续执行业务。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0094_html.md ## 编程接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0098.html - Description: 接口命名同时满足如下规则: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0098_html.md ## 权重更新 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0099.html - Description: 对于权重更新的场景,为便于用户一次编译模型后,在模型执行阶段能动态更新权重,可通过以下接口配合使用实现该功能: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0099_html.md ## 关于Stream间任务的同步等待(通过Notify实现) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0101.html - Description: 多Stream之间任务的同步等待可以利用Notify实现,例如,若stream2的任务依赖stream1的任务,想保证stream1中的任务先完成,这时可创建一个Notify,调用acl.rt.record\_notify\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/runtimeapi/aclpythondev - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0101_html.md ## 编程模型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/aclpythondevg_0112.html - Description: 主机(或称Host):指X86服务器CPU、ARM服务器CPU,通过总线与一个或多个设备互联,利用设备提供的NN(Neural-Network)等计算能力完成业务。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_aclpythondevg_0112_html.md ## 编程模型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0001.html - Description: 主机(或称Host):指X86服务器CPU、ARM服务器CPU,通过总线与一个或多个设备互联,利用设备提供的NN(Neural-Network)等计算能力完成业务。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0001_html.md ## 初始化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0002.html - Description: CANN Runtime提供了aclInit、aclrtSetDevice接口,在应用程序启动时被调用,结合json配置文件完成如下功能: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0002_html.md ## 内存管理总述 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0004.html - Description: 在昇腾异构计算架构中,系统由主机(Host)和设备(Device)组成。Host和Device各自拥有独立的内存,Host内存是指AI处理器所在服务器的主机内存(即CPU内存),而Device内存则是指AI处理器自带的设备内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0004_html.md ## Device内存使用 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0005.html - Description: 在昇腾异构计算编程中,典型的使用场景是:通过aclrtMallocHost接口申请Host内存,通过aclrtMalloc接口申请Device内存,通过aclrtMemcpy(同步)/aclrtMemcpyAsync(异步)接口将数据从Host拷贝到Device上,算子执行过程中使用Device内存进行计算并保存结果。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0005_html.md ## Host锁页内存使用 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0006.html - Description: 在CANN编程框架中,Host内存可以是Pageable内存,也可以是Page-Locked内存(也称锁页内存或Pinned内存): - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0006_html.md ## 虚拟内存管理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0007.html - Description: Runtime提供了一套虚拟内存管理的API接口,可供开发者更加精细化的管理其内存,例如:可以提前申请好大片的连续的虚拟内存,以简化后续的管理使用,同时可以按需在使用过程中申请物理内存并与虚拟内存做地址映射,即可以精细化管理,也可以最大化利用物理内存;此外还可以在进程之间利用虚拟内存管理中的handle来实现物理内存共享。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0007_html.md ## Stream概念 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0011.html - Description: Stream描述了一个在Host下发并在Device上执行的任务队列。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0011_html.md ## Stream创建与销毁 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0012.html - Description: 调用aclrtCreateStream创建Stream,得到的aclrtStream对象作为后续的内存异步复制、Stream同步、Kernel执行等接口的Stream入参。显式创建的Stream需要调用aclrtDestroyStream接口显式销毁。销毁Stream时,如果Stream上有未完成的任务,则会等待任务完成后再销毁Stream。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0012_html.md ## 默认Stream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0013.html - Description: 在调用aclrtSetDevice接口或aclrtCreateContext接口时,Runtime会自动创建一个默认Stream。每个Context拥有一个默认Stream。如果不同的Host线程使用相同的Context,它们将共享同一个默认Stream。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0013_html.md ## 显式同步 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0014.html - Description: 对于异步任务接口,主机线程调用异步任务接口后仅代表下发任务,不代表任务执行完成。用户需要显式调用设备同步、流同步等显式同步接口等待任务完成。调用此类显式同步接口后,主机线程会阻塞直到相关的任务执行完成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0014_html.md ## Host回调任务 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0015.html - Description: CANN为CPU和NPU之间的异步协作提供了灵活的方式。用户可以使用aclrtLaunchHostFunc在Stream的任意位置插入一个Host回调任务。当本Stream上所有前序任务执行完成后,该Host回调任务会被自动执行,并且会阻塞本Stream上的后续任务执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0015_html.md ## 配置Stream优先级 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0016.html - Description: 在运行时,Device上的调度器会依据各个Stream的优先级来决定任务的执行顺序。高优先级Stream中待执行的任务将优先于低优先级Stream中的任务得到调度,但不会抢占已处于运行状态的低优先级任务。Device在执行过程中不会动态重新评估任务队列,因此提升Stream的优先级不会中断正在执行的任务。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0016_html.md ## 配置任务遇错即停 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0017.html - Description: CANN支持遇错即停模式(ACL\_STOP\_ON\_FAILURE)和遇错继续模式(ACL\_CONTINUE\_ON\_FAILURE),以支持不同应用对任务执行失败的差异化控制。默认为遇错继续模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0017_html.md ## Persistent流 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0018.html - Description: 非Persistent流上的任务在执行完成之后从Stream出队。如果要多次执行某个任务,需要在非Persistent流上多次下发该任务。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0018_html.md ## AI Core自定义算子加载 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0019.html - Description: Kernel函数可以采用<<<>>>方式进行任务下发,具有代码简洁,可读性好的优点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0019_html.md ## Event概念 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0021.html - Description: Event用于同一Device内、不同Stream之间的任务同步事件。它支持一个任务等待一个事件,例如stream2的任务依赖stream1的任务,想保证stream1中的任务先完成,这时可创建一个Event,将该Event插入到stream1中(Event Record任务),在stream2中插入一个等待Event完成的任务(Event Wait任务);也支持多个任务等待同一个事件(多等一), - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0021_html.md ## Event的创建与销毁 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0022.html - Description: 以下是创建两个Event并销毁的代码示例,该示例仅用于说明Event使用方法,不可以直接拷贝编译运行。完整样例代码请参见Link\(https://gitcode.com/cann/runtime/tree/9.0.0/example/event/1\_event\_timestamp\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0022_html.md ## 记录Event时间戳 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0023.html - Description: 在Event的创建与销毁章节中创建的Event可用于统计Stream上计算任务的耗时,代码示例如下。该示例仅用于说明Event使用方法,不可以直接拷贝编译运行。完整样例代码请参见Link\(https://gitcode.com/cann/runtime/tree/9.0.0/example/event/1\_event\_timestamp\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0023_html.md ## Event查询 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0024.html - Description: 调用aclrtQueryEventStatus接口可查询指定Event是否完成,非阻塞接口,Event状态包括ACL\_EVENT\_RECORDED\_STATUS\_COMPLETE(所有任务都已经执行完成)、ACL\_EVENT\_RECORDED\_STATUS\_NOT\_READY(有未执行完的任务)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0024_html.md ## Event同步 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0025.html - Description: 调用aclrtSynchronizeEvent接口阻塞当前主机线程直到指定的Event事件完成。以下为示例代码,不可以直接拷贝编译运行,仅供参考: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0025_html.md ## Event等待 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0026.html - Description: 多Stream之间任务的同步等待可以利用Event实现,例如,若stream2的任务依赖stream1的任务,想保证stream1中的任务先完成,这时可创建一个Event,调用aclrtRecordEvent接口将Event插入到stream1中(通常称为Event Record任务),调用aclrtStreamWaitEvent接口在stream2中插入一个等待Event完成的任务(通常称为Ev - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0026_html.md ## 基于Notify同步 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0027.html - Description: Notify通常用于多个Device之间的同步,如下图所示:Device 0向Device 1发送完数据后,通过Notify通知Device 1数据已写完。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0027_html.md ## 内存语义同步 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0028.html - Description: 内存语义同步机制允许用户基于通用Device内存实现同步。与Event/Notify同步机制不同,基于内存语义的同步机制还支持算子作为同步参与方,即算子可以在执行过程中与另一条流进行同步。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0028_html.md ## 单流捕获 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0030.html - Description: 捕获任务到模型中再执行模型的基本流程如下图所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0030_html.md ## 跨流捕获 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0031.html - Description: 在捕获Stream上的任务时,aclmdlRICaptureBegin和aclmdlRICaptureEnd接口中指定的Stream只能是同一个Stream(我们将其称为“主流”),若要实现跨Stream的捕获任务,可调用aclrtRecordEvent接口在主流上下发Event Record任务、在其他Stream上调用aclrtStreamWaitEvent接口下发Event Wait任务,以 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0031_html.md ## 任务更新 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0032.html - Description: 当Stream上的任务已经被捕获,并暂存到模型中之后,若要更新任务(包含任务本身以及任务的参数信息),当前支持两种方式: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0032_html.md ## 多设备编程总述 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0034.html - Description: 多设备编程使用户能够利用多个NPU(Neural-Network Processing Unit)的综合性能和内存等资源,实现超越单个NPU的性能水平。通常,每个物理NPU在Runtime编程界面中被抽象为一个Device,任务下发时需要有Device中的Context进行支撑,因此多设备编程需要管理多个Device及其相应的Context。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0034_html.md ## 多Device选择 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0035.html - Description: 一个Host搭配多Device的场景下,用户可以在Host侧应用程序中通过aclrtGetDeviceCount接口来获取当前Host上搭配的Device数量,Device按照0、1、2、... 的顺序排布。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0035_html.md ## Stream和Event的行为 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0036.html - Description: 在与当前Device无所属关系的Stream上下发算子将会失败,示例代码如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0036_html.md ## 跨Device的数据交互 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0037.html - Description: 本节中的“跨Device的数据交互”是指一个进程内、根据硬件组网(例如处于PCIe或者HCCS互联的组网拓扑下)、Device之间能够访问彼此的内存。可以使用aclrtDeviceCanAccessPeer接口查询两个Device之间是否支持数据交互,若支持,再根据访问方向,分别调用aclrtDeviceEnablePeerAccess接口开启一个Device到另一个Device的数据交互功能,例 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0037_html.md ## 进程间通信 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0038.html - Description: 由某个主机线程创建的任意设备内存、Event资源或Notify资源,都可以在同一进程内被该进程中的其他线程直接引用。但这些指针或句柄在进程之外是无效的,因此不能被其他进程的线程直接使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0038_html.md ## 获取Runtime错误码 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0042.html - Description: 所有Runtime接口都会返回一个错误码。然而,对于异步接口,由于接口在Device任务完成前就已经返回,因此无法报告Device上可能发生的异步任务错误。它只能返回在Device任务执行前发生在Host上的错误,例如参数校验失败。如果发生异步任务错误,对应的错误码将在后续某个无关的Runtime接口调用时返回。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0042_html.md ## 随机数生成(Random) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0043.html - Description: 除了可以下发Kernel执行任务外,Runtime还提供下发Reduce和随机数生成的内置系统任务的功能。(系统任务区别于Kernel任务在于无需用户提供执行代码)。 系统任务可以下发到某条Stream异步执行,同样遵循同一流上任务保序执行的规则。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0043_html.md ## ACL Graph简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/acldevg/runtime_doc_dev_0045.html - Description: 在当前主流框架(例如PyTorch)采用的Eager模式下,每个操作或任务都是边下发边执行,无需构建计算图,这种模式带来了即时可见的执行效果和便捷的调试功能,但同时也带来了Host的下发开销。随着性能优化的不断深入,这些Host开销逐渐成为瓶颈,变成不可忽视的问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_acldevg_runtime_doc_dev_0045_html.md ## 什么是Ascend C - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg - Description: Ascend C是CANN针对算子开发场景推出的编程语言,原生支持C和C++标准规范,兼具开发效率和运行性能。基于Ascend C编写的算子程序,通过编译器编译和运行时调度,运行在昇腾AI处理器上。使用Ascend C,开发者可以基于昇腾AI硬件,高效的实现自定义的创新算法。您可以通过Ascend C主页\(https://www.hiascend.com/zh/ascend-c\)了解更详细的内容。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_map_10_0002_html.md ## 调用算子时出现无法打开config.ini的报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00003.html - Description: 自定义算子包安装部署后,在调用已部署的算子时,出现如下json文件获取失败的报错信息: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00003_html.md ## 算子包部署时出现权限不足报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00004.html - Description: 部署自定义算子包时,出现如下报错信息: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00004_html.md ## 如何开发动态输入算子 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00005.html - Description: 动态输入算子是指算子的输入个数是动态的,例如AddN,将N个输入tensor累加到一起,输出一个tensor,输入tensor的个数是不固定的。动态输入算子的开发在构造和解析输入数据方面有差异:核函数的入参采用ListTensorDesc的结构存储输入数据信息,对应的,调用时需构造TensorList结构保存参数信息。下面基于kernel直调和工程化算子开发两种开发方式分别介绍具体开发流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00005_html.md ## 耦合模式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00006.html - Description: 本节内容为针对耦合模式,使用基础API进行矩阵乘法的编程指导。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00006_html.md ## 分离模式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00007.html - Description: 本节内容为针对分离模式,使用基础API进行矩阵乘法的编程指导。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00007_html.md ## 尾块Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00009.html - Description: 如下图中的示例,算子的输入shape为(1,2048),支持的数据类型为half类型,输入数据可以对齐到一个datablock的大小(32字节),输入数据为2048 * 2 / 32 \= 128个datablock,因此可以平均分配到每个核上(假设使用8个核),每个核上处理256个数,16个datablock。此时不需要进行尾块处理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00009_html.md ## 算子动态库和静态库编译 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00012.html - Description: 算子动态库和静态库编译是将算子实现代码及相关文件编译为动态库和静态库的过程。相比自定义算子包编译,动态库和静态库编译能够显著简化集成与部署流程。该过程包括将算子Kernel实现、Host侧Tiling实现、入图适配文件以及自动生成的单算子调用实现代码编译链接成动态库和静态库。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00012_html.md ## 术语表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00013.html - Description: **表1 术语表** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00013_html.md ## 使能Tiling下沉 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00014.html - Description: 在静态图模式下,可以通过整图下沉优化调度性能。将完整的计算图一次性下发至Device侧,后续执行则无需Host参与,由Device自主完成计算,从而减少Host-Device交互开销,提升执行效率。部分算子的Tiling计算依赖运行时输入的具体数值(Tiling值依赖),需在执行时动态计算Tiling参数。针对该场景,可采用Tiling下沉优化方案:将Tiling计算下沉至Device侧的AI C - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00014_html.md ## 编程模型设计原理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00015.html - Description: Ascend C编程模型中,并行编程范式核心要素是:一组并行计算任务、通过队列实现任务之间的同步、开发者自主表达对并行计算任务和资源的调度。本节介绍编程模型的设计原理,作为扩展阅读,便于开发者更好的理解编程模型的设计思路和优势,对于后续的深度开发也会有所帮助。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00015_html.md ## 如何进行Tiling调测 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00018.html - Description: 在工程化算子开发过程中,开发者需实现Tiling函数,该函数原型是固定的,接受TilingContext\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/maintenref/basicdataapi/atlasopapi\_07\_00223.html\)作为输入。框架负责构造TilingContext并调用Tiling函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00018_html.md ## 静态Tensor编程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00019.html - Description: 在基于Pipe进行算子开发的方式中,由Pipe(TPipe类)统一管理Device端内存等资源,开发者无需感知内存管理、DoubleBuffer流水、同步等处理,只需要按照计算流编写算子即可,但由此也带来了一些运行时开销(如TPipe创建、InitBuffer等)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00019_html.md ## 如何使用Tensor原地操作提升算子性能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00020.html - Description: Tensor原地操作(inplace接口)是一种优化技术,全局申请、保留LocalTensor内存,避免了频繁创建和销毁LocalTensor对象。AllocTensor、FreeTensor、EnQue、DeQue接口不产生新的LocalTensor,而是在该全局LocalTensor上反复申请、释放、入队、出队。其实现原理如下图所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00020_html.md ## 基本流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00021.html - Description: 在SIMD算子实现章节已经介绍了host侧Tiling核心的实现方法,本章节侧重于介绍接入CANN框架时编程模式和API的使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00021_html.md ## 通过TilingData传递属性信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00022.html - Description: 如果算子包含属性信息,该属性信息可以通过TilingData传递到kernel侧,参与kernel侧算子核函数的计算。以ReduceMaxCustom算子为例,该算子用于对输入数据按维度dim返回最大值,并且返回索引。ReduceMaxCustom算子有两个属性,reduceDim和isKeepDim,reduceDim表示按照哪一个维度进行reduce操作;isKeepDim表示是否需要保持输出 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00022_html.md ## 使用高阶API时配套的Tiling实现 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00023.html - Description: 1. 首先进行tiling结构定义: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00023_html.md ## 使用标准C++语法定义Tiling结构体 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00024.html - Description: 在定义Tiling结构体时,可以使用标准C++语法定义一个POD类型(Plain Old Data),即与C语言兼容的数据类型。具体步骤如下。完整样例请参考标准C++语法定义Tiling结构体样例\(https://gitee.com/ascend/samples/tree/master/operator/ascendc/0\_introduction/10\_matmul\_frameworklaunc - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00024_html.md ## Tiling模板编程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00025.html - Description: 在TilingKey编程章节介绍的TilingKey编程方式中,TilingKey不易于记忆和理解,因为它们通常是较长又没有明确含义的数字。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00025_html.md ## NPU架构版本300x - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00027.html - Description: 本节介绍\_\_NPU\_ARCH\_\_版本号为300x的硬件架构和其功能说明,其中300代表IP核编号,x表示同一个IP核的配置版本号。对应的产品型号为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00027_html.md ## 异构并行编程模型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00028.html - Description: Ascend C异构并行编程模型是为应对异构计算架构的挑战而设计的,旨在解决传统编程模型在处理复杂计算任务时的效率和可扩展性问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00028_html.md ## SuperKernel开发 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00029.html - Description: SuperKernel是一种算子的二进制融合技术,与源码融合不同,它聚焦于内核函数 \(Kernel\) 的二进制的调度方案,展开深度优化,于已编译的二进制代码基础上融合创建一个超级Kernel函数(SuperKernel),以调用子函数的方式调用多个其他内核函数,也就是子Kernel。相对于单算子下发,SuperKernel技术可以减少任务调度等待时间和调度开销,同时利用Task间隙资源进一步优化算 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00029_html.md ## Scalar读写数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00031.html - Description: AI Core中Scalar计算单元负责各类型的标量数据运算和程序的流程控制。根据硬件架构设计,Scalar仅支持对Global Memory和Unified Buffer的读写操作,而不支持对L1 Buffer、L0A Buffer、L0B Buffer和L0C Buffer等其他类型存储的访问。下文分别介绍了Scalar读写Global Memory和Unified Buffer的方式和Sca - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00031_html.md ## 基于TPipe和TQue编程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00032.html - Description: 编程范式描述了算子核函数实现的固定流程,基于编程范式进行编程,可以快速搭建算子实现的代码框架。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00032_html.md ## 算子工程编译拓展 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00035.html - Description: 使用msOpGen工具创建算子工程时,相关编译脚本被固化在本地,若需使用算子工程提供的新特性(比如支持MC2算子等),需重新运行msOpGen工具生成工程。为了解决开发者因功能更新而频繁重建工程的问题,将算子工程的cmake脚本打包到CANN软件包中。开发者可通过find\_package的形式来查找对应的cmake modules包,从而使用算子工程对外提供的cmake函数接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00035_html.md ## 通过bisheng命令行编译 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00037.html - Description: 毕昇编译器是一款专为AI处理器设计的编译器,支持异构编程扩展,可以将用户编写的昇腾算子代码编译成二进制可执行文件和动态库等形式。毕昇编译器的可执行程序命名为bisheng,支持x86、aarch64等主机系统,并且原生支持设备侧AI Core架构指令集编译。通过使用毕昇编译器,用户可以更加高效地进行针对昇腾AI处理器的编程和开发工作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00037_html.md ## 常用的编译选项 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00038.html - Description: 常用的编译选项说明如下,全量的编译选项请参考毕昇编译器编译选项\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/compiler/BishengCompiler/atlas\_bisheng\_10\_0010.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00038_html.md ## 通过CMake编译 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00039.html - Description: 项目中可以使用CMake来更简便地使用毕昇编译器编译Ascend C算子,生成可执行文件、动态库、静态库或二进制文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00039_html.md ## CANN商业版-RTC - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00040.html - Description: RTC是Ascend C运行时编译库,通过aclrtc\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendcopapi/atlasascendc\_api\_07\_00162.html\)接口,在程序运行时,将中间代码动态编译成目标机器码,提升程序运行性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00040_html.md ## 算子编译简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00041.html - Description: 本章节介绍的算子编译方法支持开发者通过bisheng命令行和CMake进行手动配置编译选项,或编写CMake脚本来实现编译。开发者可以将Host侧main.cpp和Device侧Kernel核函数置于同一实现文件中,以实现异构编译。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00041_html.md ## 算子运行 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00043.html - Description: 算子的计算算法实现通过Ascend C API来完成,而算子的加载调用则使用Runtime API来完成。本章节将结合核函数调用介绍CANN软件栈中Ascend C算子运行时常用的Runtime接口。Runtime接口更多信息与细节可以参考《Runtime运行时 API\(https://www.hiascend.com/document/detail/zh/canncommercial/900/A - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00043_html.md ## NPU架构版本220x - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00048.html - Description: 本节介绍硬件约束以及解决方案建议。对应的产品型号为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00048_html.md ## AI CPU编程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00049.html - Description: AI CPU是位于Device侧ARM64架构的处理器,其具备与AI Core相同的内存访问能力,可直接访问Device侧内存资源;也可以与Host侧的CPU一样,进行类似的数据计算,通常作为AI Core的补充,主要承担非矩阵类、逻辑比较复杂的分支密集型计算。AI CPU的运行环境为基础的Linux环境,编程时可使用libc库,C++标准库,STL模板库等。其硬件架构图如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00049_html.md ## AI CPU算子编译 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00050.html - Description: 下文基于一个Hello World打印样例来讲解如何通过bisheng命令行编译AI CPU算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00050_html.md ## CANN商业版-基础API\(https://www - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00052.html - Description: 基础API\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendcopapi/atlasascendc\_api\_07\_0003.html\#ZH-CN\_TOPIC\_0000002531382050\_\_section117632211201\)实现对硬件能力的抽象,开放芯片的能力,保证完备性和兼容性。标注为ISA - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00052_html.md ## 连续计算API - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00055.html - Description: 连续计算API,支持Tensor前n个数据计算。针对源操作数的连续n个数据进行计算并连续写入目的操作数,解决一维tensor的连续计算问题。``` - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00055_html.md ## 性能调优 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00059.html - Description: 通过毕昇编译器编译生成可执行程序后,使用msProf工具运行NPU模式下生成的可执行文件,可以采集Ascend C算子在AI处理器上执行的性能数据,进行性能精细调优。- Profiling性能数据采集:使用msprof工具采集Ascend C算子在AI 处理器上执行的性能数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00059_html.md ## NPU架构版本200x - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00062.html - Description: 本节介绍硬件约束以及解决方案建议。对应的产品型号为: Atlas 推理系列产品 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00062_html.md ## 约束说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00063.html - Description: - 在同一个编译单元,若存在多个核函数,暂不支持自动推导Kernel类型,需要开发者手动设置Kernel类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00063_html.md ## 基于语言扩展层C API编程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00064.html - Description: 基于语言扩展层C API编程时,通过提供纯C风格的接口,符合C语言算子开发习惯,提供与业界类似编程体验。本节主要介绍C API编程范式,通过内存管理、同步控制、计算及搬运接口相关的介绍,使开发者更好地理解和使用C API进行编程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00064_html.md ## CANN商业版-Host侧与clang15一致 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00066.html - Description: Host侧与clang15一致,支持完整的C/C++标准。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00066_html.md ## 基本架构 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0008.html - Description: 如下图所示,基于Ascend C开发的算子运行在AI Core上。Ascend C编程模型基于AI Core硬件架构的抽象进行介绍,了解硬件架构能够帮助开发者更好的理解编程模型;对于需要完成高性能编程的深度开发者,更需要了解硬件架构相关知识,算子实践参考中很多内容都以本章为基础进行介绍。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0008_html.md ## NPU架构版本200x - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0010.html - Description: 本节介绍\_\_NPU\_ARCH\_\_版本号为200x的硬件架构和其功能说明,其中200代表IP核编号,x表示同一个IP核的配置版本号。对应的产品型号为 Atlas 推理系列产品 。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0010_html.md ## NPU架构版本220x - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0011.html - Description: 本节介绍\_\_NPU\_ARCH\_\_版本号为220x的硬件架构和其功能说明,其中220代表IP核编号,x表示同一个IP核的配置版本号。对应的产品型号为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0011_html.md ## CANN商业版-特性 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00117.html - Description: - 不支持虚函数 - 不支持虚继承 - 不支持运行时递归 - 不支持动态malloc、new/free - 不支持STL - 不支持运行时typeid - 不支持文件系统IO - 不支持标准库下的tuple及算法类运算(相关库函数调用需要标记aicore) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00117_html.md ## CANN商业版-函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_00118.html - Description: \_\_simt\_vf\_\_标记的SIMT入口函数需要遵循以下约束和限制:- 标量参数不允许使用指针和引用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_00118_html.md ## 核函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0014.html - Description: 核函数(Kernel Function)是Ascend C算子设备侧实现的入口。Ascend C允许用户使用C/C++函数的语法扩展来编写设备端的运行代码,用户在核函数中进行数据访问和计算操作,由此实现该算子的所有功能。区别于普通的C++函数调用时仅执行一次,当核函数被调用时,多个核都执行相同的核函数代码,具有相同的函数入参,并行执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0014_html.md ## 抽象硬件架构 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0015.html - Description: AI Core是AI处理器的计算核心,AI处理器内部有多个AI Core。本章节将介绍AI Core的并行计算架构抽象,该抽象架构屏蔽了不同硬件之间的差异。使用Ascend C进行编程时,基于抽象硬件架构,可以简化硬件细节,显著降低开发门槛。如需了解更详细的硬件架构信息或者原理,请参考硬件实现。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0015_html.md ## 编程接口概述 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0018.html - Description: 本章提供编程API的概述。具体API参考见Ascend C API\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendcopapi/atlasascendc\_api\_07\_0003.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0018_html.md ## 高维切分API - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0022.html - Description: - 本章节对矢量计算基础API中的tensor高维切分计算接口做解释说明。如果您不需要使用此类接口,可略过该章节。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0022_html.md ## 如何使用归约计算API - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0023.html - Description: 归约指令将数据集合简化为单一值或者更小的集合。按照归约操作的数据范围的不同,归约指令分为以下几种,可参考归约指令示意图: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0023_html.md ## 如何使用掩码操作API - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0024.html - Description: Mask用于控制矢量计算中参与计算的元素个数,支持以下工作模式及配置方式: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0024_html.md ## CANN商业版-Ascend C的算子实现主要包含两个部分: - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0031.html - Description: Ascend C的算子实现主要包含两个部分: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0031_html.md ## 基础矢量算子 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0033.html - Description: 基于Ascend C方式实现基础矢量算子核函数的流程如下图所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0033_html.md ## 非对齐场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0034.html - Description: 本节介绍非32字节对齐数据的更多处理方式,包括数据搬入、计算和搬出的处理。用户在实际算子开发中,可以参考如下方案介绍和算子样例灵活地处理非对齐场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0034_html.md ## 多核Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0035.html - Description: 基于Ascend C方式实现带有Tiling的算子的开发流程如下图所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0035_html.md ## 基础知识 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0037.html - Description: 本节内容为使用高阶API进行矩阵乘法的编程指导。使用高阶API进行实际的矩阵编程时,需要通过API参考\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendcopapi/atlasascendc\_api\_07\_0612.html\)确认接口支持的产品型号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0037_html.md ## 算子实现 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0038.html - Description: 上文介绍了Matmul矩阵乘的数据切分方案和数据流。Ascend C提供一组Matmul高阶API,封装了这些常用的切分和数据搬运、计算的算法逻辑,方便用户快速实现Matmul矩阵乘法的运算操作。开发者在host侧通过调用API自动获取Tiling参数,该参数传递到kernel侧后,在初始化操作时传入,通过几个简单的API即可完成矩阵乘操作。完整样例请参考LINK\(https://gitcode. - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0038_html.md ## Batch Matmul基础功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0041.html - Description: Batch Matmul是指批量处理Matmul计算的场景。该场景对外提供了IterateBatch\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendcopapi/atlasascendc\_api\_07\_0642.html\)的调用接口,调用一次IterateBatch,可以计算出多个singleCore - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0041_html.md ## 基础知识 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0049.html - Description: 学习融合算子编程之前,请确保已经掌握矩阵编程相关知识。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0049_html.md ## 算子实现 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0050.html - Description: 下文将以Matmul+LeakyRelu融合算子的实现为例,介绍Mix融合算子的设计和实现流程。该样例仅支持在 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 上运行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0050_html.md ## 基于样例工程完成Kernel直调 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0056.html - Description: 本章节介绍的基于样例工程完成Kernel直调的方式,后续不再演进。推荐开发者直接使用命令行或者编写Cmake文件进行编译,详细内容请参考AI Core SIMD编译。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0056_html.md ## PyTorch框架 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0057.html - Description: 通过PyTorch框架进行模型的训练、推理时,会调用很多算子进行计算。开发者开发的自定义算子如果需要集成部署到PyTorch框架,有如下几种方式: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0057_html.md ## CANN商业版-工程化算子开发是指基于自动生成的自定义算子工程完成算子实现、编译部署、单算子调用 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0059.html - Description: 工程化算子开发是指基于自动生成的自定义算子工程完成算子实现、编译部署、单算子调用代码自动生成等一系列流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0059_html.md ## 创建算子工程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0060.html - Description: CANN开发套件包中提供了自定义算子工程生成工具msOpGen,可基于算子原型定义输出算子工程:包括算子host侧代码实现文件、算子kernel侧实现文件以及工程编译配置文件等。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0060_html.md ## 算子原型定义 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0062.html - Description: 算子原型主要描述了算子的输入输出、属性等信息以及算子在AI处理器上相关实现信息,并关联tiling实现等函数。算子原型通过自定义的算子类来承载,该算子类继承自OpDef类\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendcopapi/atlasascendc\_api\_07\_0946.html\)。完成算子 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0062_html.md ## Kernel侧算子实现 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0063.html - Description: 在核函数章节已经介绍了kernel侧算子核心的实现方法,本章节侧重于介绍接入CANN框架时编程模式和API的使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0063_html.md ## 算子工程编译 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0068.html - Description: 算子kernel侧和host侧实现开发完成后,需要对算子工程进行编译,生成自定义算子安装包*.run,详细的编译操作包括: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0068_html.md ## 算子包部署 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0069.html - Description: 算子包部署指执行自定义算子包的安装,算子工程的编译结果会自动部署到算子包安装目录下。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0069_html.md ## 单算子API调用 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0070.html - Description: 单算子API调用方式,是指直接调用单算子API接口,基于C语言的API执行算子。算子工程创建完成后,基于工程代码框架完成算子原型定义、kernel侧算子实现、host侧tiling实现,通过工程编译脚本完成算子的编译部署,之后再进行单算子API的调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0070_html.md ## CANN商业版-Ascend C算子调试的整体方案如下 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0072.html - Description: Ascend C算子调试的整体方案如下:开发者通过调用Ascend C类库编写Ascend C算子Kernel侧源码,Kernel侧源码通过通用的GCC编译器进行编译,编译生成通用的CPU域的二进制,可以通过gdb通用调试工具等调试手段进行调试;Kernel侧源码通过毕昇编译器进行编译,编译生成NPU域的二进制文件,可使用printf/assert等接口进行数据打印,也可通过仿真打点图或者Prof - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0072_html.md ## CPU域孪生调试 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0073.html - Description: 本节介绍CPU域调试的方法:CPU侧验证核函数,gdb调试、使用printf命令打印。当前SIMT编程场景不支持。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0073_html.md ## NPU域上板调试 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0075.html - Description: NPU域上板调试手段主要包含上板数据打印、msSanitizer内存异常检测和msDebug单步调试等功能,数据打印包括printf、DumpTensor两种方式,其中,DumpTensor是SIMD编程独有功能,用于打印指定Tensor的数据。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0075_html.md ## CANN商业版-图模式是神经网络模型的一种运行模式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0077.html - Description: 图模式是神经网络模型的一种运行模式,在图模式下用户首先将模型的计算过程构造成一张图,然后通过GE将图下发到昇腾硬件执行。相对于单个算子依次下发的方式,图模式下,GE可以通过计算图优化、多流并行、内存复用、模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0077_html.md ## 基本开发流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0078.html - Description: 该开发流程以工程化算子开发为基础,除了需要提供工程化算子开发中的算子实现文件外,还需要额外交付算子入图的代码文件。本节仅提供算子入图代码文件的开发指导。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0078_html.md ## 图编译和图执行 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0079.html - Description: 本节通过单算子模型执行的样例来介绍图模式下图编译和图执行流程。单算子模型执行是指基于图IR执行算子,先编译算子(例如,使用ATC工具将Ascend IR定义的单算子描述文件编译成算子om模型文件),再调用acl接口加载算子模型,最后调用acl接口执行算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0079_html.md ## CANN商业版-本章节内容介绍AI框架调用自定义算子的方法 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0081.html - Description: 本章节内容介绍AI框架调用自定义算子的方法。如下图所示,Pytorch支持单算子和图模式两种,TensorFlow仅支持图模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0081_html.md ## 适配插件开发 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0086.html - Description: 针对 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 ,暂不支持ONNX框架算子调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0086_html.md ## 调用样例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0087.html - Description: 完成了ONNX框架的适配插件开发后,即可实现从ONNX框架调用Ascend C自定义算子。下面以一个仅包含LeakyRelu算子的ONNX框架网络为例(该网络中的LeakyRelu算子通过适配插件映射为自定义的LeakyRelu算子),呈现一个使用推理工具进行推理的过程,目的在于让您快速体验推理场景下网络中自定义算子调用的过程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0087_html.md ## TensorFlow框架 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0088.html - Description: 针对Atlas 350 加速卡,暂不支TensorFlow框架算子调用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0088_html.md ## CANN商业版-DoubleBuffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0090.html - Description: 执行于AI Core上的指令队列主要包括如下几类,即Vector指令队列、Cube指令队列和MTE指令队列。不同指令队列间的相互独立性和可并行执行性,是DoubleBuffer优化机制的基石。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0090_html.md ## 如何使用workspace - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0092.html - Description: workspace是设备侧Global Memory上的一块内存。workspace内存分为两部分:系统workspace和用户workspace。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0092_html.md ## 算子基本概念 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0098.html - Description: 算子(Operator,简称OP),是深度学习算法中执行特定数学运算或操作的基础单元,例如激活函数(如ReLU)、卷积(Conv)、池化(Pooling)以及归一化(如Softmax)。通过组合这些算子,可以构建神经网络模型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0098_html.md ## 数据排布格式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0099.html - Description: 数据排布格式(Data Layout Format)是深度学习中对多维Tensor在内存中存储方式的描述。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0099_html.md ## 如何在矢量编程时使能Vector Core - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0100.html - Description: 针对 Atlas 推理系列产品 ,其硬件架构除了AI Core外,还额外设置了单独的Vector Core,作为AI Core中Vector计算单元的补充,从而缓解Vector计算瓶颈。Vector Core只包括了两种基础计算资源:向量计算单元(Vector Unit)和标量计算单元(Scalar Unit),分别用于完成向量与标量的数据计算。矢量算子开发时,使能Vector Core,算子执行 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0100_html.md ## 简易自定义算子工程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0101.html - Description: 本章节介绍的简易自定义算子工程,是上文中介绍的自定义算子工程的简化版,对算子的编译、打包、部署过程进行简化,便于开发者将该工程集成到自己的算子工程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0101_html.md ## show\_kernel\_debug\_data工具 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0102.html - Description: 在Ascend C算子程序代码中,用户可以使用AscendC::DumpTensor\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendcopapi/atlasascendc\_api\_07\_0192.html\)、AscendC::printf\(https://www.hiascend.comdocumen - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0102_html.md ## msobjdump工具 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0103.html - Description: 本工具主要针对Kernel直调工程(NPU模式)、标准自定义算子工程、简易自定义算子工程编译生成的算子ELF文件(Executable and Linkable Format)提供解析和解压功能,并将结果信息以可读形式呈现,方便开发者直观获得kernel文件信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0103_html.md ## 核函数运行验证时算子存在精度问题 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0106.html - Description: 在进行算子NPU域的运行验证时,实际数据和真值数据不一致,算子存在精度问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0106_html.md ## 运行验证时AllocTensor/FreeTensor失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0107.html - Description: 通过NPU进行核函数的运行验证时,出现挂死现象;通过CPU进行核函数的运行验证时,出现AllocTensor/FreeTensor失败的报错,日志报错和调用栈打印如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0107_html.md ## kernel侧获取Tiling信息不正确 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0108.html - Description: 通过算子在kernel侧实现代码中添加PRINTF打印发现kernel侧获取的Tiling信息不正确。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0108_html.md ## Kernel编译时报错“error: out of jump/jumpc imm range” - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0109.html - Description: 使用工程化算子开发方式,基于自定义算子工程进行算子开发。编译算子时失败,报如下错误: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0109_html.md ## 含有Matmul高阶API的算子精度问题 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0111.html - Description: 本节针对含有Matmul高阶API的算子,为排查算子精度问题是否为算子中Matmul高阶API调用方式导致,提供初步的问题定界和定位指导。如未特殊说明,下面均以 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 上的案例为例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0111_html.md ## 算子工程编译时出现文件名过长报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_0112.html - Description: 工程化算子开发场景,在进行算子工程编译时,提示以下报错信息中的一种: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_0112_html.md ## CANN商业版-本节将以Add算子为例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10001.html - Description: 本节将以Add算子为例,带您快速构建Ascend C矢量算子程序,并学习矢量算子开发的典型场景以及处理方式。涉及的场景包括: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10001_html.md ## TBuf的使用 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10003.html - Description: 在大多数算子开发时,核函数计算过程需要使用临时内存来存储运算的中间结果,这些中间结果以临时变量表示,临时变量占用的内存可以使用TBuf数据结构来管理,具体介绍请参考TBuf\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendcopapi/atlasascendc\_api\_07\_0160.html\)。下文将 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10003_html.md ## 尾核Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10008.html - Description: 对于不同shape的输入进行数据切分时,可能会发生数据无法平均分配到多个核的情况。例如当算子的输入shape为\[1, 1999\],使用核数为8,数据类型为half时,需要计算的数据总量为1 * 1999 * sizeof\(half\) \= 3998字节,3998字节既不满足32字节对齐,也无法平均分配到8个核上。因此该场景下,对数据进行多核切分后,每个核的计算数据量不同。此种情况下,应该尽可能均匀的 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10008_html.md ## 尾核&尾块 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10009.html - Description: 对于不同shape的输入进行数据切分时,可能会发生数据无法平均分配到多个核、同时每个核内的数据无法均分的情况。参考核间均分场景下的尾块处理与核间不均分场景下的尾核处理的处理方式,将两者结合起来考虑整核的尾块、尾核的尾块的处理方式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10009_html.md ## DoubleBuffer场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10010.html - Description: 因存在算子中多次搬入搬出数据的场景,为充分利用硬件资源,实现多流水并行,引入DoubleBuffer机制。DoubleBuffer是通过将输入数据分成大小相等的两块,充分利用AI Core的硬件资源,实现数据搬入、计算、数据搬出的并行执行方式。下面以“核间不均分,核内不均分”的样例为例,介绍算子中DoubleBuffer的实现,完整样例代码请参见使用DoubleBuffer的Add算子样例\(htt - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10010_html.md ## Broadcast场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10011.html - Description: 在某些场景下,可能会存在两个输入shape不相同的情况。由于Add\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendcopapi/atlasascendc\_api\_07\_0035.html\)接口只支持对shape相同的输入进行计算,因此需要先对输入进行shape变换,再进行Add计算。本节将对满足Bro - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10011_html.md ## Matmul特性介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10012.html - Description: 除了前述基础知识和算子实现中介绍的基本计算能力外,Matmul矩阵编程还提供了适用于不同场景的处理能力及多种功能,具体场景和功能列于下表中,详细内容请见后续章节。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10012_html.md ## 多核对齐切分 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10013.html - Description: 为了实现多核并行,提升计算效率,需要将矩阵数据进行切分,分配到不同的核上进行处理。主要的切分策略有切分K轴和不切分K轴两种。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10013_html.md ## 多核非对齐切分 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10014.html - Description: 多核场景,对矩阵进行切分时,若M、N、K无法整除singleCoreM 、singleCoreN、 singleCoreK时,就会出现尾块,即多核非对齐场景。如下图矩阵A、B的最后一行和最后一列的矩阵块: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10014_html.md ## 异步场景处理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10015.html - Description: Matmul的Iterate\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendcopapi/atlasascendc\_api\_07\_0638.html\)和IterateAll\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/AP - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10015_html.md ## 矩阵乘输出的量化/反量化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10017.html - Description: 对于特定输入输出数据类型,Matmul支持将计算结果从CO1搬出到Global Memory时,对输出C矩阵元素执行数据量化或反量化操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10017_html.md ## 矩阵乘输出的Channel拆分 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10018.html - Description: 矩阵乘输出的Channel拆分,又称ChannelSplit。指当Matmul计算结果C矩阵的格式为NZ时,C矩阵采用分形存储,关于NZ格式的详细内容请参考数据格式。当C矩阵的物理排布格式为NZ、数据类型为float时,默认情况下,每个分形内部包含16*16个元素,即分形的大小为16*16。ChannelSplit的功能为将此场景下C矩阵的每个16*16的分形切分为16*8的分形,使得C矩阵按照1 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10018_html.md ## 矩阵向量乘 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10019.html - Description: 矩阵向量乘(General Matrix-Vector multiplication),即GEMV,是指Matmul计算中M\=1,形状为\(1, K\)的左矩阵A与形状为\(K, N\)的右矩阵B进行矩阵乘运算的场景。Matmul支持在Tiling侧与Kernel侧通过配置A矩阵的数据格式为VECTOR来开启GEMV模式,从而高效处理M\=1的计算场景。若在M\=1时未开启GEMV模式,Matmul计算则将M - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10019_html.md ## 4:2稀疏矩阵乘 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10021.html - Description: 4:2稀疏矩阵乘,又称Sparse Matmul。该场景下输入的原始左矩阵A、右矩阵B为稀疏矩阵,稀疏矩阵B中每4个元素中至少有2个为零元素;在进行Matmul计算前,用户需要自行对B矩阵进行4:2稠密化,即基于原始稀疏矩阵B在每4个元素中过滤掉2个零元素,使B矩阵稠密化为稠密矩阵;Sparse Matmul场景调用Matmul API完成A矩阵与4:2稠密化后的B矩阵的矩阵乘计算。Sparse - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10021_html.md ## TSCM输入的矩阵乘 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10024.html - Description: TSCM\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendcopapi/atlasascendc\_api\_07\_0174.html\#ZH-CN\_TOPIC\_0000002562302001\_\_p1845163262710\)表示L1 Buffer空间对应的逻辑内存,L1 Buffer相关内容见存储单元,开 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10024_html.md ## 矩阵乘输出的N方向对齐 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10026.html - Description: 矩阵乘输出的N方向对齐,即矩阵乘结果C矩阵按ND\_ALIGN格式输出。在Matmul矩阵乘法中,常用的矩阵数据格式有ND、NZ,相关介绍可参考数据格式章节。ND\_ALIGN是矩阵的另一种数据格式,该格式一般用于N方向非32字节对齐的矩阵乘计算中,配置结果C矩阵为ND\_ALIGN格式后,将按照N方向32字节对齐的补齐规则输出C矩阵,详细内容请见ND\_ALIGN。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10026_html.md ## 单次矩阵乘局部输出 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10027.html - Description: 单次矩阵乘局部输出,又称Partial Output。如基础知识中所述,一次Iterate\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendcopapi/atlasascendc\_api\_07\_0638.html\)计算过程中,会按K方向进行一次或多次基本块计算,其中的一次基本块计算为baseM*base - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10027_html.md ## AIC和AIV独立运行机制 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10028.html - Description: AIC和AIV独立运行机制,又称双主模式。在分离模式下,区别于MIX模式(包含矩阵计算和矢量计算)通过消息机制驱动AIC运行,双主模式为AIC和AIV独立运行代码,不依赖消息驱动,使能双主模式能够提高Matmul计算性能。默认情况下,双主模式不使能,需要通过MatmulConfig\(https://www.hiascend.comdocument/detail/zh/canncommercial/ - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10028_html.md ## MxMatmul场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10029.html - Description: 浮点数在科学计算、图像处理、神经网络等领域应用广泛。以AI训练为例,现有的浮点数格式或数值范围不足,或精度不高,这影响了模型的收敛速度和性能。如果要同时满足数值范围和精度的要求,将会导致内存占用过大,从而增加数据存储和传输的成本。基于此种情况,业内提出了一种新的浮点数格式——微缩放(Microscaling,MX)格式。MX格式的浮点数可以支持更低比特位宽的AI训练和推理,并且占用的内存更少。符合 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10029_html.md ## Batch Matmul复用Bias矩阵 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10030.html - Description: 在Batch Matmul场景中,Matmul API可以一次性计算出多个大小为singleCoreM * singleCoreN的C矩阵。当Batch Matmul场景有Bias输入时,默认的Bias输入矩阵包含Batch轴,即Bias的大小为Batch * N。通过开启Bias复用功能,当每个Batch计算使用的Bias数据相同时,只需输入一个不带Batch轴的Bias矩阵。Batch Mat - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10030_html.md ## 基础知识 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10033.html - Description: 本节内容为通算融合算子的理论背景和开发指导,学习本节内容之前,请确保已经掌握矩阵编程和《HCCL集合通信库\(https://www.hiascend.com/document/detail/zh/canncommercial/900/API/hcclug/hcclug\_000001.html\)》中的相关知识。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10033_html.md ## 算子实现 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10034.html - Description: 在通算融合类算子的实现中,通信操作使用Hccl\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendcopapi/atlasascendc\_api\_07\_0867.html\)高阶API,矩阵乘计算操作使用Matmul\(https://www.hiascend.comdocument/detail/zh/ca - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10034_html.md ## 特性场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10036.html - Description: 为避免执行通信任务的环境中硬件闪断导致发生通信中断,通算融合算子可通过配置编译宏与环境变量,开启重执行能力。通算融合算子开启重执行后,AI CPU在检测到环境异常时,通过下图示意的机制,通知AI Core重新下发通信任务,避免由于硬件闪断造成的通信中断,提升通信稳定性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10036_html.md ## 基础知识 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10039.html - Description: 本节内容为使用Reg矢量计算API\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendcopapi/atlasascendc\_api\_07\_0311.html\)和SIMT API\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/A - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10039_html.md ## 算子实现 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10040.html - Description: 本样例的目的是通过一个简单的算子实现展示SIMD与SIMT混合编程方式,不是该算子功能的最佳实践。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10040_html.md ## Utils API - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10044.html - Description: Ascend C开发提供了丰富的通用工具类,涵盖标准库、平台信息获取、上下文构建、运行时编译及日志输出等功能,支持开发者高效实现算子开发与性能优化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10044_html.md ## CANN商业版-高阶API\(https://www - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10045.html - Description: 高阶API\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendcopapi/atlasascendc\_api\_07\_0003.html\#ZH-CN\_TOPIC\_0000002531382050\_\_section3317105813235\)基于单核对常见算法进行抽象和封装,实现了一些常用的计算算法,旨在提高 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10045_html.md ## 如何使用Tiling依赖的头文件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10047.html - Description: 由于AI处理器的Scalar计算单元执行能力有限,为减少算子Kernel侧的Scalar计算,将部分计算在Host端执行,这需要编写Host端Tiling代码。注意,在程序中调用高阶API的Tiling接口或者使用高阶API的Tiling结构体参数时,需要引入依赖的头文件。在不同的Tiling实现方式下,具体为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10047_html.md ## 如何使用Kernel侧临时空间 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10048.html - Description: Kernel侧接口的内部实现一般涉及复杂的数学计算,需要额外的临时空间来存储计算过程中的中间变量。除矩阵计算、HCCL通信类、卷积计算等,对于多数高阶API中临时空间的处理,开发者可以通过Kernel侧接口的入参sharedTmpBuffer传入提前申请的临时空间、通过接口框架申请临时空间两种方式。- 通过sharedTmpBuffer入参传入,Kernel侧接口使用该传入的Tensor作为临时空 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10048_html.md ## SIMD与SIMT混合编程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10052.html - Description: AI Core上SIMD(Single Instruction Multiple Data,单指令多数据)与SIMT(Single Instruction Multiple Thread,单指令多线程)混合编程,结合了SIMD多数据并行计算能力与SIMT离散访存的优势,实现了向量级并行与线程级并行的高效协同。目前,该技术仅支持Atlas 350 加速卡。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10052_html.md ## SIMD BuiltIn关键字 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10053.html - Description: 如其他语言一样,会提供一些内置的宏方便用户编写程序。预定义宏一节着重介绍一些用户在做异构编程时会经常用到的宏,以及宏的解释。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10053_html.md ## SIMT BuiltIn关键字 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10054.html - Description: 函数执行空间限定符(Function Execution Space Qualifier)指示函数是在Host侧执行还是在Device侧执行,以及能被调用的空间范围。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10054_html.md ## SIMD语言扩展层C API - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10055.html - Description: C API开放芯片完备编程能力,支持以数组形式分配内存,一般基于指针编程。提供与业界一致的C语言编程体验。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10055_html.md ## SIMT语言扩展层C API - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10056.html - Description: SIMT编程基于AI Core的硬件能力实现,可以使用asc\_vf\_call\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendcopapi/atlasascendc\_api\_07\_10303.html\)接口启动SIMT VF(Vector Function)子任务。当前,SIMT语言扩展层支持的C AP - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10056_html.md ## 兼容性指南 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10058.html - Description: 兼容性是确保开发者能够高效迁移算子的关键。为了保证在不同AI处理器之间迁移时,Ascend C算子的语义和功能保持一致,开发者需要根据目标平台的架构进行代码适配和优化。如果开发者希望在新平台上运行其他平台开发的Ascend C算子程序,需要在新平台上重新编译并运行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10058_html.md ## 编程模型概述 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10062.html - Description: AI Core是AI处理器的计算核心,AI处理器通过多个AI Core实现并行计算。与传统CPU相比,AI处理器因其内部拥有更多的计算单元和相应的向量计算指令,更适合模型训练和推理场景,这使得单个硬件指令能完成多组数据的计算。AI处理器提供了以下两种编程模型: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10062_html.md ## 抽象硬件架构 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10064.html - Description: AI Core上的SIMT(Single Instruction Multiple Thread,单指令多线程)编程允许指令对数据进行独立寻址,从而支持线程级并行计算。这种方式特别适用于离散访问和复杂控制逻辑等场景,目前仅支持Atlas 350 加速卡。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10064_html.md ## 线程架构 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10065.html - Description: SIMT编程模型的线程层次结构分为两层: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10065_html.md ## 内存层级 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10066.html - Description: SIMT线程可访问多种内存空间。下表汇总了SIMT编程中常见内存类型的作用域及其生命周期。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10066_html.md ## 核函数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10067.html - Description: Ascend C支持开发者自定义核函数来扩展C++,核函数在AI处理器上执行时实际是若干线程在并行执行,每个线程有独立的寄存器和栈,共同完成数据计算任务。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10067_html.md ## 同步机制 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10068.html - Description: SIMT是一种单指令多线程的编程模式,其异步编程模型旨在通过多线程并发执行达到内存操作加速的目的。在这一编程模型中,线程作为执行计算或操作内存的最小抽象单位,其操作是相互独立的。然而,在某些应用场景中,需要支持线程间的同步,或防止不同线程对同一内存区域的读写操作引发的数据竞争。为此,Ascend C提供了相应的同步接口,这些接口允许开发者根据需求选择合适的同步机制,以确保异步操作的正确性和性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10068_html.md ## 编程示例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10069.html - Description: SIMT编程场景当前不支持使用SIMT API,敬请期待后续版本的正式发布。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10069_html.md ## Reg矢量计算编程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10071.html - Description: Reg矢量计算API是面向RegBase架构开发的API,用户可以通过该API直接对芯片中涉及Vector计算的寄存器进行操作,实现更大的灵活性和更好的性能。Reg矢量计算API与基础API功能相似,但与基础API输入和输出数据必须为LocalTensor不同,Reg矢量计算API的输入或输出数据均为Reg矢量计算寄存器。对于计算类API,其功能是从给定的寄存器\(https://www.hiasc - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10071_html.md ## 算子编译简介 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10073.html - Description: 本章节介绍的SIMT编程场景算子编译方法,支持开发者通过bisheng命令行或编写CMake脚本来实现编译。开发者可以将Host侧调用代码和Device侧Kernel核函数置于同一实现文件中,以实现异构编译。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10073_html.md ## 通过bisheng命令行编译 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10074.html - Description: 毕昇编译器是一款专为AI处理器设计的编译器,支持异构编程扩展,可以将用户编写的昇腾算子代码编译成二进制可执行文件和动态库等形式。毕昇编译器的可执行程序命名为bisheng,支持x86、aarch64等主机系统,并且原生支持设备侧AI Core架构指令集编译。通过使用毕昇编译器,用户可以更加高效地进行针对昇腾AI处理器的编程和开发工作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10074_html.md ## 常用的编译选项 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10075.html - Description: 常用的编译选项说明如下,全量的编译选项请参考毕昇编译器编译选项\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/compiler/BishengCompiler/atlas\_bisheng\_10\_0010.html\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10075_html.md ## 通过CMake编译 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10076.html - Description: 项目中可以使用CMake来更简便地使用毕昇编译器编译Ascend C SIMT算子,生成可执行文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10076_html.md ## 约束说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_10_10077.html - Description: - bfloat16\_t等数据类型在Host侧不支持,使用这些数据类型时,Host和Device不能写在同一个实现文件里。Host侧不支持的数据类型如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_10_10077_html.md ## 本文档组织结构 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0001.html - Description: 本文档主要用于指导开发者基于Ascend C编程语言在昇腾AI处理器上开发高性能的算子。在阅读此文档时,需要开发者具备如下能力: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0001_html.md ## 优化建议总览表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_00010.html - Description: **表1 性能优化建议总览表** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_00010_html.md ## 设置合适的核数和算子Kernel类型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_00012.html - Description: 在算子执行过程中,可能会因为以下几个原因产生额外的启动开销或者头开销: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_00012_html.md ## 避免同地址访问 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_00013.html - Description: 【优先级】高 该性能优化指导适用于如下产品型号: - Atlas A3 训练系列产品 / Atlas A3 推理系列产品 - Atlas A2 训练系列产品 / Atlas A2 推理系列产品 【描述】MTE2、MTE3、Scalar等单元访问Global Memory数据时,其地址请求会按照512字节粒度对齐后进行处理。当同时访问Global Memory的数据,且地址处于连续的512字节范围内 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_00013_html.md ## 设置合理的L2 CacheMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_00014.html - Description: 【优先级】高 该性能优化指导适用于如下产品型号: - Atlas A3 训练系列产品 / Atlas A3 推理系列产品 - Atlas A2 训练系列产品 / Atlas A2 推理系列产品 【描述】L2 Cache常用于缓存频繁访问的数据,其物理位置如下图所示: L2 Cache的带宽相比GM的带宽有数倍的提升,因此当数据命中L2 Cache时,数据的搬运耗时会优化数倍。通常情况下,L2 Ca - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_00014_html.md ## 设置DCI编译选项来减少算子尾开销 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_00015.html - Description: 该性能优化建议适用于如下型号: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_00015_html.md ## 核函数内删除Workspace相关冗余操作 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_00016.html - Description: 【优先级】中 【描述】在Ascend C算子工程中,编写核函数时传入的参数workspace已经直接赋值为用户Workspace,因此无需再通过SetSysWorkspace和GetUserWorkspace来设置和获取Workspace。减少这些冗余判断后,编译器可以在不使用该参数的情况下进一步优化未用到的workspace变量。 【反例】 fastgelu函数的参数workspace等价于用户 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_00016_html.md ## 非对齐场景减少无效数据的搬运 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_00017.html - Description: 【优先级】中 该性能优化建议适用于如下型号: - Atlas 350 加速卡 【描述】在非对齐数据搬运场景中,Atlas 350 加速卡在基础API层面提供了DataCopyPad接口,该接口支持Normal、Compact(紧凑)两种搬运模式。搬运多块非32B对齐数据块的场景下,使用Compact模式在可以减少搬运的无效数据量,节省带宽。 假设需要搬运三个数据块,每块数据块大小为48B,数据类型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_00017_html.md ## 非连续搬运场景减少搬运次数 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_00018.html - Description: 【优先级】中 该性能优化建议适用于如下产品型号: - Atlas 350 加速卡 在非连续搬运场景可以使用DataCopyPad接口的Loop模式和DataCopy的多维数据搬运接口来减少搬运次数,优化搬运性能。 \#\#\#\# 使用Loop模式减少非连续搬运的次数 【描述】DataCopyPad接口在Normal/Compact模式基础上,可以使用Loop模式搬运二维数据,假设我们希望以下图的方式搬运 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_00018_html.md ## CANN商业版-【优先级】高 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_00019.html - Description: 【优先级】高 【概述】 为了提高数据访问的效率和吞吐量,Unified Buffer采用了大小相等的内存模块(bank)结构设计。当多条读写指令同时访问Unified Buffer时,由于硬件资源的限制,这些指令不能同时执行,从而引发bank冲突。在这种情况下,指令需要排队等待资源,无法在一个指令周期内完成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_00019_html.md ## 异构计算 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0002.html - Description: 使用Ascend C进行编程时,会涉及到在两个不同的平台(Host、Device)上开发代码。本章简单介绍Host、Device之间的差异,便于开发者宏观地了解这个异构系统;同时给出算子相关的数据流,结合异构架构的特点,开发者可以进一步了解应该如何合理安排算子代码的执行位置,便于得到更好的性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0002_html.md ## 避免bank冲突(NPU架构版本220x) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_00020.html - Description: 【优先级】高 该性能优化建议适用于如下产品型号: - Atlas A3 训练系列产品 / Atlas A3 推理系列产品 - Atlas A2 训练系列产品 / Atlas A2 推理系列产品 【描述】为了提高数据访问的效率和吞吐量,Unified Buffer采用了bank(大小相等的内存模块)结构设计。Unified Buffer总大小为192K,划分为48个bank。每个bank由128行组 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_00020_html.md ## 避免bank冲突(Atlas 350 加速卡) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_00021.html - Description: 为了提高数据访问的效率和吞吐量,Unified Buffer采用了bank(大小相等的内存模块)结构设计。Unified Buffer总大小为256K,划分为16个bank。每个bank由512行组成,每行长度为32B。这16个bank进一步组织为8个bank group,每个bank group包含2个bank,例如bank7和bank15组成一个bank group。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_00021_html.md ## VF循环优化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_00023.html - Description: Atlas 350 加速卡对应的架构中,Vector Function(VF)是实现高性能向量计算的核心载体。VF函数中可以包含最多四层嵌套循环,每层循环中还可以包含多个串行循环,同时支持非循环的向量操作和标量操作。VF循环对控制结构的支持有限,仅支持for循环和条件判断,不支持switch、do-while和 while-do等其他控制结构。VF循环通过尽可能优化为硬件级向量循环(Hardwar - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_00023_html.md ## 指令双发优化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_00024.html - Description: 指令双发指的是处理器在同一个时钟周期内,能够同时发射两条指令到执行单元进行处理。这种能力需要满足以下两个条件: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_00024_html.md ## 连续非对齐场景优化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_00025.html - Description: - 优先采用连续对齐搬运以避免额外开销,提升整体性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_00025_html.md ## VF融合优化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_00026.html - Description: 【优先级】高 【描述】VF融合是将代码中多个VF函数融合成一个VF函数,有效提升性能。VF融合特性是优化特性,VF自动融合会借助Loop Fuse算法,将VF转换成Loop形态,然后将控制流等价(Control-Flow-Equivalent)的VF进行融合,最后将VF进行还原。编译器首先会做融合前的合法性检查,判断两个VF是否等价,Main侧中间代码是否能在VF内执行以及融合后是否可产生正收益( - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_00026_html.md ## 运行正常 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0004.html - Description: 运行正常是算子开发后进行调测的前提,是后续进行性能优化的基础。Ascend C提供了多种调测方法和调测工具,供开发者使用,具体内容请参考功能调试。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0004_html.md ## 精度正常 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0005.html - Description: 性能优化的基础是算子运行得到正确的计算结果。评判计算结果正确性需要有一定的评判标准,即使用已知的正确的输出和实际结果进行比较。优化过程中,每次迭代修改后,都需要验证性能优化的新结果是否满足精度评判标准。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0005_html.md ## 算子调试 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0006.html - Description: 从异构计算章节可以了解到Ascend C算子主要包括Tiling和Kernel实现两部分组成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0006_html.md ## 获取性能数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0008.html - Description: 在进行性能优化之前,需要拿到准确的性能数据,了解性能现状,并根据性能现状分析下一步的优化方向。Ascend C提供了多种性能测试方法,包括上板Profiling、单算子性能仿真流水图等手段。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0008_html.md ## 分析性能数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0009.html - Description: 理论性能为算子实际性能的理想目标。不同的硬件平台的硬件规格各异,理论性能可以帮助我们了解硬件的潜能,从而设定性能优化的目标。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0009_html.md ## 尽量一次搬运较大的数据块 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0013.html - Description: 【优先级】高 【描述】搬运不同大小的数据块时,对带宽的利用率(有效带宽/理论带宽)不一样。根据实测经验,单次搬运数据长度16KB以上时,通常能较好地发挥出带宽的最佳性能。因此对于单次搬运,应考虑尽可能的搬运较大的数据块。下图展示了某款AI处理器上实测的不同搬运数据量下带宽的变化图。 测试数据与处理器型号相关,且实际测试时可能会存在略微抖动, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0013_html.md ## GM地址尽量512B对齐 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0014.html - Description: 【优先级】高 【描述】由于AI处理器内部设计约束,从GM向Local Memory搬运数据时,保证GM地址512B对齐可以最有效的发挥出带宽的效率。如下图示例,展示了在512B对齐以及32B对齐情况下单核的带宽效率:搬运同等数据量,带宽差距最大的情况,32B对齐场景只能达到512B对齐场景的70%。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0014_html.md ## 高效的使用搬运API - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0015.html - Description: 【优先级】高 【描述】在使用搬运API时,应该尽可能地通过配置搬运控制参数实现连续搬运或者固定间隔搬运,避免使用for循环,二者效率差距极大。如下图示例,图片的每一行为16KB,需要从每一行中搬运前2KB,针对这种场景,使用for循环遍历每行,每次仅能搬运2KB。若直接配置DataCopyParams参数(包含srcStride/dstStride/blockLen/blockCount),则可以 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0015_html.md ## 算子与高阶API共享临时Buffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0017.html - Description: 【优先级】高 【描述】如果算子使用的高阶API需要传入临时Buffer,如SoftMax,该临时空间会挤占算子其他计算的空间,从而导致单次计算搬运的数据量变少,搬运的次数变多。此场景可通过共享临时Buffer空间,提升单次搬运的数据量,减少搬运的次数,提升内存使用效率。 【反例】 SoftMax高阶API计算需要临时Buffer空间,算子在进行其他计算时拥有独立临时Buffer。UB空间是固定的, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0017_html.md ## 限制TilingData结构大小 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0018.html - Description: 【优先级】中 【描述】TilingData结构是Tiling切分信息的载体,当Host侧按照Tiling切分策略计算完Tiling后,算子会以入参的方式将Tiling切分信息从Host侧传递到Device侧,此时Tiling信息存放在GM上。调用GETTILINGDATA宏后,会将Tiling信息从GM拷贝到AI处理器的栈空间上,期间会有拷贝开销,由于GM访问效率较低,同时考虑到栈空间限制,需要限 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0018_html.md ## 通过缩减Tensor ShapeInfo维度,优化栈空间 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0019.html - Description: 【优先级】中 【描述】GlobalTensor和LocalTensor中通过ShapeInfo类型的成员变量来保存shape信息,SetShapeInfo/GetShapeInfo可以设置或者获取ShapeInfo,在算子实现内部用于shape信息保存和传递。默认情况下支持的最大维度为8。在不使用上述ShapeInfo功能的情况下,不需要这些信息,可以通过KMAXSHAPEDIM宏将其设置为0。经 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0019_html.md ## 通过Unified Buffer融合实现连续vector计算 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0020.html - Description: 【优先级】高 【描述】算子实现中涉及多次vector计算,且前一次计算输出是后一次计算输入的情况下,可将前一次计算输出暂存在UB(Unified Buffer)上直接作为下一次计算的输入,不需要将前一次的计算输出从UB搬运到GM后再从GM搬运到UB。这种UB Buffer融合的方式可以减少搬入搬出次数,实现连续vector计算,提升内存使用效率。数据流图对比如下: 图1 数据流图对比 【反例】 该 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0020_html.md ## 通过BT Buffer实现高效的bias计算 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0021.html - Description: 【优先级】高 【描述】算子中进行带bias的矩阵乘计算时,可将bias数据搬运至C2\(Bias Table Buffer\)上,调用一次Mmad接口实现矩阵乘加bias的计算,或者直接调用Matmul高阶API完成功能。相比于先将矩阵乘的结果从CO1\(L0C\)搬运到GM上,再搬运到UB上进行加bias的过程,减少了数据搬运的次数,可提升内存使用效率。数据流图对比如下: 图1 反例数据流图 图2 正例 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0021_html.md ## 通过FP Buffer存放量化参数实现高效随路量化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0022.html - Description: 【优先级】高 【描述】算子实现中对矩阵乘结果进行量化计算时,可将量化参数搬运到C2PIPE2GM(Fixpipe Buffer)上,调用一次Fixpipe接口实现矩阵乘结果的量化计算。相比于将矩阵乘的结果从CO1(L0C)搬运到GM,再从GM搬运到UB,在UB进行量化计算的过程,数据搬运的次数更少,内存使用效率更高。 本性能优化手段仅针对 Atlas A2 训练系列产品 / Atlas A2 推理 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0022_html.md ## 通过L0C Buffer数据暂存实现高效的矩阵乘结果累加 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0023.html - Description: 【优先级】高 【描述】算子实现中对矩阵乘的结果进行累加时(比如矩阵A1 B1 + A2 B2...结果的累加),可将前一次矩阵乘的结果暂存在CO1(L0C)上,调用Mmad接口实现矩阵乘结果累加。相比于每次矩阵乘的结果从CO1搬运到GM上,再搬运到UB上进行累加计算,可减少数据搬运的次数,提升内存使用效率。 图1 反例数据流图 图2 正例数据流图 【反例】 优化前,算子进行2次矩阵乘结果累加的 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0023_html.md ## 较小矩阵长驻L1 Buffer,仅分次搬运较大矩阵 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0024.html - Description: 【优先级】高 【描述】在进行cube计算时,当L1无法全载左右矩阵时,可以让较小的矩阵长驻于L1上,只分次搬运较大的矩阵,减少搬运次数。 【反例】 假设L1的大小为512K,左矩阵和右矩阵的大小分别为992K、16K,数据类型为half,单次无法将左右矩阵全部载入L1中。开发者规划的切分策略为:不切K轴,将左矩阵平均分成两块A1、A2,shape大小均为\[992, 256\];将右矩阵平均分成两块, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0024_html.md ## 纯搬运类算子VECIN和VECOUT建议复用 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0027.html - Description: 【优先级】高 【描述】纯搬运类算子在执行时并不涉及实际vector计算,若存在冗余的vector指令,会导致算子整体执行时间变长。这种场景可以使用Ascend C针对纯搬运类算子提供的TQueBind接口,该接口可以将VECIN与VECOUT绑定,省略将数据从VECIN拷贝到VECOUT的步骤,从而避免vector的无谓消耗。 【反例】 此段代码为了保证数据搬入和数据搬出之间的流水同步,存在Loc - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0027_html.md ## 避免TPipe在对象内创建和初始化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0028.html - Description: 【优先级】中 【编译器背景知识】创建类对象时,会分配内存空间,用于存储类中的相关成员变量或函数。当类中变量需要参与计算时,变量值从内存被加载到寄存器,计算完成后,变量从寄存器存储回内存。Scalar常量折叠和常量传播是编译器编译时的优化方式,优化前编译器会判断变量是否只初始化过一次或只赋值过一次,若满足此编译优化的前提条件,变量值将会尽量驻留在寄存器中,从而在后续使用变量时,将减少读取内存的操作, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0028_html.md ## Matmul使能AtomicAdd选项 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0029.html - Description: 【优先级】中 【描述】对于Matmul得到的结果矩阵C\(m, n\),若后续需要和GM上的矩阵D\(m, n\)进行Add操作,则可以在GetTensorC接口或者IterateAll接口的GM通路上,将enAtomic参数设为1,开启AtomicAdd累加操作,在搬出矩阵C到GM时,矩阵C的结果将直接累加到矩阵D的GM地址上,从而实现与矩阵D的Add操作。 【反例】 将Matmul的结果矩阵C和GM上 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0029_html.md ## Vector算子灵活运用Counter模式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0030.html - Description: 【优先级】高 【描述】Normal模式下,通过迭代次数repeatTimes和掩码mask,控制Vector算子中矢量计算API的计算数据量;当用户想要指定API计算的总元素个数时,首先需要自行判断是否存在不同的主块和尾块,主块需要将mask设置为全部元素参与计算,并且计算主块所需迭代次数,然后根据尾块中剩余元素个数重置mask,再进行尾块的运算,在此过程中涉及大量Scalar计算。 Counte - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0030_html.md ## 选择低延迟指令,优化归约操作性能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0031.html - Description: 【优先级】高 【描述】 指令执行延迟(Instruction Execution Latency) 指的是一条指令从开始执行到完全完成(即所有操作结束,结果可用)所消耗的时间,它直接影响程序的响应速度和实时性。在延迟敏感的场景中,降低指令执行延迟是提升性能的关键。下文以归约操作为例,介绍了几种归约方案的性能对比,便于开发者在使用归约指令时,能够根据具体的数据规模和场景,选择性能更高的方案。 \#\#\# - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0031_html.md ## 使能DoubleBuffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0033.html - Description: 【优先级】中 【描述】执行于AI Core上的指令队列主要包括如下几类,Vector指令队列(V)、Cube指令队列(M)、Scalar指令队列(S)和搬运指令队列(MTE1/MTE2/MTE3)。不同指令队列间的相互独立性和可并行执行特性,是DoubleBuffer优化机制的基石。 以纯Vector计算为例,矢量计算前后的CopyIn、CopyOut过程使用搬运指令队列(MTE2/MTE3),C - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0033_html.md ## 使能Iterate或IterateAll异步接口避免AIC/AIV同步依赖 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0034.html - Description: 【优先级】高 【描述】在MIX场景,即AIC(AI Cube核)和AIV(AI Vector核)混合编程中,调用Matmul Iterate或者IterateAll时,AIV发送消息到AIC启动Matmul计算。若通过Iterate同步方式,如图1 同步方式消息发送示意图,每次调用都会触发一次消息发送,而通过Iterate异步方式,如图2 异步方式消息发送示意图,仅第一次需要发送消息,后续无需发送 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0034_html.md ## L2 Cache切分 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0036.html - Description: 【优先级】:高 【描述】假设,AI处理器的L2 Cache大小为192MB,L2 Cache读写混合带宽约为7TB/s,而GM的带宽约为1.6TB/s,两者之间存在较大差距。搬入或搬出相同数据量的情况下,访问L2 Cache读写数据比GM更快。若数据无法命中L2 Cache,即需要访问的数据不在L2 Cache内,导致需要去GM上读写,带宽利用效率较低,最终算子搬入或搬出数据变为算子整个运行过程的 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0036_html.md ## 核间负载均衡 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0037.html - Description: 【优先级】:中 【描述】AI处理器的物理核数是固定的,当L2 Cache切分之后,可能发生部分核有计算拖尾的情况,即每次所有核计算量除以每个核处理的数据量不能被核数整除,导致最后需要部分尾核来计算尾块数据。而在尾核计算时,部分核始终处于空闲状态,从而使得算子的整体性能变差。如图1,假设总的数据量为TotalSize, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0037_html.md ## FlashAttention算子性能调优案例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0040.html - Description: 本案例中的算子FlashAttentionScoreGrad,用于训练场景下计算注意力的反向输出,即FlashAttentionScore算子的反向计算。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0040_html.md ## Matmul算子优化Tiling策略 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0041.html - Description: 本案例对Matmul算子进行性能分析和优化。Matmul算子实现的功能是矩阵乘法,其中主要包含数据搬入和搬出流水,Cube计算流水。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0041_html.md ## GroupedMatmul算子性能调优案例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0042.html - Description: 本案例对分组Matmul即GroupedMatmul算子的per-token量化场景进行性能分析和优化,GroupedMatmul算子计算过程(通过python代码表达)为: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0042_html.md ## MC²算子性能调优案例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_0043.html - Description: MC2通算融合算子的性能收益主要来自于通信、计算的并行执行,即将输入数据切分为多个子块,子块的计算和通信任务形成两条流水线,通过两条流水线上任务的并行执行,实现流水掩盖,从而提升算子性能。如下图所示,MC2算子先做Matmul计算、后通信的场景,输入矩阵沿M轴被切分为两块,第二块数据的Matmul计算和第一块数据的通信可以并行执行,从而达到计算和通信时间相互掩盖的目的。本节的所有图示中MM代表Ma - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_0043_html.md ## Matmul高阶API使能IBShare模板共享A和B矩阵数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_10000.html - Description: 本案例呈现了在融合算子场景中,使用Matmul高阶API进行矩阵乘法计算时,A矩阵和B矩阵同时启用IBShare\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendcopapi/atlasascendc\_api\_07\_0614.html\#ZH-CN\_TOPIC\_0000002562301647\_\_tabl - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_10000_html.md ## Matmul高阶API使能UnitFlag - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_10003.html - Description: 本案例呈现了在矩阵乘算子场景中,使用Matmul高阶API进行矩阵乘法计算,使能UnitFlag功能对算子性能的提升效果。UnitFlag功能为AIC核中MMAD计算指令和FIXPIPE数据搬运指令提供了基于内存访问的细粒度同步,使计算与搬运流水并行。使能UnitFlag功能的方式为将MatmulConfig中的enUnitFlag参数设置为true。enUnitFlag参数的详细介绍请参考Mat - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_10003_html.md ## Matmul高阶API使能多核切K - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_10004.html - Description: 本案例呈现了在矩阵乘算子场景中,使用Matmul高阶API进行矩阵乘法计算,使能多核切K功能对算子性能的提升效果。为了实现算子在多核上并行执行,提升计算效率,需要将矩阵数据进行切分,切分后的数据块被分配到不同的核上处理。通常情况下,切分矩阵数据时仅切分M、N轴,不切分K轴。若M和N较小,切分M和N轴较困难,此时需要考虑K轴切分;使能多核切K功能后,该场景下可以对矩阵的K轴进行切分,从而使算子在多核 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_10004_html.md ## Matmul高阶API使能NBuffer33模板 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_10005.html - Description: 本案例呈现了在矩阵乘算子场景中,使用Matmul高阶API进行矩阵乘法计算,使能NBuffer33模板对算子性能的提升效果。NBuffer33模板的实现为单核计算的A矩阵切分为3x3个基本块,该3x3个A矩阵的基本块全载和保持在L1 Buffer中,每次与3x1个B矩阵的基本块计算矩阵乘,同时DoubleBuffer并行搬入下次计算所需的3x1个B矩阵基本块,直到singleCoreN方向的矩阵乘 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_10005_html.md ## Matmul性能优化策略总览 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_10006.html - Description: 本节提供了一系列包含Matmul计算的算子性能调优案例,开发者可根据实际应用场景,参考相关案例中的优化方法和思路,应用于具体实践中。案例分为如下五类,各分类的简介请参见如下表格,详细内容请阅读后续章节。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_10006_html.md ## Matmul高阶API使能MTE2 Preload - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_10007.html - Description: 本案例呈现了在矩阵乘算子场景中,使用Matmul高阶API进行矩阵乘法计算,使能MTE2 Preload对算子性能的提升效果。通过MatmulConfig中的doMTE2Preload参数开启矩阵M或N方向的预加载功能,预加载即在MTE2间隙提前加载A矩阵/B矩阵数据,开启预加载功能后,可以减少MTE2间隙,提升算子性能。doMTE2Preload参数的详细介绍请参考MatmulConfig\(ht - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_10007_html.md ## Matmul高阶API使能纯Cube模式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_10008.html - Description: 本案例呈现了在矩阵乘算子场景中,使能Matmul高阶API的纯Cube模式对算子性能的提升效果。如下图所示,Matmul API默认使用MIX模式,即用户从AIV侧发起消息,通过消息通信框架中转消息后,在AIC侧执行Matmul计算。这套消息处理机制会带来额外的Scalar性能开销。相较于MIX模式,纯Cube模式可以直接跳过消息通信框架,完成Matmul计算,提升算子性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_10008_html.md ## Matmul高阶API使能MDL模板 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_10009.html - Description: 本案例呈现了在矩阵乘算子场景中,使用Matmul高阶API进行矩阵乘法计算,使能MDL模板对算子性能的提升效果。在MDL模板中,MTE2流水从Global Memory到A1/B1的数据搬运为一次性大包搬运,即一次MTE2能搬入多个Matmul计算的基本块,提升带宽利用率,使后续的MTE1流水尽可能复用A1/B1内基本块的缓存数据,减少MTE2的搬运次数。MDL模板的详细介绍请参考MatmulCo - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_10009_html.md ## Matmul高阶API使能IBShare模板共享B矩阵数据 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_10010.html - Description: 本案例呈现了在矩阵乘算子场景中,使用Matmul高阶API进行矩阵乘法计算,B矩阵使能IBShare\(https://www.hiascend.comdocument/detail/zh/canncommercial/900/API/ascendcopapi/atlasascendc\_api\_07\_0614.html\#ZH-CN\_TOPIC\_0000002562301647\_\_table11880 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_10010_html.md ## Matmul高阶API使能Tiling全量常量化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_10011.html - Description: 本案例呈现了在使用Matmul高阶API进行矩阵乘法计算时,使能Matmul Tiling全量常量化对算子性能的提升效果。Matmul API在初始化和迭代过程中有大量Scalar计算,Matmul初始化时的Scalar计算影响指令头开销,Matmul迭代间的Scalar计算可能阻塞MTE2流水。在调用Matmul API实现矩阵乘法时,使用MatmulApiStaticTiling\(https: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_10011_html.md ## Matmul高阶API使能L2 Cache切分 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_10012.html - Description: 本案例呈现了在Matmul计算过程中,输入和输出的数据总量超过L2 Cache大小时,通过L2 Cache数据切分对算子性能的提升效果。使能L2 Cache切分的完整样例请参考L2 Cache切分的算子样例\(https://gitcode.com/cann/asc-devkit/tree/9.0.0/examples/01\_simd\_cpp\_api/03\_libraries/00\_matrix/m - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_10012_html.md ## Matmul高阶API使能多核K轴错峰访问内存 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_10013.html - Description: 本案例呈现在矩阵乘算子场景中,使用Matmul高阶API进行矩阵乘法计算,使能多核K轴错峰访问Device内存对算子性能的提升效果。在多核并行执行Matmul计算时,如果输入矩阵A或B的内存位置位于GM,并且参与多核计算的矩阵相同,那么将出现多核同时访问相同GM地址的情况,导致地址访问冲突,从而影响算子性能。若使能多核K轴错峰访问Device内存,切分的矩阵K轴方向对应的不同核将尽量从不同的GM起 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_10013_html.md ## AIV核上的ND2NZ格式转换 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_10014.html - Description: 本案例展示了在矩阵乘算子场景中,使用Matmul高阶API进行计算,对内轴(内轴即矩阵的行方向)非256字节对齐的输入矩阵,在AIV核上进行ND2NZ格式转换对算子性能提升的效果。为提升Cube单元的计算效率,ND格式的输入矩阵在执行Cube计算前会先转换为NZ格式,ND格式和NZ格式的具体内容可参考数据格式。Matmul API内部使用随路ND2NZ指令\(https://www.hiascend - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_10014_html.md ## 使用Unified Buffer提升内存访问效率 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_10029.html - Description: 该性能优化建议适用于如下型号: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_10029_html.md ## 通过SIMT实现分支判断 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_best_practices_10_10030.html - Description: 该性能优化建议适用于如下型号: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_best_practices_10_10030_html.md ## 兼容性说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_compatibility_10_00001.html - Description: 本兼容性说明仅适用于Ascend C算子开发的兼容性迁移指导。总体兼容性策略见表1,兼容性范围不包含编译器BuiltIn API、Ascend C内部实现接口等。文档中涉及的兼容性分为两类:一是功能兼容,包括数据类型兼容、接口原型兼容和常量兼容;二是性能兼容,指对于同等数据量,新架构上执行API耗时不高于旧架构。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_compatibility_10_00001_html.md ## 220x到351x架构变更 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_compatibility_10_00003.html - Description: 351x架构图如图1所示,总体来看,351x架构新增了以下特性: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_compatibility_10_00003_html.md ## 基础API迁移指导 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_compatibility_10_00005.html - Description: 本节针对351x架构芯片变更对基础API兼容性产生的影响进行说明,并提供基础API的兼容性适配方案。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_compatibility_10_00005_html.md ## 高阶API迁移指导 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_compatibility_10_00006.html - Description: Ascend C高阶API基本兼容351x架构与220x架构,部分API进行了扩展。当前351x架构不支持卷积计算类高阶API。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_compatibility_10_00006_html.md ## 算子编译迁移指导 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_compatibility_10_00007.html - Description: 进行算子编译时,开发者需要感知不同架构、不同的AI处理器型号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_compatibility_10_00007_html.md ## 什么是Ascend C - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_map_10_0002.html - Description: Ascend C是CANN针对算子开发场景推出的编程语言,原生支持C和C++标准规范,兼具开发效率和运行性能。基于Ascend C编写的算子程序,通过编译器编译和运行时调度,运行在昇腾AI处理器上。使用Ascend C,开发者可以基于昇腾AI硬件,高效的实现自定义的创新算法。您可以通过Ascend C主页\(https://www.hiascend.com/zh/ascend-c\)了解更详细的内容。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_map_10_0002_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_map_10_0003.html - Description: - 进行Ascend C算子开发之前,需要安装驱动固件和CANN软件包,请参考 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_map_10_0003_html.md ## 本文档组织结构 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_map_10_0004.html - Description: 本指南作为AscendC 算子开发综合性技术文档,详细阐述编程模型、语言扩展特性、C++类库API、硬件实现、以及调试调优等。无论是入门开发者还是资深工程师,均能通过本指南充分掌握如何高效释放昇腾AI处理器的完整计算潜能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_map_10_0004_html.md ## CANN商业版-HelloWorld - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_map_10_0005.html - Description: 本示例展示了如何使用Ascend C编写一个简单的"Hello World"程序,包括核函数(设备侧实现的入口函数)的实现、调用流程以及编译运行的完整步骤。通过本示例,您可以快速了解Ascend C的基本开发流程。完整样例请参考LINK\(https://gitcode.com/cann/asc-devkit/tree/9.0.0/examples/01\_simd\_cpp\_api/00\_introd - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_map_10_0005_html.md ## Add自定义算子开发 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_map_10_0006.html - Description: 本入门教程,将会引导你完成以下任务,体验Ascend C SIMD算子开发基本流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_map_10_0006_html.md ## 可视化专区 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_map_10_0017.html - Description: \# 可视化专区 \#\#\#\# Cube算子执行过程可视化 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_map_10_0017_html.md ## CANN商业版-AI Core是AI处理器的计算核心 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_map_10_0018.html - Description: AI Core是AI处理器的计算核心,一块AI处理器通常集成多个AI Core以实现并行计算。相比传统CPU,AI处理器更适用于模型训练与推理,这得益于其内部集成的大量计算单元以及丰富的向量计算指令——单个硬件指令即可完成对多组数据的并行操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_map_10_0018_html.md ## Add自定义算子开发 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlas_ascendc_map_10_0022.html - Description: 本入门教程,将会引导你完成以下任务,体验Ascend C SIMT算子开发基本流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlas_ascendc_map_10_0022_html.md ## 基础知识 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlasascendc_api_07_10293.html - Description: 纯SIMT编程场景当前不支持使用SIMT API,敬请期待后续版本的正式发布。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlasascendc_api_07_10293_html.md ## 算子实现 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/Ascendcopdevg/atlasascendc_api_07_10294.html - Description: 本章节将以Gather类算子为例,介绍SIMT算子实现的基本流程,如下图所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_Ascendcopdevg_atlasascendc_api_07_10294_html.md ## CANN商业版-随着大语言模型逐步向万卡级集群部署演进 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev - Description: 随着大语言模型逐步向万卡级集群部署演进,传统的集合通信库面临以下挑战: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000001_html.md ## CANN商业版-随着大语言模型逐步向万卡级集群部署演进 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000001.html - Description: 随着大语言模型逐步向万卡级集群部署演进,传统的集合通信库面临以下挑战: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000001_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000002.html - Description: 1. 安装驱动固件与CANN软件包。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000002_html.md ## 快速上手 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000003.html - Description: 本节以AI CPU的点对点通信算子为例,介绍使用HCCL通信编程接口开发通信算子的整体流程,帮助用户快速了解通信算子的开发步骤。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000003_html.md ## 通信引擎 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000005.html - Description: HCCL可以使用不同通信引擎实现通信算子,不同的通信引擎适用不同的场景,对比结果如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000005_html.md ## 通信模型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000007.html - Description: 图1 HCCL通信模型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000007_html.md ## 并发模型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000008.html - Description: 通信算子由不同通信任务组成。如果某些通信步骤没有资源冲突,则可以并发执行。HCCL在算子编程模型中提供了并发模型,并发模型需要定义并发单元以及并发单元之间的同步行为,如下图所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000008_html.md ## 拓扑模型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000009.html - Description: 在实现通信算子时,由于以下两种原因,需要在控制面提供拓扑查询相关接口: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000009_html.md ## 总体流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000012.html - Description: HCCL通信算子的开发流程如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000012_html.md ## 定义算子接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000013.html - Description: 开发者首先需依据通信算子的功能作用,创建算子接口定义头文件,后续调用此通信算子时依赖该头文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000013_html.md ## 查询拓扑信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000014.html - Description: 为了应对复杂的网络拓扑结构,通信算子需要根据通信域的拓扑结构选择最匹配的算法,为此,HCCL控制面提供了拓扑信息查询功能,供开发者使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000014_html.md ## 算法选择 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000015.html - Description: 通信算法的选择在很大程度上决定了通信算子的整体性能表现,为应对不同的网络拓扑、通信数据量以及硬件资源,一个通信算子往往具有多种算法实现。在实际分布式集群场景中,需要根据具体场景,综合考量选择拓扑亲和的通信算法,以实现通信效率的最大化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000015_html.md ## 创建资源 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000016.html - Description: 通信算子在执行时依赖底层的硬件通信资源,因此在算子任务编排下发前,首先需要申请所需的通信资源。HCCL通信资源主要分为三类:- Thread:用于表达单个rank内的并发关系,相同Thread上的task严格顺序执行,不同Thread上的task可以并发执行。无论何种展开模式,Thread均可分为1个主Thread和若干个从Thread,由该主Thread来控制这些从Thread上的任务的开始和结 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000016_html.md ## 任务编排 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000017.html - Description: 参与集合通信的各个rank协调有序地进行同步与数据搬运,完成一个集合通信操作的过程,称为任务编排。任务编排的主要目的是将不同通信线程上的任务并行执行,实现资源的最大化利用,从而提升整体性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000017_html.md ## 算子下发 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000018.html - Description: 开发者完成通信算子任务编排后,需要将Kernel函数下发给具体的通信引擎执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000018_html.md ## 编译部署 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000019.html - Description: 开发者完成通信算子开发之后,需部署到运行环境上进行功能验证。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000019_html.md ## 总体流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000021.html - Description: HCCL通信算子的开发流程如下所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000021_html.md ## 定义算子接口 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000022.html - Description: 开发者首先需依据通信算子的功能作用,创建算子接口定义头文件,后续调用此通信算子时依赖该头文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000022_html.md ## 查询拓扑信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000023.html - Description: 为了应对复杂的网络拓扑结构,通信算子需要根据通信域的拓扑结构选择最匹配的算法,为此,HCCL控制面提供了拓扑信息查询功能,供开发者使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000023_html.md ## 算法选择 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000024.html - Description: 通信引擎为AIV时,通信算子在Vector Core展开,下发与展开阶段的路径较短、时延开销比较低,适用于通信数据量较小、对时延要求较高的推理场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000024_html.md ## 创建资源 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000025.html - Description: 通信算子在执行时依赖底层的硬件通信资源,因此在算子任务编排下发前,首先需要申请所需的通信资源。AIV通信算子需要的通信资源主要分为三类:- Vector Core:用于表达单个rank内的并发关系。在算法编排过程中,可将不同rank或不同数据块拆分,并在多个计算核上并行处理。多个AI Core共享同一份代码逻辑,各个计算核上运行的实例之间唯一的区别在于核ID(下标)不同,每个核根据自己的下标来确定 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000025_html.md ## 任务编排 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000026.html - Description: 参与集合通信的各个rank协调有序地进行同步与数据搬运,完成一个集合通信操作的过程,称为任务编排。任务编排的主要目的是将不同通信线程上的任务并行执行,实现资源的最大化利用,从而提升整体性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000026_html.md ## 算子下发 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000027.html - Description: 开发者完成通信算子任务编排后,需要将Kernel函数下发给具体的通信引擎执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000027_html.md ## 基于NPU环境测试 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdev_000036.html - Description: 开发者需基于自定义通信算子的功能,自行编写测试用例进行验证,主要包括输入数据的构造和语义逻辑的检查。下面简要介绍通信算子的测试方法。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdev_000036_html.md ## 接口列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0001.html - Description: 通信算子开发接口分为控制面接口与数据面接口。- 控制面接口:提供拓扑信息查询、通信资源管理等功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0001_html.md ## CANN商业版-CommTopo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0003.html - Description: \#\#\#\# 功能说明 定义通信拓扑类型。 \#\#\#\# 定义原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0003_html.md ## CANN商业版-CommLink - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0004.html - Description: 通信连接信息,包含用于创建通信Channel的协议、地址等信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0004_html.md ## CANN商业版-CommMem - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0005.html - Description: 内存段元数据描述结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0005_html.md ## CANN商业版-CommMemType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0006.html - Description: \#\#\#\# 功能说明 内存物理位置类型。 \#\#\#\# 定义原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0006_html.md ## CANN商业版-ChannelHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0007.html - Description: \#\#\#\# 功能说明 定义通道句柄类型。 \#\#\#\# 定义原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0007_html.md ## CANN商业版-ThreadHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0008.html - Description: \#\#\#\# 功能说明 线程句柄类型。 \#\#\#\# 定义原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0008_html.md ## CANN商业版-CommEngine - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0009.html - Description: \#\#\#\# 功能说明 通信引擎类型枚举。 \#\#\#\# 定义原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0009_html.md ## CANN商业版-CommAbiHeader - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0010.html - Description: 兼容Abi字段结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0010_html.md ## CANN商业版-CommProtocol - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0011.html - Description: 定义通信协议类型枚举。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0011_html.md ## CANN商业版-CommAddrType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0012.html - Description: \#\#\#\# 功能说明 通信设备地址类别。 \#\#\#\# 定义原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0012_html.md ## CANN商业版-CommAddr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0013.html - Description: 通信设备地址描述结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0013_html.md ## CANN商业版-HcclCommSymWindow - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0014.html - Description: 对称内存窗口资源句柄 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0014_html.md ## CANN商业版-EndPointLocType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0015.html - Description: 定义通信设备Endpoint的位置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0015_html.md ## CANN商业版-EndPointLoc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0016.html - Description: 定义Endpoint位置类型结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0016_html.md ## CANN商业版-EndPointDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0017.html - Description: 定义Endpoint描述类型结构体。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0017_html.md ## CANN商业版-EndpointAttr - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0018.html - Description: 定义Endpoint属性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0018_html.md ## CANN商业版-EndpointAttrBwCoeff - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0019.html - Description: Endpoint属性中对应带宽类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0019_html.md ## CANN商业版-EndpointAttrDieId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0020.html - Description: Endpoint属性中Die ID类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0020_html.md ## CANN商业版-EndpointAttrLocation - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0021.html - Description: Endpoint属性中的端口位置类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0021_html.md ## CANN商业版-EndpointHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0022.html - Description: Endpoint句柄。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0022_html.md ## CANN商业版-HcclChannelDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0023.html - Description: \#\#\#\# 功能说明 定义通信通道参数。 \#\#\#\# 定义原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0023_html.md ## CANN商业版-HcommReduceOp - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0024.html - Description: \#\#\#\# 功能说明 定义归约操作类型。 \#\#\#\# 定义原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0024_html.md ## CANN商业版-HcommDataType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0025.html - Description: \#\#\#\# 功能说明 定义数据类型。 \#\#\#\# 定义原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0025_html.md ## CANN商业版-HcommChannelDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0026.html - Description: 定义组件间通道参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0026_html.md ## CANN商业版-HcclComm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0028.html - Description: 指向当前通信域的句柄。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0028_html.md ## CANN商业版-HcclHeterogMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0029.html - Description: \#\#\#\# 功能说明 定义异构组网模式。 \#\#\#\# 定义原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0029_html.md ## CANN商业版-HcclMemHandle - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0030.html - Description: \#\#\#\# 功能说明 内存句柄类型。 \#\#\#\# 定义原型 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0030_html.md ## CANN商业版-HcclResult - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0031.html - Description: 定义集合通信相关操作的返回值。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0031_html.md ## CANN商业版-HcclGetRankId - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0034.html - Description: 获取Device在指定通信域中对应的rank序号。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0034_html.md ## CANN商业版-HcclGetRankSize - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0035.html - Description: 查询指定通信域的rank数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0035_html.md ## CANN商业版-HcclRankGraphGetLayers - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0036.html - Description: 查询包含当前rank的拓扑层级编号列表以及拓扑层级数量。 以上述拓扑模型为例,包含Layer 0和Layer 1两级拓扑,调用此接口后返回的拓扑层级编号列表为\[0,1\],拓扑层级数量为2。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0036_html.md ## CANN商业版-HcclRankGraphGetRanksByLayer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0037.html - Description: 给定通信域和拓扑层级编号,返回该层级下本rank所在拓扑实例的所有rank编号列表以及rank数量。 以上述拓扑模型为例:- Layer 0中包含两个拓扑实例,为方便理解,定义拓扑实例ID分别为0和1。 - Layer1中包含1个拓扑实例。 假设在rank 0上调用此接口,如果指定layer层级为0,则此接口返回的rank编号列表为\[0,1,2\],rank数量为3;如果指定layer层级为1,则此 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0037_html.md ## CANN商业版-HcclRankGraphGetRankSizeByLayer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0038.html - Description: 给定通信域和拓扑层级编号,返回该层级下本rank所在拓扑实例的rank数量。 以上述拓扑模型为例:- Layer 0中包含两个拓扑实例,为方便理解,定义拓扑实例ID分别为0和1。 - Layer1中包含1个拓扑实例。 假设在rank 0上调用此接口,如果指定layer层级为0,则此接口返回的rank数量为3;如果指定layer层级为1,则此接口返回的rank数量为6。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0038_html.md ## CANN商业版-HcclRankGraphGetTopoTypeByLayer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0039.html - Description: 给定通信域和拓扑层级编号,返回本rank所在拓扑层级中的拓扑类型。 以上述拓扑模型为例:- Layer 0中包含两个拓扑实例,为方便理解,定义拓扑实例ID分别为0和1。ID为0的拓扑类型为1DMesh,ID为1的拓扑类型为Clos。 - Layer1中包含1个拓扑实例,拓扑类型为Clos。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0039_html.md ## CANN商业版-HcclRankGraphGetInstSizeListByLayer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0040.html - Description: 给定通信域和拓扑层级编号,查询该层级下的拓扑实例数量,以及每个实例包含的rank数量。 以上述拓扑模型为例:- Layer 0中包含两个拓扑实例,为方便理解,定义拓扑实例ID分别为0和1,每个实例中分别包含3个rank。 - Layer 1中包含1个拓扑实例,实例中包含6个rank。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0040_html.md ## CANN商业版-HcclRankGraphGetLinks - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0041.html - Description: 给定通信域和拓扑层级编号,查询源rank和目的rank之间的通信连接信息。 以Atlas A3 训练系列产品 / Atlas A3 推理系列产品为例:- 示例1:源rank与目的rank分别在两个超节点。 netLayer \= 0, 无连接。 netLayer \= 1, 无连接。 netLayer \= 2, RDMA连接。 - 示例2:源rank与目的rank在同一个超节点,但不在同一 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0041_html.md ## CANN商业版-HcclRankGraphGetTopoInstsByLayer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0042.html - Description: 给定通信域和拓扑层级编号,查询当前rank所在的拓扑实例集合。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0042_html.md ## CANN商业版-HcclRankGraphGetTopoType - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0043.html - Description: 给定通信域和拓扑层级编号,查询当前rank在指定拓扑实例中对应的拓扑类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0043_html.md ## CANN商业版-HcclRankGraphGetRanksByTopoInst - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0044.html - Description: 给定通信域和拓扑层级编号,查询当前rank对应的指定拓扑实例中包含的rank信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0044_html.md ## CANN商业版-HcclGetHeterogMode - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0045.html - Description: 给定通信域,获取通信域的异构组网模式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0045_html.md ## CANN商业版-HcclRankGraphGetEndpointNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0046.html - Description: 获取拓扑实例中的EndPoint数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0046_html.md ## CANN商业版-HcclRankGraphGetEndpointDesc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0047.html - Description: 获取拓扑实例的EndPoint描述列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0047_html.md ## CANN商业版-HcclRankGraphGetEndpointInfo - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0048.html - Description: 获取指定通信设备的拓扑属性信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0048_html.md ## CANN商业版-HcclGetHcclBuffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0050.html - Description: 获取通信域中的HCCL通信内存,首次调用时将在Device侧进行内存初始化分配,后续调用将复用已分配内存,不会重复初始化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0050_html.md ## CANN商业版-HcclThreadAcquire - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0051.html - Description: 基于通信域获取通信线程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0051_html.md ## CANN商业版-HcclThreadAcquireWithStream - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0052.html - Description: 基于已有runtime stream获取指定notifyNum的通信线程资源。 当前适用于通信引擎为HOST CPU+TS、CCU的场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0052_html.md ## CANN商业版-HcclChannelDescInit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0053.html - Description: 初始化通信通道描述列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0053_html.md ## CANN商业版-HcclChannelAcquire - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0054.html - Description: 基于通信域获取多个通信通道,如果通信域中没有对应的通信通道则直接创建。 channel是否复用,依据commId + engine + remoterank + channelProtocol组成的channel唯一标识判断。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0054_html.md ## CANN商业版-HcclChannelGetHcclBuffer - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0055.html - Description: 获取指定channel对端的HCCL通信内存。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0055_html.md ## CANN商业版-HcclEngineCtxCreate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0056.html - Description: 指定通信域与通信引擎,使用特定标签创建对应的通信引擎上下文。 通信引擎上下文是该通信引擎数据面可以使用的一块内存,用于存放执行算子时所需的资源句柄或参数等信息,创建一次后可重复获取使用。指定通信域和通信引擎类型,一个通信引擎标签可以索引一个通信引擎上下文。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0056_html.md ## CANN商业版-HcclEngineCtxGet - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0057.html - Description: 指定通信域和通信引擎,通过通信引擎上下文标签获取对应的通信引擎上下文。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0057_html.md ## CANN商业版-HcclEngineCtxCopy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0058.html - Description: 指定通信域、通信引擎与通信引擎上下文标签,将Host侧内存数据拷贝至对应的通信引擎上下文中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0058_html.md ## CANN商业版-HcclEngineCtxDestroy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0059.html - Description: 指定通信域与通信引擎,使用特定标签销毁对应的通信引擎上下文。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0059_html.md ## CANN商业版-HcclCommMemReg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0060.html - Description: 向通信域注册已申请的内存,并获取对应的注册句柄。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0060_html.md ## CANN商业版-HcclChannelGetRemoteMems - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0061.html - Description: 获取通信通道中交换的远端内存信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0061_html.md ## CANN商业版-HcommEndpointCreate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0065.html - Description: 创建通信设备Endpoint。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0065_html.md ## CANN商业版-HcommEndpointDestroy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0066.html - Description: 销毁通信设备Endpoint。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0066_html.md ## CANN商业版-HcommMemReg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0067.html - Description: 注册内存到指定EndPoint。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0067_html.md ## CANN商业版-HcommMemUnreg - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0068.html - Description: 从EndPoint解除内存注册。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0068_html.md ## CANN商业版-HcommMemExport - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0069.html - Description: 内存注册后,导出指定内存描述,用于交换。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0069_html.md ## CANN商业版-HcommMemImport - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0070.html - Description: 本端通过导入对端导出的内存描述,获取相应的内存描述信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0070_html.md ## CANN商业版-HcommMemUnimport - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0071.html - Description: 关闭内存导入。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0071_html.md ## CANN商业版-HcommChannelCreate - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0072.html - Description: 该接口为创建通信通道的资源管理接口,基于已创建的网络端点(Endpoint),根据给定的通道描述信息批量创建通信通道,为点对点通信或集合通信提供数据传输的基础设施。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0072_html.md ## CANN商业版-HcommChannelGetStatus - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0073.html - Description: 该接口用于查询通信通道的状态,支持批量查询多个通道的连接状态,用于在通道创建后、通信操作前确认通道是否已就绪。 该接口采用轮询机制,调用方需要持续调用直到所有通道都返回READY状态。 该接口主要用于通道连接建立阶段的同步等待。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0073_html.md ## CANN商业版-HcommChannelGetNotifyNum - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0074.html - Description: 获取指定channel的Notify数量。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0074_html.md ## CANN商业版-HcommChannelDestroy - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0075.html - Description: 该接口为销毁通信通道的资源管理接口,释放由HcommChannelCreate创建的通信通道及其占用的所有系统资源,包括网络连接、同步信号、通信队列等。 该接口支持批量销毁,可在单次调用中释放多个通道,提高资源释放效率。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0075_html.md ## CANN商业版-HcommThreadAlloc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0076.html - Description: 申请通信线程,当前支持AI CPU+TS、HOST CPU+TS、CCU通信引擎。注意如果通信引擎是AI CPU+TS,需要额外下发一次kernel,AI CPU侧才能使用此通信线程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0076_html.md ## CANN商业版-HcommThreadFree - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0077.html - Description: 使用HcommThreadAlloc接口申请的thread需要通过本接口进行释放。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0077_html.md ## CANN商业版-HcommLocalCopyOnThread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0080.html - Description: 提供本地内存拷贝功能,将src指向的长度为len的内存数据,拷贝到dst所指向的相同长度的内存中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0080_html.md ## CANN商业版-HcommLocalReduceOnThread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0081.html - Description: 提供本地归约操作,将src指向的长度为countsizeof\(dataType\)的内存数据,与dst所指向的相同长度的内存数据进行reduceOp操作,并将结果输出到dst中。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0081_html.md ## CANN商业版-HcommThreadNotifyRecordOnThread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0082.html - Description: 向其他Thread发送同步信号,主要用于多Thread之间的同步等待场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0082_html.md ## CANN商业版-HcommThreadNotifyWaitOnThread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0083.html - Description: 等待同步信号,该接口会阻塞等待Thread的运行,直到指定的Notify被record完成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0083_html.md ## CANN商业版-HcommAclrtNotifyRecordOnThread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0084.html - Description: 基于acl接口创建的Notify发送同步信号,需与HcommAclrtNotifyWaitOnThread配对使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0084_html.md ## CANN商业版-HcommAclrtNotifyWaitOnThread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0085.html - Description: 基于acl接口创建的Notify等待同步信号,须与HcommAclrtNotifyRecordOnThread配对使用。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0085_html.md ## CANN商业版-HcommWriteOnThread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0087.html - Description: 向channel上的指定内存写数据,将src中长度为len的内存数据写入dst所指向的相同长度的内存区域。接口调用方为src所在节点,该接口为异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0087_html.md ## CANN商业版-HcommWriteReduceOnThread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0088.html - Description: 向channel上的指定内存写数据,将src中长度为countsizeof\(dataType\)的内存数据,与dst所指向的相同长度的内存数据进行reduceOp操作,并将结果输出到dst中。接口调用方为src所在节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0088_html.md ## CANN商业版-HcommReadOnThread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0089.html - Description: 从channel上的指定内存读数据,从src中读取长度为len的内存数据,并写入dst。接口调用方为dst所在节点,为异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0089_html.md ## CANN商业版-HcommReadReduceOnThread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0090.html - Description: 从channel上的指定内存读数据,从src中读取长度为countsizeof\(dataType\)的内存数据,与dst所指向的相同长度的内存数据进行reduceOp操作,并将结果输出到dst中。接口调用方为dst所在节点。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0090_html.md ## CANN商业版-HcommChannelNotifyRecordOnThread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0091.html - Description: 发送同步信号,在Thread上记录一个Notify。该接口为异步接口,主要用于Channel两端同步等待场景。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0091_html.md ## CANN商业版-HcommChannelNotifyWaitOnThread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0092.html - Description: 等待同步信号,阻塞等待Thread的运行,直到指定的Notify完成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0092_html.md ## CANN商业版-HcommWriteWithNotifyOnThread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0093.html - Description: 向channel上的指定内存写数据,将src中长度为len的内存数据写入dst所指向的相同长度的内存区域,并且向dst所在节点发送同步信号。接口调用方为src所在节点,该接口为异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0093_html.md ## CANN商业版-HcommWriteReduceWithNotifyOnThread - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0094.html - Description: 向channel上的指定内存写数据,将src中长度为countsizeof\(dataType\)的内存数据,与dst所指向的相同长度的内存数据进行reduceOp操作,并将结果输出到dst中,并向dst所在节点发送同步信号。接口调用方为src所在节点,该接口为异步接口。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0094_html.md ## CANN商业版-HcommBatchModeStart - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0096.html - Description: 该接口用于开启批量模式,在HcommBatchModeStart和HcommBatchModeEnd之间的所有数据面接口调用(如 HcommLocalCopy、HcommWrite 等)将被缓存,不会立即执行。所有操作将在调用HcommBatchModeEnd时统一提交并执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0096_html.md ## CANN商业版-HcommBatchModeEnd - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0097.html - Description: 该接口用于提交并触发批量模式下缓存的所有操作的执行。所有在HcommBatchModeStart和HcommBatchModeEnd之间的数据面接口调用操作将在此时统一执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0097_html.md ## CANN商业版-HcommAcquireComm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0098.html - Description: 根据传入的commId获取对应通信域,并对该通信域加锁,防止该通信域被重复获取。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0098_html.md ## CANN商业版-HcommReleaseComm - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0099.html - Description: 根据传入的commId,查找对应通信域,并释放锁。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0099_html.md ## CANN商业版-HcommChannelDescInit - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/commopdev/hcclopdevapi_07_0101.html - Description: 初始化通信通道描述列表。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_commopdev_hcclopdevapi_07_0101_html.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0081_html.md ## 数据排布格式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlas_ascendc_10_0099.html - Description: 数据排布格式(Data Layout Format)是深度学习中对多维Tensor在内存中存储方式的描述。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlas_ascendc_10_0099_html.md ## 场景介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0004.html - Description: 本节给出编译运行Graph的几种典型业务场景,用户可以根据实际情况选择需要进行的业务。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0004_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0005.html - Description: 进行开发之前,需要先搭建相应环境,包括安装软件包以及设置环境变量等,本章节给出详细介绍。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0005_html.md ## 通过算子原型构建Graph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0009.html - Description: 本节介绍如何通过算子原型和图引擎接口,一步步地构建完整Graph。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0009_html.md ## 定义数据节点(Data) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0011.html - Description: Graph的输入节点,也就是数据节点,使用Data算子实现。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0011_html.md ## 定义常量节点(Const) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0012.html - Description: 权值、偏置等信息为常量Tensor,可以通过Const算子实现。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0012_html.md ## 定义必选输入算子(SoftmaxV2) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0013.html - Description: 下面以SoftmaxV2为例,介绍如何进行算子定义。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0013_html.md ## 定义可选输入算子(Conv2D) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0015.html - Description: 下面以Conv2D为例,介绍如何进行算子定义。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0015_html.md ## 定义动态多输入算子(AddN) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0016.html - Description: 某些算子的输入个数不固定,为动态多输入算子,例如AddN,下面介绍如何定义这类算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0016_html.md ## 定义动态多输出算子(Split) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0017.html - Description: 某些算子的输出个数不固定,为动态多输出算子,例如Split,下面介绍如何定义这类算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0017_html.md ## 定义数据类型转换算子(Cast) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0018.html - Description: 通过算子原型构建Graph时,要求前后算子的dtype必须一致,上一个算子的输出dtype如果和下一层算子的输入dtype不匹配时需要插入Cast算子。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0018_html.md ## 使用Parser接口将原始模型解析为Graph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0024.html - Description: 除了可以使用算子原型直接构图外,CANN还提供了框架解析功能,将主流框架的模型格式解析成CANN模型格式。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0024_html.md ## 使用改图接口修改Graph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0026.html - Description: 如果用户想要直接优化图的结构,比如将某些特定子图替换成一个融合算子,以减少计算步骤、外存访问、调度时间等,或者在某些算子之间添加一个算子,此时可以通过本节内容将图直接修改成期望的结构。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0026_html.md ## 基于改图接口实现Pass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0027.html - Description: 本节介绍如何通过改图接口封装的自定义Pass,实现对Graph的修改。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0027_html.md ## 编译Graph生成om离线模型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0030.html - Description: 本节给出将Graph编译为om离线模型涉及的主要接口以及调用示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0030_html.md ## 同步运行Graph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0033.html - Description: 本节介绍同步运行Graph涉及的主要接口以及调用示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0033_html.md ## 单进程单卡异步运行 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0035.html - Description: 本章节给出使用异步运行接口,并使用Device内存运行Graph的示例。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0035_html.md ## CANN商业版-量化是指对模型的权重(weight)和数据(activation)进行低比特处理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0041.html - Description: 量化是指对模型的权重(weight)和数据(activation)进行低比特处理,让最终生成的网络模型更轻量化,从而达到节省网络模型存储空间、降低传输时延、提高计算效率,达到性能提升与优化的目标。本节介绍如何对Graph进行量化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0041_html.md ## 自动量化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0042.html - Description: 本节介绍如何通过aclgrphCalibration接口对Graph进行自动量化。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0042_html.md ## 支持量化的层及约束 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0044.html - Description: 本章节给出不同框架可量化的层以及相关约束。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0044_html.md ## 支持的融合功能 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0046.html - Description: 量化过程中会对模型中的某些结构做算子融合,融合后图结构得到优化,从而提升网络推理性能,本节对使用到的融合功能进行详细介绍。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0046_html.md ## 手工量化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0047.html - Description: 本节介绍如何手动修改模型插入量化算子,实现量化功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0047_html.md ## CANN商业版-AIPP - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0048.html - Description: 本节介绍构图过程中如何使能AIPP特性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0048_html.md ## 动态batch\_size - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0049.html - Description: 本节介绍如何在模型构建时支持动态batch\_size功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0049_html.md ## 动态分辨率 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0050.html - Description: 本节介绍如何在模型构建时支持动态分辨率的功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0050_html.md ## 编译Graph为离线模型场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0052.html - Description: 当前系统支持在接口中配置动态维度信息,从而支持动态输入的场景。本节将给出详细说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0052_html.md ## 编译并运行Graph场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0053.html - Description: 当前系统支持在用户脚本中配置动态维度信息,从而支持动态输入的场景,本节给出具体说明。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0053_html.md ## 动态输入shape范围 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0054.html - Description: 本节介绍如何在模型构建时设置动态输入的shape范围。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0054_html.md ## Profiling性能数据采集 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0056.html - Description: 用户可以在图加载和图执行过程中,采集Profiling性能数据,用于性能分析,本节给出详细的采集方法。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0056_html.md ## 图编译缓存 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0063.html - Description: 图编译缓存功能支持将图编译结果进行磁盘持久化,从而在应用程序重新运行时可直接加载磁盘上缓存的编译结果。在编译并运行Graph过程中,为了减少图编译时长,可以开启图编译缓存功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0063_html.md ## 单进程多卡异步运行 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0075.html - Description: 本章节介绍如何使用单进程管理多卡,即一个进程可以并发执行在不同的Device上。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0075_html.md ## 使用自定义逻辑流分配Pass定制并发 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0076.html - Description: 由于算子执行时间、核占用、带宽等执行时的因素影响,导致一套算法在不同硬件上并发效果不同,并且在编译阶段无法准确预估;目前并不存在一个完美的算法,在任意网络、任意硬件上都能达到最佳并发。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0076_html.md ## 使用接口全新构建Graph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0077.html - Description: GE的C++图引擎接口提供了两种构图方式: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0077_html.md ## 融合规则列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0078.html - Description: 如下融合规则关闭后可能会有功能使用上的风险;更多融合规则请参见《图融合和UB融合规则参考\(https://www.hiascend.com/document/detail/zh/canncommercial/900/maintenref/graphubfusionref/atlasrr\_30\_0003.html\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0078_html.md ## 指定Graph输入输出的内部格式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0079.html - Description: 在了解本章节特性之前,需要先了解什么是原始格式和内部格式(或称运行时格式): - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0079_html.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0081.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0081_html.md ## 使用ATC命令转换ONNX模型 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0083.html - Description: 本节介绍如何使用ATC命令转换.onnx格式的模型文件,并在AI处理器上执行推理。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0083_html.md ## Tensor/Node/Graph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0085.html - Description: Ascend IR(Ascend Intermediate Representation,昇腾中间表示)是AI处理器专用的抽象数据结构,用于表达计算流程。基于GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR表示的计算图,同时也支持用户自定义构建计算图,后续的编译加速优化均基于该计算图完成。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0085_html.md ## 模型下沉调度 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0087.html - Description: 在AI模型运行中,通常需要CPU和AI专用处理器(如NPU,又称AI处理器)协同工作。CPU所在位置称为主机端(Host),而NPU所在位置称为设备端(Device)。主机端擅长处理复杂的逻辑计算,而设备端擅长进行高并行计算。通过高效的计算调度机制,实现Host和Device之间的高效协同是提高AI模型性能的关键,能够显著提升异构系统资源的利用率。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0087_html.md ## 基于Pattern匹配实现Pass - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0093.html - Description: 为提高自定义融合Pass的开发效率,本章提供了一组基于图结构的匹配与替换接口,用于实现Pass的构建。整个融合行为的逻辑可分为以下三个步骤: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0093_html.md ## 什么是ES - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0095.html - Description: 本章节介绍一种极简构图的方式,旨在提升构图的易用性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0095_html.md ## 生成ES构图API(可选) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0096.html - Description: 本节介绍如何通过ES Code Generator生成用户可直接使用的构图API。该场景需要用户已经有应用程序,且应用程序中存在CMake文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0096_html.md ## 通过ES构建Graph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0097.html - Description: 使用ES构建Graph,整体流程分为如下四个步骤: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0097_html.md ## CMake常见示例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0098.html - Description: - 基本用法 如果工程中还有在编译阶段就需要ES头文件的OBJECT/STATIC中间目标,可额外添加adddependencies\( buildesmath\)(buildes 名称会随包名变化),以确保在编译该目标前已完成代码生成。最终的可执行或共享库只需targetlinklibraries\(... esmath\) 即可自动触发相关依赖, - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0098_html.md ## gen\_esb二进制工具使用 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0099.html - Description: gen\_esb是ES API的代码生成二进制工具,根据ASCEND\_OPP\_PATH环境变量读取CANN软件包内置的op\_graph子目录下的算子原型so,根据so里面存在的原型信息生成对应的ES产物; 如果是自定义的op\_proto的原型so,推荐使用generate\_es\_package.cmake提供的add\_es\_library来生成ES的产物并编译。生成产物包括: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0099_html.md ## 推理调优案例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0101.html - Description: 本节面向推荐模型的推理场景,通过一个完整的代码示例,结合推理阶段的Profiling数据,分析并定位影响模型吞吐性能的关键瓶颈,并给出相应的优化策略。内容涵盖多实例并行、AICore控核策略以及批量H2D(Host-to-Device)传输等技术的实现方法,并介绍这些技术对推理吞吐性能的影响。其中: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0101_html.md ## 样例代码解析 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0102.html - Description: 本实践采用模块化设计,基于C++语言结合GE图引擎 API与acl(Ascend Computing Language)API实现,完整代码请单击Link\(https://gitcode.com/cann/ge/tree/master/examples/recommendation\)获取,核心组件构成如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0102_html.md ## CANN商业版-Triton是近年来广受开发者欢迎的一种Python化编程语言 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0105.html - Description: Triton是近年来广受开发者欢迎的一种Python化编程语言。开发者只需关注Tile/Block的切分方式及基于其上的运算逻辑,Triton编译器便能结合底层硬件特性,在编译过程中自动完成内存分配、数据搬运、计算调度和流水并行等复杂操作。因此,算子开发难度显著降低,开发效率大幅提升。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0105_html.md ## 开发流程 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0106.html - Description: 本节给出Triton入图的详细开发流程。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0106_html.md ## Session到GeSession的迁移指导 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0115.html - Description: 本节旨在指导用户从Session类迁移到新引入的GeSession类。GeSession是对原有Session类的重构和优化,主要变化包括: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0115_html.md ## CANN商业版-本节介绍两种通过Pass修改Graph的方式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/atlasag_25_0118.html - Description: 本节介绍两种通过Pass修改Graph的方式,两种Pass实现区别如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_atlasag_25_0118_html.md ## CANN商业版-AutoFuse是基于Ascend C的自动融合框架 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/autofuse_1_0000.html - Description: AutoFuse是基于Ascend C的自动融合框架,支持自动融合范围识别、自动算子代码生成、Auto Tiling优化、动态shape及混合精度等特性;在算法网络中,由于存在大量的Vector计算,各个Vector计算之间会产生大量的内存搬运,导致Memory Bound问题。而AutoFuse通过自动将多个算子融合为一个算子,减少网络中的算子数量和内存搬运,从而缓解了Memory Bound问 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_autofuse_1_0000_html.md ## AutoFuse使能方式 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/autofuse_1_0004.html - Description: - 安装软件包:准备带有AI处理器的硬件环境,并安装驱动固件和CANN软件包,具体安装步骤请参见《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/canncommercial/900/softwareinst/instg/instg\_0000.html\)》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_autofuse_1_0004_html.md ## 算子Lowering实现 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/autofuse_1_0013.html - Description: 算子Lowering就是使用Loop IR来表达算子的计算逻辑。以基础的Add节点为例,其计算过程主要包括: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_autofuse_1_0013_html.md ## Graph Lowering实现 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/autofuse_1_0014.html - Description: Graph Lowering遍历图上的算子,依次调用算子的Lowering函数,如果算子没有Lowering函数,则会执行默认的Lowering函数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_autofuse_1_0014_html.md ## Lowering流程示例 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/autofuse_1_0015.html - Description: 本章节以一个简单的Conv+Abs+Exp+Conv的GE IR Graph为例(Conv无Lowering实现),简单介绍Lowering的流程。原始GE IR图如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_autofuse_1_0015_html.md ## CANN商业版-融合策略需要综合考虑后端能力、性能收益、内存峰值影响对融合行为做出决策和融合处理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/autofuse_1_0018.html - Description: 融合策略需要综合考虑后端能力、性能收益、内存峰值影响对融合行为做出决策和融合处理,得到一个相对较优的融合结果。融合策略当前实现的功能如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_autofuse_1_0018_html.md ## 融合条件判断 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/autofuse_1_0019.html - Description: 判断两个节点是否能融合,需要综合CanFuse框架和Backend的判断结果,两个结果都必须能融合才能融合,本章节分别给出两者的判断条件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_autofuse_1_0019_html.md ## 融合策略求解 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/autofuse_1_0020.html - Description: 经过融合条件判断后,若发现两个节点可以融合,可能会产生多种融合结果的组合,例如下图中的融合策略1和融合策略2,当存在多种融合策略时,需要确定哪种策略为最优。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_autofuse_1_0020_html.md ## 融合节点处理 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/autofuse_1_0021.html - Description: AscBackend和AscBackend之间才可以进行融合,融合后,可以循环轴合并生成的仍然是AscBackend类型,无法循环轴合并的,则生成FusedAscBackend类型。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_autofuse_1_0021_html.md ## CANN商业版-Codegen - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/autofuse_1_0030.html - Description: Codegen的功能是解析Schedule生成的ImplGraph,生成实际可执行的代码,包括在Host侧(Host Code)和Device侧(Kernel Code)运行的代码,其中: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_autofuse_1_0030_html.md ## Auto Tiling - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/autofuse_1_0031.html - Description: 在Schedule阶段,系统会根据前端输入的AscIR图生成多种优化后的切分图,Auto Tiling需要评估这些图的最优切分方案及其对应的Kernel性能,从而选出最优模板。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_autofuse_1_0031_html.md ## CANN商业版-AscendC IR(如下简称AscIR)是一套基于Ascend C语言定义的I - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/autofuse_1_0050.html - Description: AscendC IR(如下简称AscIR)是一套基于Ascend C语言定义的IR,专门负责自动融合软件栈的后端工作,AscIR与Ascend C API一一对应:AscIR的类型(type)用于区分对应的Ascend C API;AscIR定义中的输入、输出、属性等内容,分别映射到Ascend C API的各类参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_autofuse_1_0050_html.md ## CANN商业版-AscIR - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/autofuse_1_0051.html - Description: 一个AscIR有如下部分组成: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_autofuse_1_0051_html.md ## 概念介绍 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/autofuse_1_0053.html - Description: 在当前算子实现模型中,完整计算逻辑分为Host部分(通常称为Tiling函数)和Device部分(通常称为Kernel)。执行算子时,首先根据输入shape等信息运行Host侧的Tiling函数,生成TilingData,并将其作为Kernel的输入,继续执行Device部分。Device侧一份Kernel代码在多个硬件单元(也被称为核、block)上并发执行,因此,每个核只负责整个算子计算的一部 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_autofuse_1_0053_html.md ## CANN商业版-HintGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/autofuse_1_0054.html - Description: HintGraph对应后端入口的阶段,准确来说,HintGraph是Auto Schedule模块输入的规范。在HintGraph阶段,认为所有内存是无限的(包括UB与GM)内存,每个节点是个独立循环,完成对输入的处理;同时,HintGraph阶段不考虑分核,认为所有算子在一个核上完成计算。比如,有如下HintGraph: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_autofuse_1_0054_html.md ## CANN商业版-ImplGraph - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/autofuse_1_0055.html - Description: 在Auto Schedule处理HintGraph的过程中,会基于多种Schedule策略生成一到多份ScheduleResult,每份ScheduleResult都完整表达了算子的实现逻辑。一个ScheduleResult的整体计算会被拆分成一到多步子计算,每个子计算步骤被称为ScheduleGroup,其含义为独立应用Schedule策略。在一个ScheduleGroup中,每个Schedul - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_autofuse_1_0055_html.md ## CANN商业版-术语 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/programug/graphdevg/autofuse_1_0058.html - Description: **表1 术语表** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_programug_graphdevg_autofuse_1_0058_html.md ## CANN 9.0.0版本说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/releasenote/release-notes.md - Description: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_releasenote_release-notes_md.md ## 选择安装场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg - Description: 本文档提供了详细的NPU驱动和固件、CANN软件安装步骤,若您初次上手或希望快速安装CANN,建议参考《CANN 快速安装\(https://www.hiascend.com/cann/download\)》进行部署。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0000_html.md ## 选择安装场景 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0000.html - Description: 本文档提供了详细的NPU驱动和固件、CANN软件安装步骤,若您初次上手或希望快速安装CANN,建议参考《CANN 快速安装\(https://www.hiascend.com/cann/download\)》进行部署。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0000_html.md ## 准备软件包 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0003.html - Description: 当前CANN软件支持离线安装和在线安装(Conda、Yum、Apt-get和Pip等)方式,不同的安装类型获取软件包的方式不同,请参考本节内容进行获取。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0003_html.md ## 安装NPU驱动和固件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0005.html - Description: 物理机和容器部署场景,只需要在物理机安装NPU驱动和固件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0005_html.md ## 安装CANN - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0008.html - Description: 安装前需确保已具备Python环境及pip3,当前CANN支持Python3.7.x至3.13.x版本,若不满足可执行以下命令安装。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0008_html.md ## 安装软件包时提示解压失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_00101.html - Description: 安装软件包的时候提示解压失败报错信息示例如下,导致安装中止。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_00101_html.md ## 安装CANN(容器镜像安装) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0013.html - Description: AscendHub\(https://www.hiascend.com/developer/ascendhub/\#/index\)提供多种应用场景的容器镜像,可以直接获取使用,该方式仅用于开发调试,正式商用请自行准备镜像。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0013_html.md ## 升级前必读 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0028.html - Description: - 升级过程禁止进行其他维护操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0028_html.md ## 升级固件和驱动 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0029.html - Description: 升级NPU固件和驱动时,需按照“固件 > 驱动”的顺序升级。操作步骤如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0029_html.md ## 升级CANN - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0030.html - Description: 若通过Yum在线安装的CANN软件,升级步骤是通过在yum指令中指定目标版本号,示例:``` - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0030_html.md ## 卸载CANN - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0032.html - Description: 通过AscendHub拉取的CANN\(https://www.hiascend.com/developer/ascendhub/detail/17da20d1c2b6493cb38765adeba85884\)容器镜像,卸载时,请根据业务需求自行移除已构建的容器镜像;若在容器内通过其他方式安装的CANN软件,请在选择安装场景选择对应的安装方式后,查看卸载步骤。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0032_html.md ## 卸载驱动和固件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0033.html - Description: 若使用包管理器方式安装驱动后,可以参考卸载CANN进行操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0033_html.md ## 加固须知 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0035.html - Description: 本文中列出的安全加固措施为基本的加固建议项。用户应根据自身业务,重新审视整个系统的网络安全加固措施。用户应按照所在组织的安全策略进行相关配置,包括但不限于软件版本、口令复杂度要求、安全配置(协议、加密套件、密钥长度等),权限配置、防火墙设置等。必要时可参考业界优秀加固方案和安全专家的建议。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0035_html.md ## 禁止使用root账户远程登录系统 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0036.html - Description: root是Linux系统中的超级特权用户,具有所有Linux系统资源的访问权限。如果允许直接使用root账号登录Linux系统对系统进行操作,会带来潜在的安全风险。通常情况下,建议在“/etc/ssh/sshd\_config”文件中将“PermitRootLogin”参数设置为“no”,设置后,root用户无法通过SSH登录到系统,增加了系统的安全性。如果需要使用root权限进行管理操作,可以通过 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0036_html.md ## 账户UID安全加固 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0037.html - Description: UID为0的账户具有系统最高权限,应保证只有一个,其中只有root是Linux系统中的超级特权用户,确保当前系统中只有root账户UID\=0,同时,各系统账号的UID必须是不同的,可以执行id查询用户UID。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0037_html.md ## 内存地址随机化机制安全加固 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0038.html - Description: ASLR(address space layout randomization)开启后能增强漏洞攻击防护能力,建议用户将/proc/sys/kernel/randomize\_va\_space里面的值设置为2,开启该功能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0038_html.md ## 禁止使用SetUID或SetGID的shell脚本 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0039.html - Description: 特殊权限的脚本有可能被恶意使用,给系统带来巨大的威胁,如非必要,建议禁止使用SUID、SGID脚本。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0039_html.md ## 无属主文件安全加固 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0040.html - Description: 用户可以执行如下命令,查找系统中的无属主文件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0040_html.md ## 设置umask - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0041.html - Description: 建议用户将主机(包括宿主机)和容器中的umask设置为0027及以上,提高安全性。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0041_html.md ## 参数说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0043.html - Description: 本章节介绍了run格式软件包相关参数说明,run格式软件包支持通过命令行参数进行一键式安装,各个命令之间可以配合使用,用户根据安装需要选择对应参数,所有参数都是可选参数。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0043_html.md ## 相关信息记录路径 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0044.html - Description: CANN软件包在安装过程中会生成相关配置、日志信息等,文件存放路径如表1所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0044_html.md ## 运行依赖列表 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0045.html - Description: CANN软件安装和运行时需安装相关依赖,详见表1。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0045_html.md ## 账号口令复杂度要求 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0047.html - Description: 账号口令至少满足如下要求: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0047_html.md ## 公网地址 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0048.html - Description: CANN源码包含开源软件和公网URL,主要用于下载华为相关软件包时的相关协议和分析迁移工具中提供的性能调优建议: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0048_html.md ## 快速安装FAQ - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0050.html - Description: CANN快速安装\(https://www.hiascend.com/cann/download\)提供了安装驱动、Toolkit、ops算子包,以及安装后验证的操作步骤,帮助您迅速部署CANN环境,本节将提供该页面的使用方式和常见问题的解决方案,若当前该界面无法满足您的使用操作,请参考完整的《CANN 软件安装》。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0050_html.md ## 安装驱动源码编译所需依赖 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0051.html - Description: 各操作系统安装驱动源码编译所需的依赖及其检查命令、安装命令可参见本节内容。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0051_html.md ## 在边缘设备上部署 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0052.html - Description: **表1 参考文档** - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0052_html.md ## 安装CANN - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0054.html - Description: - 单击 获取链接\(https://www.hiascend.com/developer/download/commercial/result?module\=cann\) - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0054_html.md ## 配置交叉编译环境 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0055.html - Description: 若开发环境和运行环境上的操作系统架构不同,需在开发环境中使用交叉编译工具,并使用运行环境架构的库文件进行编译,这样编译出来的可执行文件,才可以在运行环境中执行。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0055_html.md ## 安装、回退和卸载CANN冷补丁包 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0056.html - Description: CANN软件包支持冷补丁升级,即支持独立升级单个或多个库文件的功能。因此发布CANN冷补丁包。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0056_html.md ## 安装、升级和卸载CANN软件包(适用于deb格式) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0057.html - Description: deb格式只能在root权限下操作,非root用户需用到提权命令,请用户自行获取所需的sudo权限。使用完成后请取消涉及高危命令的权限,否则有sudo提权风险。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0057_html.md ## 安装、升级和卸载CANN软件包(适用于rpm格式) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0058.html - Description: rpm格式只能在root权限下操作,非root用户需用到提权命令,请用户自行获取所需的sudo权限。使用完成后请取消涉及高危命令的权限,否则有sudo提权风险。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0058_html.md ## 编译安装Python - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0061.html - Description: 以安装Python3.7.5为例演示编译安装操作,编译前请检查系统时间,确认与当前一致后再进行编译,避免编译安装Python时陷入死循环。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0061_html.md ## 编译安装gcc - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0062.html - Description: 以安装gcc 7.3.0为例演示编译安装操作,编译安装其他版本的gcc时,请自行替换源码包或参考gcc官网进行安装。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0062_html.md ## 查询软件包版本信息 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0064.html - Description: 以下操作适用于查询CANN软件包的版本信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0064_html.md ## 设置用户有效期 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0065.html - Description: 为保证用户的安全性,应设置用户的有效期,使用系统命令chage来设置用户的有效期。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0065_html.md ## 驱动安装出现报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0069.html - Description: 问题描述:执行命令安装驱动时报如下错误信息: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0069_html.md ## 创建UID和GID为1000的驱动运行用户HwHiAiUser失败 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0070.html - Description: 创建UID和GID为1000的驱动运行用户HwHiAiUser失败,回显如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0070_html.md ## 检查源或者安装依赖时,报错“No module named 'dnf'” - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0071.html - Description: 执行yum makecache或yum install -y xxx安装某个依赖包命令,显示如下错误: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0071_html.md ## 安装CANN包时报错pip3:command not found - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0072.html - Description: 安装CANN软件包的时候,报错pip3:command not found,导致安装中止。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0072_html.md ## CentOS 7.6容器镜像内安装CANN包报错“which:command not found” - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0073.html - Description: 在CentOS 7.6容器镜像内安装CANN软件包的时候,报错“which:command not found”,导致安装中止。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0073_html.md ## 容器里安装CANN时报错提示“Cannot fork” - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0074.html - Description: 在Ubuntu系统的容器里安装CANN软件包时,出现报错提示“Cannot fork”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0074_html.md ## CANN商业版-openssl-devel安装时报错提示so文件冲突 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0075.html - Description: 运行yum install -y openssl-devel命令进行安装时,出现so文件冲突错误,如下图所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0075_html.md ## pip3安装软件包时,出现timed out报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0076.html - Description: 使用pip3下载相关依赖报错,比如执行pip3 install scipy进行安装出现timed out错误,如下图所示: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0076_html.md ## pip3 install scipy报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0077.html - Description: 安装scipy时,提示如下错误信息。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0077_html.md ## pip3 install numpy报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0078.html - Description: 安装依赖时,使用pip3 install numpy命令安装时报错“Could not build wheels for numpy which use PEP 517 and cannot be install directly”,提示信息如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0078_html.md ## pip3 install报错“subprocess.CalledProcessError:Command '\('lsb\_release', '-a'\)' return non-zero exit st - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0079.html - Description: 安装依赖时,使用pip3 install xxx命令安装相关软件时报错“subprocess.CalledProcessError:Command '\('lsb\_release', '-a'\)' return non-zero exit status 1”,提示信息如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0079_html.md ## Python版本不一致导致的问题 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0080.html - Description: 普通用户下,如果用户的其他软件依赖的Python版本和要求的Python版本不一致,可能会出现问题。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0080_html.md ## 安装时配置临时文件的路径 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0081.html - Description: 因为CANN软件包安装时所需空间较大,如果安装时遇到空间不足,可以通过TMPDIR环境变量,将解压的临时文件存放目录修改为剩余空间更大的磁盘上的目录,配置后再执行安装操作,示例命令如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0081_html.md ## 安装run包失败,日志中报错“usergroup\=root not right\!” - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0082.html - Description: 安装run包失败,日志中报错“usergroup\=root not right\!”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0082_html.md ## 使用glibc 2.28版本运行业务调用malloc接口出现Core Dump问题 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0083.html - Description: 在glibc 2.28版本的docker环境中运行视频解析、目标识别相关业务时出现Core Dump,通过排查堆栈信息,实际为调用glibc的malloc接口时出现异常,堆栈信息如下图所示。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0083_html.md ## 模型训练时报错“NotImplementedError: Cannot convert a symbolic Tensor to a numpy array” - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0084.html - Description: 部分模型训练时,会出现报错“NotImplementedError: Cannot convert a symbolic Tensor to a numpy array”,导致模型训练失败,报错示例如下: - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0084_html.md ## CANN商业版-openEuler 22.03上运行业务时,出现firewalld相关soft lockup或ksoftirqd占用CPU过高 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0085.html - Description: 在openEuler 22.03上同时使用默认的18.09版本Docker与1.0.2版本firewalld时,运行业务出现firewalld相关soft lockup或ksoftirqd占用CPU过高的情况。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0085_html.md ## 执行atc转换或模型训练时,报错:fatal error: 'cstdint' file not found - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0086.html - Description: 在Ubuntu 22.04上执行atc转换命令或者在CentOS 7.6上进行模型训练时,报错:fatal error: 'cstdint' file not found。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0086_html.md ## 离线安装CANN软件 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0087.html - Description: 本节内容指导用户通过在离线场景(待安装环境无法连接网络)下,通过拷贝已下载的OS镜像文件、依赖软件包、驱动和固件、CANN软件包至离线环境,并在离线环境上安装依赖和CANN软件。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0087_html.md ## 安装CANN(Yum在线安装) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0089.html - Description: 本节将介绍通过Yum快速安装CANN软件的操作步骤。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0089_html.md ## 安装Toolkit包时,报错Can not combine '--user' and '--target' - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0091.html - Description: 安装Toolkit包时报错“ERROR: Can not combine '--user' and '--target'”。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0091_html.md ## 安装CANN(Conda在线安装) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0093.html - Description: 本节提供了通过Conda快速安装CANN软件的操作步骤,支持的CANN软件包及版本详见软件包列表\(https://anaconda.org/ascend\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0093_html.md ## 安装后配置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0094.html - Description: 安装软件包后,请根据业务要求参考本节内容进行配置。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0094_html.md ## 编译优化 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0096.html - Description: 在推理业务场景下,使用毕昇编译器编译安装的Python,能有效提升推理性能。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0096_html.md ## BIOS配置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0097.html - Description: 本节将介绍基于昇腾AI处理器上的一系列通过BIOS进行高性能配置的操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0097_html.md ## 高性能内存分配器 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0099.html - Description: jemalloc是一款内存分配器,与传统内存分配器(例如,glibc)相比,其优势在于减少内存碎片和提升多线程高并发场景下内存的分配效率,进而充分发挥多核多并发的优势 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0099_html.md ## OS配置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0100.html - Description: 本节将介绍基于openEuler操作系统,进行Linux内核Page Size调优操作。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0100_html.md ## 操作系统兼容性说明 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0101.html - Description: 各硬件产品对应物理机部署场景支持的操作系统和内核版本要求请参考兼容性查询助手\(https://www.hiascend.com/hardware/compatibility\)。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0101_html.md ## 磁盘I/O配置 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0102.html - Description: 原理:NVMe SSD比普通SATA SSD的读、写性能更快、更高效,主要区别在于传输接口和协议。NVMe SSD使用更快的PCIe 接口和专门为SSD设计的NVMe协议,可直连CPU,实现更低延迟和数倍于SATA的读写速度。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0102_html.md ## 安装CANN(Pip在线安装) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0104.html - Description: 安装前需确保已具备Python环境及pip3,当前CANN支持Python3.7.x至3.13.x版本,若不满足可执行以下命令安装。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0104_html.md ## 安装CANN(Apt-get在线安装) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0105.html - Description: 本节将介绍通过apt-get快速安装CANN软件的操作步骤。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0105_html.md ## msopgen生成算子工程后,编译时出现ln命令报错 - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0106.html - Description: msopgen生成算子工程后,执行build.sh编译时失败,编译过程出现ln命令执行报错。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0106_html.md ## 安装NPU驱动(Yum在线安装) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0107.html - Description: 本节将介绍通过Yum快速安装NPU驱动的操作步骤。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0107_html.md ## 安装NPU驱动(Apt-get在线安装) - URL: https://www.hiascend.com/document/detail/zh/canncommercial/latest/softwareinst/instg/instg_0108.html - Description: 本节指导用户创建安装和运行用户,若用户已存在,请跳过本节内容。 - Detail: llms-content/document/detail/canncommercial/canncommercial_900_softwareinst_instg_instg_0108_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## nnopbase接口列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1042.html - Description: 无论是Ascend C自定义算子还是CANN内置算子(例如Transformer、NN类),均可通过aclnn API(也称为Level2层接口)实现底层算子调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1042_html.md ## CANN社区版-ADD\_TO\_LAUNCHER\_LIST\_AICORE - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1045.html - Description: 创建某个AI Core算子的执行任务并置入aclOpExecutor的执行队列,一般在二阶段接口aclnnXxx调用时执行。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1045_html.md ## CANN社区版-ADD\_TO\_LAUNCHER\_LIST\_AICPU - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1046.html - Description: 创建某个AI CPU算子的执行任务并置入aclOpExecutor的执行队列,一般在二阶段接口aclnnXxx调用时执行。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1046_html.md ## CANN社区版-CREATE\_EXECUTOR - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1047.html - Description: 创建一个UniqueExecutor对象,该对象为aclOpExecutor的生成工厂类。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1047_html.md ## CANN社区版-DFX\_IN - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1048.html - Description: 用于封装L2一阶段接口aclnnXxxGetWorkspaceSize的输入参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1048_html.md ## CANN社区版-DFX\_OUT - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1049.html - Description: 用于封装L2一阶段接口aclnnXxxGetWorkspaceSize的输出参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1049_html.md ## CANN社区版-INFER\_SHAPE - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1050.html - Description: 针对指定算子,运行其InferShape函数,推导输出shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1050_html.md ## CANN社区版-L0\_DFX - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1051.html - Description: 用于L0接口时延统计(Profiling)及入参打印。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1051_html.md ## CANN社区版-L2\_DFX\_PHASE\_1 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1052.html - Description: 用于L2一阶段接口aclnnXxxGetWorkspaceSize时延统计及入参打印,该宏必须在一阶段接口最前方调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1052_html.md ## CANN社区版-L2\_DFX\_PHASE\_2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1053.html - Description: 用于L2二阶段接口aclnnXxx时延统计,必须在二阶段接口最前方调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1053_html.md ## CANN社区版-OP\_ATTR - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1054.html - Description: 用于封装算子的属性参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1054_html.md ## CANN社区版-OP\_ATTR\_NAMES - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1055.html - Description: 用于封装AI CPU算子的属性名字。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1055_html.md ## CANN社区版-OP\_EMPTY\_ARG - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1056.html - Description: 用于表示一个空的参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1056_html.md ## CANN社区版-OP\_INPUT - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1057.html - Description: 用于封装算子的输入aclTensor和aclTensorList。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1057_html.md ## CANN社区版-OP\_MODE - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1058.html - Description: 用于封装算子的运行模式,算子计算过程中是否开启HF32数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1058_html.md ## CANN社区版-OP\_OUTPUT - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1059.html - Description: 用于封装算子的输出aclTensor和aclTensorList。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1059_html.md ## CANN社区版-OP\_OUTSHAPE - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1060.html - Description: 针对需要计算结果来确定输出shape的算子,如NonZero算子,该宏用于存放此类算子输出shape的aclTensor。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1060_html.md ## CANN社区版-OP\_OPTION - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1061.html - Description: 用于封装算子的精度模式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1061_html.md ## CANN社区版-OP\_TYPE\_REGISTER - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1062.html - Description: 注册一个L0算子,生成对应的算子名称和TypeID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1062_html.md ## CANN社区版-OP\_WORKSPACE - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1063.html - Description: 用于封装算子显式指定的workspace参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1063_html.md ## CANN社区版-OpImplMode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1064.html - Description: OpImplMode枚举类表示算子的精度模式,具体定义如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1064_html.md ## CANN社区版-OpExecMode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1065.html - Description: OpExecMode枚举类表示算子的运行模式,具体定义如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1065_html.md ## CANN社区版-bfloat16 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1066.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1066_html.md ## CANN社区版-GetStorageShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1068.html - Description: 获取aclTensor的StorageShape属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1068_html.md ## CANN社区版-SetStorageShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1069.html - Description: 设置aclTensor的StorageShape属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1069_html.md ## CANN社区版-GetOriginalShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1070.html - Description: 获取aclTensor的OriginShape属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1070_html.md ## CANN社区版-SetOriginalShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1071.html - Description: 设置aclTensor的OriginShape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1071_html.md ## CANN社区版-GetViewShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1072.html - Description: 获取aclTensor的ViewShape。ViewShape表示aclTensor的逻辑shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1072_html.md ## CANN社区版-SetViewShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1073.html - Description: 设置aclTensor的ViewShape。ViewShape表示aclTensor的逻辑shape,可由GetViewShape获取。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1073_html.md ## CANN社区版-GetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1074.html - Description: 获取aclTensor的StorageFormat。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1074_html.md ## CANN社区版-SetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1075.html - Description: 设置aclTensor的StorageFormat。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1075_html.md ## CANN社区版-GetOriginalFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1076.html - Description: 获取aclTensor的OriginFormat。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1076_html.md ## CANN社区版-SetOriginalFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1077.html - Description: 设置aclTensor的OriginFormat。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1077_html.md ## CANN社区版-GetViewFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1078.html - Description: 获取aclTensor的ViewFormat。ViewFormat为aclTensor的逻辑Format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1078_html.md ## CANN社区版-SetViewFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1079.html - Description: 设置aclTensor的ViewFormat。ViewFormat为aclTensor的逻辑Format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1079_html.md ## CANN社区版-GetViewStrides - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1080.html - Description: 获取aclTensor的ViewStrides。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1080_html.md ## CANN社区版-SetViewStrides - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1081.html - Description: 设置aclTensor的ViewStrides。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1081_html.md ## CANN社区版-Numel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1082.html - Description: 获取aclTensor的总元素个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1082_html.md ## CANN社区版-GetDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1083.html - Description: 获取aclTensor的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1083_html.md ## CANN社区版-IsEmpty - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1084.html - Description: 判断aclTensor是否为空tensor。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1084_html.md ## CANN社区版-SetData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1085.html - Description: 针对通过AllocHostTensor申请得到的host侧tensor,设置指定位置的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1085_html.md ## CANN社区版-SetDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1086.html - Description: 设置aclTensor的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1086_html.md ## CANN社区版-SetIntData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1088.html - Description: 针对通过AllocHostTensor申请得到的host侧tensor,用一块int64\_t类型的内存初始化tensor数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1088_html.md ## CANN社区版-SetFloatData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1089.html - Description: 针对通过AllocHostTensor申请得到的host侧tensor,用一块float类型的内存初始化tensor数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1089_html.md ## CANN社区版-SetFp16Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1090.html - Description: 针对通过AllocHostTensor申请得到的host侧tensor,用一块float16类型的内存初始化tensor数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1090_html.md ## CANN社区版-SetBf16Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1091.html - Description: 针对通过AllocHostTensor申请得到的host侧tensor,用一块bfloat16类型的内存初始化tensor数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1091_html.md ## CANN社区版-CheckOverflows - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1092.html - Description: 校验aclScalar中保存的标量,数值是否有溢出。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1092_html.md ## 预留接口 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1093.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1093_html.md ## CANN社区版-IsBasicType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1095.html - Description: 判断输入的数据类型,是否为基础类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1095_html.md ## CANN社区版-IsNumberType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1096.html - Description: 判断输入的数据类型,是否为数字类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1096_html.md ## CANN社区版-IsRealNumberType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1097.html - Description: 判断输入的数据类型,是否只包含实部数字类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1097_html.md ## CANN社区版-TypeSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1098.html - Description: 计算输入的数据类型一个元素占用多少Byte。对于不满一个Byte大小的数据类型,会在基础bit大小上额外加1000,例如Int4,将返回1004,表示一个元素占用4bit。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1098_html.md ## CANN社区版-ToOpDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1099.html - Description: 将aclDataType转换为对应的op::DataType。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1099_html.md ## CANN社区版-ToAclDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1100.html - Description: 将op::DataType转换为对应的aclDataType。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1100_html.md ## 预留接口 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1101.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1101_html.md ## CANN社区版-IsPrivateFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1103.html - Description: 判断输入的format是否为私有格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1103_html.md ## CANN社区版-GetPrimaryFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1104.html - Description: 获取根format,去除关于C0的信息,只保留单纯的format信息。例如,将FORMAT\_FRACTAL\_Z\_C04转为FORMAT\_FRACTAL\_Z。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1104_html.md ## CANN社区版-ToOpFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1105.html - Description: 将aclFormat转为对应的op::Format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1105_html.md ## CANN社区版-ToAclFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1106.html - Description: 将op::Format转为对应的aclFormat。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1106_html.md ## 预留接口 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1107.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1107_html.md ## CANN社区版-fp16\_t - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1108.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1108_html.md ## CANN社区版-CopyToNpu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1110.html - Description: 创建一个host侧到device侧的数据拷贝任务,并放入executor的任务队列中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1110_html.md ## CANN社区版-CopyToNpuSync - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1111.html - Description: 同步完成host侧到device侧的数据拷贝,会阻塞等待拷贝动作完成,不会再放入executor任务队列。该接口中申请的device内存,需要调用方释放。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1111_html.md ## CANN社区版-CopyNpuToNpu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1112.html - Description: 创建一个device侧到device侧的数据拷贝任务,并放入executor的任务队列中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1112_html.md ## CANN社区版-object - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1113.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1113_html.md ## CANN社区版-op\_arg\_def - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1114.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1114_html.md ## CANN社区版-op\_cache - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1115.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1115_html.md ## CANN社区版-op\_cache\_container - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1116.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1116_html.md ## CANN社区版-op\_def - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1117.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1117_html.md ## CANN社区版-op\_dfx - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1118.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1118_html.md ## CANN社区版-AllocTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1120.html - Description: 申请一个device侧tensor,提供多个重载函数,可以指定不同的属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1120_html.md ## CANN社区版-AllocHostTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1121.html - Description: 申请一个host侧tensor,提供多个重载函数,可以指定不同的输入属性,如不同的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1121_html.md ## CANN社区版-AllocIntArray - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1122.html - Description: 申请一个aclIntArray,并使用指定内存中的值对其进行初始化。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1122_html.md ## CANN社区版-AllocFloatArray - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1123.html - Description: 申请一个aclFloatArray,并使用指定内存中的值对其进行初始化。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1123_html.md ## CANN社区版-AllocBoolArray - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1124.html - Description: 申请一个aclBoolArray,并使用指定内存中的值对其进行初始化。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1124_html.md ## CANN社区版-AllocTensorList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1125.html - Description: 申请一个aclTensorList,并指定其内部包含的aclTensor。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1125_html.md ## CANN社区版-AllocScalarList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1126.html - Description: 申请一个aclScalarList,并指定其内部包含的aclScalar。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1126_html.md ## CANN社区版-AllocScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1127.html - Description: 申请一个aclScalar对象,并对其赋值。通过多个重载函数,用于支持多种数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1127_html.md ## CANN社区版-ConvertToTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1128.html - Description: 将不同数据类型的host侧数据,转为一个host侧aclTensor对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1128_html.md ## CANN社区版-CommonOpExecutorRun - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1129.html - Description: 根据workspace、stream,执行算子executor上下文中的所有任务。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1129_html.md ## CANN社区版-ReleaseTo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1130.html - Description: 将UniqueExecutor中保存的aclOpExecutor指针,传递到L2一阶段输出的executor中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1130_html.md ## CANN社区版-GetWorkspaceSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1131.html - Description: 根据L2一阶段中调用的L0接口,计算需要的workspace大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1131_html.md ## CANN社区版-AbandonCache - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1132.html - Description: 关闭aclnn cache缓存功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1132_html.md ## 预留接口 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1133.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1133_html.md ## CANN社区版-op\_log - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1134.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1134_html.md ## CANN社区版-GetCurrentPlatformInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1136.html - Description: 获取NPU平台信息,包括AI处理器型号、参数等信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1136_html.md ## CANN社区版-GetSocVersion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1137.html - Description: 获取AI处理器的短型号信息,格式形如Ascendxxx。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1137_html.md ## CANN社区版-GetSocLongVersion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1138.html - Description: 获取AI处理器的长型号信息,格式形如Ascendxxxyy。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1138_html.md ## CANN社区版-GetBlockSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1139.html - Description: 获取当前NPU平台上一个data block内存大小(单位Byte)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1139_html.md ## 预留接口 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1140.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1140_html.md ## CANN社区版-pool\_allocator - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1141.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1141_html.md ## CANN社区版-ToShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1143.html - Description: 将指定内存维度数据转为op::Shape(即gert::Shape)对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1143_html.md ## CANN社区版-ToShapeVector - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1144.html - Description: 提取输入Shape对象中的维度信息到一个ShapeVector容器。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1144_html.md ## CANN社区版-ToContiguousStrides - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1145.html - Description: 根据已有的shape信息,按照连续规则去推导对应的stride信息。例如shape为\[10, 20, 30\],那么推导出的stride为\[600, 30, 1\]。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1145_html.md ## CANN社区版-CheckBroadcastShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1146.html - Description: 校验两个shape间是否满足broadcast关系(广播规则介绍参考NumPy\(https://numpy.org/doc/stable/user/basics.broadcasting.html\)官网)。例如\[2, 1\]与\[2, 10\]满足broadcast关系,\[2, 2\]与\[2, 10\]不满足broadcast关系。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1146_html.md ## CANN社区版-BroadcastInferShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1147.html - Description: 对于满足broadcast关系(广播规则介绍参考NumPy\(https://numpy.org/doc/stable/user/basics.broadcasting.html\)官网)的两个shape,推导其broadcast后的shape。例如\[1, 10\]与\[2, 1\] broadcast后的shape为\[2, 10\]。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1147_html.md ## 预留接口 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1148.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1148_html.md ## CANN社区版-small\_vector - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1149.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1149_html.md ## CANN社区版-IsContiguous - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1151.html - Description: 判断输入tensor是否为一个连续tensor。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1151_html.md ## 预留接口 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1152.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1152_html.md ## CANN社区版-IsComplexType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1155.html - Description: 须知:该接口后续版本会废弃,请使用最新IsComplexType接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1155_html.md ## CANN社区版-IsFloatingType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1156.html - Description: 须知:该接口后续版本会废弃,请使用最新IsFloatingType接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1156_html.md ## CANN社区版-IsIntegralType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1157.html - Description: 须知:该接口后续版本会废弃,请使用最新IsIntegralType接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1157_html.md ## IsIntegralType(含bool) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1158.html - Description: 须知:该接口后续版本会废弃,请使用最新IsIntegralType(含bool)接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1158_html.md ## CanCast(废弃) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1159.html - Description: 须知:该接口后续版本会废弃,请使用最新CanCast接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1159_html.md ## CANN社区版-PromoteType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1160.html - Description: 须知:该接口后续版本会废弃,请使用最新PromoteType接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1160_html.md ## AicpuTask类 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1162.html - Description: AicpuTask类用于管理AI CPU task相关的一些参数和方法,包括组装task、task初始化、task下发、task执行等功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1162_html.md ## AicpuTaskSpace类 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1163.html - Description: AicpuTaskSpace类用于管理AI CPU task复用相关的逻辑,包括新建task、查找task等功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1163_html.md ## CANN社区版-aicpu\_args\_handler - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1164.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1164_html.md ## CANN社区版-aicpu\_ext\_info\_handle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1165.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1165_html.md ## CANN社区版-aicpu\_utils - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1166.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1166_html.md ## CANN社区版-aicpu\_task - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1167.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1167_html.md ## CANN社区版-Cast - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1194.html - Description: 将输入tensor转换为指定的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1194_html.md ## CANN社区版-Contiguous - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1195.html - Description: 该函数为公共的L0接口,作用是将非连续tensor转换为连续tensor。 由于L2级API的输入tensor可能是非连续的,一般L0级算子只支持连续tensor作为输入,因此需要将tensor转为连续后再作为其他L0算子的输入。 输入tensor可以是连续的,接口内部会兼容处理。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1195_html.md ## CANN社区版-ViewCopy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1196.html - Description: 该函数为公共的L0接口,作用是将连续tensor搬运到连续或非连续tensor上。 由于L2级API的输出tensor可能是非连续的,需要通过该API将连续的tensor搬运到非连续的tensor上。 输出tensor可以是连续或非连续的,接口内部会兼容处理,但输入要求是连续的。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1196_html.md ## CANN社区版-Pad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1197.html - Description: 将输入tensor按照paddings的大小对各个维度进行填充,填充值为0。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1197_html.md ## CANN社区版-Reshape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1198.html - Description: 该函数不改变算子tensor数据,只是将用户传入的输入tensor x的shape转换成该函数的第二个参数shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1198_html.md ## CANN社区版-Slice - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1199.html - Description: 从输入tensor中提取所需的切片。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1199_html.md ## CANN社区版-Transpose - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1200.html - Description: 该函数不改变tensor数据的值,而是对tensor进行转置操作。 通过Transpose算子,可以改变tensor在不同维度上的排列顺序,实现对tensor的维度重排。 具体的是将用户传入的输入tensor x的shape按指定维度的排列顺序perm进行转置并输出。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1200_html.md ## CANN社区版-TransData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1201.html - Description: 该函数不改变tensor数据的值,实现对tensor数据格式的转换。 具体功能是将用户输入tensor的format转换为指定的dstPrimaryFormat。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1201_html.md ## CANN社区版-TransDataSpecial - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1202.html - Description: 该函数不改变tensor数据的值,实现对tensor数据格式的转换,功能与TransData类似。 具体功能是将用户输入tensor的format转换为指定的dstPrimaryFormat。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1202_html.md ## CANN社区版-ReFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1203.html - Description: 该函数不改变tensor数据的值,在指定format和输入x的维度相同时,将输入数据格式设置为目标format。 具体功能是将用户输入tensor的viewFormat、originalFormat、storageFormat统一为指定的format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1203_html.md ## CANN社区版-IsNullptr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1204.html - Description: 判断输入的指针是否为空。若为空指针返回true、并打印错误日志,否则返回false。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1204_html.md ## CANN社区版-aclnn返回码 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1205.html - Description: 常见返回码如表1所示,异常信息可通过“aclGetRecentErrMsg\(https://www.hiascend.comdocument/detail/zh/CANNCommunityEdition/920beta1/API/runtimeapi/aclcppdevg\_03\_0028.html\)”接口获取,您可以根据报错提示排查问题或联系技术支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1205_html.md ## CANN社区版-op\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasascendc_api_07_1224.html - Description: 本章接口为预留接口,后续有可能变更或废弃,不建议开发者使用,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_atlasascendc_api_07_1224_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0001.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0002.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0003.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0004.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0006.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0008.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0009.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0010.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0011.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0012.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0015.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0018.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0019.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0020.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0021.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0022.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0024.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0025.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0026.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0027.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0028.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0029.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0030.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0031.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0032.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0033.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0036.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0037.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0038.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0039.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0040.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0041.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0042.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0043.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0044.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0045.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0046.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0047.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0048.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0049.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0050.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0051.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0052.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0053.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0054.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0055.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0056.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0057.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0058.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0059.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0060.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0061.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0062.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0063.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0064.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0065.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0066.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0067.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0068.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0069.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0070.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0071.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0072.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0073.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0074.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0075.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0076.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0077.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0078.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0079.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0080.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0081.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0082.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0083.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0084.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0085.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0086.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0087.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0088.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0089.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0090.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0091.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0092.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0093.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0094.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0095.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0096.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0097.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0098.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0099.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0100.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0101.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0102.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0103.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0104.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0106.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0107.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0108.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0109.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0110.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0111.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0112.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0113.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0114.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0115.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0116.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0117.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0118.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0119.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0120.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0121.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0122.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0123.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0124.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0125.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0126.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0127.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0128.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0129.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0130.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0131.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0132.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0133.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0135.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0136.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0137.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0138.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0139.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0140.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0141.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0143.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0144.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0145.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0147.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0148.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0149.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0150.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0151.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0152.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0153.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0154.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0155.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0156.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0157.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0158.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0159.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0160.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0161.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0162.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0163.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0164.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0165.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0166.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0167.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0168.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0169.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0170.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0171.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/atlasoxol_09_0174.html - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/common/%E4%B8%A4%E6%AE%B5%E5%BC%8F%E6%8E%A5%E5%8F%A3.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/common/%E4%BA%92%E6%8E%A8%E5%AF%BC%E5%85%B3%E7%B3%BB.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/common/%E4%BA%92%E8%BD%AC%E6%8D%A2%E5%85%B3%E7%B3%BB.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/common/%E6%95%B0%E6%8D%AE%E6%A0%BC%E5%BC%8F.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/common/%E6%95%B0%E6%8D%AE%E7%B1%BB%E5%9E%8B.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/common/%E6%95%B0%E6%8D%AE%E7%BB%93%E6%9E%84.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/common/%E7%BC%96%E8%AF%91%E4%B8%8E%E8%BF%90%E8%A1%8C%E6%A0%B7%E4%BE%8B_cv.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/common/%E7%BC%96%E8%AF%91%E4%B8%8E%E8%BF%90%E8%A1%8C%E6%A0%B7%E4%BE%8B_nn.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/common/%E7%BC%96%E8%AF%91%E4%B8%8E%E8%BF%90%E8%A1%8C%E6%A0%B7%E4%BE%8B_trans.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/common/%E7%BC%96%E8%AF%91%E4%B8%8E%E8%BF%90%E8%A1%8C%E6%A0%B7%E4%BE%8B.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/common/%E9%87%8F%E5%8C%96%E4%BB%8B%E7%BB%8D.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/common/%E9%9D%9E%E8%BF%9E%E7%BB%AD%E7%9A%84Tensor.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/common/aclnn%E8%BF%94%E5%9B%9E%E7%A0%81_cv.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/common/aclnn%E8%BF%94%E5%9B%9E%E7%A0%81_nn.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/common/aclnn%E8%BF%94%E5%9B%9E%E7%A0%81_trans.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/common/aclnn%E8%BF%94%E5%9B%9E%E7%A0%81.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/common/broadcast%E5%85%B3%E7%B3%BB.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/common/sparse_mode%E5%8F%82%E6%95%B0%E8%AF%B4%E6%98%8E.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-aclnnBackgroundReplace - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnBackgroundReplace.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/objdetect/background\_replace\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnBackgroundReplace_md.md ## CANN社区版-aclnnBlendImagesCustom - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnBlendImagesCustom.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/objdetect/blend\_images\_custom\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnBlendImagesCustom_md.md ## CANN社区版-aclnnCIoU - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnCIoU.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/objdetect/ciou\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnCIoU_md.md ## CANN社区版-aclnnGridSampler2D - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnGridSampler2D.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/grid\_sample\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnGridSampler2D_md.md ## CANN社区版-aclnnGridSampler2DBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnGridSampler2DBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/grid\_sampler2\_d\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnGridSampler2DBackward_md.md ## CANN社区版-aclnnGridSampler3D - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnGridSampler3D.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/grid\_sample\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnGridSampler3D_md.md ## CANN社区版-aclnnGridSampler3DBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnGridSampler3DBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/grid\_sampler3\_d\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnGridSampler3DBackward_md.md ## CANN社区版-aclnnIm2colBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnIm2colBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/col2im\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnIm2colBackward_md.md ## CANN社区版-aclnnIou - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnIou.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/objdetect/iou\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnIou_md.md ## CANN社区版-aclnnMrgbaCustom - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnMrgbaCustom.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/objdetect/mrgba\_custom\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnMrgbaCustom_md.md ## CANN社区版-aclnnNonMaxSuppression - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnNonMaxSuppression.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/objdetect/non\_max\_suppression\_v6\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnNonMaxSuppression_md.md ## CANN社区版-aclnnRasterizer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnRasterizer.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/rasterizer\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnRasterizer_md.md ## CANN社区版-aclnnResize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnResize.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/resize\_bilinear\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnResize_md.md ## CANN社区版-aclnnRoiAlign - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnRoiAlign.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/objdetect/roi\_align\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnRoiAlign_md.md ## CANN社区版-aclnnRoiAlignV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnRoiAlignV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/objdetect/roi\_align\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnRoiAlignV2_md.md ## CANN社区版-aclnnRoiAlignV2Backward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnRoiAlignV2Backward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/objdetect/roi\_align\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnRoiAlignV2Backward_md.md ## CANN社区版-aclnnRoiPoolingGradWithArgMax - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnRoiPoolingGradWithArgMax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/objdetect/roi\_pooling\_grad\_with\_arg\_max\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnRoiPoolingGradWithArgMax_md.md ## CANN社区版-aclnnRoiPoolingWithArgMax - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnRoiPoolingWithArgMax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/objdetect/roi\_pooling\_with\_arg\_max\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnRoiPoolingWithArgMax_md.md ## CANN社区版-aclnnThreeInterpolateBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnThreeInterpolateBackward.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnThreeInterpolateBackward_md.md ## CANN社区版-aclnnUpsampleBicubic2d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleBicubic2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_bicubic2d\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleBicubic2d_md.md ## CANN社区版-aclnnUpsampleBicubic2dAA - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleBicubic2dAA.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_bicubic2d\_aa\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleBicubic2dAA_md.md ## CANN社区版-aclnnUpsampleBicubic2dAAGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleBicubic2dAAGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_bicubic2d\_aa\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleBicubic2dAAGrad_md.md ## CANN社区版-aclnnUpsampleBicubic2dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleBicubic2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_bicubic2d\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleBicubic2dBackward_md.md ## CANN社区版-aclnnUpsampleBilinear2d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleBilinear2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_bilinear2d\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleBilinear2d_md.md ## CANN社区版-aclnnUpsampleBilinear2dAA - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleBilinear2dAA.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_bilinear2d\_aa\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleBilinear2dAA_md.md ## CANN社区版-aclnnUpsampleBilinear2dAABackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleBilinear2dAABackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_bilinear2d\_aa\_backward\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleBilinear2dAABackward_md.md ## CANN社区版-aclnnUpsampleBilinear2dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleBilinear2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/resize\_bilinear\_v2\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleBilinear2dBackward_md.md ## CANN社区版-aclnnUpsampleBilinear2dBackwardV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleBilinear2dBackwardV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_bilinear2d\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleBilinear2dBackwardV2_md.md ## CANN社区版-aclnnUpsampleLinear1d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleLinear1d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_linear1d\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleLinear1d_md.md ## CANN社区版-aclnnUpsampleLinear1dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleLinear1dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_bilinear2d\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleLinear1dBackward_md.md ## CANN社区版-aclnnUpsampleNearest1d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearest1d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/resize\_nearest\_neighbor\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleNearest1d_md.md ## CANN社区版-aclnnUpsampleNearest1dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearest1dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest2d\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleNearest1dBackward_md.md ## CANN社区版-aclnnUpsampleNearest1dV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearest1dV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest3d\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleNearest1dV2_md.md ## CANN社区版-aclnnUpsampleNearest2d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearest2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/resize\_nearest\_neighbor\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleNearest2d_md.md ## CANN社区版-aclnnUpsampleNearest2dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearest2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest2d\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleNearest2dBackward_md.md ## CANN社区版-aclnnUpsampleNearest2dV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearest2dV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest3d\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleNearest2dV2_md.md ## CANN社区版-aclnnUpsampleNearest3d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearest3d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest3d\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleNearest3d_md.md ## CANN社区版-aclnnUpsampleNearest3dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearest3dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest3d\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleNearest3dBackward_md.md ## CANN社区版-aclnnUpsampleNearestExact1d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearestExact1d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleNearestExact1d_md.md ## CANN社区版-aclnnUpsampleNearestExact1dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearestExact1dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest\_exact2d\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleNearestExact1dBackward_md.md ## CANN社区版-aclnnUpsampleNearestExact2d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearestExact2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleNearestExact2d_md.md ## CANN社区版-aclnnUpsampleNearestExact2dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearestExact2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest\_exact2d\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleNearestExact2dBackward_md.md ## CANN社区版-aclnnUpsampleNearestExact3d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearestExact3d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest\_exact3d\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleNearestExact3d_md.md ## CANN社区版-aclnnUpsampleNearestExact3dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleNearestExact3dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_nearest\_exact3d\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleNearestExact3dBackward_md.md ## CANN社区版-aclnnUpsampleTrilinear3d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleTrilinear3d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/resize\_upsample\_trilinear\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleTrilinear3d_md.md ## CANN社区版-aclnnUpsampleTrilinear3dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/aclnnUpsampleTrilinear3dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-cv/tree/master/image/upsample\_trilinear3d\_backward\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_aclnnUpsampleTrilinear3dBackward_md.md ## 算子接口(aclnn) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-cv/op_api_list.md - Description: 为方便调用算子,提供一套基于C的API(以aclnn为前缀API),无需提供IR(Intermediate Representation)定义,方便高效构建模型与应用开发,该方式被称为“单算子API调用”,简称aclnn调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-cv_op_api_list_md.md ## CANN社区版-aclnnAbs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAbs.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/abs\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAbs_md.md ## CANN社区版-aclnnAcos&aclnnInplaceAcos - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAcos%26aclnnInplaceAcos.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/acos\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAcosaclnnInplaceAcos_md.md ## CANN社区版-aclnnAcosh&aclnnInplaceAcosh - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAcosh%26aclnnInplaceAcosh.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/acosh\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAcoshaclnnInplaceAcosh_md.md ## CANN社区版-aclnnAdd&aclnnInplaceAdd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAdd%26aclnnInplaceAdd.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/add\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAddaclnnInplaceAdd_md.md ## CANN社区版-aclnnAddcdiv&aclnnInplaceAddcdiv - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAddcdiv%26aclnnInplaceAddcdiv.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/addcdiv\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAddcdivaclnnInplaceAddcdiv_md.md ## CANN社区版-aclnnAddcmul&aclnnInplaceAddcmul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAddcmul%26aclnnInplaceAddcmul.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/addcmul\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAddcmulaclnnInplaceAddcmul_md.md ## CANN社区版-aclnnAddLora - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAddLora.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/add\_lora\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAddLora_md.md ## CANN社区版-aclnnAddr&aclnnInplaceAddr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAddr%26aclnnInplaceAddr.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/addr\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAddraclnnInplaceAddr_md.md ## CANN社区版-aclnnAdds - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAdds.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/add\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAdds_md.md ## CANN社区版-aclnnAddV3&aclnnInplaceAddV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAddV3%26aclnnInplaceAddV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/add\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAddV3aclnnInplaceAddV3_md.md ## CANN社区版-aclnnAffineGrid - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAffineGrid.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAffineGrid_md.md ## CANN社区版-aclnnAll - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAll.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_all\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAll_md.md ## CANN社区版-aclnnAmax - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAmax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_max\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAmax_md.md ## CANN社区版-aclnnAmin - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAmin.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_min\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAmin_md.md ## CANN社区版-aclnnAminmax - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAminmax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_min\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAminmax_md.md ## CANN社区版-aclnnAminmaxAll - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAminmaxAll.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_min\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAminmaxAll_md.md ## CANN社区版-aclnnAminmaxDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAminmaxDim.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_min\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAminmaxDim_md.md ## CANN社区版-aclnnAngleV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAngleV2.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAngleV2_md.md ## CANN社区版-aclnnAny - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAny.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_any\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAny_md.md ## CANN社区版-aclnnArange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnArange.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/range\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnArange_md.md ## CANN社区版-aclnnArgMax - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnArgMax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/arg\_max\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnArgMax_md.md ## CANN社区版-aclnnArgMin - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnArgMin.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/arg\_min\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnArgMin_md.md ## CANN社区版-aclnnArgsort - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnArgsort.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sort\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnArgsort_md.md ## CANN社区版-aclnnAsin&aclnnInplaceAsin - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAsin%26aclnnInplaceAsin.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/asin\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAsinaclnnInplaceAsin_md.md ## CANN社区版-aclnnAsinh&aclnnInplaceAsinh - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAsinh%26aclnnInplaceAsinh.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/asinh\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAsinhaclnnInplaceAsinh_md.md ## CANN社区版-aclnnAtan&aclnnInplaceAtan - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAtan%26aclnnInplaceAtan.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/atan\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAtanaclnnInplaceAtan_md.md ## CANN社区版-aclnnAtan2&aclnnInplaceAtan2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAtan2%26aclnnInplaceAtan2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/atan2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAtan2aclnnInplaceAtan2_md.md ## CANN社区版-aclnnAtanh&aclnnInplaceAtanh - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnAtanh%26aclnnInplaceAtanh.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/atanh\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnAtanhaclnnInplaceAtanh_md.md ## CANN社区版-aclnnBatchNormStats - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnBatchNormStats.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_std\_with\_mean\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnBatchNormStats_md.md ## CANN社区版-aclnnBernoulli&aclnnInplaceBernoulli - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnBernoulli%26aclnnInplaceBernoulli.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/stateless\_bernoulli\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnBernoulliaclnnInplaceBernoulli_md.md ## CANN社区版-aclnnBernoulliTensor&aclnnInplaceBernoulliTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnBernoulliTensor%26aclnnInplaceBernoulliTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/stateless\_bernoulli\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnBernoulliTensoraclnnInplaceBernoulliTensor_md.md ## CANN社区版-aclnnBincount - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnBincount.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/bincount\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnBincount_md.md ## CANN社区版-aclnnBitwiseAndScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnBitwiseAndScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/bitwise\_and\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnBitwiseAndScalar_md.md ## CANN社区版-aclnnBitwiseAndTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnBitwiseAndTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/bitwise\_and\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnBitwiseAndTensor_md.md ## CANN社区版-aclnnBitwiseAndTensorOut&aclnnInplaceBitwiseAndTensorOut - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnBitwiseAndTensorOut%26aclnnInplaceBitwiseAndTensorOut.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnBitwiseAndTensorOutaclnnInplaceBitwiseAndTensorOut_md.md ## CANN社区版-aclnnBitwiseNot - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnBitwiseNot.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/bitwise\_not\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnBitwiseNot_md.md ## CANN社区版-aclnnBitwiseOrScalar&aclnnInplaceBitwiseOrScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnBitwiseOrScalar%26aclnnInplaceBitwiseOrScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/bitwise\_or\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnBitwiseOrScalaraclnnInplaceBitwiseOrScalar_md.md ## CANN社区版-aclnnBitwiseOrTensor&aclnnInplaceBitwiseOrTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnBitwiseOrTensor%26aclnnInplaceBitwiseOrTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/bitwise\_or\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnBitwiseOrTensoraclnnInplaceBitwiseOrTensor_md.md ## CANN社区版-aclnnBitwiseXorScalar&aclnnInplaceBitwiseXorScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnBitwiseXorScalar%26aclnnInplaceBitwiseXorScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/bitwise\_xor\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnBitwiseXorScalaraclnnInplaceBitwiseXorScalar_md.md ## CANN社区版-aclnnBitwiseXorTensor&aclnnInplaceBitwiseXorTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnBitwiseXorTensor%26aclnnInplaceBitwiseXorTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/bitwise\_xor\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnBitwiseXorTensoraclnnInplaceBitwiseXorTensor_md.md ## CANN社区版-aclnnCalculateConvolutionWeightSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnCalculateConvolutionWeightSize.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/trans\_data\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnCalculateConvolutionWeightSize_md.md ## CANN社区版-aclnnCalculateMatmulWeightSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnCalculateMatmulWeightSize.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/trans\_data\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnCalculateMatmulWeightSize_md.md ## CANN社区版-aclnnCalculateMatmulWeightSizeV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnCalculateMatmulWeightSizeV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/trans\_data\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnCalculateMatmulWeightSizeV2_md.md ## CANN社区版-aclnnCast - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnCast.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/cast\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnCast_md.md ## CANN社区版-aclnnCat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnCat.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/concat\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnCat_md.md ## CANN社区版-aclnnCdist - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnCdist.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/cdist\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnCdist_md.md ## CANN社区版-aclnnCdistBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnCdistBackward.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnCdistBackward_md.md ## CANN社区版-aclnnCeil&aclnnInplaceCeil - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnCeil%26aclnnInplaceCeil.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/ceil\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnCeilaclnnInplaceCeil_md.md ## CANN社区版-aclnnChannelShuffle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnChannelShuffle.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/transpose\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnChannelShuffle_md.md ## CANN社区版-aclnnChunkCat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnChunkCat.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/chunk\_cat\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnChunkCat_md.md ## CANN社区版-aclnnCircularPad2d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnCircularPad2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/circular\_pad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnCircularPad2d_md.md ## CANN社区版-aclnnCircularPad2dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnCircularPad2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/circular\_pad\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnCircularPad2dBackward_md.md ## CANN社区版-aclnnCircularPad3d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnCircularPad3d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/circular\_pad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnCircularPad3d_md.md ## CANN社区版-aclnnCircularPad3dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnCircularPad3dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/circular\_pad\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnCircularPad3dBackward_md.md ## CANN社区版-aclnnClamp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnClamp.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/clip\_by\_value\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnClamp_md.md ## CANN社区版-aclnnClampMax&aclnnInplaceClampMax - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnClampMax%26aclnnInplaceClampMax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/clip\_by\_value\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnClampMaxaclnnInplaceClampMax_md.md ## CANN社区版-aclnnClampMaxTensor&aclnnInplaceClampMaxTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnClampMaxTensor%26aclnnInplaceClampMaxTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/clip\_by\_value\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnClampMaxTensoraclnnInplaceClampMaxTensor_md.md ## CANN社区版-aclnnClampMin - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnClampMin.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/clip\_by\_value\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnClampMin_md.md ## CANN社区版-aclnnClampMinTensor&aclnnInplaceClampMinTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnClampMinTensor%26aclnnInplaceClampMinTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/clip\_by\_value\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnClampMinTensoraclnnInplaceClampMinTensor_md.md ## CANN社区版-aclnnClampTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnClampTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/clip\_by\_value\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnClampTensor_md.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnCoalesceSparse.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-aclnnComplex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnComplex.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/complex\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnComplex_md.md ## CANN社区版-aclnnConfusionTranspose - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnConfusionTranspose.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnConfusionTranspose_md.md ## CANN社区版-aclnnConstantPadNd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnConstantPadNd.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/pad\_v3\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnConstantPadNd_md.md ## CANN社区版-aclnnCos&aclnnInplaceCos - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnCos%26aclnnInplaceCos.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/cos\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnCosaclnnInplaceCos_md.md ## CANN社区版-aclnnCosh&aclnnInplaceCosh - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnCosh%26aclnnInplaceCosh.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/cosh\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnCoshaclnnInplaceCosh_md.md ## CANN社区版-aclnnCummax - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnCummax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/cummax\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnCummax_md.md ## CANN社区版-aclnnCummin - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnCummin.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/cummin\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnCummin_md.md ## CANN社区版-aclnnCumprod&aclnnInplaceCumprod - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnCumprod%26aclnnInplaceCumprod.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/cumprod\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnCumprodaclnnInplaceCumprod_md.md ## CANN社区版-aclnnCumsum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnCumsum.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/cumsum\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnCumsum_md.md ## CANN社区版-aclnnCumsumV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnCumsumV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/cumsum\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnCumsumV2_md.md ## CANN社区版-aclnnDiag - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnDiag.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/diag\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnDiag_md.md ## CANN社区版-aclnnDiagFlat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnDiagFlat.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/diag\_flat\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnDiagFlat_md.md ## CANN社区版-aclnnDigamma - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnDigamma.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnDigamma_md.md ## CANN社区版-aclnnDiv&aclnnInplaceDiv - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnDiv%26aclnnInplaceDiv.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/div\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnDivaclnnInplaceDiv_md.md ## CANN社区版-aclnnDivMod&aclnnInplaceDivMod - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnDivMod%26aclnnInplaceDivMod.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/div\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnDivModaclnnInplaceDivMod_md.md ## CANN社区版-aclnnDivMods&aclnnInplaceDivMods - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnDivMods%26aclnnInplaceDivMods.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/div\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnDivModsaclnnInplaceDivMods_md.md ## CANN社区版-aclnnDivs&aclnnInplaceDivs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnDivs%26aclnnInplaceDivs.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/div\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnDivsaclnnInplaceDivs_md.md ## CANN社区版-aclnnDot - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnDot.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/dot\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnDot_md.md ## CANN社区版-aclnnDropout - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnDropout.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/dsa\_gen\_bit\_mask\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnDropout_md.md ## CANN社区版-aclnnDropoutBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnDropoutBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/drop\_out\_do\_mask\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnDropoutBackward_md.md ## CANN社区版-aclnnDropoutDoMask - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnDropoutDoMask.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/drop\_out\_do\_mask\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnDropoutDoMask_md.md ## CANN社区版-aclnnDropoutGenMask - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnDropoutGenMask.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/dsa\_gen\_bit\_mask\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnDropoutGenMask_md.md ## CANN社区版-aclnnDropoutGenMaskV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnDropoutGenMaskV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/dsa\_gen\_bit\_mask\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnDropoutGenMaskV2_md.md ## CANN社区版-aclnnDropoutGenMaskV2Tensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnDropoutGenMaskV2Tensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/dsa\_gen\_bit\_mask\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnDropoutGenMaskV2Tensor_md.md ## CANN社区版-aclnnDropoutV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnDropoutV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/drop\_out\_v3\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnDropoutV3_md.md ## CANN社区版-aclnnEqScalar&aclnnInplaceEqScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnEqScalar%26aclnnInplaceEqScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/equal\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnEqScalaraclnnInplaceEqScalar_md.md ## CANN社区版-aclnnEqTensor&aclnnInplaceEqTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnEqTensor%26aclnnInplaceEqTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/equal\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnEqTensoraclnnInplaceEqTensor_md.md ## CANN社区版-aclnnEqual - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnEqual.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/tensor\_equal\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnEqual_md.md ## CANN社区版-aclnnErf&aclnnInplaceErf - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnErf%26aclnnInplaceErf.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/erf\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnErfaclnnInplaceErf_md.md ## CANN社区版-aclnnErfc&aclnnInplaceErfc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnErfc%26aclnnInplaceErfc.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/erfc\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnErfcaclnnInplaceErfc_md.md ## CANN社区版-aclnnExp&aclnnInplaceExp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnExp%26aclnnInplaceExp.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/exp\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnExpaclnnInplaceExp_md.md ## CANN社区版-aclnnExp2&aclnnInplaceExp2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnExp2%26aclnnInplaceExp2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/pow\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnExp2aclnnInplaceExp2_md.md ## CANN社区版-aclnnExpand - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnExpand.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnExpand_md.md ## CANN社区版-aclnnExpm1&aclnnInplaceExpm1 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnExpm1%26aclnnInplaceExpm1.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/expm1\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnExpm1aclnnInplaceExpm1_md.md ## CANN社区版-aclnnExpSegsum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnExpSegsum.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/segsum\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnExpSegsum_md.md ## CANN社区版-aclnnExpSegsumBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnExpSegsumBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/exp\_segsum\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnExpSegsumBackward_md.md ## CANN社区版-aclnnEye - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnEye.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/eye\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnEye_md.md ## CANN社区版-aclnnFlatten - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnFlatten.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/flatten\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnFlatten_md.md ## CANN社区版-aclnnFloor&aclnnInplaceFloor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnFloor%26aclnnInplaceFloor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/floor\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnFlooraclnnInplaceFloor_md.md ## CANN社区版-aclnnFloorDivide&aclnnInplaceFloorDivide - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnFloorDivide%26aclnnInplaceFloorDivide.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/floor\_div\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnFloorDivideaclnnInplaceFloorDivide_md.md ## CANN社区版-aclnnFloorDivides&aclnnInplaceFloorDivides - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnFloorDivides%26aclnnInplaceFloorDivides.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/floor\_div\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnFloorDividesaclnnInplaceFloorDivides_md.md ## CANN社区版-aclnnFmodScalar&aclnnInplaceFmodScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnFmodScalar%26aclnnInplaceFmodScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/mod\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnFmodScalaraclnnInplaceFmodScalar_md.md ## CANN社区版-aclnnFmodTensor&aclnnInplaceFmodTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnFmodTensor%26aclnnInplaceFmodTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/mod\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnFmodTensoraclnnInplaceFmodTensor_md.md ## CANN社区版-aclnnFrac&aclnnInplaceFrac - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnFrac%26aclnnInplaceFrac.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sub\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnFracaclnnInplaceFrac_md.md ## CANN社区版-aclnnGcd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnGcd.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/gcd\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnGcd_md.md ## CANN社区版-aclnnGer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnGer.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/ger\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnGer_md.md ## CANN社区版-aclnnGeScalar&aclnnInplaceGeScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnGeScalar%26aclnnInplaceGeScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/greater\_equal\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnGeScalaraclnnInplaceGeScalar_md.md ## CANN社区版-aclnnGeTensor&aclnnInplaceGeTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnGeTensor%26aclnnInplaceGeTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/greater\_equal\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnGeTensoraclnnInplaceGeTensor_md.md ## CANN社区版-aclnnGlobalAveragePool - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnGlobalAveragePool.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_mean\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnGlobalAveragePool_md.md ## CANN社区版-aclnnGlobalMaxPool - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnGlobalMaxPool.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_max\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnGlobalMaxPool_md.md ## CANN社区版-aclnnGroupedBiasAddGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnGroupedBiasAddGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/grouped\_bias\_add\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnGroupedBiasAddGrad_md.md ## CANN社区版-aclnnGroupedBiasAddGradV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnGroupedBiasAddGradV2.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnGroupedBiasAddGradV2_md.md ## CANN社区版-aclnnGtScalar&aclnnInplaceGtScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnGtScalar%26aclnnInplaceGtScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/greater\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnGtScalaraclnnInplaceGtScalar_md.md ## CANN社区版-aclnnGtTensor&aclnnInplaceGtTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnGtTensor%26aclnnInplaceGtTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/greater\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnGtTensoraclnnInplaceGtTensor_md.md ## CANN社区版-aclnnHansDecode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnHansDecode.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnHansDecode_md.md ## CANN社区版-aclnnHansEncode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnHansEncode.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnHansEncode_md.md ## CANN社区版-aclnnHardtanh&aclnnInplaceHardtanh - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnHardtanh%26aclnnInplaceHardtanh.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/clip\_by\_value\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnHardtanhaclnnInplaceHardtanh_md.md ## CANN社区版-aclnnHistc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnHistc.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/histogram\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnHistc_md.md ## CANN社区版-aclnnIm2col - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnIm2col.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/im2col\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnIm2col_md.md ## CANN社区版-aclnnInplaceBitwiseAndScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnInplaceBitwiseAndScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/bitwise\_and\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnInplaceBitwiseAndScalar_md.md ## CANN社区版-aclnnInplaceBitwiseAndTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnInplaceBitwiseAndTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/bitwise\_and\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnInplaceBitwiseAndTensor_md.md ## CANN社区版-aclnnInplaceCopy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnInplaceCopy.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnInplaceCopy_md.md ## CANN社区版-aclnnInplaceFillDiagonal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnInplaceFillDiagonal.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/fill\_diagonal\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnInplaceFillDiagonal_md.md ## CANN社区版-aclnnInplaceFillScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnInplaceFillScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/fill\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnInplaceFillScalar_md.md ## CANN社区版-aclnnInplaceFillTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnInplaceFillTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/fill\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnInplaceFillTensor_md.md ## CANN社区版-aclnnInplaceMaskedFillScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnInplaceMaskedFillScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/masked\_fill\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnInplaceMaskedFillScalar_md.md ## CANN社区版-aclnnInplaceMaskedFillTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnInplaceMaskedFillTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/masked\_fill\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnInplaceMaskedFillTensor_md.md ## CANN社区版-aclnnInplaceNormal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnInplaceNormal.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/dsa\_random\_normal\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnInplaceNormal_md.md ## CANN社区版-aclnnInplaceNormalTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnInplaceNormalTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/dsa\_random\_normal\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnInplaceNormalTensor_md.md ## CANN社区版-aclnnInplaceOne - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnInplaceOne.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/ones\_like\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnInplaceOne_md.md ## CANN社区版-aclnnInplaceRandom - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnInplaceRandom.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/dsa\_random\_uniform\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnInplaceRandom_md.md ## CANN社区版-aclnnInplaceRandomTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnInplaceRandomTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/dsa\_random\_uniform\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnInplaceRandomTensor_md.md ## CANN社区版-aclnnInplaceUniform - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnInplaceUniform.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/dsa\_random\_uniform\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnInplaceUniform_md.md ## CANN社区版-aclnnInplaceUniformTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnInplaceUniformTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/dsa\_random\_uniform\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnInplaceUniformTensor_md.md ## CANN社区版-aclnnInplaceZero - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnInplaceZero.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/zero\_op\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnInplaceZero_md.md ## CANN社区版-aclnnIsClose - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnIsClose.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/is\_close\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnIsClose_md.md ## CANN社区版-aclnnIsFinite - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnIsFinite.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/is\_finite\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnIsFinite_md.md ## CANN社区版-aclnnIsInf - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnIsInf.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/is\_inf\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnIsInf_md.md ## CANN社区版-aclnnIsInScalarTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnIsInScalarTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/equal\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnIsInScalarTensor_md.md ## CANN社区版-aclnnIsInTensorScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnIsInTensorScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/equal\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnIsInTensorScalar_md.md ## CANN社区版-aclnnIsNegInf - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnIsNegInf.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/is\_neg\_inf\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnIsNegInf_md.md ## CANN社区版-aclnnIsPosInf - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnIsPosInf.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/is\_pos\_inf\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnIsPosInf_md.md ## CANN社区版-aclnnKlDiv - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnKlDiv.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/kl\_div\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnKlDiv_md.md ## CANN社区版-aclnnLeftShift - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLeftShift.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLeftShift_md.md ## CANN社区版-aclnnLeftShifts - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLeftShifts.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLeftShifts_md.md ## CANN社区版-aclnnLerp&aclnnInplaceLerp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLerp%26aclnnInplaceLerp.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/lerp\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLerpaclnnInplaceLerp_md.md ## CANN社区版-aclnnLerps&aclnnInplaceLerps - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLerps%26aclnnInplaceLerps.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/lerp\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLerpsaclnnInplaceLerps_md.md ## CANN社区版-aclnnLeScalar&aclnnInplaceLeScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLeScalar%26aclnnInplaceLeScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/less\_equal\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLeScalaraclnnInplaceLeScalar_md.md ## CANN社区版-aclnnLeTensor&aclnnInplaceLeTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLeTensor%26aclnnInplaceLeTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/less\_equal\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLeTensoraclnnInplaceLeTensor_md.md ## CANN社区版-aclnnLgamma - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLgamma.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/lgamma\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLgamma_md.md ## CANN社区版-aclnnLinalgCholesky - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLinalgCholesky.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLinalgCholesky_md.md ## CANN社区版-aclnnLinalgCross - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLinalgCross.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/cross\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLinalgCross_md.md ## CANN社区版-aclnnLinalgQr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLinalgQr.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/linalg\_qr\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLinalgQr_md.md ## CANN社区版-aclnnLinspace - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLinspace.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/lin\_space\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLinspace_md.md ## CANN社区版-aclnnLog&aclnnInplaceLog - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLog%26aclnnInplaceLog.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/log\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLogaclnnInplaceLog_md.md ## CANN社区版-aclnnLog10&aclnnInplaceLog10 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLog10%26aclnnInplaceLog10.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/log\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLog10aclnnInplaceLog10_md.md ## CANN社区版-aclnnLog1p&aclnnInplaceLog1p - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLog1p%26aclnnInplaceLog1p.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/log1p\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLog1paclnnInplaceLog1p_md.md ## CANN社区版-aclnnLog2&aclnnInplaceLog2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLog2%26aclnnInplaceLog2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/log\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLog2aclnnInplaceLog2_md.md ## CANN社区版-aclnnLogAddExp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLogAddExp.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/log\_add\_exp\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLogAddExp_md.md ## CANN社区版-aclnnLogAddExp2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLogAddExp2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/log\_add\_exp\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLogAddExp2_md.md ## CANN社区版-aclnnLogdet - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLogdet.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/logdet\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLogdet_md.md ## CANN社区版-aclnnLogicalAnd&aclnnInplaceLogicalAnd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLogicalAnd%26aclnnInplaceLogicalAnd.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/logical\_and\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLogicalAndaclnnInplaceLogicalAnd_md.md ## CANN社区版-aclnnLogicalNot&aclnnInplaceLogicalNot - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLogicalNot%26aclnnInplaceLogicalNot.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/logical\_not\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLogicalNotaclnnInplaceLogicalNot_md.md ## CANN社区版-aclnnLogicalOr&aclnnInplaceLogicalOr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLogicalOr%26aclnnInplaceLogicalOr.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/logical\_or\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLogicalOraclnnInplaceLogicalOr_md.md ## CANN社区版-aclnnLogicalXor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLogicalXor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/not\_equal\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLogicalXor_md.md ## CANN社区版-aclnnLogSpace - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLogSpace.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/logspace\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLogSpace_md.md ## CANN社区版-aclnnLogSumExp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLogSumExp.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_log\_sum\_exp\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLogSumExp_md.md ## CANN社区版-aclnnLtScalar&aclnnInplaceLtScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLtScalar%26aclnnInplaceLtScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/less\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLtScalaraclnnInplaceLtScalar_md.md ## CANN社区版-aclnnLtTensor&aclnnInplaceLtTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnLtTensor%26aclnnInplaceLtTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/less\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnLtTensoraclnnInplaceLtTensor_md.md ## CANN社区版-aclnnMaskedScale - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnMaskedScale.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/masked\_scale\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnMaskedScale_md.md ## CANN社区版-aclnnMaskedSelect - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnMaskedSelect.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/masked\_select\_v3\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnMaskedSelect_md.md ## CANN社区版-aclnnMax - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnMax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_max\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnMax_md.md ## CANN社区版-aclnnMaxDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnMaxDim.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/arg\_max\_with\_value\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnMaxDim_md.md ## CANN社区版-aclnnMaximum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnMaximum.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/maximum\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnMaximum_md.md ## CANN社区版-aclnnMaxN - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnMaxN.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/maximum\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnMaxN_md.md ## CANN社区版-aclnnMaxV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnMaxV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_max\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnMaxV2_md.md ## CANN社区版-aclnnMean - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnMean.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_mean\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnMean_md.md ## CANN社区版-aclnnMeanV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnMeanV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_mean\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnMeanV2_md.md ## CANN社区版-aclnnMin - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnMin.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_min\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnMin_md.md ## CANN社区版-aclnnMinDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnMinDim.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/arg\_min\_with\_value\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnMinDim_md.md ## CANN社区版-aclnnMinimum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnMinimum.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/minimum\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnMinimum_md.md ## CANN社区版-aclnnMinN - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnMinN.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/minimum\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnMinN_md.md ## CANN社区版-aclnnMul&aclnnInplaceMul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnMul%26aclnnInplaceMul.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/mul\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnMulaclnnInplaceMul_md.md ## CANN社区版-aclnnMuls&aclnnInplaceMuls - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnMuls%26aclnnInplaceMuls.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnMulsaclnnInplaceMuls_md.md ## CANN社区版-aclnnMultinomial - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnMultinomial.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/stateless\_sample\_multinomial\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnMultinomial_md.md ## CANN社区版-aclnnMultinomialTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnMultinomialTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/stateless\_sample\_multinomial\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnMultinomialTensor_md.md ## CANN社区版-aclnnNanToNum&aclnnInplaceNanToNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnNanToNum%26aclnnInplaceNanToNum.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnNanToNumaclnnInplaceNanToNum_md.md ## CANN社区版-aclnnNeg&aclnnInplaceNeg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnNeg%26aclnnInplaceNeg.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/neg\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnNegaclnnInplaceNeg_md.md ## CANN社区版-aclnnNeScalar&aclnnInplaceNeScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnNeScalar%26aclnnInplaceNeScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/not\_equal\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnNeScalaraclnnInplaceNeScalar_md.md ## CANN社区版-aclnnNeTensor&aclnnInplaceNeTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnNeTensor%26aclnnInplaceNeTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/not\_equal\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnNeTensoraclnnInplaceNeTensor_md.md ## CANN社区版-aclnnNormalFloatFloat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnNormalFloatFloat.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/stateless\_random\_normal\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnNormalFloatFloat_md.md ## CANN社区版-aclnnNormalFloatTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnNormalFloatTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/stateless\_random\_normal\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnNormalFloatTensor_md.md ## CANN社区版-aclnnNormalTensorFloat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnNormalTensorFloat.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/stateless\_random\_normal\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnNormalTensorFloat_md.md ## CANN社区版-aclnnNormalTensorTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnNormalTensorTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/stateless\_random\_normal\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnNormalTensorTensor_md.md ## CANN社区版-aclnnNpuFormatCast - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnNpuFormatCast.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/npu\_format\_cast\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnNpuFormatCast_md.md ## CANN社区版-aclnnOneHot - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnOneHot.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/one\_hot\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnOneHot_md.md ## CANN社区版-aclnnPdist - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnPdist.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/pdist\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnPdist_md.md ## CANN社区版-aclnnPdistForward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnPdistForward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/pdist\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnPdistForward_md.md ## CANN社区版-aclnnPermute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnPermute.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/transpose\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnPermute_md.md ## CANN社区版-aclnnPolar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnPolar.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnPolar_md.md ## CANN社区版-aclnnPowScalarTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnPowScalarTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/pow\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnPowScalarTensor_md.md ## CANN社区版-aclnnPowTensorScalar&aclnnInplacePowTensorScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnPowTensorScalar%26aclnnInplacePowTensorScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/pow\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnPowTensorScalaraclnnInplacePowTensorScalar_md.md ## CANN社区版-aclnnPowTensorTensor&aclnnInplacePowTensorTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnPowTensorTensor%26aclnnInplacePowTensorTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/pow\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnPowTensorTensoraclnnInplacePowTensorTensor_md.md ## CANN社区版-aclnnPrecisionCompare - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnPrecisionCompare.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/precision\_compare\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnPrecisionCompare_md.md ## CANN社区版-aclnnProd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnProd.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_prod\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnProd_md.md ## CANN社区版-aclnnProdDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnProdDim.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_prod\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnProdDim_md.md ## CANN社区版-aclnnQr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnQr.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/q\_r\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnQr_md.md ## CANN社区版-aclnnRandperm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnRandperm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/random/stateless\_randperm\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnRandperm_md.md ## CANN社区版-aclnnRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnRange.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/range\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnRange_md.md ## CANN社区版-aclnnReal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnReal.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/real\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnReal_md.md ## CANN社区版-aclnnReciprocal&aclnnInplaceReciprocal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnReciprocal%26aclnnInplaceReciprocal.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reciprocal\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnReciprocalaclnnInplaceReciprocal_md.md ## CANN社区版-aclnnReduceLogSum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnReduceLogSum.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnReduceLogSum_md.md ## CANN社区版-aclnnReduceNansum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnReduceNansum.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnReduceNansum_md.md ## CANN社区版-aclnnReduceSum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnReduceSum.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_sum\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnReduceSum_md.md ## CANN社区版-aclnnReflectionPad1d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnReflectionPad1d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/mirror\_pad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnReflectionPad1d_md.md ## CANN社区版-aclnnReflectionPad1dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnReflectionPad1dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/pad\_v4\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnReflectionPad1dBackward_md.md ## CANN社区版-aclnnReflectionPad2d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnReflectionPad2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/mirror\_pad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnReflectionPad2d_md.md ## CANN社区版-aclnnReflectionPad2dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnReflectionPad2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/pad\_v4\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnReflectionPad2dBackward_md.md ## CANN社区版-aclnnReflectionPad3d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnReflectionPad3d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/mirror\_pad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnReflectionPad3d_md.md ## CANN社区版-aclnnReflectionPad3dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnReflectionPad3dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/reflection\_pad3d\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnReflectionPad3dBackward_md.md ## CANN社区版-aclnnRemainderScalarTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnRemainderScalarTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/floor\_mod\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnRemainderScalarTensor_md.md ## CANN社区版-aclnnRemainderTensorScalar&aclnnInplaceRemainderTensorScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnRemainderTensorScalar%26aclnnInplaceRemainderTensorScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/floor\_mod\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnRemainderTensorScalaraclnnInplaceRemainderTensorScalar_md.md ## CANN社区版-aclnnRemainderTensorTensor&aclnnInplaceRemainderTensorTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnRemainderTensorTensor%26aclnnInplaceRemainderTensorTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/floor\_mod\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnRemainderTensorTensoraclnnInplaceRemainderTensorTensor_md.md ## CANN社区版-aclnnRepeat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnRepeat.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/tile\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnRepeat_md.md ## CANN社区版-aclnnReplicationPad1d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnReplicationPad1d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/pad\_v3\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnReplicationPad1d_md.md ## CANN社区版-aclnnReplicationPad1dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnReplicationPad1dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/pad\_v3\_grad\_replicate\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnReplicationPad1dBackward_md.md ## CANN社区版-aclnnReplicationPad2d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnReplicationPad2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/pad\_v3\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnReplicationPad2d_md.md ## CANN社区版-aclnnReplicationPad2dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnReplicationPad2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/pad\_v3\_grad\_replicate\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnReplicationPad2dBackward_md.md ## CANN社区版-aclnnReplicationPad3d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnReplicationPad3d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/pad\_v3\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnReplicationPad3d_md.md ## CANN社区版-aclnnReplicationPad3dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnReplicationPad3dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/pad\_v3\_grad\_replication\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnReplicationPad3dBackward_md.md ## CANN社区版-aclnnRightShift - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnRightShift.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnRightShift_md.md ## CANN社区版-aclnnRoll - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnRoll.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/roll\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnRoll_md.md ## CANN社区版-aclnnRound&aclnnInplaceRound - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnRound%26aclnnInplaceRound.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/round\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnRoundaclnnInplaceRound_md.md ## CANN社区版-aclnnRoundDecimals&aclnnInplaceRoundDecimals - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnRoundDecimals%26aclnnInplaceRoundDecimals.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/round\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnRoundDecimalsaclnnInplaceRoundDecimals_md.md ## CANN社区版-aclnnRsqrt&aclnnInplaceRsqrt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnRsqrt%26aclnnInplaceRsqrt.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/rsqrt\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnRsqrtaclnnInplaceRsqrt_md.md ## CANN社区版-aclnnRsub - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnRsub.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sub\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnRsub_md.md ## CANN社区版-aclnnRsubs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnRsubs.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sub\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnRsubs_md.md ## CANN社区版-aclnnScale - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnScale.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnScale_md.md ## CANN社区版-aclnnSearchSorted - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSearchSorted.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/search\_sorted\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSearchSorted_md.md ## CANN社区版-aclnnSearchSorteds - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSearchSorteds.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/search\_sorted\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSearchSorteds_md.md ## CANN社区版-aclnnSign - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSign.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sign\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSign_md.md ## CANN社区版-aclnnSignbit - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSignbit.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/signbit\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSignbit_md.md ## CANN社区版-aclnnSignBitsPack - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSignBitsPack.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSignBitsPack_md.md ## CANN社区版-aclnnSignBitsUnpack - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSignBitsUnpack.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSignBitsUnpack_md.md ## CANN社区版-aclnnSilentCheck - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSilentCheck.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSilentCheck_md.md ## CANN社区版-aclnnSilentCheckV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSilentCheckV2.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSilentCheckV2_md.md ## CANN社区版-aclnnSimThreadExponential - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSimThreadExponential.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSimThreadExponential_md.md ## CANN社区版-aclnnSin&aclnnInplaceSin - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSin%26aclnnInplaceSin.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sin\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSinaclnnInplaceSin_md.md ## CANN社区版-aclnnSinc&aclnnInplaceSinc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSinc%26aclnnInplaceSinc.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sinc\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSincaclnnInplaceSinc_md.md ## CANN社区版-aclnnSinh&aclnnInplaceSinh - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSinh%26aclnnInplaceSinh.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSinhaclnnInplaceSinh_md.md ## CANN社区版-aclnnSinkhorn - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSinkhorn.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSinkhorn_md.md ## CANN社区版-aclnnSlice - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSlice.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/slice\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSlice_md.md ## CANN社区版-aclnnSliceV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSliceV2.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSliceV2_md.md ## CANN社区版-aclnnSlogdet - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSlogdet.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/slogdet\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSlogdet_md.md ## CANN社区版-aclnnSort - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSort.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sort\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSort_md.md ## CANN社区版-aclnnSplitTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSplitTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/split\_v\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSplitTensor_md.md ## CANN社区版-aclnnSplitWithSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSplitWithSize.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/split\_v\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSplitWithSize_md.md ## CANN社区版-aclnnSqrt&aclnnInplaceSqrt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSqrt%26aclnnInplaceSqrt.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sqrt\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSqrtaclnnInplaceSqrt_md.md ## CANN社区版-aclnnSquare - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSquare.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/square\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSquare_md.md ## CANN社区版-aclnnStack - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnStack.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/pack\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnStack_md.md ## CANN社区版-aclnnStd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnStd.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_std\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnStd_md.md ## CANN社区版-aclnnStdMeanCorrection - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnStdMeanCorrection.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnStdMeanCorrection_md.md ## CANN社区版-aclnnStridedSlice - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnStridedSlice.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/strided\_slice\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnStridedSlice_md.md ## CANN社区版-aclnnStridedSliceAssignV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnStridedSliceAssignV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/strided\_slice\_assign\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnStridedSliceAssignV2_md.md ## CANN社区版-aclnnSub&aclnnInplaceSub - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSub%26aclnnInplaceSub.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sub\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSubaclnnInplaceSub_md.md ## CANN社区版-aclnnSubs&aclnnInplaceSubs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSubs%26aclnnInplaceSubs.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/sub\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSubsaclnnInplaceSubs_md.md ## CANN社区版-aclnnSum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSum.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/accumulate\_nv2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSum_md.md ## CANN社区版-aclnnSvd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSvd.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSvd_md.md ## CANN社区版-aclnnSWhere - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnSWhere.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/select\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnSWhere_md.md ## CANN社区版-aclnnTan&aclnnInplaceTan - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnTan%26aclnnInplaceTan.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/tan\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnTanaclnnInplaceTan_md.md ## CANN社区版-aclnnTanh&aclnnInplaceTanh - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnTanh%26aclnnInplaceTanh.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/tanh\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnTanhaclnnInplaceTanh_md.md ## CANN社区版-aclnnTanhBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnTanhBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/tanh\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnTanhBackward_md.md ## CANN社区版-aclnnTopk - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnTopk.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/9.0.0/math/topk\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnTopk_md.md ## CANN社区版-aclnnTrace - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnTrace.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/trace\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnTrace_md.md ## CANN社区版-aclnnTransConvolutionWeight - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnTransConvolutionWeight.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/trans\_data\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnTransConvolutionWeight_md.md ## CANN社区版-aclnnTransformBiasRescaleQkv - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnTransformBiasRescaleQkv.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/transform\_bias\_rescale\_qkv\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnTransformBiasRescaleQkv_md.md ## CANN社区版-aclnnTransMatmulWeight - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnTransMatmulWeight.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/trans\_data\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnTransMatmulWeight_md.md ## CANN社区版-aclnnTriangularSolve - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnTriangularSolve.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/triangular\_solve\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnTriangularSolve_md.md ## CANN社区版-aclnnTril&aclnnInplaceTril - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnTril%26aclnnInplaceTril.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/tril\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnTrilaclnnInplaceTril_md.md ## CANN社区版-aclnnTriu&aclnnInplaceTriu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnTriu%26aclnnInplaceTriu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/triu\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnTriuaclnnInplaceTriu_md.md ## CANN社区版-aclnnTrunc&aclnnInplaceTrunc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnTrunc%26aclnnInplaceTrunc.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/trunc\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnTruncaclnnInplaceTrunc_md.md ## CANN社区版-aclnnUnfoldGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnUnfoldGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/conversion/unfold\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnUnfoldGrad_md.md ## CANN社区版-aclnnVarCorrection - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnVarCorrection.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_var\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnVarCorrection_md.md ## CANN社区版-aclnnVarMean - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnVarMean.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-math/tree/master/math/reduce\_var\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnVarMean_md.md ## CANN社区版-aclnnXLogYScalarOther&aclnnInplaceXLogYScalarOther - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnXLogYScalarOther%26aclnnInplaceXLogYScalarOther.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnXLogYScalarOtheraclnnInplaceXLogYScalarOther_md.md ## CANN社区版-aclnnXLogYScalarSelf - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnXLogYScalarSelf.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnXLogYScalarSelf_md.md ## CANN社区版-aclnnXLogYTensor&aclnnInplaceXLogYTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclnnXLogYTensor%26aclnnInplaceXLogYTensor.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclnnXLogYTensoraclnnInplaceXLogYTensor_md.md ## CANN社区版-aclRfft1D - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclRfft1D.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclRfft1D_md.md ## CANN社区版-aclStft - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/aclStft.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_aclStft_md.md ## 算子接口(aclnn) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-math/op_api_list.md - Description: 为方便调用算子,提供一套基于C的API(以aclnn为前缀API),无需提供IR(Intermediate Representation)定义,方便高效构建模型与应用开发,该方式被称为“单算子API调用”,简称aclnn调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-math_op_api_list_md.md ## CANN社区版-aclnnAdaLayerNorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAdaLayerNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/ada\_layer\_norm\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAdaLayerNorm_md.md ## CANN社区版-aclnnAdaLayerNormBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAdaLayerNormBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/ada\_layer\_norm\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAdaLayerNormBackward_md.md ## CANN社区版-aclnnAdaLayerNormQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAdaLayerNormQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/ada\_layer\_norm\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAdaLayerNormQuant_md.md ## CANN社区版-aclnnAdaLayerNormV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAdaLayerNormV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/ada\_layer\_norm\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAdaLayerNormV2_md.md ## CANN社区版-aclnnAdaptiveAvgPool2d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAdaptiveAvgPool2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/adaptive\_avg\_pool2d\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAdaptiveAvgPool2d_md.md ## CANN社区版-aclnnAdaptiveAvgPool2dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAdaptiveAvgPool2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/adaptive\_avg\_pool2d\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAdaptiveAvgPool2dBackward_md.md ## CANN社区版-aclnnAdaptiveAvgPool3d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAdaptiveAvgPool3d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/adaptive\_avg\_pool3d\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAdaptiveAvgPool3d_md.md ## CANN社区版-aclnnAdaptiveAvgPool3dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAdaptiveAvgPool3dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/adaptive\_avg\_pool3d\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAdaptiveAvgPool3dBackward_md.md ## CANN社区版-aclnnAdaptiveMaxPool2d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAdaptiveMaxPool2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/adaptive\_max\_pool3d\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAdaptiveMaxPool2d_md.md ## CANN社区版-aclnnAdaptiveMaxPool2dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAdaptiveMaxPool2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/adaptive\_max\_pool3d\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAdaptiveMaxPool2dBackward_md.md ## CANN社区版-aclnnAdaptiveMaxPool3d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAdaptiveMaxPool3d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/adaptive\_max\_pool3d\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAdaptiveMaxPool3d_md.md ## CANN社区版-aclnnAdaptiveMaxPool3dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAdaptiveMaxPool3dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/adaptive\_max\_pool3d\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAdaptiveMaxPool3dBackward_md.md ## CANN社区版-aclnnAddbmm&aclnnInplaceAddbmm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAddbmm%26aclnnInplaceAddbmm.md - Description: - 接口功能:首先进行batch1、batch2的矩阵乘计算,然后将该结果按照第一维(batch维度)批处理相加,将三维向量压缩为二维向量(shape大小为后两维的shape),然后该结果与α作乘积计算,再与β和self的乘积求和得到结果。 - 计算公式: $$ out \= βself+α\(\\sum\{i\=0\}^\{b-1\} batch1\{i\}@batch2\{i\}\) $$ 注意:如果β - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAddbmmaclnnInplaceAddbmm_md.md ## CANN社区版-aclnnAddLayerNorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAddLayerNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/add\_layer\_norm\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAddLayerNorm_md.md ## CANN社区版-aclnnAddLayerNormGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAddLayerNormGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/add\_layer\_norm\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAddLayerNormGrad_md.md ## CANN社区版-aclnnAddLayerNormQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAddLayerNormQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/add\_layer\_norm\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAddLayerNormQuant_md.md ## CANN社区版-aclnnAddmm&aclnnInplaceAddmm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAddmm%26aclnnInplaceAddmm.md - Description: - 接口功能:计算α 乘以mat1与mat2的乘积,再与β和self的乘积求和。 - 计算公式: $$ out \= β self + α \(mat1 @ mat2\) $$ - 示例: 对于aclnnAddmm接口,self的shape是\[1, n\], mat1的shape是\[m, k\], mat2的shape是\[k, n\], mat1和mat2的矩阵乘的结果shape是\[m, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAddmmaclnnInplaceAddmm_md.md ## CANN社区版-aclnnAddmmWeightNz - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAddmmWeightNz.md - Description: - 接口功能:计算α 乘以mat1与mat2的乘积,再与β和self的乘积求和。相较于原有addmm接口,新接口mat2支持nz格式。 - 计算公式: $$ out \= β self + α \(mat1 @ mat2\) $$ - 示例: 对于aclnnAddmmWeightNz接口,self的shape是\[n,\],mat1的shape是\[m, k\],mat2的shape是\[k - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAddmmWeightNz_md.md ## CANN社区版-aclnnAddmv - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAddmv.md - Description: - 接口功能:完成矩阵乘计算,然后和向量相加。 - 计算公式: $$ out \= β self + α \(mat @ vec\) $$ - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAddmv_md.md ## CANN社区版-aclnnAddRelu&aclnnInplaceAddRelu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAddRelu%26aclnnInplaceAddRelu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/relu\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAddReluaclnnInplaceAddRelu_md.md ## CANN社区版-aclnnAddRmsNorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAddRmsNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/add\_rms\_norm\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAddRmsNorm_md.md ## CANN社区版-aclnnAddRmsNormCast - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAddRmsNormCast.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/add\_rms\_norm\_cast\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAddRmsNormCast_md.md ## CANN社区版-aclnnAddRmsNormDynamicMxQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAddRmsNormDynamicMxQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/add\_rms\_norm\_dynamic\_mx\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAddRmsNormDynamicMxQuant_md.md ## CANN社区版-aclnnAddRmsNormDynamicQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAddRmsNormDynamicQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/add\_rms\_norm\_dynamic\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAddRmsNormDynamicQuant_md.md ## CANN社区版-aclnnAddRmsNormDynamicQuantV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAddRmsNormDynamicQuantV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/add\_rms\_norm\_dynamic\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAddRmsNormDynamicQuantV2_md.md ## CANN社区版-aclnnAddRmsNormQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAddRmsNormQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/add\_rms\_norm\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAddRmsNormQuant_md.md ## CANN社区版-aclnnAddRmsNormQuantV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAddRmsNormQuantV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/add\_rms\_norm\_quant\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAddRmsNormQuantV2_md.md ## CANN社区版-aclnnAdvanceStep - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAdvanceStep.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/optim/advance\_step\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAdvanceStep_md.md ## CANN社区版-aclnnAdvanceStepV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAdvanceStepV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/optim/advance\_step\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAdvanceStepV2_md.md ## CANN社区版-aclnnApplyAdam - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnApplyAdam.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/optim/apply\_adam\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnApplyAdam_md.md ## CANN社区版-aclnnApplyAdamW - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnApplyAdamW.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/optim/apply\_adam\_w\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnApplyAdamW_md.md ## CANN社区版-aclnnApplyAdamWQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnApplyAdamWQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/optim/apply\_adam\_w\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnApplyAdamWQuant_md.md ## CANN社区版-aclnnApplyAdamWV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnApplyAdamWV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/optim/apply\_adam\_w\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnApplyAdamWV2_md.md ## CANN社区版-aclnnApplyFusedEmaAdam - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnApplyFusedEmaAdam.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/optim/apply\_fused\_ema\_adam\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnApplyFusedEmaAdam_md.md ## CANN社区版-aclnnApplyTopKTopP - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnApplyTopKTopP.md - Description: - 接口功能:对原始输入logits进行top-k和top-p采样过滤。 - 计算公式: - 对输入logits按最后一轴进行升序排序,得到对应的排序结果sortedValue和sortedIndices。 $$sortedValue, sortedIndices \= sort\(logits, dim\=-1, descending\=false, stable\=true\)$$ - 计算保 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnApplyTopKTopP_md.md ## CANN社区版-aclnnAscendAntiQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAscendAntiQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/ascend\_anti\_quant\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAscendAntiQuant_md.md ## CANN社区版-aclnnAscendQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAscendQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/ascend\_quant\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAscendQuant_md.md ## CANN社区版-aclnnAscendQuantV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAscendQuantV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/ascend\_quant\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAscendQuantV3_md.md ## CANN社区版-aclnnAvgPool2d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAvgPool2d.md - Description: - 接口功能:对输入Tensor进行窗口为$kH kW$、步长为$sH sW$的二维平均池化操作,其中$k$为kernelSize,表示池化窗口的大小,$s$为stride,表示池化操作的步长。 - 计算公式: 输入input($N,C,H,W$)、输出out($N,C,H\{out\},W\{out\}$)和池化步长($strides$)、池化窗口大小\($kH,kW$\)的关系是 $$ H - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAvgPool2d_md.md ## CANN社区版-aclnnAvgPool2dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAvgPool2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/avg\_pool3\_d\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAvgPool2dBackward_md.md ## CANN社区版-aclnnAvgPool3d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAvgPool3d.md - Description: - 接口功能:对输入Tensor进行窗口为$kD kH kW$、步长为$sD sH sW$的三维平均池化操作,其中$k$为kernelSize,表示池化窗口的大小,$s$为stride,表示池化操作的步长。 - 计算公式: 输入input\($N,C,D\{in\},H\{in\},W\{in\}$\)、输出out\($N,C,D\{out\},H\{out\},W\{out\}$\)和池化步长\($stride$\)、 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAvgPool3d_md.md ## CANN社区版-aclnnAvgPool3dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnAvgPool3dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/avg\_pool3\_d\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnAvgPool3dBackward_md.md ## CANN社区版-aclnnBaddbmm&aclnnInplaceBaddbmm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnBaddbmm%26aclnnInplaceBaddbmm.md - Description: - 接口功能: 计算α与batch1、batch2的矩阵乘结果的乘积,再与β和self的乘积求和。 注意:batch1、batch2必须是三维Tensor,两个shape仅在aclnnBaddbmm支持做broadcast,两个shape在aclnnInplaceBaddbmm做broadcast则会被拦截; self必须要支持和batch1@batch2的结果做broadcast。(broadc - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnBaddbmmaclnnInplaceBaddbmm_md.md ## CANN社区版-aclnnBatchMatMul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnBatchMatMul.md - Description: - 接口功能:完成张量self与张量mat2的矩阵乘计算。仅支持三维的Tensor传入。第一维是batch维度,最后两个维度做矩阵乘法。也支持其中一个输入的batch轴为1时做broadcast,见示例。 - 计算公式: $$ out \= self@mat2 $$ - 示例: self的shape是\[A, M, K\],mat2的shape是\[A, K, N\],计算输出out的sha - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnBatchMatMul_md.md ## CANN社区版-aclnnBatchMatmulQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnBatchMatmulQuant.md - Description: **此接口后续版本会废弃,请勿使用该接口。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnBatchMatmulQuant_md.md ## CANN社区版-aclnnBatchMatMulWeightNz - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnBatchMatMulWeightNz.md - Description: - 接口功能:完成张量self与张量mat2的矩阵乘计算,mat2仅支持NZ格式,只支持self为3维,mat2为5维。 - 计算公式: $$ out \= self@mat2 $$ - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnBatchMatMulWeightNz_md.md ## CANN社区版-aclnnBatchNorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnBatchNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/batch\_norm\_v3\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnBatchNorm_md.md ## CANN社区版-aclnnBatchNormBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnBatchNormBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/batch\_norm\_grad\_v3\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnBatchNormBackward_md.md ## CANN社区版-aclnnBatchNormElemt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnBatchNormElemt.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/batch\_norm\_elemt\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnBatchNormElemt_md.md ## CANN社区版-aclnnBatchNormElemtBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnBatchNormElemtBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/sync\_batch\_norm\_backward\_elemt\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnBatchNormElemtBackward_md.md ## CANN社区版-aclnnBatchNormGatherStatsWithCounts - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnBatchNormGatherStatsWithCounts.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/sync\_batch\_norm\_gather\_stats\_with\_counts\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnBatchNormGatherStatsWithCounts_md.md ## CANN社区版-aclnnBatchNormReduce - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnBatchNormReduce.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/bn\_training\_reduce\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnBatchNormReduce_md.md ## CANN社区版-aclnnBatchNormReduceBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnBatchNormReduceBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/sync\_batch\_norm\_backward\_reduce\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnBatchNormReduceBackward_md.md ## CANN社区版-aclnnBidirectionLSTM - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnBidirectionLSTM.md - Description: - 接口功能:LSTM(Long Short-Term Memory,长短时记忆)网络是一种特殊的循环神经网络(RNN)模型。进行LSTM网络计算,接收输入序列和初始状态,返回输出序列和最终状态。 - 计算公式: $$ ft \=sigm\(Wf\[h\{t-1\}, xt\] + bf\)\\ it \=sigm\(Wi\[h\{t-1\}, xt\] + bi\)\\ ot \=sigm\(Wo\[h\{t-1\}, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnBidirectionLSTM_md.md ## CANN社区版-aclnnBidirectionLSTMV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnBidirectionLSTMV2.md - Description: - 接口功能:LSTM(Long Short-Term Memory,长短时记忆)网络是一种特殊的循环神经网络(RNN)模型。进行LSTM网络计算,接收输入序列和初始状态,返回输出序列和最终状态。相比aclnnBidirectionLSTM新增了Sequence不等长场景。 - 计算公式: $$ ft \=sigm\(Wf\[h\{t-1\}, xt\] + bf\)\\ it \=sigm\(Wi\[h\{ - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnBidirectionLSTMV2_md.md ## CANN社区版-aclnnBinaryCrossEntropy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnBinaryCrossEntropy.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/binary\_cross\_entropy\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnBinaryCrossEntropy_md.md ## CANN社区版-aclnnBinaryCrossEntropyBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnBinaryCrossEntropyBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/binary\_cross\_entropy\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnBinaryCrossEntropyBackward_md.md ## CANN社区版-aclnnBinaryCrossEntropyWithLogits - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnBinaryCrossEntropyWithLogits.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/sigmoid\_cross\_entropy\_with\_logits\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnBinaryCrossEntropyWithLogits_md.md ## CANN社区版-aclnnBinaryCrossEntropyWithLogitsBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnBinaryCrossEntropyWithLogitsBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/sigmoid\_cross\_entropy\_with\_logits\_grad\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnBinaryCrossEntropyWithLogitsBackward_md.md ## CANN社区版-aclnnBinaryCrossEntropyWithLogitsTargetBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnBinaryCrossEntropyWithLogitsTargetBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/log\_sigmoid\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnBinaryCrossEntropyWithLogitsTargetBackward_md.md ## CANN社区版-aclnnBucketize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnBucketize.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/bucketize\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnBucketize_md.md ## CANN社区版-aclnnCelu&aclnnInplaceCelu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnCelu%26aclnnInplaceCelu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/celu\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnCeluaclnnInplaceCelu_md.md ## CANN社区版-aclnnChamferDistanceBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnChamferDistanceBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/chamfer\_distance\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnChamferDistanceBackward_md.md ## CANN社区版-aclnnClippedSwiglu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnClippedSwiglu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/clipped\_swiglu\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnClippedSwiglu_md.md ## CANN社区版-aclnnConvDepthwise2d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnConvDepthwise2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/conv/convolution\_forward\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnConvDepthwise2d_md.md ## CANN社区版-aclnnConvertWeightToINT4Pack - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnConvertWeightToINT4Pack.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/matmul/convert\_weight\_to\_int4\_pack\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnConvertWeightToINT4Pack_md.md ## CANN社区版-aclnnConvolution - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnConvolution.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/conv/convolution\_forward\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnConvolution_md.md ## CANN社区版-aclnnConvolutionBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnConvolutionBackward.md - Description: - 接口功能:卷积的反向传播。根据输出掩码设置计算输入、权重和偏差的梯度。此函数支持1D、2D和3D卷积。 - 计算公式: 输入input\($N,C\{in\},D\{in\},H\{in\},W\{in\}$\)、输出out\($N,C\{out\},D\{out\},H\{out\},W\{out\}$\)和卷积步长\($stride$\)、卷积核大小\($kernelSize,kD,kH,kW$\)、膨胀参数\($dilation$\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnConvolutionBackward_md.md ## CANN社区版-aclnnConvTbc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnConvTbc.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/conv/convolution\_forward\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnConvTbc_md.md ## CANN社区版-aclnnConvTbcBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnConvTbcBackward.md - Description: - 接口功能:实现输入输出维度为T(时间或空间维度)、B(批次)、C(通道)的一维卷积的反向传播。 - 计算公式:假定输入Convtbc正向的输入$input$的shape是$\(H\{ ext\{in\}\},N,C\{ ext\{in\}\}\)$,输出梯度$gradOutput$ 的shape是$\(H\{ ext\{out\}\},N,C\{ ext\{out\}\}\)$,卷积核$weight$的shape是$\(K,C\{ - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnConvTbcBackward_md.md ## CANN社区版-aclnnCrossEntropyLoss - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnCrossEntropyLoss.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/cross\_entropy\_loss\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnCrossEntropyLoss_md.md ## CANN社区版-aclnnCrossEntropyLossGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnCrossEntropyLossGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/cross\_entropy\_loss\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnCrossEntropyLossGrad_md.md ## CANN社区版-aclnnCtcLoss - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnCtcLoss.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/ctc\_loss\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnCtcLoss_md.md ## CANN社区版-aclnnCtcLossBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnCtcLossBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/ctc\_loss\_v2\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnCtcLossBackward_md.md ## CANN社区版-aclnnDeepNorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnDeepNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/deep\_norm\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnDeepNorm_md.md ## CANN社区版-aclnnDeepNormGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnDeepNormGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/deep\_norm\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnDeepNormGrad_md.md ## CANN社区版-aclnnDeformableConv2d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnDeformableConv2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/conv/deformable\_conv2d\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnDeformableConv2d_md.md ## CANN社区版-aclnnDeformableConv2dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnDeformableConv2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/blob/master/conv/convolution\_backward\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnDeformableConv2dBackward_md.md ## CANN社区版-aclnnDequantBias - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnDequantBias.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dequant\_bias\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnDequantBias_md.md ## CANN社区版-aclnnDequantSwigluQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnDequantSwigluQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dequant\_swiglu\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnDequantSwigluQuant_md.md ## CANN社区版-aclnnDequantSwigluQuantV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnDequantSwigluQuantV2.md - Description: - 接口功能:在Swish门控线性单元激活函数前后添加dequant和quant操作,实现x的DequantSwigluQuant计算。本接口相较于aclnnDequantSwigluQuant有两类新增参数: 1)新增了三个Ascend 950PR/Ascend 950DT上使用的输入参数:dstType、roundModeOptional、activateDim。 2)在Atlas A - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnDequantSwigluQuantV2_md.md ## CANN社区版-aclnnDualLevelQuantMatmulWeightNz - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnDualLevelQuantMatmulWeightNz.md - Description: - 接口功能:完成二级量化mxfp4的矩阵乘计算,其中参数x2需为NZ格式,可通过aclnnTransMatmulWeight或aclnnNpuFormatCast对format为ND的x2处理得到NZ格式。 - 计算公式 $$ out \=\\sum\{i\}^\{level0GroupSize\} x1Level0Scale @ x2Level0Scale \\sum\{ij\}^\{level1Grou - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnDualLevelQuantMatmulWeightNz_md.md ## CANN社区版-aclnnDynamicBlockMxQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnDynamicBlockMxQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dynamic\_block\_mx\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnDynamicBlockMxQuant_md.md ## CANN社区版-aclnnDynamicBlockQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnDynamicBlockQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dynamic\_block\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnDynamicBlockQuant_md.md ## CANN社区版-aclnnDynamicBlockQuantV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnDynamicBlockQuantV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dynamic\_block\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnDynamicBlockQuantV2_md.md ## CANN社区版-aclnnDynamicDualLevelMxQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnDynamicDualLevelMxQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dynamic\_dual\_level\_mx\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnDynamicDualLevelMxQuant_md.md ## CANN社区版-aclnnDynamicMxQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnDynamicMxQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dynamic\_mx\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnDynamicMxQuant_md.md ## CANN社区版-aclnnDynamicMxQuantV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnDynamicMxQuantV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dynamic\_mx\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnDynamicMxQuantV2_md.md ## CANN社区版-aclnnDynamicMxQuantWithDualAxis - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnDynamicMxQuantWithDualAxis.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dynamic\_mx\_quant\_with\_dual\_axis\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnDynamicMxQuantWithDualAxis_md.md ## CANN社区版-aclnnDynamicMxQuantWithDualAxisV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnDynamicMxQuantWithDualAxisV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dynamic\_mx\_quant\_with\_dual\_axis\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnDynamicMxQuantWithDualAxisV2_md.md ## CANN社区版-aclnnDynamicQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnDynamicQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dynamic\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnDynamicQuant_md.md ## CANN社区版-aclnnDynamicQuantV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnDynamicQuantV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dynamic\_quant\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnDynamicQuantV2_md.md ## CANN社区版-aclnnDynamicQuantV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnDynamicQuantV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dynamic\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnDynamicQuantV3_md.md ## CANN社区版-aclnnDynamicQuantV4 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnDynamicQuantV4.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/dynamic\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnDynamicQuantV4_md.md ## CANN社区版-aclnnEinsum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnEinsum.md - Description: - 接口功能:使用爱因斯坦求和约定执行张量计算,形式为“term1, term2 -> output-term”,按照以下等式生成输出张量,其中reduce-sum对出现在输入项\(term1, term2\)中但未出现在输出项中的所有索引执行求和。 - 计算公式: $$ output\[output-term\] \= reduce-sum\(input1\[term1\] input2\[term2\] - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnEinsum_md.md ## CANN社区版-aclnnElu&aclnnInplaceElu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnElu%26aclnnInplaceElu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/elu\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnEluaclnnInplaceElu_md.md ## CANN社区版-aclnnEluBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnEluBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/elu\_grad\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnEluBackward_md.md ## CANN社区版-aclnnEmbedding - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnEmbedding.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/embedding\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnEmbedding_md.md ## CANN社区版-aclnnEmbeddingBag - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnEmbeddingBag.md - Description: - 接口功能:根据indices从weight中获得一组被聚合的数,然后根据offsets的偏移和mode指定的聚合模式对获取的数进行max、sum、mean聚合。其余参数则更细化了计算过程的控制。 - shape推导公式: 假设输入weight的shape为\(numWeight, embeddingDim\),indices的shape为\(bagIndices\),offsets的shape为\( - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnEmbeddingBag_md.md ## CANN社区版-aclnnEmbeddingDenseBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnEmbeddingDenseBackward.md - Description: 实现aclnnEmbedding的反向计算,将相同索引`indices`对应`grad`的一行累加到`out`上。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnEmbeddingDenseBackward_md.md ## CANN社区版-aclnnEmbeddingRenorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnEmbeddingRenorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/renorm\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnEmbeddingRenorm_md.md ## CANN社区版-aclnnErfinv&aclnnInplaceErfinv - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnErfinv%26aclnnInplaceErfinv.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/erfinv\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnErfinvaclnnInplaceErfinv_md.md ## CANN社区版-aclnnExpandIntoJaggedPermute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnExpandIntoJaggedPermute.md - Description: - 接口功能:将稀疏数据置换索引从表维度扩展到批次维度,适用于稀疏特征在不同rank中具有不同批次大小的情况。 - 计算公式: $$ len \= outputOffset\[i+1\] - outputOffset\[i\] $$ $$ outputPermuteOut\[outputOffset\[i\]:outputOffset\[i+1\]\] \= arange\(inputOffset\[permute\[i\]\], - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnExpandIntoJaggedPermute_md.md ## CANN社区版-aclnnFakeQuantPerChannelAffineCachemask - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnFakeQuantPerChannelAffineCachemask.md - Description: - 接口功能:对于输入数据self,使用scale和zeropoint对输入self在指定轴axis上进行伪量化处理,并根据quantmin和quantmax对伪量化输出进行值域更新,最终返回结果out及对应位置掩码mask。 - 计算公式:根据算子功能先计算临时变量qval,再计算得出out和mask。 - zeropoint的数据类型为int32 $$ qval \= Round\(s - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnFakeQuantPerChannelAffineCachemask_md.md ## CANN社区版-aclnnFakeQuantPerTensorAffineCachemask - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnFakeQuantPerTensorAffineCachemask.md - Description: - 接口功能: - fakequantenabled >\= 1: 对于输入数据self,使用scale和zeropoint对输入self进行伪量化处理,并根据quantmin和quantmax对伪量化输出进行值域更新,最终返回结果out及对应位置掩码mask。 - fakequantenabled \= 1的情况下,根据算子功能先计算临时变量qval,再计算得出out和mask。 $$ - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnFakeQuantPerTensorAffineCachemask_md.md ## CANN社区版-aclnnFastBatchNormBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnFastBatchNormBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/batch\_norm\_grad\_v3\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnFastBatchNormBackward_md.md ## CANN社区版-aclnnFastGelu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnFastGelu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/fast\_gelu\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnFastGelu_md.md ## CANN社区版-aclnnFastGeluBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnFastGeluBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/fast\_gelu\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnFastGeluBackward_md.md ## CANN社区版-aclnnFastLayerNorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnFastLayerNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/layer\_norm\_v4\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnFastLayerNorm_md.md ## CANN社区版-aclnnFatreluMul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnFatreluMul.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/fatrelu\_mul\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnFatreluMul_md.md ## CANN社区版-aclnnFlatQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnFlatQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/flat\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnFlatQuant_md.md ## CANN社区版-aclnnFlatQuantV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnFlatQuantV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/flat\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnFlatQuantV2_md.md ## CANN社区版-aclnnFlip - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnFlip.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/reverse\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnFlip_md.md ## CANN社区版-aclnnForeachAbs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachAbs.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_abs\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachAbs_md.md ## CANN社区版-aclnnForeachAcos - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachAcos.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_acos\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachAcos_md.md ## CANN社区版-aclnnForeachAddcdivList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachAddcdivList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_addcdiv\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachAddcdivList_md.md ## CANN社区版-aclnnForeachAddcdivScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachAddcdivScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_addcdiv\_scalar\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachAddcdivScalar_md.md ## CANN社区版-aclnnForeachAddcdivScalarList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachAddcdivScalarList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_addcdiv\_scalar\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachAddcdivScalarList_md.md ## CANN社区版-aclnnForeachAddcdivScalarV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachAddcdivScalarV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_addcdiv\_scalar\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachAddcdivScalarV2_md.md ## CANN社区版-aclnnForeachAddcmulList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachAddcmulList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_addcmul\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachAddcmulList_md.md ## CANN社区版-aclnnForeachAddcmulScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachAddcmulScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_addcmul\_scalar\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachAddcmulScalar_md.md ## CANN社区版-aclnnForeachAddcmulScalarList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachAddcmulScalarList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_addcmul\_scalar\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachAddcmulScalarList_md.md ## CANN社区版-aclnnForeachAddcmulScalarV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachAddcmulScalarV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_addcmul\_scalar\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachAddcmulScalarV2_md.md ## CANN社区版-aclnnForeachAddList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachAddList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_add\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachAddList_md.md ## CANN社区版-aclnnForeachAddListV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachAddListV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_add\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachAddListV2_md.md ## CANN社区版-aclnnForeachAddScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachAddScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_add\_scalar\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachAddScalar_md.md ## CANN社区版-aclnnForeachAddScalarList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachAddScalarList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_add\_scalar\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachAddScalarList_md.md ## CANN社区版-aclnnForeachAddScalarV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachAddScalarV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_add\_scalar\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachAddScalarV2_md.md ## CANN社区版-aclnnForeachAsin - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachAsin.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_asin\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachAsin_md.md ## CANN社区版-aclnnForeachAtan - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachAtan.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_atan\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachAtan_md.md ## CANN社区版-aclnnForeachCopy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachCopy.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_copy\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachCopy_md.md ## CANN社区版-aclnnForeachCos - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachCos.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_cos\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachCos_md.md ## CANN社区版-aclnnForeachCosh - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachCosh.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_cosh\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachCosh_md.md ## CANN社区版-aclnnForeachDivList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachDivList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_div\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachDivList_md.md ## CANN社区版-aclnnForeachDivScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachDivScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_div\_scalar\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachDivScalar_md.md ## CANN社区版-aclnnForeachDivScalarList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachDivScalarList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_div\_scalar\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachDivScalarList_md.md ## CANN社区版-aclnnForeachDivScalarV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachDivScalarV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_div\_scalar\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachDivScalarV2_md.md ## CANN社区版-aclnnForeachErf - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachErf.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_erf\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachErf_md.md ## CANN社区版-aclnnForeachErfc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachErfc.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_erfc\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachErfc_md.md ## CANN社区版-aclnnForeachExp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachExp.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_exp\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachExp_md.md ## CANN社区版-aclnnForeachExpm1 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachExpm1.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_expm1\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachExpm1_md.md ## CANN社区版-aclnnForeachLerpList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachLerpList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_lerp\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachLerpList_md.md ## CANN社区版-aclnnForeachLerpScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachLerpScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_lerp\_scalar\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachLerpScalar_md.md ## CANN社区版-aclnnForeachLog - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachLog.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_log\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachLog_md.md ## CANN社区版-aclnnForeachLog10 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachLog10.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_log10\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachLog10_md.md ## CANN社区版-aclnnForeachLog1p - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachLog1p.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_log1p\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachLog1p_md.md ## CANN社区版-aclnnForeachLog2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachLog2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_log2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachLog2_md.md ## CANN社区版-aclnnForeachMaximumList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachMaximumList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_maximum\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachMaximumList_md.md ## CANN社区版-aclnnForeachMaximumScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachMaximumScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_maximum\_scalar\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachMaximumScalar_md.md ## CANN社区版-aclnnForeachMaximumScalarList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachMaximumScalarList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_maximum\_scalar\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachMaximumScalarList_md.md ## CANN社区版-aclnnForeachMaximumScalarV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachMaximumScalarV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_maximum\_scalar\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachMaximumScalarV2_md.md ## CANN社区版-aclnnForeachMinimumList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachMinimumList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_minimum\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachMinimumList_md.md ## CANN社区版-aclnnForeachMinimumScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachMinimumScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_minimum\_scalar\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachMinimumScalar_md.md ## CANN社区版-aclnnForeachMinimumScalarList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachMinimumScalarList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_minimum\_scalar\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachMinimumScalarList_md.md ## CANN社区版-aclnnForeachMinimumScalarV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachMinimumScalarV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_minimum\_scalar\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachMinimumScalarV2_md.md ## CANN社区版-aclnnForeachMulList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachMulList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_mul\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachMulList_md.md ## CANN社区版-aclnnForeachMulScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachMulScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_mul\_scalar\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachMulScalar_md.md ## CANN社区版-aclnnForeachMulScalarList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachMulScalarList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_mul\_scalar\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachMulScalarList_md.md ## CANN社区版-aclnnForeachMulScalarV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachMulScalarV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_mul\_scalar\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachMulScalarV2_md.md ## CANN社区版-aclnnForeachNeg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachNeg.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_neg\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachNeg_md.md ## CANN社区版-aclnnForeachNonFiniteCheckAndUnscale - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachNonFiniteCheckAndUnscale.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_non\_finite\_check\_and\_unscale\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachNonFiniteCheckAndUnscale_md.md ## CANN社区版-aclnnForeachNorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_norm\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachNorm_md.md ## CANN社区版-aclnnForeachPowList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachPowList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_pow\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachPowList_md.md ## CANN社区版-aclnnForeachPowScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachPowScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_pow\_scalar\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachPowScalar_md.md ## CANN社区版-aclnnForeachPowScalarAndTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachPowScalarAndTensor.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_pow\_scalar\_and\_tensor\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachPowScalarAndTensor_md.md ## CANN社区版-aclnnForeachPowScalarList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachPowScalarList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_pow\_scalar\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachPowScalarList_md.md ## CANN社区版-aclnnForeachPowScalarV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachPowScalarV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_pow\_scalar\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachPowScalarV2_md.md ## CANN社区版-aclnnForeachReciprocal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachReciprocal.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_reciprocal\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachReciprocal_md.md ## CANN社区版-aclnnForeachRoundOffNumber - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachRoundOffNumber.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_round\_off\_number\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachRoundOffNumber_md.md ## CANN社区版-aclnnForeachRoundOffNumberV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachRoundOffNumberV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_round\_off\_number\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachRoundOffNumberV2_md.md ## CANN社区版-aclnnForeachSigmoid - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachSigmoid.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_sigmoid\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachSigmoid_md.md ## CANN社区版-aclnnForeachSign - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachSign.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_sign\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachSign_md.md ## CANN社区版-aclnnForeachSin - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachSin.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_sin\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachSin_md.md ## CANN社区版-aclnnForeachSinh - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachSinh.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_sinh\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachSinh_md.md ## CANN社区版-aclnnForeachSqrt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachSqrt.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_sqrt\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachSqrt_md.md ## CANN社区版-aclnnForeachSubList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachSubList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_sub\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachSubList_md.md ## CANN社区版-aclnnForeachSubListV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachSubListV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_sub\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachSubListV2_md.md ## CANN社区版-aclnnForeachSubScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachSubScalar.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_sub\_scalar\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachSubScalar_md.md ## CANN社区版-aclnnForeachSubScalarList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachSubScalarList.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_sub\_scalar\_list\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachSubScalarList_md.md ## CANN社区版-aclnnForeachSubScalarV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachSubScalarV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_sub\_scalar\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachSubScalarV2_md.md ## CANN社区版-aclnnForeachTan - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachTan.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_tan\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachTan_md.md ## CANN社区版-aclnnForeachTanh - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachTanh.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_tanh\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachTanh_md.md ## CANN社区版-aclnnForeachZeroInplace - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnForeachZeroInplace.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/foreach/foreach\_zero\_inplace\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnForeachZeroInplace_md.md ## CANN社区版-aclnnFusedCrossEntropyLossWithMaxSum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnFusedCrossEntropyLossWithMaxSum.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/fused\_cross\_entropy\_loss\_with\_max\_sum\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnFusedCrossEntropyLossWithMaxSum_md.md ## CANN社区版-aclnnFusedLinearCrossEntropyLossGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnFusedLinearCrossEntropyLossGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/matmul/fused\_linear\_cross\_entropy\_loss\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnFusedLinearCrossEntropyLossGrad_md.md ## CANN社区版-aclnnFusedLinearOnlineMaxSum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnFusedLinearOnlineMaxSum.md - Description: - 接口功能: 功能等价Megatron的matmul与fusedvocabparallelcrossentropy的实现,支持vocabularysize维度切卡融合matmul与celoss,中间根据通信拆分为aclnnFusedLinearOnlineMaxSum、aclnnFusedCrossEntropyLossWithMaxSum,需要依次调用实现完整功能。 - 计算公式: 1 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnFusedLinearOnlineMaxSum_md.md ## CANN社区版-aclnnFusedMatmul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnFusedMatmul.md - Description: - 接口功能:矩阵乘与通用向量计算融合。 - 计算公式: $$ y \= OP\(\(x1 @ x2 + bias\), x3\) $$ OP类型由fusedOpType输入定义,支持如下: add运算: $$ y\=\(x1 @ x2 + bias\) + x3 $$ mul运算: $$ y\=\(x1 @ x2 + bias\) ∗ x3 $$ gelutanh运 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnFusedMatmul_md.md ## CANN社区版-aclnnFusedQuantMatmul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnFusedQuantMatmul.md - Description: - 接口功能:量化矩阵乘和Gelu计算融合。 - 计算公式: - x1Scale, bias INT32(此场景无offset): $$ qbmmout \= \(x1@x2 + bias\) x2Scale x1Scale $$ - x1Scale, bias BFLOAT16/FLOAT16/FLOAT32(此场景无offset): $$ qbmm - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnFusedQuantMatmul_md.md ## CANN社区版-aclnnFusedQuantMatmulWeightNz - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnFusedQuantMatmulWeightNz.md - Description: - 接口功能:量化矩阵乘和Gelu计算融合。 - 计算公式: - x1Scale, bias INT32(此场景无offset): $$ qbmmout \= \(x1@x2 + bias\) x2Scale x1Scale $$ - x1Scale, bias BFLOAT16/FLOAT16/FLOAT32(此场景无offset): $$ qbmm - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnFusedQuantMatmulWeightNz_md.md ## CANN社区版-aclnnGather - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGather.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_elements\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGather_md.md ## CANN社区版-aclnnGatherNd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGatherNd.md - Description: - 接口功能:对于维度为r≥1的输入张量`self`,和维度q≥1的输入张量`indices`,将数据切片收集到维度为 \(q-1\) + \(r - indicesshape\[-1\]\) 的输出张量out中。indices是一个q维的整型张量,可视作一个q-1维的由索引对构成的特殊张量(每个索引对是一个长度为indicesshape\[-1\]的一维张量,每个索引对指向self中一个切片)。 - 计算逻辑: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGatherNd_md.md ## CANN社区版-aclnnGatherV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGatherV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGatherV2_md.md ## CANN社区版-aclnnGatherV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGatherV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGatherV3_md.md ## CANN社区版-aclnnGeGlu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGeGlu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/ge\_glu\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGeGlu_md.md ## CANN社区版-aclnnGeGluBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGeGluBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/ge\_glu\_grad\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGeGluBackward_md.md ## CANN社区版-aclnnGeGluV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGeGluV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/ge\_glu\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGeGluV3_md.md ## CANN社区版-aclnnGeGluV3Backward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGeGluV3Backward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/ge\_glu\_grad\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGeGluV3Backward_md.md ## CANN社区版-aclnnGelu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGelu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/gelu\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGelu_md.md ## CANN社区版-aclnnGeluBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGeluBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/gelu\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGeluBackward_md.md ## CANN社区版-aclnnGeluBackwardV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGeluBackwardV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/gelu\_grad\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGeluBackwardV2_md.md ## CANN社区版-aclnnGeluMul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGeluMul.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/gelu\_mul\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGeluMul_md.md ## CANN社区版-aclnnGeluQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGeluQuant.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGeluQuant_md.md ## CANN社区版-aclnnGeluV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGeluV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/gelu\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGeluV2_md.md ## CANN社区版-aclnnGemm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGemm.md - Description: - 算子功能:计算α 乘以A与B的乘积,再与β 和input C的乘积求和。 - 计算公式: - 若transA非零,计算前会将A进行转置;同样的,若transB非零,则会将B进行转置。 $$ out \= α \(A @ B\) + β C $$ - 若transA与transB都为非零,则计算公式为: $$ out \= α \(A^T @ B^T\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGemm_md.md ## CANN社区版-aclnnGemmaRmsNorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGemmaRmsNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/gemma\_rms\_norm\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGemmaRmsNorm_md.md ## CANN社区版-aclnnGlu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGlu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/glu\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGlu_md.md ## CANN社区版-aclnnGluBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGluBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/glu\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGluBackward_md.md ## CANN社区版-aclnnGroupedDynamicBlockQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGroupedDynamicBlockQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/grouped\_dynamic\_block\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGroupedDynamicBlockQuant_md.md ## CANN社区版-aclnnGroupedDynamicMxQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGroupedDynamicMxQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/grouped\_dynamic\_mx\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGroupedDynamicMxQuant_md.md ## CANN社区版-aclnnGroupedDynamicMxQuantV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGroupedDynamicMxQuantV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/grouped\_dynamic\_mx\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGroupedDynamicMxQuantV2_md.md ## CANN社区版-aclnnGroupNorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGroupNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/group\_norm\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGroupNorm_md.md ## CANN社区版-aclnnGroupNormBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGroupNormBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/group\_norm\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGroupNormBackward_md.md ## CANN社区版-aclnnGroupNormSilu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGroupNormSilu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/group\_norm\_silu\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGroupNormSilu_md.md ## CANN社区版-aclnnGroupNormSiluQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGroupNormSiluQuant.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGroupNormSiluQuant_md.md ## CANN社区版-aclnnGroupNormSiluV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGroupNormSiluV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/group\_norm\_silu\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGroupNormSiluV2_md.md ## CANN社区版-aclnnGroupNormSwish - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGroupNormSwish.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/group\_norm\_swish\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGroupNormSwish_md.md ## CANN社区版-aclnnGroupNormSwishGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGroupNormSwishGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/group\_norm\_swish\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGroupNormSwishGrad_md.md ## CANN社区版-aclnnGroupQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnGroupQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/group\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnGroupQuant_md.md ## CANN社区版-aclnnHardshrink - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnHardshrink.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/hard\_shrink\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnHardshrink_md.md ## CANN社区版-aclnnHardshrinkBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnHardshrinkBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/hard\_shrink\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnHardshrinkBackward_md.md ## CANN社区版-aclnnHardsigmoid&aclnnInplaceHardsigmoid - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnHardsigmoid%26aclnnInplaceHardsigmoid.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/hard\_sigmoid\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnHardsigmoidaclnnInplaceHardsigmoid_md.md ## CANN社区版-aclnnHardsigmoidBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnHardsigmoidBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/hard\_sigmoid\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnHardsigmoidBackward_md.md ## CANN社区版-aclnnHardswish&aclnnInplaceHardswish - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnHardswish%26aclnnInplaceHardswish.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/hard\_swish\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnHardswishaclnnInplaceHardswish_md.md ## CANN社区版-aclnnHardswishBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnHardswishBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/hard\_swish\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnHardswishBackward_md.md ## CANN社区版-aclnnHardswishBackwardV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnHardswishBackwardV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/hard\_swish\_grad\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnHardswishBackwardV2_md.md ## CANN社区版-aclnnHardtanhBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnHardtanhBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/hardtanh\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnHardtanhBackward_md.md ## CANN社区版-aclnnHeaviside - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnHeaviside.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/heaviside\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnHeaviside_md.md ## CANN社区版-aclnnIndex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnIndex.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/index\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnIndex_md.md ## CANN社区版-aclnnIndexAdd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnIndexAdd.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/inplace\_scatter\_add\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnIndexAdd_md.md ## CANN社区版-aclnnIndexAddV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnIndexAddV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/inplace\_scatter\_add\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnIndexAddV2_md.md ## CANN社区版-aclnnIndexCopy&aclnnInplaceIndexCopy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnIndexCopy%26aclnnInplaceIndexCopy.md - Description: 将index张量中元素值作为索引,针对指定轴dim,把source中元素复制到selfRef或out的对应位置上。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnIndexCopyaclnnInplaceIndexCopy_md.md ## CANN社区版-aclnnIndexFill&aclnnInplaceIndexFill - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnIndexFill%26aclnnInplaceIndexFill.md - Description: - 接口功能:沿输入self的给定轴dim,将index指定位置的值使用value进行替换,计算结果是确定的。 - 示例:输入self为: \[\[1, 2, 3\], \[4, 5, 6\], \[7, 8, 9\]\] 若dim \= 0,index \= \[0, 2\], value \= 0时,算子的计算结果为: \[\[0, 0, 0\], \[4, 5, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnIndexFillaclnnInplaceIndexFill_md.md ## CANN社区版-aclnnIndexFillTensor&aclnnInplaceIndexFillTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnIndexFillTensor%26aclnnInplaceIndexFillTensor.md - Description: - 接口功能:沿输入self的给定轴dim,将index指定位置的值使用value进行替换。 - 示例: 输入self为:   \[\[1, 2, 3\],    \[4, 5, 6\],    \[7, 8, 9\]\] 若dim \= 0,index \= \[0, 2\],value \= 0时,算子的计算结果为: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnIndexFillTensoraclnnInplaceIndexFillTensor_md.md ## CANN社区版-aclnnIndexPutImpl - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnIndexPutImpl.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/index\_put\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnIndexPutImpl_md.md ## CANN社区版-aclnnIndexSelect - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnIndexSelect.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnIndexSelect_md.md ## CANN社区版-aclnnInplaceAddRmsNorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnInplaceAddRmsNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/inplace\_add\_rms\_norm\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnInplaceAddRmsNorm_md.md ## CANN社区版-aclnnInplaceMaskedScatter - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnInplaceMaskedScatter.md - Description: 根据掩码\(mask\)张量中元素为True的位置,复制\(source\)中的元素到\(selfRef\)对应的位置上。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnInplaceMaskedScatter_md.md ## CANN社区版-aclnnInplacePut - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnInplacePut.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/scatter\_nd\_update\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnInplacePut_md.md ## CANN社区版-aclnnInplaceQuantScatter - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnInplaceQuantScatter.md - Description: 先将updates在quantAxis轴上进行量化,quantScales对updates做缩放操作,quantZeroPoints做偏移。然后将量化后的updates中的值按指定的轴axis,根据索引张量indices逐个更新selfRef中对应位置的值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnInplaceQuantScatter_md.md ## CANN社区版-aclnnInplaceQuantScatterV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnInplaceQuantScatterV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/quant\_update\_scatter\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnInplaceQuantScatterV2_md.md ## CANN社区版-aclnnInplaceScatterUpdate - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnInplaceScatterUpdate.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/scatter\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnInplaceScatterUpdate_md.md ## CANN社区版-aclnnInstanceNorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnInstanceNorm.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnInstanceNorm_md.md ## CANN社区版-aclnnInverse - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnInverse.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/matrix\_inverse\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnInverse_md.md ## CANN社区版-aclnnKlDivBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnKlDivBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/fused\_cross\_entropy\_loss\_with\_max\_sum\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnKlDivBackward_md.md ## CANN社区版-aclnnKlDivTargetBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnKlDivTargetBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/kl\_div\_target\_loss\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnKlDivTargetBackward_md.md ## CANN社区版-aclnnKthvalue - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnKthvalue.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnKthvalue_md.md ## CANN社区版-aclnnL1Loss - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnL1Loss.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/lp\_loss\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnL1Loss_md.md ## CANN社区版-aclnnL1LossBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnL1LossBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/l1\_loss\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnL1LossBackward_md.md ## CANN社区版-aclnnLayerNorm&aclnnLayerNormWithImplMode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnLayerNorm%26aclnnLayerNormWithImplMode.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/layer\_norm\_v4\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnLayerNormaclnnLayerNormWithImplMode_md.md ## CANN社区版-aclnnLayerNormBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnLayerNormBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/layer\_norm\_grad\_v3\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnLayerNormBackward_md.md ## CANN社区版-aclnnLayerNormQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnLayerNormQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/layer\_norm\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnLayerNormQuant_md.md ## CANN社区版-aclnnLeakyRelu&aclnnInplaceLeakyRelu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnLeakyRelu%26aclnnInplaceLeakyRelu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/leaky\_relu\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnLeakyReluaclnnInplaceLeakyRelu_md.md ## CANN社区版-aclnnLeakyReluBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnLeakyReluBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/leaky\_relu\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnLeakyReluBackward_md.md ## CANN社区版-aclnnLinalgVectorNorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnLinalgVectorNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/lp\_norm\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnLinalgVectorNorm_md.md ## CANN社区版-aclnnLogit - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnLogit.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/logit\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnLogit_md.md ## CANN社区版-aclnnLogitGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnLogitGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/logit\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnLogitGrad_md.md ## CANN社区版-aclnnLogSigmoid - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnLogSigmoid.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/log\_sigmoid\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnLogSigmoid_md.md ## CANN社区版-aclnnLogSigmoidBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnLogSigmoidBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/logsigmoid\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnLogSigmoidBackward_md.md ## CANN社区版-aclnnLogSigmoidForward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnLogSigmoidForward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/log\_sigmoid\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnLogSigmoidForward_md.md ## CANN社区版-aclnnLogSoftmax - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnLogSoftmax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/log\_softmax\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnLogSoftmax_md.md ## CANN社区版-aclnnLogSoftmaxBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnLogSoftmaxBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/log\_softmax\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnLogSoftmaxBackward_md.md ## CANN社区版-aclnnLSTM - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnLSTM.md - Description: - 接口功能:LSTM(Long Short-Term Memory,长短时记忆)网络是一种特殊的循环神经网络(RNN)模型。进行LSTM网络计算,接收输入序列和初始状态,返回输出序列和最终状态。 - 计算公式: $$ \\begin\{aligned\} \(1\)\\qquad ft &\=\\sigma\(Wf\[h\{t-1\}, xt\] + bf\) \\ \(2\)\\qquad it &\=\\s - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnLSTM_md.md ## CANN社区版-aclnnLstmBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnLstmBackward.md - Description: - 接口功能:LSTM的反向传播,计算正向输入input、权重params、初始状态hx的梯度。 - 计算公式: 单层LSTM反向传播计算公式 | 组件 | 公式 | |:---|:---| | 输入拼接 | $\\mathbf\{z\}t \= \\begin\{bmatrix\} \\mathbf\{h\}\{t-1\} \\ \\mathbf\{x\}t \\end\{bmatrix\}$ - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnLstmBackward_md.md ## CANN社区版-aclnnMaskedSoftmaxWithRelPosBias - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMaskedSoftmaxWithRelPosBias.md - Description: <\!-- npu\="950" id1 --> - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMaskedSoftmaxWithRelPosBias_md.md ## CANN社区版-aclnnMatmul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMatmul.md - Description: - 接口功能:完成张量self与张量mat2的矩阵乘计算(支持1维到6维作为输入的矩阵乘)。 相似接口有aclnnMm(支持2维Tensor作为输入的矩阵乘)和aclnnBatchMatmul(仅支持3维的矩阵乘,其中第1维为batch)。 - 计算公式: $$ result\=self @ mat2 $$ - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMatmul_md.md ## CANN社区版-aclnnMatmulCompress - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMatmulCompress.md - Description: - 算子功能:进行l@r矩阵乘计算时,可先通过msModelSlim工具对r矩阵进行无损压缩,减少r矩阵的内存占用大小,然后通过本接口完成无损解压缩,矩阵乘,反量化计算。 - 计算公式: $$ x2unzip \= unzip\(x2, compressIndex\)\\ result\=x1 @ x2unzip + bias $$ 其中x2表示r矩阵经过msModelSlim工具进行压缩后的一维数据,co - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMatmulCompress_md.md ## CANN社区版-aclnnMatmulCompressDequant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMatmulCompressDequant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/matmul/matmul\_v2\_compress\_dequant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMatmulCompressDequant_md.md ## CANN社区版-aclnnMatmulWeightNz - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMatmulWeightNz.md - Description: - 接口功能:完成张量self与张量mat2的矩阵乘计算,mat2仅支持NZ格式,只支持self为2维, mat2为4维。 相似接口有aclnnMatmul(mat2仅支持ND)、 aclnnMm(支持2维Tensor作为输入的矩阵乘)和aclnnBatchMatmul(仅支持3维的矩阵乘,其中第1维为batch)。 - 计算公式: $$ result\=self @ mat2 $$ - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMatmulWeightNz_md.md ## CANN社区版-aclnnMaxPool - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMaxPool.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/max\_pool\_v3\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMaxPool_md.md ## CANN社区版-aclnnMaxPool2dWithIndices - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMaxPool2dWithIndices.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/max\_pool3d\_with\_argmax\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMaxPool2dWithIndices_md.md ## CANN社区版-aclnnMaxPool2dWithIndicesBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMaxPool2dWithIndicesBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/max\_pool3d\_grad\_with\_argmax\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMaxPool2dWithIndicesBackward_md.md ## CANN社区版-aclnnMaxPool2dWithMask - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMaxPool2dWithMask.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/max\_pool3d\_with\_argmax\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMaxPool2dWithMask_md.md ## CANN社区版-aclnnMaxPool2dWithMaskBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMaxPool2dWithMaskBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/max\_pool3d\_grad\_with\_argmax\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMaxPool2dWithMaskBackward_md.md ## CANN社区版-aclnnMaxPool3dWithArgmax - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMaxPool3dWithArgmax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/max\_pool3d\_with\_argmax\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMaxPool3dWithArgmax_md.md ## CANN社区版-aclnnMaxPool3dWithArgmaxBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMaxPool3dWithArgmaxBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/pooling/max\_pool3d\_grad\_with\_argmax\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMaxPool3dWithArgmaxBackward_md.md ## CANN社区版-aclnnMaxUnpool2d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMaxUnpool2d.md - Description: - 算子功能:aclnnMaxPool在2d的逆运算,由outputSize决定out的H、W轴大小,并根据indices索引在out中填入self的元素值,其余位置都设置为0。 - 计算公式: $$ out\[n\]\[c\]\[indices\[n\]\[c\]\[i\]\] \= self\[n\]\[c\]\[i\] $$ 其中out、indices和self是最后两轴合为一轴,经过reshape得到的,i ∈ - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMaxUnpool2d_md.md ## CANN社区版-aclnnMaxUnpool2dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMaxUnpool2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_elements\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMaxUnpool2dBackward_md.md ## CANN社区版-aclnnMaxUnpool3d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMaxUnpool3d.md - Description: - 算子功能:aclnnMaxPool在3d的逆运算,由outputSize决定outRef的D、H、W轴大小,并根据indices索引在outRef中填入self的元素值,其余位置都设置为0。 - 计算公式: - 输入为4维,各维度分别为N、D、H、W,(其中N(Batch)表示批量大小、H(Height)表示特征图高度、W(Width)表示特征图宽度、D(Depth)表示特征图深度)时: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMaxUnpool3d_md.md ## CANN社区版-aclnnMaxUnpool3dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMaxUnpool3dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_elements\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMaxUnpool3dBackward_md.md ## CANN社区版-aclnnMedian - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMedian.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMedian_md.md ## CANN社区版-aclnnMedianDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMedianDim.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMedianDim_md.md ## CANN社区版-aclnnMish&aclnnInplaceMish - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMish%26aclnnInplaceMish.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/mish\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMishaclnnInplaceMish_md.md ## CANN社区版-aclnnMishBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMishBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/mish\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMishBackward_md.md ## CANN社区版-aclnnMm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMm.md - Description: - 接口功能:完成张量self与张量mat2的矩阵乘计算。 - 计算公式: $$ result\=self @ mat2 $$ - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMm_md.md ## CANN社区版-aclnnModulate - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnModulate.md - Description: - 算子功能:实现特征的自适应缩放(scale)和平移(shift) - 计算公式: $$ out \= self \\times \(1 + scaleOptional\) + shiftOptional $$ 其中 $self \\in R ^ \{B imes L imes D\}$,$scaleOptional \\in R ^ \{B imes 1 imes D\}$,$shiftO - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnModulate_md.md ## CANN社区版-aclnnModulateBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnModulateBackward.md - Description: - 算子功能:完成ModulateBackward反向传播中参数的计算,进行梯度更新。 - 计算公式: 设输入self的shape为\[B, L, D\]计算公式如下: 公式: $$ \\begin\{cases\} \\text\{gradinput\} \= \\text\{gradoutput\} \\odot \\text\{scale\}^\{\\uparrow L\} \\ \\ - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnModulateBackward_md.md ## CANN社区版-aclnnMseLoss - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMseLoss.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/mse\_loss\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMseLoss_md.md ## CANN社区版-aclnnMseLossBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMseLossBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/mse\_loss\_grad\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMseLossBackward_md.md ## CANN社区版-aclnnMseLossOut - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMseLossOut.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/mse\_loss\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMseLossOut_md.md ## CANN社区版-aclnnMultilabelMarginLoss - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMultilabelMarginLoss.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/multilabel\_margin\_loss\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMultilabelMarginLoss_md.md ## CANN社区版-aclnnMultiScaleDeformableAttentionGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMultiScaleDeformableAttentionGrad.md - Description: - 算子功能: MultiScaleDeformableAttention正向算子功能主要通过采样位置(sample location)、注意力权重(attention weights)、映射后的value特征、多尺度特征起始索引位置、多尺度特征图的空间大小(便于将采样位置由归一化的值变成绝对位置)等参数来遍历不同尺寸特征图的不同采样点。而反向算子的功能为根据正向的输入对输出的贡献及初始梯度求 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMultiScaleDeformableAttentionGrad_md.md ## CANN社区版-aclnnMultiScaleDeformableAttnFunction - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMultiScaleDeformableAttnFunction.md - Description: - 接口功能:通过采样位置(sample location)、注意力权重(attention weights)、映射后的value特征、多尺度特征起始索引位置、多尺度特征图的空间大小(便于将采样位置由归一化的值变成绝对位置)等参数来遍历不同尺寸特征图的不同采样点。 - 计算公式: 将采样点的归一化坐标 $\(u,v\)\\in\[0,1\]$ 映射到第 $\\ell$ 层特征图的像素坐标系: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMultiScaleDeformableAttnFunction_md.md ## CANN社区版-aclnnMv - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnMv.md - Description: - 算子功能:计算矩阵input与向量vec的乘积。 - 计算公式: $$ out \= input vec $$ 其中$input$为nm的二维张量,$vec$为长度为m的一维张量,$out$为长度为n的一维张量。 - 示例: ```text a \= tensor\(\[\[1, 2, 3\], \[4, 5, 6\]\],dtype\=float\) b - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnMv_md.md ## CANN社区版-aclnnNanMedian - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnNanMedian.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnNanMedian_md.md ## CANN社区版-aclnnNanMedianDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnNanMedianDim.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnNanMedianDim_md.md ## CANN社区版-aclnnNLLLoss - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnNLLLoss.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/nll\_loss\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnNLLLoss_md.md ## CANN社区版-aclnnNLLLoss2d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnNLLLoss2d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/nll\_loss\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnNLLLoss2d_md.md ## CANN社区版-aclnnNLLLoss2dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnNLLLoss2dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/nll\_loss\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnNLLLoss2dBackward_md.md ## CANN社区版-aclnnNLLLossBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnNLLLossBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/nll\_loss\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnNLLLossBackward_md.md ## CANN社区版-aclnnNonzero - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnNonzero.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/non\_zero\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnNonzero_md.md ## CANN社区版-aclnnNonzeroV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnNonzeroV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/non\_zero\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnNonzeroV2_md.md ## CANN社区版-aclnnNorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/lp\_norm\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnNorm_md.md ## CANN社区版-aclnnPrelu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnPrelu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/p\_relu\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnPrelu_md.md ## CANN社区版-aclnnPreluBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnPreluBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/p\_relu\_grad\_update\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnPreluBackward_md.md ## CANN社区版-aclnnQuantBatchMatmulInplaceAdd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnQuantBatchMatmulInplaceAdd.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/matmul/quant\_batch\_matmul\_inplace\_add\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnQuantBatchMatmulInplaceAdd_md.md ## CANN社区版-aclnnQuantConvolution - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnQuantConvolution.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/conv/convolution\_forward\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnQuantConvolution_md.md ## CANN社区版-aclnnQuantConvolutionWeightNz - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnQuantConvolutionWeightNz.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/conv/convolution\_forward\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnQuantConvolutionWeightNz_md.md ## CANN社区版-aclnnQuantize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnQuantize.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/quantize\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnQuantize_md.md ## CANN社区版-aclnnQuantizedBatchNorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnQuantizedBatchNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/quantized\_batch\_norm\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnQuantizedBatchNorm_md.md ## CANN社区版-aclnnQuantMatmul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnQuantMatmul.md - Description: **须知:该接口后续版本会废弃,请使用最新aclnnQuantMatmulV5接口。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnQuantMatmul_md.md ## CANN社区版-aclnnQuantMatmulDequant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnQuantMatmulDequant.md - Description: - 接口功能:对输入x进行量化,矩阵乘以及反量化。 - 计算公式: 1 若输入smoothScaleOptional,则 $$ x \= x\\cdot scale\{smooth\} $$ 2 若不输入xScaleOptional,则为动态量化,需要计算x量化系数。 $$ scale\{x\}\=rowmax\(abs\(x\)\)/max\{quantDataType\} - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnQuantMatmulDequant_md.md ## CANN社区版-aclnnQuantMatmulReduceSumWeightNz - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnQuantMatmulReduceSumWeightNz.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/matmul/quant\_matmul\_reduce\_sum\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnQuantMatmulReduceSumWeightNz_md.md ## CANN社区版-aclnnQuantMatmulV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnQuantMatmulV2.md - Description: **须知:该接口后续版本会废弃,请使用最新aclnnQuantMatmulV5接口。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnQuantMatmulV2_md.md ## CANN社区版-aclnnQuantMatmulV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnQuantMatmulV3.md - Description: **须知:该接口后续版本会废弃,请使用最新aclnnQuantMatmulV5接口。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnQuantMatmulV3_md.md ## CANN社区版-aclnnQuantMatmulV4 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnQuantMatmulV4.md - Description: **须知:该接口后续版本会废弃,请使用最新aclnnQuantMatmulV5接口。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnQuantMatmulV4_md.md ## CANN社区版-aclnnQuantMatmulV5 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnQuantMatmulV5.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/matmul/quant\_batch\_matmul\_v4\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnQuantMatmulV5_md.md ## CANN社区版-aclnnQuantMatmulWeightNz - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnQuantMatmulWeightNz.md - Description: - 接口功能:完成量化的矩阵乘计算。相似接口有aclnnMm(仅支持2维Tensor作为输入的矩阵乘)和aclnnBatchMatMul(仅支持三维的矩阵乘,其中第一维是Batch维度)。支持T-C、T-T、K-C、K-T、G-B、B-B、MX 量化模式。 - 计算公式: Atlas 推理系列产品、Atlas A2 训练系列产品/Atlas A2 推理系列产品、Atlas A3 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnQuantMatmulWeightNz_md.md ## CANN社区版-aclnnQuantMax - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnQuantMax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/quant\_max\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnQuantMax_md.md ## CANN社区版-aclnnRelu&aclnnInplaceRelu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnRelu%26aclnnInplaceRelu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/relu\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnReluaclnnInplaceRelu_md.md ## CANN社区版-aclnnRenorm&aclnnInplaceRenorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnRenorm%26aclnnInplaceRenorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/renorm\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnRenormaclnnInplaceRenorm_md.md ## CANN社区版-aclnnRepeatInterleave - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnRepeatInterleave.md - Description: ? \[查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/repeat\_interleave\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnRepeatInterleave_md.md ## CANN社区版-aclnnRepeatInterleaveGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnRepeatInterleaveGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/repeat\_interleave\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnRepeatInterleaveGrad_md.md ## CANN社区版-aclnnRepeatInterleaveInt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnRepeatInterleaveInt.md - Description: ? \[查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/repeat\_interleave\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnRepeatInterleaveInt_md.md ## CANN社区版-aclnnRepeatInterleaveIntWithDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnRepeatInterleaveIntWithDim.md - Description: ? \[查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/repeat\_interleave\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnRepeatInterleaveIntWithDim_md.md ## CANN社区版-aclnnRepeatInterleaveTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnRepeatInterleaveTensor.md - Description: ? \[查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/repeat\_interleave\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnRepeatInterleaveTensor_md.md ## CANN社区版-aclnnRepeatInterleaveWithDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnRepeatInterleaveWithDim.md - Description: ? \[查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/repeat\_interleave\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnRepeatInterleaveWithDim_md.md ## CANN社区版-aclnnRmsNorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnRmsNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/rms\_norm\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnRmsNorm_md.md ## CANN社区版-aclnnRmsNormDynamicMxQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnRmsNormDynamicMxQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/rms\_norm\_dynamic\_mx\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnRmsNormDynamicMxQuant_md.md ## CANN社区版-aclnnRmsNormGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnRmsNormGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/rms\_norm\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnRmsNormGrad_md.md ## CANN社区版-aclnnRmsNormQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnRmsNormQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/rms\_norm\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnRmsNormQuant_md.md ## CANN社区版-aclnnRotateQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnRotateQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/matmul/rotate\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnRotateQuant_md.md ## CANN社区版-aclnnRReluWithNoise&aclnnInplaceRReluWithNoise - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnRReluWithNoise%26aclnnInplaceRReluWithNoise.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/leaky\_relu\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnRReluWithNoiseaclnnInplaceRReluWithNoise_md.md ## CANN社区版-aclnnScaledMaskedSoftmax - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnScaledMaskedSoftmax.md - Description: - 接口功能:将输入的数据x先进行scale缩放和mask,然后执行softmax的输出。 - 计算公式: $$ y \= Softmax\(\(scale x\) mask, dim \= -1\) $$ $$ Softmax\(Xi\) \=\{e^\{Xi - max\(X, dim\=-1\)\} \\over \\sum\{e^\{Xi - max\(X, dim\=-1\)\}\}\} $$ - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnScaledMaskedSoftmax_md.md ## CANN社区版-aclnnScaledMaskedSoftmaxBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnScaledMaskedSoftmaxBackward.md - Description: - 算子功能:softmax的反向传播,并对结果进行缩放以及掩码。 - 计算公式: $$ out \= gradOutput \\cdot output - sum\(gradOutput \\cdot output\)\\cdot output \\ out \= \\begin\{cases\} out scale, &\\text \{ mask is 0 \} \\ 0, &\\text \{ mas - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnScaledMaskedSoftmaxBackward_md.md ## CANN社区版-aclnnScatter&aclnnInplaceScatter - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnScatter%26aclnnInplaceScatter.md - Description: ? \[查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/scatter\_elements\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnScatteraclnnInplaceScatter_md.md ## CANN社区版-aclnnScatterAdd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnScatterAdd.md - Description: ? \[查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/scatter\_elements\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnScatterAdd_md.md ## CANN社区版-aclnnScatterList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnScatterList.md - Description: - 接口功能:将稀疏更新应用到变量引用张量列表中,通过索引将updates中的值scatter到var对应的维度上。 - 计算公式: $$ var\[i\]\[j\] \= updates\[k\]\[j\] \\quad \\text\{when\} \\quad indices\[k\] \= i $$ 其中indices为索引张量,updates为待更新的值张量,var为待被更新的张量列表,scatter的维 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnScatterList_md.md ## CANN社区版-aclnnScatterNd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnScatterNd.md - Description: ? \[查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/scatter\_nd\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnScatterNd_md.md ## CANN社区版-aclnnScatterNdUpdate - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnScatterNdUpdate.md - Description: ? \[查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/scatter\_nd\_update\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnScatterNdUpdate_md.md ## CANN社区版-aclnnScatterValue&aclnnInplaceScatterValue - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnScatterValue%26aclnnInplaceScatterValue.md - Description: - 接口功能:将scalar value中的值按指定的轴和方向和对应的位置关系逐个填入tensor self中。value会被broadcast成和tensor index的shape一致的tensor src进行Scatter的计算。 - 示例: 对于一个3D tensor, self会按照如下的规则进行更新: ```text self\[index\[i\]\[j\]\[k\]\]\[j\]\[k\] \= - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnScatterValueaclnnInplaceScatterValue_md.md ## CANN社区版-aclnnSelu&aclnnInplaceSelu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSelu%26aclnnInplaceSelu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/selu\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSeluaclnnInplaceSelu_md.md ## CANN社区版-aclnnSeluBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSeluBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/selu\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSeluBackward_md.md ## CANN社区版-aclnnShrink - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnShrink.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/shrink\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnShrink_md.md ## CANN社区版-aclnnSigmoid&aclnnInplaceSigmoid - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSigmoid%26aclnnInplaceSigmoid.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/sigmoid\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSigmoidaclnnInplaceSigmoid_md.md ## CANN社区版-aclnnSigmoidBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSigmoidBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/sigmoid\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSigmoidBackward_md.md ## CANN社区版-aclnnSilu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSilu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/swish\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSilu_md.md ## CANN社区版-aclnnSiluBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSiluBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/silu\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSiluBackward_md.md ## CANN社区版-aclnnSmoothL1Loss - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSmoothL1Loss.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/smooth\_l1\_loss\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSmoothL1Loss_md.md ## CANN社区版-aclnnSmoothL1LossBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSmoothL1LossBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/smooth\_l1\_loss\_grad\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSmoothL1LossBackward_md.md ## CANN社区版-aclnnSoftMarginLoss - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSoftMarginLoss.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/soft\_margin\_loss\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSoftMarginLoss_md.md ## CANN社区版-aclnnSoftMarginLossBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSoftMarginLossBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/loss/soft\_margin\_loss\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSoftMarginLossBackward_md.md ## CANN社区版-aclnnSoftmax - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSoftmax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/softmax\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSoftmax_md.md ## CANN社区版-aclnnSoftmaxBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSoftmaxBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/softmax\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSoftmaxBackward_md.md ## CANN社区版-aclnnSoftmaxCrossEntropyWithLogits - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSoftmaxCrossEntropyWithLogits.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/softmax\_cross\_entropy\_with\_logits\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSoftmaxCrossEntropyWithLogits_md.md ## CANN社区版-aclnnSoftplus - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSoftplus.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/softplus\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSoftplus_md.md ## CANN社区版-aclnnSoftplusBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSoftplusBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/softplus\_v2\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSoftplusBackward_md.md ## CANN社区版-aclnnSoftshrink - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSoftshrink.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/softshrink\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSoftshrink_md.md ## CANN社区版-aclnnSoftshrinkBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSoftshrinkBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/soft\_shrink\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSoftshrinkBackward_md.md ## CANN社区版-aclnnSparse4to2QuantMatmulWeightNz - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSparse4to2QuantMatmulWeightNz.md - Description: - 算子功能: 完成稀疏4:2量化的矩阵乘计算。 - 计算公式: $$ out \= x@sparseWeight sparseWeightScale xScale + bias $$ - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSparse4to2QuantMatmulWeightNz_md.md ## CANN社区版-aclnnSquaredRelu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSquaredRelu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/squared\_relu\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSquaredRelu_md.md ## CANN社区版-aclnnSwiGlu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSwiGlu.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/swi\_glu\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSwiGlu_md.md ## CANN社区版-aclnnSwiGluGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSwiGluGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/swi\_glu\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSwiGluGrad_md.md ## CANN社区版-aclnnSwigluMxQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSwigluMxQuant.md - Description: - 接口功能:在Swish门控线性单元激活函数后添加DynamicMxQuant操作,实现x的SwigluMxQuant计算。 - swigluMode为0时的计算公式: $$ swigluOuti \= Swiglu\(xi\)\=Swish\(Ai\)Bi $$ $$ y, mxscale \= DynamicMxQuant\(swigluOuti\) $$ 其中,Ai表示xi的前半 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSwigluMxQuant_md.md ## CANN社区版-aclnnSwigluMxQuantWithDualAxis - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSwigluMxQuantWithDualAxis.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/swiglu\_mx\_quant\_with\_dual\_axis\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSwigluMxQuantWithDualAxis_md.md ## CANN社区版-aclnnSwiGluQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSwiGluQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/swi\_glu\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSwiGluQuant_md.md ## CANN社区版-aclnnSwiGluQuantV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSwiGluQuantV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/swi\_glu\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSwiGluQuantV2_md.md ## CANN社区版-aclnnSwish - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSwish.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/swish\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSwish_md.md ## CANN社区版-aclnnSwishBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSwishBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/swish\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSwishBackward_md.md ## CANN社区版-aclnnSyncBatchNormGatherStats - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnSyncBatchNormGatherStats.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/norm/sync\_batch\_norm\_gather\_stats\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnSyncBatchNormGatherStats_md.md ## CANN社区版-aclnnTake - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnTake.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/gather\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnTake_md.md ## CANN社区版-aclnnTfScatterAdd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnTfScatterAdd.md - Description: - 算子功能:实现兼容tf.compat.v1.scatteradd和tf.compat.v1.scatterndadd的功能,将tensor updates中的值按指定的索引tensor indices加到tensor varRef的切片上。若有多于一个updates值被填入到varRef的同一个切片,那么这些值将会在这一切片上进行累加。规则如下: $$ varRef\[indices\[i,... - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnTfScatterAdd_md.md ## CANN社区版-aclnnThnnFusedLstmCell - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnThnnFusedLstmCell.md - Description: - 接口功能:实现长短期记忆网络单元(LSTM Cell)的单步前向计算中,矩阵乘法后的后续计算。输出当前时刻的隐状态和细胞状态,同时输出当前遗忘门、输入门、输出门和候选状态用于反向计算。 - 计算公式: 计算门控激活值: $$ \\begin\{aligned\} b &\= b\{ih\} + b\{hh\} \\ gates &\= inputGates + hiddenGates + b - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnThnnFusedLstmCell_md.md ## CANN社区版-aclnnThnnFusedLstmCellBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnThnnFusedLstmCellBackward.md - Description: - 算子功能:LSTMCell中四个门中matmul后剩余计算的反向传播,计算正向输出四个门激活前的值gates、输入cx、偏置b的梯度。 - 计算公式: 变量定义 输入梯度:$\\delta ht$ \(`gradHy`\), $\\delta ct$ \(`gradC`\) 前向缓存:$i,f,g,o$ \(各门激活值`storage`\),$c\{t-1\}$ \(`cx`\),$ct$ \(`cy`\) 输出梯 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnThnnFusedLstmCellBackward_md.md ## CANN社区版-aclnnThreshold&aclnnInplaceThreshold - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnThreshold%26aclnnInplaceThreshold.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/threshold\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnThresholdaclnnInplaceThreshold_md.md ## CANN社区版-aclnnThresholdBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnThresholdBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/activation/threshold\_grad\_v2\_d\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnThresholdBackward_md.md ## CANN社区版-aclnnTopKTopPSample - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnTopKTopPSample.md - Description: - 接口功能: 根据输入词频logits、topK/topP采样参数、随机采样权重分布q,进行topK-topP-sample采样计算,输出每个batch的最大词频logitsSelectIdx,以及topK-topP采样后的词频分布logitsTopKPSelect。 算子包含三个可单独开启,但上下游处理关系保持不变的采样算法(从原始输入到最终输出):TopK采样、TopP采样、指数采样 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnTopKTopPSample_md.md ## CANN社区版-aclnnTopKTopPSampleV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnTopKTopPSampleV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/index/top\_k\_top\_p\_sample\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnTopKTopPSampleV2_md.md ## CANN社区版-aclnnTransposeBatchMatMul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnTransposeBatchMatMul.md - Description: - 接口功能:完成张量x1与张量x2的矩阵乘计算。仅支持三维的Tensor传入。Tensor支持转置,转置序列根据传入的数列进行变更。permX1代表张量x1的转置序列,permX2代表张量x2的转置序列,序列值为0的是batch维度,其余两个维度做矩阵乘法。 - 示例: - x1的shape是\(B, M, K\),x2的shape是\(B, K, N\),scale为None,batchSplit - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnTransposeBatchMatMul_md.md ## CANN社区版-aclnnTransposeBatchMatMulWeightNz - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnTransposeBatchMatMulWeightNZ.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/matmul/transpose\_batch\_mat\_mul\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnTransposeBatchMatMulWeightNZ_md.md ## CANN社区版-aclnnTransposeQuantBatchMatMul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnTransposeQuantBatchMatMul.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/matmul/transpose\_quant\_batch\_mat\_mul\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnTransposeQuantBatchMatMul_md.md ## CANN社区版-aclnnTransQuantParam - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnTransQuantParam.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/trans\_quant\_param\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnTransQuantParam_md.md ## CANN社区版-aclnnTransQuantParamV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnTransQuantParamV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/trans\_quant\_param\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnTransQuantParamV2_md.md ## CANN社区版-aclnnTransQuantParamV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnTransQuantParamV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/quant/trans\_quant\_param\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnTransQuantParamV3_md.md ## CANN社区版-aclnnTransSparse4to2Para - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnTransSparse4to2Para.md - Description: - 算子功能: 对结构化稀疏的weight矩阵进行压缩预处理,输出压缩后的稀疏矩阵以及对应的索引矩阵。 假设原始稀疏矩阵的每4个元素中至少有2个零,压缩后的稀疏矩阵是一个在每4个元素中过滤掉2个零的矩阵。矩阵压缩过程中生成索引矩阵,原始矩阵中的每4个元素,将在index矩阵中生成2个2位索引,并按照规则进行编码。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnTransSparse4to2Para_md.md ## CANN社区版-aclnnUnique - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnUnique.md - Description: 算子功能:返回输入张量中的唯一元素。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnUnique_md.md ## CANN社区版-aclnnUnique2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnUnique2.md - Description: 对输入张量self进行去重,返回self中的唯一元素。unique功能的增强,新增返回值countsOut,表示valueOut中各元素在输入self中出现的次数,用returnCounts参数控制。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnUnique2_md.md ## CANN社区版-aclnnUniqueConsecutive - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnUniqueConsecutive.md - Description: 算子功能:去除每一个元素后的重复元素。当dim不为空时,去除对应维度上的每一个张量后的重复张量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnUniqueConsecutive_md.md ## CANN社区版-aclnnUniqueDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnUniqueDim.md - Description: - 算子功能:在某一dim轴上,对输入张量`self`做去重操作。 - 示例:假设`self`为 $$ \\begin\{bmatrix\} \\begin\{bmatrix\} 2 & 1 & 2 \\end\{bmatrix\}\\ \\begin\{bmatrix\} 1 & 2 & 1 \\end\{bmatrix\}\\ \\begin\{bmatrix\} 2 & 1 & 2 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnUniqueDim_md.md ## CANN社区版-aclnnWeightQuantBatchMatmul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnWeightQuantBatchMatmul.md - Description: **须知:该接口后续版本会废弃,请使用最新aclnnWeightQuantBatchMatmulV3接口。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnWeightQuantBatchMatmul_md.md ## CANN社区版-aclnnWeightQuantBatchMatmulNz - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnWeightQuantBatchMatmulNz.md - Description: - 接口功能:完成一个输入为伪量化场景的矩阵乘计算。此接口仅支持矩阵乘的右输入矩阵为FRACTALNZ格式。 - 计算公式: - 基础计算公式: $$ y \= x @ ANTIQUANT\(weight\) + bias $$ 其中,$weight$为伪量化场景的输入,其反量化公式$ANTIQUANT\(weight\)$为 $$ ANTIQUANT\(w - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnWeightQuantBatchMatmulNz_md.md ## CANN社区版-aclnnWeightQuantBatchMatmulV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnWeightQuantBatchMatmulV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-nn/tree/master/matmul/weight\_quant\_batch\_matmul\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnWeightQuantBatchMatmulV2_md.md ## CANN社区版-aclnnWeightQuantBatchMatmulV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/aclnnWeightQuantBatchMatmulV3.md - Description: - 算子功能:完成一个输入为伪量化场景的矩阵乘计算,并可以实现对于输出的量化计算。相较于aclnnWeightQuantBatchMatmulV2接口,此接口变化点为: 新增innerPrecise参数,用于支持高精度或者高性能计算模式选择。A16W4 pergroup场景在batchSize<\=16的场景下可设置为1,提升性能。 - 计算公式: $$ y \= x @ ANTIQUAN - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_aclnnWeightQuantBatchMatmulV3_md.md ## 算子接口(aclnn) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-nn/op_api_list.md - Description: 为方便调用算子,提供一套基于C的API(以aclnn为前缀API),无需提供IR(Intermediate Representation)定义,方便高效构建模型与应用开发,该方式被称为“单算子API调用”,简称aclnn调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-nn_op_api_list_md.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnn_lightning_indexer_v2_metadata.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-- 本算子库提供的算子均为CANN内置算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnn_quant_lightning_indexer_v2_metadata.md - Description: - 本算子库提供的算子均为CANN内置算子,您可以直接调用;如需自定义算子,请参考《Ascend C算子开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/Ascendcopdevg/docs/guide/入门教程/Ascend-C概述与学习路径.md\)》完成算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00001_html.md ## CANN社区版-aclnnAllGatherMatmul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnAllGatherMatmul.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/all\_gather\_matmul\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnAllGatherMatmul_md.md ## CANN社区版-aclnnAllGatherMatmulV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnAllGatherMatmulV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/all\_gather\_matmul\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnAllGatherMatmulV2_md.md ## CANN社区版-aclnnAlltoAllAllGatherBatchMatMul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnAlltoAllAllGatherBatchMatMul.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/allto\_all\_all\_gather\_batch\_mat\_mul\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnAlltoAllAllGatherBatchMatMul_md.md ## CANN社区版-aclnnAlltoAllMatmul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnAlltoAllMatmul.md - Description: - 接口功能:完成AlltoAll通信、Permute(保证通信后地址连续)和Matmul计算的融合,先通信后计算。 - 计算公式:假设x1输入shape为\(BS, H\),rankSize为NPU卡数 $$ commOut \= AlltoAll\(x1.view\(rankSize, BS/rankSize, H\)\) \\ permutedOut \= commOut.permute\(1, 0 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnAlltoAllMatmul_md.md ## CANN社区版-aclnnAlltoAllQuantMatmul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnAlltoAllQuantMatmul.md - Description: - 接口功能:完成AlltoAll通信、Permute(保证通信后地址连续)、Quant、Matmul和Dequant计算的融合,先通信后计算,支持K-C量化、K-C动态量化和mx量化模式。 - 计算公式:假设x1输入shape为\(BS, H\),mx量化场景下x1ScaleOptional输入shape为\(BS, ceil\(H/64\), 2\),rankSize为NPU卡数 - Atlas A2 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnAlltoAllQuantMatmul_md.md ## CANN社区版-aclnnAlltoAllvGroupedMatMul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnAlltoAllvGroupedMatMul.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/allto\_allv\_grouped\_mat\_mul\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnAlltoAllvGroupedMatMul_md.md ## CANN社区版-aclnnAlltoAllvQuantGroupedMatMul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnAlltoAllvQuantGroupedMatMul.md - Description: - 算子功能:完成路由专家AlltoAllv、量化GroupedMatMul融合并实现与共享专家量化MatMul并行融合,先通信后计算。 - 计算公式: 假设通信域中的总卡数为epWorldSize,每张卡上通信后路由专家个数为e,每张卡分组矩阵乘只负责本卡专家的计算。对于每张卡的计算公式如下: - 本卡共享专家分组矩阵乘计算 $$ mmy\=\(mmx × mmxscale\) @ - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnAlltoAllvQuantGroupedMatMul_md.md ## CANN社区版-aclnnApplyRotaryPosEmb - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnApplyRotaryPosEmb.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/posembedding/apply\_rotary\_pos\_emb\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnApplyRotaryPosEmb_md.md ## CANN社区版-aclnnApplyRotaryPosEmbV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnApplyRotaryPosEmbV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/posembedding/apply\_rotary\_pos\_emb\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnApplyRotaryPosEmbV2_md.md ## CANN社区版-aclnnAttentionToFFN - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnAttentionToFFN.md - Description: 将Attention节点上token数据发往FFN节点。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnAttentionToFFN_md.md ## CANN社区版-aclnnAttentionUpdate - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnAttentionUpdate.md - Description: - 接口功能:将各SP域PA算子的输出的中间结果lse,localOut两个局部变量结果更新成全局结果。 - 计算公式: $$ lse\{max\} \= \\text\{max\}lsei $$ $$ lse \= \\sumi \\text\{exp\}\(lsei - lse\{max\}\) $$ $$ lsem \= lse\{max\} + \\text\{log\}\(lse\) $$ $$ O \= \\sumi Oi \\cdot - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnAttentionUpdate_md.md ## CANN社区版-aclnnBatchMatMulReduceScatterAlltoAll - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnBatchMatMulReduceScatterAlltoAll.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/batch\_mat\_mul\_reduce\_scatter\_allto\_all\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnBatchMatMulReduceScatterAlltoAll_md.md ## CANN社区版-aclnnBlockSparseAttention - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnBlockSparseAttention.md - Description: - 接口功能:BlockSparseAttention稀疏注意力计算,支持灵活的块级稀疏模式,通过BlockSparseMask指定每个Q块选择的KV块,实现高效的稀疏注意力计算。 - 计算公式:稀疏块大小:$blockShapeX imes blockShapeY$,selectIdx指定稀疏模式 $$ attentionOut \= Softmax\(scale \\cdot query - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnBlockSparseAttention_md.md ## CANN社区版-BlockSparseAttentionGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnBlockSparseAttentionGrad.md - Description: ​算子功能​:aclnnBlockSparseAttention稀疏注意力反向计算,支持灵活的块级稀疏模式,通过BlockSparseMask指定每个Q块选择的KV块,实现高效的稀疏注意力计算。 ​计算公式​: 稀疏块大小:$blockShapeX×blockShapeY$,BlockSparseMask指定稀疏模式。 已知正向计算公式为: $$ attentionOut\=Sof - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnBlockSparseAttentionGrad_md.md ## CANN社区版-aclnnChunkGatedDeltaRule - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnChunkGatedDeltaRule.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/attention/chunk\_gated\_delta\_rule\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnChunkGatedDeltaRule_md.md ## CANN社区版-aclnnDenseLightningIndexerGradKLLoss - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnDenseLightningIndexerGradKLLoss.md - Description: - 接口功能:DenseLightningIndexerGradKlLoss算子是LightningIndexer的反向算子,再额外融合了Loss计算功能。LightningIndexer算子将QueryToken和KeyToken之间的最高内在联系的TopK个筛选出来,从而减少长序列场景下Attention的计算量,提升长序列的网络的推理和训练的性能。稠密场景下的LightningIndexer - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnDenseLightningIndexerGradKLLoss_md.md ## CANN社区版-aclnnDenseLightningIndexerSoftmaxLse - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnDenseLightningIndexerSoftmaxLse.md - Description: - 接口功能:DenseLightningIndexerSoftmaxLse算子是DenseLightningIndexerGradKlLoss算子计算Softmax输入的一个分支算子。 - 计算公式: $$ \\text\{res\}\=\\text\{AttentionMask\}\\left\(\\text\{ReduceSum\}\\left\(W\\odot\\text\{ReLU\}\\left\(Q\{index\}@ - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnDenseLightningIndexerSoftmaxLse_md.md ## CANN社区版-aclnnDequantRopeQuantKvcache - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnDequantRopeQuantKvcache.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/posembedding/dequant\_rope\_quant\_kvcache\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnDequantRopeQuantKvcache_md.md ## CANN社区版-aclnnDistributeBarrier - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnDistributeBarrier.md - Description: 完成通信域内的全卡同步,xRef仅用于构建Tensor依赖,接口内不对xRef做任何操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnDistributeBarrier_md.md ## CANN社区版-aclnnDistributeBarrierV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnDistributeBarrierV2.md - Description: 算子功能:完成通信域内的全卡同步,xRef仅用于构建Tensor依赖,接口内不对xRef做任何操作。 - 相较于`aclnnDistributeBarrier`接口,该接口变更如下: - 新增`elasticInfoOptional`参数。 - 新增`timeOutOptional`参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnDistributeBarrierV2_md.md ## CANN社区版-aclnnFFN - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFFN.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/ffn/ffn\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFFN_md.md ## CANN社区版-aclnnFFNToAttention - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFFNToAttention.md - Description: 将FFN节点上的数据发往Attention节点。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFFNToAttention_md.md ## CANN社区版-aclnnFFNV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFFNV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/ffn/ffn\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFFNV2_md.md ## CANN社区版-aclnnFFNV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFFNV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/ffn/ffn\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFFNV3_md.md ## CANN社区版-aclnnFlashAttentionScore - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionScore.md - Description: - 接口功能:训练场景下,使用FlashAttention算法实现self-attention(自注意力)的计算。 - 计算公式: 注意力的正向计算公式如下: $$ attentionout \= Dropout\(Softmax\(Mask\(scale\(pse+querykey^T\), attenmask\)\), keepprob\)value $$ - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFlashAttentionScore_md.md ## CANN社区版-aclnnFlashAttentionScoreGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionScoreGrad.md - Description: - 接口功能:训练场景下计算注意力的反向输出,即aclnnFlashAttentionScore的反向计算。 - 计算公式: 已知注意力的正向计算公式为: $$ Y\=Dropout\(Softmax\(Mask\(\\frac\{QK^T+pse\}\{\\sqrt\{d\}\}\),attenmask\),keepprob\)V $$ 为方便表达,以变量$S$和$P$表示计算公式: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFlashAttentionScoreGrad_md.md ## CANN社区版-aclnnFlashAttentionScoreGradV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionScoreGradV2.md - Description: - 接口功能:训练场景下计算注意力的反向输出,即aclnnFlashAttentionScoreV2的反向计算。该接口相较于aclnnFlashAttentionScoreGrad接口,新增pseType参数: - pseType\=1时,与aclnnFlashAttentionScoreGrad实现相同。 - pseType\=其他取值时,需要先mul再add。 - 计算公式: 已知注意 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFlashAttentionScoreGradV2_md.md ## CANN社区版-aclnnFlashAttentionScoreGradV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionScoreGradV3.md - Description: 训练场景下计算注意力的反向输出,即aclnnFlashAttentionScoreV3的反向计算。该接口相较于aclnnFlashAttentionScoreGradV2接口,新增sinkInOptional参数和dsinkOut输出: - Ascend 950PR/Ascend 950DT:暂不支持sinkInOptional参数和dsinkOut输出。 - pseType\=1时,与ac - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFlashAttentionScoreGradV3_md.md ## CANN社区版-aclnnFlashAttentionScoreGradV4 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionScoreGradV4.md - Description: - 接口功能:训练场景下计算注意力的反向输出,即FlashAttentionScoreV4的反向计算。该接口query、key、value参数支持多个长度相等或者长度不相等的sequence - 该接口合并了FlashAttentionScoreGradV2接口和FlashAttentionUnpaddingScoreGradV2接口,并调整了Dropout功能: - Ascend 9 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFlashAttentionScoreGradV4_md.md ## CANN社区版-aclnnFlashAttentionScoreV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionScoreV2.md - Description: - 接口功能:训练场景下,使用FlashAttention算法实现self-attention(自注意力)的计算。该接口相较于aclnnFlashAttentionScore接口,新增pseType参数: - pseType\=1时,与aclnnFlashAttentionScore实现相同。 - pseType\=其他取值时,需要先mul再add。 - 计算公式: 注意力的正向计算公式如 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFlashAttentionScoreV2_md.md ## CANN社区版-aclnnFlashAttentionScoreV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionScoreV3.md - Description: - 接口功能:训练场景下,使用FlashAttention算法实现self-attention(自注意力)的计算。对标竞品适配gptoss模型支持sink功能。跟aclnnFlashAttentionScoreV2接口的区别是:增加`sinkInOptional`可选输入。 - Ascend 950PR/Ascend 950DT:暂不支持sinkInOptional参数。 计算公式: 注 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFlashAttentionScoreV3_md.md ## CANN社区版-aclnnFlashAttentionScoreV4 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionScoreV4.md - Description: - 接口功能:训练场景下,使用FlashAttention算法实现self-attention(自注意力)的计算。对标竞品适配gptoss模型支持sink功能。该接口query、key、value参数支持多个长度相等或者多个长度不相等的sequence - 该接口相较于FlashAttentionScoreV3接口,功能差异如下:: - 调整Dropout功能:在keepProb小于1 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFlashAttentionScoreV4_md.md ## CANN社区版-aclnnFlashAttentionUnpaddingScoreGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionUnpaddingScoreGrad.md - Description: - 接口功能:训练场景下计算注意力的反向输出,即aclnnFlashAttentionVarLenScore的反向计算。 - 计算公式: 已知注意力的正向计算公式为: $$ Y\=Dropout\(Softmax\(Mask\(\\frac\{QK^T+pse\}\{\\sqrt\{d\}\}\),attenmask\),keepprob\)V $$ 为方便表达,以变量$S$和$P$表示 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFlashAttentionUnpaddingScoreGrad_md.md ## CANN社区版-aclnnFlashAttentionUnpaddingScoreGradV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionUnpaddingScoreGradV2.md - Description: - 接口功能:训练场景下计算注意力的反向输出,即aclnnFlashAttentionVarLenScoreV2的反向计算。该接口相较于aclnnFlashAttentionUnpaddingScoreGrad接口,新增pseType参数: - pseType\=1时,与aclnnFlashAttentionUnpaddingScoreGrad实现相同。 - pseType\=其他取值时,需要 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFlashAttentionUnpaddingScoreGradV2_md.md ## CANN社区版-aclnnFlashAttentionUnpaddingScoreGradV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionUnpaddingScoreGradV3.md - Description: - 接口功能:训练场景下计算注意力的反向输出,即aclnnFlashAttentionVarLenScoreV3的反向计算。该接口相较于aclnnFlashAttentionUnpaddingScoreGradV2接口,新增queryRope、keyRope、dqRope和dkRope参数。 - 计算公式: 已知注意力的正向计算公式: $$ Y\=Dropout\(Softmax\(Mask - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFlashAttentionUnpaddingScoreGradV3_md.md ## CANN社区版-aclnnFlashAttentionUnpaddingScoreGradV4 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionUnpaddingScoreGradV4.md - Description: - 接口功能:训练场景下计算注意力的反向输出,即aclnnFlashAttentionVarLenScoreV4的反向计算。该接口相较于aclnnFlashAttentionUnpaddingScoreGrad接口,新增softmaxInLayout参数。 - 当输入softmaxSumOut和softmaxMaxOut的shape和实际数据排布均为TND格式时,softmaxInLayout - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFlashAttentionUnpaddingScoreGradV4_md.md ## CANN社区版-aclnnFlashAttentionUnpaddingScoreGradV5 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionUnpaddingScoreGradV5.md - Description: - 接口功能:训练场景下,使用FlashAttention算法实现self-attention(自注意力)的计算。增加`sinkInOptional`可选输入。 - Ascend 950PR/Ascend 950DT:暂不支持sinkInOptional参数。 - 计算公式: 已知注意力的正向计算公式为: $$ \=Dropout\(Softmax\(Mask\(\\frac\{QK^T+ps - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFlashAttentionUnpaddingScoreGradV5_md.md ## CANN社区版-aclnnFlashAttentionVarLenScore - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionVarLenScore.md - Description: - 接口功能:训练场景下,使用FlashAttention算法实现self-attention(自注意力)的计算。跟aclnnFlashAttentionScore接口的区别是该接口支持可变长S的计算,即可以一次传入多个长度不相等的sequence。使用此接口时,query,key和value使用TND的格式传入数据,其中T意为total number,表示其所有sequence的length总和 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFlashAttentionVarLenScore_md.md ## CANN社区版-aclnnFlashAttentionVarLenScoreV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionVarLenScoreV2.md - Description: - 接口功能:训练场景下,使用FlashAttention算法实现self-attention(自注意力)的计算。跟aclnnFlashAttentionScoreV2的区别是该接口支持可变长S的计算,即可以一次传入多个长度不相等的sequence。使用此接口时,query,key和value使用TND的格式传入数据,其中T意为total number,表示其所有sequence的length总和 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFlashAttentionVarLenScoreV2_md.md ## CANN社区版-aclnnFlashAttentionVarLenScoreV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionVarLenScoreV3.md - Description: - 接口功能:训练场景下,使用FlashAttention算法实现self-attention(自注意力)的计算。跟aclnnFlashAttentionVarLenScoreV2的区别是该接口支持query/key多输入,即query、queryRope、key和keyRope作为输入。非多输入场景使用aclnnFlashAttentionVarLenScoreV2或其他接口。 - 计算公式: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFlashAttentionVarLenScoreV3_md.md ## CANN社区版-aclnnFlashAttentionVarLenScoreV4 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionVarLenScoreV4.md - Description: - 接口功能:训练场景下,使用FlashAttention算法实现self-attention(自注意力)的计算。与aclnnFlashAttentionVarLenScore接口的区别是:在输入排布为TND的场景下,原FlashAttentionVarLenScore接口中的softmax相关输出的数据排布为NTD,FlashAttentionVarLenScoreV4接口支持传入字符串参数so - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFlashAttentionVarLenScoreV4_md.md ## CANN社区版-aclnnFlashAttentionVarLenScoreV5 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFlashAttentionVarLenScoreV5.md - Description: 接口功能:训练场景下,使用FlashAttention算法实现self-attention(自注意力)的计算。对标竞品适配gptoss模型支持sink功能。跟aclnnFlashAttentionVarLenScoreV3接口的区别是:增加`sinkInOptional`可选输入,保留了aclnnFlashAttentionVarLenScoreV4的`softmaxOutLayout`可选输入。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFlashAttentionVarLenScoreV5_md.md ## CANN社区版-aclnnFusedCausalConv1d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFusedCausalConv1d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/attention/fused\_causal\_conv1d\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFusedCausalConv1d_md.md ## CANN社区版-aclnnFusedFloydAttention - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFusedFloydAttention.md - Description: - 接口功能:训练场景下,使用FloydAttention算法实现多维自注意力的计算。 - 计算公式: 注意力的正向计算公式如下: $$ weights \= Softmax\(attenMask + scale\(einsum\(query, key1^T\) + einsum\(query, key2^T\)\)\) $$ $$ attentionout \= ei - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFusedFloydAttention_md.md ## CANN社区版-aclnnFusedFloydAttentionGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFusedFloydAttentionGrad.md - Description: - 接口功能:训练场景下,计算Floyd注意力的反向输出,FloydAttn相较于传统FA主要是计算qk/pv注意力时会额外将seq作为batch轴从而转换为batchMatmul。 - 计算公式: 已知注意力的正向计算公式为: $$ S\=Mask\(scale\(QK1^T + QK2^T\), attenmask\) \\ P\=Softmax\(S\) \\ Y\=\(PV - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFusedFloydAttentionGrad_md.md ## CANN社区版-aclnnFusedInferAttentionScore - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFusedInferAttentionScore.md - Description: **须知:该接口后续版本会废弃,请使用最新接口aclnnFusedInferAttentionScoreV5。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFusedInferAttentionScore_md.md ## CANN社区版-aclnnFusedInferAttentionScoreV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFusedInferAttentionScoreV2.md - Description: **须知:该接口后续版本会废弃,请使用最新接口aclnnFusedInferAttentionScoreV5。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFusedInferAttentionScoreV2_md.md ## CANN社区版-aclnnFusedInferAttentionScoreV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFusedInferAttentionScoreV3.md - Description: **须知:该接口后续版本会废弃,请使用最新接口aclnnFusedInferAttentionScoreV5。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFusedInferAttentionScoreV3_md.md ## CANN社区版-aclnnFusedInferAttentionScoreV4 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFusedInferAttentionScoreV4.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/attention/fused\_infer\_attention\_score\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFusedInferAttentionScoreV4_md.md ## CANN社区版-aclnnFusedInferAttentionScoreV5 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnFusedInferAttentionScoreV5.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/attention/fused\_infer\_attention\_score\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnFusedInferAttentionScoreV5_md.md ## CANN社区版-aclnnGatherPaKvCache - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnGatherPaKvCache.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/attention/gather\_pa\_kv\_cache\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnGatherPaKvCache_md.md ## CANN社区版-aclnnGroupedMatmul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmul.md - Description: **须知:该接口后续版本会废弃,请使用最新aclnnGroupedMatmulV5接口。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnGroupedMatmul_md.md ## CANN社区版-aclnnGroupedMatmulAdd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulAdd.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_add\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnGroupedMatmulAdd_md.md ## CANN社区版-aclnnGroupedMatmulAddV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulAddV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_add\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnGroupedMatmulAddV2_md.md ## CANN社区版-aclnnGroupedMatMulAllReduce - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatMulAllReduce.md - Description: **该接口后续版本会废弃,请不要使用该接口。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnGroupedMatMulAllReduce_md.md ## CANN社区版-aclnnGroupedMatMulAlltoAllv - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatMulAlltoAllv.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/grouped\_mat\_mul\_allto\_allv\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnGroupedMatMulAlltoAllv_md.md ## CANN社区版-aclnnGroupedMatmulFinalizeRouting - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulFinalizeRouting.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_finalize\_routing\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnGroupedMatmulFinalizeRouting_md.md ## CANN社区版-aclnnGroupedMatmulFinalizeRoutingV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulFinalizeRoutingV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_finalize\_routing\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnGroupedMatmulFinalizeRoutingV2_md.md ## CANN社区版-aclnnGroupedMatmulFinalizeRoutingV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulFinalizeRoutingV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_finalize\_routing\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnGroupedMatmulFinalizeRoutingV3_md.md ## CANN社区版-aclnnGroupedMatmulFinalizeRoutingWeightNz - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulFinalizeRoutingWeightNz.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_finalize\_routing\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnGroupedMatmulFinalizeRoutingWeightNz_md.md ## CANN社区版-aclnnGroupedMatmulFinalizeRoutingWeightNzV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulFinalizeRoutingWeightNzV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_finalize\_routing\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnGroupedMatmulFinalizeRoutingWeightNzV2_md.md ## CANN社区版-aclnnGroupedMatmulSwigluQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulSwigluQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_swiglu\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnGroupedMatmulSwigluQuant_md.md ## CANN社区版-aclnnGroupedMatmulSwigluQuantV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulSwigluQuantV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_swiglu\_quant\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnGroupedMatmulSwigluQuantV2_md.md ## CANN社区版-aclnnGroupedMatmulSwigluQuantWeightNZ - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulSwigluQuantWeightNZ.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_swiglu\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnGroupedMatmulSwigluQuantWeightNZ_md.md ## CANN社区版-aclnnGroupedMatmulSwigluQuantWeightNzV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulSwigluQuantWeightNzV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\_swiglu\_quant\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnGroupedMatmulSwigluQuantWeightNzV2_md.md ## CANN社区版-aclnnGroupedMatmulV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulV2.md - Description: **须知:该接口后续版本会废弃,请使用最新aclnnGroupedMatmulV5接口。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnGroupedMatmulV2_md.md ## CANN社区版-aclnnGroupedMatmulV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulV3.md - Description: **须知:该接口后续版本会废弃,请使用最新aclnnGroupedMatmulV5接口。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnGroupedMatmulV3_md.md ## CANN社区版-aclnnGroupedMatmulV4 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulV4.md - Description: **须知:该接口后续版本会废弃,请使用最新aclnnGroupedMatmulV5接口。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnGroupedMatmulV4_md.md ## CANN社区版-aclnnGroupedMatmulV5 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulV5.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnGroupedMatmulV5_md.md ## CANN社区版-aclnnGroupedMatmulWeightNz - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnGroupedMatmulWeightNz.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/gmm/grouped\_matmul\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnGroupedMatmulWeightNz_md.md ## CANN社区版-aclnnIncreFlashAttention - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnIncreFlashAttention.md - Description: **须知:该接口后续版本会废弃,请使用最新接口aclnnIncreFlashAttentionV4。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnIncreFlashAttention_md.md ## CANN社区版-aclnnIncreFlashAttentionV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnIncreFlashAttentionV2.md - Description: **须知:该接口后续版本会废弃,请使用最新接口aclnnIncreFlashAttentionV4。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnIncreFlashAttentionV2_md.md ## CANN社区版-aclnnIncreFlashAttentionV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnIncreFlashAttentionV3.md - Description: **须知:该接口后续版本会废弃,请使用最新接口aclnnIncreFlashAttentionV4。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnIncreFlashAttentionV3_md.md ## CANN社区版-aclnnIncreFlashAttentionV4 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnIncreFlashAttentionV4.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/attention/incre\_flash\_attention\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnIncreFlashAttentionV4_md.md ## CANN社区版-aclnnInplaceAttentionWorkerScheduler - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnInplaceAttentionWorkerScheduler.md - Description: - 接口功能:Attention和FFN分离部署场景下,Attention侧数据扫描算子。该算子接收来自FFNToAttention算子的输出数据,并对数据进行逐步扫描,确保数据准备就绪。 该算子不建议单独使用,建议与FFNToAttention和AttentionWorkerCombine算子配合使用,形成完整的工作流。 1. 接收FFNToAttention算子发送的数据。该数据以 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnInplaceAttentionWorkerScheduler_md.md ## CANN社区版-aclnnInplaceFfnWorkerScheduler - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnInplaceFfnWorkerScheduler.md - Description: - 算子功能:Attention和FFN分离场景下,FFN侧数据扫描算子。该算子接收AttentionToFFN算子发送的数据,进行扫描并完成数据整理。 不建议直接使用,需要与AttentionToFFN,FFNWorkerBatching配合使用。 1. 接收AttentionToFFN算子发送的数据。该数据以ScheduleContext结构体内存排布方式存储。其具体定义参见调 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnInplaceFfnWorkerScheduler_md.md ## CANN社区版-aclnnInplaceMatmulAllReduceAddRmsNorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnInplaceMatmulAllReduceAddRmsNorm.md - Description: **须知:该接口后续版本会废弃,请使用aclnnMatmulAllReduce和aclnnAddRmsNorm替代本接口。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnInplaceMatmulAllReduceAddRmsNorm_md.md ## CANN社区版-aclnnInplaceQuantMatmulAllReduceAddRmsNorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnInplaceQuantMatmulAllReduceAddRmsNorm.md - Description: **须知:该接口后续版本会废弃,请使用aclnnQuantMatmulAllReduceV2和aclnnAddRmsNorm替代本接口。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnInplaceQuantMatmulAllReduceAddRmsNorm_md.md ## CANN社区版-aclnnInplaceWeightQuantMatmulAllReduceAddRmsNorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnInplaceWeightQuantMatmulAllReduceAddRmsNorm.md - Description: **须知:该接口后续版本会废弃,请使用aclnnWeightQuantMatmulAllReduce和aclnnAddRmsNorm替代本接口。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnInplaceWeightQuantMatmulAllReduceAddRmsNorm_md.md ## CANN社区版-aclnnInterleaveRope - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnInterleaveRope.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/posembedding/interleave\_rope\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnInterleaveRope_md.md ## CANN社区版-aclnnKvRmsNormRopeCache - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnKvRmsNormRopeCache.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/posembedding/kv\_rms\_norm\_rope\_cache\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnKvRmsNormRopeCache_md.md ## CANN社区版-aclnnLightningIndexer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnLightningIndexer.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/attention/lightning\_indexer\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnLightningIndexer_md.md ## CANN社区版-aclnnLightningIndexerGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnLightningIndexerGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/attention/lightning\_indexer\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnLightningIndexerGrad_md.md ## CANN社区版-aclnnMaskedCausalConv1d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMaskedCausalConv1d.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/attention/masked\_causal\_conv1d\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMaskedCausalConv1d_md.md ## CANN社区版-aclnnMaskedCausalConv1dBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMaskedCausalConv1dBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/attention/masked\_causal\_conv1d\_backward\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMaskedCausalConv1dBackward_md.md ## CANN社区版-aclnnMatmulAllReduce - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMatmulAllReduce.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/matmul\_all\_reduce\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMatmulAllReduce_md.md ## CANN社区版-aclnnMatmulAllReduceAddRmsNorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMatmulAllReduceAddRmsNorm.md - Description: **须知:该接口后续版本会废弃,请使用aclnnMatmulAllReduce和aclnnAddRmsNorm替代本接口。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMatmulAllReduceAddRmsNorm_md.md ## CANN社区版-aclnnMatmulAllReduceV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMatmulAllReduceV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/matmul\_all\_reduce\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMatmulAllReduceV2_md.md ## CANN社区版-aclnnMatmulAlltoAll - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMatmulAlltoAll.md - Description: - 接口功能:完成Matmul计算、Permute(保证通信后地址连续)和AlltoAll通信的融合,先计算后通信。 - 计算公式:假设x1的shape为\(BS, H1\),x2的shape为\(H1, H2\),rankSize为NPU卡数。 $$ computeOut \= x1 @ x2 + bias \\ permutedOut \= computeOut.view\(BS, rankSiz - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMatmulAlltoAll_md.md ## CANN社区版-aclnnMatmulReduceScatter - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMatmulReduceScatter.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/matmul\_reduce\_scatter\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMatmulReduceScatter_md.md ## CANN社区版-aclnnMatmulReduceScatterV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMatmulReduceScatterV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/matmul\_reduce\_scatter\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMatmulReduceScatterV2_md.md ## CANN社区版-aclnnMhcPost - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMhcPost.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mhc/mhc\_post\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMhcPost_md.md ## CANN社区版-aclnnMhcPostBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMhcPostBackward.md - Description: - 接口功能:mhcpost基于一系列计算对MHC(Manifold-Constrained Hyper-Connection)架构中上一层输出$h\{t\}^\{out\}$进行Post Mapping,对上一层的输入$xj$进行ResMapping,然后对二者进行残差连接,得到下一层的输入$x\{l+1\}$。该算子实现前述过程的反向功能。 - 计算公式: $$ gradx \= H\{l\}^\{res - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMhcPostBackward_md.md ## CANN社区版-aclnnMhcPre - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMhcPre.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mhc/mhc\_pre\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMhcPre_md.md ## CANN社区版-aclnnMhcPreBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMhcPreBackward.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mhc/mhc\_pre\_backward\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMhcPreBackward_md.md ## CANN社区版-aclnnMhcPreSinkhorn - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMhcPreSinkhorn.md - Description: - 接口功能:基于一系列计算得到MHC架构中hidden层的$\\mathbf\{H\}'\{ ext\{res\}\}$和$\\mathbf\{H\}\{ ext\{post\}\}$投影矩阵以及Attention或MLP层的输入矩阵$\\mathbf\{h\}\{ ext\{in\}\}$。对$\\mathbf\{H\}'\{ ext\{res\}\}$矩阵执行Sinkhorn迭代归一化变换,最终得到双随机矩阵$\\mathbf\{H\}\{ ext\{re - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMhcPreSinkhorn_md.md ## CANN社区版-aclnnMhcPreSinkhornBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMhcPreSinkhornBackward.md - Description: - 接口功能:MhcPreSinkhornBackward是MhcPreSinkhorn的反向算子。计算对应的梯度反向传播。 - 计算公式: - 第一部分计算Hresgrad:设当前梯度为 $\\mathbf\{grad\}\{ ext\{curr\}\} \= \\mathbf\{gradHRes\}$(`gradHRes`为输入参数,即正向输出`hres`的梯度),共进行 $\\mathbf\{numiters - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMhcPreSinkhornBackward_md.md ## CANN社区版-aclnnMhcSinkhorn - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMhcSinkhorn.md - Description: - 接口功能:对mHC架构中的$\\mathbf\{H\}'\{ ext\{res\}\}$矩阵执行Sinkhorn迭代归一化变换,最终得到双随机矩阵$\\mathbf\{H\}\{ ext\{res\}\}$;支持输出迭代过程中的中间归一化结果(normout)和求和结果(sumout),用于反向梯度计算。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMhcSinkhorn_md.md ## CANN社区版-aclnnMhcSinkhornBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMhcSinkhornBackward.md - Description: - 接口功能:MhcSinkhornBackward是MhcSinkhorn的反向算子。mHC(Manifold-Constrained Hyper-Connections)架构中的MhcSinkhorn算子对输入矩阵做sinkhorn变换得到双随机矩阵$\\mathbf\{H\}\{ ext\{res\}\}$,输出的双随机矩阵的所有元素≥0、每一行之和为1且每一列之和为1 \(具有范数保持、组合封闭性和凸组合 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMhcSinkhornBackward_md.md ## CANN社区版-aclnnMlaPreprocess - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMlaPreprocess.md - Description: - 接口功能:推理场景,Multi-Head Latent Attention前处理的计算。主要计算过程如下: - 首先对输入$x$ RmsNormQuant后乘以$W^\{DQKV\}$进行下采样后分为通路1和通路2。 - 通路1做RmsNormQuant后乘以$W^\{UQ\}$后再分为通路3和通路4。 - 通路3后乘以$W^\{uk\}$后输出$q^N$。 - 通路4后经 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMlaPreprocess_md.md ## CANN社区版-aclnnMlaPreprocessV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMlaPreprocessV2.md - Description: - 接口功能:推理场景,Multi-Head Latent Attention前处理的计算。主要计算过程如下: - 首先对输入$x$ RmsNormQuant后乘以$W^\{DQKV\}$进行下采样后分为通路1和通路2。 - 通路1做RmsNormQuant后乘以$W^\{UQ\}$后再分为通路3和通路4。 - 通路3后乘以$W^\{uk\}$后输出$q^N$。 - 通路4后经 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMlaPreprocessV2_md.md ## CANN社区版-aclnnMlaProlog - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMlaProlog.md - Description: **须知:该接口后续版本会废弃,请使用最新接口aclnnMlaPrologV3WeightNz。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMlaProlog_md.md ## CANN社区版-aclnnMlaPrologV2WeightNz - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMlaPrologV2WeightNz.md - Description: **须知:该接口后续版本会废弃,请使用最新接口aclnnMlaPrologV3WeightNz。** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMlaPrologV2WeightNz_md.md ## CANN社区版-aclnnMlaPrologV3WeightNz - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMlaPrologV3WeightNz.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/attention/mla\_prolog\_v3\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMlaPrologV3WeightNz_md.md ## CANN社区版-aclnnMoeComputeExpertTokens - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeComputeExpertTokens.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_compute\_expert\_tokens\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeComputeExpertTokens_md.md ## CANN社区版-aclnnMoeDistributeCombine - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeCombine.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_combine\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeDistributeCombine_md.md ## CANN社区版-aclnnMoeDistributeCombineAddRmsNorm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeCombineAddRmsNorm.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_combine\_add\_rms\_norm\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeDistributeCombineAddRmsNorm_md.md ## CANN社区版-aclnnMoeDistributeCombineAddRmsNormV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeCombineAddRmsNormV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_combine\_add\_rms\_norm\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeDistributeCombineAddRmsNormV2_md.md ## CANN社区版-aclnnMoeDistributeCombineSetup - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeCombineSetup.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_combine\_setup\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeDistributeCombineSetup_md.md ## CANN社区版-aclnnMoeDistributeCombineTeardown - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeCombineTeardown.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_combine\_teardown\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeDistributeCombineTeardown_md.md ## CANN社区版-aclnnMoeDistributeCombineV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeCombineV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_combine\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeDistributeCombineV2_md.md ## CANN社区版-aclnnMoeDistributeCombineV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeCombineV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_combine\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeDistributeCombineV3_md.md ## CANN社区版-aclnnMoeDistributeCombineV4 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeCombineV4.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_combine\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeDistributeCombineV4_md.md ## CANN社区版-aclnnMoeDistributeDispatch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeDispatch.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_dispatch\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeDistributeDispatch_md.md ## CANN社区版-aclnnMoeDistributeDispatchSetup - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeDispatchSetup.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_dispatch\_setup\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeDistributeDispatchSetup_md.md ## CANN社区版-aclnnMoeDistributeDispatchTeardown - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeDispatchTeardown.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_dispatch\_teardown\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeDistributeDispatchTeardown_md.md ## CANN社区版-aclnnMoeDistributeDispatchV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeDispatchV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_dispatch\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeDistributeDispatchV2_md.md ## CANN社区版-aclnnMoeDistributeDispatchV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeDispatchV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_dispatch\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeDistributeDispatchV3_md.md ## CANN社区版-aclnnMoeDistributeDispatchV4 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeDistributeDispatchV4.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_distribute\_dispatch\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeDistributeDispatchV4_md.md ## CANN社区版-aclnnMoeFinalizeRouting - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeFinalizeRouting.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_finalize\_routing\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeFinalizeRouting_md.md ## CANN社区版-aclnnMoeFinalizeRoutingV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeFinalizeRoutingV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_finalize\_routing\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeFinalizeRoutingV2_md.md ## CANN社区版-aclnnMoeFinalizeRoutingV2Grad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeFinalizeRoutingV2Grad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_finalize\_routing\_v2\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeFinalizeRoutingV2Grad_md.md ## CANN社区版-aclnnMoeFinalizeRoutingV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeFinalizeRoutingV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_finalize\_routing\_v3\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeFinalizeRoutingV3_md.md ## CANN社区版-aclnnMoeFusedTopk - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeFusedTopk.md - Description: - 接口功能:MoE计算中,对输入x做Sigmoid计算,对计算结果分组进行排序,最后根据分组排序的结果选取前k个专家。 - 计算公式: 对输入做sigmoid: $$ sigmoidRes\=sigmoid\(x\) $$ 加上addNum: $$ normOut \= sigmoidRes + addNum $$ 对计算结果按照g - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeFusedTopk_md.md ## CANN社区版-aclnnMoeGatingTopK - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeGatingTopK.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_gating\_top\_k\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeGatingTopK_md.md ## CANN社区版-aclnnMoeGatingTopKSoftmax - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeGatingTopKSoftmax.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_gating\_top\_k\_softmax\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeGatingTopKSoftmax_md.md ## CANN社区版-aclnnMoeGatingTopKSoftmaxV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeGatingTopKSoftmaxV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_gating\_top\_k\_softmax\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeGatingTopKSoftmaxV2_md.md ## CANN社区版-aclnnMoeInitRouting - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeInitRouting.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_init\_routing\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeInitRouting_md.md ## CANN社区版-aclnnMoeInitRoutingQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeInitRoutingQuant.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_init\_routing\_quant\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeInitRoutingQuant_md.md ## CANN社区版-aclnnMoeInitRoutingQuantV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeInitRoutingQuantV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_init\_routing\_quant\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeInitRoutingQuantV2_md.md ## CANN社区版-aclnnMoeInitRoutingV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeInitRoutingV2.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_init\_routing\_v2\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeInitRoutingV2_md.md ## CANN社区版-aclnnMoeInitRoutingV2Grad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeInitRoutingV2Grad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_init\_routing\_v2\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeInitRoutingV2Grad_md.md ## CANN社区版-aclnnMoeInitRoutingV3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeInitRoutingV3.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_init\_routing\_v3\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeInitRoutingV3_md.md ## CANN社区版-aclnnMoeTokenPermute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenPermute.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_permute\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeTokenPermute_md.md ## CANN社区版-aclnnMoeTokenPermuteGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenPermuteGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_permute\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeTokenPermuteGrad_md.md ## CANN社区版-aclnnMoeTokenPermuteWithEp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenPermuteWithEp.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_permute\_with\_ep\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeTokenPermuteWithEp_md.md ## CANN社区版-aclnnMoeTokenPermuteWithEpGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenPermuteWithEpGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_permute\_with\_ep\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeTokenPermuteWithEpGrad_md.md ## CANN社区版-aclnnMoeTokenPermuteWithRoutingMap - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenPermuteWithRoutingMap.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_permute\_with\_routing\_map\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeTokenPermuteWithRoutingMap_md.md ## CANN社区版-aclnnMoeTokenPermuteWithRoutingMapGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenPermuteWithRoutingMapGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_permute\_with\_routing\_map\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeTokenPermuteWithRoutingMapGrad_md.md ## CANN社区版-aclnnMoeTokenUnpermute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenUnpermute.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_unpermute\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeTokenUnpermute_md.md ## CANN社区版-aclnnMoeTokenUnpermuteGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenUnpermuteGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_unpermute\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeTokenUnpermuteGrad_md.md ## CANN社区版-aclnnMoeTokenUnpermuteWithEp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenUnpermuteWithEp.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_unpermute\_with\_ep\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeTokenUnpermuteWithEp_md.md ## CANN社区版-aclnnMoeTokenUnpermuteWithEpGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenUnpermuteWithEpGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_unpermute\_with\_ep\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeTokenUnpermuteWithEpGrad_md.md ## CANN社区版-aclnnMoeTokenUnpermuteWithRoutingMap - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenUnpermuteWithRoutingMap.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_unpermute\_with\_routing\_map\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeTokenUnpermuteWithRoutingMap_md.md ## CANN社区版-aclnnMoeTokenUnpermuteWithRoutingMapGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeTokenUnpermuteWithRoutingMapGrad.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/moe/moe\_token\_unpermute\_with\_routing\_map\_grad\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeTokenUnpermuteWithRoutingMapGrad_md.md ## CANN社区版-aclnnMoeUpdateExpert - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnMoeUpdateExpert.md - Description: \[? 查看源码\]\(https://gitcode.com/cann/ops-transformer/tree/master/mc2/moe\_update\_expert\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnMoeUpdateExpert_md.md ## CANN社区版-aclnnNormRopeConcat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnNormRopeConcat.md - Description: - 接口功能:(多模态)transformer注意力机制中,针对query、key和Value实现归一化(Norm)、旋转位置编码(Rope)、特征拼接(Concat): - 归一化(Norm)当前支持层归一化(LayerNorm)、带仿射变换参数层归一化(AFFINE LayerNorm)、均方根归一化(RmsNorm)和带仿射变换参数均方根归一化(AFFINE RmsNorm)类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnNormRopeConcat_md.md ## CANN社区版-aclnnNormRopeConcatBackward - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnNormRopeConcatBackward.md - Description: - 算子功能:(多模态)transformer注意力机制中,针对query、key和Value实现归一化(Norm)、旋转位置编码(Rope)、特征拼接(Concat)融合算子功能反向推导: - 归一化(Norm)当前支持层归一化(LayerNorm)和带仿射变换参数层归一化(AFFINE LayerNorm)类型。 - 旋转位置编码(Rope)支持Interleave和Half类 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnNormRopeConcatBackward_md.md ## CANN社区版-aclnnNsaCompress - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnNsaCompress.md - Description: - 算子功能:训练场景下,使用NSA Compress算法减轻long-context的注意力计算,实现在KV序列维度进行压缩。 - 计算公式: Nsa Compress正向计算公式如下: $$ \\tilde\{K\}t^\{\\text\{cmp\}\} \= fK^\{\\text\{cmp\}\}\(k\{:t\}\) \= \\left\{ \\varphi\(k\{id+1:id+l\}\) \\bigg| 0 \\leq i \\l - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnNsaCompress_md.md ## CANN社区版-aclnnNsaCompressAttention - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnNsaCompressAttention.md - Description: - 算子功能:NSA中compress attention以及select topk索引计算。论文:https://arxiv.org/pdf/2502.11089 - 计算公式:压缩block大小:$l$,select block大小:$l'$,压缩stride大小:$d$ $$ P\{cmp\} \= Softmax\(querykey^T\) \\ $$ $$ attentionOut \= Softma - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnNsaCompressAttention_md.md ## CANN社区版-aclnnNsaCompressAttentionInfer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnNsaCompressAttentionInfer.md - Description: - 接口功能:Native Sparse Attention推理过程中,Compress Attention的计算。 - 计算公式: $$ P\{cmp\}\= Softmax\(scale query · key^T\) \\ attentionOut \= P\{cmp\} · value\\ P\{slc\}\[j\] \= \\sum\\limits\{m\=0\}^\{l'/d -1\} \\sum\\limits\{ - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnNsaCompressAttentionInfer_md.md ## CANN社区版-aclnnNsaCompressGrad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnNsaCompressGrad.md - Description: - 算子功能:aclnnNsaCompress算子的反向计算。 - 计算公式: 选择注意力的正向计算公式如下: $$ \\text\{dw\} \= \\text\{dkcmp\} \\cdot K^\\top $$ $$ \\text\{dk\} \= W^\\top \\cdot \\text\{dkcmp\} $$ - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnNsaCompressGrad_md.md ## CANN社区版-aclnnNsaCompressWithCache - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnNsaCompressWithCache.md - Description: - 接口功能:用于Native-Sparse-Attention推理阶段的KV压缩,每次推理每个batch会产生一个新的token,每当某个batch的token数量凑满一个compressblock时,该算子会将该batch的后compressblock个token压缩成一个compresstoken。 - 计算公式: $$ compressIdx\=\(s-compressBlockSize\)/s - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_context_ops-transformer_aclnnNsaCompressWithCache_md.md ## CANN社区版-aclnnNsaSelectedAttention - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/aolapi/context/ops-transformer/aclnnNsaSelectedAttention.md - Description: - 接口功能:训练场景下,实现NativeSparseAttention算法中selected-attention(选择注意力)的计算。 - 计算公式: 选择注意力的正向计算公式如下: $$ selectedkey \= Gather\(key, topkindices\[i\]\),0<\=i 算子执行问题\(https://www.hiascend.comdocument/detail/zh/CANNCommunityEdition/920beta1/maintenref/troubleshooting/troubleshooting\_0147.html\)”,该文档列举了典型/高频的算子执行 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_aolapi_operatorlist_00445_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## CANN社区版-aclSetCompileopt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0025.html - Description: 用户可调用本接口设置对应的编译选项,该选项为进程级全局共享。在算子或模型编译前,调用本接口设置编译选项,在编译时,以当前的编译选项为准,一次编译过程中不会变更。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0025_html.md ## CANN社区版-aclGetCompileopt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0026.html - Description: 用户可调用本接口获取编译选项的值。 用户可以调用本接口获取当前编译选项的值,在调用aclSetCompileopt前,本接口返回的是各编译选项的默认值;在调用aclSetCompileopt后,本接口返回的是用户设置的值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0026_html.md ## CANN社区版-aclGetCompileoptSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0027.html - Description: 用户可调用本接口获取存放编译选项值的内存大小。 用户在调用aclGetCompileopt前需要申请一块内存来保存编译选项的值,内存大小可以通过调用本接口获得。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0027_html.md ## CANN社区版-aclGenGraphAndDumpForOp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0033.html - Description: 构建单个算子的图并Dump,生成.txt文件。此处的图是指表达算子IR(Intermediate Representation)的结构,图编译过程中由于融合、拆分等原因会导致图不断变换、进而生成新的图,这些变换的目的是为了将用户表达的图适配到AI处理器上,获得更高性能。 使用场景:算子调优场景下,调用本接口构建单个算子的图并Dump,生成.txt文件,作为算子调优的输入数据之一。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0033_html.md ## CANN社区版-aclopSetModelDir - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0245.html - Description: 设置加载模型文件的目录,该模型文件是由单算子编译成的.om文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0245_html.md ## CANN社区版-aclopLoad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0246.html - Description: 从内存中加载单算子模型数据(单算子模型数据是指“单算子编译成.om文件后,再将om文件读取到内存中”的数据),由用户管理内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0246_html.md ## aclopSetCompileFlag(废弃) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0247.html - Description: 须知:此接口后续版本会废弃,请使用aclSetCompileopt接口设置编译选项。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0247_html.md ## CANN社区版-aclopCompile - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0248.html - Description: 编译指定算子。在编译算子前,可以调用aclSetCompileopt接口设置编译选项。 每个算子的输入、输出组织不同,在调用接口时严格按照算子输入、输出参数来组织算子,用户在调用aclopCompile时,接口会根据optype、输入tensor的描述、输出tensor的描述、attr等信息查找对应的任务,再编译算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0248_html.md ## aclopExecute(废弃) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0249.html - Description: 须知:此接口后续版本会废弃,请使用aclopExecuteV2接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0249_html.md ## CANN社区版-aclopExecuteV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0250.html - Description: 执行指定的算子。异步接口。 每个算子的输入、输出、属性不同,接口会根据optype、输入tensor的描述、输出tensor的描述、attr等信息查找对应的任务,并下发执行,因此在调用本接口时需严格按照算子输入、输出、属性来组织算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0250_html.md ## CANN社区版-aclopCompileAndExecute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0251.html - Description: 编译并执行指定的算子,当前只支持固定Shape的算子。异步接口。 每个算子的输入、输出、属性不同,接口会根据optype、输入tensor的描述、输出tensor的描述、attr等信息查找对应的任务,并下发执行,因此在调用本接口时需严格按照算子输入、输出、属性来组织算子。 在编译执行算子前,可以调用aclSetCompileopt接口设置编译选项。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0251_html.md ## CANN社区版-aclopCompileAndExecuteV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0252.html - Description: 编译并执行指定的算子,当前只支持固定Shape的算子。每个算子的输入、输出、属性不同,接口会根据optype、输入tensor的描述、输出tensor的描述、attr等信息查找对应的任务,并下发执行,因此在调用本接口时需严格按照算子输入、输出、属性来组织算子。 在编译执行算子前,可以调用aclSetCompileopt接口设置编译选项。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0252_html.md ## CANN社区版-aclopExecWithHandle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0253.html - Description: 以Handle方式调用一个算子,不支持动态Shape算子,动态Shape算子请使用aclopExecuteV2。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0253_html.md ## CANN社区版-aclopInferShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0254.html - Description: 根据算子的输入Shape、输入值推导出算子的输出Shape。 推导算子的输出Shape包含三种场景:- 根据Shape推导,可以得到算子的准确输出Shape,则返回准确输出Shape; - 根据Shape推导,无法得到算子的准确输出Shape,但可以得到输出Shape的范围,则在输出参数outputDesc中将算子输出tensor描述中的动态维度的维度值记为-1。该场景下,用户可调用 aclGe - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0254_html.md ## CANN社区版-aclopRegisterCompileFunc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0257.html - Description: 动态Shape场景下,注册算子选择器,用于在算子执行时,能针对不同shape,选择相应的Tiling策略。 如果某算子已注册算子选择器,则不允许重新注册,如果需要变更算子选择器,必须先调用aclopUnregisterCompileFunc接口取消注册,然后再调用aclopRegisterCompileFunc接口重新注册。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0257_html.md ## CANN社区版-aclopUnregisterCompileFunc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0258.html - Description: 动态Shape场景下,取消注册算子选择器。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0258_html.md ## CANN社区版-aclopCreateKernel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0259.html - Description: 动态Shape场景下,将算子注册到系统内部,运行算子时使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0259_html.md ## CANN社区版-aclopSetKernelArgs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0260.html - Description: 动态Shape场景下,设置算子Tiling参数、执行并发数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0260_html.md ## CANN社区版-aclopSetKernelWorkspaceSizes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0261.html - Description: 动态Shape场景下,设置算子Workspace参数。为非必须接口,根据算子情况可选。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0261_html.md ## CANN社区版-aclopUpdateParams - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0262.html - Description: 在算子动态Shape场景下,根据指定算子,触发调用算子选择器。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0262_html.md ## CANN社区版-aclopSetMaxOpQueueNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0263.html - Description: 通过单算子模型方式执行单个算子时,配置算子缓存信息老化,以达到节约内存和平衡调用性能的目的。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0263_html.md ## CBLAS接口总体说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0265.html - Description: 须知:本章中的CBLAS接口后续版本会废弃,替换方案请参见废弃接口替换方案。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0265_html.md ## 关于A、B、C矩阵的Shape及内存大小计算公式 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0266.html - Description: - A、B、C矩阵是否转置的标记如果设置为ACL\_TRANS\_N或ACL\_TRANS\_T,则用户在申请内存存放A、B、C矩阵数据时,实际申请的内存要和实际数据大小匹配,Shape及内存大小的计算公式如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0266_html.md ## CANN社区版-aclblasGemvEx - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0267.html - Description: 执行矩阵-向量的乘法,y \= αAx + βy,输入数据、输出数据的数据类型通过入参设置。异步接口。 A、x、y的数据类型仅支持以下组合, α和β的数据类型与y一致。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0267_html.md ## CANN社区版-aclblasCreateHandleForGemvEx - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0268.html - Description: 创建矩阵-向量乘的handle,输入数据、输出数据的数据类型通过入参设置。创建handle成功后,需调用aclopExecWithHandle接口执行算子。 A、x、y的数据类型仅支持以下组合: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0268_html.md ## CANN社区版-aclblasHgemv - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0269.html - Description: 执行矩阵-向量的乘法,y \= αAx + βy,输入数据和输出数据的数据类型为FLOAT16。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0269_html.md ## CANN社区版-aclblasCreateHandleForHgemv - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0270.html - Description: 创建矩阵-向量乘的handle,输入数据和输出数据的数据类型为FLOAT16。创建handle成功后,需调用aclopExecWithHandle接口执行算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0270_html.md ## CANN社区版-aclblasS8gemv - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0271.html - Description: 执行矩阵-向量的乘法,y \= αAx + βy,输入数据的数据类型为INT8,输出数据的数据类型为INT32。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0271_html.md ## CANN社区版-aclblasCreateHandleForS8gemv - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0272.html - Description: 创建矩阵-向量乘的handle,输入数据的数据类型为INT8,输出数据的数据类型为INT32。创建handle成功后,需调用aclopExecWithHandle接口执行算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0272_html.md ## CANN社区版-aclblasGemmEx - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0273.html - Description: 执行矩阵-矩阵的乘法,C \= αAB + βC,输入数据、输出数据的数据类型通过入参设置。异步接口。 A、B、C的数据类型仅支持以下组合, α和β的数据类型与C一致。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0273_html.md ## CANN社区版-aclblasCreateHandleForGemmEx - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0274.html - Description: 创建矩阵-矩阵乘的handle,输入数据、输出数据的数据类型通过入参设置。创建handle成功后,需调用aclopExecWithHandle接口执行算子。 A、B、C的数据类型仅支持以下组合: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0274_html.md ## CANN社区版-aclblasHgemm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0275.html - Description: 执行矩阵-矩阵的乘法,C \= αAB + βC,输入数据和输出数据的数据类型为FLOAT16。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0275_html.md ## CANN社区版-aclblasCreateHandleForHgemm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0276.html - Description: 创建矩阵-矩阵乘的handle,输入数据和输出数据的数据类型为FLOAT16。创建handle成功后,需调用aclopExecWithHandle接口执行算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0276_html.md ## CANN社区版-aclblasS8gemm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0277.html - Description: 执行矩阵-矩阵的乘法,C \= αAB + βC,输入数据的数据类型为INT8,输出数据的数据类型为INT32。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0277_html.md ## CANN社区版-aclblasCreateHandleForS8gemm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0278.html - Description: 创建矩阵-矩阵乘的handle,输入数据的数据类型为INT8,输出数据的数据类型为INT32。创建handle成功后,需调用aclopExecWithHandle接口执行算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0278_html.md ## CANN社区版-aclopCast - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0279.html - Description: 转换输入数据的数据类型。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0279_html.md ## CANN社区版-aclopCreateHandleForCast - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0280.html - Description: 创建数据类型转换的handle。创建handle成功后,需调用aclopExecWithHandle接口执行算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0280_html.md ## CANN社区版-aclmdlLoadFromFile - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0283.html - Description: 从文件加载离线模型数据,由系统内部管理模型运行的内存。 本接口中通过modelPath参数传入的文件是.om模型文件。关于如何获取om模型文件,请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/devaids/atctool/docs/zh/userguides/atc - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0283_html.md ## CANN社区版-aclmdlLoadFromMem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0284.html - Description: 从内存加载om模型文件数据,由系统内部管理模型运行的内存。 关于如何获取om模型文件,请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/devaids/atctool/docs/zh/userguides/atctools/overview/learningguide. - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0284_html.md ## CANN社区版-aclmdlLoadFromFileWithMem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0285.html - Description: 从文件加载离线模型数据,由用户自行管理模型运行的内存。 本接口中通过modelPath参数传入的文件是.om模型文件。关于如何获取om模型文件,请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/devaids/atctool/docs/zh/userguides/atc - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0285_html.md ## CANN社区版-aclmdlLoadFromMemWithMem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0286.html - Description: 从内存加载om模型文件数据,由用户自行管理模型运行的内存。 关于如何获取om模型文件,请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/devaids/atctool/docs/zh/userguides/atctools/overview/learningguide. - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0286_html.md ## CANN社区版-aclmdlLoadFromFileWithQ - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0287.html - Description: 从文件加载离线模型数据,模型的输入、输出数据都存放在队列中。本接口只支持加载固定Shape输入的模型。 本接口中通过modelPath参数传入的文件是.om模型文件。关于如何获取om模型文件,请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/devaids/atctoo - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0287_html.md ## CANN社区版-aclmdlLoadFromMemWithQ - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0288.html - Description: 从内存加载om模型文件数据,模型的输入、输出数据都存放在队列中。本接口只支持加载固定Shape输入的模型。 关于如何获取om模型文件,请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/devaids/atctool/docs/zh/userguides/atctools - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0288_html.md ## CANN社区版-aclmdlSetConfigOpt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0289.html - Description: 设置模型加载的配置对象中的各属性的取值,包括模型执行的优先级、模型的文件路径或内存地址、内存大小等。 本接口需要与以下其它接口配合,实现模型加载功能:1. 调用 aclmdlCreateConfigHandle 接口创建模型加载的配置对象。 2. (可选)调用 aclmdlSetExternalWeightAddress 接口配置存放外置权重的Device内存。 3. 多次调用 aclmdl - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0289_html.md ## CANN社区版-aclmdlLoadWithConfig - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0290.html - Description: 指定模型加载时需要的配置信息,并进行模型加载。在加载前,请先根据模型文件的大小评估内存空间是否足够,内存空间不足,会导致应用程序异常。 本接口需要与以下其它接口配合,实现模型加载功能:1. 调用 aclmdlCreateConfigHandle 接口创建模型加载的配置对象。 2. (可选)调用 aclmdlSetExternalWeightAddress 接口配置存放外置权重的Device内存 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0290_html.md ## CANN社区版-aclmdlUnload - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0291.html - Description: 系统完成模型推理后,可调用本接口卸载模型,释放资源,但需确保其它接口没有正在使用该模型。 模型加载、模型执行、模型卸载的操作必须在同一个Context下(关于Context的创建请参见aclrtCreateContext\(https://www.hiascend.comdocument/detail/zh/CANNCommunityEdition/920beta1/API/runtimeapi/a - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0291_html.md ## CANN社区版-aclmdlBundleLoadFromFile - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0292.html - Description: 模型执行阶段若涉及动态更新变量的场景,可调用本接口从文件加载om模型,由系统内部管理内存。 本接口需与以下其它接口配合使用,以便实现动态更新变量的目的,关键接口的调用流程如下: 1. 基于构图接口编译并保存模型,模型中包含多个图,例如推理图、变量初始化图、变量更新图等。 此处是调用aclgrphBundleBuildModel接口编译模型、调用aclgrphBundleSaveModel接口保 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0292_html.md ## CANN社区版-aclmdlBundleLoadFromMem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0293.html - Description: 模型执行阶段若涉及动态更新变量的场景,从内存加载离线模型数据,由系统内部管理模型运行的内存。 本接口需与其它接口配合使用,以便实现动态更新变量的目的,请参见aclmdlBundleLoadFromFile处的说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0293_html.md ## CANN社区版-aclmdlBundleGetModelId - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0294.html - Description: 获取实际可执行的模型ID。 本接口需与其它接口配合使用,以便实现动态更新变量的目的,请参见aclmdlBundleLoadFromFile处的说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0294_html.md ## CANN社区版-aclmdlBundleGetModelNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0295.html - Description: 根据bundleId获取实际可执行的图总数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0295_html.md ## CANN社区版-aclmdlBundleUnload - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0296.html - Description: 系统完成模型推理后,可调用该接口卸载通过aclmdlBundleLoadFromFile接口或aclmdlBundleLoadFromMem接口加载的模型,释放资源。 本接口需与其它接口配合使用,以便实现动态更新变量的目的,请参见aclmdlBundleLoadFromFile处的说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0296_html.md ## CANN社区版-aclmdlExecute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0298.html - Description: 执行模型推理,直到返回推理结果。 模型加载、模型执行、模型卸载的操作必须在同一个Context下(关于Context的创建请参见aclrtCreateContext\(https://www.hiascend.comdocument/detail/zh/CANNCommunityEdition/920beta1/API/runtimeapi/aclcppdevg030059.html\))。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0298_html.md ## CANN社区版-aclmdlExecuteAsync - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0299.html - Description: 执行模型推理。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0299_html.md ## CANN社区版-aclmdlSetExecConfigOpt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0300.html - Description: 设置模型执行的配置对象中的各属性的取值。 本接口需要配合其它接口一起使用,实现模型执行,接口调用顺序如下:1. 调用 aclmdlCreateExecConfigHandle 接口创建模型执行的配置对象。 2. 多次调用 aclmdlSetExecConfigOpt 接口设置配置对象中每个属性的值。 3. 调用 aclmdlExecuteV2 或 aclmdlExecuteAsyncV2 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0300_html.md ## CANN社区版-aclmdlExecuteV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0301.html - Description: 根据aclmdlSetExecConfigOpt接口所配置的属性,执行模型推理,直到返回推理结果。该接口是在aclmdlExecute接口基础上进行了增强,支持在执行模型推理时控制一些配置参数。 本接口需要配合其它接口一起使用,实现模型执行,接口调用顺序如下:1. 调用 aclmdlCreateExecConfigHandle 接口创建模型执行的配置对象。 2. 多次调用 aclmdlSetE - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0301_html.md ## CANN社区版-aclmdlExecuteAsyncV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0302.html - Description: 根据aclmdlSetExecConfigOpt所配置的属性,执行模型推理,直到返回推理结果。该接口是在aclmdlExecuteAsync接口基础上进行了增强,支持在执行模型推理时控制一些配置参数。异步接口。 本接口需要配合其它接口一起使用,实现模型执行,接口调用顺序如下:1. 调用 aclmdlCreateExecConfigHandle 接口创建模型执行的配置对象。 2. 多次调用 ac - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0302_html.md ## CANN社区版-aclmdlQuerySize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0303.html - Description: 根据模型文件获取模型执行时所需的权值内存大小、工作内存大小。 当由用户管理内存时,为确保内存不浪费,在申请工作内存、权值内存前,需要调用本接口查询模型运行时所需工作内存、权值内存的大小。如果模型输入数据的Shape不确定,则不能调用本接口查询内存大小,在加载模型时,就无法由用户管理内存,因此需选择由系统管理内存的模型加载接口(例如,aclmdlLoadFromFile、aclmdlLoadFrom - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0303_html.md ## CANN社区版-aclmdlQuerySizeFromMem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0304.html - Description: 根据内存中的模型数据获取模型执行时所需的权值内存大小、工作内存大小。 当由用户管理内存时,为确保内存不浪费,在申请工作内存、权值内存前,需要调用本接口查询模型运行时所需工作内存、权值内存的大小。如果模型输入数据的Shape不确定,则不能调用本接口查询内存大小,在加载模型时,就无法由用户管理内存,因此需选择由系统管理内存的模型加载接口(例如,aclmdlLoadFromFile、aclmdlLoad - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0304_html.md ## CANN社区版-aclmdlQueryExeOMDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0305.html - Description: 根据模型文件获取模型执行时所需的工作内存、权值内存、模型描述信息、静态和动态shape任务等的内存大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0305_html.md ## CANN社区版-aclmdlSetDynamicBatchSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0306.html - Description: 在动态Batch场景下,在模型执行前调用本接口设置每次模型推理时处理图片的数量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0306_html.md ## CANN社区版-aclmdlSetDynamicHWSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0307.html - Description: 动态分辨率场景下,在模型执行前调用本接口设置模型推理时输入图片的高和宽。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0307_html.md ## CANN社区版-aclmdlSetInputAIPP - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0308.html - Description: 动态AIPP场景下,根据指定的动态AIPP输入的输入index,设置模型推理时的AIPP参数值。 动态AIPP支持的几种操作的计算方式及其计算顺序如下:抠图->色域转换->减均值/归一化->padding。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0308_html.md ## CANN社区版-aclmdlGetFirstAippInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0309.html - Description: 获取模型AIPP(包括静态AIPP和动态AIPP)的配置信息。获取模型中动态AIPP的信息时,只能获取aclAippInfo结构体中如下参数的值:srcFormat、srcDatatype、srcDimNum、shapeCount、outDims,其它参数值无效。 AIPP支持的几种操作的计算方式及其计算顺序如下:抠图->色域转换->减均值/归一化->padding。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0309_html.md ## CANN社区版-aclmdlGetAippType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0310.html - Description: 获取指定模型的指定输入所支持的AIPP类型(动态AIPP或静态AIPP)及动态AIPP输入对应的index值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0310_html.md ## CANN社区版-aclmdlSetAIPPByInputIndex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0311.html - Description: 动态AIPP场景下,根据指定的模型输入的输入index,设置模型推理时的AIPP参数值。 动态AIPP支持的几种操作的计算方式及其计算顺序如下:抠图->色域转换->减均值/归一化->padding。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0311_html.md ## CANN社区版-aclmdlSetInputDynamicDims - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0312.html - Description: 如果模型输入的Shape是动态的、输入数据Format为ND格式(ND表示支持任意格式),在模型执行前调用本接口设置模型推理时具体维度的值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0312_html.md ## CANN社区版-aclmdlCreateAndGetOpDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_0313.html - Description: 获取指定算子的描述信息,包括算子名、输入tensor描述、输出tensor描述,如果查询不到指定算子,则返回报错。该接口不支持动态Shape场景。 使用场景举例:执行整网模型推理时,如果产生AI Core报错,可以调用本接口获取报错算子的描述信息,再做进一步错误排查。 推荐的接口调用顺序如下:1. 定义并实现异常回调函数fn,回调函数原型请参见 aclrtSetExceptionInfoCallb - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_0313_html.md ## CANN社区版-aclTransType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1359.html - Description: ``` typedef enum aclTransType \{ ACLTRANSN, //不转置,默认为不转置 ACLTRANST, //转置 ACLTRANSNZ, //内部格式,能够提供更好的接口性能,建议使用场景为:某个输入矩阵作为底库,执行一次转NZ格式的操作后,多次使用NZ格式的算子,提升性能。 ACLTRANSNZT //内部格式转置, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1359_html.md ## CANN社区版-aclComputeType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1360.html - Description: ``` typedef enum aclComputeType \{ ACLCOMPUTEHIGHPRECISION, ACLCOMPUTELOWPRECISION //当前不支持 \}aclComputeType; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1360_html.md ## CANN社区版-aclAippInputFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1362.html - Description: 静态AIPP和动态AIPP支持的图片格式不同,详情如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1362_html.md ## CANN社区版-aclAippInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1363.html - Description: ``` typedef struct aclAippInfo \{ aclAippInputFormat inputFormat; int32t srcImageSizeW; int32t srcImageSizeH; int8t cropSwitch; int32t loadStartPosW; int32t loadStartPosH; i - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1363_html.md ## CANN社区版-aclAippDims - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1364.html - Description: ``` typedef struct aclAippDims \{ aclmdlIODims srcDims; // 模型转换前的dims,如\[1,3,150,150\] sizet srcSize; // 模型转换前输入数据的大小 aclmdlIODims aippOutdims; // 内部数据格式的dims信息 sizet aippOutSize; // - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1364_html.md ## CANN社区版-aclmdlIODims - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1365.html - Description: ``` \#define ACLMAXDIMCNT 128 \#define ACLMAXTENSORNAMELEN 128 typedef struct aclmdlIODims \{ char name\[ACLMAXTENSORNAMELEN\]; // tensor name sizet dimCount; // Shape - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1365_html.md ## CANN社区版-aclmdlInputAippType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1369.html - Description: ``` typedef enum \{ ACLDATAWITHOUTAIPP \= 0, //该输入无AIPP信息 ACLDATAWITHSTATICAIPP, //该输入带静态AIPP信息 ACLDATAWITHDYNAMICAIPP, //该输入有关联的动态AIPP输入 ACLDYNAMICAIPPNODE //该输入本身就是动态AIPP输入,用于配 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1369_html.md ## CANN社区版-aclCompileOpt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1371.html - Description: 用于配置网络模型的算子精度模式。如果不配置该编译选项,默认采用allowfp32tofp16。 - forcefp32/cubefp16infp32out: 配置为forcefp32或cubefp16infp32out,效果等同,该选项用来表示AI Core中该算子既支持float32又支持float16数据类型时,系统内部都会根据算子类型不同,选择不同的处理方式。cubefp16infp32 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1371_html.md ## CANN社区版-aclmdlConfigAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1375.html - Description: 模型执行的优先级,可选项。该选项对应的值为int32类型。 数字越小优先级越高,取值\[0,7\],默认值为0。 Atlas 训练系列产品 ,docker容器内安装CANN,且配置算力分组的场景,该枚举值不生效。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1375_html.md ## CANN社区版-aclOpCompileFlag - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1377.html - Description: 该参数已废弃,请勿配置,否则后续版本可能存在兼容性问题。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1377_html.md ## CANN社区版-aclopEngineType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1386.html - Description: ``` typedef enum aclEngineType \{ ACLENGINESYS, // 不关心具体执行引擎时填写,当前仅支持设置为该选项 ACLENGINEAICORE, // 将算子编译成AI Core算子,当前不支持 ACLENGINEVECTOR // 将算子编译成Vector Core算子,当前不支持 \} aclopEngineType; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1386_html.md ## CANN社区版-aclopCompileType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1387.html - Description: ``` typedef enum aclCompileType \{ ACLCOMPILESYS, // 当前仅支持设置为该选项 ACLCOMPILEUNREGISTERED // 当前不支持 \} aclopCompileType; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1387_html.md ## CANN社区版-aclmdlExecConfigAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1391.html - Description: ``` typedef enum \{ ACLMDLSTREAMSYNCTIMEOUT \= 0, ACLMDLEVENTSYNCTIMEOUT, ACLMDLWORKADDRPTR, ACLMDLWORKSIZET, ACLMDLMPAIMIDSIZET, / param reserved / ACLMDLAICQOSSIZET, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1391_html.md ## CANN社区版-aclmdlExeOMDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1407.html - Description: ``` typedef struct aclmdlExeOMDesc \{ sizet workSize; sizet weightSize; sizet modelDescSize; sizet kernelSize; sizet kernelArgsSize; sizet staticTaskSize; sizet dynamicTaskS - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1407_html.md ## CANN社区版-aclmdlIODimsRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1409.html - Description: ``` \#define ACLDIMENDPOINTS 2 \#define ACLMAXDIMCNT 128 typedef struct aclmdlIODimsRange \{ sizet rangeCount; / 维度数量 / int64t range\[ACLMAXDIMCNT\]\[ACLDIMENDPOINTS\]; / Shape范围二维数组, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1409_html.md ## CANN社区版-aclmdlCreateAIPP - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1413.html - Description: 动态AIPP场景下,根据模型支持的batch size创建aclmdlAIPP类型的数据,用于存放动态AIPP的参数。 如需销毁aclmdlAIPP类型的数据,请参见aclmdlDestroyAIPP。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1413_html.md ## CANN社区版-aclmdlSetAIPPCscParams - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1414.html - Description: 动态AIPP场景下,设置CSC色域转换相关的参数,若色域转换开关关闭,则调用该接口设置以下参数无效。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1414_html.md ## CANN社区版-aclmdlSetAIPPInputFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1415.html - Description: 动态AIPP场景下,必须设置原始输入图像的格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1415_html.md ## CANN社区版-aclmdlSetAIPPRbuvSwapSwitch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1416.html - Description: 动态AIPP场景下,设置是否交换R通道与B通道、或者是否交换U通道与V通道。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1416_html.md ## CANN社区版-aclmdlSetAIPPAxSwapSwitch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1417.html - Description: 动态AIPP场景下,设置RGBA->ARGB或者YUVA->AYUV的交换开关。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1417_html.md ## CANN社区版-aclmdlSetAIPPSrcImageSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1418.html - Description: 动态AIPP场景下,必须设置原始图片的宽和高。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1418_html.md ## CANN社区版-aclmdlSetAIPPScfParams - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1419.html - Description: 动态AIPP场景下,设置缩放相关的参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1419_html.md ## CANN社区版-aclmdlSetAIPPCropParams - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1420.html - Description: 动态AIPP场景下,设置抠图相关的参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1420_html.md ## CANN社区版-aclmdlSetAIPPPaddingParams - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1421.html - Description: 动态AIPP场景下,设置补边相关的参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1421_html.md ## CANN社区版-aclmdlSetAIPPDtcPixelMean - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1422.html - Description: 动态AIPP场景下,设置通道的均值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1422_html.md ## CANN社区版-aclmdlSetAIPPDtcPixelMin - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1423.html - Description: 动态AIPP场景下,设置通道的最小值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1423_html.md ## CANN社区版-aclmdlSetAIPPPixelVarReci - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1424.html - Description: 动态AIPP场景下,设置通道的方差。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1424_html.md ## CANN社区版-aclmdlGetAippDataSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1425.html - Description: 根据batchSize获取动态AIPP输入数据所需的内存大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1425_html.md ## CANN社区版-aclmdlDestroyAIPP - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1426.html - Description: 销毁通过aclmdlCreateAIPP接口创建的aclmdlAIPP类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1426_html.md ## CANN社区版-aclopCreateHandle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1428.html - Description: 创建一个执行算子的handle。 如需销毁handle,请参见aclopDestroyHandle。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1428_html.md ## CANN社区版-aclopDestroyHandle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1429.html - Description: 销毁通过aclopCreateHandle接口创建的执行算子的handle。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1429_html.md ## CANN社区版-aclmdlCreateDataset - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1438.html - Description: 创建aclmdlDataset类型的数据,该数据类型用于描述模型推理时的输入数据、输出数据,模型可能存在多个输入、多个输出,每个输入/输出的内存地址、内存大小用aclDataBuffer\(https://www.hiascend.comdocument/detail/zh/CANNCommunityEdition/920beta1/API/runtimeapi/aclcppdevg031430.h - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1438_html.md ## CANN社区版-aclmdlDestroyDataset - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1439.html - Description: 销毁通过aclmdlCreateDataset接口创建的aclmdlDataset类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1439_html.md ## CANN社区版-aclmdlAddDatasetBuffer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1440.html - Description: 向aclmdlDataset中增加aclDataBuffer。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1440_html.md ## CANN社区版-aclmdlGetDatasetNumBuffers - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1441.html - Description: 获取aclmdlDataset中aclDataBuffer的个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1441_html.md ## CANN社区版-aclmdlGetDatasetBuffer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1442.html - Description: 获取aclmdlDataset中的第n个aclDataBuffer。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1442_html.md ## CANN社区版-aclmdlSetDatasetTensorDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1443.html - Description: 如果模型输入或输出的Shape是动态的,在模型执行之前调用本接口设置模型输入或输出的tensor描述信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1443_html.md ## CANN社区版-aclmdlGetDatasetTensorDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1444.html - Description: 如果模型输入或输出的Shape是动态的,模型在模型执行之后可以调用本接口从aclmdlDataset类型的数据(该类型用于描述模型推理时的输入数据、输出数据)中获取指定的输入或者输出的Tensor描述信息。 典型场景举例:如果模型输入Shape是动态的,在模型执行之前调aclmdlSetDatasetTensorDesc设置该输入的tensor描述信息,在模型执行之后,调用aclmdlGetDat - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1444_html.md ## CANN社区版-aclmdlCreateDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1446.html - Description: 创建aclmdlDesc类型的数据,表示模型描述信息。 如需销毁aclmdlDesc类型的数据,请参见aclmdlDestroyDesc。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1446_html.md ## CANN社区版-aclmdlDestroyDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1447.html - Description: 销毁通过aclmdlCreateDesc接口创建的aclmdlDesc类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1447_html.md ## CANN社区版-aclmdlGetDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1448.html - Description: 根据模型ID获取该模型的模型描述信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1448_html.md ## CANN社区版-aclmdlGetNumInputs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1449.html - Description: 根据模型描述信息获取模型的输入个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1449_html.md ## CANN社区版-aclmdlGetNumOutputs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1450.html - Description: 根据模型描述信息获取模型的输出个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1450_html.md ## CANN社区版-aclmdlGetInputSizeByIndex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1451.html - Description: 根据模型描述信息获取指定输入的大小,单位为Byte。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1451_html.md ## CANN社区版-aclmdlGetOutputSizeByIndex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1452.html - Description: 根据模型描述信息获取指定输出的大小,单位为Byte。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1452_html.md ## CANN社区版-aclmdlGetInputDims - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1453.html - Description: 根据模型描述信息获取模型的输入tensor的维度信息。 如果模型中含有静态AIPP配置信息,您可以根据实际需要选择aclmdlGetInputDims接口或aclmdlGetInputDimsV2接口查询维度信息,两者的区别在于: - 通过 aclmdlGetInputDims 接口获取的维度信息,各维度的值与输入图像的各维度的值保持一致,详细规则如 表1 所示。 - 通过 aclmdlGe - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1453_html.md ## CANN社区版-aclmdlGetInputDimsV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1454.html - Description: 根据模型描述信息获取模型的输入tensor的维度信息。 如果模型中含有静态AIPP配置信息,您可以根据实际需要选择aclmdlGetInputDims接口或aclmdlGetInputDimsV2接口查询维度信息,两者的区别在于: - 通过 aclmdlGetInputDims 接口获取的维度信息,各维度的值与输入图像的各维度的值保持一致,详细规则如 表1 所示。 - 通过 aclmdlGe - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1454_html.md ## CANN社区版-aclmdlGetOutputDims - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1455.html - Description: 根据模型描述信息获取指定的模型输出tensor的维度信息。 固定Shape场景下,通过该接口获取指定的模型输出tensor的维度信息。 动态Shape(动态Batch或动态分辨率)场景下,通过该接口获取最大档的维度信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1455_html.md ## CANN社区版-aclmdlGetInputNameByIndex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1456.html - Description: 根据模型描述信息获取模型中指定输入的输入名称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1456_html.md ## CANN社区版-aclmdlGetOutputNameByIndex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1457.html - Description: 根据模型描述信息获取模型中指定输出的输出算子名称、算子输出边的下标、top名称或输出名称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1457_html.md ## CANN社区版-aclmdlGetInputFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1458.html - Description: 根据模型描述信息获取模型中指定输入的Format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1458_html.md ## CANN社区版-aclmdlGetOutputFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1459.html - Description: 根据模型描述信息获取模型中指定输出的Format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1459_html.md ## CANN社区版-aclmdlGetInputDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1460.html - Description: 根据模型描述信息获取模型中指定输入的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1460_html.md ## CANN社区版-aclmdlGetOutputDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1461.html - Description: 根据模型描述信息获取模型中指定输出的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1461_html.md ## CANN社区版-aclmdlGetInputIndexByName - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1462.html - Description: 根据模型中的输入名称获取对应输入的索引编号。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1462_html.md ## CANN社区版-aclmdlGetOutputIndexByName - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1463.html - Description: 根据模型中的输出名称获取对应输出的索引编号。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1463_html.md ## CANN社区版-aclmdlGetDynamicBatch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1464.html - Description: 根据模型描述信息获取模型支持的动态Batch信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1464_html.md ## CANN社区版-aclmdlGetDynamicHW - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1465.html - Description: 根据模型描述信息获取模型支持的动态宽高信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1465_html.md ## CANN社区版-aclmdlGetCurOutputDims - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1466.html - Description: 根据模型描述信息获取指定的模型输出tensor的实际维度信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1466_html.md ## aclmdlGetInputDynamicGearCount - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1467.html - Description: 根据模型描述信息获取模型的输入所支持的动态维度档位数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1467_html.md ## CANN社区版-aclmdlGetInputDynamicDims - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1468.html - Description: 根据模型描述信息获取模型的输入所支持的动态维度信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1468_html.md ## CANN社区版-aclmdlGetTensorRealName - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1469.html - Description: 根据指定名称获取tensor的真实名称。 aclmdlGetTensorRealName接口需要与aclmdlGetInputDims/aclmdlGetInputDimsV2/aclmdlGetOutputDims/aclmdlGetCurOutputDims接口配合使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1469_html.md ## CANN社区版-aclmdlGetOpAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1470.html - Description: 获取整网中某个模型中某个算子的属性的值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1470_html.md ## CANN社区版-aclmdlGetDescFromFile - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1471.html - Description: 根据模型文件获取该模型的模型描述信息。 通过本接口获取到的模型描述信息,无法应用于aclmdlGetOpAttr、aclmdlGetCurOutputDims接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1471_html.md ## CANN社区版-aclmdlGetDescFromMem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1472.html - Description: 从内存获取该模型的模型描述信息。 通过本接口获取到的模型描述信息,无法应用于aclmdlGetOpAttr、aclmdlGetCurOutputDims接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1472_html.md ## CANN社区版-aclmdlGetInputDimsRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1473.html - Description: 根据模型描述信息获取模型的输入tensor的维度范围。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1473_html.md ## CANN社区版-aclCreateTensorDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1475.html - Description: 创建aclTensorDesc类型的数据,该数据类型用于描述tensor的数据类型、shape、format等信息。 如需销毁aclTensorDesc类型的数据,请参见aclDestroyTensorDesc。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1475_html.md ## CANN社区版-aclDestroyTensorDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1476.html - Description: 销毁aclTensorDesc类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1476_html.md ## CANN社区版-aclGetTensorDescType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1477.html - Description: 获取tensor描述中的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1477_html.md ## CANN社区版-aclGetTensorDescFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1478.html - Description: 获取tensor描述中的format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1478_html.md ## CANN社区版-aclGetTensorDescSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1479.html - Description: 获取tensor数据占用的空间大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1479_html.md ## CANN社区版-aclGetTensorDescElementCount - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1480.html - Description: 获取tensor描述中的元素个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1480_html.md ## CANN社区版-aclGetTensorDescNumDims - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1481.html - Description: 获取tensor描述中shape的维度个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1481_html.md ## aclGetTensorDescDim(废弃) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1482.html - Description: 须知:此接口后续版本会废弃,请使用aclGetTensorDescDimV2接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1482_html.md ## CANN社区版-aclGetTensorDescDimV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1483.html - Description: 获取tensor描述中指定维度的大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1483_html.md ## CANN社区版-aclGetTensorDescDimRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1484.html - Description: 获取tensor描述中指定维度的范围,\[1,-1\]表示全shape范围。 当aclGetTensorDescNumDims接口的返回值为ACLUNKNOWNRANK时,表示动态Shape场景下维度个数未知,则不能调用aclGetTensorDescDimRange接口获取指定维度的范围。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1484_html.md ## CANN社区版-aclSetTensorDescName - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1485.html - Description: 设置TensorDesc的名称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1485_html.md ## CANN社区版-aclGetTensorDescName - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1486.html - Description: 获取TensorDesc的名称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1486_html.md ## CANN社区版-aclTransTensorDescFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1487.html - Description: 须知:本接口为预留接口,暂不支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1487_html.md ## aclSetTensorStorageShape(废弃) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1488.html - Description: 须知:此接口后续版本会废弃,请使用aclSetTensorShape接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1488_html.md ## aclSetTensorStorageFormat(废弃) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1489.html - Description: 须知:此接口后续版本会废弃,请使用aclSetTensorFormat接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1489_html.md ## CANN社区版-aclSetTensorOriginShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1490.html - Description: 调用aclCreateTensorDesc接口创建tensor描述信息后,可通过aclSetTensorOriginShape接口设置tensor的原始dims信息。 例如,某算子的原始Format为NHWC(原始Shape为4维)或者NDHWC(原始Shape为5维),为了提高数据访问效率,在进行模型转换或者在线构建网络时会自动转换Format,将原始数据Format转化为AI处理器内部计算数据 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1490_html.md ## CANN社区版-aclSetTensorOriginFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1491.html - Description: 调用aclCreateTensorDesc接口创建tensor描述信息后,可通过aclSetTensorOriginFormat设置tensor的原始Format信息。 例如,某算子的原始Format为NHWC(原始Shape为4维)或者NDHWC(原始Shape为5维),为了提高数据访问效率,在进行模型转换或者在线构建网络时会自动转换Format,将原始数据Format转化为AI处理器内部计算数 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1491_html.md ## CANN社区版-aclSetTensorShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1492.html - Description: 调用aclCreateTensorDesc接口创建tensor描述信息后,可通过aclSetTensorShape接口设置AI处理器内部处理tensor时的dims信息。 例如,某算子的原始Format为NHWC(原始Shape为4维)或者NDHWC(原始Shape为5维),为了提高数据访问效率,在进行模型转换或者在线构建网络时会自动转换Format,将原始数据Format转化为AI处理器内部计算 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1492_html.md ## CANN社区版-aclSetTensorFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1493.html - Description: 调用aclCreateTensorDesc接口创建tensor描述信息后,可通过aclSetTensorFormat设置AI处理器内部处理tensor时的Format信息。 例如,某算子的原始Format为NHWC(原始Shape为4维)或者NDHWC(原始Shape为5维),为了提高数据访问效率,在进行模型转换或者在线构建网络时会自动转换Format,将原始数据Format转化为AI处理器内部计 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1493_html.md ## CANN社区版-aclSetTensorShapeRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1494.html - Description: 调用aclCreateTensorDesc接口创建tensor描述信息后,可通过本接口设置tensor的各个维度的取值范围。 使用场景:动态Shape的算子,其输入Shape中变化维度用-1表示,但每个变化维度的范围是不一样的,需要显式设置,如Shape为\[16,-1,20,-1\],对应的shape range可以是\[\[16,16\],\[1,128\],\[20,20\],\[1,10\]\],表示第一维的Sh - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1494_html.md ## CANN社区版-aclSetTensorDynamicInput - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1495.html - Description: 调用aclCreateTensorDesc接口创建tensor描述信息后,可通过aclSetTensorDynamicInput接口设置多个动态输入的分组标识,例如某个算子包括动态输入为x、必选输入y,其中动态输入有多个,调用aclSetTensorDynamicInput将dynamicInputName设置为x,接口内部根据dynamicInputName索引到对应的多个动态输入,达到分组的目 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1495_html.md ## CANN社区版-aclGetTensorDescByIndex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1496.html - Description: 获取算子的指定Index的tensor描述信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1496_html.md ## CANN社区版-aclGetTensorDescAddress - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1497.html - Description: 获取指定算子输入/输出的tensor数据的内存地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1497_html.md ## CANN社区版-aclSetTensorConst - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1498.html - Description: 为算子设置constant输入,指定存放输入tensor数据的内存地址和地址长度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1498_html.md ## CANN社区版-aclSetTensorPlaceMent - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1499.html - Description: 设置TensorDesc的placement属性,用于标识存放Tensor数据的内存类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1499_html.md ## CANN社区版-aclSetTensorValueRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1500.html - Description: 调用aclCreateTensorDesc接口创建tensor描述信息后,可通过本接口设置tensor的数据值的范围。 使用场景:部分算子input的值就是该算子的输出Shape,在动态Shape场景下,这个Shape的值就有一个取值范围,在执行算子时,需要在input上设置Shape值的范围(例如:\[\[16,16\],\[1,128\],\[20,20\],\[1,10\]\]),这样才能正常编译、执行算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1500_html.md ## CANN社区版-aclopCreateAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1502.html - Description: 创建aclopAttr类型的数据,该数据类型用于保存算子的属性。 如需销毁aclopAttr类型的数据,请参见aclopDestroyAttr。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1502_html.md ## CANN社区版-aclopDestroyAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1503.html - Description: 销毁通过aclopCreateAttr接口创建的aclopAttr类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1503_html.md ## CANN社区版-aclopSetAttrBool - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1504.html - Description: 设置bool类型标量的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1504_html.md ## CANN社区版-aclopSetAttrInt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1505.html - Description: 设置int64t类型标量的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1505_html.md ## CANN社区版-aclopSetAttrFloat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1506.html - Description: 设置float类型标量的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1506_html.md ## CANN社区版-aclopSetAttrString - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1507.html - Description: 设置字符串类型标量的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1507_html.md ## CANN社区版-aclopSetAttrListBool - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1508.html - Description: 设置bool类型列表的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1508_html.md ## CANN社区版-aclopSetAttrListInt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1509.html - Description: 设置int64t类型列表的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1509_html.md ## CANN社区版-aclopSetAttrListFloat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1510.html - Description: 设置float类型列表的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1510_html.md ## CANN社区版-aclopSetAttrListString - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1511.html - Description: 设置字符串类型列表的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1511_html.md ## CANN社区版-aclopSetAttrListListInt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1512.html - Description: 设置int64t类型列表的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1512_html.md ## CANN社区版-aclopSetAttrDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1513.html - Description: 设置指定属性的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1513_html.md ## CANN社区版-aclopSetAttrListDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1514.html - Description: 设置指定属性列表的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1514_html.md ## CANN社区版-aclmdlCreateConfigHandle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1635.html - Description: 创建aclmdlConfigHandle类型的数据,表示一个模型加载的配置对象。 如需销毁aclmdlConfigHandle类型的数据,请参见aclmdlDestroyConfigHandle。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1635_html.md ## CANN社区版-aclmdlDestroyConfigHandle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1636.html - Description: 销毁通过aclmdlCreateConfigHandle接口创建的aclmdlConfigHandle类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1636_html.md ## CANN社区版-aclCreateGraphDumpOpt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1657.html - Description: 创建aclGraphDumpOption类型的数据,表示单算子图Dump配置信息,用于设置图Dump时的选项(当前还没有选项,预留该数据类型,便于后续扩展)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1657_html.md ## CANN社区版-aclDestroyGraphDumpOpt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1658.html - Description: 销毁通过aclCreateGraphDumpOpt接口创建的aclGraphDumpOption类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1658_html.md ## CANN社区版-aclmdlCreateExecConfigHandle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1660.html - Description: 创建aclmdlExecConfigHandle类型的数据,表示一个模型执行的配置对象。 如需销毁aclmdlExecConfigHandle类型的数据,请参见aclmdlDestroyExecConfigHandle。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1660_html.md ## CANN社区版-aclmdlDestroyExecConfigHandle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1661.html - Description: 销毁通过aclmdlCreateExecConfigHandle接口创建的aclmdlExecConfigHandle类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1661_html.md ## aclmdlSetExternalWeightAddress - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_1987.html - Description: 配置存放外置权重的Device内存,调用方需在模型加载前将外置权重数据复制到该内存中。若存在多个外置权重文件,则需多次调用此接口。 模型加载过程中,计算图中的每一个FileConstant节点会保存对应外置权重文件的路径(例如/xx/../weighthasid1),图引擎( Graph Engine ,简称GE)根据路径中的文件名(例如weighthasid1)检索用户是否配置了外置权重的Dev - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_1987_html.md ## CANN社区版-aclmdlBundleCreateQueryInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_2102.html - Description: 创建aclmdlBundleQueryInfo类型的数据,表示模型描述信息。 如需销毁aclmdlBundleQueryInfo类型的数据,请参见aclmdlBundleDestroyQueryInfo。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_2102_html.md ## CANN社区版-aclmdlBundleDestroyQueryInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_2103.html - Description: 销毁通过aclmdlBundleCreateQueryInfo接口创建的aclmdlBundleQueryInfo类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_2103_html.md ## CANN社区版-aclmdlBundleQueryInfoFromFile - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_2104.html - Description: 模型执行阶段,如果涉及动态更新变量的场景,可以调用本接口从模型文件获取其描述信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_2104_html.md ## CANN社区版-aclmdlBundleQueryInfoFromMem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_2105.html - Description: 模型执行阶段,如果涉及动态更新变量的场景,可以调用本接口从内存中获取模型描述信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_2105_html.md ## CANN社区版-aclmdlBundleGetQueryModelNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_2106.html - Description: 根据aclmdlBundleQueryInfo查询模型中的图总数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_2106_html.md ## CANN社区版-aclmdlBundleGetVarWeightSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_2107.html - Description: 获取模型的可更新权重内存大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_2107_html.md ## CANN社区版-aclmdlBundleGetSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_2108.html - Description: 根据模型描述信息和图索引获取图执行时所需的权值内存大小、工作内存大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_2108_html.md ## CANN社区版-aclmdlBundleInitFromFile - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_2109.html - Description: 在模型执行阶段,如果涉及动态更新变量的场景,可以调用本接口从模型文件中初始化模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_2109_html.md ## CANN社区版-aclmdlBundleInitFromMem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_2110.html - Description: 在模型执行阶段,如果涉及动态更新变量的场景,可以调用本接口从内存中初始化模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_2110_html.md ## CANN社区版-aclmdlBundleLoadModel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_2111.html - Description: 根据图索引加载模型中的图,由系统内部管理内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_2111_html.md ## CANN社区版-aclmdlBundleLoadModelWithMem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_2112.html - Description: 根据图索引加载模型中的图,由用户自行管理模型运行的内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_2112_html.md ## aclmdlBundleLoadModelWithConfig - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_2113.html - Description: 根据图索引加载模型中的图,同时可以指定加载配置信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_2113_html.md ## CANN社区版-aclmdlBundleUnloadModel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_2114.html - Description: 卸载模型中的图。 返回0表示成功, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_2114_html.md ## 单算子模型执行总体说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_2198.html - Description: 须知:本章中的单算子模型执行接口后续版本会废弃,替换方案请参见废弃接口替换方案。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_2198_html.md ## 执行固定Shape算子示例代码 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_2199.html - Description: 本节介绍基于单算子模型执行的方式调用固定Shape算子的关键接口、示例代码。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_2199_html.md ## 执行动态Shape算子示例代码 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_2200.html - Description: 本节介绍基于单算子模型执行的方式调用动态Shape算子的关键接口、示例代码。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_2200_html.md ## 调用CBLAS接口执行算子示例代码 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppdevg_03_2201.html - Description: 本节介绍基于单算子模型执行的方式调用CBLAS算子的关键接口、示例代码。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppdevg_03_2201_html.md ## 废弃接口和返回码列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppge_00_0002.html - Description: - aclopExecute - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppge_00_0002_html.md ## 同步和异步API说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppge_00_0003.html - Description: CANN Runtime支持以下几类显式同步,调用此类接口后,主机线程会阻塞直到相关的任务执行完成。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppge_00_0003_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppge_00_0004.html - Description: 接口名以acl作为前缀,命名风格为:acl+接口类别缩写+*,其中,*表示操作动词和对象,均采用首字母大写。下文为了描述方便,将本文中的接口统称为acl接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppge_00_0004_html.md ## CANN社区版-aclRecoverAllHcclTasks - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppge_00_0008.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于生产环境中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppge_00_0008_html.md ## CANN社区版-aclError - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclcppge_00_0010.html - Description: ``` typedef int aclError; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclcppge_00_0010_html.md ## 废弃接口/返回码列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0002.html - Description: - acl.op.execute接口 此接口后续版本会废弃,请使用acl.op.executev2接口。 - acl.gettensordescdim接口 此接口后续版本会废弃,请使用acl.gettensordescdimv2接口。 - acl.getdatabuffersize\(https://www.hiascend. - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0002_html.md ## 同步&异步API说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0003.html - Description: CANN支持以下几类显式同步,调用此类接口后,主机线程会阻塞直到相关的任务执行完成。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0003_html.md ## 函数:create\_tensor\_desc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0023.html - Description: 创建aclTensorDesc类型的数据,该数据类型用于描述Tensor的数据类型、Shape、Format等信息。 如需销毁aclTensorDesc类型的数据,请参见函数:destroytensordesc。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0023_html.md ## 函数:get\_tensor\_desc\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0025.html - Description: 获取Tensor描述中的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0025_html.md ## 函数:get\_tensor\_desc\_format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0026.html - Description: 获取tensor描述中的format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0026_html.md ## 函数:get\_tensor\_desc\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0027.html - Description: 获取Tensor描述占用的空间大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0027_html.md ## 函数:get\_tensor\_desc\_element\_count - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0028.html - Description: 获取Tensor描述中的元素个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0028_html.md ## 函数:get\_tensor\_desc\_num\_dims - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0029.html - Description: 获取Tensor描述中Shape的维度个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0029_html.md ## 函数:get\_tensor\_desc\_dim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0030.html - Description: 获取Tensor描述中指定维度的大小。 此接口后续版本会废弃,请使用acl.gettensordescdimv2接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0030_html.md ## 函数:get\_tensor\_desc\_dim\_v2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0031.html - Description: 获取Tensor描述中指定维度的大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0031_html.md ## 函数:get\_tensor\_desc\_dim\_range - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0032.html - Description: 获取Tensor描述中指定维度的范围,\[1, -1\]表示全Shape范围。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0032_html.md ## 函数:set\_tensor\_desc\_name - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0033.html - Description: 设置TensorDesc的名称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0033_html.md ## 函数:get\_tensor\_desc\_name - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0034.html - Description: 获取Tensor描述的名称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0034_html.md ## 函数:set\_tensor\_storage\_shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0035.html - Description: 调用acl.createtensordesc接口创建Tensor描述信息后,可通过acl.settensorstorageshape设置Tensor的实际“dims”信息,当前主要用于PyTorch场景下。 此接口后续版本会废弃,请使用acl.settensorshape接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0035_html.md ## 函数:set\_tensor\_storage\_format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0036.html - Description: 调用acl.createtensordesc接口创建Tensor描述信息后,可通过acl.settensorstorageformat设置Tensor的实际Format信息,当前主要用于PyTorch场景下。 此接口后续版本会废弃,请使用acl.settensorformat接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0036_html.md ## 函数:set\_tensor\_origin\_shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0037.html - Description: 调用acl.createtensordesc接口创建Tensor描述信息后,可通过acl.settensororiginshape设置Tensor的原始维度信息,当前主要用于PyTorch场景下。 例如,某算子的原始Format为NHWC(原始Shape为4维)或者NDHWC(原始Shape为5维),为了提高数据访问效率,在进行模型转换或者在线构建网络时会自动转换Format,将原始数据Forma - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0037_html.md ## 函数:set\_tensor\_origin\_format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0038.html - Description: 调用acl.createtensordesc接口创建Tensor描述信息后,可通过acl.settensororiginformat设置Tensor的原始Format信息,当前主要用于PyTorch场景下。 例如,某算子的原始Format为NHWC(原始Shape为4维)或者NDHWC(原始Shape为5维),为了提高数据访问效率,在进行模型转换或者在线构建网络时会自动转换Format,将原始数据 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0038_html.md ## 函数:set\_tensor\_shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0039.html - Description: 调用acl.createtensordesc接口创建Tensor描述信息后,可通过acl.settensorshape设置AI处理器内部处理Tensor时的维度信息,当前主要用于PyTorch场景下。 例如,某算子的原始Format为NHWC(原始Shape为4维)或者NDHWC(原始Shape为5维),为了提高数据访问效率,在进行模型转换或者在线构建网络时会自动转换Format,将原始数据For - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0039_html.md ## 函数:set\_tensor\_format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0040.html - Description: 调用acl.createtensordesc接口创建Tensor描述信息后,可通过acl.settensorformat设置昇腾AI处理器内部处理Tensor时的Format信息,当前主要用于PyTorch场景下。 例如,某算子的原始Format为NHWC(原始Shape为4维)或者NDHWC(原始Shape为5维),为了提高数据访问效率,在进行模型转换或者在线构建网络时会自动转换Format,将 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0040_html.md ## 函数:set\_tensor\_const - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0041.html - Description: 为算子设置constant输入,指定存放输入Tensor数据的内存地址和地址长度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0041_html.md ## 函数:set\_tensor\_shape\_range - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0042.html - Description: 调用acl.createtensordesc接口创建Tensor描述信息后,可通过本接口设置Tensor的各个维度的取值范围。 使用场景:动态Shape的算子,其输入Shape中变化维度用“-1”表示,但每个变化维度的范围是不一样的,需要显式设置。 如Shape为\[16, -1, 20, -1\],对应的shape range可以是\[\[16, 16\], \[1, 128\], \[20, 20\], \[1, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0042_html.md ## 函数:set\_tensor\_dynamic\_input - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0043.html - Description: 调用acl.createtensordesc接口创建Tensor描述信息后,可通过acl.settensordynamicinput接口设置算子动态输入的动态输入属性的名称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0043_html.md ## 函数:get\_tensor\_desc\_by\_index - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0044.html - Description: 获取算子的指定Index的Tensor描述信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0044_html.md ## 函数:get\_tensor\_desc\_address - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0045.html - Description: 获取指定算子输入/输出的Tensor数据的指针地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0045_html.md ## 函数:set\_tensor\_place\_ment - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0046.html - Description: 设置Tensor描述的placement属性,用于标识存放Tensor数据的内存为Host内存或Device内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0046_html.md ## 函数:set\_tensor\_value\_range - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0047.html - Description: 调用acl.createtensordesc接口创建Tensor描述信息后,可通过本接口设置Tensor的数据值的范围。 使用场景:部分算子input的值就是该算子的输出Shape,在动态Shape场景下,这个Shape的值就有一个取值范围,在执行算子时,需要在input上设置Shape值的范围(例如:\[\[16, 16\], \[1, 128\], \[20, 20\], \[1, 10\]\]),才能正常执行算 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0047_html.md ## 函数:trans\_tensor\_desc\_format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0048.html - Description: 根据指定的“dstFormat”转换“srcDesc”(输入源aclTensorDesc中)的Format,生成新的目标aclTensorDesc,源aclTensorDesc中的Format保持不变。当前版本不支持该接口,预留接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0048_html.md ## 函数:load\_from\_file - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0139.html - Description: 从文件加载离线模型数据(适配AI处理器的离线模型),由系统内部管理内存。 系统完成模型加载后,返回的模型ID,作为后续操作时用于识别模型的标志。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0139_html.md ## 函数:load\_from\_mem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0140.html - Description: 从内存加载离线模型数据,由系统内部管理模型运行的内存。 系统完成模型加载后,返回的模型ID,作为后续操作时用于识别模型的标志。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0140_html.md ## 函数:load\_from\_file\_with\_mem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0141.html - Description: 从文件加载离线模型数据(适配AI处理器的离线模型),由用户自行管理模型运行的内存。 系统完成模型加载后,返回的模型ID,作为后续操作时用于识别模型的标志。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0141_html.md ## 函数:load\_from\_mem\_with\_mem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0142.html - Description: 从内存加载离线模型数据,由用户自行管理模型运行的内存。 系统完成模型加载后,返回的模型ID,作为后续操作时用于识别模型的标志。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0142_html.md ## 函数:execute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0145.html - Description: 执行模型推理,直到返回推理结果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0145_html.md ## 函数:execute\_v2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0146.html - Description: 根据acl.mdl.setexecconfigopt接口所配置的属性,执行模型推理,直到返回推理结果。该接口是在acl.mdl.execute接口基础上进行了增强,支持在执行模型推理时控制Stream任务的超时时间、Event任务的超时时间。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0146_html.md ## 函数:execute\_async - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0147.html - Description: 执行模型推理,异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0147_html.md ## 函数:unload - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0148.html - Description: 系统完成模型推理后,可调用该接口卸载模型,释放资源。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0148_html.md ## 函数:query\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0149.html - Description: 根据模型文件获取模型执行时所需的权值内存大小、工作内存大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0149_html.md ## 函数:query\_size\_from\_mem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0150.html - Description: 根据内存中的模型数据获取模型执行时所需的权值内存大小、工作内存大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0150_html.md ## 函数:set\_dynamic\_batch\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0151.html - Description: 在动态Batch场景下,在模型执行前调用本接口设置模型推理时的批量大小Batch(每次处理图片的数量)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0151_html.md ## 函数:set\_dynamic\_hw\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0152.html - Description: 动态分辨率场景下,在模型执行前调用本接口设置模型推理时输入图片的高和宽。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0152_html.md ## 函数:create\_and\_get\_op\_desc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0153.html - Description: 获取指定算子的描述信息,包括算子名、输入Tensor描述、输出Tensor描述,如果查询不到指定算子,则返回报错。该接口不支持动态Shape场景。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0153_html.md ## 函数:get\_aipp\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0157.html - Description: 获取指定模型的指定输入所支持的AIPP类型(动态AIPP或静态AIPP)及动态AIPP输入对应的index值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0157_html.md ## 函数:set\_aipp\_by\_input\_index - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0158.html - Description: 动态AIPP场景下,根据指定的模型输入的输入index,设置模型推理时的AIPP参数值。 动态AIPP支持的几种操作的计算方式及其计算顺序如下: 1. 抠图 2. 色域转换 3. 减均值/归一化 4. 补边 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0158_html.md ## 函数:set\_input\_dynamic\_dims - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0159.html - Description: 如果模型输入的Shape是动态的、输入数据Format为ND格式(ND表示支持任意格式),在模型执行前调用本接口设置模型推理时具体维度的值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0159_html.md ## 函数:create\_config\_handle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0160.html - Description: 创建aclmdlConfigHandle类型的数据,表示一个模型加载的配置对象。 如需销毁aclmdlConfigHandle类型的数据,请参见acl.mdl.destroyconfighandle。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0160_html.md ## 函数:destroy\_config\_handle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0161.html - Description: 销毁通过acl.mdl.createconfighandle接口创建的aclmdlConfigHandle类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0161_html.md ## 函数:set\_config\_opt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0162.html - Description: 设置模型加载的配置对象中的各属性的取值,包括模型执行的优先级、模型的文件路径或内存地址、内存大小等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0162_html.md ## 函数:load\_with\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0163.html - Description: 指定模型加载时需要的配置信息,并进行模型加载。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0163_html.md ## 函数:get\_tensor\_real\_name - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0164.html - Description: 根据指定名称获取Tensor的真实名称。 acl.mdl.gettensorrealname接口需要与以下接口配合使用。 - acl.mdl.getinputdims - acl.mdl.getinputdimsv2 - acl.mdl.getoutputdims - acl.mdl.getcuroutputdims - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0164_html.md ## 函数:create\_exec\_config\_handle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0165.html - Description: 创建aclmdlExecConfigHandle类型的数据,表示一个模型执行的配置对象的指针地址。 如需销毁aclmdlExecConfigHandle类型的数据,请参见函数:destroyexecconfighandle。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0165_html.md ## 函数:destroy\_exec\_config\_handle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0166.html - Description: 销毁通过acl.mdl.createexecconfighandle接口创建的aclmdlExecConfigHandle类型数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0166_html.md ## 函数:set\_exec\_config\_opt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0167.html - Description: 设置模型执行的配置对象中的各属性的取值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0167_html.md ## 函数:create\_aipp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0169.html - Description: 动态AIPP场景下,根据模型支持的batch size创建aclmdlAIPP类型的数据,用于存放动态AIPP的参数。 如需销毁aclmdlAIPP类型的数据,请参见函数:destroyaipp。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0169_html.md ## 函数:destroy\_aipp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0170.html - Description: 销毁通过acl.mdl.createaipp接口创建的aclmdlAIPP类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0170_html.md ## 函数:set\_aipp\_input\_format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0172.html - Description: 动态AIPP场景下,必须设置原始输入图像的格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0172_html.md ## 函数:set\_aipp\_csc\_params - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0173.html - Description: 动态AIPP场景下,设置CSC色域转换相关的参数,若色域转换开关关闭,则调用该接口设置的参数无效。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0173_html.md ## 函数:set\_aipp\_rbuv\_swap\_switch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0174.html - Description: 动态AIPP场景下,CSC色域转换前,设置是否交换R通道与B通道或者是否交换U通道与V通道。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0174_html.md ## 函数:set\_aipp\_ax\_swap\_switch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0175.html - Description: 动态AIPP场景下,设置RGBA->ARGB或者YUVA->AYUV的交换开关。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0175_html.md ## 函数:set\_aipp\_src\_image\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0176.html - Description: 动态AIPP场景下,必须设置原始图片的宽和高。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0176_html.md ## 函数:set\_aipp\_crop\_params - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0178.html - Description: 动态AIPP场景下,设置缩放相关的参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0178_html.md ## 函数:set\_aipp\_padding\_params - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0179.html - Description: 动态AIPP场景下,设置补边相关的参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0179_html.md ## 函数:set\_aipp\_dtc\_pixel\_mean - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0180.html - Description: 动态AIPP场景下,设置通道的均值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0180_html.md ## 函数:set\_aipp\_dtc\_pixel\_min - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0181.html - Description: 动态AIPP场景下,设置通道的最小值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0181_html.md ## 函数:set\_aipp\_pixel\_var\_reci - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0182.html - Description: 动态AIPP场景下,设置通道的方差。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0182_html.md ## 函数:set\_input\_aipp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0183.html - Description: 动态AIPP场景下,根据指定的动态AIPP输入的输入index,设置模型推理时的AIPP参数值。 动态AIPP支持的几种操作的计算方式及其计算顺序如下: 1. 抠图 2. 色域转换 3. 缩放(当前版本不支持缩放) 4. 减均值/归一化 5. 补边 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0183_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0185.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 函数:create\_dataset - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0186.html - Description: 创建aclmdlDataset类型的数据。 该数据类型用于描述模型推理时的输入数据、输出数据,模型可能存在多个输入、多个输出,每个输入/输出的内存地址、内存大小用aclDataBuffer类型的数据来描述。 如需销毁aclmdlDataset类型的数据,请参见函数:destroydataset。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0186_html.md ## 函数:destroy\_dataset - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0187.html - Description: 销毁通过acl.mdl.createdataset接口创建的aclmdlDataset类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0187_html.md ## 函数:add\_dataset\_buffer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0188.html - Description: 向aclmdlDataset中增加aclDataBuffer。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0188_html.md ## 函数:get\_dataset\_num\_buffers - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0189.html - Description: 获取aclmdlDataset中aclDataBuffer的个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0189_html.md ## 函数:get\_dataset\_buffer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0190.html - Description: 获取aclmdlDataset中的第n个aclDataBuffer。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0190_html.md ## 函数:set\_dataset\_tensor\_desc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0191.html - Description: 如果模型输入或输出的Shape是动态的,在模型执行之前调用本接口设置模型输入或输出的Tensor描述信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0191_html.md ## 函数:get\_dataset\_tensor\_desc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0192.html - Description: 如果模型输入或输出的Shape是动态的,模型在模型执行之后可以调用本接口从aclmdlDataset类型的数据(该类型用于描述模型推理时的输入数据、输出数据)中获取指定的输入或者输出的Tensor描述信息。 典型场景举例:如果模型输入Shape是动态的,在模型执行之前调acl.mdl.setdatasettensordesc设置该输入的Tensor描述信息,在模型执行之后,调用acl.mdl.ge - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0192_html.md ## 函数:create\_desc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0194.html - Description: 创建aclmdlDesc类型的数据,表示模型描述信息。 如需销毁aclmdlDesc类型的数据,请参见acl.mdl.destroydesc。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0194_html.md ## 函数:destroy\_desc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0195.html - Description: 销毁通过acl.mdl.createdesc接口创建的aclmdlDesc类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0195_html.md ## 函数:get\_desc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0196.html - Description: 根据模型ID获取该模型的模型描述信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0196_html.md ## 函数:get\_num\_inputs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0197.html - Description: 根据aclmdlDesc类型的数据,获取模型的输入个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0197_html.md ## 函数:get\_num\_outputs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0198.html - Description: 根据aclmdlDesc类型的数据,获取模型的输出个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0198_html.md ## 函数:get\_output\_size\_by\_index - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0200.html - Description: 根据aclmdlDesc类型的数据,获取指定输出的大小,单位为Byte。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0200_html.md ## 函数:get\_input\_dims - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0201.html - Description: 根据模型描述获取模型的输入Tensor的维度信息。 如果模型中含有静态AIPP配置信息,您可以根据实际需要选择acl.mdl.getinputdims接口或acl.mdl.getinputdimsv2接口查询维度信息,两者的区别在于: - 通过acl.mdl.getinputdims接口获取的维度信息,各维度的值与输入图像的各维度的值保持一致,详细规则请参见表1。 - 通过acl.md - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0201_html.md ## 函数:get\_input\_dims\_v2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0202.html - Description: 根据模型描述获取模型的输入Tensor的维度信息。 如果模型中含有静态AIPP配置信息,您可以根据实际需要选择acl.mdl.getinputdims接口或acl.mdl.getinputdimsv2接口查询维度信息,两者的区别在于: - 通过acl.mdl.getinputdims接口获取的维度信息,各维度的值与输入图像的各维度的值保持一致,详细规则请参见表1。 - 通过acl.md - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0202_html.md ## 函数:get\_output\_dims - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0203.html - Description: 根据模型描述获取指定的模型输出Tensor的维度信息。 - 固定Shape场景下,通过该接口获取指定的模型输出Tensor的维度信息。 - 动态Shape(动态Batch或动态分辨率)场景下,通过该接口获取最大档的维度信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0203_html.md ## 函数:get\_input\_name\_by\_index - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0204.html - Description: 获取模型中指定输入的输入名称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0204_html.md ## 函数:get\_output\_name\_by\_index - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0205.html - Description: 根据模型描述信息获取模型中指定输出的输出算子名称、算子输出边的下标、top名称或输出名称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0205_html.md ## 函数:get\_input\_format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0206.html - Description: 根据模型描述信息获取模型中指定输入的Format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0206_html.md ## 函数:get\_output\_format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0207.html - Description: 根据模型描述信息获取模型中指定输出的Format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0207_html.md ## 函数:get\_input\_data\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0208.html - Description: 根据模型描述信息获取模型中指定输入的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0208_html.md ## 函数:get\_output\_data\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0209.html - Description: 根据模型描述信息获取模型中指定输出的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0209_html.md ## 函数:get\_input\_index\_by\_name - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0210.html - Description: 根据模型中的输入名称获取对应输入的索引编号。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0210_html.md ## 函数:get\_output\_index\_by\_name - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0211.html - Description: 根据模型中的输出名称获取对应输出的索引编号。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0211_html.md ## 函数:get\_dynamic\_batch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0212.html - Description: 根据模型描述信息获取模型支持的动态Batch信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0212_html.md ## 函数:get\_dynamic\_hw - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0213.html - Description: 根据模型描述信息获取模型支持的动态宽高信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0213_html.md ## 函数:get\_cur\_output\_dims - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0214.html - Description: 根据模型描述信息获取指定的模型输出tensor的实际维度信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0214_html.md ## 函数:get\_first\_aipp\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0215.html - Description: 获取模型AIPP(包括静态AIPP和动态AIPP)的配置信息。 AIPP支持的几种操作的计算方式及其计算顺序如下: 1. 抠图 2. 色域转换 3. 缩放(当前版本不支持缩放) 4. 减均值/归一化 5. 补边 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0215_html.md ## 函数:get\_input\_dynamic\_gear\_count - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0216.html - Description: 根据模型描述信息获取模型的输入所支持的动态维度档位数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0216_html.md ## 函数:get\_input\_dynamic\_dims - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0217.html - Description: 根据模型描述信息获取模型的输入所支持的动态维度信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0217_html.md ## 函数:get\_op\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0218.html - Description: 获取整网中某个模型中某个算子的属性的值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0218_html.md ## 函数:set\_model\_dir - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0772.html - Description: 设置加载模型文件的目录,目录下存放单算子模型文件(.om文件)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0772_html.md ## 函数:load - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0773.html - Description: 从内存中加载单算子模型数据,由用户管理内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0773_html.md ## 函数:execute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0775.html - Description: 执行指定的算子。异步接口。 此接口后续版本会废弃,请使用acl.op.executev2接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0775_html.md ## 函数:execute\_v2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0776.html - Description: 执行指定的算子。 - C函数原型 1 aclError aclopExecuteV2\(const char opType,int numInputs,aclTensorDesc inputDesc\[\],aclDataBuffer inputs\[\],int numOutputs,aclTensorDesc outputDesc\[\],aclDataBuffe - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0776_html.md ## 函数:execute\_with\_handle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0777.html - Description: 以Handle方式调用一个算子,不支持动态Shape算子,动态Shape算子请使用acl.op.executev2。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0777_html.md ## 函数:cast - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0778.html - Description: 转换输入数据的数据类型,异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0778_html.md ## 函数:create\_handle\_for\_cast - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0779.html - Description: 创建数据类型转换的handle。 创建handle成功后,需调用acl.op.executewithhandle接口执行算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0779_html.md ## 函数:create\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0780.html - Description: 创建aclopAttr类型的数据,该数据类型用于保存算子的属性。 如需销毁aclopAttr类型的数据,请参见acl.op.destroyattr。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0780_html.md ## 函数:destroy\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0781.html - Description: 销毁通过acl.op.createattr接口创建的aclopAttr类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0781_html.md ## 函数:set\_attr\_bool - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0782.html - Description: 设置bool类型标量的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0782_html.md ## 函数:set\_attr\_int - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0783.html - Description: 设置int64t类型标量的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0783_html.md ## 函数:set\_attr\_float - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0784.html - Description: 设置float类型标量的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0784_html.md ## 函数:set\_attr\_string - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0785.html - Description: 设置字符串类型标量的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0785_html.md ## 函数:set\_attr\_list\_bool - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0786.html - Description: 设置bool类型列表的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0786_html.md ## 函数:set\_attr\_list\_int - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0787.html - Description: 设置int64t类型列表的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0787_html.md ## 函数:set\_attr\_list\_float - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0788.html - Description: 设置float类型列表的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0788_html.md ## 函数:set\_attr\_list\_string - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0789.html - Description: 设置字符串类型列表的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0789_html.md ## 函数:set\_attr\_list\_list\_int - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0790.html - Description: 设置int64t类型列表的列表属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0790_html.md ## 函数:create\_handle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0791.html - Description: 创建一个执行算子的handle。 如需销毁handle,请参见acl.op.destroyhandle。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0791_html.md ## 函数:destroy\_handle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0792.html - Description: 销毁一个执行算子的handle。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0792_html.md ## 函数:infer\_shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0793.html - Description: 根据算子的输入Shape、输入值推导出算子的输出Shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0793_html.md ## 函数:set\_attr\_data\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0794.html - Description: 设置指定属性的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0794_html.md ## 函数:set\_attr\_list\_data\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0795.html - Description: 设置指定属性列表的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0795_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0800.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0801.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 函数:gemv\_ex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0802.html - Description: 执行矩阵-向量的乘法,y \= αAx + βy,输入数据、输出数据的数据类型通过入参设置,异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0802_html.md ## 函数:create\_handle\_for\_gemv\_ex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0803.html - Description: 创建矩阵-向量乘的handle,输入数据、输出数据的数据类型通过入参设置。 创建handle成功后,需调用acl.op.executewithhandle接口执行算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0803_html.md ## 函数:hgemv - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0804.html - Description: 执行矩阵-向量的乘法,y \= αAx + βy,输入数据和输出数据的数据类型为aclFloat16,异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0804_html.md ## 函数:create\_handle\_for\_hgemv - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0805.html - Description: 创建矩阵-向量乘的handle,输入数据和输出数据的数据类型为aclFloat16。 创建handle成功后,需调用acl.op.executewithhandle接口执行算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0805_html.md ## 函数:s8gemv - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0806.html - Description: 执行矩阵-向量的乘法,y \= αAx + βy,输入数据的数据类型为int8t,输出数据的数据类型为int32t,异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0806_html.md ## 函数:create\_handle\_for\_s8gemv - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0807.html - Description: 创建矩阵-向量乘的handle,输入数据的数据类型为int8t,输出数据的数据类型为int32t。 创建handle成功后,需调用acl.op.executewithhandle接口执行算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0807_html.md ## 函数:gemm\_ex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0808.html - Description: 执行矩阵-矩阵的乘法,C \= αAB + βC,输入数据、输出数据的数据类型通过入参设置,异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0808_html.md ## 函数:create\_handle\_for\_gemm\_ex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0809.html - Description: 创建矩阵-矩阵乘的handle,输入数据、输出数据的数据类型通过入参设置。 创建handle成功后,需调用acl.op.executewithhandle接口执行算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0809_html.md ## 函数:hgemm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0810.html - Description: 执行矩阵-矩阵的乘法,C \= αAB + βC,输入数据和输出数据的数据类型为aclFloat16,异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0810_html.md ## 函数:create\_handle\_for\_hgemm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0811.html - Description: 创建矩阵-矩阵乘的handle,输入数据和输出数据的数据类型为aclFloat16。 创建handle成功后,需调用acl.op.executewithhandle接口执行算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0811_html.md ## 函数:s8gemm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0812.html - Description: 执行矩阵-矩阵的乘法,C \= αAB + βC,输入数据的数据类型为int8t,输出数据的数据类型为int32t,异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0812_html.md ## 函数:create\_handle\_for\_s8gemm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0813.html - Description: 创建矩阵-矩阵乘的handle,输入数据的数据类型为int8t,输出数据的数据类型为int32t。 创建handle成功后,需调用acl.op.executewithhandle接口执行算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0813_html.md ## 函数:register\_compile\_func - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0815.html - Description: 动态Shape场景下,注册算子选择器,用于在算子执行时,能针对不同shape,选择相应的Tiling策略。 如果某算子已注册算子选择器,则不允许重新注册,如果需要变更算子选择器,必须先调用acl.op.unregistercompilefunc接口取消注册,然后再调用acl.op.registercompilefunc接口重新注册。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0815_html.md ## 函数:unregister\_compile\_func - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0816.html - Description: 动态Shape场景下,取消注册算子选择器。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0816_html.md ## 函数:create\_kernel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0817.html - Description: 动态Shape场景下,将算子注册到系统内部,运行算子时使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0817_html.md ## 函数:set\_kernel\_args - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0818.html - Description: 动态Shape场景下,设置算子Tiling参数、执行并发数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0818_html.md ## 函数:set\_kernel\_workspace\_sizes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0819.html - Description: 动态Shape场景下,设置算子Workspace参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0819_html.md ## 函数:update\_params - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0820.html - Description: 动态Shape场景下,设置算子Tiling参数、执行并发数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0820_html.md ## CANN社区版-aclError - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0911.html - Description: 返回码定义规则: - 规则1:开发人员的环境异常或者代码逻辑错误,可以通过优化环境或代码逻辑的方式解决问题,此时返回码定义为:1XXXXX。 - 规则2:资源不足(Stream、内存等)、开发人员编程时使用的接口或参数与当前硬件不匹配,可以通过在编程时合理使用资源的方式解决,此时返回码定义为:2XXXXX。 - 规则3:业务功能异常,比如队列满、队列空等,此时返回码定义为3XXXXX。 - 规则4 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0911_html.md ## CANN社区版-aclTransType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0921.html - Description: | 转置方式 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0921_html.md ## CANN社区版-aclComputeType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0922.html - Description: | 计算精度类型 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0922_html.md ## CANN社区版-aclAippInputFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0924.html - Description: Aipp输入图像格式 说明 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0924_html.md ## CANN社区版-aclAippInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0925.html - Description: 静态Aipp配置信息 含义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0925_html.md ## CANN社区版-aclAippDims - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0926.html - Description: aipp维度信息 含义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0926_html.md ## CANN社区版-aclmdlIODims - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0927.html - Description: 模型输入输出维度信息 含义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0927_html.md ## CANN社区版-aclmdlInputAippType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0932.html - Description: 模型输入的AIPP类型 含义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0932_html.md ## CANN社区版-aclmdlConfigAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0938.html - Description: 模型加载配置类型 含义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0938_html.md ## CANN社区版-aclmdlExecConfigAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0939.html - Description: | 参数项 | 含义 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0939_html.md ## 函数:get\_aipp\_data\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_0992.html - Description: 根据batchsize获取动态AIPP输入数据所需的内存大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_0992_html.md ## 函数:set\_max\_op\_queue\_num - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_1095.html - Description: 通过单算子模型方式执行单个算子时,配置算子缓存信息老化信息,以达到节约内存和平衡调用性能的目的。 关于单算子模型的介绍请参见接口调用流程\(https://www.hiascend.comdocument/detail/zh/CANNCommunityEdition/920beta1/others/acldevg/aclpythondevg0069.html\)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_1095_html.md ## 函数:bundle\_load\_from\_file - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_1096.html - Description: 模型执行阶段若涉及动态更新变量的场景,可调用本接口从文件加载离线模型数据(适配AI处理器的离线模型),由系统内部管理内存。 本接口需与以下其它接口配合使用,以便实现动态更新变量的目的,关键接口的调用流程如下: 1. 基于构图方式编译并保存模型,模型中包含多个图,例如推理图、变量初始化图、变量更新图等。 此处是调用aclgrphBundleBuildModel接口编译模型、调用aclgrphBu - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_1096_html.md ## 函数:bundle\_load\_from\_mem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_1097.html - Description: 模型执行阶段若涉及动态更新变量的场景,从内存加载离线模型数据,由系统内部管理模型运行的内存。 本接口需与以下其它接口配合使用,以便实现动态更新变量的目的,请参见acl.mdl.bundleloadfromfile处的说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_1097_html.md ## 函数:bundle\_get\_model\_id - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_1098.html - Description: 获取实际可执行的模型ID。 本接口需与以下其它接口配合使用,以便实现动态更新变量的目的,请参见acl.mdl.bundleloadfromfile处的说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_1098_html.md ## 函数:bundle\_get\_model\_num - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_1099.html - Description: 根据bundleid获取实际可执行的模型数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_1099_html.md ## 函数:bundle\_unload - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_1100.html - Description: 系统完成模型推理后,可调用该接口卸载通过acl.mdl.bundleloadfromfile接口或acl.mdl.bundleloadfrommem接口加载的模型,释放资源。 本接口需与以下其它接口配合使用,以便实现动态更新变量的目的,请参见acl.mdl.bundleloadfromfile处的说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_1100_html.md ## CANN社区版-aclmdlIODimsRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_1114.html - Description: | 成员名称 | 描述 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_1114_html.md ## 函数:get\_desc\_from\_file - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_1130.html - Description: 根据模型文件获取该模型的模型描述信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_1130_html.md ## 函数:get\_desc\_from\_mem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_1131.html - Description: 从内存获取该模型的模型描述信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_1131_html.md ## 函数:get\_input\_dims\_range - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/aclpythondevg_01_1132.html - Description: 根据模型描述信息获取模型的输入tensor的维度范围。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_aclpythondevg_01_1132_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0003.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0004.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0005.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0006.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0008.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0009.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0010.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0011.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0012.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0013.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0014.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0015.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0016.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0017.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0018.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0019.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0020.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0021.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0022.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0023.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0024.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0027.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0028.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0029.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0030.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0031.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0032.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0033.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0034.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0036.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0037.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0038.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0039.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0040.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0041.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0042.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0043.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0044.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0045.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0046.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0047.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0048.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0049.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0050.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0051.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0052.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0053.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0054.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0056.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0057.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0058.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0060.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0061.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0064.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0065.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0067.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0069.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0070.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0071.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0073.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0074.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0075.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0077.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0078.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0079.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0081.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0082.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0083.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0084.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0086.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0087.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0088.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0089.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0090.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0091.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0092.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0094.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0095.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0096.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0097.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0098.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0099.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0100.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0101.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0102.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0103.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0104.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0105.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0106.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0107.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0108.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0109.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0110.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0111.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0112.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0113.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0114.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0115.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0116.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0117.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0118.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0122.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0126.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0127.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0128.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0129.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0130.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0131.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0134.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0135.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0136.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0137.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0138.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0139.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0141.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0144.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0145.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0146.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0147.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0148.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0149.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0152.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0153.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0154.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0156.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0157.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0158.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0159.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0160.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0161.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0162.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0164.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0165.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0166.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0167.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0168.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0169.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0170.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0171.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0172.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0173.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0174.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0175.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0176.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0177.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0178.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0179.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0180.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0181.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0182.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0183.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0184.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0185.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0186.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0187.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0188.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0189.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0190.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0191.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0192.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0193.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0194.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0195.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0197.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0198.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0200.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0201.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0202.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0203.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0204.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0205.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0206.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0207.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0209.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0210.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0211.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0212.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0213.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0215.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0216.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0217.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0219.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0220.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0221.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0222.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0224.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0225.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0226.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0227.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0229.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0230.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0231.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0232.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0233.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0234.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0235.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0236.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0238.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0239.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0240.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0242.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0243.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0244.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0246.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0247.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0248.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0249.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0250.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0251.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0252.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0253.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0255.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0256.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0258.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0259.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0282.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0290.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0291.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0292.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0293.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0294.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0295.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0296.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0297.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0298.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0299.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0300.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0301.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0302.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0303.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0305.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0306.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0307.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0308.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0309.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0310.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0311.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0312.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0313.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0314.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0315.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0316.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0317.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0318.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0319.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0320.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0322.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0323.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0324.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0325.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0326.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0327.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0329.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0330.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0331.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0332.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0333.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0335.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0336.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0337.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0338.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0340.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0341.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0342.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0343.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0344.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0345.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0346.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0347.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0348.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0349.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0351.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0352.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0354.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0355.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0357.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0358.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0359.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0360.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0361.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0362.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0363.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0364.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0365.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0366.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0367.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0368.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0369.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0370.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0371.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0373.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0374.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0375.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0376.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0377.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0378.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0379.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0380.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0381.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0382.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0383.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0384.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0385.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0386.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0388.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0389.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0390.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0391.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0393.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0394.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0395.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0396.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0397.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0398.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0399.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0400.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0401.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0402.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0406.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0407.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0408.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0409.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0410.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0411.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0413.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0414.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0415.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0416.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0417.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0418.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0419.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0420.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0422.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0423.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0424.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0425.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0426.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0427.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0428.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0429.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0430.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0431.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0432.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0433.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0435.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0437.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0438.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0439.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0440.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0441.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0442.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0443.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0444.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0445.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0446.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0447.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0449.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0450.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0451.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0452.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0453.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0454.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0455.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0456.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0457.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0458.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0459.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0460.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0461.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0463.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0465.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0466.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0467.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0468.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0469.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0470.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0471.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0472.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0473.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0474.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0475.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0476.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0477.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0478.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0479.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0480.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0481.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0482.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0483.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0485.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0486.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0487.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0488.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0489.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0490.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0491.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0492.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0494.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0495.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0496.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0498.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0500.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0501.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0502.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0504.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0505.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0506.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0507.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0508.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0509.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0510.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0511.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0512.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0513.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0514.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0515.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0516.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0517.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0518.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0519.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0520.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0521.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0522.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0523.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0524.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0525.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0526.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0527.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0528.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0529.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0530.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0531.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0532.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0533.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0534.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0535.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0536.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0537.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0538.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0539.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0540.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0541.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0542.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0543.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0544.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0547.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0548.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0549.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0550.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0551.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0552.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0553.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0554.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0555.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0556.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0558.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0559.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0560.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0561.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0563.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0564.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0565.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0567.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0568.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0570.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0571.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0572.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0573.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0574.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0575.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0576.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0577.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0578.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0580.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0581.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0584.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0585.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0586.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0587.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0588.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0589.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0591.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0592.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0593.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0594.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0595.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0596.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0597.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0598.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0599.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0600.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0601.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0602.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0603.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0604.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0605.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0606.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0608.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0609.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0611.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0612.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0614.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0615.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0617.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0618.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0619.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0620.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0621.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0622.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0624.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0625.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0626.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0627.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0628.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0629.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0630.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0631.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0632.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0633.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0634.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0635.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0636.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0637.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0638.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0639.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0640.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0641.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0642.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0643.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0644.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0645.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0646.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0647.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0648.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0649.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0650.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0651.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0652.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0653.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0654.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0655.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0656.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0657.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0658.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0659.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0660.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0661.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0662.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0663.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0664.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0665.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0666.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0667.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0668.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0669.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0670.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0672.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0673.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0675.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0676.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0677.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0678.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0679.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0680.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0681.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0683.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0684.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0686.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0687.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0689.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0690.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0691.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0692.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0693.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0694.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0695.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0696.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0697.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0698.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0699.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0701.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0703.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0704.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0705.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0706.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0710.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0711.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0712.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0713.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0714.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0715.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0716.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0717.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0718.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0719.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0720.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0721.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0722.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0723.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0724.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0725.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0726.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0727.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0728.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0729.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0731.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0732.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0733.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0734.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0735.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0736.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0737.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0738.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0739.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0740.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0741.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0742.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0743.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0744.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0745.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0746.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0749.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0750.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0751.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0752.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0753.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0754.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0755.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0756.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0757.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0758.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0759.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0760.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0762.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0763.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0764.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0765.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0766.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0767.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0768.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0769.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0770.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0771.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0772.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0773.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0774.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0775.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0776.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0777.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0778.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0779.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0780.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0781.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0782.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0783.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0784.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0785.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0786.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0787.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0788.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0789.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0790.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0792.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0793.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0794.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0795.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0796.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0797.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0798.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0799.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0800.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0801.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0804.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0805.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0806.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0807.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0808.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0809.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0810.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0811.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0812.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0813.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0814.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0815.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0816.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0817.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0820.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0821.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0823.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0824.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0825.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0826.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0827.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0833.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0834.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0835.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0836.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0837.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0838.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0839.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0840.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0841.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0842.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0843.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0845.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0846.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0847.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0848.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0849.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0850.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0851.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0852.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0853.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0854.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0855.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0857.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0858.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0859.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0860.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0861.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0862.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0863.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0864.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0865.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0866.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0867.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0868.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0869.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0870.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0872.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0873.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0874.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0875.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0877.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0878.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0879.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0880.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0881.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0882.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0883.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0884.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0885.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0886.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0888.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0889.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0890.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0892.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0893.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0894.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0895.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0897.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0898.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0902.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0903.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0905.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0906.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0907.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0909.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0910.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0911.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0912.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0914.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0915.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0916.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0917.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0918.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0919.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0920.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0921.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0922.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0923.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0924.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0925.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0928.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0929.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0931.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0932.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0933.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0934.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0935.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0936.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0937.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0938.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0940.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0941.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0942.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0943.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0944.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0945.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0946.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0948.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0949.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0950.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0952.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0953.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0954.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0955.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0956.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0957.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0958.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasgeapi_07_0959.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasopapi_07_00498.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasopapi_07_00684.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasopapi_07_00685.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendgraphapi/atlasopapi_07_00707.html - Description: GE图引擎接口头文件在如下目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_ascendgraphapi_atlasgeapi_07_1058_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0001.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0017.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0018.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0019.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0020.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0021.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0022.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0024.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0025.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0032.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0034.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0036.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0039.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0041.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0042.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0045.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0046.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0047.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0048.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0050.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0051.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0052.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0053.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0054.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0056.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0057.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0058.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0059.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0060.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0061.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0062.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0063.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0064.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0065.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0066.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0067.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0068.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0069.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0070.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0071.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0072.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0073.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0074.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0075.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0076.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0077.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0080.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0081.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0083.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0084.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0085.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0086.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0088.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0089.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0091.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0092.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0093.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0094.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0095.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0096.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0097.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0098.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_0099.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0001.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0005.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0007.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0008.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0009.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0010.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0011.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0012.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0015.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0016.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0018.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0019.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0020.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0021.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0022.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0023.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0024.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0025.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0026.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0027.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0028.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0029.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0030.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0031.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0032.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0033.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0035.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0036.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0037.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0039.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0040.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0041.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0044.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0045.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0048.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0050.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0051.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0052.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0053.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0054.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0055.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0057.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0058.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0059.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0060.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0061.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0064.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0066.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0067.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0068.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0069.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0071.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0072.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0075.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0077.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0078.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0079.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0080.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0081.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0083.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0084.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0085.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0086.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0088.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0089.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0090.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0091.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0092.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0093.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0094.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0095.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0097.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0099.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0101.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0102.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0103.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0104.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0105.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0106.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0109.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0110.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0111.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0112.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0113.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0114.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0116.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0117.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0118.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0119.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0120.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0121.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0122.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0123.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0124.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0125.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0126.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0127.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0128.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0129.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0130.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0131.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0132.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0133.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0134.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0135.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0136.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0137.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0138.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0139.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0140.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0141.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0142.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0143.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0144.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0145.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0146.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0147.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0148.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0149.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0150.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0151.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0152.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0153.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0154.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0155.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0156.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0157.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0158.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0159.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0160.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0162.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0163.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0164.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0165.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0166.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0167.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0168.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0169.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0170.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0171.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0173.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0174.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0175.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0176.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0177.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0178.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0180.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0181.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0183.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0184.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0186.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0187.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0188.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0189.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0190.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0191.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0192.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0193.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0194.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0195.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0196.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0197.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0198.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0200.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0201.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0202.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0203.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0204.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0205.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0206.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0207.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0208.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0209.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0210.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0211.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0212.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0213.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0214.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0215.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0216.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0217.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0218.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0219.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0220.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0221.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0222.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0223.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0224.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0226.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0227.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0228.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0229.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0230.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0231.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0232.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0234.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0235.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0236.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0237.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0238.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0240.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0241.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0242.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0243.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0244.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0245.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0246.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0247.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0248.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0249.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0250.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0251.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0252.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0253.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0254.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0255.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0256.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0257.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0258.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0259.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0260.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0261.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0262.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0264.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0265.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0266.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0267.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0268.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0270.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0271.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0272.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0274.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0275.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0276.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0277.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0278.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0279.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0280.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0281.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0282.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0283.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0284.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0285.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0286.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0287.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0288.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0289.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0290.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0291.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0294.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0295.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0296.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0297.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0298.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0299.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0301.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0302.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0303.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0304.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0305.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0307.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0308.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0309.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0310.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0312.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0314.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0315.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0316.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0317.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0318.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0320.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0322.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0324.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0325.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0326.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0327.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0328.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0329.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0330.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0331.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0332.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0333.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0334.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0335.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0336.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0337.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0338.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0339.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0340.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0341.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0342.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0345.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0346.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0347.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0348.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0350.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0351.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0352.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0353.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0354.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/ascendtb/ascendtb_01_0355.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0320.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0321.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0323.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0324.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0327.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0328.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0330.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0331.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0333.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0334.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0336.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0337.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0338.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0339.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0340.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0341.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0342.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0343.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0344.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0345.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0346.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0347.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0348.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0349.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0350.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0351.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0352.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0353.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0355.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0356.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0357.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0358.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0359.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0360.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0362.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0363.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0364.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0365.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0367.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0368.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0369.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0370.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0371.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0373.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0374.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0375.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0376.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0377.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0379.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0380.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0381.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0382.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0384.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0386.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0388.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0389.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0390.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0391.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0392.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0393.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0394.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0395.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0396.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0397.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0398.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0399.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0400.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0401.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0402.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0403.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0404.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0405.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0406.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0407.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0408.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0409.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0411.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0412.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0413.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0414.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0415.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0416.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0417.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0418.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0419.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0420.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0421.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0422.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0423.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0424.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0425.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0426.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0427.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0428.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0429.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0430.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0432.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0433.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0434.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0435.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0436.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0437.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0438.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0439.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0441.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0442.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0443.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0444.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0445.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0446.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0447.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0448.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0449.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0451.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0452.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0453.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0454.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0455.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0456.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0457.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0458.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0459.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0460.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0461.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0462.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0463.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0464.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0465.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0466.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0467.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0468.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0469.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0470.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0472.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0473.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0474.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0475.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0476.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0477.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0478.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0479.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0480.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0481.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0482.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0483.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0484.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0485.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0487.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0488.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0490.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0491.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0492.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0493.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0494.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0495.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0496.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0497.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0498.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0499.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0500.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0501.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0502.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0503.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0504.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0505.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0506.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0507.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0508.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0509.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0510.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0511.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0512.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0513.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0514.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0515.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0516.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0517.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0518.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0519.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0520.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0521.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0522.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0523.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0524.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0525.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0526.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0527.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0528.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0529.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0530.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0531.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0532.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0533.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0534.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0535.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0538.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0539.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0540.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0541.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0542.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0544.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0545.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0546.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0547.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0548.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0549.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0550.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0551.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0552.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0554.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0555.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0556.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0557.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0558.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0559.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0560.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0561.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0562.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0563.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0564.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0565.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0566.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0567.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0568.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0569.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0570.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0571.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0572.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0573.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0574.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0576.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0577.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0578.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0579.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0580.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0581.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0582.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0583.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0584.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0585.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0586.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0587.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0588.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0589.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0590.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0591.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0592.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0593.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0594.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0595.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0596.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0597.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0599.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0600.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0601.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0602.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0603.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0604.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0605.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0606.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0607.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0608.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0610.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0611.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0612.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0613.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0614.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0615.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0616.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0617.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0618.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0619.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0620.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0621.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0622.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0624.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0625.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0626.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0627.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0628.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0629.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0630.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0631.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0632.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0633.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0634.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0636.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0637.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0638.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0639.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0640.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0641.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0642.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0643.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0644.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0645.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0646.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0647.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0648.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0649.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0650.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0651.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0652.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0653.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0654.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0655.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0656.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0657.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0658.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0659.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0660.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0661.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0662.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0663.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0664.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0665.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0666.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0667.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0668.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0669.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0670.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0671.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0672.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0673.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0674.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0675.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0676.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0677.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0678.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0679.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0680.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0681.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0682.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0684.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0685.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0686.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0687.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0688.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0689.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0690.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0691.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0692.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0693.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0694.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0695.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0696.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0697.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0698.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0699.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0700.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0701.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0702.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0703.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0704.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0705.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0706.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0707.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0708.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0709.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0710.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0712.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0713.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0714.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0715.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0716.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0717.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0718.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0719.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0720.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0721.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0722.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0723.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0724.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0725.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0726.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0727.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0728.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0729.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0730.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0731.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0732.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0733.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0734.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0735.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0736.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0737.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0738.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0739.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0740.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0741.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0742.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0743.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0744.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0745.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0746.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0747.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0748.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0749.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0750.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0751.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0752.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0753.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0754.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0755.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0756.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0757.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0758.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0759.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0760.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0761.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0762.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0764.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0765.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0766.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0767.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0768.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0769.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0770.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0773.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0774.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0775.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0776.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0777.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0778.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0779.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0780.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0781.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0782.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0783.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0784.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0785.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0786.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0787.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0788.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0789.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0790.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0791.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0792.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0793.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0794.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0795.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0796.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0797.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0798.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0799.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0800.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0801.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0802.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0803.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0804.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0805.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0806.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0807.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0808.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0809.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0810.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0811.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0812.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0813.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0814.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0815.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0816.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0817.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0818.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0820.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0821.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0822.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0823.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0824.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0825.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0826.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0827.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0828.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0829.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0830.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0831.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0832.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0833.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0834.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0835.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0836.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0837.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0838.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0839.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0840.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0841.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0842.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0843.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0845.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0846.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0847.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0848.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0849.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0850.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0851.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0853.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0854.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0855.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0856.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0857.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0858.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0859.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0860.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0861.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0862.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0863.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0864.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0865.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0866.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0867.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0868.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0869.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0870.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0871.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0872.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0873.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0874.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0875.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0876.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0877.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0878.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0879.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0881.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0882.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0883.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0884.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0885.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0886.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0887.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0888.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0889.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0890.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0891.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0892.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0893.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0894.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0895.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0896.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0897.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0898.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0899.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0900.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0901.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0902.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0903.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0904.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0905.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0907.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0908.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0909.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0910.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0911.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0912.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0913.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0914.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0915.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0916.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0917.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0918.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0919.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0920.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0921.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0922.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0923.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0924.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0925.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0926.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0927.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0928.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0929.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0930.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0931.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0932.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0933.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0934.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0936.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0938.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0939.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0940.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0941.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0942.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0943.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0944.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0945.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0946.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0947.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0948.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0949.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0950.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0951.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0953.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0954.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0955.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0956.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0957.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0958.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0959.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0960.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0961.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0962.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0963.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0964.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0965.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0966.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0967.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0968.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0969.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0970.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0971.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0972.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0973.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0974.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0975.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0976.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0977.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0978.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0980.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0981.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0982.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0983.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0984.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0985.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0986.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0987.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0988.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0989.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0990.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0992.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0993.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0994.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0995.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0996.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0997.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0998.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_0999.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1000.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1001.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1002.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1003.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1004.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1005.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1006.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1007.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1008.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1009.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1010.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1012.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1013.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1014.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1015.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1016.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1017.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1019.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1020.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1021.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1022.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1023.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1024.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1025.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1026.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1027.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1028.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1029.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1030.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1031.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1032.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1033.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1034.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1035.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1036.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1037.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1038.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1039.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1040.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1041.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1042.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1043.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1044.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1045.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1046.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1047.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1048.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1049.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1050.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1051.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1052.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1054.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1055.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1056.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1057.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1058.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1059.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1060.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1061.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1062.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1063.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1064.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1065.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1066.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1067.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1068.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1069.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1070.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1071.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1072.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1073.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1074.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1075.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1076.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1077.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1078.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1079.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1080.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1081.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1082.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1083.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1084.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1085.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1086.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1087.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1088.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1089.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1090.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1091.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1092.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1093.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1094.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1095.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1096.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1097.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1098.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1099.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1100.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1101.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1102.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1103.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1104.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1105.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1106.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1107.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1108.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1109.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1110.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1111.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1112.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1113.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1114.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1116.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1117.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1118.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1119.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1120.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1121.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1122.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1123.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1124.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1125.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1126.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1127.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1128.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1129.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1130.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1131.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1132.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1133.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1134.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1135.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1136.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1138.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1139.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1140.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1141.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1142.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1143.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1144.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1145.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1146.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1147.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1148.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1149.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1150.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1151.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1152.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1153.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1154.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1155.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1156.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1157.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1158.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1159.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1160.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1161.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1162.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1163.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1164.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1165.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1166.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1167.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1168.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1169.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1170.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1171.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1172.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1173.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1174.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1175.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1176.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1177.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1178.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1179.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1180.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1181.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1182.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1183.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1184.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1185.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1186.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1187.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1188.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1189.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1190.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1191.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1192.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1193.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1194.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1195.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1196.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1197.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1198.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1199.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1200.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1201.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1202.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1203.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1204.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1205.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1206.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1207.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1208.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1209.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1210.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1211.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1212.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1213.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1214.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1215.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1216.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1217.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1218.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1219.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1220.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1221.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1222.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1223.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1224.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1225.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1226.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1227.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1228.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1229.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1230.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1231.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1232.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1233.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1234.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1235.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1236.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1237.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1239.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1240.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1242.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1243.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1244.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1245.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1246.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1247.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1248.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1249.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1250.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1251.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1252.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1253.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1254.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1345_2.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1350.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1351.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1352.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1353.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1368.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1372.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1373.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1374.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1385.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1390.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1516.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1517.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1518.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1519.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1520.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1521.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1524.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1525.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1526.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1528.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1529.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1530.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1532.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1533.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1534.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1535.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1537.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1538.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1539.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1540.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1542.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1543.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1544.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1545.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1546.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1547.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1549.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1550.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1551.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1552.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1554.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1555.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1557.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1558.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1559.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1561.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1562.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1563.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1564.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1565.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1566.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1568.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1569.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1570.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1571.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1573.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1574.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1575.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1576.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1578.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1579.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1580.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1581.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1583.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1584.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1585.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1586.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1587.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1588.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1798.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1953.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1954.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1955.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1956.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1976.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1977.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1978.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1979.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1980.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1981.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1982.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1983.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1984.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_1989.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_2083.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_2084.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_2085.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_2086.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_2087.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_2088.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_2095.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_2103.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_2104.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_2202.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_2205.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_2206.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclcppdevg_03_2207.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0001.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0220.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0221.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0223.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0224.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0227.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0228.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0230.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0231.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0233.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0234.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0236.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0237.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0238.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0239.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0240.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0241.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0242.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0243.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0244.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0245.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0246.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0247.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0248.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0249.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0250.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0251.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0252.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0253.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0254.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0255.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0256.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0257.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0258.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0259.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0260.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0261.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0262.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0263.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0264.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0265.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0266.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0267.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0268.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0269.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0270.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0271.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0272.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0273.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0274.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0275.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0276.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0277.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0278.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0279.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0280.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0281.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0282.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0283.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0284.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0285.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0286.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0287.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0288.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0289.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0290.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0291.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0292.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0294.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0295.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0296.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0297.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0298.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0299.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0300.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0301.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0302.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0303.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0304.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0305.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0306.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0307.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0308.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0309.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0310.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0311.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0312.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0313.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0314.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0315.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0316.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0317.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0319.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0321.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0322.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0323.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0324.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0325.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0326.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0328.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0329.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0330.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0331.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0332.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0333.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0334.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0335.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0337.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0338.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0339.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0340.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0341.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0342.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0343.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0344.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0345.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0346.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0347.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0348.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0349.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0350.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0351.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0352.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0353.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0354.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0355.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0356.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0357.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0358.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0359.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0360.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0361.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0362.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0363.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0364.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0366.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0367.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0368.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0369.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0370.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0371.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0372.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0373.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0374.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0375.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0376.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0377.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0378.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0379.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0380.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0381.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0382.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0383.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0384.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0385.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0386.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0387.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0388.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0389.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0390.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0391.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0392.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0393.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0394.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0395.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0396.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0397.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0398.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0399.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0400.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0401.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0402.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0403.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0405.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0406.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0407.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0408.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0409.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0411.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0412.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0414.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0415.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0416.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0417.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0418.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0419.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0420.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0421.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0422.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0423.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0424.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0425.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0426.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0428.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0429.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0430.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0431.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0432.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0433.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0434.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0435.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0436.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0437.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0438.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0439.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0440.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0441.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0442.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0443.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0444.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0445.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0446.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0447.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0448.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0449.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0450.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0451.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0452.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0453.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0454.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0455.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0456.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0457.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0458.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0459.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0460.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0461.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0462.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0463.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0464.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0465.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0466.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0468.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0469.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0470.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0472.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0474.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0476.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0477.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0478.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0479.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0480.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0481.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0482.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0483.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0484.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0485.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0486.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0487.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0488.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0489.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0490.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0491.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0492.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0493.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0494.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0495.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0496.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0497.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0498.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0499.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0500.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0502.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0503.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0504.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0505.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0506.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0507.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0508.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0509.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0510.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0511.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0512.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0513.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0514.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0515.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0516.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0517.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0518.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0519.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0520.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0521.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0522.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0523.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0524.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0525.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0526.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0527.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0528.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0529.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0530.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0531.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0532.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0533.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0534.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0535.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0536.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0537.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0538.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0539.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0540.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0541.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0542.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0543.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0544.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0545.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0546.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0547.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0549.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0550.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0551.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0552.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0553.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0554.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0555.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0557.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0559.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0560.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0562.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0563.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0564.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0565.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0566.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0567.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0568.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0569.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0570.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0571.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0572.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0573.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0574.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0575.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0576.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0577.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0578.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0579.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0580.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0581.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0582.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0583.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0584.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0585.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0586.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0587.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0588.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0589.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0590.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0592.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0593.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0594.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0595.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0596.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0597.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0598.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0599.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0600.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0601.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0602.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0603.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0604.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0605.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0606.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0607.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0608.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0609.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0610.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0611.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0613.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0614.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0615.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0616.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0617.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0618.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0619.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0620.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0621.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0622.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0623.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0624.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0625.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0626.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0627.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0628.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0629.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0630.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0631.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0632.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0633.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0634.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0635.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0636.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0637.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0638.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0639.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0640.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0641.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0642.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0643.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0644.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0645.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0646.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0647.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0648.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0649.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0650.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0651.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0652.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0653.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0654.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0655.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0656.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0657.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0658.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0659.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0660.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0661.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0662.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0663.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0664.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0665.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0666.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0667.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0668.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0669.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0670.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0671.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0672.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0673.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0674.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0675.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0676.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0677.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0678.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0679.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0680.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0681.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0682.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0683.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0684.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0685.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0686.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0687.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0688.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0689.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0690.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0691.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0692.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0693.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0694.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0695.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0696.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0697.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0698.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0699.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0700.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0701.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0702.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0703.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0704.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0705.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0706.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0707.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0708.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0710.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0711.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0712.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0713.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0714.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0715.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0716.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0717.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0718.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0719.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0720.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0721.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0722.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0723.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0724.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0725.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0726.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0727.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0728.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0729.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0730.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0731.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0732.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0733.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0734.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0735.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0736.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0737.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0738.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0739.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0740.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0741.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0742.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0743.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0744.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0745.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0746.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0747.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0748.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0749.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0750.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0751.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0752.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0753.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0754.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0755.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0756.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0757.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0758.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0759.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0761.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0762.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0763.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0764.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0766.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0767.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0768.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0769.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0770.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0911.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0915.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0916.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0917.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0918.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0930.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0931.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0935.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0936.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0937.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0949.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0961.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0993.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0994.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0995.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0996.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0997.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0998.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_0999.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_1000.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_1001.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_1002.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_1003.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_1004.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_1005.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_1006.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_1101.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_1102.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/aclpythondevg_01_1103.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/dvpp_03_0000.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/dvpp_03_0001.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00060.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00061.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00062.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00063.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00064.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00065.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00066.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00067.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00068.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00069.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00070.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00071.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00072.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00073.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00074.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00075.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00076.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00077.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00078.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00079.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00080.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00081.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00082.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00083.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00084.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00085.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00086.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00087.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00088.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00089.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00090.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00091.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00092.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00427.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/dvpp/operatorlist_00428.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/comm_mgmt.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/data_type_definition/HcclComm.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/data_type_definition/HcclCommConfig.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/data_type_definition/HcclCommConfigCapability.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/data_type_definition/HcclCommStatus.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/data_type_definition/HcclCommSymWindow.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/data_type_definition/HcclConfig.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/data_type_definition/HcclConfigType.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/data_type_definition/HcclConfigValue.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/data_type_definition/HcclDataType.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/data_type_definition/HcclOpExpansionMode.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/data_type_definition/HcclReduceOp.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/data_type_definition/HcclResult.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/data_type_definition/HcclRootInfo.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/data_type_definition/HcclSendRecvItem.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/data_type_definition/HcclSendRecvType.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/data_type_definition/README.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/group_call.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclBarrier.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclCommActivateCommMemory.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclCommConfigInit.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclCommDeactivateCommMemory.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclCommDestroy.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclCommGetHandleWithName.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclCommGetStatus.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclCommInitAll.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclCommInitClusterInfo.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclCommInitClusterInfoConfig.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclCommInitRootInfo.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclCommInitRootInfoConfig.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclCommResume.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclCommSetMemoryRange.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclCommSuspend.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclCommSymWinDeregister.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclCommSymWinGet.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclCommSymWinRegister.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclCommUnsetMemoryRange.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclCommWorkingDevNicSet.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclConfigGetInfo.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclCreateSubCommConfig.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclGetCommAsyncError.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclGetCommConfigCapability.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclGetCommName.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclGetConfig.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclGetErrorString.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclGetRankId.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclGetRankSize.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclGetRootInfo.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclGroupEnd.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclGroupStart.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclSetConfig.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/HcclSymWinGetPeerPointer.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/README.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/symmetric_mem.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/zero_copy_readme.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_c/zero_copy.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_python/code_example.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_python/create_group.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_python/destroy_group.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_python/get_group_rank_from_world_rank.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_python/get_local_rank_id.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_python/get_local_rank_size.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_python/get_rank_id.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_python/get_rank_size.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_python/get_world_rank_from_group_rank.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_python/hccl-manage-api.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_python/hccl-split-api.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_python/intro.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_python/README.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_python/sample_code.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_python/sample_exec.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_python/set_split_strategy_by_idx.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_mgr_python/set_split_strategy_by_size.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_op_interface/collective_comm.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_op_interface/HcclAllGather.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_op_interface/HcclAllGatherV.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_op_interface/HcclAllReduce.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_op_interface/HcclAlltoAll.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_op_interface/HcclAlltoAllV.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_op_interface/HcclAlltoAllVC.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_op_interface/HcclBatchSendRecv.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_op_interface/HcclBroadcast.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_op_interface/HcclRecv.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_op_interface/HcclReduce.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_op_interface/HcclReduceScatter.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_op_interface/HcclReduceScatterV.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_op_interface/HcclScatter.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_op_interface/HcclSend.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_op_interface/intro.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_op_interface/p2p_comm.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/api_ref/comm_op_interface/README.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/api_comm_impl.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/api_ref.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/cluster_info_config/env_config_info.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/cluster_info_config/intro.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/cluster_info_config/rank_table_config_300i_duo.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/cluster_info_config/rank_table_config_910.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/cluster_info_config/rank_table_config_a2.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/cluster_info_config/rank_table_config_a3.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/cluster_info_config/rank_table_config_a5.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/cluster_info_config/README.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/coll_algo_intro/AHC.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/coll_algo_intro/algo_intro.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/coll_algo_intro/hierarchical_comm_principle.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/coll_algo_intro/Mesh.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/coll_algo_intro/NB.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/coll_algo_intro/NHR.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/coll_algo_intro/Pairwise.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/coll_algo_intro/Pipeline.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/coll_algo_intro/README.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/coll_algo_intro/RHD.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/coll_algo_intro/Ring.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/coll_algo_intro/Star.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/comm_ops_support_list/comm_ops_support_300i_duo.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/comm_ops_support_list/comm_ops_support_910.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/comm_ops_support_list/comm_ops_support_a2.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/comm_ops_support_list/comm_ops_support_a3.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/comm_ops_support_list/comm_ops_support.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/concepts.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/constraints.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/env_prep.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/fault_diagnosis/cluster_info_nego.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/fault_diagnosis/cluster_info_verify_fail.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/fault_diagnosis/comm_domain_init_flow.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/fault_diagnosis/comm_domain_init_stage.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/fault_diagnosis/debug_thinking.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/fault_diagnosis/env_config_error_EI0001.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/fault_diagnosis/param_link_stage.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/fault_diagnosis/rank_table_load_fail.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/fault_diagnosis/README.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/fault_diagnosis/task_exec_stage.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/framework_integration.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/comm_retry_perf_impact.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/debug_related.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/feature_related.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_ALGO.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_BUFFSIZE.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_CONNECT_TIMEOUT.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_DEBUG_CONFIG.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_DETERMINISTIC.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_DFS_CONFIG.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_DIAGNOSE_ENABLE.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_ENTRY_LOG_ENABLE.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_EXEC_TIMEOUT.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_HOST_SOCKET_PORT_RANGE.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_IF_BASE_PORT.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_IF_IP.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_INTER_HCCS_DISABLE.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_INTRA_PCIE_ENABLE.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_INTRA_ROCE_ENABLE.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_LOGIC_SUPERPOD_ID.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_MULTI_QP_THRESHOLD.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_NPU_SOCKET_PORT_RANGE.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_OP_EXPANSION_MODE.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_OP_RETRY_ENABLE.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_OP_RETRY_PARAMS.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_RDMA_PCIE_DIRECT_POST_NOSTRICT.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_RDMA_QP_PORT_CONFIG_PATH.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_RDMA_QPS_PER_CONNECTION.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_RDMA_RETRY_CNT.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_RDMA_SL.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_RDMA_TC.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_RDMA_TIMEOUT.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_SOCKET_FAMILY.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_SOCKET_IFNAME.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_WHITELIST_DISABLE.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/HCCL_WHITELIST_FILE.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/inter_server_algo_support.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/inter_superpod_algo_support.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/network_related.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/performance_related.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/README.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/reference.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/reliability_related.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_env/security_related.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/hccl_intro.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/perf_analysis/analysis_flow.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/perf_analysis/perf_data_analysis.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/perf_analysis/perf_data_collect.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/perf_analysis/profiling_op_behavior.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/perf_analysis/README.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/perf_analysis/slow_fast_card_analysis.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/perf_analysis/switch_congestion_loss.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/perf_analysis/typical_op_behavior.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/quick_start.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/recommended_config.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hcclug/docs/zh/user_guide/references.md - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_02.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_03.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_05.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_06.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_09.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_10.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_11.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_14.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_15.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_16.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_18.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_20.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_22.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_23.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_24.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_27.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_28.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_29.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_30.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_32.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_33.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcdv2_42_34.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_02.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_05.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_06.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_07.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_08.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_09.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_10.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_11.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_12.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_13.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_14.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_15.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_16.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_17.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_18.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_19.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_22.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_23.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_24.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_25.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_26.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_27.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_28.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_29.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_30.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_31.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_32.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_320.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_33.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_34.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_35.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_36.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_39.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_40.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_41.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_42.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_43.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_44.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_45.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_46.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_47.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_48.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_49.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_50.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_51.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_52.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_53.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcrv2_42_54.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00002.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00003.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00004.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00006.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00007.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00008.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00009.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00010.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00011.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00013.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00014.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00015.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00016.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00017.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00018.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00019.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00020.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00021.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00022.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00023.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00024.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00025.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00026.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00027.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00028.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00029.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmcs_43_00030.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmpdv2_42_02.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmpdv2_42_03.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmpdv2_42_05.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmpdv2_42_06.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmpdv2_42_08.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmpdv2_42_09.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmpdv2_42_10.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmpdv2_42_12.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmpdv2_42_13.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmpdv2_42_15.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmpdv2_42_16.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmpdv2_42_17.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0001.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0003.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0004.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0005.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0006.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0007.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0008.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0009.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0010.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0011.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0012.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0014.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0015.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0016.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0017.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0018.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0019.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0020.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0021.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0022.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0023.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0024.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0025.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0026.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0027.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0029.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0030.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0031.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0032.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0033.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0034.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0035.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0036.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0037.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0038.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0040.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0041.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0042.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0043.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0044.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0045.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0047.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0048.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0049.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0050.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0051.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0052.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0053.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0054.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0055.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0056.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0057.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0058.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0059.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0060.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0061.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0063.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0064.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0065.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0066.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0067.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0068.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0071.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0072.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0073.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0074.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0075.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0076.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0077.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0078.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0080.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/hixlug/llmprv2_42_0081.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## CANN社区版-aclInit - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0022.html - Description: 初始化函数。 使用acl接口开发应用时,必须先调用aclInit接口,否则可能会导致后续系统内部资源初始化出错,进而导致其他业务异常。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0022_html.md ## CANN社区版-aclFinalize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0023.html - Description: 去初始化函数,用于释放进程内acl接口使用的相关资源。 对于涉及Device业务日志回传到Host的场景,本接口默认增加2000ms延时(实际最大延时可达2000ms),以确保ERROR级别和EVENT级别日志完整回传,防止丢失。您可以将ASCENDLOGDEVICEFLUSHTIMEOUT环境变量设置为0(命令示例:export ASCENDLOGDEVICEFLUSHTIMEOUT\=0),来取 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0023_html.md ## CANN社区版-aclGetRecentErrMsg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0028.html - Description: 获取并清空与本接口在同一个进程或线程中的其他acl接口调用失败时的错误描述信息。 获取进程级别、还是线程级别的错误描述信息由aclInit接口中的errmsgmode配置控制,默认线程级别。 建议在每次调用acl接口失败时都调用aclGetRecentErrMsg接口,以便获取调用acl接口异常时的错误描述信息,用于定位问题,否则可能导致错误信息堆积、丢失。同一个进程或线程中多次调用aclGetR - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0028_html.md ## CANN社区版-aclFloat16ToFloat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0031.html - Description: 将aclFloat16类型的数据转换为float(指float32)类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0031_html.md ## CANN社区版-aclFloatToFloat16 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0032.html - Description: 将float(指float32)类型的数据转换为aclFloat16类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0032_html.md ## CANN社区版-aclGetCannAttributeList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0034.html - Description: 查询运行环境中CANN软件和对应AI处理器支持的特性列表。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0034_html.md ## CANN社区版-aclGetCannAttribute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0035.html - Description: 查询运行环境是否支持指定的CANN特性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0035_html.md ## CANN社区版-aclGetDeviceCapability - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0036.html - Description: 查询运行环境中对应Device的硬件规格大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0036_html.md ## CANN社区版-aclrtSetDevice - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0039.html - Description: 指定当前线程中用于运算的Device。在不同线程中支持调用aclrtSetDevice接口指定同一个Device用于运算。 多Device场景下,可在进程中通过aclrtSetDevice接口切换到其他Device。 调用本接口会隐式创建默认Context,该默认Context中包含默认Stream。在同一个进程的多个线程中,如果调用aclrtSetDevice接口并指定相同的Device用于计算 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0039_html.md ## CANN社区版-aclrtGetDevice - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0042.html - Description: 获取当前正在使用的Device的ID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0042_html.md ## CANN社区版-aclrtGetRunMode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0043.html - Description: 获取当前AI软件栈的运行模式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0043_html.md ## CANN社区版-aclrtGetDeviceCount - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0045.html - Description: 获取可用Device的数量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0045_html.md ## CANN社区版-aclrtQueryDeviceStatus - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0047.html - Description: 查询Device状态是正常可用、还是异常不可用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0047_html.md ## CANN社区版-aclrtGetSocName - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0048.html - Description: 查询当前运行环境的AI处理器版本。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0048_html.md ## CANN社区版-aclrtGetDeviceSatMode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0050.html - Description: 查询当前Device的浮点计算结果输出模式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0050_html.md ## CANN社区版-aclrtDeviceCanAccessPeer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0051.html - Description: 查询Device之间是否支持数据交互。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0051_html.md ## CANN社区版-aclrtDeviceDisablePeerAccess - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0053.html - Description: 关闭当前Device与指定Device之间的数据交互功能。关闭数据交互功能是Device级的。 调用aclrtDeviceEnablePeerAccess接口开启当前Device与指定Device之间的数据交互后,可调用aclrtDeviceDisablePeerAccess接口关闭数据交互功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0053_html.md ## CANN社区版-aclrtResetOverflowStatus - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0055.html - Description: 清除当前Device下所有Stream上任务的溢出状态。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0055_html.md ## CANN社区版-aclrtSynchronizeDeviceWithTimeout - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0057.html - Description: 阻塞当前线程,直到与当前线程绑定的Context所对应的Device完成运算。 该接口是在aclrtSynchronizeDevice接口基础上进行了增强,支持用户设置超时时间,当应用程序异常时可根据所设置的超时时间自行退出,超时退出时本接口返回ACLERRORRTSTREAMSYNCTIMEOUT。 多Device场景下,调用该接口等待的是当前Context对应的Device。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0057_html.md ## CANN社区版-aclrtDestroyContext - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0060.html - Description: 销毁Context,释放Context的资源。只能销毁通过aclrtCreateContext接口创建的Context。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0060_html.md ## CANN社区版-aclrtSetCurrentContext - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0061.html - Description: 设置线程的Context。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0061_html.md ## CANN社区版-aclrtGetCurrentContext - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0062.html - Description: 获取线程的Context。 如果用户多次调用aclrtSetCurrentContext接口设置当前线程的Context,则获取的是最后一次设置的Context。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0062_html.md ## CANN社区版-aclrtCtxSetSysParamOpt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0063.html - Description: 设置当前Context中的系统参数值,多次调用本接口,以最后一次设置的值为准。调用本接口设置运行时参数值后,若需获取参数值,需调用aclrtCtxGetSysParamOpt接口。 本接口与aclrtSetSysParamOpt接口的差别是,本接口作用域是Context,aclrtSetSysParamOpt的作用域是进程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0063_html.md ## CANN社区版-aclrtCtxGetSysParamOpt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0064.html - Description: 获取当前Context中的系统参数值。 系统参数无默认值,如果不调用aclrtCtxSetSysParamOpt接口设置系统参数的值,直接调用本接口获取系统参数的值,接口会返回失败。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0064_html.md ## CANN社区版-aclrtCreateStream - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0066.html - Description: 创建Stream。 该接口不支持设置Stream的优先级;若不设置,Stream的优先级默认为最高。如需在创建Stream时设置优先级,请参见aclrtCreateStreamWithConfig接口。 若不显式调用Stream创建接口,那么每个Context对应一个默认Stream,该默认Stream是调用aclrtSetDevice接口或aclrtCreateContext接口隐式创建的,默认 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0066_html.md ## CANN社区版-aclrtCreateStreamV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0067.html - Description: 创建Stream(最多支持4个Stream),支持创建Stream时增加Stream配置。 本接口需要配合其他接口一起使用,创建Stream,接口调用顺序如下:1. 调用 aclrtCreateStreamConfigHandle 接口创建Stream配置对象。 2. 多次调用 aclrtSetStreamConfigOpt 接口设置配置对象中每个属性的值。 3. 调用aclrtCreateS - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0067_html.md ## CANN社区版-aclrtSetStreamConfigOpt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0068.html - Description: 设置Stream配置对象中的各属性的取值。 本接口需要配合其他接口一起使用,创建Stream,接口调用顺序如下:1. 调用 aclrtCreateStreamConfigHandle 接口创建Stream配置对象。 2. 多次调用aclrtSetStreamConfigOpt接口设置配置对象中每个属性的值。 3. 调用 aclrtCreateStreamV2 接口创建Stream。 4. St - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0068_html.md ## CANN社区版-aclrtCreateStreamWithConfig - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0069.html - Description: 在当前进程或线程中创建Stream。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0069_html.md ## CANN社区版-aclrtGetStreamOverflowSwitch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0073.html - Description: 针对指定Stream,获取其当前溢出检测开关是否打开。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0073_html.md ## CANN社区版-aclrtSetStreamFailureMode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0074.html - Description: 当一个Stream上下发了多个任务时,可通过本接口指定任务调度模式,以便控制某个任务失败后是否继续执行下一个任务。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0074_html.md ## CANN社区版-aclrtSynchronizeStream - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0076.html - Description: 阻塞Host侧当前线程直到指定Stream中的所有任务都完成。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0076_html.md ## CANN社区版-aclrtCreateEvent - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0079.html - Description: 创建Event,创建出来的Event可用于统计两个Event之间的耗时、多Stream之间的任务同步等场景。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0079_html.md ## CANN社区版-aclrtCreateEventWithFlag - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0080.html - Description: 创建带flag的Event,不同flag的Event用于不同的功能。支持创建Event时携带多个flag(按位进行或操作),从而同时启用对应flag的功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0080_html.md ## CANN社区版-aclrtCreateEventExWithFlag - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0081.html - Description: 创建带flag的Event,不同flag的Event用于不同的功能。支持创建Event时携带多个flag(按位进行或操作),从而同时启用对应flag的功能。创建Event时,Event资源不受硬件限制。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0081_html.md ## CANN社区版-aclrtDestroyEvent - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0082.html - Description: 销毁Event,支持在Event未完成前调用本接口销毁Event。此时,本接口不会阻塞线程等Event完成,Event相关资源会在Event完成时被自动释放。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0082_html.md ## CANN社区版-aclrtRecordEvent - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0083.html - Description: 在指定Stream中记录一个Event。异步接口。 aclrtRecordEvent接口与aclrtStreamWaitEvent接口配合使用时,主要用于多Stream之间同步等待的场景。 调用aclrtRecordEvent接口时,会捕获当前Stream上已下发的任务,并记录到Event事件中,因此后续若调用aclrtQueryEventStatus或aclrtStreamWaitEvent接口 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0083_html.md ## CANN社区版-aclrtQueryEvent(废弃) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0085.html - Description: 须知:此接口后续版本会废弃,请使用aclrtQueryEventStatus接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0085_html.md ## CANN社区版-aclrtQueryEventWaitStatus - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0087.html - Description: 调用aclrtStreamWaitEvent接口后查询该Event对应的等待任务是否都执行完成。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0087_html.md ## CANN社区版-aclrtSetOpWaitTimeout - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0092.html - Description: 本接口用于设置等待Event完成的超时时间。 不调用本接口,则默认不超时;一个进程内多次调用本接口,则以最后一次设置的时间为准。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0092_html.md ## CANN社区版-aclrtMemFlush - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0098.html - Description: 将Cache中的数据刷新到DDR中,并将Cache中的内容设置成无效。 该版本不需要用户处理CPU与NPU之间的Cache一致性,无需调用该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0098_html.md ## CANN社区版-aclrtFree - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0100.html - Description: 释放Device上的内存。 本接口会立刻释放传入的内存,接口内部不会进行隐式的Device同步或流同步、也不会等待使用该内存的任务完成。用户需确保在调用本接口后不再访问该内存指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0100_html.md ## CANN社区版-aclrtMallocHost - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0101.html - Description: 申请Host内存(该内存是锁页内存),由系统保证内存首地址64字节对齐。 通过本接口申请的内存,需要通过aclrtFreeHost接口或aclrtFreeHostWithDevSync接口释放内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0101_html.md ## CANN社区版-aclrtFreeHost - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0102.html - Description: 释放通过aclrtMallocHost接口或aclrtMallocHostWithCfg接口申请的Host内存。 本接口会立刻释放传入的内存,接口内部不会进行隐式的Device同步或流同步、也不会等待使用该内存的任务完成。用户需确保在调用本接口后不再访问该内存指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0102_html.md ## CANN社区版-aclrtMemset - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0103.html - Description: 初始化内存,将内存中的内容设置为指定的值。 要初始化的内存支持在Host侧或Device侧,系统根据地址判定是Host还是Device。如果Host内存不是用acl接口(例如aclrtMallocHost)申请的,将会导致未定义的行为。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0103_html.md ## CANN社区版-aclrtMemcpy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0105.html - Description: 实现内存复制。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0105_html.md ## CANN社区版-aclrtMemcpyAsync - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0106.html - Description: 实现内存复制。 本接口中的Host内存支持锁页内存(例如通过aclrtMallocHost接口申请的内存)、非锁页内存(通过malloc接口申请的内存)。当Host内存是锁页内存时,本接口是异步接口,调用接口成功仅表示任务下发成功,不表示任务执行成功,调用本接口后,需调用同步等待接口(例如,aclrtSynchronizeStream)确保内存复制的任务已执行完成;当Host内存是非锁页内存时,本 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0106_html.md ## CANN社区版-aclrtGetMemInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0107.html - Description: 根据指定属性,获取Device上可用内存的空闲大小和总大小,不包括系统预留内存大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0107_html.md ## CANN社区版-aclrtMemcpy2dAsync - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0109.html - Description: 实现异步内存复制,主要用于矩阵数据的复制。异步接口。 本接口中的Host内存支持锁页内存(例如通过aclrtMallocHost接口申请的内存)、非锁页内存(通过malloc接口申请的内存)。当Host内存是非锁页内存时,本接口在内存复制任务完成后才返回;当Host内存是锁页内存时,本接口是异步接口,调用接口成功仅表示任务下发成功,不表示任务执行成功,调用本接口后,需调用同步等待接口(例如,acl - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0109_html.md ## CANN社区版-aclrtAllocatorRegister - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0110.html - Description: 调用该接口注册用户提供的Allocator以及Allocator对应的回调函数,以便后续使用用户提供的Allocator。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0110_html.md ## CANN社区版-aclrtAllocatorUnregister - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0111.html - Description: 用户销毁Allocator前,需调用本接口取消注册用户提供的Allocator以及Allocator对应的回调函数。 待取消注册的Stream不存在,或多次调用本接口取消注册,本接口内部不做任何操作,返回成功。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0111_html.md ## CANN社区版-aclrtMallocPhysical - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0112.html - Description: 申请Host或Device物理内存,并返回一个物理内存handle。 本接口可配合aclrtReserveMemAddress接口(申请虚拟内存)、aclrtMapMem接口(建立虚拟内存与物理内存之间的映射)使用,以便申请地址连续的虚拟内存、最大化利用物理内存。 本接口可配合aclrtMemExportToShareableHandle接口(导出物理内存handle)、aclrtMemImpor - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0112_html.md ## CANN社区版-aclrtFreePhysical - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0113.html - Description: 释放通过aclrtMallocPhysical接口申请的物理内存。 如果物理内存与虚拟内存之间存在映射关系,则此处不会实际释放物理内存。只有在调用aclrtUnmapMem接口取消该物理内存与虚拟内存的映射之后,物理内存才会被真正释放。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0113_html.md ## CANN社区版-aclrtReleaseMemAddress - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0115.html - Description: 释放通过aclrtReserveMemAddress接口申请的虚拟内存。 本接口需与以下其他接口配合使用,以便申请地址连续的虚拟内存、最大化利用物理内存:1. 申请虚拟内存( aclrtReserveMemAddress 接口); 2. 申请物理内存( aclrtMallocPhysical 接口); 3. 将虚拟内存映射到物理内存( aclrtMapMem 接口); 4. 执行任务(调用具 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0115_html.md ## CANN社区版-aclrtMapMem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0116.html - Description: 将虚拟内存映射到物理内存。 本接口需与以下其他接口配合使用,以便申请地址连续的虚拟内存、最大化利用物理内存:1. 申请虚拟内存( aclrtReserveMemAddress 接口); 2. 申请物理内存( aclrtMallocPhysical 接口); 3. 将虚拟内存映射到物理内存( aclrtMapMem 接口); 4. 执行任务(调用具体的任务接口); 5. 取消虚拟内存与物理内存 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0116_html.md ## CANN社区版-aclrtUnmapMem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0117.html - Description: 取消虚拟内存与物理内存之间的映射关系。 本接口需与以下其他接口配合使用,以便申请地址连续的虚拟内存、最大化利用物理内存:1. 申请虚拟内存( aclrtReserveMemAddress 接口); 2. 申请物理内存( aclrtMallocPhysical 接口); 3. 将虚拟内存映射到物理内存( aclrtMapMem 接口); 4. 执行任务(调用具体的任务接口); 5. 取消虚拟内 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0117_html.md ## CANN社区版-aclrtMemExportToShareableHandle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0118.html - Description: 将本进程通过aclrtMallocPhysical接口获取到的Device物理内存handle导出,以便后续将Device物理内存共享给其他进程。 本接口需与以下其他关键接口配合使用,以便实现内存共享,此处以A、B进程为例,说明两个进程间的物理内存共享接口调用流程: 1. 在A进程中: a. 调用 aclrtMallocPhysical 接口,申请物理内存。 先调用aclrtMe - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0118_html.md ## CANN社区版-aclrtDeviceGetBareTgid - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0119.html - Description: 获取当前进程的进程ID。 本接口内部在获取进程ID时已适配物理机、虚拟机场景,用户只需调用本接口获取进程ID,再配置其他接口使用(配合流程请参见aclrtMemExportToShareableHandle),达到物理内存共享的目的。若用户不调用本接口、自行获取进程ID,可能会导致后续使用进程ID异常。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0119_html.md ## CANN社区版-aclrtMemImportFromShareableHandle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0121.html - Description: 在本进程中获取shareableHandle里的信息,并返回本进程中的handle,用于在本进程中建立虚拟地址与物理地址之间的映射关系。本接口还支持生成指定Device上的handle。 本接口需与其他接口配合使用,以便实现内存共享的目的,配合使用流程请参见aclrtMemExportToShareableHandle接口处的说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0121_html.md ## CANN社区版-aclrtCmoAsync - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0123.html - Description: 实现Device上的Cache内存操作。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0123_html.md ## CANN社区版-aclrtSubscribeReport - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0125.html - Description: 注册处理Stream上回调函数的线程。 本接口需与以下其他接口配合使用,以便实现异步场景下的callback功能:1. 定义并实现回调函数,函数原型为:typedef void \(aclrtCallback\)\(void userData\); 2. 新建线程,在线程函数内,调用 aclrtProcessReport 接口设置超时时间(需循环调用),等待回调任务执行; 3. 调用 aclrtSub - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0125_html.md ## CANN社区版-aclrtProcessReport - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0127.html - Description: 调用本接口设置超时时间,等待aclrtLaunchCallback接口下发的回调任务执行。 本接口需与以下其他接口配合使用,以便实现异步场景下的callback功能:1. 定义并实现回调函数,函数原型为:typedef void \(aclrtCallback\)\(void userData\); 2. 新建线程,在线程函数内,调用 aclrtProcessReport 接口设置超时时间(需循环调用) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0127_html.md ## CANN社区版-aclrtUnSubscribeHostFunc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0131.html - Description: 与aclrtSubscribeHostFunc接口配合使用,调用模型执行接口后,调用本接口取消线程注册,Stream上的回调函数不再由指定线程处理。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0131_html.md ## CANN社区版-aclrtGetTaskIdFromExceptionInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0135.html - Description: 获取异常信息中的任务ID。该接口与aclrtSetExceptionInfoCallback接口配合使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0135_html.md ## CANN社区版-aclrtGetErrorCodeFromExceptionInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0139.html - Description: 获取异常信息中的错误码。该接口与aclrtSetExceptionInfoCallback接口配合使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0139_html.md ## CANN社区版-aclrtMemUceRepair - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0142.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于生产环境中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0142_html.md ## CANN社区版-aclrtCreateBinary - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0146.html - Description: 创建aclrtBinary类型的数据,该数据类型用于描述算子二进制信息。此处的算子为使用Ascend C语言开发的自定义算子。 如需销毁aclrtBinary类型的数据,请参见aclrtDestroyBinary。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0146_html.md ## CANN社区版-aclrtDestroyBinary - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0147.html - Description: 销毁通过aclrtCreateBinary接口创建的aclrtBinary类型的数据。此处的算子为使用Ascend C语言开发的自定义算子。 注意,此处仅销毁aclrtBinary的数据,调用aclrtCreateBinary接口时传入的data内存需由用户自行、及时释放,否则可能会导致内存异常。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0147_html.md ## CANN社区版-aclrtGetGroupCount - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0154.html - Description: 查询当前Context下可以使用的Group个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0154_html.md ## CANN社区版-aclrtGetAllGroupInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0155.html - Description: 查询当前Context下可以使用的所有Group的详细算力信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0155_html.md ## CANN社区版-aclrtGetGroupInfoDetail - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0156.html - Description: 查询当前Context下指定Group的算力信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0156_html.md ## CANN社区版-aclrtDestroyGroupInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0158.html - Description: 销毁aclrtGroupInfo类型的数据,释放相关的内存。只能销毁通过aclrtCreateGroupInfo接口创建的aclrtGroupInfo类型。 不支持在 Atlas 推理系列产品 Ascend EP 形态下调用本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0158_html.md ## CANN社区版-aclopStartDumpArgs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0255.html - Description: 调用本接口开启算子信息统计功能,并需与aclopStopDumpArgs接口配合使用,将算子信息文件输出到path参数指定的目录,一个shape对应一个算子信息文件,文件中包含算子类型、算子属性、算子输入&输出的format/数据类型/shape等信息。 使用场景:例如要统计某个模型执行涉及哪些算子,可在模型执行之前调用aclopStartDumpArgs接口,在模型执行之后调用aclopStop - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0255_html.md ## CANN社区版-aclopStopDumpArgs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0256.html - Description: 调用本接口关闭算子信息统计功能,并需与aclopStartDumpArgs接口配合使用,将算子信息文件输出到path参数指定的目录,一个shape对应一个算子信息文件,文件中包含算子类型、算子属性、算子输入&输出的format/数据类型/shape等信息。 使用场景:例如要统计某个模型执行涉及哪些算子,可在模型执行之前调用aclopStartDumpArgs接口,在模型执行之后调用aclopSto - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0256_html.md ## CANN社区版-aclmdlInitDump - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0314.html - Description: Dump初始化。 本接口需与其他接口配合使用实现以下功能:- Dump数据落盘到文件aclmdlInitDump 接口、aclmdlSetDump 接口、aclmdlFinalizeDump 接口配合使用,用于将Dump数据记录到文件中。一个进程内,可以根据需求多次调用这些接口,基于不同的Dump配置信息,获取Dump数据。场景举例如下: - 执行两个不同的模型,需要设置不同的Du - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0314_html.md ## CANN社区版-aclmdlSetDump - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0315.html - Description: 设置Dump参数。 aclmdlInitDump接口、aclmdlSetDump接口、aclmdlFinalizeDump接口配合使用,用于将Dump数据记录到文件中。一个进程内,可以根据需求多次调用这些接口,基于不同的Dump配置信息,获取Dump数据。场景举例如下:- 执行两个不同的模型,需要设置不同的Dump配置信息,接口调用顺序: aclInit 接口--> aclmdlInitDum - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0315_html.md ## CANN社区版-acldumpUnregCallback - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0317.html - Description: Dump数据回调函数取消注册接口。acldumpUnregCallback需要和acldumpRegCallback配合使用,且必须在acldumpRegCallback调用后才有效。 aclmdlInitDump接口、acldumpRegCallback接口(通过该接口注册的回调函数需由用户自行实现,回调函数实现逻辑中包括获取Dump数据及数据长度)、acldumpUnregCallback接口 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0317_html.md ## CANN社区版-aclmdlFinalizeDump - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_0318.html - Description: Dump去初始化。 本接口需与其他接口配合使用实现以下功能:- Dump数据落盘到文件aclmdlInitDump 接口、aclmdlSetDump 接口、aclmdlFinalizeDump 接口配合使用,用于将Dump数据记录到文件中。一个进程内,可以根据需求多次调用这些接口,基于不同的Dump配置信息,获取Dump数据。场景举例如下: - 执行两个不同的模型,需要设置不同的D - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_0318_html.md ## 数据采集说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1257.html - Description: 不能与订阅算子信息的接口交叉调用:aclprofInit接口和aclprofFinalize接口之间不能调用aclprofModelSubscribe接口、aclprofGet*接口、aclprofModelUnSubscribe接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1257_html.md ## CANN社区版-aclprofStop - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1261.html - Description: 停止Profiling数据采集。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1261_html.md ## CANN社区版-aclprofFinalize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1262.html - Description: 结束Profiling。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1262_html.md ## 扩展接口使用说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1264.html - Description: - 调用接口要求:msproftx功能相关接口须在 aclprofStart - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1264_html.md ## CANN社区版-aclprofSetStampTraceMessage - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1269.html - Description: 为msproftx事件标记携带字符串描述,在Profiling解析并导出结果中msproftx summary数据展示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1269_html.md ## CANN社区版-aclprofMark - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1270.html - Description: msproftx标记瞬时事件。 调用此接口后,Profiling自动在Stamp指针中加上当前时间戳,将Event type设置为Mark,表示开始一次msproftx采集。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1270_html.md ## CANN社区版-aclprofMarkEx - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1271.html - Description: aclprofMarkEx打点接口。 调用此接口向配置的Stream流上下发打点任务,用于标识Host侧打点与Device侧打点任务的关系。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1271_html.md ## CANN社区版-aclprofPush - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1272.html - Description: msproftx用于记录事件发生的时间跨度的开始时间。 调用此接口后,Profiling自动在Stamp指针中记录开始的时间戳,将Event type设置为Push/Pop。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1272_html.md ## CANN社区版-aclprofPop - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1273.html - Description: msproftx用于记录事件发生的时间跨度的结束时间。 调用此接口后,Profiling自动在Stamp指针中记录采集结束的时间戳。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1273_html.md ## CANN社区版-aclprofRangeStart - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1274.html - Description: msproftx用于记录事件发生的时间跨度的开始时间。 调用此接口后,Profiling自动在Stamp指针记录采集开始的时间戳,将Event type设置为Start/Stop,生成一个进程唯一的id,并将Stamp保存在以进程粒度维护的一个map中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1274_html.md ## CANN社区版-aclprofRangeStop - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1275.html - Description: msproftx用于记录事件发生的时间跨度的结束时间。 调用此接口后,Profiling自动在Stamp指针中记录采集结束的时间戳。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1275_html.md ## 订阅接口使用说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1278.html - Description: 不能与Profiling数据采集接口的接口交叉调用:aclprofModelSubscribe接口和aclprofModelUnSubscribe接口之间不能调用aclprofInit接口、aclprofStart接口、aclprofStop接口和aclprofFinalize接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1278_html.md ## CANN社区版-aclprofModelUnSubscribe - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1280.html - Description: 网络场景下,取消订阅算子的基本信息,包括算子名称、算子类型、算子执行耗时等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1280_html.md ## CANN社区版-aclprofGetOpDescSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1281.html - Description: 获取单个算子数据结构的大小,单位为Byte。当前版本中约定每个算子数据结构的大小是一样的。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其他任务调度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1281_html.md ## CANN社区版-aclprofGetOpTypeLen - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1283.html - Description: 获取算子类型的字符串长度,用于内存申请。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其他任务调度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1283_html.md ## CANN社区版-aclprofGetOpNameLen - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1285.html - Description: 获取算子名称的字符串长度,用于内存申请。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其他任务调度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1285_html.md ## CANN社区版-aclprofGetOpDuration - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1289.html - Description: 获取算子执行的耗时时间,单位为ns。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其他任务调度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1289_html.md ## CANN社区版-aclprofGetStepTimestamp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1296.html - Description: 利用单算子模型执行接口实现训练的场景下,使用本接口用于标记迭代开始与结束时间,为后续Profiling解析提供迭代标识,以便以迭代为粒度展示性能数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1296_html.md ## CANN社区版-acltdtSendTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1300.html - Description: 从Host向Device发送预处理好的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1300_html.md ## CANN社区版-acltdtReceiveTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1301.html - Description: 在Host接收Device发过来的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1301_html.md ## CANN社区版-acltdtStopChannel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1302.html - Description: 调用acltdtSendTensor接口发送数据时或调用acltdtReceiveTensor接口接收数据时,用户线程可能在没有数据时会卡住,此时如果需要退出的话,需要先将线程唤醒,该接口就是用来唤醒被卡住阻塞的线程用的。需要用户在发送、接收线程之外的一个线程里调用这个函数,来唤醒处于阻塞状态的发送/接收线程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1302_html.md ## CANN社区版-acltdtDestroyChannel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1303.html - Description: 销毁acltdtChannelHandle类型的数据,只能销毁通过acltdtCreateChannel接口或acltdtCreateChannelWithCapacity接口创建的acltdtChannelHandle类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1303_html.md ## acltdtCreateChannelWithCapacity - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1304.html - Description: 创建acltdtChannelHandle类型的数据,表示可以用于向Device发送数据或是从Device接收数据的通道,通道带容量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1304_html.md ## CANN社区版-acltdtQueryChannelSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1305.html - Description: 查询队列通道内的消息数量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1305_html.md ## CANN社区版-acltdtCleanChannel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1307.html - Description: 清空通道中的所有数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1307_html.md ## 共享队列管理使用说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1309.html - Description: 本章提供的接口用于实现Device侧的数据队列和数据转发功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1309_html.md ## CANN社区版-acltdtCreateQueue - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1310.html - Description: 创建队列。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1310_html.md ## CANN社区版-acltdtDequeueData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1313.html - Description: 从队列中获取数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1313_html.md ## CANN社区版-acltdtEnqueue - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1314.html - Description: 向队列中添加数据,存放数据的内存必须调用acltdtAllocBuf接口申请。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1314_html.md ## CANN社区版-acltdtDequeue - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1315.html - Description: 从队列中获取数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1315_html.md ## CANN社区版-acltdtBindQueueRoutes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1316.html - Description: 当应用存在数据一对多分发时,通过本接口绑定队列间数据转发路由关系。 如下图所示,可以建立两条路由关系Q1->Q2,Q1->Q3。数据一对多分发时,传递的共享Buffer数据是无锁的,消费者不能对数据进行inplace操作,如下图所示消费者1对共享数据的修改会导致消费者2访问的数据发生变化。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1316_html.md ## CANN社区版-acltdtUnbindQueueRoutes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1317.html - Description: 解绑定数据队列路由关系。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1317_html.md ## CANN社区版-acltdtQueryQueueRoutes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1318.html - Description: 根据指定条件查询数据队列路由关系。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1318_html.md ## CANN社区版-acltdtGrantQueue - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1319.html - Description: 进程间需要共享队列信息时,可以调用本接口给其他进程授予队列相关的权限,例如Enqueue(指向队列中添加数据)权限、Dequeue(指从队列中获取数据)权限等。 进程间传递队列相关信息时,安全性由用户保证。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1319_html.md ## CANN社区版-acltdtAllocBuf - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1322.html - Description: 申请共享Buffer内存。 使用acltdtAllocBuf接口申请内存后,数据区的长度为size参数的大小,在用户还未填入有效数据前,该内存的有效数据长度初始值为0,可在用户向内存中填入有效数据后,再通过acltdtSetBufDataLen接口设置有效数据长度。 使用acltdtAllocBuf接口申请的内存,需要通过acltdtFreeBuf接口释放内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1322_html.md ## CANN社区版-acltdtGetBufData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1324.html - Description: 获取共享Buffer的数据区指针和数据区长度,用户可以使用此指针填入数据。 接口调用顺序:调用acltdtAllocBuf或acltdtCopyBufRef接口申请到共享Buffer后,因此需由用户调用acltdtGetBufData接口获取共享Buffer的内存指针及长度后,再自行向内存中填充有效数据,然后再调用acltdtSetBufDataLen接口设置共享Buffer中有效数据的长度,且长 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1324_html.md ## CANN社区版-acltdtGetBufUserData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1326.html - Description: 获取共享Buffer的私有数据区数据,偏移offset后,拷贝至用户申请的内存区域。当前默认私有数据区大小是96Byte,offset+size必须小于或等于96Byte,否则返回报错。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1326_html.md ## CANN社区版-acltdtGetBufDataLen - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1328.html - Description: 获取共享Buffer中有效数据的长度。 通过acltdtSetBufDataLen接口设置共享Buffer中有效数据的长度后,可调用本接口获取有效数据的长度,否则,通过本接口获取到的长度为0。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1328_html.md ## CANN社区版-acltdtCopyBufRef - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1329.html - Description: 对共享Buffer数据区的引用拷贝,创建并返回一个新的Buffer管理结构指向相同的数据区。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1329_html.md ## CANN社区版-acltdtAppendBufChain - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1330.html - Description: 将某个共享Buffer内存添加到共享Buffer链表中。共享Buffer链最大支持128个共享Buffer。共享Buffer可通过acltdtAllocBuf或acltdtCopyBufRef接口申请获得。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1330_html.md ## CANN社区版-acltdtGetBufFromChain - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1332.html - Description: 获取Mbuf链中第index个Mbuf。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1332_html.md ## CANN社区版-aclError - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1345.html - Description: ``` typedef int aclError; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1345_html.md ## CANN社区版-aclFloat16 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1347.html - Description: 该数据类型仅用于数据传递,不能用于加减乘除等运算。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1347_html.md ## CANN社区版-aclFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1348.html - Description: ``` typedef enum \{ ACLFORMATUNDEFINED \= -1, ACLFORMATNCHW \= 0, ACLFORMATNHWC \= 1, ACLFORMATND \= 2, ACLFORMATNC1HWC0 \= 3, ACLFORMATFRACTALZ \= 4, ACLFORMATNC1HWC0C04 \= 12, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1348_html.md ## CANN社区版-aclrtContext - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1354.html - Description: ``` typedef void aclrtContext; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1354_html.md ## CANN社区版-aclrtStream - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1355.html - Description: ``` typedef void aclrtStream; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1355_html.md ## CANN社区版-aclrtRunMode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1358.html - Description: ``` typedef enum aclrtRunMode \{ ACLDEVICE, ACLHOST, \} aclrtRunMode; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1358_html.md ## CANN社区版-aclrtGroupAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1366.html - Description: ``` typedef enum aclrtGroupAttr \{ ACLGROUPAICOREINT, //指定Group对应的AI Core个数,属性值的数据类型为整型 ACLGROUPAIVINT, //指定Group对应的Vector Core个数,属性值的数据类型为整型 ACLGROUPAICINT, //指定Group对应的AI - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1366_html.md ## CANN社区版-aclprofAicoreMetrics - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1367.html - Description: ``` typedef enum \{ ACLAICOREARITHMETICUTILIZATION \= 0, // 各种计算类指标占比统计 ACLAICOREPIPEUTILIZATION \= 1, // 计算单元和搬运单元耗时占比 ACLAICOREMEMORYBANDWIDTH \= 2, // 外部内存读写类指令占比 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1367_html.md ## CANN社区版-aclprofEventAttributes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1371_2.html - Description: ``` typedef struct \{ uint16t version; uint16t size; uint32t messageType; // MESSAGETYPETENSORINFO union Message \{ aclprofTensorInfo tensorInfo; \} message; \} aclprofEvent - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1371_2_html.md ## CANN社区版-aclMemType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1376.html - Description: ``` typedef enum \{ ACLMEMTYPEDEVICE \= 0, //Device内存 ACLMEMTYPEHOST \= 1, //Host内存 ACLMEMTYPEHOSTCOMPILEINDEPENDENT \= 2 //Host内存 \} aclMemType; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1376_html.md ## CANN社区版-aclrtEventWaitStatus - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1378.html - Description: ``` typedef enum aclrtEventWaitStatus \{ ACLEVENTWAITSTATUSCOMPLETE \= 0, // 完成 ACLEVENTWAITSTATUSNOTREADY \= 1, // 未完成 ACLEVENTWAITSTATUSRESERVED \= 0xFFFF, // 预留 \} aclrtEventWait - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1378_html.md ## CANN社区版-aclprofStepTag - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1379.html - Description: ``` typedef enum\{ ACLSTEPSTART \= 0, // step start ACLSTEPEND \= 1 // step end \} aclprofStepTag; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1379_html.md ## CANN社区版-acltdtBuf - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1380.html - Description: ``` typedef void acltdtBuf; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1380_html.md ## CANN社区版-acltdtQueueAttrType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1381.html - Description: ``` typedef enum \{ ACLTDTQUEUENAMEPTR \= 0, //队列名 ACLTDTQUEUEDEPTHUINT32 //队列深度 \} acltdtQueueAttrType; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1381_html.md ## CANN社区版-acltdtQueueRouteQueryMode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1383.html - Description: ``` typedef enum \{ ACLTDTQUEUEROUTEQUERYSRC \= 0, // 指定为只根据源队列ID匹配查询 ACLTDTQUEUEROUTEQUERYDST \= 1, // 指定为只根据目标队列ID匹配查询 ACLTDTQUEUEROUTEQUERYSRCANDDST \= 2, // 指定为同时根据源、目标队列I - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1383_html.md ## CANN社区版-aclrtEventRecordedStatus - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1388.html - Description: ``` typedef enum aclrtEventRecordedStatus \{ ACLEVENTRECORDEDSTATUSNOTREADY \= 0, //Event未被记录到Stream中,或记录到Stream中的Event未被执行或执行失败 ACLEVENTRECORDEDSTATUSCOMPLETE \= 1, //记录到Stream中的Event执行成功 \} a - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1388_html.md ## CANN社区版-aclSysParamOpt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1393.html - Description: ``` typedef enum \{ ACLOPTDETERMINISTIC \= 0, ACLOPTENABLEDEBUGKERNEL \= 1, ACLOPTSTRONGCONSISTENCY \= 2, \} aclSysParamOpt; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1393_html.md ## CANN社区版-aclrtUtilizationInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1394.html - Description: ``` typedef struct aclrtUtilizationInfo \{ int32t cubeUtilization; // Cube利用率 int32t vectorUtilization; // Vector利用率 int32t aicpuUtilization; // AI CPU利用率 int32t memoryUtilization; / - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1394_html.md ## CANN社区版-aclrtStreamStatus - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1395.html - Description: ``` typedef enum aclrtStreamStatus \{ ACLSTREAMSTATUSCOMPLETE \= 0, // Stream上的所有任务已完成 ACLSTREAMSTATUSNOTREADY \= 1, // Stream上至少有一个任务未完成 ACLSTREAMSTATUSRESERVED \= 0xFFFF, // 预留 \} - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1395_html.md ## CANN社区版-aclrtMemHandleType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1396.html - Description: ``` typedef enum aclrtMemHandleType \{ ACLMEMHANDLETYPENONE \= 0, // 通用handle,无类型标识 ACLMEMHANDLETYPEPOSIX \= 2, // POSIX类型的handle,表示内存可以通过POSIX文件描述符导出,建议仅在POSIX系统中配置该属性 \} aclrtMemHandleType; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1396_html.md ## CANN社区版-aclrtMemAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1398.html - Description: ``` typedef enum aclrtMemAttr \{ ACLDDRMEM, // 大页内存+普通内存 ACLHBMMEM, // 大页内存+普通内存 ACLDDRMEMHUGE, // 大页内存 ACLDDRMEMNORMAL, // 普通内存 ACLHBMMEMHUGE, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1398_html.md ## CANN社区版-aclrtMemLocationType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1399.html - Description: ``` typedef enum aclrtMemLocationType \{ ACLMEMLOCATIONTYPEHOST \= 0, // 通过acl接口(例如aclrtMallocHost)申请的Host内存 ACLMEMLOCATIONTYPEDEVICE, // 通过acl接口(例如aclrtMalloc)申请的Device内存 ACLMEM - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1399_html.md ## CANN社区版-aclrtPhysicalMemProp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1401.html - Description: ``` typedef struct aclrtPhysicalMemProp \{ aclrtMemHandleType handleType; aclrtMemAllocationType allocationType; aclrtMemAttr memAttr; aclrtMemLocation location; uint64t reserve; \} - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1401_html.md ## CANN社区版-aclrtDeviceStatus - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1403.html - Description: ``` typedef enum aclrtDeviceStatus \{ ACLRTDEVICESTATUSNORMAL \= 0, // Device正常可用 ACLRTDEVICESTATUSABNORMAL, // Device异常 ACLRTDEVICESTATUSEND \= 0xFFFF, // 预留值 \} aclrtDeviceStatus - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1403_html.md ## CANN社区版-aclrtMemGranularityOptions - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1404.html - Description: ``` typedef enum aclrtMemGranularityOptions \{ ACLRTMEMALLOCGRANULARITYMINIMUM, ACLRTMEMALLOCGRANULARITYRECOMMENDED, ACLRTMEMALLOCGRANULARITYUNDEF \= 0xFFFF, \} aclrtMemGranularityOptions; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1404_html.md ## CANN社区版-aclCannAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1405.html - Description: ``` typedef enum \{ ACLCANNATTRUNDEFINED \= -1, // 未知特性 ACLCANNATTRINFNAN \= 0, // 溢出检测Inf/NaN模式 ACLCANNATTRBF16 \= 1, // bf16数据类型 ACLCANNATTRJITCOMPILE \= 2 // 算子二进制特性 \} a - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1405_html.md ## CANN社区版-aclrtMemUceInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1408.html - Description: ``` \#define MAXMEMUCEINFOARRAYSIZE 128 \#define UCEINFORESERVEDSIZE 14 typedef struct aclrtMemUceInfo \{ void addr; sizet len; sizet reserved\[UCEINFORESERVEDSIZE\]; \} aclrtMemUceInfo; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1408_html.md ## CANN社区版-aclrtCmoType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1410.html - Description: ``` typedef enum aclrtCmoType \{ ACLRTCMOTYPEPREFETCH \= 0, // 内存预取,从内存预取到Cache ACLRTCMOTYPEWRITEBACK, // 把Cache中的数据刷新到内存中,并在Cache中保留副本 ACLRTCMOTYPEINVALID, // 丢弃Cache中的数 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1410_html.md ## CANN社区版-aclrtLastErrLevel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1411.html - Description: ``` typedef enum aclrtLastErrLevel \{ ACLRTTHREADLEVEL \= 0, \} aclrtLastErrLevel; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1411_html.md ## CANN社区版-aclCreateDataBuffer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1431.html - Description: 创建aclDataBuffer类型的数据,该数据类型用于描述内存地址、大小等内存信息。 如需销毁aclDataBuffer类型的数据,请参见aclDestroyDataBuffer。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1431_html.md ## CANN社区版-aclDestroyDataBuffer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1432.html - Description: 销毁通过aclCreateDataBuffer接口创建的aclDataBuffer类型的数据。 此处仅销毁aclDataBuffer类型的数据,调用aclCreateDataBuffer接口创建aclDataBuffer类型数据时传入的data的内存需由用户自行释放。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1432_html.md ## CANN社区版-aclGetDataBufferSizeV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1435.html - Description: 获取aclDataBuffer类型中数据的内存大小,单位Byte。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1435_html.md ## CANN社区版-aclUpdateDataBuffer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1436.html - Description: 更新aclDataBuffer中数据的内存及大小。 更新aclDataBuffer后,之前aclDataBuffer中存放数据的内存如果不使用,需及时释放,否则可能会导致内存泄漏。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1436_html.md ## CANN社区版-aclprofDestroyConfig - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1611.html - Description: 销毁通过aclprofCreateConfig接口创建的aclprofConfig类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1611_html.md ## CANN社区版-aclprofCreateSubscribeConfig - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1613.html - Description: 创建aclprofSubscribeConfig类型的数据,表示创建订阅配置信息。 如需销毁aclprofSubscribeConfig类型的数据,请参见aclprofDestroySubscribeConfig。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1613_html.md ## CANN社区版-aclprofDestroySubscribeConfig - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1614.html - Description: 销毁通过aclprofCreateSubscribeConfig接口创建的aclprofSubscribeConfig类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1614_html.md ## CANN社区版-aclprofCreateStepInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1616.html - Description: 创建aclprofStepInfo对象,用于描述迭代信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1616_html.md ## CANN社区版-acltdtCreateDataItem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1619.html - Description: 创建acltdtDataItem类型的数据,代表一个业务上的Tensor。 如需销毁acltdtDataItem类型的数据,请参见acltdtDestroyDataItem。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1619_html.md ## CANN社区版-acltdtGetTensorTypeFromItem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1621.html - Description: 收到dataItem数据之后,从数据描述里首先check这个数据是个正常数据,还是一个end数据,还是一个异常数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1621_html.md ## CANN社区版-acltdtGetDimsFromItem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1626.html - Description: 得到正常tensor数据的数据Shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1626_html.md ## CANN社区版-acltdtCreateDataset - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1628.html - Description: 创建acltdtDataset类型的数据,对等一个Vector。 如需销毁acltdtDataset类型的数据,请参见acltdtDestroyDataset。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1628_html.md ## CANN社区版-acltdtDestroyDataset - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1629.html - Description: 销毁通过acltdtCreateDataset接口创建的acltdtDataset类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1629_html.md ## CANN社区版-acltdtGetDataItem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1630.html - Description: 获取acltdtDataset中的第n个acltdtDataItem。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1630_html.md ## CANN社区版-acltdtCreateQueueAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1638.html - Description: 创建acltdtQueueAttr类型的数据,表示队列属性配置信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1638_html.md ## CANN社区版-acltdtSetQueueAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1640.html - Description: 设置队列属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1640_html.md ## CANN社区版-acltdtGetQueueAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1641.html - Description: 获取队列属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1641_html.md ## CANN社区版-acltdtCreateQueueRoute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1643.html - Description: 创建acltdtQueueRoute类型的数据,表示创建队列路由配置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1643_html.md ## CANN社区版-acltdtGetQueueRouteParam - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1645.html - Description: 获取队列路由配置的相关信息,例如源队列ID、目标队列ID等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1645_html.md ## acltdtCreateQueueRouteQueryInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1653.html - Description: 创建acltdtQueueRouteQueryInfo类型的数据,表示队列路由关系查询条件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1653_html.md ## acltdtDestroyQueueRouteQueryInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1654.html - Description: 销毁通过acltdtCreateQueueRouteQueryInfo接口创建的acltdtQueueRouteQueryInfo类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1654_html.md ## CANN社区版-acltdtSetQueueRouteQueryInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1655.html - Description: 设置路由关系查询条件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1655_html.md ## CANN社区版-aclrtAllocatorCreateDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1666.html - Description: 创建aclrtAllocatorDesc类型的数据,表示Allocator描述信息,主要用于注册回调函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1666_html.md ## CANN社区版-aclrtAllocatorSetAllocFuncToDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1669.html - Description: 使用用户提供的Allocator场景下,设置“申请内存block”的回调函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1669_html.md ## CANN社区版-aclrtAllocatorSetAllocAdviseFuncToDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1670.html - Description: 使用用户提供的Allocator场景下,设置"根据建议地址申请内存block"的回调函数,一般用于内存复用场景。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1670_html.md ## CANN社区版-aclrtAllocatorSetFreeFuncToDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1671.html - Description: 使用用户提供的Allocator场景下,设置“释放内存block”的回调函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1671_html.md ## CANN社区版-aclrtAllocatorSetGetAddrFromBlockFuncToDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1672.html - Description: 使用用户提供的Allocator场景下,设置“根据申请来的block获取device内存地址”的回调函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1672_html.md ## CANN社区版-aclrtStreamAbort - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1777.html - Description: 停止指定Stream上正在执行的任务、丢弃指定Stream上已下发但未执行的任务。本接口执行期间,指定Stream上新下发的任务不再生效。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1777_html.md ## CANN社区版-aclrtMemcpyAsyncWithCondition(废弃) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1778.html - Description: 须知:此接口后续版本会废弃,请使用aclrtMemcpyAsync接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1778_html.md ## CANN社区版-aclrtGetSysParamOpt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1779.html - Description: 获取当前进程中的运行时参数值。 如果不调用aclrtSetSysParamOpt接口设置运行时参数的值,直接调用本接口可获取各参数的默认值0,表示不开启确定性计算或内存访问越界检测;调用aclrtSetSysParamOpt接口设置运行时参数值后,若需获取参数值,需调用aclrtGetSysParamOpt接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1779_html.md ## CANN社区版-aclrtEventGetTimestamp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1780.html - Description: 获取Event的执行结束时间点(表示从AI处理器系统启动以来的时间)。 本接口需与其他关键接口配合使用,接口调用顺序:调用aclrtCreateEvent/aclrtCreateEventWithFlag接口创建Event-->调用aclrtRecordEvent接口在Stream中记录Event>调用aclrtSynchronizeStream接口阻塞应用程序运行,直到指定Stream中的所有任 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1780_html.md ## CANN社区版-aclrtSetOpExecuteTimeOutWithMs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1781.html - Description: 设置算子执行的超时时间,单位为毫秒。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1781_html.md ## CANN社区版-aclmdlRICaptureBegin - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1782.html - Description: 开始捕获Stream上下发的任务。 在aclmdlRICaptureBegin和aclmdlRICaptureEnd接口之间,所有在指定Stream上下发的任务不会立即执行,而是被暂存在系统内部模型运行实例中,只有在调用aclmdlRIExecuteAsync接口执行模型时,这些任务才会被真正执行,以此减少Host侧的任务下发开销。所有任务执行完毕后,若无需再使用内部模型,可调用aclmdlRID - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1782_html.md ## CANN社区版-aclmdlRICaptureGetInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1783.html - Description: 获取Stream的捕获信息,包括捕获状态、模型运行实例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1783_html.md ## CANN社区版-aclmdlRIDebugPrint - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1786.html - Description: 维测场景下使用本接口打印内部模型信息,包括Device ID、Stream ID、Task ID等信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1786_html.md ## CANN社区版-aclmdlRICaptureStatus - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1787.html - Description: ``` typedef enum \{ ACLMODELRICAPTURESTATUSNONE \= 0, // Stream不在捕获状态 ACLMODELRICAPTURESTATUSACTIVE, // Stream处于正常捕获状态 ACLMODELRICAPTURESTATUSINVALIDATED, // 捕获失败状态 \} aclmdlRICapture - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1787_html.md ## aclmdlRICaptureThreadExchangeMode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1788.html - Description: 切换当前线程的捕获模式。 调用本接口会将调用线程的捕获模式设置为mode中包含的值,并通过mode返回该线程之前设置的模式。 建议在aclmdlRICaptureBegin和aclmdlRICaptureEnd接口之间调用本接口切换当前线程的模式。各捕获模式的配置说明如下,说明中的其他线程指“没有调用aclmdlRICaptureBegin接口、不在捕获状态”的线程。- 若aclmdlRICapt - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1788_html.md ## CANN社区版-aclsysGetCANNVersion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1789.html - Description: 须知:此接口后续版本会废弃,请使用aclsysGetVersionStr、aclsysGetVersionNum接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1789_html.md ## CANN社区版-aclCANNPackageName - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1790.html - Description: 设置为ACL\_PKG\_NAME\_CANN,表示查询CANN的版本号;设置为其他值,表示查询CANN中具体某个模块的版本号。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1790_html.md ## CANN社区版-aclCANNPackageVersion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1791.html - Description: ``` \#define ACLPKGVERSIONMAXSIZE 128 \#define ACLPKGVERSIONPARTSMAXSIZE 64 typedef struct aclCANNPackageVersion \{ char version\[ACLPKGVERSIONMAXSIZE\]; // 完整版本号 char majorVers - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1791_html.md ## CANN社区版-aclrtBinaryGetFunctionByEntry - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1794.html - Description: 须知:本接口为预留接口,暂不支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1794_html.md ## CANN社区版-aclrtGetFunctionAddr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1795.html - Description: 根据核函数句柄获取Device侧算子起始地址。 不同产品上的AI数据处理核心单元不同,关于Core的定义及详细说明,请参见aclrtDevAttr。 - 对于以下产品型号,通过aicAddr参数返回的是AI Core上的算子起始地址。 Atlas 训练系列产品 Atlas 推理系列产品 - 对于以下产品型号,通过aicAddr参数返回的是Cube Core上的算子起始地址。 Ascen - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1795_html.md ## CANN社区版-aclrtMallocWithCfg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1796.html - Description: 在Device上分配size大小的线性内存,并通过devPtr返回已分配内存的指针,且内存首地址64字节对齐。 与aclrtMalloc接口相比,本接口在申请内存时,还可以指定内存相关的配置信息。 使用本接口申请的内存,需要通过aclrtFree接口或aclrtFreeWithDevSync接口释放内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1796_html.md ## CANN社区版-aclrtMallocForTaskScheduler - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1797.html - Description: 申请AI处理器上Task调度器可使用的内存。 图模式下有部分算子需要使用该类型的内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1797_html.md ## CANN社区版-aclrtMallocHostWithCfg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1799.html - Description: 申请Host内存(该内存是锁页内存),由系统保证内存首地址64字节对齐。 与aclrtMallocHost接口相比,本接口在申请内存时,还可以指定内存相关的配置信息。 通过本接口申请的内存,需要通过aclrtFreeHost接口或aclrtFreeHostWithDevSync接口释放内存。 针对 Ascend RC 形态、Control CPU开放形态,Host与Device是合一的,所以申请H - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1799_html.md ## CANN社区版-aclrtSetMemcpyDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1802.html - Description: 设置内存复制描述符,此接口调用完成后,会将源地址,目的地址、内存复制长度记录到内存复制描述符中。 本接口需与其他关键接口配合使用,以便实现内存复制,详细描述请参见aclrtMemcpyAsyncWithDesc。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1802_html.md ## CANN社区版-aclrtHostRegister - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1804.html - Description: 将Host内存映射注册为Device可访问的内存地址,并获取映射后的Device内存地址,该地址仅支持在Device上访问,例如作为核函数的参数,供Device的AI Core访问。若涉及Host侧的内存处理,需使用原始Host内存地址。取消注册Host内存需调用aclrtHostUnregister接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1804_html.md ## CANN社区版-aclrtHostUnregister - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1805.html - Description: 取消注册Host内存。 本接口与aclrtHostRegister或aclrtHostRegisterV2接口成对使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1805_html.md ## CANN社区版-aclrtMemcpyKind - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1807.html - Description: ``` typedef enum aclrtMemcpyKind \{ ACLMEMCPYHOSTTOHOST, // Host内的内存复制 ACLMEMCPYHOSTTODEVICE, // Host到Device的内存复制 ACLMEMCPYDEVICETOHOST, // Device到Host的内存复制 ACLMEMCPYDEVICETODEV - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1807_html.md ## CANN社区版-aclrtArgsHandle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1808.html - Description: ``` typedef void aclrtArgsHandle; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1808_html.md ## CANN社区版-aclrtLaunchKernelAttrId - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1813.html - Description: ``` typedef enum aclrtLaunchKernelAttrId \{ ACLRTLAUNCHKERNELATTRSCHEMMODE \= 1, // 调度模式 ACLRTLAUNCHKERNELATTRDYNUBUFSIZE \= 2, // 用于指定SIMT算子执行时需要的UB buffer动态内存大小 ACLRTLAUNCHKERNEL - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1813_html.md ## CANN社区版-aclrtLaunchKernelCfg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1816.html - Description: ``` typedef struct aclrtLaunchKernelCfg \{ aclrtLaunchKernelAttr attrs; sizet numAttrs; \} aclrtLaunchKernelCfg; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1816_html.md ## CANN社区版-aclrtBinaryLoadOptionType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1817.html - Description: ``` typedef enum aclrtBinaryLoadOptionType \{ ACLRTBINARYLOADOPTLAZYLOAD \= 1, // 指定解析算子二进制、注册算子后,是否加载算子到Device侧 ACLRTBINARYLOADOPTLAZYMAGIC \= 2, // 废弃,请使用ACLRTBINARYLOADOPTMAGIC - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1817_html.md ## CANN社区版-aclrtBinHandle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1818.html - Description: ``` typedef void aclrtBinHandle; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1818_html.md ## CANN社区版-aclrtFuncHandle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1819.html - Description: ``` typedef void aclrtFuncHandle; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1819_html.md ## CANN社区版-aclmdlRICaptureTaskGrpBegin - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1823.html - Description: 标记任务组的开始。 本接口与aclmdlRICaptureTaskGrpEnd接口成对使用,位于这两个接口之间的任务构成一组任务,当前仅支持在这两个接口之间下发单算子调用的任务。 若下发任务时返回ACLERRORRTTASKTYPENOTSUPPORT,则表示不支持该单算子任务,可通过应用类日志查看详细的报错信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1823_html.md ## CANN社区版-aclmdlRICaptureTaskGrpEnd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1824.html - Description: 标记任务组的结束。 aclmdlRICaptureTaskGrpBegin接口与本接口成对使用,位于这两个接口之间的任务构成一组任务,当前仅支持在这两个接口之间下发单算子调用的任务。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1824_html.md ## aclmdlRICaptureTaskUpdateBegin - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1825.html - Description: 标记待更新任务的开始。 本接口与aclmdlRICaptureTaskUpdateEnd接口成对使用,位于这两个接口之间的任务需更新。 aclmdlRICaptureTaskUpdateBegin、aclmdlRICaptureTaskUpdateEnd接口之间的任务数量、任务类型必须与aclmdlRICaptureTaskGrpBegin、aclmdlRICaptureTaskGrpEnd接口之 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1825_html.md ## CANN社区版-aclmdlRICaptureTaskUpdateEnd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1826.html - Description: 标记待更新任务的结束。 aclmdlRICaptureTaskUpdateBegin接口与本接口成对使用,位于这两个接口之间的任务需更新。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1826_html.md ## CANN社区版-aclrtStreamGetId - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1828.html - Description: 获取指定Stream的ID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1828_html.md ## CANN社区版-aclrtGetThreadLastTaskId - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1829.html - Description: 获取当前线程的最后一个下发的Task ID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1829_html.md ## 概念及使用说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1830.html - Description: 本章中的接口涉及对算子的算子二进制、核函数、核函数参数列表以及参数的操作,为便于理解,您可以先通过下图了解它们之间的关系。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1830_html.md ## CANN社区版-aclrtKernelArgsInit - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1831.html - Description: 根据核函数句柄初始化参数列表,并获取标识参数列表的句柄。 与aclrtKernelArgsInitByUserMem接口的区别在于,调用本接口表示由系统管理内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1831_html.md ## CANN社区版-aclrtKernelArgsGetHandleMemSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1834.html - Description: 获取参数列表句柄占用的内存大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1834_html.md ## CANN社区版-aclrtKernelArgsAppend - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1835.html - Description: 调用本接口将用户设置的参数值追加拷贝到argsHandle指向的参数数据区域。若参数列表中有多个参数,则需按顺序追加参数。 如果要更新参数值,可调用aclrtKernelArgsParaUpdate接口进行更新。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1835_html.md ## CANN社区版-aclrtKernelArgsAppendPlaceHolder - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1836.html - Description: 对于placeholder参数,调用本接口先占位,返回的是paramHandle占位符。 若参数列表中有多个参数,则需按顺序追加参数。等所有参数都追加之后,可调用aclrtKernelArgsGetPlaceHolderBuffer接口获取paramHandle占位符指向的内存地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1836_html.md ## CANN社区版-aclrtKernelArgsGetPlaceHolderBuffer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1837.html - Description: 根据用户指定的内存大小,获取paramHandle占位符指向的内存地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1837_html.md ## CANN社区版-aclrtKernelArgsFinalize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1839.html - Description: 在所有参数追加完成后,调用本接口以标识参数组装完毕。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1839_html.md ## CANN社区版-aclrtHostRegisterType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1840.html - Description: ``` typedef enum \{ ACLHOSTREGISTERMAPPED \= 0, ACLHOSTREGISTERIOMEMORY \= 0x04, ACLHOSTREGISTERREADONLY \= 0x08 \}aclrtHostRegisterType; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1840_html.md ## CANN社区版-aclrtMallocAttrType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1841.html - Description: ``` typedef enum \{ ACLRTMEMATTRRSV \= 0, // 预留值 ACLRTMEMATTRMODULEID, // 表示模块ID ACLRTMEMATTRDEVICEID, // 表示Device ID ACLRTMEMATTRVAFLAG, // 使用aclrtMallocHostWithCfg接口申请Host内存时,是 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1841_html.md ## CANN社区版-aclrtMallocAttrValue - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1842.html - Description: ``` typedef union \{ uint16t moduleId; uint32t deviceId; uint32t vaFlag; uint8t rsv\[8\]; \} aclrtMallocAttrValue; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1842_html.md ## CANN社区版-aclrtMallocAttribute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1843.html - Description: ``` typedef struct \{ aclrtMallocAttrType attr; aclrtMallocAttrValue value; \} aclrtMallocAttribute; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1843_html.md ## CANN社区版-aclrtMallocConfig - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1844.html - Description: ``` typedef struct \{ aclrtMallocAttribute attrs; sizet numAttrs; \} aclrtMallocConfig; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1844_html.md ## CANN社区版-aclrtPtrAttributes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1845.html - Description: ``` typedef struct aclrtPtrAttributes \{ aclrtMemLocation location; uint32t pageSize; uint32t rsv\[4\]; \} aclrtPtrAttributes; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1845_html.md ## CANN社区版-aclrtValueWrite - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1847.html - Description: 向指定内存中写数据。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1847_html.md ## CANN社区版-aclrtValueWait - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1848.html - Description: 等待指定内存中的数据满足一定条件后解除阻塞。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1848_html.md ## CANN社区版-aclmdlRIExecute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1850.html - Description: 执行模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1850_html.md ## CANN社区版-aclmdlRIBuildBegin - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1851.html - Description: 开始构建一个模型运行实例。 在aclmdlRIBuildBegin接口之后,先调用aclmdlRIBindStream接口将模型运行实例与Stream绑定,接着在指定的Stream上下发任务,所有任务下发完成后,调用aclmdlRIEndTask接口在Stream上标记任务下发结束,随后调用aclmdlRIBuildEnd接口结束模型构建。此时,所有在指定Stream上下发的任务不会立即执行,只有 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1851_html.md ## CANN社区版-aclmdlRIEndTask - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1853.html - Description: 在Stream上标记下发任务结束。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1853_html.md ## CANN社区版-aclrtGetStreamAttribute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1858.html - Description: 获取Stream属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1858_html.md ## CANN社区版-aclrtCreateNotify - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1860.html - Description: 创建Notify。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1860_html.md ## CANN社区版-aclrtRecordNotify - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1862.html - Description: 在指定Stream上记录一个Notify。异步接口。 aclrtRecordNotify接口与aclrtWaitAndResetNotify接口配合使用时,主要用于多Stream之间同步等待的场景。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1862_html.md ## CANN社区版-aclrtWaitAndResetNotify - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1863.html - Description: 阻塞指定Stream的运行,直到指定的Notify完成,再复位Notify。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1863_html.md ## CANN社区版-aclrtGetNotifyId - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1864.html - Description: 获取指定Notify的ID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1864_html.md ## CANN社区版-aclrtGetEventId - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1865.html - Description: 获取指定Event的ID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1865_html.md ## CANN社区版-aclrtGetDeviceInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1867.html - Description: 获取指定Device的信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1867_html.md ## CANN社区版-aclrtDeviceGetStreamPriorityRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1868.html - Description: 查询硬件支持的Stream最低、最高优先级。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1868_html.md ## CANN社区版-aclrtGetDeviceCapability - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1869.html - Description: 查询支持的特性信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1869_html.md ## CANN社区版-aclrtReduceAsync - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1871.html - Description: 执行Reduce操作,包括SUM、MIN、MAX等。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1871_html.md ## CANN社区版-aclrtStreamAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1873.html - Description: ``` typedef enum \{ ACLSTREAMATTRFAILUREMODE \= 1, ACLSTREAMATTRFLOATOVERFLOWCHECK \= 2, ACLSTREAMATTRUSERCUSTOMTAG \= 3, ACLSTREAMATTRCACHEOPINFO \= 4, ACLSTREAM - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1873_html.md ## CANN社区版-aclrtDevFeatureType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1877.html - Description: ``` typedef enum \{ ACLFEATURETSCPUTASKUPDATESUPPORTAICAIV \= 1, // 更新AI Core算子的计算任务 ACLFEATURESYSTEMMEMQEVENTCROSSDEV \= 21, // 跨设备发送队列事件消息 \} aclrtDevFeatureType; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1877_html.md ## CANN社区版-aclrtGetDeviceResLimit - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1878.html - Description: 获取当前进程的Device核资源限制。 若没有调用aclrtSetDeviceResLimit接口设置当前进程的Device核资源限制,则调用本接口获取到的是AI处理器硬件默认的核资源限制。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1878_html.md ## CANN社区版-aclrtSetDeviceResLimit - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1879.html - Description: 设置当前进程的Device核资源限制。 本接口应在调用aclrtSetDevice接口之后且在执行算子之前使用。如果对同一Device进行多次设置,将以最后一次设置为准。 除了进程级别的Device核资源限制,当前还支持设置Stream级别的Device核资源限制,可通过aclrtSetStreamResLimit、aclrtUseStreamResInCurrentThread接口配合使用实现。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1879_html.md ## CANN社区版-aclrtResetDeviceResLimit - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1880.html - Description: 调用aclrtSetDeviceResLimit接口设置Device核资源限制后,可调用本接口重置当前进程的Device核资源限制,恢复默认配置,此时可通过aclrtGetDeviceResLimit接口查询默认的核资源限制。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1880_html.md ## CANN社区版-aclrtCreateLabel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1885.html - Description: 创建标签。每个进程最多创建65535个标签。 调用本接口创建标签后,再依次配合aclrtCreateLabelList接口(创建标签列表)、aclrtSetLabel接口(在Stream上设置标签)、aclrtSwitchLabelByIndex接口(跳转到指定Stream)使用,实现Stream之间的跳转。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1885_html.md ## CANN社区版-aclrtSetLabel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1886.html - Description: 在Stream上设置标签。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1886_html.md ## CANN社区版-aclrtDestroyLabel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1887.html - Description: 销毁标签。 返回0表示成功,返回其他值表示失败,请参见aclError。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1887_html.md ## CANN社区版-aclrtCreateLabelList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1888.html - Description: 创建标签列表。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1888_html.md ## CANN社区版-aclrtDestroyLabelList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1889.html - Description: 销毁标签列表。 返回0表示成功,返回其他值表示失败,请参见aclError。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1889_html.md ## CANN社区版-aclrtSwitchLabelByIndex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1890.html - Description: 根据标签索引跳转到相应的标签位置,执行该标签所在Stream上的任务,同时当前Stream上的任务停止执行。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1890_html.md ## CANN社区版-aclrtActiveStream - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1892.html - Description: 激活Stream。异步接口。 被激活的Stream上的任务与当前Stream上的任务并行执行。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1892_html.md ## CANN社区版-aclrtGetDevicesTopo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1895.html - Description: 获取两个Device之间的网络拓扑关系。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1895_html.md ## CANN社区版-aclrtCmoAsyncWithBarrier - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1898.html - Description: 实现Device上的Cache内存操作,同时携带barrierId,barrierId表示Cache内存操作的屏障标识。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1898_html.md ## CANN社区版-aclrtCmoWaitBarrier - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1899.html - Description: 等待具有指定barrierId的Invalid内存操作任务执行完成。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1899_html.md ## CANN社区版-aclrtGetBufChainNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1902.html - Description: 从Mbuf链表中获取共享Buffer的个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1902_html.md ## CANN社区版-aclrtGetBufUserData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1905.html - Description: 获取共享Buffer的私有数据区数据,偏移offset后,拷贝至用户申请的内存区域。当前默认私有数据区大小是96Byte,offset+size必须小于或等于96Byte,否则返回报错。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1905_html.md ## CANN社区版-aclrtGetBufData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1906.html - Description: 获取共享Buffer的数据区指针和数据区长度,用户可以使用此指针填入数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1906_html.md ## CANN社区版-aclrtSetBufDataLen - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1908.html - Description: 设置共享Buffer中有效数据的长度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1908_html.md ## CANN社区版-aclrtAllocBuf - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1910.html - Description: 申请指定大小的共享Buffer。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1910_html.md ## CANN社区版-aclrtTaskUpdateAsync - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1911.html - Description: 刷新目标任务的信息。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1911_html.md ## CANN社区版-aclrtLabel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1912.html - Description: ``` typedef void aclrtLabel; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1912_html.md ## CANN社区版-aclrtLabelList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1913.html - Description: ``` typedef void aclrtLabelList; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1913_html.md ## CANN社区版-aclrtCondition - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1914.html - Description: ``` typedef enum \{ ACLRTEQUAL \= 0, ACLRTNOTEQUAL, ACLRTGREATER, ACLRTGREATEROREQUAL, ACLRTLESS, ACLRTLESSOREQUAL \} aclrtCondition; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1914_html.md ## CANN社区版-aclrtCompareDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1915.html - Description: ``` typedef enum \{ ACLRTSWITCHINT32 \= 0, ACLRTSWITCHINT64 \= 1, \} aclrtCompareDataType; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1915_html.md ## CANN社区版-aclrtEngineType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1916.html - Description: ``` typedef enum \{ ACLRTENGINETYPEAIC \= 0, // AI Core ACLRTENGINETYPEAIV, // Vector Core \} aclrtEngineType; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1916_html.md ## CANN社区版-aclrtBarrierTaskInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1917.html - Description: ``` typedef struct \{ sizet barrierNum; aclrtBarrierCmoInfo cmoInfo\[ACLRTCMOMAXBARRIERNUM\]; \} aclrtBarrierTaskInfo; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1917_html.md ## CANN社区版-aclrtTaskUpdateInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1918.html - Description: ``` typedef struct \{ aclrtUpdateTaskAttrId id; aclrtUpdateTaskAttrVal val; \} aclrtTaskUpdateInfo; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1918_html.md ## CANN社区版-aclrtAicAivTaskUpdateAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1919.html - Description: ``` typedef struct \{ void binHandle; void funcEntryAddr; void blockDimAddr; uint32t rsv\[4\]; \} aclrtAicAivTaskUpdateAttr; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1919_html.md ## CANN社区版-aclrtUpdateTaskAttrId - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1921.html - Description: ``` typedef enum \{ ACLRTUPDATERANDOMTASK \= 1, ACLRTUPDATEAICAIVTASK, \} aclrtUpdateTaskAttrId; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1921_html.md ## CANN社区版-aclrtMbuf - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1923.html - Description: ``` typedef void aclrtMbuf; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1923_html.md ## CANN社区版-aclrtSetBufUserData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1924.html - Description: 设置共享Buffer的私有数据区数据,从用户内存拷贝到共享Buffer的私有数据区的指定偏移位置,用于设置控制信息作为上下文传递。当前默认私有数据区大小是96Byte,offset+size必须小于或等于96Byte,否则返回报错。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1924_html.md ## CANN社区版-aclrtRandomParaInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1926.html - Description: ``` typedef struct \{ uint8t isAddr; uint8t valueOrAddr\[8\]; uint8t size; uint8t rsv\[6\]; \} aclrtRandomParaInfo; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1926_html.md ## CANN社区版-aclrtDropoutBitmaskInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1927.html - Description: ``` typedef struct \{ aclrtRandomParaInfo dropoutRation; \} aclrtDropoutBitmaskInfo; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1927_html.md ## CANN社区版-aclrtRandomNumTaskInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1931.html - Description: ``` typedef struct \{ aclDataType dataType; aclrtRandomNumFuncParaInfo randomNumFuncParaInfo; void randomParaAddr; void randomResultAddr; void randomCounterAddr; aclrtRando - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1931_html.md ## CANN社区版-aclrtRandomNumFuncType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1932.html - Description: ``` typedef enum \{ ACLRTRANDOMNUMFUNCTYPEDROPOUTBITMASK \= 0, // Dropout bitmask ACLRTRANDOMNUMFUNCTYPEUNIFORMDIS, // 均匀分布 ACLRTRANDOMNUMFUNCTYPENORMALDIS, // 正态分布 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1932_html.md ## CANN社区版-aclrtIpcMemGetExportKey - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1934.html - Description: 在本进程中将指定Device内存设置为IPC(Inter-Process Communication)共享内存,并返回共享内存key,以便后续将内存共享给其他进程。 本接口需与以下其他关键接口配合使用,以便实现内存共享,此处以A、B进程为例,说明两个进程间的内存共享接口调用流程: 1. 在A进程中: a. 调用 aclrtMalloc 接口申请内存。 b. 调用 aclrtIp - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1934_html.md ## CANN社区版-aclrtIpcMemSetImportPid - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1935.html - Description: 设置IPC共享内存的进程白名单。 本接口需与其他接口配合使用,以便实现内存共享的目的,配合使用流程请参见aclrtIpcMemGetExportKey接口处的说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1935_html.md ## CANN社区版-aclrtIpcMemImportByKey - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1936.html - Description: 在本进程中导入key的信息,并返回本进程可以使用的Device内存地址指针。 本接口需与其他接口配合使用,以便实现内存共享的目的,配合使用流程请参见aclrtIpcMemGetExportKey接口处的说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1936_html.md ## CANN社区版-aclrtIpcMemClose - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1937.html - Description: 关闭IPC共享内存,调用aclrtIpcMemImportByKey接口的进程中、调用aclrtIpcMemGetExportKey接口的进程中都需要调用此接口。 对于同一个共享内存key,需所有调用aclrtIpcMemImportByKey接口的进程中都调用aclrtIpcMemClose接口后,调用aclrtIpcMemGetExportKey接口的进程中才可以调用aclrtIpcMemCl - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1937_html.md ## CANN社区版-aclrtNotifyBatchReset - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1938.html - Description: 批量复位Notify。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1938_html.md ## CANN社区版-aclrtNotifySetImportPid - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1940.html - Description: 设置共享Notify的进程白名单。 本接口需与其他接口配合使用,以便实现多Device上不同进程间的任务同步,请参见aclrtNotifyGetExportKey接口处的说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1940_html.md ## CANN社区版-aclrtNotifyImportByKey - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1941.html - Description: 在本进程中获取key的信息,并返回本进程可以使用的Notify指针。 本接口需与其他接口配合使用,以便实现多Device上不同进程间的任务同步,请参见aclrtNotifyGetExportKey接口处的说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1941_html.md ## CANN社区版-aclrtSetStreamResLimit - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1947.html - Description: 设置指定Stream的Device核资源限制。 本接口应在调用aclrtSetDevice接口之后且在执行算子之前使用。如果对同一Stream进行多次设置,将以最后一次设置为准。 调用本接口设置指定Stream的Device核资源限制后,需配合调用aclrtUseStreamResInCurrentThread接口,设置在当前线程中使用指定Stream上的Device核资源限制。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1947_html.md ## CANN社区版-aclrtUseStreamResInCurrentThread - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1949.html - Description: 在当前线程中使用指定Stream上的Device核资源限制。如果多次调用本接口设置Stream,将以最后一次设置为准。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1949_html.md ## CANN社区版-aclrtUnuseStreamResInCurrentThread - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1950.html - Description: 在当前线程中取消使用指定Stream上的Device核资源限制。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1950_html.md ## CANN社区版-aclrtGetResInCurrentThread - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1951.html - Description: 获取当前线程可使用的Device资源。 获取时,按照如下优先级返回value:Stream级别的Device核资源限制(调用aclrtSetStreamResLimit接口设置) > 当前进程的Device核资源限制(调用aclrtSetDeviceResLimit接口设置) >AI处理器硬件默认的核资源限制 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1951_html.md ## CANN社区版-aclrtGetPrimaryCtxState - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1958.html - Description: 获取默认Context的状态。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1958_html.md ## CANN社区版-aclrtLaunchHostFunc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1959.html - Description: 在Stream的任务队列中下发一个Host回调任务,系统内部在执行到该回调任务时,会在Stream上注册的线程(该线程在本接口内部创建并注册)中执行回调函数,并且回调任务默认阻塞本Stream上后续任务的执行。异步接口。 本接口可用于实现异步场景下的callback功能,与另一套实现异步场景下的callback功能接口(aclrtLaunchCallback、aclrtSubscribeRepor - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1959_html.md ## CANN社区版-aclrtLaunchKernelV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1960.html - Description: 指定任务下发的配置信息,并启动对应算子的计算任务。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1960_html.md ## CANN社区版-aclrtLaunchKernelWithHostArgs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1961.html - Description: 基于Host内存传递核函数入参,并启动对应算子的计算任务。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1961_html.md ## CANN社区版-aclrtRepairError - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1964.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于生产环境中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1964_html.md ## CANN社区版-aclrtAllocator - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1965.html - Description: ``` typedef void aclrtAllocator; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1965_html.md ## CANN社区版-aclrtAllocatorBlock - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1967.html - Description: ``` typedef void aclrtAllocatorBlock; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1967_html.md ## CANN社区版-aclrtAllocatorGetByStream - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1968.html - Description: 根据Stream查询用户注册的Allocator信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1968_html.md ## CANN社区版-aclFinalizeCallbackRegister - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1972.html - Description: 注册去初始化回调函数。 在aclFinalize接口之前调用本接口,在去初始化时触发回调函数的调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1972_html.md ## CANN社区版-aclFinalizeCallbackUnRegister - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1973.html - Description: 若不需要触发回调函数的调用,可调用本接口取消注册回调函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1973_html.md ## CANN社区版-aclrtSetOpExecuteTimeOutV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1986.html - Description: 设置算子执行的超时时间,单位为微秒。如果算子下发时携带了超时时间,则该超时时间优先级高于本接口设置的超时时间。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1986_html.md ## CANN社区版-aclrtDevicePeerAccessStatus - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1994.html - Description: 查询两个Device之间的数据交互状态。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1994_html.md ## CANN社区版-aclrtRegStreamStateCallback - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1996.html - Description: 注册Stream状态回调函数,不支持重复注册。 当Stream状态发生变化时(例如调用aclrtCreateStream、aclrtDestroyStream等接口),Runtime模块会触发该回调函数的调用。此处的Stream包含显式创建的Stream以及默认Stream。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1996_html.md ## CANN社区版-aclrtStreamStop - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1997.html - Description: 仅停止指定Stream上的正在执行的任务,不清理任务。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1997_html.md ## CANN社区版-aclrtGetHardwareSyncAddr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_1999.html - Description: 获取Cube Core、Vector Core之间的同步地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_1999_html.md ## CANN社区版-aclrtSetDeviceTaskAbortCallback - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2001.html - Description: 调用本接口注册回调函数,用于在调用aclrtDeviceTaskAbort接口前后触发该回调函数。不支持重复注册。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2001_html.md ## CANN社区版-aclrtMemExportToShareableHandleV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2006.html - Description: 将本进程通过aclrtMallocPhysical接口获取到的Device物理内存handle导出,以便后续将Device物理内存共享给其他进程。 本接口是在接口aclrtMemExportToShareableHandle基础上进行了增强,用户可通过shareType参数指定导出AI Server内的共享句柄,或导出跨AI Server的共享句柄。AI Server通常是多个Device组成的服 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2006_html.md ## CANN社区版-aclrtMemcpyAsyncWithOffset - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2011.html - Description: 实现内存复制,适用于基地址是二级指针、有地址偏移的场景。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2011_html.md ## CANN社区版-aclrtIpcMemSetAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2013.html - Description: 设置IPC共享内存的属性信息。 对于Atlas A3 训练系列产品 / Atlas A3 推理系列产品,若需设置IPC共享内存的属性信息,在调用aclrtIpcMemGetExportKey接口的进程中,需要先调用aclrtIpcMemSetAttr接口,再调用aclrtIpcMemGetExportKey接口,且两个接口中的key必须保持一致。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2013_html.md ## CANN社区版-aclrtIpcMemImportPidInterServer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2015.html - Description: 针对 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 中的超节点产品,批量设置IPC共享内存的进程白名单。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2015_html.md ## CANN社区版-aclrtCntNotifyCreate - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2020.html - Description: 创建CntNotify。 CntNotify通常也用于Device与Device之间的状态/动作通信通知。但CntNotify是利用计数值实现任务间的同步,跟Notify的区别是,Notify的计数值仅支持1,CntNotify的计数值支持\[1~uint32t最大值\]。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2020_html.md ## CANN社区版-aclrtCntNotifyDestroy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2021.html - Description: 销毁CntNotify。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2021_html.md ## CANN社区版-aclrtCacheLastTaskExtendInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2026.html - Description: 将指定内存中的自定义扩展信息按照infoSize大小缓存到当前线程中最后下发的任务上。 后续可以通过调用aclmdlRIDebugJsonPrint接口将自定义扩展信息以JSON格式导出到文件中,然后,通过tracing方式(例如chrome://tracing/)查看。 当前仅支持在捕获模型(请参见aclmdlRICaptureBegin接口)或构建模型运行实例(请参见aclmdlRIBuild - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2026_html.md ## CANN社区版-aclrtCmoGetDescSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2027.html - Description: 获取当前Device上的Cache内存描述符占用的内存大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2027_html.md ## CANN社区版-aclrtCmoAsyncWithDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2029.html - Description: 使用内存描述符(二级指针方式)操作Device上的Cache内存。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2029_html.md ## CANN社区版-aclrtCntNotifyRecord - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2032.html - Description: 在指定Stream上记录一个CntNotify。异步接口。 aclrtCntNotifyRecord接口与aclrtCntNotifyWaitWithTimeout接口配合使用时,主要用于多Stream之间同步等待的场景。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2032_html.md ## CANN社区版-aclrtCntNotifyRecordInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2036.html - Description: ``` typedef struct \{ aclrtCntNotifyRecordMode mode; // Record的行为模式 uint32t value; \} aclrtCntNotifyRecordInfo; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2036_html.md ## CANN社区版-aclrtCntNotifyRecordMode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2037.html - Description: ``` typedef enum \{ ACLRTCNTNOTIFYRECORDSETVALUEMODE \= 0, // 覆盖模式,CntNotify计数值 \= value ACLRTCNTNOTIFYRECORDADDMODE \= 1, // 累加模式,CntNotify计数值 \= 当前值 + value ACLRTCNTNOTIFYRECO - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2037_html.md ## CANN社区版-aclrtCntNotifyWaitMode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2039.html - Description: ``` typedef enum \{ ACLRTCNTNOTIFYWAITLESSMODE \= 0, // CntNotify的当前计数值 value,则解除Wait ACLRTCNTNOTIFYWAITBIGGEROREQUALMODE \= 3, // CntNotify的当前计数值 >\= value,则解除Wait ACLRTCNTN - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2039_html.md ## CANN社区版-aclrtMemGetAccess - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2045.html - Description: 获取内存的访问权限。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2045_html.md ## CANN社区版-aclrtMemAccessFlags - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2046.html - Description: ``` typedef enum \{ ACLRTMEMACCESSFLAGSNONE \= 0x0, // 该地址范围不可访问 ACLRTMEMACCESSFLAGSREAD \= 0x1, // 地址范围可读 ACLRTMEMACCESSFLAGSREADWRITE \= 0x3, // 地址范围可读可写 \} aclrtMemAccessFlags; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2046_html.md ## CANN社区版-aclrtStreamWaitEventWithTimeout - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2051.html - Description: 阻塞指定Stream的运行,直到指定的Event完成。异步接口。 该接口是在接口aclrtStreamWaitEvent基础上进行了增强,支持用户配置具体的超时时间。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2051_html.md ## CANN社区版-aclrtDeviceGetUuid - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2054.html - Description: 获取Device的唯一标识UUID(Universally Unique Identifier)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2054_html.md ## CANN社区版-aclrtCheckMemType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2062.html - Description: 检查Device内存类型。 Ascend 950PR / Ascend 950DT 中不再有单独的DVPP Device内存类型(即ACLRTMEMTYPEDVPP),而是当做普通Device内存处理。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2062_html.md ## CANN社区版-aclrtSnapShotProcessRestore - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2067.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于生产环境中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2067_html.md ## CANN社区版-aclrtSnapShotProcessUnlock - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2068.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于生产环境中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2068_html.md ## CANN社区版-aclrtCtxGetFloatOverflowAddr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2071.html - Description: 饱和模式下,获取保存溢出标记的Device内存地址,该内存地址后续需作为Workspace参数传递给AI Core算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2071_html.md ## CANN社区版-aclrtFreeWithDevSync - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2074.html - Description: 释放Device上的内存。 本接口内部会进行隐式的Device同步,并等待使用该内存的任务完成。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2074_html.md ## CANN社区版-aclrtTimeoutUs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2090.html - Description: ``` typedef struct \{ uint32t timeoutLow; // 超时时间的低32位值 uint32t timeoutHigh; // 超时时间的高32位值 \} aclrtTimeoutUs; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2090_html.md ## CANN社区版-aclrtIpcOpenEventHandle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2093.html - Description: 在本进程中获取handle的信息,并返回本进程可以使用的Event指针。 本接口需与其他接口配合使用,以便实现不同进程间的任务同步,请参见aclrtIpcGetEventHandle接口处的说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2093_html.md ## CANN社区版-aclsysGetVersionStr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2096.html - Description: 根据软件包名称查询版本号,版本号是字符串类型,与各包安装目录下version.info文件中的version保持一致。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2096_html.md ## CANN社区版-aclsysGetVersionNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2097.html - Description: 根据软件包名称查询版本号,版本号是数值类型,通过计算各包安装目录下version.info文件中的version字段的主、次、补丁等版本信息的权重得出。 获取数值类型的版本号并进行比较,数值较大的表示版本发布时间较新,可用于了解版本发布的先后顺序,以及在代码中根据版本区分不同的接口调用逻辑等。 当前已发布的版本包括alpha内部测试版、beta公开测试版和rc(Release Candidate) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2097_html.md ## CANN社区版-aclrtGetFunctionAttribute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2115.html - Description: 根据核函数句柄获取核函数属性信息。 本接口仅支持查询算子二进制文件中的核函数属性信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2115_html.md ## CANN社区版-aclrtFuncAttribute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2116.html - Description: ``` typedef enum \{ ACLFUNCATTRKERNELTYPE \= 1, // Kernel类型 ACLFUNCATTRKERNELRATIO \= 2, // Kernel执行时需要的Cube Core与Vector Core的比例 ACLFUNCATTRKERNELSCHEDMODE \= 3, // Kernel调度模式 \} - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2116_html.md ## CANN社区版-aclrtKernelType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2117.html - Description: ``` typedef enum \{ ACLKERNELTYPEAICORE \= 0, // AI Core ACLKERNELTYPECUBE \= 1, // Cube Core ACLKERNELTYPEVECTOR \= 2, // Vector Core ACLKERNELTYPEMIX \= 3, // 会同时启动AI Cor - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2117_html.md ## CANN社区版-aclrtMemGetAllocationPropertiesFromHandle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2119.html - Description: 根据物理内存信息的handle查询其内存属性信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2119_html.md ## CANN社区版-aclrtHostMemMapCapabilities - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2122.html - Description: 查询指定的硬件驱动加速器是否支持访问通过aclrtHostRegister接口注册的内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2122_html.md ## CANN社区版-aclrtHostMemMapCapability - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2124.html - Description: ``` typedef enum \{ ACLRTHOSTMEMMAPNOTSUPPORTED \= 0, // 不支持 ACLRTHOSTMEMMAPSUPPORTED // 支持 \} aclrtHostMemMapCapability; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2124_html.md ## CANN社区版-aclrtGetMemUsageInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2125.html - Description: 查询组件的内存使用信息,包括组件名称、当前内存大小和峰值内存大小等信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2125_html.md ## CANN社区版-aclrtMemUsageInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2126.html - Description: ``` typedef struct aclrtMemUsageInfo \{ char name\[32\]; // 组件名称 uint64t curMemSize; // 当前占用的内存大小,单位Byte uint64t memPeakSize; // 该组件的峰值内存,单位Byte sizet reserved\[8\]; // 预留 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2126_html.md ## CANN社区版-aclrtHostGetDevicePointer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2129.html - Description: 获取由aclrtHostRegister接口或aclrtHostRegisterV2接口注册映射的Device内存地址。映射后的Device内存地址不能用于内存操作,例如内存复制。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2129_html.md ## CANN社区版-aclrtSnapShotCallbackRegister - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2130.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于生产环境中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2130_html.md ## CANN社区版-aclrtSnapShotCallbackUnregister - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2131.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于生产环境中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2131_html.md ## CANN社区版-aclrtSnapShotStage - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2132.html - Description: ``` typedef enum \{ ACLRTSNAPSHOTLOCKPRE \= 0, // 锁定前 ACLRTSNAPSHOTBACKUPPRE, // 备份前 ACLRTSNAPSHOTBACKUPPOST, // 备份后 ACLRTSNAPSHOTRESTOREPRE, // 恢复前 ACLRTSNAPSHOTREST - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2132_html.md ## CANN社区版-aclrtReserveMemAddressNoUCMemory - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2134.html - Description: 须知:由用户指定起始地址是试验特性,后续版本可能存在变更,不支持应用于生产环境中 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2134_html.md ## CANN社区版-aclprofConfigType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2136.html - Description: ``` typedef enum \{ ACLPROFARGSMIN \= 0, ACLPROFSTORAGELIMIT \= 1, ACLPROFSYSHARDWAREMEMFREQ \= 3, ACLPROFLLCMODE \= 4, ACLPROFSYS - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2136_html.md ## CANN社区版-acldumpGetPath - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2137.html - Description: 获取Dump数据存储路径,以便用户将自定义维测数据保存到该路径下。 在调用本接口前,需通过aclmdlInitDump接口初始化Dump功能、通过aclmdlSetDump接口配置Dump信息,或者直接通过aclInit接口配置Dump信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2137_html.md ## CANN社区版-acldumpType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2138.html - Description: ``` typedef enum acldumpType \{ AICERRBRIEFDUMP \= 1, // 轻量化exception dump AICERRNORMDUMP \= 2, // 普通exception dump,在轻量化exception dump基础上,还会导出Shape、Data Type、Format以及属性信息 AIC - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2138_html.md ## CANN社区版-aclrtBinarySetExceptionCallback - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2139.html - Description: 调用本接口注册回调函数。若多次设置回调函数,以最后一次设置为准。 在执行算子之前,调用本接口注册回调函数。如果算子执行过程中出现异常,将触发回调函数的执行,并将异常信息存储在aclrtExceptionInfo结构体中。之后,可以通过调用aclrtGetArgsFromExceptionInfo和aclrtGetFuncHandleFromExceptionInfo接口,从异常信息中获取用户下发算 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2139_html.md ## CANN社区版-aclrtGetArgsFromExceptionInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2140.html - Description: 从aclrtExceptionInfo异常信息中获取用户下发算子执行任务时的参数。此接口与aclrtBinarySetExceptionCallback接口配合使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2140_html.md ## CANN社区版-aclrtGetFuncHandleFromExceptionInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2141.html - Description: 从aclrtExceptionInfo异常信息中获取核函数句柄。此接口与aclrtBinarySetExceptionCallback接口配合使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2141_html.md ## CANN社区版-aclprofStr2Id - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2142.html - Description: msproftx用于将字符串转换为哈希ID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2142_html.md ## CANN社区版-aclprofRangePushEx - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2143.html - Description: 在aclrt和>> 场景下,用户在算子加载接口前先调用aclprofRangePushEx,后调用aclprofRangePop接口,完成Profiling数据的上报。 调用此接口后,Profiling判断messageType为MESSAGETYPETENSORINFO时,缓存Tensor信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2143_html.md ## CANN社区版-aclprofRangePop - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2144.html - Description: 在aclrt和>> 场景下,用户在算子加载接口前先调用aclprofRangePushEx,后调用aclprofRangePop接口,完成Profiling数据的上报。 调用此接口后,Profiling上报缓存的Tensor信息。当上报Tensor数量过多时,性能会受到影响。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2144_html.md ## CANN社区版-aclmdlRIGetTasksByStream - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2147.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于生产环境中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2147_html.md ## CANN社区版-aclmdlRITaskGetType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2148.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于生产环境中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2148_html.md ## CANN社区版-aclmdlRITask - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2149.html - Description: ``` typedef void aclmdlRITask; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2149_html.md ## CANN社区版-aclmdlRITaskType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2150.html - Description: ``` typedef enum aclmdlRITaskType \{ ACLMODELRITASKDEFAULT, // 除以下类型之外的其他类型 ACLMODELRITASKKERNEL, // Cube Core或Vector Core上计算任务 ACLMODELRITASKEVENTRECORD, // Event Record任务,通常对应a - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2150_html.md ## CANN社区版-aclrtMemPoolCreate - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2155.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于生产环境中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2155_html.md ## CANN社区版-aclrtMemPoolDestroy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2156.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于生产环境中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2156_html.md ## CANN社区版-aclrtMemPoolGetAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2157.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于生产环境中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2157_html.md ## CANN社区版-aclrtMemPoolSetAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2158.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于生产环境中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2158_html.md ## CANN社区版-aclrtMemPoolAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2160.html - Description: ``` typedef enum aclrtMemPoolAttr\{ ACLRTMEMPOOLREUSEFOLLOWEVENTDEPENDENCIES \= 0x1, ACLRTMEMPOOLREUSEALLOWOPPORTUNISTIC \= 0x2, ACLRTMEMPOOLREUSEALLOWINTERNALDEPENDENCIES \= 0x3, ACLRTMEM - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2160_html.md ## CANN社区版-aclrtMemPoolProps - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2161.html - Description: ``` typedef struct \{ aclrtMemAllocationType allocType; aclrtMemHandleType handleType; aclrtMemLocation location; sizet maxSize; unsigned char reserved\[32\]; \} aclrtMemPoolProps; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2161_html.md ## Stream有序内存分配使用说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2163.html - Description: aclrtMalloc和aclrtFree是用于同步内存分配和管理的接口。以下示例代码展示了一个常见的内存使用场景:使用aclrtMalloc申请内存,通过异步拷贝的方式将内存数据拷贝到Device侧以备算子使用,算子执行完成后,通过Stream同步来确认该内存使用完毕,然后使用aclrtFree释放内存。在异步操作较少的情况下,这样的方式是可接受的。然而,在有大量算子下发和对申请内存的高频异步操 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2163_html.md ## CANN社区版-aclrtMemManagedAdvise - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2166.html - Description: 管理统一虚拟内存(Unified Virtual Memory, UVM)的策略属性,既支持设置策略属性,也支持取消设置。 本接口操作的内存必须是通过aclrtMemAllocManaged接口申请的内存,设置的策略属性值可使用aclrtMemManagedGetAttr和aclrtMemManagedGetAttrs接口查询。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2166_html.md ## CANN社区版-aclrtMemManagedGetAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2167.html - Description: 查询指定大小的UVM内存的策略属性值。 本接口操作的内存必须是通过aclrtMemAllocManaged接口分配的。若查询的这段内存范围内的策略属性值不一致,则查询结果为无效值。 与aclrtMemManagedGetAttrs接口不同,本接口仅支持一次查询一个内存策略属性的值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2167_html.md ## CANN社区版-aclrtMemManagedLocation - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2170.html - Description: ``` typedef struct \{ aclrtMemManagedLocationType type; // 内存所在位置 int32t id; // Device ID或NUMA(Non-Uniform Memory Access) ID \} aclrtMemManagedLocation; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2170_html.md ## CANN社区版-aclrtMemManagedLocationType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2172.html - Description: ``` typedef enum aclrtMemManagedLocationType \{ ACLMEMLOCATIONTYPEINVALID \= 0, ACLMEMLOCATIONTYPEDEVICE, ACLMEMLOCATIONTYPEHOST, ACLMEMLOCATIONTYPEHOSTNUMA, ACLMEMLOCATIONTYPEHOSTNU - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2172_html.md ## CANN社区版-aclrtFunctionGetBinary - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2173.html - Description: 根据核函数句柄获取算子二进制句柄。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2173_html.md ## CANN社区版-aclrtMemPoolTrimTo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2176.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于生产环境中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2176_html.md ## CANN社区版-aclmdlRITaskSetParams - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2181.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于生产环境中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2181_html.md ## CANN社区版-aclmdlRIUpdate - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2182.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于生产环境中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2182_html.md ## CANN社区版-aclmdlRITaskParams - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2183.html - Description: ``` typedef struct aclmdlRITaskParams \{ aclmdlRITaskType type; uint32t rsv0\[3\]; aclrtTaskGrp taskGrp; void opInfoPtr; sizet opInfoSize; uint8t rsv1\[32\]; union \{ uin - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2183_html.md ## CANN社区版-aclmdlRIKernelTaskParams - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2184.html - Description: ``` typedef struct aclmdlRIKernelTaskParams \{ aclrtFuncHandle funcHandle; aclrtLaunchKernelCfg cfg; void args; uint32t isHostArgs; sizet argsSize; uint32t numBlocks; uint32 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2184_html.md ## CANN社区版-aclmdlRIEventWaitTaskParams - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2188.html - Description: ``` typedef struct aclmdlRIEventWaitTaskParams \{ aclrtEvent event; uint32t eventFlag; uint32t waitFlag; \} aclmdlRIEventWaitTaskParams; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2188_html.md ## CANN社区版-aclmdlRIEventResetTaskParams - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2189.html - Description: ``` typedef struct aclmdlRIEventResetTaskParams \{ aclrtEvent event; uint32t eventFlag; uint32t resetFlag; \} aclmdlRIEventResetTaskParams; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2189_html.md ## CANN社区版-aclmdlRIValueWriteTaskParams - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2190.html - Description: ``` typedef struct aclmdlRIValueWriteTaskParams \{ void devAddr; uint64t value; \} aclmdlRIValueWriteTaskParams; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2190_html.md ## CANN社区版-aclmdlRIValueWaitTaskParams - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2191.html - Description: ``` typedef struct aclmdlRIValueWaitTaskParams \{ void devAddr; uint64t value; uint32t flag; \} aclmdlRIValueWaitTaskParams; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2191_html.md ## CANN社区版-aclrtMemManagedPrefetchAsync - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2192.html - Description: 实现统一虚拟内存(Unified Virtual Memory, UVM)的预取。 本接口操作的内存必须是通过aclrtMemAllocManaged接口分配的。本接口是异步接口,调用接口成功仅表示任务下发成功,不表示任务执行成功,调用本接口后,需调用同步等待接口(例如,aclrtSynchronizeStream)确保内存预取的任务已执行完成。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2192_html.md ## CANN社区版-aclrtMemManagedPrefetchBatchAsync - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2193.html - Description: 实现统一虚拟内存(Unified Virtual Memory, UVM)的批量预取。 本接口操作的内存必须是通过aclrtMemAllocManaged接口分配的。本接口是异步接口,调用接口成功仅表示任务下发成功,不表示任务执行成功,调用本接口后,需调用同步等待接口(例如,aclrtSynchronizeStream)确保内存预取的任务已执行完成。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2193_html.md ## CANN社区版-aclrtDeviceGetP2PAtomicCapabilities - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2195.html - Description: 查询一个AI Server内两个Device之间支持的原子操作详情。AI Server通常是多个Device组成的服务器形态的统称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2195_html.md ## 共享Buffer管理使用说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2199.html - Description: 本特性提供了跨进程共享Buffer管理能力,可配合共享队列管理一起使用。共享Buffer的共享范围由共享队列的授权确定,共享范围包括“一主多从”的这些进程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2199_html.md ## CANN社区版-aclrtMemcpyBatchV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2200.html - Description: 实现批量内存复制。 本接口中的Host内存支持锁页内存(例如通过aclrtMallocHost接口申请的内存)、非锁页内存(通过malloc接口申请的内存)。 与aclrtMemcpyBatch接口相比,本接口不再通过failIndex参数返回失败的复制项下标。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2200_html.md ## aclmdlRIKernelTaskGetAttribute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2206.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于生产环境中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2206_html.md ## CANN社区版-aclmdlRIGetId - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2207.html - Description: 须知:本接口为试验特性,后续版本可能会存在变更,不支持应用于生产环境中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2207_html.md ## CANN社区版-aclrtMemMapSelectedLink - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2208.html - Description: 将虚拟地址virPtrDst映射到虚拟地址virPtrSrc对应的物理地址,可以通过linkIdx选择HCCS链路或者SIO链路。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2208_html.md ## CANN社区版-aclrtMemsetD32 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2209.html - Description: 初始化内存,将其内容设置为指定的32位无符号整数值。与aclrtMemset的区别在于:本接口以32位无符号整数为单位进行填充,其中N表示所填充的32位无符号整数值的数量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2209_html.md ## CANN社区版-aclrtMemsetD32Async - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2210.html - Description: 初始化内存,将其内容设置为指定的32位无符号整数值,异步接口。与aclrtMemset的区别在于:本接口以32位无符号整数为单位进行填充,其中N表示所填充的32位无符号整数值的数量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2210_html.md ## CANN社区版-aclrtSnapShotBackupArgs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2215.html - Description: ``` typedef struct aclrtSnapShotBackupArgs \{ uint32t backupFlags; char reserved\[60\]; \} aclrtSnapShotBackupArgs; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2215_html.md ## CANN社区版-aclrtSnapShotRestoreArgs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2216.html - Description: ``` typedef struct aclrtSnapShotRestoreArgs \{ uint32t restoreFlags; char reserved\[60\]; \} aclrtSnapShotRestoreArgs; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2216_html.md ## CANN社区版-aclrtSynchronizeDevice - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2218.html - Description: 阻塞当前线程,直到与当前线程绑定的Context所对应的Device完成运算。 本接口为封装接口,仅适用于C++程序,接口内部调用C接口aclrtSynchronizeDeviceWithTimeout。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2218_html.md ## CANN社区版-aclrtSynchronizeEvent - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2220.html - Description: 阻塞当前线程运行直到Event捕获的所有任务都执行完成。同时,本接口支持用户设置永久等待、或配置具体的超时时间,若配置具体的超时时间,则当应用程序异常时可根据所设置的超时时间自行退出。 本接口为封装接口,仅适用于C++程序,接口内部调用C接口aclrtSynchronizeEventWithTimeout。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2220_html.md ## CANN社区版-aclrtStreamWaitEvent - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2221.html - Description: 阻塞指定Stream的运行,直到指定的Event完成。异步接口。 本接口为封装接口,仅适用于C++程序,接口内部调用C接口aclrtStreamWaitEventWithTimeout。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2221_html.md ## CANN社区版-aclrtCreateStream - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2222.html - Description: 在当前进程或线程中创建Stream。 本接口为封装接口,仅适用于C++程序,接口内部调用C接口aclrtCreateStreamWithConfig。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2222_html.md ## CANN社区版-aclrtSetOpExecuteTimeOut - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2223.html - Description: 设置算子执行的超时时间,单位为微秒。如果算子下发时携带了超时时间,则该超时时间优先级高于本接口设置的超时时间。 本接口为封装接口,仅适用于C++程序,接口内部调用C接口aclrtSetOpExecuteTimeOutV2。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2223_html.md ## CANN社区版-aclrtCreateEvent - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2224.html - Description: 创建带flag的Event,不同flag的Event用于不同的功能。支持创建Event时携带多个flag(按位进行或操作),从而同时启用对应flag的功能。创建Event时,Event资源不受硬件限制。 本接口为封装接口,仅适用于C++程序,接口内部调用C接口aclrtCreateEventExWithFlag。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2224_html.md ## CANN社区版-aclrtMemcpyBatchAsync - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2227.html - Description: 实现批量内存复制。 本接口中的Host内存支持锁页内存(例如通过aclrtMallocHost接口申请的内存)、非锁页内存(通过malloc接口申请的内存)。当Host内存是非锁页内存时,本接口在内存复制任务完成后才返回;当Host内存是锁页内存时,本接口是异步接口,调用接口成功仅表示任务下发成功,不表示任务执行成功,调用本接口后,需调用同步等待接口(例如,aclrtSynchronizeStre - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2227_html.md ## CANN社区版-aclrtPointerGetAttributes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2228.html - Description: 获取内存属性信息,包括内存是位于Host还是Device、页表大小等信息。 本接口为封装接口,仅适用于C++程序,接口内部调用C接口aclrtPointerGetAttributes。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2228_html.md ## CANN社区版-aclrtMemManagedPrefetchAsync - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2233.html - Description: 实现统一虚拟内存(Unified Virtual Memory, UVM)的预取。 本接口操作的内存必须是通过aclrtMemAllocManaged接口分配的。本接口是异步接口,调用接口成功仅表示任务下发成功,不表示任务执行成功,调用本接口后,需调用同步等待接口(例如,aclrtSynchronizeStream)确保内存预取的任务已执行完成。 本接口为封装接口,仅适用于C++程序,接口内部调用 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2233_html.md ## CANN社区版-aclrtMalloc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2235.html - Description: 在Device上分配size大小的线性内存,并通过devPtr返回已分配内存的指针,且内存首地址64字节对齐。 使用本接口申请的内存,需要通过aclrtFree接口或aclrtFreeWithDevSync接口释放内存。 本接口为封装接口,仅适用于C++程序,接口内部调用C接口aclrtMallocWithCfg。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2235_html.md ## CANN社区版-aclrtMallocHost - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2236.html - Description: 申请Host内存(该内存是锁页内存),由系统保证内存首地址64字节对齐。 通过本接口申请的内存,需要通过aclrtFreeHost接口或aclrtFreeHostWithDevSync接口释放内存。 本接口为封装接口,仅适用于C++程序,接口内部调用C接口aclrtMallocHostWithCfg。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2236_html.md ## CANN社区版-aclrtMemcpy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2237.html - Description: 实现内存复制。 本接口为封装接口,仅适用于C++程序,接口内部调用C接口aclrtMemcpy。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2237_html.md ## CANN社区版-aclrtMemcpy2d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2239.html - Description: 实现同步内存复制,主要用于矩阵数据的复制。 本接口为封装接口,仅适用于C++程序,接口内部调用C接口aclrtMemcpy2d。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2239_html.md ## CANN社区版-aclrtMemcpy2dAsync - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclcppdevg_03_2240.html - Description: 实现异步内存复制,主要用于矩阵数据的复制。异步接口。 本接口中的Host内存支持锁页内存(例如通过aclrtMallocHost接口申请的内存)、非锁页内存(通过malloc接口申请的内存)。当Host内存是非锁页内存时,本接口在内存复制任务完成后才返回;当Host内存是锁页内存时,本接口是异步接口,调用接口成功仅表示任务下发成功,不表示任务执行成功,调用本接口后,需调用同步等待接口(例如,acl - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclcppdevg_03_2240_html.md ## 废弃接口/返回码列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0002.html - Description: - acl.op.execute\(https://www.hiascend.comdocument/detail/zh/CANNCommunityEdition/920beta1/API/ascendgraphapi/aclpythondevg010145.html\)接口 此接口后续版本会废弃,请使用acl.op. - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0002_html.md ## 函数:init - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0005.html - Description: 初始化函数。 - C函数原型 1 aclError aclInit\(const char configPath\) - python函数 1 ret \= acl.init\(configpath\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0005_html.md ## 函数:finalize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0006.html - Description: 去初始化函数,用于释放进程内的相关资源。 在该接口内,默认增加2000ms延时(实际最大延时可达2000ms),用于Device业务日志回传,保证ERROR级别和EVENT级别日志不丢失,您可以将“ASCENDLOGDEVICEFLUSHTIMEOUT”环境变量设置为“0”(命令示例:export ASCENDLOGDEVICEFLUSHTIMEOUT\=0),去除该默认延时。 关于ASCENDLO - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0006_html.md ## 函数:get\_version - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0007.html - Description: 查询接口版本号,pyacl接口版本号命名可以采用:A.B.C模式,其中,A表示有不兼容修改,B表示新增接口,C表示bug修复。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0007_html.md ## 函数:get\_soc\_name - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0009.html - Description: 查询当前运行环境的芯片版本。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0009_html.md ## 函数:get\_recent\_err\_msg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0010.html - Description: 获取并清空与本接口在同一个线程中的其它pyacl接口调用失败时的错误描述信息。 获取进程级别、还是线程级别的错误描述信息由acl.init接口中的“errmsgmode”配置控制,默认线程级别。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0010_html.md ## 函数:set\_device\_sat\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0011.html - Description: 设置当前Device的浮点计算结果输出模式。 调用该接口成功后,后续在该Device上新创建的Stream按设置的模式生效,对之前已创建的Stream不生效。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0011_html.md ## 函数:get\_device\_sat\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0012.html - Description: 查询当前Device的浮点计算结果输出模式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0012_html.md ## 函数:float16\_to\_float - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0014.html - Description: 将aclFloat16类型的数据转换为float(指float32)类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0014_html.md ## 函数:float\_to\_float16 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0015.html - Description: 将float(指float32)类型的数据转换为aclFloat16类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0015_html.md ## 函数:create\_data\_buffer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0016.html - Description: 创建aclDataBuffer类型的数据,该数据类型用于描述内存地址、大小等内存信息。 如需销毁aclDataBuffer类型的数据,请参见函数:destroydatabuffer。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0016_html.md ## 函数:get\_data\_buffer\_addr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0018.html - Description: 获取aclDataBuffer类型中的数据的内存地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0018_html.md ## 函数:get\_data\_buffer\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0019.html - Description: 获取aclDataBuffer类型中数据的内存大小,单位Byte。 此接口后续版本会废弃,请使用acl.getdatabuffersizev2接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0019_html.md ## 函数:get\_data\_buffer\_size\_v2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0020.html - Description: 获取aclDataBuffer类型中数据的内存大小,单位Byte。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0020_html.md ## 函数:data\_type\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0022.html - Description: 获取aclDataType数据的大小,单位Byte。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0022_html.md ## 函数:numpy\_to\_ptr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0052.html - Description: 该接口即将废弃,建议使用acl.util.bytes\_to\_ptr接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0052_html.md ## 函数:numpy\_contiguous\_to\_ptr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0053.html - Description: 该接口即将废弃,建议使用acl.util.bytes\_to\_ptr接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0053_html.md ## 函数:bytes\_to\_ptr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0055.html - Description: | C函数原型 | 无 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0055_html.md ## 函数:ptr\_to\_bytes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0056.html - Description: | C函数原型 | 无 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0056_html.md ## 函数:stop\_thread - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0059.html - Description: | C函数原型 | 无 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0059_html.md ## 函数:set\_device - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0062.html - Description: 指定当前线程中用于运算的Device,同时隐式创建默认Context。 调用本接口会隐式创建默认Context,该默认Context中包含一个默认Stream。在同一个进程的多个线程中,如果调用aclrtSetDevice接口并指定相同的Device用于计算,那么这些线程将共享同一个默认Context。 但 Atlas 推理系列产品 的EP标准形态除外,其隐式创建的默认Context中包含两个St - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0062_html.md ## 函数:get\_device - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0064.html - Description: 获取当前正在使用的Device的ID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0064_html.md ## 函数:get\_run\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0065.html - Description: 获取当前昇腾AI软件栈的运行模式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0065_html.md ## 函数:get\_device\_utilization\_rate - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0068.html - Description: 查询Device上Cube、Vector、AI CPU等的利用率。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0068_html.md ## 函数:synchronize\_device - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0070.html - Description: 阻塞应用程序运行,直到正在运算中的Device完成运算。 多Device场景下,调用该接口等待的是当前Context对应的Device。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0070_html.md ## 函数:create\_context - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0072.html - Description: 在当前进程或线程中显式创建一个Context。 对于 Atlas 200I/500 A2 推理产品 ,该Context中包含2个Stream,1个默认Stream和1个执行内部同步的Stream。 对于 Atlas 训练系列产品 ,该Context中包含1个默认Stream。 对于 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,该Context中包含1个默认Stream。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0072_html.md ## 函数:destroy\_context - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0073.html - Description: 销毁一个Context,释放Context的资源。只能销毁通过acl.rt.createcontext接口创建的Context。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0073_html.md ## 函数:set\_context - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0074.html - Description: 设置线程的Context。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0074_html.md ## 函数:get\_context - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0075.html - Description: 获取线程的Context。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0075_html.md ## 函数:reset\_overflow\_status - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0077.html - Description: 清除当前Device下所有Stream上任务的溢出状态。异步接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0077_html.md ## 函数:create\_stream - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0079.html - Description: 在当前进程或线程中创建一个Stream。 该接口不支持设置Stream的优先级;若不设置,Stream的优先级默认为最高。如需在创建Stream时设置优先级,请参见acl.rt.createstreamwithconfig接口。 若不显式调用Stream创建接口,那么每个Context对应一个默认Stream,该默认Stream是调用acl.rt.setdevice接口或acl.rt.create - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0079_html.md ## 函数:destroy\_stream - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0081.html - Description: 销毁指定Stream,销毁通过acl.rt.createstream或acl.rt.createstreamwithconfig接口创建的Stream,若Stream上有未完成的任务,会等待任务完成后再销毁Stream。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0081_html.md ## 函数:destroy\_stream\_force - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0082.html - Description: 销毁指定Stream,销毁通过acl.rt.createstream或acl.rt.createstreamwithconfig接口创建的Stream,若Stream上有未完成的任务,不会等待任务完成,直接强制销毁Stream。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0082_html.md ## 函数:get\_stream\_overflow\_switch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0084.html - Description: 针对指定Stream,获取其当前溢出检测开关是否打开。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0084_html.md ## 函数:set\_stream\_failure\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0085.html - Description: 当一个Stream上下发了多个任务时,可通过本接口指定任务调度模式,以便控制某个任务失败后是否继续执行下一个任务。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0085_html.md ## 函数:stream\_query - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0086.html - Description: 查询指定Stream上的所有任务的执行状态。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0086_html.md ## 函数:create\_event\_with\_flag - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0091.html - Description: 创建一个带flag的Event,不同flag的Event用于不同的功能。支持创建Event时携带多个flag(按位进行或操作),从而同时使能对应flag的功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0091_html.md ## 函数:record\_event - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0093.html - Description: 在Stream中记录一个Event。本接口被调用时,会捕获当前Stream上已下发的任务并记录到Event事件中,因此后续若调用acl.rt.queryeventstatus或acl.rt.streamwaitevent接口时,会检查或等待该Event事件中所捕获的任务都已经完成。 对于使用acl rt.createeventexwithflag创建的Event: - 本接口支持对同一个Event - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0093_html.md ## 函数:launch\_callback - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0105.html - Description: 异步任务场景下,在Stream的任务队列中下发一个函数回调任务,系统内部在执行到该回调任务时,会在Stream上订阅的线程(通过acl.rt.subscribereport接口注册的线程)中执行回调函数。异步接口。 本接口需与以下其它接口配合使用,以便实现异步场景下的Callback功能:1. 新建线程,在线程函数内,调用 acl.rt.processreport 接口设置超时时间(需循环调用) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0105_html.md ## 函数:process\_report - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0106.html - Description: 异步任务场景下,调用本接口设置超时时间,等待acl.rt.launchcallback接口下发的回调任务执行。 本接口需与以下其它接口配合使用,以便实现异步场景下的Callback功能:1. 新建线程,在线程函数内,调用 acl.rt.processreport 接口设置超时时间(需循环调用),等待 acl.rt.launchcallback 接口下发的函数回调任务。 2. 调用 acl.r - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0106_html.md ## 函数:unsubscribe\_report - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0107.html - Description: 异步任务场景下,取消线程订阅,Stream上的回调函数不再由指定线程处理。 本接口需与以下其它接口配合使用,以便实现异步场景下的Callback功能:1. 新建线程,在线程函数内,调用 acl.rt.processreport 接口设置超时时间(需循环调用),等待 acl.rt.launchcallback 接口下发的函数回调任务。 2. 调用 acl.rt.subscribereport - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0107_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0109.html - Description: - 若涉及媒体数据处理功能,关于内存使用,有以下注意事项: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0109_html.md ## 函数:malloc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0110.html - Description: 在Device上分配size大小的线性内存,并通过“devptr”返回已分配内存的指针,且内存首地址64字节对齐。使用本接口申请的内存,需要通过acl.rt.free接口释放内存。 本接口分配的内存,会进行字节对齐,对齐规则各产品型号有所不同: - 对于Ascend 950PR / Ascend 950DT,本接口分配的内存,会进行字节对齐,会对用户申请的size向上对齐成32字节整数倍。 - 对 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0110_html.md ## 函数:malloc\_cached - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0111.html - Description: 申请Device上的内存,该接口在任何场景下申请的内存都是支持cache缓存。在Device上申请size大小的线性内存,通过devptr返回已分配内存的指针地址。 使用acl.rt.malloccached接口申请的内存与使用acl.rt.malloc接口申请的内存是等价的,都支持cache缓存,不需要用户处理cpu与npu之间的cache一致性。 调用媒体数据处理的接口前,若需要申请Devic - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0111_html.md ## 函数:mem\_flush - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0112.html - Description: 将cache中的数据刷新到DDR中并将cache中的内容设置成无效。 该版本用户无需处理CPU与NPU之间的cache一致性,无需调用该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0112_html.md ## 函数:mem\_invalidate - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0113.html - Description: 将cache中的数据设置成无效。 该版本不需要用户处理CPU与NPU之间的cache一致性,无需调用该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0113_html.md ## 函数:get\_mem\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0114.html - Description: 获取指定属性的应用可用内存的空闲大小和总大小,不包括系统预留内存大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0114_html.md ## 函数:free - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0115.html - Description: 释放Device上的内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0115_html.md ## 函数:malloc\_host - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0116.html - Description: 应用程序在Host上运行时,调用该接口申请的是Host内存(该内存是锁页内存),由系统保证内存首地址64字节对齐。 针对以下产品形态,Host与Device是合一的,所以申请Host内存也等同于申请Device内存。此外,申请内存时,按普通页申请。如果需要64字节对齐的首地址,用户需自行处理对齐问题。 - Ascend RC形态 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0116_html.md ## 函数:free\_host - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0117.html - Description: 释放Host上的内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0117_html.md ## 函数:memset - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0118.html - Description: 初始化内存,将内存中的内容设置为指定的值。 待初始化的内存支持在Host侧或Device侧,系统根据地址判定是Host还是Device。如果Host内存不是用acl接口(例如acl.rt.mallochost)申请的,将会导致未定义的行为。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0118_html.md ## 函数:memset\_async - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0119.html - Description: 初始化内存,将内存中的内容设置为指定的值,异步接口。 待初始化的内存支持在Host侧或Device侧,系统根据地址判定是Host还是Device。如果Host内存不是用acl接口(例如acl.rt.mallochost)申请的,将会导致未定义的行为。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0119_html.md ## 函数:memcpy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0120.html - Description: 实现内存复制。 - C函数原型 1 aclError aclrtMemcpy\(void dst, sizet destMax, const void src, sizet count, aclrtMemcpyKind kind\) - python函数 1 ret \= acl.rt. - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0120_html.md ## 函数:memcpy\_async - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0121.html - Description: 实现内存复制,异步接口。 本接口中的Host内存支持锁页内存(例如通过acl.rt.mallochost接口申请的内存)、非锁页内存(通过malloc接口申请的内存)。当Host内存是非锁页内存时,本接口在内存复制任务完成后才返回;当Host内存是锁页内存时,本接口是异步接口,调用接口成功仅表示任务下发成功,不表示任务执行成功,调用本接口后,需调用同步等待接口(例如,acl.rt.synchron - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0121_html.md ## 函数:memcpy2d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0122.html - Description: 实现同步内存复制,主要用于矩阵数据的复制。 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0122_html.md ## 函数:reserve\_mem\_address - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0124.html - Description: 预留虚拟内存。 本接口需与以下其它接口配合使用,以便申请地址连续的虚拟内存、最大化利用物理内存的目的:1. 申请虚拟内存( acl.rt.reservememaddress 接口)。 2. 申请物理内存( acl.rt.mallocphysical 接口)。 3. 将虚拟内存映射到物理内存( acl.rt.mapmem 接口)。 4. 执行任务(调用具体的任务接口)。 5. 取消虚拟内存与物 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0124_html.md ## 函数:release\_mem\_address - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0125.html - Description: 释放通过acl.rt.reservememaddress接口申请的虚拟内存。 本接口需与以下其它接口配合使用,以便申请地址连续的虚拟内存、最大化利用物理内存的目的:1. 申请虚拟内存( acl.rt.reservememaddress 接口)。 2. 申请物理内存( acl.rt.mallocphysical 接口)。 3. 将虚拟内存映射到物理内存( acl.rt.mapmem 接口)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0125_html.md ## 函数:malloc\_physical - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0126.html - Description: 申请Host或Device物理内存并返回一个物理内存handle。 本接口可配合acl.rt.reservememaddress接口(申请虚拟内存)、acl.rt.mapmem接口(建立虚拟内存与物理内存之间的映射)使用,以便申请地址连续的虚拟内存、最大化利用物理内存地址的目的。 本接口可配合acl.rt.memexporttoshareablehandle接口(导出物理内存handle)、acl - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0126_html.md ## 函数:unmap\_mem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0129.html - Description: 取消虚拟内存与物理内存之间的映射关系。 本接口需与以下其它接口配合使用,以便申请地址连续的虚拟内存、最大化利用物理内存的目的:1. 申请虚拟内存( acl.rt.reservememaddress 接口)。 2. 申请物理内存( acl.rt.mallocphysical 接口)。 3. 将虚拟内存映射到物理内存( acl.rt.mapmem 接口)。 4. 执行任务(调用具体的任务接口)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0129_html.md ## 函数:get\_task\_id\_from\_exception\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0132.html - Description: 获取异常信息中的任务ID。该接口与acl.rt.setexceptioninfocallback接口配合使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0132_html.md ## 函数:get\_thread\_id\_from\_exception\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0134.html - Description: 获取异常信息中的线程ID。该接口与acl.rt.setexceptioninfocallback接口配合使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0134_html.md ## 函数:get\_error\_code\_from\_exception\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0136.html - Description: 获取异常信息中的错误码。该接口与acl.rt.setexceptioninfocallback接口配合使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0136_html.md ## 函数:init\_dump - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0154.html - Description: Dump初始化。 - C函数原型 1 aclError aclmdlInitDump\(\) - python函数 1 ret \= acl.mdl.initdump\(\) 无 - acl.mdl. - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0154_html.md ## 函数:set\_dump - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0155.html - Description: 设置dump参数。 - C函数原型 1 aclError aclmdlSetDump\(const char dumpCfgPath\) - python函数 1 ret \= acl.mdl.setdump\(dumpcfgpath\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0155_html.md ## 函数:set\_op\_execute\_time\_out - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0774.html - Description: 设置算子执行的超时时间,单位为秒。一个进程内多次调用本接口,则以最后一次设置的时间为准。如果算子下发时携带了超时时间,则该超时时间优先级高于本接口设置的超时时间。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0774_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0847.html - Description: 不能与订阅算子信息的接口交叉调用:acl.prof.init接口和acl.prof.finalize接口之间不能调用acl.prof.model\_subscribe接口、aclprofGet*接口、acl.prof.model\_unsubscribe接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0847_html.md ## 函数:create\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0848.html - Description: 创建aclprofConfig类型的数据,表示创建Profiling配置数据。 aclProfConfig类型数据可以只创建一次、多处使用,用户需要保证数据的一致性和准确性。 如需销毁aclprofConfig类型的数据,请参见函数:destroyconfig。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0848_html.md ## 函数:destroy\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0850.html - Description: 销毁aclprofConfig类型的数据,只能销毁通过acl.prof.createconfig接口创建的aclprofConfig类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0850_html.md ## 函数:init - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0851.html - Description: 初始化Profiling,目前用于设置保存性能数据的文件的路径。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0851_html.md ## 函数:stop - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0853.html - Description: 停止Profiling数据采集。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0853_html.md ## 函数:finalize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0854.html - Description: 结束Profiling。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0854_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0856.html - Description: - 调用接口要求:msproftx功能相关接口须在 acl.prof.start - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0856_html.md ## 函数:create\_stamp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0857.html - Description: 创建msproftx事件标记。后续调用函数:mark、函数:setstamptracemessage、函数:push和函数:rangestart接口时需要以描述该事件的指针地址作为输入,表示记录该事件发生的时间跨度。 与函数:destroystamp接口配对使用,需提前调用函数:start接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0857_html.md ## 函数:set\_stamp\_trace\_message - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0861.html - Description: 为msproftx事件标记携带字符串描述,在Profiling解析并导出结果中msproftx summary数据展示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0861_html.md ## 函数:pop - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0864.html - Description: msproftx用于记录事件发生的时间跨度的结束时间。 调用此接口后,Profiling自动在Stamp中记录采集结束的时间戳。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0864_html.md ## 函数:range\_start - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0865.html - Description: msproftx用于记录事件发生的时间跨度的开始时间。 调用此接口后,Profiling自动在Stamp记录采集开始的时间戳,将Event type设置为Start/Stop,生成一个进程唯一的id,并将Stamp保存在以进程粒度维护的一个map中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0865_html.md ## 函数:range\_stop - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0866.html - Description: msproftx用于记录事件发生的时间跨度的结束时间。 调用此接口后,Profiling自动在Stamp中记录采集结束的时间戳。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0866_html.md ## 函数:destroy\_stamp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0867.html - Description: 释放msproftx事件标记。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0867_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0869.html - Description: 不能与Profiling数据采集接口的接口交叉调用:acl.prof.model\_subscribe接口和acl.prof.model\_unsubscribe接口之间不能调用acl.prof.init接口、acl.prof.start接口、acl.prof.stop接口、acl.prof.finalize接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0869_html.md ## 函数:create\_subscribe\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0870.html - Description: 创建aclprofSubscribeConfig类型的数据,表示创建订阅配置信息。 如需销毁aclprofSubscribeConfig类型的数据,请参见acl.prof.destroysubscribeconfig。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0870_html.md ## 函数:destroy\_subscribe\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0871.html - Description: 销毁aclprofSubscribeConfig类型的数据,只能销毁通过acl.prof.createsubscribeconfig接口创建的aclprofSubscribeConfig类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0871_html.md ## 函数:model\_subscribe - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0872.html - Description: 网络场景下,订阅算子的基本信息,包括算子名称、算子类型、算子执行耗时等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0872_html.md ## 函数:get\_op\_desc\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0875.html - Description: 获取单个算子数据结构的大小,单位为Byte。当前版本中约定每个算子数据结构的大小是一样的。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0875_html.md ## 函数:get\_op\_num - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0876.html - Description: 获取指定内存中算子的数量。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0876_html.md ## 函数:get\_op\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0879.html - Description: 获取指定算子的算子类型名称。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 acl.prof.getoptype和acl.prof.getoptypev2接口功能一致,但acl.prof.getoptypev2接口会获取算子类型长度,并分配相应的空间,不需要用户传参来指定算子类型所需空间大小,建议优先使用acl.prof.getoptypev2接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0879_html.md ## 函数:get\_op\_type\_v2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0880.html - Description: 获取指定算子的算子类型名称。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 acl.prof.getoptypev2和acl.prof.getoptype接口功能一致,但acl.prof.getoptypev2接口会获取算子类型长度,并分配相应的空间,不需要用户传参来指定算子类型所需空间大小,建议优先使用acl.prof.getoptypev2接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0880_html.md ## 函数:get\_op\_name\_v2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0882.html - Description: 获取指定算子的算子名称。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 acl.prof.getopnamev2和acl.prof.getopname接口功能一致,但acl.prof.getopnamev2接口会获取算子名称长度,并分配相应的空间,不需要用户传参来指定算子名称所需空间大小,建议优先使用acl.prof.getopnamev2接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0882_html.md ## 函数:get\_op\_start - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0883.html - Description: 获取算子执行的开始时间,单位为ns。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0883_html.md ## 函数:get\_model\_id - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0886.html - Description: 获取指定算子所在模型的ID。 建议用户新建一个线程,在新线程内调用该接口,否则可能阻塞主线程中的其它任务调度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0886_html.md ## 函数:get\_step\_timestamp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0888.html - Description: 利用单算子加载与执行接口\(https://www.hiascend.comdocument/detail/zh/CANNCommunityEdition/920beta1/API/ascendgraphapi/aclpythondevg010771.html\)实现训练的场景下,使用本接口用于标记迭代开始与结束时间,为后续Profiling解析提供迭代标识,以便以迭代为粒度展示性能数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0888_html.md ## 函数:destroy\_step\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0890.html - Description: 销毁通过acl.prof.createstepinfo接口创建的aclprofStepInfo类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0890_html.md ## CANN社区版-aclError - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0911.html - Description: 返回码定义规则: - 规则1:开发人员的环境异常或者代码逻辑错误,可以通过优化环境或代码逻辑的方式解决问题,此时返回码定义为:1XXXXX。 - 规则2:资源不足(Stream、内存等)、开发人员编程时使用的接口或参数与当前硬件不匹配,可以通过在编程时合理使用资源的方式解决,此时返回码定义为:2XXXXX。 - 规则3:业务功能异常,比如队列满、队列空等,此时返回码定义为3XXXXX。 - 规则4 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0911_html.md ## CANN社区版-aclFloat16 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0913.html - Description: 该数据类型仅用于数据传递,不能用于加减乘除等运算。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0913_html.md ## CANN社区版-aclrtRunMode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0920.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0920_html.md ## CANN社区版-aclprofAicoreMetrics - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0929.html - Description: AI Core性能指标采集项 含义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0929_html.md ## CANN社区版-aclMemType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0940.html - Description: ACLMEMTYPEHOST和ACLMEMTYPEHOSTCOMPILEINDEPENDENT都标识Host内存,但在使用上有区别:- ACLMEMTYPEHOSTCOMPILEINDEPENDENT :设置该选项时,算子输入或输出的值的变化,都不会触发算子重新编译。若算子编译时依赖其输入或输出的值, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0940_html.md ## CANN社区版-aclrtEventWaitStatus - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0942.html - Description: | 事件状态 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0942_html.md ## CANN社区版-aclrtEventRecordedStatus - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0943.html - Description: | 事件状态 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0943_html.md ## CANN社区版-aclprofStepTag - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0944.html - Description: 同一个aclprofStepInfo对象、同一个tag只能设置一次,否则Profiling解析会出错。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0944_html.md ## CANN社区版-aclrtFloatOverflowMode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0950.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0950_html.md ## CANN社区版-aclrtUtilizationInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0951.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0951_html.md ## 函数:get\_cann\_attribute\_list - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0952.html - Description: 查询运行环境中CANN软件和对应芯片支持的特性列表。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0952_html.md ## 函数:create\_event\_ex\_with\_flag - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0955.html - Description: 创建一个带flag的Event,不同flag的Event用于不同的功能。支持创建Event时携带多个flag(按位进行或操作),从而同时使能对应flag的功能。创建Event时,Event资源不受硬件限制。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0955_html.md ## 函数:mem\_export\_to\_shareable\_handle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0956.html - Description: 将本进程通过acl.rt.mallocphysical接口获取到的Device物理内存handle导出,以便后续将Device物理内存共享给其它进程。 本接口需与以下其它接口配合使用,以便实现内存共享的目的(此处以A、B进程为例,说明两个进程间的物理内存共享接口调用流程): 1. 在A进程中: a. 调用 acl.rt.mallocphysical 接口,申请物理内存。 先调用a - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0956_html.md ## 函数:device\_get\_bare\_tgid - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0957.html - Description: 获取当前进程的进程ID。 本接口内部在获取进程ID时已适配物理机、虚拟机场景,用户只需调用本接口获取进程ID,再配置其它接口使用(配合流程请参见acl.rt.memexporttoshareablehandle),达到物理内存共享的目的。若用户不调用本接口、自行获取进程ID,可能会导致后续使用进程ID异常。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0957_html.md ## 函数:mem\_import\_from\_shareable\_handle - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0959.html - Description: 在本进程中获取shareablehandle里的信息,并返回本进程中的handle,用于在本进程中建立虚拟地址与物理地址之间的映射关系。本接口还支持生成指定Device上的handle。 本接口需与其它接口配合使用,以便实现内存共享的目的,配合使用流程请参见acl.rt.memexporttoshareablehandle接口处的说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0959_html.md ## 函数:mem\_get\_allocation\_granularity - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0960.html - Description: 查询内存申请粒度。系统内部计算给定分配规范的最小粒度或建议粒度,并以granularity参数返回粒度。此粒度可用作对齐、地址大小或地址映射的倍数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0960_html.md ## CANN社区版-aclrtMemMallocPolicy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0962.html - Description: 此处支持单个枚举项,也支持多个枚举项位或: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0962_html.md ## CANN社区版-aclrtPhysicalMemProp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0963.html - Description: | 成员名称 | 描述 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0963_html.md ## CANN社区版-aclrtStreamStatus - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0964.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0964_html.md ## CANN社区版-aclrtDeviceStatus - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0965.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0965_html.md ## CANN社区版-aclrtMemAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0966.html - Description: 对于申请大页内存的场景,当内存申请粒度为2M时,如果要申请1G大小的大页内存,会占用1024/2\=512个页表,当内存申请粒度为1G时,1G大页内存只占用1个页表,能有效降低页表数量,有效扩大TLB(Translation Lookaside Buffer)缓存的地址范围,从而提升离散访问的性能。TLB是AI处理器中用于高速缓存的硬件模块, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0966_html.md ## CANN社区版-aclDeviceInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0968.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0968_html.md ## CANN社区版-aclCannAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0969.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0969_html.md ## 函数:ctx\_get\_sys\_param\_opt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0971.html - Description: 获取当前Context中的系统参数值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0971_html.md ## 函数:ctx\_set\_sys\_param\_opt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0972.html - Description: 设置当前Context中的系统参数值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0972_html.md ## 函数:allocator\_create\_desc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0974.html - Description: 创建aclrtAllocatorDesc类型的数据,表示Allocator描述信息,主要用于注册回调函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0974_html.md ## 函数:allocator\_destroy\_desc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0975.html - Description: 销毁通过acl.rt.allocatorcreatedesc接口创建的aclrtAllocatorDesc类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0975_html.md ## 函数:allocator\_set\_get\_addr\_from\_block\_func\_to\_desc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0980.html - Description: 使用用户提供的Allocator场景下,设置"根据申请来的block获取device内存地址"的回调函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0980_html.md ## 函数:allocator\_register - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0981.html - Description: 调用该接口注册用户提供的Allocator以及Allocator对应的回调函数,用于使用用户提供的Allocator。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0981_html.md ## 函数:allocator\_unregister - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0982.html - Description: 取消注册用户提供的Allocator以及Allocator对应的回调函数,用于取消使用用户提供的Allocator。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0982_html.md ## 函数:binary\_load - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0986.html - Description: 解析、加载算子二进制文件,输出指向算子二进制的binHandle,同时将算子二进制文件数据拷贝至当前Context对应的Device上。仅支持Ascend C自定义算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0986_html.md ## 函数:binary\_get\_function - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0988.html - Description: 根据kernelname,查找到对应的kernel对象,使用funchandle表达。 对于同一个binhandle,首次调用acl.rt.binarygetfunction接口时,会默认将binhandle关联的算子二进制数据拷贝至当前Context对应的Device上。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0988_html.md ## 函数:launch\_kernel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0989.html - Description: 启动对应Kernel的计算任务。仅支持Ascend C自定义算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0989_html.md ## 函数:dump\_unreg\_callback - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_0991.html - Description: Dump数据回调函数取消注册接口。 函数:initdump接口、函数:dumpregcallback接口(通过该接口注册的回调函数需由用户自行实现,回调函数实现逻辑中包括获取Dump数据及数据长度)、函数:dumpunregcallback接口、函数:finalizedump接口配合使用,用于通过回调函数获取Dump数据。场景举例如下:- 执行一个模型,通过回调获取Dump数据: 函数:ini - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_0991_html.md ## 函数:start\_dump\_args - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1007.html - Description: 调用本接口开启算子信息统计功能,并需与函数:stopdumpargs接口配合使用,将算子信息文件输出到path参数指定的目录,一个shape对应一个算子信息文件,文件中包含算子类型、算子属性、算子输入&输出的format/数据类型/shape等信息。 使用场景:例如要统计某个模型执行涉及哪些算子,可在模型执行之前调用acl.op.startdumpargs接口,在模型执行之后调用acl.op.st - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1007_html.md ## 函数:stop\_dump\_args - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1008.html - Description: 调用本接口关闭算子信息统计功能,并需与函数:startdumpargs接口配合使用,将算子信息文件输出到path参数指定的目录,一个shape对应一个算子信息文件,文件中包含算子类型、算子属性、算子输入&输出的format/数据类型/shape等信息。 使用场景:例如要统计某个模型执行涉及哪些算子,可在模型执行之前调用acl.op.startdumpargs接口,在模型执行之后调用acl.op.s - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1008_html.md ## 函数:mark\_ex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1009.html - Description: acl.prof.markex打点接口。 调用此接口向配置的Stream流上下发打点任务,用于标识Host侧打点与Device侧打点任务的关系。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1009_html.md ## CANN社区版-aclSysParamOpt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1010.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1010_html.md ## 函数:get\_cann\_version - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1019.html - Description: 查询CANN软件包版本号。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1019_html.md ## 函数:set\_sys\_param\_opt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1021.html - Description: 设置当前进程中的运行时参数值。调用本接口设置运行时参数值后,若需获取参数值,需调用acl.rt.getsysparamopt接口。 本接口与acl.rt.ctxsetsysparamopt接口的差别是,本接口作用域是进程,acl.rt.ctxsetsysparamopt接口作用域是Context。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1021_html.md ## 函数:get\_sys\_param\_opt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1022.html - Description: 获取当前进程中的运行时参数值。 如果不调用acl.rt.setsysparamopt接口设置运行时参数的值,直接调用本接口可获取各参数的默认值0,表示不开启确定性计算或内存访问越界检测;调用acl.rt.setsysparamopt接口设置运行时参数值后,若需获取参数值,需调用acl.rt.getsysparamopt接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1022_html.md ## 函数:reset\_device - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1023.html - Description: 复位当前运算的Device,释放Device上的资源。释放的资源包括默认Context、默认Stream以及默认Context下创建的所有Stream。若默认Context或默认Stream下的任务还未完成,系统会等待任务完成后再释放。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1023_html.md ## 函数:reset\_device\_force - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1024.html - Description: 复位当前运算的Device,释放Device上的资源。释放的资源包括默认Context、默认Stream以及默认Context下创建的所有Stream。若默认Context或默认Stream下的任务还未完成,系统会等待任务完成后再释放。 acl.rt.resetdeviceforce接口可与acl.rt.setdevice接口配对使用,也可不与aclrtSetDevice接口配对使用,若不配对使用 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1024_html.md ## 函数:device\_can\_access\_peer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1025.html - Description: 查询Device之间是否支持内存复制。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1025_html.md ## 函数:device\_enable\_peer\_access - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1026.html - Description: 使能当前Device与指定Device之间的数据交互。使能内存复制是Device级的。 可提前调用acl.rt.devicecanaccesspeer接口查询当前Device与指定Device之间能否进行数据交互。需调用两次acl.rt.deviceenablepeeraccess接口使能两个Device之间的数据交互功能(例如,调用一次acl.rt.deviceenablepeeraccess接 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1026_html.md ## 函数:device\_disable\_peer\_access - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1027.html - Description: 关闭当前Device与指定Device之间的内存复制功能。关闭内存复制功能是Device级的。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1027_html.md ## 函数:synchronize\_device\_with\_timeout - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1028.html - Description: 阻塞应用程序运行,直到正在运算中的Device完成运算。该接口是在synchronizedevice接口基础上进行了增强,支持用户设置超时时间,当应用程序异常时可根据所设置的超时时间自行退出,超时退出时本接口返回ACLERRORRTSTREAMSYNCTIMEOUT。 多Device场景下,调用该接口等待的是当前Context对应的Device。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1028_html.md ## 函数:get\_device\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1029.html - Description: 获取指定Device的信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1029_html.md ## 函数:get\_device\_capability - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1031.html - Description: 查询device特性是否支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1031_html.md ## 函数:stream\_abort - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1037.html - Description: 停止指定Stream上的正在执行的任务、丢弃指定Stream上已下发但未执行的任务。本接口执行期间,指定Stream上新下发的任务不再生效。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1037_html.md ## 函数:stream\_get\_id - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1038.html - Description: 获取指定Stream的ID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1038_html.md ## 函数:get\_stream\_available\_num - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1039.html - Description: 获取当前Device上剩余可用的Stream数量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1039_html.md ## 函数:get\_event\_id - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1043.html - Description: 获取指定Event的ID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1043_html.md ## 函数:wait\_and\_reset\_notify - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1049.html - Description: 阻塞指定Stream的运行,直到指定的Notify完成,再复位Notify。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1049_html.md ## 函数:get\_notify\_id - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1050.html - Description: 获取指定Notify的ID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1050_html.md ## 函数:notify\_batch\_reset - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1051.html - Description: 批量复位Notify。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1051_html.md ## 函数:notify\_import\_by\_key - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1054.html - Description: 在本进程中获取key的信息,并返回本进程可以使用的Notify指针地址。 本接口需与其它接口配合使用,以便实现多Device上不同进程间的任务同步,请参见acl.rt.notifygetexportkey接口处的说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1054_html.md ## 函数:get\_thread\_last\_task\_id - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1055.html - Description: 获取当前线程的最后一个下发的Task ID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1055_html.md ## 函数:cmo\_async - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1058.html - Description: 实现Device上的Cache内存操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1058_html.md ## 函数:malloc\_with\_cfg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1059.html - Description: 在Device上分配size大小的线性内存,并通过devptr返回已分配内存的指针。 与acl.rt.malloc接口相比,本接口在申请内存时,还可以指定内存相关的配置信息。 使用本接口申请的内存,需要通过acl.rt.free接口释放内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1059_html.md ## 函数:malloc\_host\_with\_cfg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1061.html - Description: 申请Host内存(该内存是锁页内存),由系统保证内存首地址64字节对齐。与acl.rt.mallochost接口相比,本接口在申请内存时,还可以指定内存相关的配置信息 针对 Ascend RC 形态、Control CPU开放形态,Host与Device是合一的,所以申请Host内存也等同于申请Device内存。此外,申请内存时,按普通页申请。如果需要64字节对齐的首地址,用户需自行处理对齐问题。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1061_html.md ## 函数:memcpy\_async\_with\_desc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1062.html - Description: 使用内存复制描述符(二级指针方式)进行内存复制。 本接口是异步接口,调用接口成功仅表示任务下发成功,不表示任务执行成功。调用该接口后,需调用同步等待接口(例如,acl.rt.synchronizestream)确保任务已执行完成,否则可能会导致训练或推理等业务异常、Device断链掉卡等未知情况。 本接口需与以下其它关键接口配合使用,以便实现内存复制: - 调用 acl.rt.getmemcpy - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1062_html.md ## 函数:get\_memcpy\_desc\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1063.html - Description: 获取当前Device的内存复制描述符占用的内存大小。 本接口需与其它关键接口配合使用,以便实现内存复制,详细描述请参见acl.rt.memcpyasyncwithdesc。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1063_html.md ## 函数:pointer\_get\_attributes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1065.html - Description: 获取内存属性信息,包括内存是位于Host还是Device、页表大小等信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1065_html.md ## 函数:host\_register - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1066.html - Description: 将Host内存映射注册为Device可访问的内存地址,并获取映射后的Device内存地址,该地址仅支持在Device上访问,例如作为核函数的参数,供Device的AI Core访问。若涉及Host侧的内存处理,需使用原始Host内存地址。 取消注册需调用acl.rt.hostunregister接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1066_html.md ## 函数:value\_write - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1068.html - Description: 向指定内存中写数据。 - C函数原型 - python函数 1 ret \= acl.rt.valuewrite\(devaddr, value, flag, stream\) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1068_html.md ## 函数:ipc\_mem\_get\_export\_key - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1070.html - Description: 在本进程中将指定Device内存设置为IPC(Inter-Process Communication)共享内存,并返回共享内存key,以便后续将内存共享给其它进程。本接口需与以下其它关键接口配合使用,以便实现内存共享,此处以A、B进程为例,说明两个进程间的内存共享接口调用流程: 1. 在A进程中: a. 若为不同Device上的两个进程共享内存场景,调用acl.rt.deviceenablep - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1070_html.md ## 函数:ipc\_mem\_import\_by\_key - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1072.html - Description: 在本进程中获取key的信息,并返回本进程可以使用的Device内存地址指针。本接口需与其它接口配合使用,以便实现内存共享的目的,配合使用流程请参见函数:ipcmemgetexportkey接口处的说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1072_html.md ## 函数:ipc\_mem\_close - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1073.html - Description: 关闭IPC 共享内存,调用acl.rt.ipcmemimportbykey接口的进程中、调用acl.rt.ipcmemgetexportkey接口的进程中都需要调用此接口。对于同一个共享内存key,需所有调用acl.rt.ipcmemimportbykey接口的进程中都调用acl.rt.ipcmemclose接口后,调用acl.rt.ipcmemgetexportkey接口的进程中才可以调用acl - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1073_html.md ## 函数:device\_task\_abort - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1075.html - Description: 停止指定Device上的正在执行的任务,同时丢弃指定Device上已下发的任务。该接口支持用户设置永久等待、或配置具体的超时时间,若配置具体的超时时间,则调用本接口超出超时时间,则接口返回报错。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1075_html.md ## 函数:peek\_at\_last\_error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1077.html - Description: 获取当前线程的Runtime(运行时管理模块)错误码,仅获取但不清空错误码。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1077_html.md ## 函数:get\_last\_error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1078.html - Description: 获取当前线程的Runtime(运行时管理模块)错误码,获取后清空当前线程的错误码,这时在线程中无新增错误码之前,调用本接口获取到的是表示成功的返回码ACLSUCCESS。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1078_html.md ## 概念及使用说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1079.html - Description: 本章中的接口涉及对算子的算子二进制、核函数、核函数参数列表以及参数的操作,为便于理解,您可以先通过下图了解它们之间的关系。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1079_html.md ## 函数:binary\_load\_from\_data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1081.html - Description: 从内存加载并解析AI CPU算子二进制数据,输出指向算子二进制的binHandle。 调用本接口用于加载AI CPU算子信息(aclrtBinaryLoadOptions中的optiontype包含ACLRTBINARYLOADOPTCPUKERNELMODE)时,还需配合使用acl.rt.registercpufunc接口注册AI CPU算子信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1081_html.md ## 函数:get\_function\_name - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1083.html - Description: 根据核函数句柄获取核函数名称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1083_html.md ## 函数:register\_cpu\_func - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1084.html - Description: 若使用acl.rt.binaryloadfromdata接口加载AI CPU算子二进制数据,还需配合使用本接口注册AI CPU算子信息,得到对应的funchandle。本接口只用于AI CPU算子,其它算子会返回报错ACLERRORRTPARAMINVALID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1084_html.md ## 函数:kernel\_args\_init - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1085.html - Description: 根据核函数句柄初始化参数列表,并获取标识参数列表的句柄。 与acl.rt.kernelargsinitbyusermem接口的区别在于,调用本接口表示由系统管理内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1085_html.md ## 函数:kernel\_args\_init\_by\_user\_mem - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1086.html - Description: 根据核函数句柄初始化参数列表,并获取标识参数列表的句柄。 与acl.rt.kernelargsinit接口的区别在于,调用本接口表示由用户管理内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1086_html.md ## 函数:kernel\_args\_get\_mem\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1087.html - Description: 获取Kernel Launch时参数列表所需内存的实际大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1087_html.md ## 函数:kernel\_args\_get\_handle\_mem\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1088.html - Description: 获取参数列表句柄占用的内存大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1088_html.md ## 函数:kernel\_args\_append - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1089.html - Description: 调用本接口将用户设置的参数值追加拷贝到argsHandle指向的参数数据区域。若参数列表中有多个参数,则需按顺序追加参数。 如果要更新参数值,可调用acl.rt.kernelargsparaupdate接口进行更新。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1089_html.md ## 函数:kernel\_args\_append\_place\_holder - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1090.html - Description: 对于placeholder参数,调用本接口先占位,返回的是paramhandle占位符。 若参数列表中有多个参数,则需按顺序追加参数。等所有参数都追加之后,可调用acl.rt.kernelargsgetplaceholderbuffer接口获取paramhandle占位符指向的内存地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1090_html.md ## 函数:kernel\_args\_get\_place\_holder\_buffer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1091.html - Description: 根据用户指定的内存大小,获取paramhandle占位符指向的内存地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1091_html.md ## 函数:kernel\_args\_para\_update - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1092.html - Description: 通过acl.rt.kernelargsappend接口追加的参数,可调用本接口更新参数值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1092_html.md ## 函数:kernel\_args\_finalize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1093.html - Description: 在所有参数追加完成后,调用本接口以标识参数组装完毕。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1093_html.md ## 函数:launch\_kernel\_with\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1094.html - Description: 指定任务下发的配置信息,并启动对应算子的计算任务。异步接口。 若使用本接口下发AI Core算子的计算任务,需配套使用acl.rt.binaryloadfromfile接口加载并解析算子二进制文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1094_html.md ## CANN社区版-aclrtStreamAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1106.html - Description: | 枚举项 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1106_html.md ## CANN社区版-aclrtStreamAttrValue - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1107.html - Description: | 成员名称 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1107_html.md ## CANN社区版-aclrtReduceKind - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1108.html - Description: Atlas 推理系列产品 仅支持SUM操作。 Atlas 训练系列产品 仅支持SUM操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1108_html.md ## CANN社区版-aclrtMemLocationType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1109.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1109_html.md ## CANN社区版-aclrtMemLocation - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1110.html - Description: | 成员名称 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1110_html.md ## CANN社区版-aclrtDevAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1111.html - Description: 为便于理解AI Core、Cube Core、Vector Core的关系,此处先明确Core的定义,Core是指拥有独立Scalar计算单元的一个计算核,通常Scalar计算单元承担了一个计算核的SIMD(单指令多数据,Single Instruction Multiple Data)指令发射等功能, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1111_html.md ## CANN社区版-aclrtDevFeatureType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1112.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1112_html.md ## CANN社区版-aclrtCmoType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1116.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1116_html.md ## CANN社区版-aclCANNPackageName - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1117.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1117_html.md ## CANN社区版-aclCANNPackageVersion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1118.html - Description: | 成员名称 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1118_html.md ## CANN社区版-aclrtBinaryLoadOptionType/aclrtBinaryLoadOptionValue - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1119.html - Description: aclrtBinaryLoadOptionType aclrtBinaryLoadOptionValue - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1119_html.md ## CANN社区版-aclrtLaunchKernelAttrId/aclrtLaunchKernelAttrValue - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1122.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1122_html.md ## CANN社区版-aclrtMallocAttribute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1126.html - Description: | 成员名称 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1126_html.md ## CANN社区版-aclrtMallocAttrType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1127.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1127_html.md ## CANN社区版-aclrtMallocAttrValue - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1128.html - Description: | 成员名称 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1128_html.md ## 函数:finalize\_reference - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1134.html - Description: 去初始化函数,用于释放进程内acl接口使用的相关资源。 acl.finalizereference接口内部涉及引用计数的实现,acl.init接口每被调用一次,则引用计数加一,acl.finalizereference接口每被调用一次,则该引用计数减一,当引用计数减到0时,才会真正去初始化。acl.finalize接口与本接口的区别在于,调用acl.finalize接口会将计数清零,直接去初始化。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1134_html.md ## 函数:get\_stream\_res\_limit - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1135.html - Description: 获取指定Stream的Device资源限制。 若没有调用acl.rt.setstreamreslimit接口设置Device资源限制,则调用本接口获取到的Device资源限制优先级为:当前进程的Device资源限制(调用acl.rt.setstreamreslimit接口设置) >AI处理器硬件默认的资源限制。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1135_html.md ## 函数:set\_stream\_res\_limit - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1136.html - Description: 设置指定Stream的Device资源限制。 本接口应在调用acl.rt.setdevice接口之后且在执行算子之前使用。如果对同一Stream进行多次设置,将以最后一次设置为准。 调用本接口设置指定Stream的Device资源限制后,需配合调用acl.rt.usestreamresincurrentthread接口,设置在当前线程中使用指定Stream上的Device资源限制。可通过acl.r - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1136_html.md ## 函数:use\_stream\_res\_in\_current\_thread - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1138.html - Description: 在当前线程中使用指定Stream上的Device资源限制。如果多次调用本接口设置Stream,将以最后一次设置为准。 需先调用acl.rt.setstreamreslimit接口设置该Stream上的Device资源限制。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1138_html.md ## 函数:unuse\_stream\_res\_in\_current\_thread - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1139.html - Description: 在当前线程中取消使用指定Stream上的Device资源限制。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1139_html.md ## 函数:get\_res\_in\_current\_thread - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1140.html - Description: 获取当前线程可使用的Device资源。 获取时,按照如下优先级返回value:Stream级别的Device资源限制(调用acl.rt.setstreamreslimit接口设置)>当前进程的Device资源限制(调用acl.rt.setdevicereslimit接口设置) >AI处理器硬件默认的资源限制。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1140_html.md ## CANN社区版-aclrtHostRegisterType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/aclpythondevg_01_1152.html - Description: | 数据格式 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_aclpythondevg_01_1152_html.md ## 使用须知 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/cann_base_api_00022.html - Description: 该部分接口仅在定制开发CANN组件场景下使用。本文介绍这部分接口的功能、参数等,仅为了便于您了解这部分接口在CANN开放代码中的作用,进而更好地使用或修改CANN开放代码。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_cann_base_api_00022_html.md ## CANN社区版-ReportUserDefinedErrMsg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/cann_base_api_0006.html - Description: 用于开发者上报自定义错误码,推荐使用U码段,比如EU0001。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_cann_base_api_0006_html.md ## CANN社区版-RegisterFormatErrorMessage - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/runtimeapi/cann_base_api_0011.html - Description: 按照规定的json格式,调用本接口给CANN注册预定义的错误码信息后,再调用ReportPredefinedErrMsg接口上报错误码。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_runtimeapi_cann_base_api_0011_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_0000.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_0001.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_0002.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_0005.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_0006.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_0008.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0002.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0004.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0006.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0007.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0008.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0009.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0010.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0011.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0012.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0013.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0014.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0015.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0016.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0017.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0018.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0019.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0021.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0022.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0023.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0024.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0025.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0026.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0028.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0029.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0030.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0032.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0035.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0037.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0038.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0039.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0040.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0041.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0042.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0043.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0044.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0045.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0046.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0047.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0048.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0049.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0051.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0052.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0053.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0054.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0055.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0056.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0058.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0059.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0061.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0063.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0064.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0065.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0066.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0067.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0069.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0071.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0072.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0073.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0074.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0075.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0076.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0078.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0079.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0080.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0083.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0084.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0085.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0086.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0087.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0088.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0089.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0090.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/API/SiP/SIP_API_0091.html - Description: 在AI算子、算法和应用开发方面,CANN向用户开放编程接口,并提供配套的文档说明,这些接口统称为开放接口。开放接口的兼容性将在CANN软件版本演进中得到保障,如有废弃或影响用户的变更,将在版本说明中提前预告。通常,这些接口放置在安装环境的include目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_API_headerliblist_hfandlf_09_0001_html.md ## CANN社区版-毕昇编译器(可执行程序名为bisheng)是CANN软件栈中的昇腾AI处理器专用 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/compiler/BishengCompiler - Description: 毕昇编译器(可执行程序名为bisheng)是CANN软件栈中的昇腾AI处理器专用编译器。它支持Host(主机)与Device(设备)混合编程,可将用户编写的昇腾算子源码编译为可执行文件、动态库或静态库等产物。编译器支持x86、aarch64等主机平台,并原生支持设备侧AI Core架构指令集编译。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_compiler_BishengCompiler_atlas_bisheng_10_0001_html.md ## CANN社区版-毕昇编译器(可执行程序名为bisheng)是CANN软件栈中的昇腾AI处理器专用 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/compiler/BishengCompiler/atlas_bisheng_10_0001.html - Description: 毕昇编译器(可执行程序名为bisheng)是CANN软件栈中的昇腾AI处理器专用编译器。它支持Host(主机)与Device(设备)混合编程,可将用户编写的昇腾算子源码编译为可执行文件、动态库或静态库等产物。编译器支持x86、aarch64等主机平台,并原生支持设备侧AI Core架构指令集编译。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_compiler_BishengCompiler_atlas_bisheng_10_0001_html.md ## 快速上手 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/compiler/BishengCompiler/atlas_bisheng_10_0002.html - Description: 本节介绍异构编程环境配置与编译器使用的简单用例,方便用户快速验证环境信息,熟悉毕昇编译器的使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_compiler_BishengCompiler_atlas_bisheng_10_0002_html.md ## 预定义宏和内建变量 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/compiler/BishengCompiler/atlas_bisheng_10_0005.html - Description: 毕昇编译器同其他语言的编译器一样,会有一些预定义宏方便开发者编写程序。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_compiler_BishengCompiler_atlas_bisheng_10_0005_html.md ## 函数执行空间限定符 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/compiler/BishengCompiler/atlas_bisheng_10_0006.html - Description: 函数执行空间限定符(Function Execution Space Qualifier)指示函数是在host侧执行还是在device侧执行,以及它是否可从host侧或device侧调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_compiler_BishengCompiler_atlas_bisheng_10_0006_html.md ## 支持C++高级特性 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/compiler/BishengCompiler/atlas_bisheng_10_0007.html - Description: 下文对设备侧支持的C++高级特性(template模板和constexpr表达式)进行介绍。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_compiler_BishengCompiler_atlas_bisheng_10_0007_html.md ## 配套工具说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/compiler/BishengCompiler/atlas_bisheng_10_0009.html - Description: 本节介绍毕昇编译器发布包中附带的主要二进制工具及其安全风险。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_compiler_BishengCompiler_atlas_bisheng_10_0009_html.md ## 编译选项 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/compiler/BishengCompiler/atlas_bisheng_10_0010.html - Description: 常用的编译选项说明如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_compiler_BishengCompiler_atlas_bisheng_10_0010_html.md ## 异构编译步骤 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/compiler/BishengCompiler/atlas_bisheng_10_0011.html - Description: 毕昇编译器支持AI Core异构编译,当需要编写包含AI Core的异构程序时,可按如下步骤进行: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_compiler_BishengCompiler_atlas_bisheng_10_0011_html.md ## 编译、链接、库使用方法 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/compiler/BishengCompiler/atlas_bisheng_10_0012.html - Description: 实际可运行用例,本章节编译指导均以此组用例代码为示例。使用前需要先配置环境,详见异构编译步骤。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_compiler_BishengCompiler_atlas_bisheng_10_0012_html.md ## 编译选项 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/compiler/BishengCompiler/atlas_bisheng_10_0015.html - Description: AI CPU常用的编译选项如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_compiler_BishengCompiler_atlas_bisheng_10_0015_html.md ## 函数空间执行限定符 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/compiler/BishengCompiler/atlas_bisheng_10_0019.html - Description: AI CPU函数执行空间限定符(Function Execution Space Qualifier)指示函数是否为AI CPU Kernel函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_compiler_BishengCompiler_atlas_bisheng_10_0019_html.md ## AI CPU Device调测 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/compiler/BishengCompiler/atlas_bisheng_10_0020.html - Description: AI CPU支持通过《Ascend C算子开发接口》的AscendC::printf接口实现Device运行时内容的格式化输出,调试信息可直接打印至Host终端。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_compiler_BishengCompiler_atlas_bisheng_10_0020_html.md ## 异构编译概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/compiler/BishengCompiler/atlas_bisheng_10_0022.html - Description: 昇腾AI处理器采用Host + Device的异构架构: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_compiler_BishengCompiler_atlas_bisheng_10_0022_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0001.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 工具部署架构 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0002.html - Description: 本节介绍AMCT在不同产品形态下的部署架构。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0003_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0004.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0005.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 获取软件包 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0009.html - Description: 安装前,请单击Link\(https://www.hiascend.com/developer/download/community/result?module\=cann\)获取对应版本的AMCT软件包:Ascend-cann-amct\_\{software version\}\_linux-\{arch\}.tar.gz - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0009_html.md ## 用户准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0011.html - Description: 支持任意用户(root或者非root)安装AMCT,本章节以非root用户为例进行操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0011_html.md ## AMCT(PyTorch) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0012.html - Description: 本章节以Ubuntu 20.04为例,详述安装前准备,AMCT(PyTorch)支持在NPU、CPU两种处理器中执行压缩,版本配套信息如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0013_html.md ## AMCT(ONNX) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0014.html - Description: 本章节以Ubuntu 20.04为例,详述安装前准备,版本配套信息如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0014_html.md ## AMCT(Caffe) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0016.html - Description: 本章节以Ubuntu 20.04为例,详述安装前准备,版本配套信息如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0016_html.md ## AMCT(TensorFlow,Ascend) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0017.html - Description: 该场景仅限 Atlas 训练系列产品 使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0017_html.md ## AMCT(PyTorch) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0018.html - Description: 请使用AMCT的安装用户安装依赖的软件,如果安装用户为非root,请确保该用户拥有sudo权限,请使用su - username命令切换到非root用户执行如下命令(如果安装用户为root,请将安装依赖命令中的--user删除)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0019_html.md ## AMCT(PyTorch) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0019.html - Description: 请使用AMCT的安装用户安装依赖的软件,如果安装用户为非root,请确保该用户拥有sudo权限,请使用su - username命令切换到非root用户执行如下命令(如果安装用户为root,请将安装依赖命令中的--user删除)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0019_html.md ## AMCT(TensorFlow) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0021.html - Description: 请使用AMCT的安装用户安装依赖的软件,如果安装用户为非root,请确保该用户拥有sudo权限,请使用su - username命令切换到非root用户执行如下命令(如果安装用户为root,请将安装依赖命令中的--user删除)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0021_html.md ## AMCT(TensorFlow,Ascend) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0023.html - Description: 该场景仅限 Atlas 训练系列产品 使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0023_html.md ## 上传软件包 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0024.html - Description: 以AMCT的安装用户将Ascend-cann-amct\_\{software version\}\_linux-\{arch\}.tar.gz软件包上传到Linux服务器任意目录下,本示例为上传到$HOME/amct/目录。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0024_html.md ## 安装工具 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0025.html - Description: 本节介绍AMCT工具具体的安装命令。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0025_html.md ## AMCT(PyTorch) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0026.html - Description: AMCT量化过程中的日志信息以及日志级别,可以通过环境变量设置,本章节给出详细设置方法。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0027_html.md ## 编译并安装自定义算子包 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0028.html - Description: 由于AMCT存在基于ONNX Runtime的自定义算子包,而自定义算子包编译时依赖ONNX Runtime提供的头文件,该头文件需要用户自行下载后,然后编译并安装自定义算子包。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0029_html.md ## 编译并安装自定义算子包 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0029.html - Description: 由于AMCT存在基于ONNX Runtime的自定义算子包,而自定义算子包编译时依赖ONNX Runtime提供的头文件,该头文件需要用户自行下载后,然后编译并安装自定义算子包。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0029_html.md ## 设置环境变量 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0030.html - Description: AMCT量化过程中的日志信息以及日志级别,可以通过环境变量设置,本章节给出详细设置方法。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0030_html.md ## 安装Caffe patch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0032.html - Description: 安装完AMCT后,量化模型前,用户需要获取并安装Caffe源代码增强包caffe\_patch.tar.gz。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0032_html.md ## 工具更新 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0034.html - Description: 建议使用最新版本的AMCT,以便获得最新功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0035_html.md ## 工具更新 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0035.html - Description: 建议使用最新版本的AMCT,以便获得最新功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0035_html.md ## 快速入门 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0037.html - Description: 本章节以压缩特性中的量化功能为例,并借助sample中的网络模型,为您介绍如何使用命令行方式压缩一个模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0037_html.md ## CANN社区版-本章节介绍amct\_pytorch中面向大语言模型(LLM)的量化工具 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0038.html - Description: 本章节介绍amct\_pytorch中面向大语言模型(LLM)的量化工具。该工具以命令行工作流为核心,串联起PPL(Perplexity,困惑度) 测量、PTQ(Post-Training Quantization,训练后量化) 数据提取、PTQ参数训练及量化权重部署导出等关键能力。同时,借助模型适配器、量化算法注册表和量化数据类型注册表,实现了不同模型架构与量化策略的灵活组合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0040_html.md ## CANN社区版-eval - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0041.html - Description: - 特性入口:$HOME/.local/lib/python3.x/site-packages/amct\_pytorch/cli/llm/eval.py - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0042_html.md ## CANN社区版-eval - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0042.html - Description: - 特性入口:$HOME/.local/lib/python3.x/site-packages/amct\_pytorch/cli/llm/eval.py - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0042_html.md ## CANN社区版-deploy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0045.html - Description: - 特性入口:$HOME/.local/lib/python3.x/site-packages/amct\_pytorch/cli/llm/deploy.py - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0045_html.md ## CANN社区版-本节介绍基于torch module训练后量化的使用场景 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0047.html - Description: 本节介绍基于torch module训练后量化的使用场景。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0048_html.md ## 量化流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0049.html - Description: 本节介绍全量化场景下支持的层类型,并给出详细接口调用流程和调用示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0049_html.md ## CANN社区版-本节介绍基于图结构的量化 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0051.html - Description: 本节介绍基于图结构的量化,给出量化的分类以及各个分类下的量化流程和调用示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0051_html.md ## 基于精度的自动量化 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0053.html - Description: 基于精度的自动量化是为了方便用户在对量化精度有一定要求时所使用的功能。该方法能够在保证用户所需的模型精度前提下,自动搜索模型的量化配置并执行训练后量化的流程,最终生成满足精度要求的量化模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0053_html.md ## 量化流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0054.html - Description: 本节详细介绍训练后量化支持的量化层,接口调用流程和示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0055_html.md ## 量化流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0058.html - Description: 本节详细介绍量化感知训练支持的量化层,接口调用流程和示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0058_html.md ## 手工调优 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0059.html - Description: 执行量化感知训练特性后的精度如果不满足要求,可以尝试手动调整config.json文件中的参数,本节给出调整的原则,以及参数解释。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0059_html.md ## 量化数据均衡预处理 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0061.html - Description: 在一些数据分布不均匀的场景,由于离群值的影响,对数据进行per-tensor量化得到的结果误差较大,而per-channel量化可以获得更低的误差。但由于当前硬件不支持数据per-channel量化,仅支持权重per-channel量化;在该背景下AMCT设计出一套方法,本节将给出详细介绍。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0061_html.md ## KV Cache量化 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0062.html - Description: 本节介绍什么是KV Cache、为什么要进行KV Cache量化,量化支持的层,并给出了KV Cache量化调用流程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0062_html.md ## CANN社区版-当前通道稀疏支持对不同的层做不同稀疏率的稀疏处理 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0064.html - Description: 当前通道稀疏支持对不同的层做不同稀疏率的稀疏处理,但逐层设置稀疏率对用户的使用门槛较高,对于某一层,如何选择稀疏率(即配置中的prune\_ratio)是比较困难的,手工尝试的配置需要进行重训练,耗费时间多。针对上述问题,引入自动通道稀疏搜索特性,根据用户模型来计算各通道的稀疏敏感度(影响精度)以及稀疏收益(影响性能),然后搜索策略依据稀疏敏感度和稀疏收益来搜索最优的逐层通道稀疏率,以平衡精度和性能 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0066_html.md ## CANN社区版-当前通道稀疏支持对不同的层做不同稀疏率的稀疏处理 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0065.html - Description: 当前通道稀疏支持对不同的层做不同稀疏率的稀疏处理,但逐层设置稀疏率对用户的使用门槛较高,对于某一层,如何选择稀疏率(即配置中的prune\_ratio)是比较困难的,手工尝试的配置需要进行重训练,耗费时间多。针对上述问题,引入自动通道稀疏搜索特性,根据用户模型来计算各通道的稀疏敏感度(影响精度)以及稀疏收益(影响性能),然后搜索策略依据稀疏敏感度和稀疏收益来搜索最优的逐层通道稀疏率,以平衡精度和性能 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0066_html.md ## 搜索流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0067.html - Description: 介绍自动通道稀疏搜索特性的接口调用流程和调用示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0067_html.md ## 稀疏流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0068.html - Description: 本节介绍手工稀疏特性支持的稀疏层,接口调用流程和调用示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0069_html.md ## 稀疏流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0069.html - Description: 本节介绍手工稀疏特性支持的稀疏层,接口调用流程和调用示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0069_html.md ## 稀疏流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0071.html - Description: 本节介绍4选2结构化稀疏支持的层,接口调用流程和调用示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0072_html.md ## 稀疏流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0072.html - Description: 本节介绍4选2结构化稀疏支持的层,接口调用流程和调用示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0072_html.md ## CANN社区版-组合压缩是针对同一个网络模型 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0074.html - Description: 组合压缩是针对同一个网络模型,既进行量化又进行稀疏的操作,具体支持什么样的组合压缩方式,本章节给出详细介绍。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0075_html.md ## 逐层蒸馏 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0078.html - Description: 本节详细介绍逐层蒸馏支持的层,接口调用流程和示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0078_html.md ## CANN社区版-张量分解通过分解卷积核的张量 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0079.html - Description: 张量分解通过分解卷积核的张量,将一个卷积转化成两个小卷积的堆叠来降低推理开销,如用户模型中存在大量卷积,且卷积核shape普遍大于\(64, 64, 3, 3\)时推荐使用张量分解。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0080_html.md ## CANN社区版-张量分解通过分解卷积核的张量 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0080.html - Description: 张量分解通过分解卷积核的张量,将一个卷积转化成两个小卷积的堆叠来降低推理开销,如用户模型中存在大量卷积,且卷积核shape普遍大于\(64, 64, 3, 3\)时推荐使用张量分解。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0080_html.md ## 整体约束和接口列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0082.html - Description: - 若接口中存在需要用户输入文件路径的参数,请确保输入路径正确,AMCT不会对路径做安全校验。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0083_html.md ## CANN社区版-ModelEvaluator - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0084.html - Description: 针对某一个模型,根据模型的bin类型输入数据,提供一个Python实例,可对该模型执行校准和推理的评估器。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0085_html.md ## CANN社区版-quantize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0086.html - Description: 基于torch module的训练后量化接口,高精度模型转换为校准模型,得到量化校准模型,推理后计算得到量化参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0087_html.md ## CANN社区版-quantize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0087.html - Description: 基于torch module的训练后量化接口,高精度模型转换为校准模型,得到量化校准模型,推理后计算得到量化参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0087_html.md ## CANN社区版-convert - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0088.html - Description: 基于torch module的训练后量化接口,将量化校准模型转换为量化部署模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0088_html.md ## CANN社区版-algorithm\_register - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0089.html - Description: 将用户提供的自定义算法注册到AMCT工具。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0089_html.md ## CANN社区版-create\_quant\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0090.html - Description: 训练后量化接口,根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0092_html.md ## CANN社区版-create\_quant\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0092.html - Description: 训练后量化接口,根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0092_html.md ## CANN社区版-quantize\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0093.html - Description: 训练后量化接口,将输入的待量化的图结构按照给定的量化配置文件进行量化处理,在传入的图结构中插入权重量化、数据量化相关的算子,生成量化因子记录文件recordfile,返回修改后的torch.nn.Module校准模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0093_html.md ## CANN社区版-save\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0094.html - Description: 训练后量化接口,根据量化因子记录文件recordfile以及修改后的模型,插入AscendQuant、AscendDequant等算子,然后保存为可以在ONNX Runtime环境进行精度仿真的fakequant模型,和可以在AI处理器做推理的部署模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0094_html.md ## CANN社区版-accuracy\_based\_auto\_calibration - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0095.html - Description: 根据用户输入的模型、配置文件进行自动的校准过程,搜索得到一个满足目标精度的量化配置,输出可以在ONNX Runtime环境下做精度仿真的fakequant模型,和可在AI处理器上做推理的deploy模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0095_html.md ## CANN社区版-create\_quant\_retrain\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0097.html - Description: 量化感知训练接口,根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入配置文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0098_html.md ## CANN社区版-create\_quant\_retrain\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0098.html - Description: 量化感知训练接口,根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入配置文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0098_html.md ## CANN社区版-create\_quant\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0099.html - Description: 量化感知训练接口,将输入的待量化的图结构按照给定的量化配置文件进行量化处理,在传入的图结构中插入量化相关的算子(数据和权重的量化感知训练层以及找N的层),生成量化因子记录文件recordfile,返回修改后可用于量化感知训练的torch.nn.Module模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0099_html.md ## CANN社区版-restore\_quant\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0100.html - Description: 量化感知训练接口,将输入的待量化的图结构按照给定的量化感知训练配置文件进行量化处理,在传入的图结构中插入量化感知训练相关的算子(数据和权重的量化感知训练层以及找N的层),生成量化因子记录文件recordfile,加载训练过程中保存的checkpoint权重参数,返回修改后的torch.nn.Module量化感知训练模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0100_html.md ## CANN社区版-save\_quant\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0101.html - Description: 量化感知训练接口,根据用户最终的重训练好的模型,插入AscendQuant、AscendDequant等算子,生成最终量化精度仿真模型以及量化部署模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0101_html.md ## CANN社区版-Conv1dQAT - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0102.html - Description: 构造Conv1d的QAT算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0103_html.md ## CANN社区版-Conv1dQAT - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0103.html - Description: 构造Conv1d的QAT算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0103_html.md ## CANN社区版-Conv2dQAT - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0104.html - Description: 构造Conv2d的QAT算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0104_html.md ## CANN社区版-GRUQAT - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0108.html - Description: 构造GRU的QAT算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0108_html.md ## CANN社区版-LinearQAT - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0109.html - Description: 构造Linear的QAT算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0109_html.md ## CANN社区版-LSTMQAT - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0110.html - Description: 构造LSTM的QAT算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0110_html.md ## 量化配置参数说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0112.html - Description: **表1 retrain\_enable参数说明** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0112_html.md ## CANN社区版-create\_quant\_cali\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0114.html - Description: KV-cache量化接口,根据用户传入模型、量化层信息与量化配置信息,生成每个层的详细量化配置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0114_html.md ## CANN社区版-create\_quant\_cali\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0115.html - Description: KV-cache量化接口,根据模型和量化详细配置,对用户模型进行改图,将待量化Linear算子替换为输出后进行IFMR/HFMG量化的量化算子,后续用户拿到模型后进行在线校准,校准后生成量化因子保存在recordfile中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0115_html.md ## CANN社区版-QuantCalibrationOp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0116.html - Description: KV Cache量化接口,用于用户构图,在前向传播时,根据用户的量化算法配置调用IFMR/HFMG量化算法对输出做校准,校准后,将量化因子依据对应格式输出到recordfile文件指定层名中。 在进行前向传播时,算子对原始输出会做透传,不修改activation输入信息: - 若当前传入数据个数小于batchnum时,使用IFMR/HFMG算子中的积攒数据方法,将数据集进行保存。 - 若当前传入数 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0116_html.md ## CANN社区版-create\_prune\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0118.html - Description: 通道稀疏或4选2结构化稀疏接口,两种稀疏特性每次只能配置一个:将输入的待稀疏的图结构按照给定的稀疏配置文件进行稀疏处理,在传入的图结构中插入或者替换相关的算子,生成记录稀疏信息的recordfile,返回修改后可用于稀疏后训练的torch.nn.Module模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0118_html.md ## CANN社区版-restore\_prune\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0119.html - Description: 通道稀疏或4选2结构化稀疏接口,两种稀疏特性每次只能配置一个:将输入的待稀疏的图结构按照给定的recordfile中稀疏记录进行稀疏,返回修改后可用于稀疏后训练的torch.nn.Module模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0119_html.md ## CANN社区版-auto\_channel\_prune\_search - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0121.html - Description: 自动通道稀疏接口,根据用户模型来计算各通道的稀疏敏感度(影响精度)以及稀疏收益(影响性能),然后搜索策略依据该输入来搜索最优的逐层通道稀疏率,以平衡精度和性能。最终输出一个配置文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0122_html.md ## CANN社区版-auto\_channel\_prune\_search - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0122.html - Description: 自动通道稀疏接口,根据用户模型来计算各通道的稀疏敏感度(影响精度)以及稀疏收益(影响性能),然后搜索策略依据该输入来搜索最优的逐层通道稀疏率,以平衡精度和性能。最终输出一个配置文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0122_html.md ## CANN社区版-create\_compressed\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0123.html - Description: 静态组合压缩接口,将输入的待静态组合压缩的模型按照给定的组合压缩配置文件进行压缩处理,即将传入的模型先进行稀疏(通道稀疏或者4选2结构化稀疏,二选一),后对模型插入量化相关的算子(数据和权重的量化感知训练层以及searchN的层),生成稀疏和量化因子记录文件recordfile(如果配置存在),返回修改后的torch.nn.Module模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0124_html.md ## CANN社区版-create\_compressed\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0124.html - Description: 静态组合压缩接口,将输入的待静态组合压缩的模型按照给定的组合压缩配置文件进行压缩处理,即将传入的模型先进行稀疏(通道稀疏或者4选2结构化稀疏,二选一),后对模型插入量化相关的算子(数据和权重的量化感知训练层以及searchN的层),生成稀疏和量化因子记录文件recordfile(如果配置存在),返回修改后的torch.nn.Module模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0124_html.md ## CANN社区版-save\_compressed\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0126.html - Description: 静态组合压缩接口,根据用户最终的重训练好的模型,生成最终静态组合压缩精度仿真模型以及部署模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0126_html.md ## CANN社区版-create\_distill\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0127.html - Description: 蒸馏接口,根据图的结构找到所有可蒸馏量化的层和可蒸馏量化的结构,自动生成蒸馏量化配置文件,并将可蒸馏量化层的量化配置和蒸馏结构写入配置文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0128_html.md ## CANN社区版-create\_distill\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0128.html - Description: 蒸馏接口,根据图的结构找到所有可蒸馏量化的层和可蒸馏量化的结构,自动生成蒸馏量化配置文件,并将可蒸馏量化层的量化配置和蒸馏结构写入配置文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0128_html.md ## CANN社区版-distill - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0130.html - Description: 蒸馏接口,将输入的待蒸馏的图结构按照给定的蒸馏量化配置文件进行蒸馏处理,返回修改后的torch.nn.Module蒸馏模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0130_html.md ## CANN社区版-save\_distill\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0131.html - Description: 蒸馏接口,根据用户最终的蒸馏好的模型,生成最终量化精度仿真模型以及量化部署模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0131_html.md ## CANN社区版-auto\_decomposition - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0132.html - Description: 对用户输入的PyTorch模型对象进行张量分解,得到分解后的模型对象和分解前后层的对应名称,并保存分解信息文件(可选)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0133_html.md ## CANN社区版-auto\_decomposition - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0133.html - Description: 对用户输入的PyTorch模型对象进行张量分解,得到分解后的模型对象和分解前后层的对应名称,并保存分解信息文件(可选)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0133_html.md ## CANN社区版-decompose\_network - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0134.html - Description: 用户输入PyTorch模型对象和通过autodecomposition保存的分解信息文件,根据分解信息文件将模型对象改变为张量分解后的结构,得到分解后的模型对象和分解前后层的对应名称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0134_html.md ## 工具实现的融合功能 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0135.html - Description: 当前该工具主要实现的为Conv+BN融合:AMCT在量化前会对模型中的"torch.nn.Conv2d+torch.nn.BatchNorm2d"结构做Conv+BN融合,融合后的torch.nn.BatchNorm2d层会被删除。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0136_html.md ## 工具实现的融合功能 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0136.html - Description: 当前该工具主要实现的为Conv+BN融合:AMCT在量化前会对模型中的"torch.nn.Conv2d+torch.nn.BatchNorm2d"结构做Conv+BN融合,融合后的torch.nn.BatchNorm2d层会被删除。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0136_html.md ## 自动通道稀疏搜索简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0139.html - Description: 自动通道稀疏搜索的相关配置说明存在于basic\_info.proto文件中,该文件所在目录为:AMCT安装目录/amct\_pytorch/proto/basic\_info.proto。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0139_html.md ## 蒸馏简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0141.html - Description: distill\_config\_pytorch.proto文件参数说明如表1所示,该文件所在目录为:AMCT安装目录/amct\_pytorch/proto/distill\_config\_pytorch.proto。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0141_html.md ## CANN社区版-本章节详细介绍AMCT量化场景 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0144.html - Description: 本章节详细介绍AMCT量化场景,以及每个场景下的功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0145_html.md ## 基于精度的自动量化 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0146.html - Description: 基于精度的自动量化是为了方便用户在对量化精度有一定要求时所使用的功能。该方法能够在保证用户所需的模型精度前提下,自动搜索模型的量化配置并执行训练后量化的流程,最终生成满足精度要求的量化模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0147_html.md ## 基于性能的自动量化 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0148.html - Description: 基于性能的自动量化是为了方便用户获得性能最优的量化模型时所采用的功能。该功能能够在保证模型精度的前提下,根据原始模型、量化模型的上板性能数据进行自动量化,生成混合精度的模型,最终根据上述所有模型的上板性能数据,得到性能最优的模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0148_html.md ## 量化流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0149.html - Description: 本节详细介绍训练后量化支持的量化层,接口调用流程和示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0150_html.md ## 手工调优 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0151.html - Description: 执行训练后量化特性的精度如果不满足要求,可以尝试手动调整config.json文件中的参数,本节给出调整的原则,以及参数解释。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0151_html.md ## QAT模型适配CANN模型 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0153.html - Description: 如果用户已经使用ONNX原生的QuantizeLinear、DequantizeLinear算子实现量化功能(以下简称QAT模型),但是该模型无法使用ATC工具转成适配AI处理器的离线模型,则需要借助本节提供的功能,将该QAT模型适配成CANN量化模型格式。然后才能使用ATC工具,将CANN量化模型转成适配AI处理器的离线模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0153_html.md ## 量化数据均衡预处理 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0154.html - Description: 在一些数据分布不均匀的场景,由于离群值的影响,对数据进行per-tensor量化得到的结果误差较大,而per-channel量化可以获得更低的误差。但由于当前硬件不支持数据per-channel量化,仅支持权重per-channel量化;在该背景下AMCT设计出一套方法,本节将给出详细介绍。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0154_html.md ## 整体约束和接口列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0155.html - Description: - 若接口中存在需要用户输入文件路径的参数,请确保输入路径正确,AMCT不会对路径做安全校验。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0156_html.md ## 整体约束和接口列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0156.html - Description: - 若接口中存在需要用户输入文件路径的参数,请确保输入路径正确,AMCT不会对路径做安全校验。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0156_html.md ## CANN社区版-create\_quant\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0157.html - Description: 根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0158_html.md ## CANN社区版-create\_quant\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0158.html - Description: 根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0158_html.md ## CANN社区版-save\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0160.html - Description: 根据量化因子记录文件recordfile以及修改后的模型,调用该接口,插入AscendQuant、AscendDequant等算子,然后保存为可以在ONNX Runtime环境进行精度仿真的fakequant模型,和可以在AI处理器做推理的deploy模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0160_html.md ## CANN社区版-perf\_based\_auto\_calibration - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0162.html - Description: 根据用户输入的原始未量化模型、量化后的模型以及性能采样的配置文件,经过上板性能测试,搜索得到性能较优的混合精度的量化模型,并输出性能较优的混合精度量化模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0162_html.md ## CANN社区版-quantize\_preprocess - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0163.html - Description: 量化数据均衡预处理接口,将输入的待量化的图结构按照给定的量化配置文件进行训练后量化预处理,在传入的图结构中插入均衡量化算子,生成均衡量化因子记录文件recordfile,返回修改后的ONNX校准模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0163_html.md ## CANN社区版-convert\_qat\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0164.html - Description: 将ONNX量化模型适配为CANN支持的量化模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0165_html.md ## CANN社区版-convert\_qat\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0165.html - Description: 将ONNX量化模型适配为CANN支持的量化模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0165_html.md ## 训练后量化简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0168.html - Description: calibration\_config\_onnx.proto文件参数说明如表1所示,该文件所在目录为:AMCT安装目录/amct\_onnx/proto/calibration\_config\_onnx.proto。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0168_html.md ## CANN社区版-本章节详细介绍AMCT量化场景 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0171.html - Description: 本章节详细介绍AMCT量化场景,以及每个场景下的功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0173_html.md ## 基于精度的自动量化 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0174.html - Description: 基于精度的自动量化是为了方便用户在对量化精度有一定要求时所采用的方法。该功能能够在保证用户所需的模型精度前提下,自动搜索模型的量化配置并执行训练后量化的流程,最终生成满足精度要求的量化模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0176_html.md ## 基于精度的自动量化 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0176.html - Description: 基于精度的自动量化是为了方便用户在对量化精度有一定要求时所采用的方法。该功能能够在保证用户所需的模型精度前提下,自动搜索模型的量化配置并执行训练后量化的流程,最终生成满足精度要求的量化模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0176_html.md ## 量化流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0178.html - Description: 本节详细介绍训练后量化支持的量化层,接口调用流程和示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0179_html.md ## 量化流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0179.html - Description: 本节详细介绍训练后量化支持的量化层,接口调用流程和示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0179_html.md ## 手工调优 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0183.html - Description: 执行量化感知训练特性后的精度如果不满足要求,可以尝试手动调整config.json文件中的参数,本节给出调整的原则,以及参数解释。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0183_html.md ## CANN社区版-当前通道稀疏支持对不同的层做不同稀疏率的稀疏处理 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0184.html - Description: 当前通道稀疏支持对不同的层做不同稀疏率的稀疏处理,但逐层设置稀疏率对用户的使用门槛较高,对于某一层,如何选择稀疏率(即配置中的prune\_ratio)是比较困难的,手工尝试的配置需要进行重训练,耗费时间多。针对上述问题,引入自动通道稀疏搜索特性,根据用户模型来计算各通道的稀疏敏感度(影响精度)以及稀疏收益(影响性能),然后搜索策略依据稀疏敏感度和稀疏收益来搜索最优的逐层通道稀疏率,以平衡精度和性能 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0187_html.md ## CANN社区版-当前通道稀疏支持对不同的层做不同稀疏率的稀疏处理 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0186.html - Description: 当前通道稀疏支持对不同的层做不同稀疏率的稀疏处理,但逐层设置稀疏率对用户的使用门槛较高,对于某一层,如何选择稀疏率(即配置中的prune\_ratio)是比较困难的,手工尝试的配置需要进行重训练,耗费时间多。针对上述问题,引入自动通道稀疏搜索特性,根据用户模型来计算各通道的稀疏敏感度(影响精度)以及稀疏收益(影响性能),然后搜索策略依据稀疏敏感度和稀疏收益来搜索最优的逐层通道稀疏率,以平衡精度和性能 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0187_html.md ## CANN社区版-当前通道稀疏支持对不同的层做不同稀疏率的稀疏处理 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0187.html - Description: 当前通道稀疏支持对不同的层做不同稀疏率的稀疏处理,但逐层设置稀疏率对用户的使用门槛较高,对于某一层,如何选择稀疏率(即配置中的prune\_ratio)是比较困难的,手工尝试的配置需要进行重训练,耗费时间多。针对上述问题,引入自动通道稀疏搜索特性,根据用户模型来计算各通道的稀疏敏感度(影响精度)以及稀疏收益(影响性能),然后搜索策略依据稀疏敏感度和稀疏收益来搜索最优的逐层通道稀疏率,以平衡精度和性能 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0187_html.md ## 稀疏流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0189.html - Description: 本节介绍手工稀疏特性支持的稀疏层,接口调用流程和调用示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0190_html.md ## 稀疏流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0190.html - Description: 本节介绍手工稀疏特性支持的稀疏层,接口调用流程和调用示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0190_html.md ## 稀疏流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0192.html - Description: 本节介绍4选2结构化稀疏支持的层,接口调用流程和调用示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0193_html.md ## 稀疏流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0193.html - Description: 本节介绍4选2结构化稀疏支持的层,接口调用流程和调用示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0193_html.md ## 手工调优 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0194.html - Description: 稀疏后,如果精度不满足要求,可以参见本节提供的方法进行调优。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0194_html.md ## CANN社区版-组合压缩是针对同一个网络模型 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0195.html - Description: 组合压缩是针对同一个网络模型,既进行量化又进行稀疏的操作,具体支持什么样的组合压缩方式,本章节给出详细介绍。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0196_html.md ## 手工调优 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0198.html - Description: 组合压缩后,如果模型精度不满足要求,需要参见稀疏下的手工调优章节和量化感知训练下的手工调优章节分别进行调优。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0198_html.md ## 张量分解 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0199.html - Description: 张量分解通过分解卷积核的张量,将一个卷积转化成两个小卷积的堆叠来降低推理开销,如用户模型中存在大量卷积,且卷积核shape普遍大于\(64, 64, 3, 3\)时推荐使用张量分解。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0199_html.md ## QAT模型适配CANN模型 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0203.html - Description: 如果用户使用TensorFlow框架的原始模型已经做了量化功能(以下简称QAT模型),但是该模型无法使用ATC工具转成适配AI处理器的离线模型,需要借助本节提供的功能,将该QAT模型适配成CANN量化模型格式。然后才能使用ATC工具,将CANN量化模型转成适配AI处理器的离线模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0203_html.md ## CANN社区版-set\_logging\_level - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0208.html - Description: 设置信息输出的级别,其中信息包括打印在屏幕上的信息以及保存到amctlog/amcttensorflow.log文件中的信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0208_html.md ## CANN社区版-create\_quant\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0210.html - Description: 训练后量化接口,根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0211_html.md ## CANN社区版-create\_quant\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0211.html - Description: 训练后量化接口,根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0211_html.md ## CANN社区版-save\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0213.html - Description: 训练后量化接口,根据量化因子记录文件recordfile和用户待量化的原始pb模型,插入AscendQuant、AscendDequant等算子,然后保存为既可以在TensorFlow环境进行精度仿真又可以在AI处理器做离线推理的pb模型文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0213_html.md ## CANN社区版-accuracy\_based\_auto\_calibration - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0214.html - Description: 根据用户输入的模型、配置文件进行自动的校准过程,搜索得到一个满足目标精度的量化配置,输出既可以在TensorFlow环境下做精度仿真的fakequant模型又可在AI处理器上做推理的deploy模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0214_html.md ## CANN社区版-perf\_based\_auto\_calibration - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0215.html - Description: 根据用户输入的原始未量化模型、量化后的模型以及性能采样的配置文件,经过上板性能测试,搜索得到性能较优的混合精度的量化模型,输出既可以在TensorFlow环境下做精度仿真的fakequant模型又可在AI处理器上做推理的deploy模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0215_html.md ## CANN社区版-quantize\_preprocess - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0216.html - Description: 量化数据均衡预处理接口,将输入的待量化的图结构按照给定的量化配置文件进行量化预处理(当前仅支持均衡量化),在传入的图结构中插入均衡量化相关的算子,生成均衡因子记录文件recordfile,供后续quantizemodel阶段读取。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0216_html.md ## CANN社区版-create\_quant\_retrain\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0217.html - Description: 量化感知训练接口,根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入配置文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0218_html.md ## CANN社区版-create\_quant\_retrain\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0218.html - Description: 量化感知训练接口,根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入配置文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0218_html.md ## CANN社区版-save\_quant\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0220.html - Description: 量化感知训练接口,根据用户最终的重训练好的模型,插入AscendQuant、AscendDequant等算子,生成最终既可以进行精度仿真又可以进行部署的模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0220_html.md ## CANN社区版-create\_prune\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0221.html - Description: 通道稀疏或4选2结构化稀疏接口,两种稀疏特性每次只能配置一个。 - 通道稀疏场景:根据用户设置的稀疏配置文件对图结构进行稀疏处理,该函数在图结构中插入通道稀疏mask算子,达到推理时伪稀疏的效果。 - 4选2结构化稀疏:根据用户设置的稀疏配置文件对图结构进行稀疏处理,该函数在图结构中插入4选2结构化稀疏算子,达到推理时伪稀疏的效果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0222_html.md ## CANN社区版-create\_prune\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0222.html - Description: 通道稀疏或4选2结构化稀疏接口,两种稀疏特性每次只能配置一个。 - 通道稀疏场景:根据用户设置的稀疏配置文件对图结构进行稀疏处理,该函数在图结构中插入通道稀疏mask算子,达到推理时伪稀疏的效果。 - 4选2结构化稀疏:根据用户设置的稀疏配置文件对图结构进行稀疏处理,该函数在图结构中插入4选2结构化稀疏算子,达到推理时伪稀疏的效果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0222_html.md ## CANN社区版-create\_compressed\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0226.html - Description: 静态组合压缩接口,根据用户设置的压缩配置文件对图结构先进行稀疏(通道稀疏或者4选2结构化稀疏,二选一),后插入量化相关的算子,并返回修改后的图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0227_html.md ## CANN社区版-create\_compressed\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0227.html - Description: 静态组合压缩接口,根据用户设置的压缩配置文件对图结构先进行稀疏(通道稀疏或者4选2结构化稀疏,二选一),后插入量化相关的算子,并返回修改后的图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0227_html.md ## CANN社区版-auto\_decomposition - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0229.html - Description: 根据用户提供的TensorFlow模型文件,生成张量分解后的模型文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0230_html.md ## CANN社区版-decompose\_graph - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0231.html - Description: 分解训练代码中的图,用于对分解后的模型进行fine-tune(微调)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0231_html.md ## CANN社区版-convert\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0232.html - Description: 根据用户自己计算得到的量化因子以及TensorFlow模型,适配成既可以在AI处理器上部署的模型又可以在TensorFlow环境下进行精度仿真的量化模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0233_html.md ## 训练后量化简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0237.html - Description: calibration\_config\_tf.proto文件参数说明如表1所示,该文件所在目录为:AMCT安装目录/amct\_tensorflow/proto/calibration\_config\_tf.proto。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0237_html.md ## 量化感知训练简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0238.html - Description: retrain\_config\_tf.proto文件参数说明如表1所示,该文件所在目录为:AMCT安装目录/amct\_tensorflow/proto/retrain\_config\_tf.proto。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0238_html.md ## 性能采样配置文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0240.html - Description: sampler\_config\_tf.proto文件参数说明如下表所示,该文件所在目录为:AMCT安装目录/amct\_tensorflow/proto/sampler\_config\_tf.proto。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0240_html.md ## record记录文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0241.html - Description: record文件,为基于protobuf协议的序列化数据结构文件,记录量化场景量化因子scale/offset,稀疏场景各稀疏层间的级联关系等,通过该文件、压缩配置文件以及原始网络模型文件,生成压缩后的模型文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0241_html.md ## 源码包编译为whl包,以whl包形式安装AMCT - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0243.html - Description: 如果用户AMCT安装服务器缺少源码编译安装时的某些依赖,则用户可以将源码包编译为whl包,然后进行安装,方法如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0243_html.md ## CANN社区版-本章节详细介绍AMCT量化场景 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0244.html - Description: 本章节详细介绍AMCT量化场景,以及每个场景下的功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0246_html.md ## CANN社区版-本章节详细介绍AMCT量化场景 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0245.html - Description: 本章节详细介绍AMCT量化场景,以及每个场景下的功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0246_html.md ## CANN社区版-本章节详细介绍AMCT量化场景 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0246.html - Description: 本章节详细介绍AMCT量化场景,以及每个场景下的功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0246_html.md ## 基于精度的自动量化 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0247.html - Description: 基于精度的自动量化是为了方便用户在对量化精度有一定要求时所使用的功能。该方法能够在保证用户所需的模型精度前提下,自动搜索模型的量化配置并执行训练后量化的流程,最终生成满足精度要求的量化模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0248_html.md ## 基于精度的自动量化 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0248.html - Description: 基于精度的自动量化是为了方便用户在对量化精度有一定要求时所使用的功能。该方法能够在保证用户所需的模型精度前提下,自动搜索模型的量化配置并执行训练后量化的流程,最终生成满足精度要求的量化模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0248_html.md ## 量化流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0249.html - Description: 本节详细介绍训练后量化支持的量化层,接口调用流程和示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0250_html.md ## 量化流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0250.html - Description: 本节详细介绍训练后量化支持的量化层,接口调用流程和示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0250_html.md ## 量化流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0253.html - Description: 本节详细介绍量化感知训练支持的量化层,接口调用流程和示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0253_html.md ## 张量分解 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0255.html - Description: 张量分解通过分解卷积核的张量,将一个卷积转化成两个小卷积的堆叠来降低推理开销,如用户模型中存在大量卷积,且卷积核shape普遍大于\(64, 64, 3, 3\)时推荐使用张量分解。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0255_html.md ## 整体约束和接口列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0257.html - Description: - 若接口中存在需要用户输入文件路径的参数,请确保输入路径正确,AMCT不会对路径做安全校验。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0258_html.md ## CANN社区版-set\_gpu\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0259.html - Description: 调用该接口之后,AMCT执行权重量化的时候,会使用GPU进行加速。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0260_html.md ## CANN社区版-set\_cpu\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0261.html - Description: 调用该接口之后,AMCT执行权重量化的时候,使用CPU进行计算。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0261_html.md ## CANN社区版-create\_quant\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0262.html - Description: 训练后量化接口,根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入配置文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0263_html.md ## CANN社区版-create\_quant\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0263.html - Description: 训练后量化接口,根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入配置文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0263_html.md ## CANN社区版-init - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0264.html - Description: 训练后量化接口,用于初始化AMCT,记录存储量化因子的文件,解析用户模型为图结构graph,供quantizemodel和savemodel使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0264_html.md ## CANN社区版-save\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0266.html - Description: 训练后量化接口,根据修改后的图结构,插入AscendQuant、AscendDequant等算子,将模型保存为可以做推理的文件,支持保存为可在Caffe环境下做精度仿真的fakequant模型,和可在AI处理器上做推理的deploy模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0266_html.md ## CANN社区版-create\_quant\_retrain\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0268.html - Description: 量化感知训练接口,根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入配置文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0269_html.md ## CANN社区版-create\_quant\_retrain\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0269.html - Description: 量化感知训练接口,根据图的结构找到所有可量化的层,自动生成量化配置文件,并将可量化层的量化配置信息写入配置文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0269_html.md ## CANN社区版-save\_quant\_retrain\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0271.html - Description: 量化感知训练接口,根据用户最终的重训练好的模型,插入AscendQuant、AscendDequant等算子,生成最终fake quant仿真模型和deploy部署模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0271_html.md ## CANN社区版-convert\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0272.html - Description: 根据用户自己计算得到的量化因子以及Caffe模型,适配成可以在AI处理器上做在线推理的Deploy量化部署模型和可以在Caffe环境下进行精度仿真的Fakequant量化模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0273_html.md ## CANN社区版-convert\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0273.html - Description: 根据用户自己计算得到的量化因子以及Caffe模型,适配成可以在AI处理器上做在线推理的Deploy量化部署模型和可以在Caffe环境下进行精度仿真的Fakequant量化模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0273_html.md ## CANN社区版-auto\_decomposition - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0274.html - Description: 根据用户提供的Caffe原始模型(.prototxt和.caffemodel),生成张量分解后的模型文件以及权重文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0275_html.md ## proto合并原理 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0276.html - Description: 合并原理如图1所示,其中: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0277_html.md ## 工具实现的融合功能 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0278.html - Description: 当前该工具主要实现的是BN融合功能,分为如下几类(如下融合场景中涉及的单个算子,需要先满足量化场景下的约束条件): - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0278_html.md ## 训练后量化简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0279.html - Description: calibration\_config\_caffe.proto文件参数说明如表1所示,该文件所在目录为:AMCT安装目录/amct\_caffe/proto/calibration\_config\_caffe.proto。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0279_html.md ## 量化感知训练简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0280.html - Description: retrain\_config\_caffe.proto文件参数说明如表1所示,该文件所在目录为:AMCT安装目录/amct\_caffe/proto/retrain\_config\_caffe.proto。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0280_html.md ## CANN社区版-本章节详细介绍AMCT量化场景 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0282.html - Description: 本章节详细介绍AMCT量化场景,以及每个场景下的功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0284_html.md ## CANN社区版-本章节详细介绍AMCT量化场景 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0284.html - Description: 本章节详细介绍AMCT量化场景,以及每个场景下的功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0284_html.md ## 手工调优 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0286.html - Description: 执行完量化后,精度如果不满足要求,可以尝试手动调整config.json文件中的参数,本节给出调整的原则,以及参数解释。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0286_html.md ## 整体约束和接口列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0287.html - Description: - 若接口中存在需要用户输入文件路径的参数,请确保输入路径正确,AMCT不会对路径做安全校验。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0288_html.md ## 整体约束和接口列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0288.html - Description: - 若接口中存在需要用户输入文件路径的参数,请确保输入路径正确,AMCT不会对路径做安全校验。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0288_html.md ## CANN社区版-set\_logging\_level - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0289.html - Description: 设置信息输出的级别,其中信息包括打印在屏幕上的信息以及保存到amctlog/amcttensorflow.log文件中的信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0290_html.md ## CANN社区版-set\_logging\_level - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0290.html - Description: 设置信息输出的级别,其中信息包括打印在屏幕上的信息以及保存到amctlog/amcttensorflow.log文件中的信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0290_html.md ## --input\_shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0321.html - Description: 指定模型输入的shape,该shape需要与数据集处理后输入数据shape一致。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0321_html.md ## --batch\_num - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0322.html - Description: 训练后量化推理阶段的batch数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0322_html.md ## --calibration\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0323.html - Description: 训练后量化简易配置文件路径与文件名。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0323_html.md ## --data\_types - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0325.html - Description: \#\#\#\# 功能说明 输入数据的类型。 \#\#\#\# 关联参数 若未使用--evaluator参数,则该参数必填。 \#\#\#\# 参数取值 参数值:模型输入数据的类型。 参数值格式:"float32;float64"。 参数值约束:若模型有多个输入,且数据类型不同,则需要分别指定不同输入的数据类型,指定的输入数据类型必须按照输入节点顺序依次放在双引号中,所有的输入数据类型必须放在双引号中,中间使用英文分号分 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0325_html.md ## --feature - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0327.html - Description: 该参数仅适用于TensorFlow框架网络模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0327_html.md ## 样例列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0329.html - Description: **表1 Sample列表** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0329_html.md ## 压缩概念 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0330.html - Description: 本节给出模型压缩过程中用到的所有概念,并介绍了不同压缩方法的原理。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0331_html.md ## 压缩概念 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0331.html - Description: 本节给出模型压缩过程中用到的所有概念,并介绍了不同压缩方法的原理。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0331_html.md ## 量化算法原理 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0333.html - Description: 量化常用的算法有二值化、线性量化、对数量化,线性量化又可根据是否有offset细分为对称\(Symmetric\),非对称\(Asymmetric\)两种。AMCT与昇腾芯片配套的是采用线性量化方式,并将对称和非对称量化方式进行了归一,以INT8量化为例,其应用表达式为: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0333_html.md ## CANN社区版-ARQ - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0334.html - Description: ARQ (Adaptive Range Quantization)算法是对权重直接量化的算法。该算法提供了两种方式,channel\_wise(是否对每个channel采用不同的量化因子,以PyTorch框架为例,参数解释请参见表20)量化和非channel\_wise量化,量化原理图如下所示: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0335_html.md ## CANN社区版-ARQ - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0335.html - Description: ARQ (Adaptive Range Quantization)算法是对权重直接量化的算法。该算法提供了两种方式,channel\_wise(是否对每个channel采用不同的量化因子,以PyTorch框架为例,参数解释请参见表20)量化和非channel\_wise量化,量化原理图如下所示: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0335_html.md ## CANN社区版-AutoRound - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0337.html - Description: AutoRound可学习Rounding Offset,是面向LLM的轻量级训练后量化算法,核心是把“舍入编译V”做成可学习参数,并可联合调节min/max scale,让权重在低比特量化时选择更优的舍入方向。 算法详细说明请参见:Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs\(ht - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0337_html.md ## CANN社区版-GPTQ - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0339.html - Description: GPTQ(Generative Pre-trained Transformer Quantization)是一种针对大模型的仅权重训练后量化(PTQ)方法,核心思路是逐层贪心量化,通过数学优化最小化量化误差。针对每个量化算子,根据激活值计算海森矩阵,分块将权重进行微调,最小化量化误差,最终输出调整后的权重以及量化因子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0339_html.md ## CANN社区版-LAC - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0341.html - Description: LAC(Learnable Activation Clipping,可学习激活裁剪范围),是面向神经网络量化(尤其LLM)的可微激活范围优化技术,在可学习裁剪外加入通道缩放类结构变换,增强低比特W/A量化精度。算法详细介绍请参见:OmniQuant: Omnidirectionally Calibrated Quantization for Large Language Models\(https: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0342_html.md ## CANN社区版-LAC - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0342.html - Description: LAC(Learnable Activation Clipping,可学习激活裁剪范围),是面向神经网络量化(尤其LLM)的可微激活范围优化技术,在可学习裁剪外加入通道缩放类结构变换,增强低比特W/A量化精度。算法详细介绍请参见:OmniQuant: Omnidirectionally Calibrated Quantization for Large Language Models\(https: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0342_html.md ## Cast数据直转量化算法 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0343.html - Description: Cast是最简单的量化算法,无需校准数据,直接将高精度浮点数(Float16/BFloat16)转换为HiFloat8格式。转换流程为: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0344_html.md ## Cast数据直转量化算法 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0344.html - Description: Cast是最简单的量化算法,无需校准数据,直接将高精度浮点数(Float16/BFloat16)转换为HiFloat8格式。转换流程为: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0344_html.md ## HFMG数据量化算法 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0346.html - Description: 该算法用于训练后量化场景。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0346_html.md ## IFMR数据量化算法 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0347.html - Description: IFMR(Input Feature Map Reconstruction)算法在某个数据分布下,通过搜索的方式确定最佳量化方式。该算法用于训练后量化场景,量化原理图如下所示: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0347_html.md ## MIN-MAX量化算法 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0348.html - Description: 该算法是统计数据(activation)和权重(weight)中数据的最大值最小值,根据最大值和最小值,将数据缩放到量化位宽的边界值范围,然后根据量化公式计算出对应的缩放因子scale与偏移值offset。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0348_html.md ## CANN社区版-OmniQuant - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0349.html - Description: OmniQuant是面向LLM的轻量级、可微分训练后量化算法,核心是风格结构变换,学习通道缩放:在可学习裁剪外加入通道缩放类结构变换,增强低比特W/A量化精度。 算法详细介绍请参见:OmniQuant: Omnidirectionally Calibrated Quantization for Large Language Models\(https://link.gitcode.com/?targ - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0349_html.md ## OFMR算法 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0350.html - Description: OFMR(Output FeatureMap Reconstruct)算法在某个数据分布下,通过搜索的方式确定最佳量化因子。该算法用于训练后量化,量化原理图如下所示: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0350_html.md ## Quantile分位数量化算法 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0351.html - Description: Quantile算法考虑模型数值分布特征,通过分位数统计动态调整量化范围,避免极值点对量化精度的影响。该算法流程为: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0351_html.md ## SmoothQuant量化算法 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0352.html - Description: SmoothQuant是一种同时确保准确率且推理高效的训练后量化 \(PTQ\) 方法,由于权重很容易量化,而激活则较难量化,SmoothQuant通过引入平滑系数来平滑激活异常值,通过数学上等效的变换将量化难度从激活转移到权重上。一般来说,激活异常值越多,迁移强度越大。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0352_html.md ## ULQ数据量化算法 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0353.html - Description: 该算法用于量化感知训练场景。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0353_html.md ## 自动通道稀疏搜索算法 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0354.html - Description: 自动通道稀疏搜索默认采用的搜索算法为贪婪搜索算法,在给定模型计算量约束下,自动选择每一层可删除的、较为合适的通道(价值排序靠后的通道),降低通道稀疏对模型经过Fine-tune精度损失的影响。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0355_html.md ## 手工通道稀疏算法 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0356.html - Description: AMCT使用的通道稀疏算法为BalancedL2Norm,该算法通过计算权重各个filter(输出维度通道)的L2范数(各元素的平方和然后求平方根),对输出通道进行重要性排序并裁剪重要性较低的通道,即重要性低的通道优先被稀疏,原理下图所示: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0356_html.md ## 4选2结构化稀疏算法 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0357.html - Description: AMCT使用的4选2结构化稀疏算法为L1SelectivePruner,通过比较权重的l1值即绝对值来决定保留哪些权重,每4个连续的权重中保留l1值最大的2个权重。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0357_html.md ## 蒸馏算法 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0358.html - Description: 蒸馏量化的思想是将量化模型作为学生模型,原始模型作为教师模型,通过引导量化模型“模仿”浮点模型从而获得更好的精度结果。蒸馏量化,仅需要少量无标签数据集,即可以在较短的量化时间内达到较好的精度结果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0358_html.md ## 安装python3-tk时提示错误信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0359.html - Description: 安装python3-tk依赖时,提示如下错误提示信息: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0360_html.md ## 安装python3-tk时提示错误信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0360.html - Description: 安装python3-tk依赖时,提示如下错误提示信息: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0360_html.md ## 校准执行过程中提示“\[IFMR\]: Do layer xxx data calibration failed\!” - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0361.html - Description: 在调用PyTorch框架执行中间校准模型推理过程中,由于输入数据范围不合法,导致量化算法计算得到的scale不合理,从而校准过程失败,终止校准流程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0361_html.md ## 编译并安装自定义算子包时提示"AttributeError: module ‘onnxruntime’ has no attribute ‘SessionOption’"信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0362.html - Description: 安装AMCT过程中,编译并安装自定义算子包时,出现"AttributeError: module 'onnxruntime' has no attribute 'SessionOption' "错误,编译过程中止,AMCT无法使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0362_html.md ## 校准过程中提示"IFMR node. Name:'layer\_ifmr\_op' Status Message: std::bad\_alloc"信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0363.html - Description: 训练后量化校准过程中,对某层进行量化,提示内存错误"IFMR node. Name:'layer\_ifmr\_op' Status Message: std::bad\_alloc "。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0363_html.md ## 校准过程中出现"killed"信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0364.html - Description: 校准过程中,出现“killed”信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0364_html.md ## QDQ格式模型推理过程中出现ONNXRuntimeError报错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0365.html - Description: QDQ(Quantize and DeQuantize)格式模型,比如从TensorFlow转换或从PyTorch导出的量化感知训练(QAT)模型,在ONNX Runtime1.8.0及以上的CPU版本环境下推理,出现类似下图的ONNXRuntimeError报错。(QDQ格式模型具体介绍请参见Link\(https://onnxruntime.ai/docs/performance/quantiz - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0365_html.md ## 校准执行过程中提示“\[IfmrQuantWithoutOffset\]scale is illegal” - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0366.html - Description: 在调用ONNX Runtime框架执行中间校准模型推理过程中,由于输入数据范围不合法,导致量化算法计算得到的scale不合理,从而校准过程失败,终止校准流程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0366_html.md ## 量化校准过程中因数据量过大导致报错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0367.html - Description: - 场景1:积攒数据的size过大溢出 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0367_html.md ## IFMR数据量化时,存在"inf或NaN值"或"xxx calculate scale failed",量化过程报错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0368.html - Description: 在调用TensorFlow框架执行中间校准模型推理过程中,由于输入数据范围不合法,导致量化算法计算得到的scale不合理,从而校准过程失败,终止校准流程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0368_html.md ## 量化过程中提示某层bias量化超出int32范围 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0369.html - Description: 量化过程中提示某层bias量化超出int32范围,提示信息如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0369_html.md ## 校准时提示“Invalid argument: You must feed a value for placeholder tensor **” - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0370.html - Description: 训练后量化场景,修改模型后执行校准过程时,使用原始模型的输入输出做推理,报错提示必须给一个占位符输入数据,校准过程中断。提示信息如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0370_html.md ## 使用训练后量化进行量化时,量化过程存在空tensor输入报错信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0372.html - Description: 执行训练后量化时,存在空tensor输入报错信息,详细报错信息如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0372_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0373.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 使用命令行方式安装Caffe环境失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0374.html - Description: 使用命令行方式安装Caffe环境时,提示类似"/usr/bin/python3.7: can't open file '/usr/lib/python3.7/py\_compile.py': \[Error 2\] No such file or directory"信息,导致Caffe环境安装失败。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0374_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0376.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 校准执行过程中提示"IfmrQuantCalibration with offset scale is illegal"或"IfmrQuantCalibration without offset sc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0377.html - Description: 在调用Caffe框架执行中间校准模型推理过程中,由于输入数据范围不合法,导致量化算法计算得到的scale不合理,从而校准过程失败,终止Caffe校准流程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0377_html.md ## 量化执行过程中提示“Check scale and offset record file record.txt failed” - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0378.html - Description: 量化过程中调用save\_model接口保存量化模型时,需要读取calibration阶段计算得到的数据量化参数scale\_d,offset\_d,如果未能在相应的记录文件中找到对应参数,则无法进行后续量化模型保存动作。因此AMCT会抛出上述错误,并终止流程。现象如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0378_html.md ## CANN社区版-AMCT\_LOG\_DUMP - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0382.html - Description: 控制训练后量化过程中日志落盘等信息的环境变量。该环境变量仅适用于调用aclgrphCalibration接口进行的量化。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0383_html.md ## CANN社区版-AMCT\_LOG\_DUMP - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0383.html - Description: 控制训练后量化过程中日志落盘等信息的环境变量。该环境变量仅适用于调用aclgrphCalibration接口进行的量化。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0383_html.md ## CANN社区版-AMCT\_LOG\_LEVEL - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0385.html - Description: 控制屏幕输出的信息级别。该环境变量仅适用于PyTorch框架、Caffe框架、ONNX网络模型的量化。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0385_html.md ## 安装Python3.9.2(EulerOS ) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0387.html - Description: 1. 检查系统是否安装满足版本要求的Python开发环境(具体要求请参见系统要求和环境检查,该章节以环境上需要使用Python 3.9.2为例进行说明)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0387_html.md ## 查询软件包版本号 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0389.html - Description: 进入要查询的软件包安装路径(root用户默认路径/usr/local/Ascend/,非root用户默认路径$HOME/Ascend/),执行如下命令查看所安装软件包版本是否正确。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0389_html.md ## 软件包更新 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0390.html - Description: NCA软件包支持覆盖安装,或使用升级命令更新,覆盖安装或升级过程中都会卸载老版本,然后安装新版本。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0390_html.md ## 软件包卸载 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0391.html - Description: 支持两种卸载方式,用户根据实际情况选择其中一个方式卸载即可: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0391_html.md ## 源码包编译为whl包,以whl包形式安装AMCT - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0394.html - Description: 如果用户AMCT安装服务器缺少源码编译安装时的某些依赖,则用户可以将源码包编译为whl包,然后进行安装,方法如下,如下步骤以编译并安装AMCT(TensorFlow)为例进行说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0394_html.md ## 插入量化算子后,如何恢复模型训练参数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0396.html - Description: 用户调用quantize\_model接口在传入的图中插入量化相关的变量op列表(quant\_add\_ops),该列表中的变量值无法在模型训练参数文件中找到,故模型训练参数直接恢复会出现变量无法找到的错误,因此需要在模型参数恢复之前,将quant\_add\_ops列表中的变量值从恢复列表中剔除,具体的剔除方法如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0396_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0397.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0398.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0401.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0411.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0412.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0414.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0416.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0417.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0418.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0420.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0421.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0423.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0428.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0429.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0430.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0435.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0437.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0438.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0439.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0440.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0441.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0442.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0443.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0444.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0446.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0447.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0448.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/amct/atlasamct_16_0449.html - Description: 本节给出AMCT(Ascend Model Compression Toolkit,简称AMCT)的概念以及优势、文档的使用对象,并给出不同框架下AMCT的差异,用户根据场景选择不同框架进行模型压缩。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_amct_atlasamct_16_0001_html.md ## CANN社区版-概览 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe - Description: | 手册 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_auxiliarydevtool_aoe_0001_html.md ## AOE简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_001.html - Description: 本节介绍AOE相关概念、架构和调优流程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_001_html.md ## 调优流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_020.html - Description: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 场景下,不支持离线推理场景下调优。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_020_html.md ## 快速入门 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_021.html - Description: 本章节介绍各框架下模型如何快速进行AOE调优。如下以算子调优为例,如果需要进行子图调优,请将命令中的job\_type取值修改为1即可。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_021_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_022.html - Description: 1. 请参考《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/softwareinst/instg/instg\_0000.html\)》完成驱动、固件以及CANN Toolkit开发套件包和ops算子包的安装,部署开发环境和运行环境。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_022_html.md ## 配置环境变量 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_023.html - Description: 使用AOE调优前,请先使用export命令在当前终端下声明环境变量。该方式在关闭Shell终端后失效。用户也可将设置环境变量的命令写入自定义脚本,方便后续执行。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_023_html.md ## 执行调优 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_024.html - Description: 本节介绍离线推理场景下调优的命令示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_024_html.md ## 查看调优结果 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_025.html - Description: 本节介绍调优完成后,如何查看调优结果,包括屏幕打印信息和生成的自定义知识库、om模型、算子调优结果文件和子图调优结果文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_025_html.md ## 性能验证 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_026.html - Description: 调优完成后,请使用调优后的自定义知识库(如何使用请参见如何使用调优后的自定义知识库)重新推理,验证性能是否提高。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_026_html.md ## 调优流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_028.html - Description: - 支持的TensorFlow版本包括1.15和2.6.5。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_028_html.md ## 快速入门 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_029.html - Description: 本章节介绍TensorFlow训练场景下,如何快速进行AOE调优。如下以算子调优为例,如果需要进行子图调优,请在配置环境变量时,将AOE\_MODE修改为1即可。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_029_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_030.html - Description: 1. 请参考《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/softwareinst/instg/instg\_0000.html\)》完成驱动、固件以及CANN Toolkit开发套件包和ops算子包的安装,部署开发环境和运行环境。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_030_html.md ## 子图/算子调优 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_031.html - Description: 本节介绍TensorFlow训练场景下,如何进行子图/算子调优,包括调优前须知、配置环境变量、调优命令、查看调优结果、性能验证。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_031_html.md ## 梯度切分调优 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_032.html - Description: 本节介绍TensorFlow训练场景下,如何进行梯度调优,包括调优前须知、配置环境变量、调优命令和注意事项。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_032_html.md ## 调优流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_040.html - Description: 该调测入口支持的形态如下。- Atlas 训练系列产品 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_040_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_042.html - Description: 1. 请参考《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/softwareinst/instg/instg\_0000.html\)》完成驱动、固件以及CANN Toolkit开发套件包和ops算子包的安装,部署开发环境和运行环境。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_042_html.md ## 算子调优 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_043.html - Description: 本节介绍PyTorch训练场景下,如何进行算子调优,包括调优前须知、dump算子图、配置环境变量和调优命令。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_043_html.md ## 查看调优结果 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_044.html - Description: 执行调优结果如下所示,代表调优完成。调优后的自定义知识库请参见自定义知识库,调优结果文件请参见算子调优结果文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_044_html.md ## 性能验证 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_045.html - Description: 调优完成后,请还原代码,并刷新算子编译缓存,即将ACL\_OP\_COMPILER\_CACHE\_MODE设置为force,使用方法示例如下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_045_html.md ## TensorFlow在线推理场景下调优 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_059.html - Description: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 场景下,不支持在线推理场景下调优。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_059_html.md ## PyTorch在线推理场景下调优 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_060.html - Description: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 场景下,不支持在线推理场景下调优。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_060_html.md ## 调优流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_062.html - Description: 通过AOE进行调优步骤如图1所示。调优步骤中具体操作请参考表1。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_062_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_063.html - Description: 1. 请参考《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/softwareinst/instg/instg\_0000.html\)》完成驱动、固件以及CANN Toolkit开发套件包和ops算子包的安装,部署开发环境和运行环境。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_063_html.md ## 配置环境变量 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_064.html - Description: 使用AOE调优前,请先使用export命令在当前终端下声明环境变量。该方式在关闭Shell终端后失效。用户也可将设置环境变量的命令写入自定义脚本,方便后续执行。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_064_html.md ## 执行调优 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_065.html - Description: - 已经完成IR构图,具体开发过程请参见《图开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/graphdevg/atlasag\_25\_0081.html\)》。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_065_html.md ## 查看调优结果 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_066.html - Description: 本节介绍调优完成后,如何查看调优结果,包括屏幕打印信息和生成的自定义知识库、om模型、算子调优结果文件和子图调优结果文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_066_html.md ## 性能验证 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeep_16_067.html - Description: 调优完成后,请使用调优后的自定义知识库(如何使用请参见如何使用调优后的自定义知识库)编译并运行Graph,验证性能是否提高。此过程中如果调用aclgrphBuildModel接口,请刷新算子编译缓存,即将OP\_COMPILER\_CACHE\_MODE设置为force(详见《图开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdi - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeep_16_067_html.md ## 参数概览 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_001.html - Description: 本节介绍AOE调优引擎使用到的命令行参数。参数和参数取值之间可以是“\=”,也可以是空格,本章节统一以“\=”为例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_001_html.md ## --help或-h - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_003.html - Description: 显示帮助信息。 无。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_003_html.md ## --model或-m - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_004.html - Description: 原始模型文件路径与文件名。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_004_html.md ## --model\_path - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_005.html - Description: 原始模型文件路径,该路径下可以存放多个模型文件。PyTorch训练的调优场景,模型文件指的是dump出来的算子图,dump操作请参考dump算子图。 调优时,可以对该路径下的模型文件进行批量调优。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_005_html.md ## --weight或-w - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_006.html - Description: 原始模型权重文件路径与文件名。 当原始模型是Caffe时需要指定。 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 不支持Caffe框架。 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 不支持Caffe框架。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_006_html.md ## --job\_type或-j - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_007.html - Description: 调优模式。 支持子图调优和算子调优。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_007_html.md ## --framework或-f - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_008.html - Description: 原始网络模型的框架类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_008_html.md ## --input\_format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_009.html - Description: 指定模型输入数据的格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_009_html.md ## --input\_shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_010.html - Description: 指定模型输入数据的shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_010_html.md ## --dynamic\_batch\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_011.html - Description: 设置动态Batch档位参数,适用于执行推理时,每次处理图片数量不固定的场景。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_011_html.md ## --dynamic\_image\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_012.html - Description: 设置输入图片的动态分辨率参数。适用于执行推理时,每次处理图片宽和高不固定的场景。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_012_html.md ## --dynamic\_dims - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_013.html - Description: 设置ND格式下动态维度的档位。适用于执行推理时,每次处理任意维度的场景。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_013_html.md ## --ip - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_014.html - Description: NCS所在服务器的IP。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_014_html.md ## --port - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_015.html - Description: NCS所在服务器的端口号。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_015_html.md ## --reload - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_016.html - Description: 子图调优中断后重载。当前次流程被中断后,希望从上次的已有的调优阶段开始继续调优,使用--reload进入重载模式。 使用该参数的命令必须在上次执行调优命令的相同目录下使用。原因是重载调优需要使用上次调优的中间文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_016_html.md ## --device - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_017.html - Description: 用于指定调优在运行环境上运行时使用的device。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_017_html.md ## --progress\_bar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_018.html - Description: 用于开启或关闭调优时进度显示功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_018_html.md ## --singleop - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_019.html - Description: 通过配置算子描述文件,对指定的算子(一个或者多个)进行调优。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_019_html.md ## --output - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_020.html - Description: 调优后模型的存放路径以及文件名,例如:$\{HOME\}/test/out/tfresnet50,转换后的模型文件名以指定的为准,以.om后缀结尾,例如:tfresnet50.om或tfresnet50linuxx8664.om,若om文件名中包含操作系统及架构,则该om文件只能在该操作系统及架构的运行环境中使用。如果想要在其他操作系统及架构的运行环境使用,请使用ATC重新转换模型(需要带"--hos - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_020_html.md ## --output\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_021.html - Description: 指定网络输出数据类型或指定某个输出节点的输出类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_021_html.md ## --host\_env\_os - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_022.html - Description: 若模型编译环境的操作系统及其架构与模型运行环境不一致时,则需使用本参数设置模型运行环境的操作系统类型。 如果不设置,则默认取模型编译环境的操作系统类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_022_html.md ## --host\_env\_cpu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_023.html - Description: 若模型编译环境的操作系统及其架构与模型运行环境不一致时,则需使用本参数设置模型运行环境的操作系统架构。 如果不设置,则默认取模型编译环境的操作系统架构。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_023_html.md ## --aicore\_num - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_024.html - Description: 用于设置模型编译时使用的aicore数量。 当前版本该参数预留,不建议配置;如需配置,则只能配置为默认值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_024_html.md ## --virtual\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_025.html - Description: 是否支持AOE调优在昇腾虚拟化实例生成的虚拟设备上运行。 昇腾虚拟化实例是当前芯片算力比较大,云端用户或者小企业完全不需要使用这么大算力,而支持对芯片的算力进行切分,可满足用户按照自己的业务按需申请算力的诉求。 虚拟设备是按照指定算力在芯片上申请的虚拟加速资源。 该参数不支持SGAT调优。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_025_html.md ## --out\_nodes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_027.html - Description: 指定输出节点。 如果不指定输出节点(算子名称),则模型的输出默认为最后一层的算子信息。如果指定,则以指定的为准。 某些情况下,用户想要查看某层算子参数是否合适,则需要将该层算子的参数输出,就可以在调优时通过该参数指定输出某层算子,调优后,在相应.om模型文件最后即可以看到指定输出算子的参数信息,如果通过.om模型文件无法查看,则可以将.om模型文件转换成json格式后查看。关于.om转json格式 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_027_html.md ## --input\_fp16\_nodes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_028.html - Description: 指定输入数据类型为FP16的输入节点名称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_028_html.md ## --insert\_op\_conf - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_029.html - Description: 插入算子的配置文件路径与文件名,例如AIPP预处理算子。 使用该参数后,输入数据类型为UINT8。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_029_html.md ## --op\_name\_map - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_030.html - Description: 扩展算子(非标准算子)映射配置文件路径和文件名,不同的网络中某扩展算子的功能不同,可以指定该扩展算子到具体网络中,而实际运行的是扩展算子的映射。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_030_html.md ## --is\_input\_adjust\_hw\_layout - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_031.html - Description: 用于指定网络输入数据类型是否为FP16,数据格式是否为NC1HWC0。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_031_html.md ## --is\_output\_adjust\_hw\_layout - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_032.html - Description: 用于指定网络输出的数据类型是否为FP16,数据格式是否为NC1HWC0。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_032_html.md ## --disable\_reuse\_memory - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_033.html - Description: 内存复用开关。 无。 参数值: - 1:关闭内存复用。 - 0:开启内存复用。 参数默认值:0 参数值约束:如果网络模型较大,关闭内存复用开关,调优时可能会造成内存不足,导致调优失败。 无。 在内存复用场景下(默认开启内存复用),支持基于指定算子(节点名称/算子类型)单独分配内存。通过OPNOREUSEMEM环境变量指定要单独分配的一个或多个节点, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_033_html.md ## --fusion\_switch\_file - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_034.html - Description: 融合规则(包括图融合和UB融合)开关配置文件路径以及文件名,通过该参数关闭配置文件中指定的融合规则。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_034_html.md ## --enable\_scope\_fusion\_passes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_035.html - Description: 指定编译时需要生效的Scope融合规则列表。 无论是内置还是用户自定义的Scope融合规则,都分为如下两类: - 通用融合规则(General):各网络通用的Scope融合规则;默认生效,不支持用户指定失效。 - 定制化融合规则(Non-General):特定网络适用的Scope融合规则;默认不生效,用户可以通过“--enablescopefusionpasses”指定生效的融合规则列表。 当前支 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_035_html.md ## --enable\_single\_stream - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_036.html - Description: 静态shape场景下,是否开启模型推理顺序单流串行执行。 其中,流(Stream)用于维护一些异步操作的执行顺序,确保按照应用程序中的代码调用顺序在Device上执行。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_036_html.md ## --enable\_small\_channel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_037.html - Description: 是否开启small channel的优化,开启后在channel<\=4的卷积层会有性能收益。 建议用户在推理场景下打开此开关。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_037_html.md ## --compress\_weight\_conf - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_039.html - Description: 要压缩的node节点列表配置文件路径以及文件名。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_039_html.md ## --compression\_optimize\_conf - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_040.html - Description: 压缩优化功能配置文件路径以及文件名,通过该参数开启配置文件中指定的压缩优化特性,从而提升网络性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_040_html.md ## --buffer\_optimize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_041.html - Description: 是否开启数据缓存优化功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_041_html.md ## --precision\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_042.html - Description: 设置网络模型的精度模式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_042_html.md ## --op\_select\_implmode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_043.html - Description: 选择算子是高精度实现还是高性能实现。 高精度是指在fp16输入的情况下,通过泰勒展开/牛顿迭代等手段进一步提升算子的精度;高性能是指在fp16输入的情况下,不影响网络精度前提的最优性能实现。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_043_html.md ## --optypelist\_for\_implmode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_044.html - Description: 设置optype列表中算子的实现方式,该参数当前仅支持设置某个具体算子的实现方式,不支持设置多个算子。当前仅支持配置的算子为Pooling、SoftmaxV2、LRN、ROIAlign。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_044_html.md ## --op\_debug\_level - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_045.html - Description: TBE算子编译debug功能开关。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_045_html.md ## --log - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_046.html - Description: 设置调优过程中日志的级别。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_046_html.md ## --tune\_ops\_file - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_047.html - Description: 通过配置文件指定算子名称或者算子类型,对指定的算子进行调优。支持指定的算子范围请参见算子列表。对于不在算子列表范围内的算子,不支持调优。该参数使用的场景举例如下: 在对AOE调优后生成的om模型(或者ATC转换后生成的om模型)进行Profiling性能分析后,可通过此参数指定对某个性能较低的算子进行调优。 指定的算子名称或者算子类型必须配置为经过AOE调优后生成的om模型中的OP Name/OP - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_047_html.md ## --op\_precision\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_048.html - Description: 设置具体某个算子的精度模式,通过该参数可以为多个算子设置不同的精度模式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_048_html.md ## --modify\_mixlist - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_049.html - Description: 混合精度场景下,修改算子使用混合精度名单,该文件包括黑名单,白名单和灰名单: - 白名单:表示混合精度模式下,允许将当前float32类型的算子,降低精度到float16。 - 黑名单:表示混合精度模式下,不允许将当前float32类型的算子降低精度到float16,相应算子仍旧使用float32精度。 - 灰名单:表示混合精度模式下,当前算子的混合精度处理机制和前一个算子保持一致,即如果前一个算 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_049_html.md ## --keep\_dtype - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_050.html - Description: 在原始网络模型编译时,保持个别算子的计算精度不变。 推理场景下,使用--precisionmode参数设置整个网络模型的精度模式,可能会有个别算子存在性能或精度问题,为此引入--keepdtype参数,保持原始网络模型编译时个别算子的计算精度不变,具体算子可以通过该参数指定的文件进行配置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_050_html.md ## --customize\_dtypes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_051.html - Description: 模型编译时自定义某个或某些算子的计算精度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_051_html.md ## --tune\_optimization\_level - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_052.html - Description: 调优模式,通过该参数可配置不同模式调优,包括高性能模式和正常模式。 想要尝试获取更高性能的情况下,可以使用该参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_052_html.md ## --Fdeeper\_opat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_053.html - Description: 算子深度调优。想要尝试获取更高性能的情况下,可以使用该参数。 该模式下调优耗时会增长数倍,且无法保证一定能拿到极致性能收益。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_053_html.md ## --Fnonhomo\_split - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_054.html - Description: 子图非均匀切分调优。当模型输入的batch为奇数时,或者AI Core的核数与batch不成因子或倍数关系时,建议使用该参数,尝试获得更好的性能。 示例:假设batch为7,在均匀切分功能下,只能选择不切或者切成7份;而在非均匀切分下有更多切分的选择,可以切成非因子的份数,例如4+3。 Atlas 训练系列产品 场景下,不支持该参数。 Atlas A2 训练系列产品 / Atlas A2 推理系列 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_054_html.md ## --Fop\_format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_055.html - Description: 算子format调优。当算子支持多种format时,如果调优过程中携带了该参数,AOE会将该算子支持的多种format调优策略与默认的format调优策略比较,如果优于默认的format调优策略,则将最优的format调优策略写入知识库。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_055_html.md ## --sparsity - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_056.html - Description: Atlas 推理系列产品 场景下,不支持该参数。 Atlas 训练系列产品 场景下,不支持该参数。 开启全局稀疏特性。 AMCT(简称AMCT)4选2结构化稀疏后输出的模型,可能存在weight连续4个Cin维度元素中至少有2个为0的场景,模型转换时通过打开全局稀疏开关,将该场景下的元素筛选成2个,从而节省后续推理的计算量,提高推理性能。其原理如下: weight中每4个连续的元素,会生成两组2b - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_056_html.md ## --op\_tune\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_057.html - Description: 有些大模型场景,部分二进制kernel替换成静态kernel后,性能更优。基于该背景,AOE新增了该参数支持静态kernel调优功能,根据输入的算子信息json文件,生成调优后的kernel,并保存到指定目录。 当前该功能支持如下型号: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_057_html.md ## --op\_tune\_file - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_058.html - Description: 静态Kernel调优模式下,需要预先dump算子json文件,该参数用于指定算子json文件的存放路径。 dump算子json文件的具体操作请参考aclopStartDumpArgs和aclopStopDumpArgs接口。 当前该功能支持如下型号: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_058_html.md ## --op\_tune\_kernel\_path - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_059.html - Description: 静态kernel调优后,AOE产生静态kernel。该参数用于用户指定静态kernel的存放路径。 当前该功能支持如下型号: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_059_html.md ## --soc\_version - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_060.html - Description: 当--optunemode\=fast,并且执行aoe命令的环境没有device时,需要通过--socversion指定AI处理器的型号。 当前该功能支持如下型号: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_060_html.md ## --init\_bypass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_063.html - Description: 对于AOE调优框架和调优业务不感知的编译参数,可以通过“--initbypass”在模型构建初始化阶段透传,具体透传的参数请参考“options参数说明\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/API/ascendgraphapi/cpp/ge/optionsparams/overallco - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_063_html.md ## --build\_bypass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_064.html - Description: 对于AOE调优框架和调优业务不感知的编译参数,可以通过“--buildbypass”在模型编译阶段透传,具体透传的参数请参考“options参数说明\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/API/ascendgraphapi/cpp/ge/optionsparams/overallcons - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_064_html.md ## 知识库合并 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_066.html - Description: AOE工具提供了自定义知识库合并的功能,支持将不同路径下的自定义知识库进行合并,并将其中优于内置知识库中的调优策略存入目标路径中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_066_html.md ## 如何使用调优后的自定义知识库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_067.html - Description: 知识库是用户的资产,请用户妥善保管,建议归档到用户的存储介质。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_067_html.md ## 日志查看 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_068.html - Description: 调优引擎主进程的日志存放在:$\{HOME\}/ascend/log/debug/plog/plog-pid\_*.log,如果要查看error信息,可以在该日志中使用grep ERROR进行查找。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_068_html.md ## 配置文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_071.html - Description: - 配置文件路径:$\{install\_path\}/cann/conf。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_071_html.md ## 算子列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_072.html - Description: AOE工具当前版本仅支持使用DSL接口实现计算逻辑的AI Core算子的调优,本章节介绍支持的算子列表。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_072_html.md ## 通过修改训练脚本配置调优模式(TensorFlow 1.15) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_074.html - Description: 除了通过AOE\_MODE环境变量配置调优模式之外,还可以通过修改训练脚本方式,配置调优模式。同时配置的情况下,通过修改训练脚本方式优先生效。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_074_html.md ## 通过修改训练脚本配置调优模式(TensorFlow 2.6) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_075.html - Description: - 除了通过AOE\_MODE环境变量配置调优模式之外,还可以通过修改训练脚本方式,配置调优模式。同时配置的情况下,通过修改训练脚本方式优先生效。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_075_html.md ## 支持量化的层及约束 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_076.html - Description: 本章节给出不同框架可量化的层以及相关约束。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_076_html.md ## 量化简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_077.html - Description: 如果要自动控制量化过程,例如控制哪些层是否量化、控制使用什么量化算法,则可以通过本章节构造的cfg配置文件实现。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_077_html.md ## 如何处理调优过程中"Out of memory"问题引起的进程异常退出 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_079.html - Description: 在调优过程中,可能会出现如下类似报错。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_079_html.md ## 知识库调优生成,但是无法命中 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_080.html - Description: AOE调优工具完成调优,生成了知识库,但是无法命中调优生成的知识库。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_080_html.md ## 系统报错"there is an aicore error" - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_081.html - Description: 调优工具主进程日志中出现如下"there is an aicore error"的打印信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_081_html.md ## 如何处理残留进程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_083.html - Description: 当配套的Python版本是Python3.8.x(3.8.0~3.8.11)或者Python3.9.x(3.9.0~3.9.7)时,AOE调优过程中可能会存在进程残留(例如:调优过程中Ctrl + C会出现进程残留),该情况不影响正常的调优流程,也不影响正常的调优性能。残留进程可以通过kill命令进行清理。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_083_html.md ## 如何处理内存不足 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_084.html - Description: TensorFlow训练场景下调优时,可能会出现如下类似报错。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_084_html.md ## 如何确定原始框架网络模型中的算子与AI处理器支持的算子的对应关系 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoepar_16_086.html - Description: 用户使用精度比对工具或者性能比对工具进行算子精度或者性能分析时,若发现某些算子精度或者性能有问题,可能会考虑使用ATC工具中的某些参数调整算子的计算精度后,重新进行模型转换然后推理,比如通过--modify\_mixlist参数将有问题的算子配置为黑名单等,该场景下,ATC中的参数要求配置的必须为基于Ascend IR定义的算子的OpType。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoepar_16_086_html.md ## CANN社区版-本节介绍AOE相关概念、架构和调优流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0002.html - Description: 本节介绍AOE相关概念、架构和调优流程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0002_html.md ## 调优流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0003.html - Description: 推荐先进行子图调优,再进行算子调优。原因是:先进行子图调优会生成图的切分方式,子图调优后算子已经被切分成最终的shape了,再进行算子调优,会基于这个最终shape去做算子调优。如果优先算子调优,这时调优的算子shape不是最终切分后的算子shape,不符合实际使用场景。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0003_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0008.html - Description: AOE工具运行依赖AI处理器,当前调优入口支持开发者使用其他独立机器为开发环境,使用AI处理器所在硬件设备为运行环境。使用NCS工具远程连接开发环境和运行环境,并在开发环境上使用AOE工具对AI处理器进行远程调试。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0008_html.md ## 配置环境变量 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0010.html - Description: AOE调优前,请先使用export命令在当前终端下配置环境变量。该方式在关闭Shell终端后失效。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0010_html.md ## 执行AOE调优 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0011.html - Description: - 单个AOE进程时,请确保调优用户的家目录下磁盘可用空间>\=20G,可用内存>\=32G。注意:如果模型中存在大shape算子,可能需要更多内存。多个AOE进程时,请自行增加相应的磁盘空间和内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0011_html.md ## 调优结果 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0012.html - Description: 本节介绍调优完成后,如何查看调优结果,包括屏幕打印信息和生成的自定义知识库、om模型、算子调优结果文件和子图调优结果文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0012_html.md ## 性能验证 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0013.html - Description: 调优完成后,请使用调优后的自定义知识库(如何使用请参见如何使用调优后的自定义知识库)重新推理,验证性能是否提高。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0013_html.md ## 参数概览 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0017.html - Description: 本节介绍AOE调优引擎使用到的命令行参数。参数和参数取值之间可以是“\=”,也可以是空格,本章节统一以“\=”为例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0017_html.md ## --help或-h - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0019.html - Description: 显示帮助信息。 无。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0019_html.md ## --model或-m - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0020.html - Description: 原始模型文件路径与文件名。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0020_html.md ## --model\_path - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0021.html - Description: 原始模型文件路径,该路径下可以存放多个模型文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0021_html.md ## --weight或-w - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0022.html - Description: 原始模型权重文件路径与文件名。 当原始模型是Caffe时需要指定。 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 不支持Caffe框架。 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 不支持Caffe框架。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0022_html.md ## --job\_type或-j - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0023.html - Description: 调优模式。 支持子图调优和算子调优。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0023_html.md ## --framework或-f - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0024.html - Description: 原始网络模型的框架类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0024_html.md ## --input\_format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0025.html - Description: 指定模型输入数据的格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0025_html.md ## --input\_shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0026.html - Description: 指定模型输入数据的shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0026_html.md ## --dynamic\_batch\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0027.html - Description: 设置动态Batch档位参数,适用于执行推理时,每次处理图片数量不固定的场景。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0027_html.md ## --dynamic\_image\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0028.html - Description: 设置输入图片的动态分辨率参数。适用于执行推理时,每次处理图片宽和高不固定的场景。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0028_html.md ## --dynamic\_dims - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0029.html - Description: 设置ND格式下动态维度的档位。适用于执行推理时,每次处理任意维度的场景。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0029_html.md ## --ip - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0030.html - Description: NCS所在服务器的IP。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0030_html.md ## --port - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0031.html - Description: NCS所在服务器的端口号。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0031_html.md ## --reload - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0032.html - Description: 子图调优中断后重载。当前次流程被中断后,希望从上次的已有的调优阶段开始继续调优,使用--reload进入重载模式。 使用该参数的命令必须在上次执行调优命令的相同目录下使用。原因是重载调优需要使用上次调优的中间文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0032_html.md ## --device - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0033.html - Description: 用于指定调优在运行环境上运行时使用的device。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0033_html.md ## --progress\_bar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0034.html - Description: 用于开启或关闭调优时进度显示功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0034_html.md ## --singleop - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0035.html - Description: 通过配置算子描述文件,对指定的算子(一个或者多个)进行调优。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0035_html.md ## --output - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0036.html - Description: 调优后模型的存放路径以及文件名,例如:$\{HOME\}/test/out/tfresnet50,转换后的模型文件名以指定的为准,以.om后缀结尾,例如:tfresnet50.om或tfresnet50linuxx8664.om,若om文件名中包含操作系统及架构,则该om文件只能在该操作系统及架构的运行环境中使用。如果想要在其他操作系统及架构的运行环境使用,请使用ATC重新转换模型(需要带"--hos - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0036_html.md ## --output\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0037.html - Description: 指定网络输出数据类型或指定某个输出节点的输出类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0037_html.md ## --host\_env\_os - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0038.html - Description: 若模型编译环境的操作系统及其架构与模型运行环境不一致时,则需使用本参数设置模型运行环境的操作系统类型。 如果不设置,则默认取模型编译环境的操作系统类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0038_html.md ## --host\_env\_cpu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0039.html - Description: 若模型编译环境的操作系统及其架构与模型运行环境不一致时,则需使用本参数设置模型运行环境的操作系统架构。 如果不设置,则默认取模型编译环境的操作系统架构。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0039_html.md ## --aicore\_num - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0040.html - Description: 用于设置模型编译时使用的aicore数量。 当前版本该参数预留,不建议配置;如需配置,则只能配置为默认值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0040_html.md ## --virtual\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0041.html - Description: 是否支持AOE调优在昇腾虚拟化实例生成的虚拟设备上运行。 昇腾虚拟化实例是当前芯片算力比较大,云端用户或者小企业完全不需要使用这么大算力,而支持对芯片的算力进行切分,可满足用户按照自己的业务按需申请算力的诉求。 虚拟设备是按照指定算力在芯片上申请的虚拟加速资源。 该参数不支持SGAT调优。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0041_html.md ## --out\_nodes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0043.html - Description: 指定输出节点。 如果不指定输出节点(算子名称),则模型的输出默认为最后一层的算子信息。如果指定,则以指定的为准。 某些情况下,用户想要查看某层算子参数是否合适,则需要将该层算子的参数输出,就可以在调优时通过该参数指定输出某层算子,调优后,在相应.om模型文件最后即可以看到指定输出算子的参数信息,如果通过.om模型文件无法查看,则可以将.om模型文件转换成json格式后查看。关于.om转json格式 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0043_html.md ## --input\_fp16\_nodes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0044.html - Description: 指定输入数据类型为FP16的输入节点名称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0044_html.md ## --insert\_op\_conf - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0045.html - Description: 插入算子的配置文件路径与文件名,例如AIPP预处理算子。 使用该参数后,输入数据类型为UINT8。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0045_html.md ## --op\_name\_map - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0046.html - Description: 扩展算子(非标准算子)映射配置文件路径和文件名,不同的网络中某扩展算子的功能不同,可以指定该扩展算子到具体网络中,而实际运行的是扩展算子的映射。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0046_html.md ## --is\_input\_adjust\_hw\_layout - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0047.html - Description: 用于指定网络输入数据类型是否为FP16,数据格式是否为NC1HWC0。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0047_html.md ## --is\_output\_adjust\_hw\_layout - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0048.html - Description: 用于指定网络输出的数据类型是否为FP16,数据格式是否为NC1HWC0。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0048_html.md ## --disable\_reuse\_memory - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0049.html - Description: 内存复用开关。 无。 参数值: - 1:关闭内存复用。 - 0:开启内存复用。 参数默认值:0 参数值约束:如果网络模型较大,关闭内存复用开关,调优时可能会造成内存不足,导致调优失败。 无。 在内存复用场景下(默认开启内存复用),支持基于指定算子(节点名称/算子类型)单独分配内存。通过OPNOREUSEMEM环境变量指定要单独分配的一个或多个节点, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0049_html.md ## --fusion\_switch\_file - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0050.html - Description: 融合规则(包括图融合和UB融合)开关配置文件路径以及文件名,通过该参数关闭配置文件中指定的融合规则。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0050_html.md ## --enable\_scope\_fusion\_passes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0051.html - Description: 指定编译时需要生效的Scope融合规则列表。 无论是内置还是用户自定义的Scope融合规则,都分为如下两类: - 通用融合规则(General):各网络通用的Scope融合规则;默认生效,不支持用户指定失效。 - 定制化融合规则(Non-General):特定网络适用的Scope融合规则;默认不生效,用户可以通过“--enablescopefusionpasses”指定生效的融合规则列表。 当前支 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0051_html.md ## --enable\_small\_channel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0052.html - Description: 是否开启small channel的优化,开启后在channel<\=4的卷积层会有性能收益。 建议用户在推理场景下打开此开关。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0052_html.md ## --compress\_weight\_conf - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0053.html - Description: 要压缩的node节点列表配置文件路径以及文件名。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0053_html.md ## --compression\_optimize\_conf - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0054.html - Description: 压缩优化功能配置文件路径以及文件名,通过该参数开启配置文件中指定的压缩优化特性,从而提升网络性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0054_html.md ## --buffer\_optimize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0055.html - Description: 是否开启数据缓存优化功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0055_html.md ## --precision\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0056.html - Description: 设置网络模型的精度模式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0056_html.md ## --op\_select\_implmode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0057.html - Description: 选择算子是高精度实现还是高性能实现。 高精度是指在fp16输入的情况下,通过泰勒展开/牛顿迭代等手段进一步提升算子的精度;高性能是指在fp16输入的情况下,不影响网络精度前提的最优性能实现。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0057_html.md ## --optypelist\_for\_implmode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0058.html - Description: 设置optype列表中算子的实现方式,该参数当前仅支持设置某个具体算子的实现方式,不支持设置多个算子。当前仅支持配置的算子为Pooling、SoftmaxV2、LRN、ROIAlign。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0058_html.md ## --op\_debug\_level - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0059.html - Description: TBE算子编译debug功能开关。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0059_html.md ## --log - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0060.html - Description: 设置调优过程中日志的级别。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0060_html.md ## --tune\_ops\_file - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0061.html - Description: 通过配置文件指定算子名称或者算子类型,对指定的算子进行调优。支持指定的算子范围请参见算子列表。对于不在算子列表范围内的算子,不支持调优。该参数使用的场景举例如下: 在对AOE调优后生成的om模型(或者ATC转换后生成的om模型)进行Profiling性能分析后,可通过此参数指定对某个性能较低的算子进行调优。 指定的算子名称或者算子类型必须配置为经过AOE调优后生成的om模型中的OP Name/OP - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0061_html.md ## --op\_precision\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0062.html - Description: 设置具体某个算子的精度模式,通过该参数可以为多个算子设置不同的精度模式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0062_html.md ## --modify\_mixlist - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0063.html - Description: 混合精度场景下,修改算子使用混合精度名单,该文件包括黑名单,白名单和灰名单: - 白名单:表示混合精度模式下,允许将当前float32类型的算子,降低精度到float16。 - 黑名单:表示混合精度模式下,不允许将当前float32类型的算子降低精度到float16,相应算子仍旧使用float32精度。 - 灰名单:表示混合精度模式下,当前算子的混合精度处理机制和前一个算子保持一致,即如果前一个算 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0063_html.md ## --keep\_dtype - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0064.html - Description: 在原始网络模型编译时,保持个别算子的计算精度不变。 推理场景下,使用--precisionmode参数设置整个网络模型的精度模式,可能会有个别算子存在性能或精度问题,为此引入--keepdtype参数,保持原始网络模型编译时个别算子的计算精度不变,具体算子可以通过该参数指定的文件进行配置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0064_html.md ## --customize\_dtypes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0065.html - Description: 模型编译时自定义某个或某些算子的计算精度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0065_html.md ## --tune\_optimization\_level - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0066.html - Description: 调优模式,通过该参数可配置不同模式调优,包括高性能模式和正常模式。 想要尝试获取更高性能的情况下,可以使用该参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0066_html.md ## --Fdeeper\_opat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0067.html - Description: 算子深度调优。想要尝试获取更高性能的情况下,可以使用该参数。 该模式下调优耗时会增长数倍,且无法保证一定能拿到极致性能收益。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0067_html.md ## --Fnonhomo\_split - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0068.html - Description: 子图非均匀切分调优。当模型输入的batch为奇数时,或者AI Core的核数与batch不成因子或倍数关系时,建议使用该参数,尝试获得更好的性能。 示例:假设batch为7,在均匀切分功能下,只能选择不切或者切成7份;而在非均匀切分下有更多切分的选择,可以切成非因子的份数,例如4+3。 Atlas 训练系列产品 场景下,不支持该参数。 Atlas A2 训练系列产品 / Atlas A2 推理系列 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0068_html.md ## --Fop\_format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0069.html - Description: 算子format调优。当算子支持多种format时,如果调优过程中携带了该参数,AOE会将该算子支持的多种format调优策略与默认的format调优策略比较,如果优于默认的format调优策略,则将最优的format调优策略写入知识库。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0069_html.md ## --sparsity - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0070.html - Description: Atlas 推理系列产品 场景下,不支持该参数。 Atlas 训练系列产品 场景下,不支持该参数。 开启全局稀疏特性。 AMCT(简称AMCT)4选2结构化稀疏后输出的模型,可能存在weight连续4个Cin维度元素中至少有2个为0的场景,模型转换时通过打开全局稀疏开关,将该场景下的元素筛选成2个,从而节省后续推理的计算量,提高推理性能。其原理如下: weight中每4个连续的元素,会生成两组2b - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0070_html.md ## --init\_bypass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0071.html - Description: 对于AOE调优框架和调优业务不感知的编译参数,可以通过“--initbypass”在模型构建初始化阶段透传,具体透传的参数请参考“options参数说明\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/API/ascendgraphapi/cpp/ge/optionsparams/overallco - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0071_html.md ## --build\_bypass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0072.html - Description: 对于AOE调优框架和调优业务不感知的编译参数,可以通过“--buildbypass”在模型编译阶段透传,具体透传的参数请参考“options参数说明\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/API/ascendgraphapi/cpp/ge/optionsparams/overallcons - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0072_html.md ## CANN社区版-本节介绍配置密钥证书的背景和密钥证书的存放路径 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0075.html - Description: 本节介绍配置密钥证书的背景和密钥证书的存放路径。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0075_html.md ## 配置环境变量 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0077.html - Description: 在开发环境和运行环境安装CANN软件后,使用CANN运行用户编译、运行时,需要以CANN运行用户登录环境配置环境变量。$\{INSTALL\_DIR\}请替换为CANN软件安装后文件存储路径。以root用户安装为例,安装后文件默认存储路径为:/usr/local/Ascend/cann。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0077_html.md ## 向第三方机构申请证书 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0078.html - Description: 生产环境下,需要选择向第三方机构申请证书。步骤如下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0078_html.md ## 自签名证书及私钥 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0079.html - Description: 该方法仅供调测环境下使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0079_html.md ## 导入密钥证书 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0080.html - Description: 获取密钥证书后,需要以运行用户使用AKT工具在开发环境和运行环境分别进行密钥证书导入,具体信息请参考如下内容。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0080_html.md ## 卸载密钥证书 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0081.html - Description: 当该开发环境和运行环境无需再进行调优,可以选择卸载密钥证书,以释放更多存储空间。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0081_html.md ## 导入密钥证书配置文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0082.html - Description: 当用户需要更新口令加密算法、更新证书过期告警提前日期时,可以使用该功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0082_html.md ## 更新口令 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0083.html - Description: 口令用于加密私钥,出于安全考虑,建议用户定期更新加密私钥的口令。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0083_html.md ## AKT参数说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0084.html - Description: 在AKT存放路径下执行akt --help命令,可以查看AKT相关参数。具体含义请参考表1。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0084_html.md ## 知识库合并 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0085.html - Description: AOE工具提供了自定义知识库合并的功能,支持将不同路径下的自定义知识库进行合并,并将其中优于内置知识库中的调优策略存入目标路径中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0085_html.md ## 如何使用调优后的自定义知识库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0086.html - Description: 知识库是用户的资产,请用户妥善保管,建议归档到用户的存储介质。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0086_html.md ## 日志查看 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0087.html - Description: 调优引擎主进程的日志存放在:$\{HOME\}/ascend/log/debug/plog/plog-pid\_*.log,如果要查看error信息,可以在该日志中使用grep ERROR进行查找。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0087_html.md ## 配置文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0090.html - Description: - 配置文件路径:$\{install\_path\}/cann/conf。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0090_html.md ## 算子列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0091.html - Description: AOE工具当前版本仅支持使用DSL接口实现计算逻辑的AI Core算子的调优,本章节介绍支持的算子列表。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0091_html.md ## 支持量化的层及约束 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0092.html - Description: 本章节给出不同框架可量化的层以及相关约束。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0092_html.md ## 量化简易配置文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0093.html - Description: 如果要自动控制量化过程,例如控制哪些层是否量化、控制使用什么量化算法,则可以通过本章节构造的cfg配置文件实现。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0093_html.md ## 如何处理调优过程中"Out of memory"问题引起的进程异常退出 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0095.html - Description: 在调优过程中,可能会出现如下类似报错。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0095_html.md ## 知识库调优生成,但是无法命中 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0096.html - Description: AOE调优工具完成调优,生成了知识库,但是无法命中调优生成的知识库。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0096_html.md ## 系统报错"there is an aicore error" - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0097.html - Description: 调优工具主进程日志中出现如下"there is an aicore error"的打印信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0097_html.md ## 如何处理残留进程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0099.html - Description: 当配套的Python版本是Python3.8.x(3.8.0~3.8.11)或者Python3.9.x(3.9.0~3.9.7)时,AOE调优过程中可能会存在进程残留(例如:调优过程中Ctrl + C会出现进程残留),该情况不影响正常的调优流程,也不影响正常的调优性能。残留进程可以通过kill命令进行清理。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0099_html.md ## 如何确定原始框架网络模型中的算子与AI处理器支持的算子的对应关系 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0101.html - Description: 用户使用精度比对工具或者性能比对工具进行算子精度或者性能分析时,若发现某些算子精度或者性能有问题,可能会考虑使用ATC工具中的某些参数调整算子的计算精度后,重新进行模型转换然后推理,比如通过--modify\_mixlist参数将有问题的算子配置为黑名单等,该场景下,ATC中的参数要求配置的必须为基于Ascend IR定义的算子的OpType。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0101_html.md ## 日志报错“DataBuffer is more than 1.9GB”(算子调优) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0102.html - Description: 由于第三方库限制,在运行环境中传输的数据大小不能超过1.9GB,否则调优工具主进程日志中会出现如下信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0102_html.md ## 系统报错"error \= 113"以及告警"Grpc socket closed." - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoerc_16_0103.html - Description: 在调优过程中,可能会出现如下类似报错和告警,错误码113表示Grpc服务不可用,导致调优中断。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoerc_16_0103_html.md ## 接口列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeref_16_0001.html - Description: **表1 AOE调优API** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeref_16_0001_html.md ## AOE调优API简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeref_16_0003.html - Description: 通过AOE API可以开启AOE调优。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeref_16_0003_html.md ## CANN社区版-AoeInitialize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeref_16_0004.html - Description: AOE初始化函数,用于设置全局调优参数和初始化调优环境。同步接口。 请参考接口约束说明。 返回0表示成功,返回其它值含义请参见AOE API错误码。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeref_16_0004_html.md ## CANN社区版-AoeFinalize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeref_16_0005.html - Description: 释放AOE初始化的资源。同步接口。 请参考接口约束说明。 无 返回0表示成功,返回其它值含义请参见AOE API错误码。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeref_16_0005_html.md ## CANN社区版-AoeCreateSession - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeref_16_0006.html - Description: 创建AOE的调优Session,并输出Session id。同步接口。 请参考接口约束说明。 返回0表示成功,返回其它值含义请参见AOE API错误码。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeref_16_0006_html.md ## CANN社区版-AoeDestroySession - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeref_16_0007.html - Description: 销毁AOE的session。同步接口。 请参考接口约束说明。 返回0表示成功,返回其它值含义请参见AOE API错误码。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeref_16_0007_html.md ## CANN社区版-AoeSetGeSession - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeref_16_0008.html - Description: 设置GE session,通过GE session运行Graph。同步接口。 请参考接口约束说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeref_16_0008_html.md ## CANN社区版-AoeSetTuningGraph - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeref_16_0009.html - Description: 设置调优图。同步接口。 请参考接口约束说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeref_16_0009_html.md ## CANN社区版-AoeSetTuningGraphInput - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeref_16_0010.html - Description: 设置调优图的输入。同步接口。 请参考接口约束说明。 返回0表示成功,返回其它值含义请参见AOE API错误码。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeref_16_0010_html.md ## CANN社区版-AoeTuningGraph - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeref_16_0011.html - Description: 开始AOE调优,同步接口。 请参考接口约束说明。 返回0表示成功, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeref_16_0011_html.md ## AOE API错误码 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeref_16_0018.html - Description: AOE API错误码的定义在头文件"CANN软件安装目录/cann/include/aoe/external/aoe\_errcodes.h"中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeref_16_0018_html.md ## CANN社区版-GlobalOption - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeref_16_0020.html - Description: 介绍AOE的GlobalOption。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeref_16_0020_html.md ## CANN社区版-TuningOption - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/aoeref_16_0021.html - Description: 介绍AOE的TuningOption。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_aoeref_16_0021_html.md ## CANN社区版-概览 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/aoe/auxiliarydevtool_aoe_0001.html - Description: | 手册 | 说明 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_aoe_auxiliarydevtool_aoe_0001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0001.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0002.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0003.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0005.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0006.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0009.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0010.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0011.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0012.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0013.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0016.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0017.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0019.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0020.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0021.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0022.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0023.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0024.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0025.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0027.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0028.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0029.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0031.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0032.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0034.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0035.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0036.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0039.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0043.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0044.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0045.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0047.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0048.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0049.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0050.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0051.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0052.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0057.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0058.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0059.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0061.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0062.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0063.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0064.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0115.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0117.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0118.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0135.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0136.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0137.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0138.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0139.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0140.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0141.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatc_16_0142.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0008.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0009.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0011.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0012.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0013.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0014.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0015.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0016.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0017.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0018.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0019.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0020.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0021.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0029.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0030.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0031.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0032.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0033.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0034.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0036.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0038.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0039.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0042.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0043.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0044.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0045.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0046.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0047.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0048.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0050.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0051.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0052.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0053.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0054.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0055.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0056.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0059.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0060.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0061.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0062.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0063.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0064.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0065.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0066.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0068.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0069.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0070.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0071.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0072.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0073.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0074.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0075.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0076.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0077.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0078.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0081.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0082.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0083.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0084.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0085.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0086.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0087.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0088.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0089.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0090.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0091.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0092.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0097.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0098.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0100.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/atctool/atlasatcparam_16_0101.html - Description: 本文档用于指导开发者如何使用ATC(Ascend Tensor Compiler,简称ATC)工具进行模型转换,得到适配AI处理器的离线模型。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_atctool_docs_zh_user_guides_atc_tools_overview_learning_guide_md.md ## 工具介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/hccltool - Description: 分布式训练场景下,开发者可以通过此工具测试HCCL(Huawei Collective Communication Library)集合通信的功能正确性以及性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_hccltool_docs_zh_hccl_test_introduction_md.md ## 工具介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/hccltool/HCCLpertest_16_0001.html - Description: 分布式训练场景下,开发者可以通过此工具测试HCCL(Huawei Collective Communication Library)集合通信的功能正确性以及性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_hccltool_docs_zh_hccl_test_introduction_md.md ## 工具介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/hccltool/HCCLpertest_16_0002.html - Description: 分布式训练场景下,开发者可以通过此工具测试HCCL(Huawei Collective Communication Library)集合通信的功能正确性以及性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_hccltool_docs_zh_hccl_test_introduction_md.md ## 工具介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/hccltool/HCCLpertest_16_0003.html - Description: 分布式训练场景下,开发者可以通过此工具测试HCCL(Huawei Collective Communication Library)集合通信的功能正确性以及性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_hccltool_docs_zh_hccl_test_introduction_md.md ## 工具介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/hccltool/HCCLpertest_16_0004.html - Description: 分布式训练场景下,开发者可以通过此工具测试HCCL(Huawei Collective Communication Library)集合通信的功能正确性以及性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_hccltool_docs_zh_hccl_test_introduction_md.md ## 工具介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/hccltool/HCCLpertest_16_0005.html - Description: 分布式训练场景下,开发者可以通过此工具测试HCCL(Huawei Collective Communication Library)集合通信的功能正确性以及性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_hccltool_docs_zh_hccl_test_introduction_md.md ## 工具介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/hccltool/HCCLpertest_16_0006.html - Description: 分布式训练场景下,开发者可以通过此工具测试HCCL(Huawei Collective Communication Library)集合通信的功能正确性以及性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_hccltool_docs_zh_hccl_test_introduction_md.md ## 工具介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/hccltool/HCCLpertest_16_0007.html - Description: 分布式训练场景下,开发者可以通过此工具测试HCCL(Huawei Collective Communication Library)集合通信的功能正确性以及性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_hccltool_docs_zh_hccl_test_introduction_md.md ## 工具介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/hccltool/HCCLpertest_16_0009.html - Description: 分布式训练场景下,开发者可以通过此工具测试HCCL(Huawei Collective Communication Library)集合通信的功能正确性以及性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_hccltool_docs_zh_hccl_test_introduction_md.md ## 工具介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/hccltool/HCCLpertest_16_0010.html - Description: 分布式训练场景下,开发者可以通过此工具测试HCCL(Huawei Collective Communication Library)集合通信的功能正确性以及性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_hccltool_docs_zh_hccl_test_introduction_md.md ## 工具介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/hccltool/HCCLpertest_16_0011.html - Description: 分布式训练场景下,开发者可以通过此工具测试HCCL(Huawei Collective Communication Library)集合通信的功能正确性以及性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_hccltool_docs_zh_hccl_test_introduction_md.md ## 工具介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/hccltool/HCCLpertest_16_0012.html - Description: 分布式训练场景下,开发者可以通过此工具测试HCCL(Huawei Collective Communication Library)集合通信的功能正确性以及性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_hccltool_docs_zh_hccl_test_introduction_md.md ## 分析迁移工具 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/migrationtools/msfmktransplt/README.md - Description: 昇腾NPU是AI算力的后起之秀,但目前训练和在线推理脚本大多是基于GPU的。由于NPU与GPU的架构差异,基于GPU的训练和在线推理脚本不能直接在NPU上使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_migrationtools_msfmktransplt_README_md.md ## CANN社区版-相比于业界标杆算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer - Description: 相比于业界标杆算子,昇腾自研算子在AI处理器上的运算结果可能存在差异: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0001_html.md ## CANN社区版-相比于业界标杆算子 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0001.html - Description: 相比于业界标杆算子,昇腾自研算子在AI处理器上的运算结果可能存在差异: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0001_html.md ## 使用前准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0002.html - Description: 数据dump功能会采集算子输入输出信息,由于可能存在客户敏感信息,请在开发和调测场景下使用该功能,生产上线后建议关闭数据dump开关,避免被攻击者利用,造成安全风险。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0002_html.md ## 准备GPU侧npy文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0006.html - Description: - 在通过执行TensorFlow 1.15原始网络训练/在线推理来获取npy文件前,要求有一套完整、可执行的标准TensorFlow模型训练/在线推理工程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0006_html.md ## 准备NPU侧dump数据和计算图文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0007.html - Description: - 需要完成训练/在线推理网络的开发、编译和运行,确保拥有可执行的训练/在线推理工程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0007_html.md ## 比对操作和分析 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0008.html - Description: - 本节中的计算图文件、目录等名称均为举例,请根据实际环境替换。其中,-out指定的结果存放路径,需确保操作用户具有读写权限。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0008_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0014.html - Description: 对于该场景需要排查比对结果说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0014_html.md ## 准备TensorFlow模型npy文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0015.html - Description: 本版本不提供TensorFlow模型numpy(.npy)数据生成功能,请自行安装TensorFlow环境并提前准备numpy数据。本文仅提供生成numpy格式TensorFlow原始数据“*.npy”文件的样例参考。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0015_html.md ## 准备全网层信息文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0016.html - Description: 以下介绍通过ATC模型转换工具获取离线模型的操作步骤,更多操作请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/devaids/atctool/docs/zh/user\_guides/atc\_tools/overview/learning\_guide.md\)》。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0016_html.md ## 比对操作和分析 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0018.html - Description: - 本节涉及的.json文件、目录等名称均为举例,请根据实际环境替换。其中,-out指定的结果存放路径,需确保操作用户具有读写权限。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0018_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0020.html - Description: 对于该场景需要排查比对结果说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0020_html.md ## 准备ONNX模型npy文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0021.html - Description: - 需要确保每个算子节点有名称,否则无法生成正确的文件名。没有名称的算子节点需要先生成名称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0021_html.md ## 准备全网层信息文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0022.html - Description: 以下介绍通过ATC模型转换工具获取离线模型的操作步骤,更多操作请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/devaids/atctool/docs/zh/user\_guides/atc\_tools/overview/learning\_guide.md\)》。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0022_html.md ## 比对操作和分析 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0024.html - Description: - 本节涉及的.json文件、目录等名称均为举例,请根据实际环境替换。其中,-out指定的结果存放路径,需确保操作用户具有读写权限。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0024_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0026.html - Description: 对于该场景需要排查比对结果说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0026_html.md ## Caffe模型npy文件准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0027.html - Description: - 针对量化原始模型获取npy文件,请先参见 量化原始模型和量化信息文件 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0027_html.md ## 准备离线模型dump数据文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0028.html - Description: - 请在dump数据前,完成模型对应的应用工程的编译、运行,确保工程正常。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0028_html.md ## 比对操作和分析 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0031.html - Description: - 本节涉及的.json文件、目录等名称均为举例,请根据实际环境替换。其中,-out指定的结果存放路径,需确保操作用户具有读写权限。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0031_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0033.html - Description: - 对于该场景需要排查 比对结果说明 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0033_html.md ## 准备离线模型文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0034.html - Description: 以下介绍通过ATC模型转换工具获取离线模型的操作步骤,更多操作请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/devaids/atctool/docs/zh/user\_guides/atc\_tools/overview/learning\_guide.md\)》。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0034_html.md ## 比对操作和分析 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0035.html - Description: 当指定的比对数据文件大小超过1GB或.json文件大小超过100MB时,比对过程可能耗时较长,系统提示:'The size \(%d\) of %s more than the XX, it needs more time to run.'。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0035_html.md ## 比对结果说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0036.html - Description: 本节内容主要说明对于比对结果中可能存在部分无法比对或异常情况(比如结果中的NaN)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0036_html.md ## 比对结果分析指导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0038.html - Description: - 显示“*”,表示在NPU侧新增独有的算子;无对应的标准算子,无法进行比对,结果显示为“NaN”。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0038_html.md ## CANN社区版-精度比对工具本身只提供自有实现算子在AI处理器上的运算结果与业界标准算子的运算结 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0040.html - Description: 精度比对工具本身只提供自有实现算子在AI处理器上的运算结果与业界标准算子的运算结果的差异比对功能,输出的比对结果需要用户自行分析并找出问题。对于用户来说,对结果的分析工作也是一大难点。本节提供专家系统工具为用户提供精度比对结果的分析功能,有效减少用户排查问题的时间。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0040_html.md ## 使用前必读 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0041.html - Description: 需要安装pandas 1.3或更高版本依赖。安装示例:pip3 install pandas\=\=1.3.5。非root用户安装,需要在安装命令后加上--user,例如:pip3 install pandas\=\=1.3.5 --user。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0041_html.md ## 通过命令行方式分析比对结果 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0042.html - Description: 通过命令行方式分析比对结果是基于精度比对的基础上执行-advisor参数功能,完成精度比对之后继续进行专家系统分析并输出结果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0042_html.md ## 通过脚本工具方式分析比对结果 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0043.html - Description: 专家系统提供“mscmp\_advisor.py”脚本工具。功能及安装路径如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0043_html.md ## 输出结果和优化建议 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0044.html - Description: 针对比对数据中数据类型为Float16的数据,进行溢出检测。如果存在溢出数据,输出专家建议。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0044_html.md ## 计算精度评价指标 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0045.html - Description: 精度比对是以GPU的计算结果为标杆,以不同算法维度,比对算子精度差异,根据每个算法维度的结果判断算子在运行时是否存在精度问题。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0045_html.md ## npy与npy文件之间的精度比对 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0046.html - Description: 精度比对工具支持单个npy与npy文件之间的精度比对。基本要求如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0046_html.md ## CANN社区版-单算子比对功能由compare命令的具体参数决定 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0048.html - Description: 单算子比对功能由compare命令的具体参数决定,主要包括配置输入文件和输出路径、选择具体比对算子、设置比对算子的输入或输出数据和输出文件的形式等。可以根据参数具体的功能描述,判断输入文件的实际情况,来决定使用具体的参数功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0048_html.md ## 比对操作 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0049.html - Description: - 本节涉及的.json文件、目录等名称均为举例,请根据实际环境替换。其中,-out指定的结果存放路径,需确保操作用户具有读写权限。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0049_html.md ## 结果文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0050.html - Description: 单算子比对执行比对操作,默认比对指定算子数据的绝对误差和相对误差,根据指定比对算子的输入或输出数据以及设置的输出文件形式生成比对结果文件如表1。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0050_html.md ## 溢出算子数据采集与解析 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0052.html - Description: AI业务运行过程中出现浮点异常情况时,可通过溢出算子数据采集和解析进行问题定界定位。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0052_html.md ## Top溢出算子解析 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0053.html - Description: AI业务运行过程中可能存在算子溢出的情况,此时若直接进行精度比对操作则会造成比对结果不准确。通过执行查看溢出算子数据,可以检测并收集溢出的算子信息,生成算子溢出数据文件和溢出算子的dump文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0053_html.md ## dump数据文件Format转换 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0054.html - Description: 本版本提供dump数据文件Format转换能力,用于用户根据自身需求将AI处理器生成的dump数据文件转换成numpy数据文件,方便查看。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0054_html.md ## 查看dump数据文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0055.html - Description: dump文件无法通过文本工具直接查看其内容,为了查看dump文件内容,本文提供以下脚本将dump文件转换为numpy格式文件后,再通过numpy官方提供的能力转为txt文档进行查看。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0055_html.md ## GPU/NPU映射表获取 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0056.html - Description: 本节涉及的.json文件、目录等名称均为举例,请根据实际环境替换。其中,-out指定的结果存放路径,需确保操作用户具有读写权限。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0056_html.md ## AICPU自定义算子日志解析 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0058.html - Description: dump数据文件解析功能通过解析dump数据文件,获取dump数据文件中的信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0058_html.md ## 生成npy文件名异常情况批量处理 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0059.html - Description: TensorFlow模型生成dump数据时,因tfdbg自身原因或运行环境原因,会出现tfdbg截断算子名,导致生成的npy文件名与预期不符,造成转换dump数据文件异常。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0059_html.md ## Windows dump文件转换为Linux dump文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0060.html - Description: 1. 在Linux上准备转换脚本windows\_to\_linux.py,内容如下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0060_html.md ## 数据格式要求 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0062.html - Description: msaccucmp.py脚本精度比对工具支持多种比对方式,因此dump、npy文件命名需满足以下要求: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0062_html.md ## 命令格式说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0063.html - Description: 精度比对命令行格式如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0063_html.md ## 完整比对结果参数说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0064.html - Description: **表1 完整比对结果参数说明** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0064_html.md ## 数据格式要求 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0067.html - Description: compare\_vector.py精度比对工具将在后续版本下线,当前版本推荐使用上文中的msaccucmp.py工具。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0067_html.md ## 准备离线模型dump数据文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0068.html - Description: 在准备dump数据前,请参见《ATC离线模型编译工具\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/devaids/atctool/docs/zh/user\_guides/atc\_tools/overview/learning\_guide.md\)》模型转换,准备好模型文件;如果涉及模型量化,请参见 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0068_html.md ## 准备Caffe模型npy文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0069.html - Description: 本版本不提供Caffe模型npy文件生成功能,请自行安装Caffe环境并提前准备Caffe原始数据“*.npy”文件。本文仅提供生成符合精度比对要求的numpy格式Caffe原始数据“*.npy”文件的样例参考。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0069_html.md ## 准备TensorFlow模型npy文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0070.html - Description: 本版本不提供TensorFlow模型npy文件生成功能,请自行安装TensorFlow环境并提前准备npy文件。本文仅提供生成numpy格式TensorFlow原始数据“*.npy”文件的样例参考。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0070_html.md ## 说明与约束 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0072.html - Description: - 原命令行比对方式将保持原有功能,不继续演进,推荐使用新的比对方式进行精度比对。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0072_html.md ## 比对数据说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0073.html - Description: 执行Tensor比对前,请按照表1要求准备好比对数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0073_html.md ## 整网比对 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0074.html - Description: Tensor比对命令行格式如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0074_html.md ## 单算子比对 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0075.html - Description: Tensor比对命令行格式如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0075_html.md ## 如何进行npy文件转dump文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0076.html - Description: 本功能将在后续版本下线,当前版本推荐使用上文中的dump数据文件Format转换。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0076_html.md ## 如何进行dump数据文件Format转换 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0077.html - Description: 本功能将在后续版本下线,当前版本推荐使用上文中的dump数据文件Format转换。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0077_html.md ## 如何查看dump数据文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_0078.html - Description: 本功能将在后续版本下线,当前版本推荐使用上文中的查看dump数据文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_0078_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/ModelAccuracyAnalyzer/atlasaccuracy_16_1001.html - Description: 对于该场景需要排查比对结果说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_ModelAccuracyAnalyzer_atlasaccuracy_16_1001_html.md ## msMemScope快速入门 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/msMemScope/docs/zh/api.md - Description: 简介 msMemScope工具提供内存事件采集功能,基于采集事件开展内存泄漏检测、内存对比、内存块监测、内存拆解和低效内存识别等分析功能。本文档通过一个简单的PyTorch脚本介绍msMemScope工具的使用方法以及功能。 环境准备 请根据msMemScope安装指南完成msMemScope工具安装。 本示例基于PyTorch框架和Ascend for PyTorch插件,请根据Ascend f - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_msMemScope_docs_zh_quick_start_quick_start_md.md ## msMemScope快速入门 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/msMemScope/docs/zh/install_guide.md - Description: 简介 msMemScope工具提供内存事件采集功能,基于采集事件开展内存泄漏检测、内存对比、内存块监测、内存拆解和低效内存识别等分析功能。本文档通过一个简单的PyTorch脚本介绍msMemScope工具的使用方法以及功能。 环境准备 请根据msMemScope安装指南完成msMemScope工具安装。 本示例基于PyTorch框架和Ascend for PyTorch插件,请根据Ascend f - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_msMemScope_docs_zh_quick_start_quick_start_md.md ## msMemScope快速入门 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/msMemScope/docs/zh/memory_analysis.md - Description: 简介 msMemScope工具提供内存事件采集功能,基于采集事件开展内存泄漏检测、内存对比、内存块监测、内存拆解和低效内存识别等分析功能。本文档通过一个简单的PyTorch脚本介绍msMemScope工具的使用方法以及功能。 环境准备 请根据msMemScope安装指南完成msMemScope工具安装。 本示例基于PyTorch框架和Ascend for PyTorch插件,请根据Ascend f - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_msMemScope_docs_zh_quick_start_quick_start_md.md ## msMemScope快速入门 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/msMemScope/docs/zh/memory_profile.md - Description: 简介 msMemScope工具提供内存事件采集功能,基于采集事件开展内存泄漏检测、内存对比、内存块监测、内存拆解和低效内存识别等分析功能。本文档通过一个简单的PyTorch脚本介绍msMemScope工具的使用方法以及功能。 环境准备 请根据msMemScope安装指南完成msMemScope工具安装。 本示例基于PyTorch框架和Ascend for PyTorch插件,请根据Ascend f - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_msMemScope_docs_zh_quick_start_quick_start_md.md ## msMemScope快速入门 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/msMemScope/docs/zh/output_file_spec.md - Description: 简介 msMemScope工具提供内存事件采集功能,基于采集事件开展内存泄漏检测、内存对比、内存块监测、内存拆解和低效内存识别等分析功能。本文档通过一个简单的PyTorch脚本介绍msMemScope工具的使用方法以及功能。 环境准备 请根据msMemScope安装指南完成msMemScope工具安装。 本示例基于PyTorch框架和Ascend for PyTorch插件,请根据Ascend f - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_msMemScope_docs_zh_quick_start_quick_start_md.md ## msMemScope快速入门 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/msMemScope/docs/zh/quick_start.md - Description: 简介 msMemScope工具提供内存事件采集功能,基于采集事件开展内存泄漏检测、内存对比、内存块监测、内存拆解和低效内存识别等分析功能。本文档通过一个简单的PyTorch脚本介绍msMemScope工具的使用方法以及功能。 环境准备 请根据msMemScope安装指南完成msMemScope工具安装。 本示例基于PyTorch框架和Ascend for PyTorch插件,请根据Ascend f - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_msMemScope_docs_zh_quick_start_quick_start_md.md ## CANN社区版-算子编译工具(op\_compiler)是昇腾CANN提供的编译算子生成算子二进制 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/opcompiletool - Description: 算子编译工具(op\_compiler)是昇腾CANN提供的编译算子生成算子二进制文件的命令行工具。该工具的具体功能和使用约束如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_opcompiletool_atlasop_compiler_07_0001_html.md ## CANN社区版-算子编译工具(op\_compiler)是昇腾CANN提供的编译算子生成算子二进制 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/opcompiletool/atlasop_compiler_07_0001.html - Description: 算子编译工具(op\_compiler)是昇腾CANN提供的编译算子生成算子二进制文件的命令行工具。该工具的具体功能和使用约束如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_opcompiletool_atlasop_compiler_07_0001_html.md ## 使用前准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/opcompiletool/atlasop_compiler_07_0003.html - Description: 1. 安装软件包。请参考《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/softwareinst/instg/instg\_0000.html\)》完成驱动、固件、CANN软件包的安装。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_opcompiletool_atlasop_compiler_07_0003_html.md ## 算子编译生成Kernel包 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/opcompiletool/atlasop_compiler_07_0005.html - Description: 1. 准备Dump的算子信息统计文件。目前支持两种方式Dump算子json文件,请根据实际情况选择合适的方式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_opcompiletool_atlasop_compiler_07_0005_html.md ## Kernel包安装和卸载 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/opcompiletool/atlasop_compiler_07_0006.html - Description: 下文以默认命名的Kernel包为例,实际运行时,具体命令请替换为实际的Kernel包名称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_opcompiletool_atlasop_compiler_07_0006_html.md ## 算子编译生成Kernel包 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/opcompiletool/atlasop_compiler_07_0008.html - Description: 在任意目录下,以运行用户(如HwHiAiUser)身份执行如下命令,进行算子编译: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_opcompiletool_atlasop_compiler_07_0008_html.md ## Kernel包安装和卸载 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/opcompiletool/atlasop_compiler_07_0009.html - Description: 下文以默认命名的Kernel包为例,实际运行时,具体命令请替换为实际的Kernel包名。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_opcompiletool_atlasop_compiler_07_0009_html.md ## 参数概览 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/opcompiletool/atlasop_compiler_07_0011.html - Description: **表1 算子编译工具参数概览** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_opcompiletool_atlasop_compiler_07_0011_html.md ## --help - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/opcompiletool/atlasop_compiler_07_0013.html - Description: 显示帮助信息。简写为-h。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_opcompiletool_atlasop_compiler_07_0013_html.md ## --op\_params\_dir - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/opcompiletool/atlasop_compiler_07_0015.html - Description: 和--kernel\_name二选一必选,Dump工具导出的统计数据所在的文件夹路径,支持绝对和相对路径。简写为-p。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_opcompiletool_atlasop_compiler_07_0015_html.md ## --kernel\_name - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/opcompiletool/atlasop_compiler_07_0016.html - Description: 和--op\_params\_dir二选一必选,设置需要编译的调试版本的算子kernel\_name。简写为-k。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_opcompiletool_atlasop_compiler_07_0016_html.md ## --job - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/opcompiletool/atlasop_compiler_07_0017.html - Description: 设置编译时工作进程数。最小取值为1,默认为16。简写为-j。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_opcompiletool_atlasop_compiler_07_0017_html.md ## --compile\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/opcompiletool/atlasop_compiler_07_0018.html - Description: 工作模式。可选。默认为纯编译模式,配置为tune为调优模式。简写为-m。调优功能自CANN 9.1.0版本起废弃,配置tune后调优模式不生效,自动切换为默认编译流程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_opcompiletool_atlasop_compiler_07_0018_html.md ## --output - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/opcompiletool/atlasop_compiler_07_0020.html - Description: 可选,编译输出的安装包路径+名称,如xxx/xxx/xxx.run,支持相对路径和绝对路径。不输入路径的情况下,在当前路径下生成;不输入安装包名称的情况下,静态shape安装包默认命名为“static\_kernel\_$\{datetime\}\_$\{pid\}.run”,调试版本安装包默认命名为“debug\_kernel\_$\{datetime\}.run”。简写为-o。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_opcompiletool_atlasop_compiler_07_0020_html.md ## --soc\_version - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/opcompiletool/atlasop_compiler_07_0022.html - Description: 执行算子编译功能时必选,指定算子编译时AI处理器的型号。简写为-v。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_opcompiletool_atlasop_compiler_07_0022_html.md ## --log - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/opcompiletool/atlasop_compiler_07_0024.html - Description: 设置算子编译过程中日志的级别。简写为-l。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_opcompiletool_atlasop_compiler_07_0024_html.md ## --count - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/opcompiletool/atlasop_compiler_07_0025.html - Description: 和--op\_params\_dir参数配合使用,用于统计--op\_params\_dir参数指定的目录下算子信息统计json文件的数目。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_opcompiletool_atlasop_compiler_07_0025_html.md ## --op\_debug\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/opcompiletool/atlasop_compiler_07_0026.html - Description: 调试配置文件的路径及文件名。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_opcompiletool_atlasop_compiler_07_0026_html.md ## --enable\_super\_kernel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/opcompiletool/atlasop_compiler_07_0027.html - Description: 是否开启Super Kernel功能。默认不使能Super Kernel,添加该选项时会修改编译行为,走Super Kernel流程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_opcompiletool_atlasop_compiler_07_0027_html.md ## MindStudio Kernel Launcher API接口文档 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/api_reference/mskl_api_reference.md - Description: msKL工具提供的接口可以调用msOpGen工程中的tiling函数以及用户自定义的Kernel函数,同时提供了autotune系列接口支持开发者可以高效地针对多个调优点进行代码替换、编译、运行以及性能对比。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_api_reference_mskl_api_reference_md.md ## MindStudio Kernel Performance Prediction对外接口使用说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/api_reference/mskpp_api_reference.md - Description: msKPP工具分为基础功能接口和指令接口两种接口类型。基础功能接口用于模拟算子计算中芯片平台、基础数据等。指令接口用于模拟特定的算子指令操作,包括Vector类计算指令和Cube类计算指令。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_api_reference_mskpp_api_reference_md.md ## MindStudio Sanitizer 对外接口使用说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/api_reference/mssanitizer_api_reference.md - Description: 调用aclrtMalloc接口在Device上分配size大小的线性内存,并通过devPtr返回已分配内存的指针,并向检测工具上报内存分配信息。实际的内存分配行为和参数含义与aclrtMalloc一致。 > \[\!NOTE\] > 可参见《应用开发接口》手册中“acl API参考(C) > 运行时管理 > 内存管理”章节查看aclrtMalloc的详细说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_api_reference_mssanitizer_api_reference_md.md ## MindStudio Ops Generator典型案例 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/best_practices/example.md - Description: 展示如何使用msOpGen工具进行Ascend C自定义算子的工程创建、编译和部署,并使用msOpST工具对Ascend C自定义算子进行功能测试。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_best_practices_example_md.md ## 典型案例 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/best_practices/msdebug_basic_cases.md - Description: \#\# 上板调试Vector算子 概述 展示如何使用msDebug工具来上板调试一个Vector算子,该Vector算子可实现两个向量相加并输出结果的功能。 前期准备 - 单击链接获取样例工程,为进行算子调试做准备。 - 完成相关环境变量配置,请参见MindStudio Debugger工具用户指南。 操作步骤 1. 基于样例工程编译算子,获取可执行文件add.fatbin。 1. 修改sa - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_best_practices_msdebug_basic_cases_md.md ## 基础案例 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/best_practices/mssanitizer_basic_cases.md - Description: 1. 参考《\[MindStudio Sanitizer 安装指南\]\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/devaids/optool/docs/zh/install\_guide/mssanitizer\_install\_guide.md\)》完成相关环境变量的配置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_best_practices_mssanitizer_basic_cases_md.md ## 典型案例 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/best_practices/typical_cases.md - Description: \#\# 通过指令流水图优化算子 概述 展示如何通过msOpProf工具的指令流水图特性,分析算子的瓶颈点,并实现算子的性能优化。 操作步骤 1. 参考msopprof simulator用户指南,将算子仿真性能数据采集得到的visualizedata.bin文件导入MindStudio Insight,具体导入操作请参考《MindStudio Insight用户指南》的“导入性能数据”章节。 2. - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_best_practices_typical_cases_md.md ## MindStudio 工具开发环境安装指导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/common/dev_env_setup.md - Description: 本文档用于搭建 MindStudio 工具编译/UT 等开发所需的标准化容器环境。除特别说明外,本文命令均在**宿主机**执行。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_common_dev_env_setup_md.md ## MindStudio Debugger安装指南 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/install_guide/msdebug_install_guide.md - Description: 本工具已集成于CANN中,若已安装CANN且无需更新此工具,可直接使用,无需按本文档安装。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_install_guide_msdebug_install_guide_md.md ## MindStudio Kernel Launcher 安装指南 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/install_guide/mskl_install_guide.md - Description: 本工具已集成于CANN中,若已安装CANN且无需更新此工具,可直接使用,无需按本文档安装。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_install_guide_mskl_install_guide_md.md ## MindStudio Kernel Performance Prediction 安装指南 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/install_guide/mskpp_install_guide.md - Description: 本工具已集成于CANN中,若已安装CANN且无需更新此工具,可直接使用,无需按本文档安装。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_install_guide_mskpp_install_guide_md.md ## MindStudio Ops Generator安装指南 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/install_guide/msopgen_install_guide.md - Description: 本工具已集成于CANN中,若已安装CANN且无需更新此工具,可直接使用,无需按本文档安装。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_install_guide_msopgen_install_guide_md.md ## MindStudio Ops Profiler 安装指南 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/install_guide/msopprof_install_guide.md - Description: 本工具已集成于CANN中,若已安装CANN且无需更新此工具,可直接使用,无需按本文档安装。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_install_guide_msopprof_install_guide_md.md ## MindStudio Sanitizer 安装指南 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/install_guide/mssanitizer_install_guide.md - Description: 本工具已集成于CANN中,若已安装CANN且无需更新此工具,可直接使用,无需按本文档安装。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_install_guide_mssanitizer_install_guide_md.md ## 工具介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/quick_start/cann_container_setup.md - Description: 本文以 ”我要做什么” 为导向,结合典型场景为您推荐合适的工具。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_MindStudio_2610_zh_user_guide_msot_user_guide_md.md ## 昇腾 AI 算子开发工具链学习环境安装指南 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/quick_start/installation_guide.md - Description: > \[\!CAUTION\]注意 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_quick_start_installation_guide_md.md ## msDebug算子调试工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/quick_start/msdebug_quick_start.md - Description: msDebug 是一款面向昇腾设备的算子调试工具,用于调试在NPU侧执行的算子程序,为算子开发人员提供关键调试能力,包括读取昇腾设备内存与寄存器、断点暂停与恢复程序运行状态等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_quick_start_msdebug_quick_start_md.md ## msKL 算子 Kernel 轻量化调用快速入门 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/quick_start/mskl_quick_start.md - Description: 使用 msKL 工具可以利用其提供的接口在 Python 脚本中快速实现 Kernel 下发的代码生成、编译及运行。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_quick_start_mskl_quick_start_md.md ## msKPP 算子建模工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/quick_start/mskpp_quick_start.md - Description: msKPP 工具用于算子开发前的性能建模设计,开发者基于其 DSL(Domain-Specific Language,领域特定语言),以算子的数学逻辑为输入,编写算子表达式,即可在秒级内获得性能预测结果。该建模仅依赖输入/输出规模,无需执行真实计算,可高效验证算子实现方案。本文档基于入门教程中开发的简易加法算子,演示 msKPP 工具的核心功能,帮助初学者直观感受 msKPP 在算子开发过程中的高 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_quick_start_mskpp_quick_start_md.md ## MindStudio Ops Generator快速入门 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/quick_start/msopgen_quick_start.md - Description: msOpGen 工具在算子开发过程中可自动生成自定义算子工程,使用户能够聚焦于算子的核心逻辑与算法实现,避免在项目搭建、编译配置等重复性工作上耗费大量时间,从而显著提升开发效率。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_quick_start_msopgen_quick_start_md.md ## msOpProf 算子性能调优工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/quick_start/msopprof_quick_start.md - Description: msOpProf 工具用于采集和分析运行在昇腾 AI 处理器上的算子的关键性能指标,用户可根据输出的性能数据,快速定位算子的软、硬件性能瓶颈,提升算子性能的分析效率。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_quick_start_msopprof_quick_start_md.md ## MindStudio Ops System Test快速入门 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/quick_start/msopst_quick_start.md - Description: msOpST工具用于算子开发完成后,对算子功能进行初步测试,该工具可以更加高效地进行算子性能的分析和优化,提高算子的执行效率,降低开发成本。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_quick_start_msopst_quick_start_md.md ## msSanitizer算子检测工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/quick_start/mssanitizer_quick_start.md - Description: msSanitizer 工具是基于昇腾 AI 处理器的异常检测工具,包含单算子开发场景下的内存检测、竞争检测、未初始化检测和同步检测四个子功能。本文档基于入门教程中开发的简易加法算子,演示 msSanitizer 工具的核心功能,帮助初学者直观感受其为算子开发过程带来的高效与便捷。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_quick_start_mssanitizer_quick_start_md.md ## CANN社区版-**问题现象** - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/support/msdebug_faq.md - Description: \#\# msDebug工具打印Tensor变量功能不可用,提示“unavailable”或“memory read failed” 问题现象 提示“unavailable”或“Failed to dereference pointer from xxx for DWOPderef: memory read failed for xxx”。 原因分析 单步调试功能不支持Tensor按值传递的写法。 解 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_support_msdebug_faq_md.md ## 工具介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/support/mskl_faq.md - Description: 本文以 ”我要做什么” 为导向,结合典型场景为您推荐合适的工具。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_MindStudio_2610_zh_user_guide_msot_user_guide_md.md ## MindStudio Sanitizer常见问题 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/support/mssanitizer_faq.md - Description: \#\# msSanitizer工具异常报告中未打印正确的文件名和行号 问题现象 文件名和行号显示为":0",或文件名显示正确,但行号显示为"0"。 解决方案 - 文件名和行号显示为":0"。 说明msSanitizer工具没有解析到正确的文件名和行号,根据用户的检测场景,有以下两种解决方法: - 如果启用了"--check-cann-heap\=yes"选项,对CANN软件栈内存进行检 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_support_mssanitizer_faq_md.md ## 开启全量检测 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/user_guide/compile_option_config.md - Description: 如需启用全量检测,须在算子代码的编译阶段添加相应编译选项并重新编译算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_user_guide_compile_option_config_md.md ## 扩展功能 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/user_guide/extended_functions.md - Description: 编写算子的定义json文件,配置参数的具体说明请参考**表 1** json文件配置参数说明和**表 2** test\_case参数字段说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_user_guide_extended_functions_md.md ## MindStudio Debugger工具用户指南 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/user_guide/msdebug_user_guide.md - Description: MindStudio Debugger(算子调试工具,msDebug)是一款面向昇腾设备的算子调试工具,用于调试NPU侧运行的算子程序,为算子开发人员提供调试手段。调试手段包括了读取昇腾设备内存与寄存器、暂停与恢复程序运行状态等。用户使用其他拉起算子的方式或msOpST工具在真实的硬件环境中对算子的功能进行测试后,可根据实际测试情况选择是否使用msDebug工具进行功能调试。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_user_guide_msdebug_user_guide_md.md ## MindStudio Kernel Launcher工具用户指南 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/user_guide/mskl_user_guide.md - Description: MindStudio Kernel Performance Prediction(算子调用工具,msKL)具有调用msOpGen算子工程和基于Ascend C模板库进行自动调优的功能,具体介绍如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_user_guide_mskl_user_guide_md.md ## MindStudio Kernel Performance Prediction 用户指南 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/user_guide/mskpp_user_guide.md - Description: MindStudio Kernel Performance Prediction(算子设计工具,msKPP)具有性能建模分析的功能,在算子开发前,可根据算子的数学逻辑作为输入、基于msKPP提供的接口,写出一个算子实现方案的算子表达式,获得该方案的算子性能建模结果。由于本身针对性能的预测不需要进行真实的计算,仅需要依据输入和输出的规模,给出对应算法的执行时间,故而,可以在秒级给出性能建模结果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_user_guide_mskpp_user_guide_md.md ## MindStudio Ops Generator工具用户指南 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/user_guide/msopgen_user_guide.md - Description: msOpGen目前已支持的功能如下:包括算子工程创建、算子实现(Host侧&Kernel侧)、算子工程编译部署以及解析算子仿真流水图文件等。 表 1 msOpGen工具功能 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_user_guide_msopgen_user_guide_md.md ## msopprof模式性能数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/user_guide/msopprof_performance_data.md - Description: Cube及Vector类型指令的cycle占比数据ArithmeticUtilization.csv,建议优化算子逻辑,减少冗余计算指令。详情介绍请参见下表中的字段说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_user_guide_msopprof_performance_data_md.md ## msOpProf simulator模式性能数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/user_guide/msopprof_simulator_performance_data.md - Description: msOpProf simulator运行模式通过仿真器对算子进行指令级性能仿真,采集完成后会在指定的`--output`目录下生成以`OPPROF\_\{timestamp\}\_XXX`命名的文件夹,输出以下性能数据文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_user_guide_msopprof_simulator_performance_data_md.md ## msopprof simulator模式用户指南 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/user_guide/msopprof_simulator_user_guide.md - Description: MindStudio Ops Profiler(算子调优工具,msOpProf)用于采集和分析运行在AI处理器上算子的关键性能指标,用户可根据输出的性能数据,快速定位算子的软、硬件性能瓶颈,提升算子性能的分析效率。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_user_guide_msopprof_simulator_user_guide_md.md ## msOpProf使用场景 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/user_guide/msopprof_usage.md - Description: > > 本示例中可执行文件的名称(add)仅为示例,具体以当前工程中用户实际编译的脚本为准。 2. 使用如下命令完成msopprof上板性能数据和精细化调优数据的采集,也可参考msopprof模式命令指定其他命令参数。 ```shell msprof op add ``` 3. 修改样例工程的编译文件CMakeLists.txt,构建可运行在仿真器上的算子可执行文 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_user_guide_msopprof_usage_md.md ## msOpProf模式用户指南 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/user_guide/msopprof_user_guide.md - Description: MindStudio Ops Profiler(算子调优工具,msOpProf)用于采集和分析运行在AI处理器上算子的关键性能指标,用户可根据输出的性能数据,快速定位算子的软、硬件性能瓶颈,提升算子性能的分析效率。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_user_guide_msopprof_user_guide_md.md ## MindStudio Sanitizer 使用指南 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/optool/docs/zh/user_guide/mssanitizer_user_guide.md - Description: MindStudio Sanitizer(异常检测工具,msSanitizer)是一种基于AI处理器的工具,包含了单算子开发场景下的内存检测、竞争检测、未初始化检测和同步检测四个子功能: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_optool_docs_zh_user_guide_mssanitizer_user_guide_md.md ## CANN社区版-性能调优工具用于采集和分析运行在AI处理器上的AI任务在各运行阶段的关键性能指标 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling - Description: 性能调优工具用于采集和分析运行在AI处理器上的AI任务在各运行阶段的关键性能指标,用户可根据输出的性能数据,快速定位软、硬件性能瓶颈,提升AI任务性能分析的效率。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0001_html.md ## CANN社区版-性能调优工具用于采集和分析运行在AI处理器上的AI任务在各运行阶段的关键性能指标 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0001.html - Description: 性能调优工具用于采集和分析运行在AI处理器上的AI任务在各运行阶段的关键性能指标,用户可根据输出的性能数据,快速定位软、硬件性能瓶颈,提升AI任务性能分析的效率。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0001_html.md ## 使用前准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0002.html - Description: 1. 根据实际用户场景选择CANN相关软件包安装并配置CANN环境变量,具体请参见《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/softwareinst/instg/instg\_0000.html\)》。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0002_html.md ## 离线推理场景性能分析快速入门 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0005.html - Description: 离线推理场景下,推荐使用msprof命令行方式采集和解析性能数据,并通过生成的结果文件分析性能瓶颈。下文根据AI处理器的PCIe工作模式区分为Ascend EP和Ascend RC两种场景。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0005_html.md ## PyTorch训练场景性能分析快速入门 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0006.html - Description: PyTorch训练场景下,推荐通过Ascend PyTorch Profiler接口采集并解析性能数据,用户可以根据结果自行分析和识别性能瓶颈。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0006_html.md ## msprof采集通用命令 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0010.html - Description: msprof命令行工具提供了AI任务运行性能数据、AI处理器系统数据等性能数据的采集和解析能力。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0010_html.md ## 采集AI任务运行性能数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0011.html - Description: msprof支持采集AI任务运行时相关的性能数据,并且在采集后可以自动进行性能数据解析和文件落盘。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0011_html.md ## 采集AI处理器系统数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0012.html - Description: msprof支持采集AI处理器的系统数据,并且在采集后可以自动进行性能数据解析和文件落盘。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0012_html.md ## 采集Host侧系统数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0014.html - Description: msprof支持采集Host侧的系统数据(CPU利用率、内存利用率、磁盘I/O利用率、网络I/O利用率等),并且在采集后可以自动进行性能数据解析和文件落盘。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0014_html.md ## 采集msproftx数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0015.html - Description: 当用户需要定位应用程序或上层框架程序的性能瓶颈时,可通过特定接口,记录应用程序执行期间特定事件发生的时间跨度,写入性能数据文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0015_html.md ## 动态采集性能数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0016.html - Description: 在执行采集的过程中可以随时启动和停止采集进程。动态采集性能数据支持通过launch和attach两种方式执行: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0016_html.md ## 延迟采集性能数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0017.html - Description: 用户可以通过设置--delay和--duration参数来配置数据采集的延迟时间和持续时间。延迟采集场景下不支持动态采集性能数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0017_html.md ## 解析性能数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0019.html - Description: 该功能只会进行性能数据解析,不会导出性能数据文件,导出性能数据文件功能请参见解析并导出性能数据。 一般情况下,解析性能数据功能不需要单独使用,主要有如下两种使用场景:- 对于性能数据文件解析失败的场景(例如:当存在首次解析由于某些原因导致解析失败,残留文件时),可以使用msprof--parse功能重新解析后,再次执行msprof --export。 - 对于需要指定--iteration-id和 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0019_html.md ## 查询性能数据文件信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0020.html - Description: 本功能用于查询性能数据文件信息,确认导出时指定迭代(Iteration ID)/模型(Model ID)。 性能数据解析时自动打印展示性能数据文件信息,故本功能在数据解析中为可选操作,主要用于已解析的历史PROFXXX目录重新查询性能数据文件信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0020_html.md ## 解析并导出性能数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0021.html - Description: 本功能用于解析并导出性能数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0021_html.md ## CANN社区版-msprof解析工具是通过msprof - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0023.html - Description: msprof解析工具是通过msprof.py脚本封装的,可直接使用msprof解析工具进行性能数据的解析和导出操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0023_html.md ## 解析性能数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0024.html - Description: 本功能用于解析性能数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0024_html.md ## 查询性能数据文件信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0025.html - Description: 本功能用于查询性能数据文件信息,性能数据文件信息中包含迭代(Iteration ID)/模型(Model ID)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0025_html.md ## 导出性能数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0026.html - Description: 本功能用于导出性能数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0026_html.md ## 通信性能数据解析 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0027.html - Description: msprof通信性能数据解析功能主要用于统计通信类的分段耗时、拷贝信息、带宽等信息,以便进行通信类数据分析。通信类数据只有在多卡、多节点或集群场景下存在。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0027_html.md ## 性能数据文件分片 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0028.html - Description: 性能数据文件分片是对于解析完成的timeline数据文件(.json),系统会识别.json文件在Chrome浏览器(“chrome://tracing”)上打开时间的长短,适当将.json文件切分成合适的数量,以方便用户快速打开。分片操作是在执行性能数据导出时自动启动。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0028_html.md ## 获取设备信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0029.html - Description: 性能数据采集完成后可以通过“getmsprofinfo.py”脚本工具在PROFXXX目录下的device\{id\}或host目录文件获取设备信息。“getmsprofinfo.py”功能及安装路径如下: 表1 脚本介绍 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0029_html.md ## MSPTI调优工具 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0031.html - Description: MSPTI调优工具(MSPTI,MindStudio Profiling Tool Interface)是MindStudio针对Ascend设备提出的一套Profiling API,用户可以通过MSPTI构建针对NPU应用程序的工具,用于分析应用程序的性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0031_html.md ## 性能数据采集和自动解析 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0033.html - Description: Ascend PyTorch调优工具(Ascend PyTorch Profiler)是针对PyTorch框架开发的性能分析工具,通过在PyTorch训练/在线推理脚本中添加Ascend PyTorch Profiler,执行训练/在线推理的同时采集性能数据,完成训练/在线推理后直接输出可视化的性能数据文件,提升了性能分析效率。Ascend PyTorch Profiler可全面采集PyTorch - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0033_html.md ## 离线解析 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0034.html - Description: 当使用Ascend PyTorch Profiler接口采集的性能数据较大时,若在当前环境直接使用on\_trace\_ready接口进行自动解析,则可能导致资源占用过大出现卡顿,那么可以取消on\_trace\_ready接口,并通过环境变量ASCEND\_WORK\_PATH设置落盘目录(例如:export ASCEND\_WORK\_PATH\=xx/xx),在采集完成性能数据后,使用如下方式进行离线解析: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0034_html.md ## 数据目录说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0035.html - Description: 性能数据落盘目录结构为: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0035_html.md ## 使用TensorFlow框架接口采集性能数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0037.html - Description: --task-trace后续版本会废弃,请使用--task-time开关控制相关数据采集。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0037_html.md ## Profiling options参数解释 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0039.html - Description: - output:Profiling采集结果文件保存路径。支持配置绝对路径或相对路径(相对执行命令行时的当前路径)。路径中不能包含特殊字符:"\\n"、"\\f"、"\\r"、"\\b"、"\\t"、"\\v"、"\\u007F"。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0039_html.md ## 总体介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0042.html - Description: 本章节提供离线推理场景下,如何通过API方式采集性能数据,支持以下实现方式: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0042_html.md ## 采集并落盘性能数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0043.html - Description: 通过调用API方式开启性能数据采集功能,从而自动采集性能原始数据。采集性能原始数据成功后,可将采集的原始数据拷贝到装有工具的开发环境上进行原始性能数据解析,可视化展示原始性能数据解析结果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0043_html.md ## 使用msproftx扩展接口采集并落盘性能数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0044.html - Description: 为了获取用户和上层框架程序的性能数据,Profiling开启msproftx功能之前,需要在程序内调用msproftx相关接口来对用户程序进行打点以输出对应的性能数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0044_html.md ## 订阅算子信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0045.html - Description: 通过调用消息订阅接口实现将采集到的Profiling数据解析后写入管道,由用户读入内存,再由用户调用API获取性能数据。当前支持获取网络模型中算子的性能数据,包括算子名称、算子类型名称、算子执行时间等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0045_html.md ## 采集数据说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0046.html - Description: 采集性能数据后请参见使用msprof命令解析、查询与导出性能数据将原始数据文件解析并导出为可视化的性能数据文件,保存在PROF\_XXX/mindstudio\_profiler\_output目录下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0046_html.md ## 总体介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0048.html - Description: 本章节提供离线推理场景下,如何通过API方式采集性能数据,支持以下实现方式: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0048_html.md ## 采集并落盘性能数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0049.html - Description: 通过调用API方式启用Profiling功能,从而自动采集性能原始数据。采集性能原始数据成功后,可将采集的原始数据拷贝到装有Ascend-cann-toolkit开发套件包的开发环境上进行原始性能数据解析,可视化展示原始性能数据解析结果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0049_html.md ## 使用msproftx扩展接口采集并落盘性能数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0050.html - Description: 为了获取用户和上层框架程序的性能数据,Profiling开启msproftx功能之前,需要在程序内调用msproftx相关接口来对用户程序进行打点以输出对应的性能数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0050_html.md ## 订阅算子信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0051.html - Description: 通过调用消息订阅接口实现将采集到的Profiling数据解析后写入管道,由用户读入内存,再由用户调用API获取性能数据。当前支持获取网络模型中算子的性能数据,包括算子名称、算子类型名称、算子执行时间等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0051_html.md ## 采集数据说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0052.html - Description: 采集性能数据后请参见使用msprof命令解析、查询与导出性能数据将原始数据文件解析并导出为可视化的timeline和summary文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0052_html.md ## 使用Ascend Graph接口采集性能数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0053.html - Description: Ascend Graph API是在构图过程中采集性能数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0053_html.md ## 使用acl.json配置文件采集性能数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0054.html - Description: 离线推理场景下,用户可以在推理程序中调用acl.json文件,读取性能采集参数,从而自动采集性能原始数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0054_html.md ## 使用环境变量采集性能数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0055.html - Description: 环境变量方式采集适用于TensorFlow框架训练/在线推理场景。与直接使用TensorFlow框架接口采集方式不同的是,环境变量方式是在训练/在线推理脚本中直接插入PROFILING\_OPTIONS环境变量配置性能数据采集项。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0055_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0057.html - Description: 采集性能原始数据,并解析导出成可视化的性能数据文件后,文件目录结构及主要文件如下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0057_html.md ## msprof(timeline数据总表) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0059.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0059_html.md ## msproftx数据说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0061.html - Description: \#\#\#\# 产品支持情况 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0061_html.md ## task\_time(任务调度信息) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0062.html - Description: 任务调度信息数据timeline信息在msprof\_*.json文件的Ascend Hardware层级展示,summary信息在task\_time\_*.csv文件汇总,用于识别AI任务运行时的调度耗时。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0062_html.md ## api\_statistic(API耗时统计信息) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0063.html - Description: API耗时信息统计数据timeline信息在msprof\_*.json文件的CANN层级展示,summary信息在api\_statistic\_*.csv文件汇总,用于统计CANN层的API执行耗时信息,主要包括AscendCL、Runtime、Node、Model、Communication层级的API。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0063_html.md ## step\_trace(迭代轨迹信息) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0064.html - Description: 迭代轨迹数据timeline信息在step\_trace\_*.json文件展示,summary信息在step\_trace\_*.csv文件汇总,用于判断并找出耗时较长的迭代。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0064_html.md ## dp(数据增强信息) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0065.html - Description: 数据增强数据仅在训练场景下生成且仅生成summary数据dp\_*.csv。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0065_html.md ## communication\_statistic(集合通信算子统计信息) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0066.html - Description: 集合通信算子和计算及通信流水掩盖数据timeline信息在msprof\_*.json文件的Communication层级展示,summary信息在communication\_statistic\_*.csv文件汇总,以及在msprof\_*.json下展示“Overlap Analysis”计算及通信的流水掩盖分析数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0066_html.md ## op\_statistic(算子调用次数及耗时) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0068.html - Description: AI Core和AI CPU算子调用的次数及耗时数据无timeline信息,summary信息在op\_statistic\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0068_html.md ## ai\_core\_utilization(AI Core指令占比) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0069.html - Description: AI Core指令占比数据timeline信息在msprof\_*.json文件的AI Core Utilization层级展示,summary信息在ai\_core\_utilization\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0069_html.md ## ai\_vector\_core\_utilization(AI Vector Core指令占比) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0070.html - Description: AI Vector Core指令占比数据无timeline信息,summary信息在ai\_vector\_core\_utilization\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0070_html.md ## aicpu(AI CPU算子详细耗时) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0071.html - Description: aicpu算子详细耗时数据无timeline信息,summary信息在aicpu\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0071_html.md ## aicpu\_mi(数据准备的队列) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0072.html - Description: 数据准备的队列大小。数据下沉场景下开启aicpu时生成。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0072_html.md ## l2\_cache(L2 Cache命中率) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0073.html - Description: L2 Cache数据无timeline信息,summary信息在l2\_cache\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0073_html.md ## fusion\_op(算子融合信息) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0074.html - Description: 展示模型中算子融合前后的信息数据,该数据无timeline信息,summary信息在fusion\_op\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0074_html.md ## CANN社区版-npu\_mem(NPU内存占用) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0075.html - Description: NPU内存占用数据timeline信息在msprof\_*.json文件的NPU MEM层级展示,summary信息在npu\_mem\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0075_html.md ## CANN社区版-npu\_module\_mem(NPU组件内存占用) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0076.html - Description: NPU组件内存占用数据无timeline信息,summary信息在npu\_module\_mem\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0076_html.md ## memory\_record(CANN算子的内存占用记录) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0077.html - Description: CANN算子的内存占用记录无timeline信息,summary信息在memory\_record\_*.csv文件汇总,主要记录CANN层级的GE组件申请的内存及占用时间。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0077_html.md ## operator\_memory(CANN算子的内存占用明细) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0078.html - Description: CANN算子的内存占用明细无timeline信息,summary信息在operator\_memory\_*.csv文件汇总,主要记录CANN层级的算子在NPU上执行时所需内存及占用时间。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0078_html.md ## static\_op\_mem(静态图算子内存) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0079.html - Description: 静态图算子内存无timeline信息,summary信息在static\_op\_mem\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0079_html.md ## sys\_mem(系统内存数据) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0080.html - Description: 系统内存数据无timeline信息,summary信息在sys\_mem\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0080_html.md ## process\_mem(进程内存占用数据) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0081.html - Description: 进程内存占用数据无timeline信息,summary信息在process\_mem\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0081_html.md ## cpu\_usage(AI CPU、Ctrl CPU利用率) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0082.html - Description: AI CPU(执行AI CPU算子)、Ctrl CPU(执行Driver任务)利用率数据无timeline信息,summary信息在cpu\_usage\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0082_html.md ## process\_cpu\_usage(进程CPU占用率) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0083.html - Description: 进程CPU占用率数据无timeline信息,summary信息在process\_cpu\_usage\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0083_html.md ## 片上内存读写速率 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0084.html - Description: 片上内存读写速率数据timeline信息在msprof\_*.json文件展示,summary信息在ddr\_*.csv和hbm\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0084_html.md ## hccs(集合通信带宽) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0086.html - Description: HCCS集合通信带宽数据timeline信息在msprof\_*.json文件的HCCS层级展示,summary信息在hccs\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0086_html.md ## nic(每个时间节点网络信息) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0087.html - Description: 每个时间节点网络信息数据timeline信息在msprof\_*.json文件的NIC层级展示,summary信息在nic\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0087_html.md ## roce(RoCE通信接口带宽) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0088.html - Description: RoCE通信接口带宽数据timeline信息在msprof\_*.json文件的RoCE层级展示,summary信息在roce\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0088_html.md ## pcie(PCIe带宽) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0089.html - Description: PCIe带宽数据timeline信息在msprof\_*.json文件的PCIe层级展示,summary信息在pcie\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0089_html.md ## biu\_group/aic\_core\_group/aiv\_core\_group(AI Core和AI Vector的带宽和延时) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0090.html - Description: AI Core和AI Vector的带宽和延时数据无summary信息,timeline信息在msprof\_*.json文件的biu\_group、aic\_core\_group、aiv\_core\_group层级展示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0090_html.md ## Acc PMU(加速器带宽及并发信息) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0091.html - Description: 加速器带宽及并发数据无summary信息,timeline信息在msprof\_*.json文件的Acc PMU层级展示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0091_html.md ## Stars Soc Info(SoC传输带宽信息) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0092.html - Description: SoC传输带宽信息数据无summary信息,timeline信息在msprof\_*.json文件的Stars Soc Info层级展示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0092_html.md ## Stars Chip Trans(片间传输带宽信息) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0093.html - Description: 片间传输带宽信息数据无summary信息,timeline信息在msprof\_*.json文件的Stars Chip Trans层级展示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0093_html.md ## llc\_read\_write(三级缓存读写速率) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0094.html - Description: 三级缓存读写速率数据timeline信息在msprof\_*.json文件的LLC层级展示,summary信息在llc\_read\_write\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0094_html.md ## dvpp(DVPP信息) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0098.html - Description: DVPP数据无timeline信息,summary信息在dvpp\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0098_html.md ## ai\_cpu\_top\_function(AI CPU热点函数) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0099.html - Description: AI CPU热点函数数据无timeline信息,summary信息在ai\_cpu\_top\_function\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0099_html.md ## ai\_cpu\_pmu\_events(AI CPU PMU事件) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0100.html - Description: AI CPU PMU事件数据无timeline信息,summary信息在ai\_cpu\_pmu\_events\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0100_html.md ## ctrl\_cpu\_top\_function(Ctrl CPU热点函数) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0101.html - Description: Ctrl CPU热点函数数据无timeline信息,summary信息在ctrl\_cpu\_top\_function\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0101_html.md ## ctrl\_cpu\_pmu\_events(Ctrl CPU PMU事件) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0102.html - Description: Ctrl CPU PMU事件数据无timeline信息,summary信息在ctrl\_cpu\_pmu\_events\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0102_html.md ## ts\_cpu\_top\_function(TS CPU热点函数) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0103.html - Description: TS CPU热点函数数据无timeline信息,summary信息在ts\_cpu\_top\_function\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0103_html.md ## ts\_cpu\_pmu\_events(TS CPU PMU事件) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0104.html - Description: TS CPU PMU事件数据无timeline信息,summary信息在ts\_cpu\_pmu\_events\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0104_html.md ## host\_cpu\_usage(Host侧CPU利用率) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0106.html - Description: Host侧CPU利用率数据在msprof\_*.json文件的CPU Usage层级展示,summary信息在host\_cpu\_usage\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0106_html.md ## host\_mem\_usage(Host侧内存利用率) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0107.html - Description: Host侧内存利用率数据timeline信息在msprof\_*.json文件的Memory Usage层级展示,summary信息在host\_mem\_usage\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0107_html.md ## host\_disk\_usage(Host侧磁盘I/O利用率) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0108.html - Description: Host侧磁盘I/O利用率数据timeline信息在msprof\_*.json文件的Disk Usage层级展示,summary信息在host\_disk\_usage\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0108_html.md ## host\_network\_usage(Host侧网络I/O利用率) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0109.html - Description: Host侧网络I/O利用率数据timeline信息在msprof\_*.json文件的Network Usage层级展示,summary信息在host\_network\_usage\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0109_html.md ## os\_runtime\_statistic(Host侧syscall和pthreadcall) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0110.html - Description: Host侧syscall和pthreadcall数据timeline信息在msprof\_*.json文件的OS Runtime API层级展示,summary信息在os\_runtime\_statistic\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0110_html.md ## cpu\_usage(Host侧系统CPU利用率) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0111.html - Description: Host侧系统CPU利用率数据无timeline信息,summary信息在cpu\_usage\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0111_html.md ## process\_cpu\_usage(Host侧进程CPU利用率) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0112.html - Description: Host侧进程CPU利用率数据无timeline信息,summary信息在process\_cpu\_usage\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0112_html.md ## sys\_mem(Host侧系统内存利用率) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0113.html - Description: Host侧系统内存利用率数据无timeline信息,summary信息在sys\_mem\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0113_html.md ## process\_mem(Host侧进程内存利用率) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0114.html - Description: Host侧进程内存利用率数据无timeline信息,summary信息在process\_mem\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0114_html.md ## 安装perf、iotop、ltrace工具 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0136.html - Description: perf、iotop、ltrace为第三方工具,以下安装方式仅为示例,请用户根据实际环境自行适配。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0136_html.md ## 配置用户权限 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0137.html - Description: 完成安装perf、iotop、ltrace工具后,需要给用户配置依赖权限。可参见如下步骤进行配置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0137_html.md ## 集群训练场景性能分析 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0138.html - Description: 一个集群是由多个节点组成,每个节点都有单独的系统,通过管理界面统一管理。在集群场景执行采集每个节点的性能数据,每个节点均生成一个PROF\_XXX目录并进行预解析,将各个节点的PROF\_XXX目录汇总到OBS。用户需要手动将OBS汇总的所有PROF\_XXX目录拷贝到可以展示和分析集群数据的环境下进行展示和分析。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0138_html.md ## mstx API使用示例 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0142.html - Description: 本节中提供的代码仅为示例,非完整代码,完整样例代码获取请参照如下步骤: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0142_html.md ## 其他工具 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_0145.html - Description: Driver包中提供了其他工具,用于协助Profiling工具进行性能数据采集,用户无需直接使用,相关说明如下表所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_0145_html.md ## msprof导出db格式数据说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_1144.html - Description: 详细介绍请参见《DB格式性能数据文件参考\(https://gitcode.com/Ascend/msprof/blob/master/docs/zh/user\_guide/profile\_data\_file\_references\_db.md\)》。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_1144_html.md ## ascend\_pytorch\_profiler\_\{Rank\_ID\}.db数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_1145.html - Description: 该文件为表结构文件,该文件推荐使用MindStudio Insight工具查看,也可以使用Navicat Premium等数据库开发工具直接打开。当前db文件汇总的性能数据如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_1145_html.md ## analysis.db数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_1147.html - Description: 该文件为表结构文件,推荐使用MindStudio Insight工具查看,也可以使用Navicat Premium等数据库开发工具直接打开。当前db文件汇总的性能数据如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_1147_html.md ## timeline和summary数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_1149.html - Description: 图1 trace\_view - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_1149_html.md ## PyTorch多卡大集群场景如何避免性能数据直接落盘到共享存储时导致的性能膨胀问题 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_1158.html - Description: PyTorch多卡大集群场景在使用Ascend PyTorch Profiler接口采集并落盘性能数据时,通过使用on\_trace\_ready执行tensorboard\_trace\_handler函数的方式进行性能数据落盘。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_1158_html.md ## 性能数据采集和自动解析 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_1159.html - Description: MindSpore Profiler是针对MindSpore框架开发的性能分析工具,通过在MindSpore训练脚本中添加MindSpore Profiler接口,执行训练的同时采集性能数据,完成训练后直接输出可视化的性能数据文件,提升了性能分析效率。MindSpore Profiler接口可全面采集MindSpore训练场景下的性能数据,主要包括MindSpore层算子信息、CANN层算子信息、 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_1159_html.md ## 离线解析 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_1160.html - Description: 若需要重新解析MindSpore Profiler接口采集的性能数据,可以使用mindspore.profiler.profiler.analyse接口进行离线解析。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_1160_html.md ## MindSpore场景特有数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_1161.html - Description: 文件主要汇总所有性能数据的.db格式文件。字段说明以msprof导出db格式数据说明为参考,实际结果略有不同,请以实际情况为准。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_1161_html.md ## ccu\_mission(集合通信指令信息) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_1162.html - Description: 集合通信指令timeline信息在msprof\_*.json文件的CCU层级展示,summary信息在ccu\_mission\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_1162_html.md ## ub(UB带宽数据) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_1163.html - Description: UB带宽数据timeline信息在msprof\_*.json文件的UB层级展示,summary信息在ub\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_1163_html.md ## ccu\_channel(集合通信硬件加速单元带宽信息) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_1164.html - Description: 集合通信硬件加速单元(CCU)带宽无timeline信息,summary信息在ccu\_channel\_*.csv文件汇总。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_1164_html.md ## soc\_pmu(TLB命中率) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_1165.html - Description: TLB页表缓存命中率数据,文件名为soc\_pmu\_*.csv,该文件记录页表缓存命中情况。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_1165_html.md ## 性能调优建议 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/atlasprofiling_16_2260.html - Description: 该功能为msprof工具解析后输出调优建议的功能,已不再演进,分析性能数据并输出调优建议更多的功能请参见《msprof-analyze\(https://gitcode.com/Ascend/msprof-analyze\)》。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_atlasprofiling_16_2260_html.md ## CANN社区版-本文介绍推理服务化性能数据采集工具 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0002.html - Description: 本文介绍推理服务化性能数据采集工具,本工具主要使用msServiceProfiler接口,在MindIE Motor推理服务化进程中,采集关键过程的开始和结束时间点,识别关键函数或迭代等信息,记录关键事件,支持多样的信息采集,对性能问题快速定界。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0002_html.md ## 产品支持情况 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0003.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0003_html.md ## 使用前准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0004.html - Description: 工具支持的硬件环境与MindIE一致,详细支持情况请参见《MindIE安装指南》的“安装说明”。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0004_html.md ## 数据采集 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0005.html - Description: 采集服务化性能数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0005_html.md ## 数据解析 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0008.html - Description: 解析服务化性能数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0008_html.md ## 解析结果 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0011.html - Description: ms\_service\_profiler.parse解析生成的结果如下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0011_html.md ## MindStudio Insight可视化 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0013.html - Description: MindStudio Insight工具支持对服务化调优工具采集并解析的性能数据(解析结果)进行可视化,当前支持chrome\_tracing.json文件及profiler.db文件的可视化,详细操作及可视化结果介绍请参见《MindStudio Insight工具用户指南》中的“服务化调优”章节。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0013_html.md ## Chrome tracing可视化 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0014.html - Description: Chrome tracing工具支持对服务化调优工具采集并解析的chrome\_tracing.json文件进行可视化,操作如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0014_html.md ## Grafana可视化 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0015.html - Description: Grafana工具支持对服务化调优工具采集并解析的性能数据进行可视化展示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0015_html.md ## 自定义添加采集代码 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0020.html - Description: MindIE Motor推理服务化框架中默认已添加性能数据采集代码,当前步骤可选。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0020_html.md ## 服务化性能数据比对工具 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0021.html - Description: 大模型推理服务化不同版本,不同框架之间可能存在性能差异,服务化性能数据比对工具支持对使用msServiceProfiler工具采集的性能数据进行差异比对,通过比对快速识别可能存在的问题点。详细介绍请参见《服务化性能数据比对工具\(https://gitcode.com/Ascend/msit/blob/master/msserviceprofiler/docs/服务化性能数据比对工具.md\)》。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0021_html.md ## vLLM服务化性能采集工具 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0022.html - Description: 本工具基于Ascend-vLLM,提供性能数据采集能力,结合msServiceProfiler的数据解析与可视化能力,进行vLLM服务化推理调试调优。详细介绍请参见《vLLM服务化性能采集工具\(https://gitcode.com/Ascend/msit/blob/master/msserviceprofiler/docs/vLLM服务化性能采集工具.md\)》。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0022_html.md ## 服务化自动寻优工具 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0023.html - Description: 本工具基于msServiceProfiler工具采集的性能数据,提供服务化参数自动寻优能力,可以对服务化的参数以及测试工具的参数进行寻优。详细介绍请参见《服务化自动寻优工具\(https://gitcode.com/Ascend/msit/blob/master/msserviceprofiler/docs/服务化自动寻优工具.md\)》。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0023_html.md ## CANN社区版-msServiceProfiler Trace提供基于OpenTelemetry - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0025.html - Description: msServiceProfiler Trace提供基于OpenTelemetry Protocol(OTLP)协议的Trace数据转发服务,该服务用于接收、处理和转发分布式Trace数据,帮助用户监控和分析微服务架构的性能表现。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0025_html.md ## 产品支持情况 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0026.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0026_html.md ## 使用前准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0027.html - Description: 1. 在昇腾NPU环境安装配套版本的CANN Toolkit开发套件包和ops算子包并配置CANN环境变量,具体请参见《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/softwareinst/instg/instg\_0000.html\)》。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0027_html.md ## 开启采集开关 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0029.html - Description: 1. 通过配置环境变量MS\_TRACE\_ENABLE开启Trace采集开关。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0029_html.md ## 配置目标采集服务器 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0030.html - Description: 出于安全考虑,推荐用户使用安全模式,建议使用TLS认证。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0030_html.md ## 启动Trace转发进程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0031.html - Description: 启动Trace转发进程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0031_html.md ## 发送请求 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0032.html - Description: 当前建议使用/v1/chat/completions及/v1/completions接口发送请求。且这两个接口的HTTP请求头中需要添加“开启采样”信息。当前支持添加“开启采样”的HTTP请求头格式如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0032_html.md ## 输出结果说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0033.html - Description: 完成发送请求后,可以在支持OTLP协议的开源监控平台(例如Jaeger,须先开启Jaeger平台服务)查看可视化结果,示例如下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0033_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0037.html - Description: msServiceProfiler模块提供推理服务化性能数据采集(C++)接口,用于采集服务化调优场景性能数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0037_html.md ## CANN社区版-IsEnable - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0038.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0038_html.md ## CANN社区版-SpanStart - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0039.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0039_html.md ## CANN社区版-SpanEnd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0040.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0040_html.md ## CANN社区版-Metric - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0041.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0041_html.md ## CANN社区版-MetricInc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0042.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0042_html.md ## CANN社区版-MetricScope - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0043.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0043_html.md ## CANN社区版-MetricScopeAsReqID - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0044.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0044_html.md ## CANN社区版-MetricScopeAsGlobal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0045.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0045_html.md ## CANN社区版-Launch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0046.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0046_html.md ## CANN社区版-Event - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0047.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0047_html.md ## CANN社区版-Link - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0048.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0048_html.md ## Attr系列 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0049.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0049_html.md ## CANN社区版-ArrayResource - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0050.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0050_html.md ## CANN社区版-Resource - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0051.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0051_html.md ## CANN社区版-Domain - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0052.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0052_html.md ## CANN社区版-NumArrayAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0053.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0053_html.md ## CANN社区版-ArrayAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0054.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0054_html.md ## CANN社区版-GetMsg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0055.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0055_html.md ## 宏定义 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0056.html - Description: - PROF:将采集语句封装起来,这样可以通过ENABLE\_PROF宏定义在编译期间控制是否采集数据,支持传入一个参数或者两个参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0056_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0058.html - Description: Trace模块提供推理服务化性能数据采集(C++)接口,用于Trace数据监控。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0058_html.md ## 示例代码 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0059.html - Description: 以下是关键步骤的代码示例,不可以直接拷贝编译运行,仅供参考。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0059_html.md ## CANN社区版-GetTraceCtx - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0061.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0061_html.md ## CANN社区版-addResAttribute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0062.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0062_html.md ## CANN社区版-ExtractAndAttach - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0063.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0063_html.md ## CANN社区版-Attach - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0064.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0064_html.md ## CANN社区版-Unattach - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0065.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0065_html.md ## CANN社区版-GetCurrent - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0066.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0066_html.md ## CANN社区版-Span - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0068.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0068_html.md ## CANN社区版-Activate - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0069.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0069_html.md ## CANN社区版-SetAttribute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0070.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0070_html.md ## CANN社区版-SetStatus - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0071.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0071_html.md ## CANN社区版-End - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0072.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0072_html.md ## CANN社区版-StartSpanAsActive - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0074.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0074_html.md ## CANN社区版-IsEnable - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0075.html - Description: 昇腾AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0075_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0078.html - Description: msServiceProfiler模块提供推理服务化性能数据采集(Python)接口,用于实现采集服务化调优场景性能数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0078_html.md ## CANN社区版-init - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0079.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0079_html.md ## \_\_enter\_\_/\_\_exit\_\_ - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0080.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0080_html.md ## CANN社区版-span\_start - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0081.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0081_html.md ## CANN社区版-span\_end - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0082.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0082_html.md ## CANN社区版-event - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0083.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0083_html.md ## CANN社区版-link - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0084.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0084_html.md ## CANN社区版-metric - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0085.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0085_html.md ## CANN社区版-metric\_inc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0086.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0086_html.md ## CANN社区版-metric\_scope - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0087.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0087_html.md ## CANN社区版-metric\_scope\_as\_req\_id - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0088.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0088_html.md ## CANN社区版-launch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0089.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0089_html.md ## CANN社区版-attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0090.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0090_html.md ## CANN社区版-domain - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0091.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0091_html.md ## CANN社区版-res - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0092.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0092_html.md ## CANN社区版-get\_msg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/devaids/Profiling/mindieprofiling_0093.html - Description: AI处理器与昇腾产品的对应关系,请参见《昇腾产品形态说明\(https://www.hiascend.com/document/detail/zh/AscendFAQ/ProduTech/productform/hardwaredesc\_0001.html\)》 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_devaids_Profiling_mindieprofiling_0093_html.md ## CANN社区版-CANN - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/index/index.html - Description: 异构计算架构CANN(Compute Architecture for Neural Networks)是昇腾针对AI场景推出的异构计算架构,向上支持多种AI框架,包括MindSpore、PyTorch、TensorFlow等,向下服务AI处理器与编程,发挥承上启下的关键作用,是提升昇腾AI处理器计算效率的关键平台。同时针对多样化应用场景,提供多层次编程接口,支持用户快速构建基于昇腾平台的AI应用 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_index_index_html.md ## 基础数据结构和接口列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi - Description: 本文档提供了进行算子开发和图开发时依赖的基础数据结构和接口说明,分类如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00001_html.md ## 基础数据结构和接口列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00001.html - Description: 本文档提供了进行算子开发和图开发时依赖的基础数据结构和接口说明,分类如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00001_html.md ## CANN社区版-本类用于描述算子原型定义中输入输出信息与算子实例化后实际输入输出之间的映射关系 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00004.html - Description: 本类用于描述算子原型定义中输入输出信息与算子实例化后实际输入输出之间的映射关系。每个AnchorInstanceInfo对象对应一个输入或输出,并记录两个关键信息: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00004_html.md ## 构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00005.html - Description: 提供了默认的构造函数以及指定了两个数据成员信息的构造函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00005_html.md ## CANN社区版-GetInstanceNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00006.html - Description: 获取当前输入/输出Anchor被实例化的实例个数(即instantiation\_num\_字段)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00006_html.md ## CANN社区版-GetInstanceStart - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00007.html - Description: 获取当前输入/输出Anchor首个实例化实例的index。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00007_html.md ## CANN社区版-SetInstanceStart - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00008.html - Description: 设置当前输入/输出Anchor首个实例化实例的起始index。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00008_html.md ## CANN社区版-SetInstantiationNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00009.html - Description: 设置当前输入/输出被实例化的实例个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00009_html.md ## 构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00011.html - Description: CompileTimeTensorDesc类用于描述编译时的Tensor描述信息,包含dtype信息以及format信息。由于编译时无法确定shape,因此不包含shape信息。该函数为CompileTimeTensorDesc类的构造函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00011_html.md ## CANN社区版-GetDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00012.html - Description: 获取CompileTimeTensorDesc所描述的Tensor的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00012_html.md ## CANN社区版-GetFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00013.html - Description: 获取编译时Tensor的数据排布格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00013_html.md ## CANN社区版-GetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00014.html - Description: 获取CompileTimeTensorDesc所描述Tensor的原始数据排布格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00014_html.md ## CANN社区版-GetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00015.html - Description: 获取运行时Tensor中存储数据的实际排布格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00015_html.md ## CANN社区版-GetExpandDimsType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00016.html - Description: 获取原始Format向运行时Format转换时的补维规则。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00016_html.md ## CANN社区版-SetDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00017.html - Description: 向CompileTimeTensorDesc中设置Tensor的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00017_html.md ## CANN社区版-SetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00018.html - Description: 向CompileTimeTensorDesc中设置运行时Tensor的数据排布格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00018_html.md ## CANN社区版-SetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00019.html - Description: 向CompileTimeTensorDesc中设置Tensor的原始数据排布格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00019_html.md ## CANN社区版-SetExpandDimsType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00020.html - Description: 设置原始Format向运行时Format转换时的补维规则。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00020_html.md ## CANN社区版-ComputeNodeInfo用于序列化保存算子的相关编译信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00022.html - Description: ComputeNodeInfo用于序列化保存算子的相关编译信息,包括算子类型、算子名称、输入输出数量、编译时张量的基本信息(CompileTimeTensorDesc)和输入输出实例化信息(AnchorInstanceInfo)。此外,该类还支持获取和设置算子原型中定义的属性的值(RuntimeAttrs)。ComputeNodeInfo的序列化内存空间是平铺式的,内存排布顺序为ComputeNo - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00022_html.md ## 构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00023.html - Description: ComputeNodeInfo类的构造函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00023_html.md ## CANN社区版-GetNodeType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00024.html - Description: \#\#\#\# 函数功能 获取算子的类型。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00024_html.md ## CANN社区版-GetNodeName - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00025.html - Description: \#\#\#\# 函数功能 获取算子的名称。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00025_html.md ## CANN社区版-GetIrInputsNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00026.html - Description: 获取算子IR原型定义中的输入个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00026_html.md ## CANN社区版-GetInputsNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00027.html - Description: 获取算子在网络中的实际输入个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00027_html.md ## CANN社区版-GetOutputsNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00028.html - Description: 获取算子在网络中的实际输出个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00028_html.md ## CANN社区版-GetIrOutputsNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00029.html - Description: 获取算子IR原型定义中的输出个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00029_html.md ## CANN社区版-GetInputInstanceInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00030.html - Description: 根据算子IR原型中的输入索引,获取对应的实例化对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00030_html.md ## CANN社区版-GetOutputInstanceInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00031.html - Description: 根据算子IR原型中的输出索引,获取对应的实例化对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00031_html.md ## CANN社区版-GetInputTdInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00032.html - Description: 根据输入索引信息,获取算子的对应输入Tensor描述,注意,编译时无法确定的shape信息不在Tensor描述中(由于编译时无法确定shape,因此该Tensor描述里不包含shape信息)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00032_html.md ## CANN社区版-GetOutputTdInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00033.html - Description: 获取算子指定输出的Tensor描述,注意,编译时无法确定的shape信息不在Tensor描述中(由于编译时无法确定shape,因此该Tensor描述里不包含shape信息)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00033_html.md ## CANN社区版-GetAttrs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00034.html - Description: \#\#\#\# 函数功能 获取算子的属性值。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00034_html.md ## CANN社区版-MutableInputInstanceInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00035.html - Description: 根据算子IR原型中的输入索引,获取对应的实例化对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00035_html.md ## CANN社区版-MutableOutputInstanceInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00036.html - Description: 根据算子IR原型中的输出索引,获取对应的实例化对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00036_html.md ## CANN社区版-MutableInputTdInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00037.html - Description: 根据输入索引信息,获取算子的对应输入Tensor描述,注意,编译时无法确定的shape信息不在Tensor描述中(由于编译时无法确定shape,因此该Tensor描述里不包含shape信息)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00037_html.md ## CANN社区版-MutableOutputTdInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00038.html - Description: 获取算子的输出Tensor描述,注意,编译时无法确定的shape信息不在Tensor描述中(由于编译时无法确定shape,因此该Tensor描述里不包含shape信息)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00038_html.md ## CANN社区版-MutableAttrs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00039.html - Description: 获取算子的属性值,仅在算子IR原型定义和调用IMPL\_OP宏注册的属性值会被返回,其他属性值被丢弃。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00039_html.md ## CANN社区版-SetNodeType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00040.html - Description: \#\#\#\# 函数功能 设置算子的类型。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00040_html.md ## CANN社区版-SetNodeName - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00041.html - Description: 设置该ComputeNodeInfo对应的算子的名称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00041_html.md ## CANN社区版-Init - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00042.html - Description: 初始化ComputeNodeInfo类。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00042_html.md ## CANN社区版-CalcSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00043.html - Description: 用于计算算子对应的ComputeNodeInfo需要预分配的内存空间大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00043_html.md ## CANN社区版-本类是一个POD类 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00045.html - Description: 本类是一个POD类,在一块连续的内存空间中存储数据的描述信息以及实际的数据元素,元素类型为ContinuousVector结构。不支持动态扩容。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00045_html.md ## CANN社区版-Init - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00046.html - Description: 初始化ContinuousVectorVector类。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00046_html.md ## CANN社区版-Add - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00047.html - Description: 新增一个ContinuousVector元素,其中新增ContinuousVector元素的容量为inner\_vector\_capacity。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00047_html.md ## CANN社区版-Get - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00048.html - Description: 获取第index个元素的首地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00048_html.md ## CANN社区版-GetSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00049.html - Description: 获取当前存放的实际元素数量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00049_html.md ## CANN社区版-GetOverHeadLength - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00050.html - Description: 获取数据描述信息的长度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00050_html.md ## CANN社区版-本类是一个POD类 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00052.html - Description: 本类是一个POD类,在一块连续的内存空间中存储描述信息以及实际的数据元素(元素类型由模板参数T指定)。不支持动态扩容。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00052_html.md ## CANN社区版-Create - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00053.html - Description: 创建一个ContinuousVector实例,ContinuousVector不支持动态扩容。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00053_html.md ## CANN社区版-Init - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00054.html - Description: 使用最大容量初始化本实例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00054_html.md ## CANN社区版-GetSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00055.html - Description: 获取当前保存的元素个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00055_html.md ## CANN社区版-SetSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00056.html - Description: 设置当前保存的元素个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00056_html.md ## CANN社区版-GetCapacity - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00057.html - Description: 获取最大可保存的元素个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00057_html.md ## CANN社区版-GetData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00058.html - Description: 获取首个元素的指针地址,\[GetData\(\), reinterpret\_cast\(GetData\(\)\) + GetSize\(\)\) 中的数据即为当前容器中保存的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00058_html.md ## CANN社区版-MutableData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00059.html - Description: 获取首个元素的指针地址,\[MutableData\(\), reinterpret\_cast\(MutableData\(\)\) + GetSize\(\)\) 中的数据即为当前容器中保存的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00059_html.md ## CANN社区版-ExpandDimsType类基于补维后的shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00061.html - Description: ExpandDimsType类基于补维后的shape,描述了补维规则。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00061_html.md ## 构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00062.html - Description: \#\#\#\# 函数功能 创建一个补维规则。 \#\#\#\# 函数原型 - 构造的实例中,补维规则(mask)以及补维后的维度(size)均为0 1 ExpandDimsType\(\) : size\(0U\), mask\(0U\) - 通过字符串创建一个补维规则 1 explicit ExpandDimsType\(const ge::chart const expanddimstype\) - 通过int64 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00062_html.md ## operator\=\= - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00063.html - Description: 判断本补维规则对象与另一个对象是否一致。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00063_html.md ## CANN社区版-GetFullSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00064.html - Description: 获取补维后的dim数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00064_html.md ## CANN社区版-SetExpandIndex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00065.html - Description: 将第index轴设置为补维轴。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00065_html.md ## CANN社区版-IsExpandIndex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00066.html - Description: 基于补维后的shape,判断指定的index轴是否为补维轴。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00066_html.md ## Expand(输出新shape) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00067.html - Description: 对shape做补维,并将补维后的结果写入指定的输出shape对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00067_html.md ## Expand(更改原shape) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00068.html - Description: 对shape做补维,并将补维后的结果直接更新原shape对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00068_html.md ## CANN社区版-GetInputDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00071.html - Description: 根据算子输入索引获取对应输入的tensor描述信息。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00071_html.md ## CANN社区版-GetOutputDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00072.html - Description: 根据算子输出索引获取对应输出的tensor描述信息。这里的输出索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00072_html.md ## CANN社区版-GetOptionalInputDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00073.html - Description: 根据算子原型定义中的输入索引获取对应可选输入的tensor描述信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00073_html.md ## CANN社区版-GetDynamicInputDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00074.html - Description: 根据算子原型定义中的输入索引获取对应动态输入的tensor描述信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00074_html.md ## CANN社区版-GetRequiredInputDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00075.html - Description: 根据算子原型定义中的输入索引获取对应必选输入的tensor描述信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00075_html.md ## CANN社区版-GetIrInputInstanceInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00076.html - Description: 根据算子原型定义中的输入索引获取对应输入的实例化信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00076_html.md ## CANN社区版-GetIrOutputInstanceInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00077.html - Description: 根据算子原型定义中的输出索引获取对应输出的实例化信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00077_html.md ## CANN社区版-GetComputeNodeInputNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00078.html - Description: 获取算子的输入个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00078_html.md ## CANN社区版-GetComputeNodeOutputNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00079.html - Description: 获取算子的输出个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00079_html.md ## CANN社区版-GetAttrs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00080.html - Description: 获取算子的属性值,仅在算子IR原型定义中的属性值会被返回,其他属性值被丢弃。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00080_html.md ## CANN社区版-GetNodeType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00081.html - Description: \#\#\#\# 函数功能 获取算子的类型。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00081_html.md ## CANN社区版-GetNodeName - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00082.html - Description: \#\#\#\# 函数功能 获取算子的名称。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00082_html.md ## CANN社区版-GetComputeNodeInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00083.html - Description: 获取本Kernel对应的计算节点的信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00083_html.md ## CANN社区版-GetKernelName - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00084.html - Description: 获取本kernel的名称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00084_html.md ## CANN社区版-GetKernelType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00085.html - Description: 获取本kernel的类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00085_html.md ## CANN社区版-GetExtendInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00086.html - Description: 获取本kernel的扩展信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00086_html.md ## CANN社区版-GetInputDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00088.html - Description: 根据算子输入索引获取对应输入的数据类型。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00088_html.md ## CANN社区版-GetOptionalInputDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00089.html - Description: 根据算子原型定义中的输入索引获取对应可选输入的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00089_html.md ## CANN社区版-GetDynamicInputDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00090.html - Description: 根据算子原型定义中的输入索引获取对应动态输入的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00090_html.md ## CANN社区版-GetRequiredInputDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00091.html - Description: 根据算子原型定义中的输入索引获取对应必选输入的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00091_html.md ## CANN社区版-GetOutputDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00092.html - Description: 根据算子输出索引获取对应输出的数据类型。这里的输出索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00092_html.md ## CANN社区版-SetOutputDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00093.html - Description: 根据输出索引,设置指定输出的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00093_html.md ## CANN社区版-GetInputShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00095.html - Description: 根据算子输入索引获取对应的输入shape指针。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00095_html.md ## CANN社区版-GetInputTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00096.html - Description: 根据算子输入索引获取对应的输入tensor指针。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00096_html.md ## CANN社区版-GetOptionalInputShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00097.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入shape指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00097_html.md ## CANN社区版-GetDynamicInputShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00098.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入shape指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00098_html.md ## CANN社区版-GetRequiredInputTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00099.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入tensor指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00099_html.md ## CANN社区版-GetRequiredInputShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00100.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入shape指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00100_html.md ## CANN社区版-GetOutputShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00101.html - Description: 根据算子输出索引获取对应的输出Shape指针。这里的输出索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00101_html.md ## CANN社区版-GetInputShapeRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00104.html - Description: 根据算子输入索引获取对应的输入shape range指针。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00104_html.md ## CANN社区版-GetInputTensorRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00105.html - Description: 根据算子输入索引获取对应的输入tensor range指针。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00105_html.md ## CANN社区版-GetOptionalInputTensorRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00106.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入tensor range指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00106_html.md ## CANN社区版-GetDynamicInputTensorRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00107.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入tensor range指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00107_html.md ## CANN社区版-GetOptionalInputShapeRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00108.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入shape range指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00108_html.md ## CANN社区版-GetDynamicInputShapeRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00109.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入shape range指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00109_html.md ## CANN社区版-GetRequiredInputShapeRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00110.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入shape range指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00110_html.md ## CANN社区版-GetRequiredInputTensorRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00111.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入tensor range指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00111_html.md ## CANN社区版-GetOutputShapeRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00112.html - Description: 根据算子输出索引获取对应的输出shape range指针。这里的输出索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00112_html.md ## 构造和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00114.html - Description: OpImplRegisterV2类作为注册接口类,提供了一系列算子原型注册接口,供用户注册指定算子类型的Tiling函数、Infershape函数、私有属性等信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00114_html.md ## CANN社区版-InferShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00115.html - Description: 注册算子的InferShape函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00115_html.md ## CANN社区版-InferShapeRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00116.html - Description: 注册算子的InferShapeRange函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00116_html.md ## CANN社区版-InferDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00117.html - Description: 注册算子的InferDataType函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00117_html.md ## CANN社区版-Tiling - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00118.html - Description: 注册算子的Tiling函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00118_html.md ## CANN社区版-PrivateAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00119.html - Description: 用于注册算子的私有属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00119_html.md ## CANN社区版-TilingParse - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00120.html - Description: 注册算子的TilingParse函数,用于解析算子编译阶段生成的算子信息JSON文件,在注册时需要注册算子自行指定数据类型T,该数据类型用于保存解析后的算子信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00120_html.md ## CANN社区版-InputsDataDependency - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00121.html - Description: 设置算子计算依赖第几个输入tensor的值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00121_html.md ## CANN社区版-InferOutDataTypeSameWithFirstInput - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00122.html - Description: 注册一种datatype推导规则,该规则将算子第一个输入的datatype作为所有输出的datatype。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00122_html.md ## CANN社区版-GenSimplifiedKey - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00123.html - Description: 注册算子的GenSimplifiedKey函数,以提供一个更加快速的二进制匹配key值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00123_html.md ## CANN社区版-OpExecuteFunc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00124.html - Description: 单个算子包含多kernel组合执行逻辑的场景下,算子可以通过该接口设置算子级的回调函数,回调函数内实现多kernel的下发。该功能为预留特性,暂不支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00124_html.md ## CANN社区版-TilingInputsDataDependency - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00125.html - Description: 标记Tiling计算时需要依赖算子第几个输入tensor的值,同时标记tiling计算支持执行的位置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00125_html.md ## CANN社区版-HostInputs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00126.html - Description: 当算子输入中存在标量输入时,需要传入host侧地址。该接口用于标记算子的第几个输入的地址是host侧地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00126_html.md ## CANN社区版-OutputShapeDependOnCompute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00127.html - Description: 注册shape依赖于计算得到的输出列表。某些算子,比如NonZero(统计tensor中非零值的个数),计算完成前无法得知算子输出的shape信息,算子计算完成后才能获取。该类算子在原型定义时,需要使用OutputShapeDependOnCompute接口进行标识,同时在算子核函数中将实际输出shape写入到出参中,便于框架侧基于该信息进行输出内存的管理。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00127_html.md ## CANN社区版-Range类用于描述一个对象的上下界 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00129.html - Description: Range类用于描述一个对象的上下界,包含两个信息: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00129_html.md ## Range构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00130.html - Description: Range构造函数,对应如下3种构造方法: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00130_html.md ## operator\=\= - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00131.html - Description: 判断与另外一个range对象是否相等,如果两个range的上下界的地址相同,或者上下界的值相同,这两个对象相等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00131_html.md ## CANN社区版-SetMin - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00132.html - Description: 设置最小的T对象指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00132_html.md ## CANN社区版-SetMax - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00133.html - Description: 设置最大的T对象指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00133_html.md ## CANN社区版-GetMin - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00134.html - Description: 获取最小的T对象指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00134_html.md ## CANN社区版-GetMax - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00135.html - Description: 获取最大的T对象指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00135_html.md ## 构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00137.html - Description: RuntimeAttrs类的构造函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00137_html.md ## CANN社区版-GetAttrPointer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00138.html - Description: 获取指定索引的算子属性,返回指向此属性的指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00138_html.md ## CANN社区版-GetInt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00139.html - Description: 获取int类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00139_html.md ## CANN社区版-GetListInt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00140.html - Description: 获取list int类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00140_html.md ## CANN社区版-GetListListInt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00141.html - Description: 获取ContinuousVectorVector *类型的属性值,即二维数组且每个元素类型为int。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00141_html.md ## CANN社区版-GetStr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00142.html - Description: 获取string类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00142_html.md ## CANN社区版-GetTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00143.html - Description: 获取tensor类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00143_html.md ## CANN社区版-GetFloat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00144.html - Description: 获取float类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00144_html.md ## CANN社区版-GetBool - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00145.html - Description: 获取bool类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00145_html.md ## CANN社区版-GetListFloat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00146.html - Description: 获取list\_float32类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00146_html.md ## CANN社区版-GetListListFloat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00147.html - Description: 获取ContinuousVectorVector *类型的属性值,即二维数组且每个元素类型为float。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00147_html.md ## CANN社区版-GetAttrNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00148.html - Description: \#\#\#\# 函数功能 获取属性的数量。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00148_html.md ## CANN社区版-Shape结构体用于描述一个tensor的shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00150.html - Description: Shape结构体用于描述一个tensor的shape,包含两个信息: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00150_html.md ## Shape构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00151.html - Description: Shape构造函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00151_html.md ## operator\=\= - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00152.html - Description: 判断与另外一个shape对象是否相等,如果两个shape的dim num相等,并且dim num内每个dim的值都相等,则认为两个shape相等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00152_html.md ## operator\!\= - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00153.html - Description: 判断与另一个Shape对象是否不等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00153_html.md ## operator\[\] - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00154.html - Description: 获取指定index轴的dim值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00154_html.md ## CANN社区版-IsScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00155.html - Description: 判断本shape是否为标量,所谓标量,是指GetDimNum\(\)为0。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00155_html.md ## CANN社区版-SetScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00156.html - Description: 设置shape为标量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00156_html.md ## CANN社区版-GetDimNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00157.html - Description: 获取Shape的维度个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00157_html.md ## CANN社区版-SetDimNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00158.html - Description: 设置Shape的维度个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00158_html.md ## CANN社区版-GetDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00159.html - Description: 获取对应idx轴的dim值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00159_html.md ## CANN社区版-SetDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00160.html - Description: 设置某一个轴的维度值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00160_html.md ## CANN社区版-AppendDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00161.html - Description: 向后扩展一个dim值,如果扩展的dim数量超出Shape的最大限制,那么本函数不做任何事情。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00161_html.md ## 构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00163.html - Description: 构造一个格式,格式包括原始格式、运行时格式、补维规则。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00163_html.md ## CANN社区版-GetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00164.html - Description: 获取原始format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00164_html.md ## CANN社区版-SetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00165.html - Description: 设置原始format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00165_html.md ## CANN社区版-GetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00166.html - Description: 获取运行时format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00166_html.md ## CANN社区版-SetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00167.html - Description: 设置运行时format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00167_html.md ## CANN社区版-GetExpandDimsType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00168.html - Description: \#\#\#\# 函数功能 获取补维规则。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00168_html.md ## CANN社区版-SetExpandDimsType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00169.html - Description: \#\#\#\# 函数功能 设置补维规则。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00169_html.md ## CANN社区版-MutableExpandDimsType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00170.html - Description: 获取可写的补维规则。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00170_html.md ## operator\=\= - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00171.html - Description: \#\#\#\# 函数功能 判断格式是否相同。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00171_html.md ## operator\!\= - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00172.html - Description: 判断格式是否不相同。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00172_html.md ## CANN社区版-该类描述了tensor的shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00174.html - Description: 该类描述了tensor的shape,包含两个信息:origin\_shape以及storage\_shape。其中,origin\_shape表示tensor的shape数学描述,storage\_shape表示origin\_shape实际运行时的shape格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00174_html.md ## 构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00175.html - Description: 构造一个运行时shape实例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00175_html.md ## CANN社区版-GetOriginShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00176.html - Description: 获取原始shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00176_html.md ## CANN社区版-GetStorageShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00177.html - Description: 获取运行时shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00177_html.md ## CANN社区版-MutableOriginShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00178.html - Description: 获取可写的原始shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00178_html.md ## CANN社区版-MutableStorageShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00179.html - Description: 获取可写的运行时shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00179_html.md ## operator\=\= - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00180.html - Description: 判断shape是否相等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00180_html.md ## operator\!\= - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00181.html - Description: 判断shape是否不相等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00181_html.md ## 构造及析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00183.html - Description: 构造一个TensorData。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00183_html.md ## operator\= - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00184.html - Description: \#\#\#\# 函数功能 禁用拷贝赋值函数。 使用移动赋值函数。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00184_html.md ## CANN社区版-GetAddr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00185.html - Description: 获取tensor数据地址。若存在manager函数,则由manager函数给出地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00185_html.md ## CANN社区版-GetSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00186.html - Description: 获取tensor数据的内存大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00186_html.md ## CANN社区版-SetSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00187.html - Description: 设置tensor数据的内存大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00187_html.md ## CANN社区版-GetPlacement - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00188.html - Description: 获取tensor的placement,tensor数据所在的设备位置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00188_html.md ## CANN社区版-SetPlacement - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00189.html - Description: 设置tensor的placement。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00189_html.md ## CANN社区版-Free - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00190.html - Description: \#\#\#\# 函数功能 释放Tensor。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00190_html.md ## CANN社区版-SetAddr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00191.html - Description: 设置tensor地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00191_html.md ## CANN社区版-IsSharedWith - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00192.html - Description: 判断当前TensorData对象与另一个对象是否共享一块内存以及使用同一个内存管理函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00192_html.md ## CANN社区版-ShareFrom - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00193.html - Description: 使当前的TensorData对象共享另一个对象的内存以及内存管理函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00193_html.md ## CANN社区版-TensorPlacementUtils - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00194.html - Description: 提供一组函数,判断TensorPlacement的位置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00194_html.md ## 构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00196.html - Description: 用于构造指定的Tensor对象。Tensor类用来描述一个tensor对象的信息以及行为,包含:shape信息、format信息、datatype信息以及tensor数据内容tensordata。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00196_html.md ## CANN社区版-GetShapeSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00197.html - Description: 获取当前Tensor运行时的shape大小,即此Tensor中包含的元素的数量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00197_html.md ## CANN社区版-GetData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00198.html - Description: 获取Tensor的数据地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00198_html.md ## CANN社区版-SetData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00199.html - Description: 设置Tensor的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00199_html.md ## CANN社区版-GetAddr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00200.html - Description: 获取Tensor的数据地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00200_html.md ## CANN社区版-GetSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00201.html - Description: 获取Tensor数据的内存大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00201_html.md ## CANN社区版-SetSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00202.html - Description: 设置Tensor的内存大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00202_html.md ## CANN社区版-GetDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00203.html - Description: 获取Tensor的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00203_html.md ## CANN社区版-SetDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00204.html - Description: 设置Tensor的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00204_html.md ## CANN社区版-CreateFollowing - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00205.html - Description: 创建一个指定数据类型以及大小的Tensor,其数据在Tensor对象后连续排布。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00205_html.md ## CANN社区版-GetStorageShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00206.html - Description: 获取运行时Tensor的StorageShape,此shape对象为只读。StorageShape和Originshape的区别如下:Originshape是Tensor最初创建时的形状,StorageShape是保存Tensor数据的底层存储的形状。运行时为了适配底层硬件,Tensor的StorageShape和其Originshape可能会有所不同。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00206_html.md ## CANN社区版-MutableStorageShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00207.html - Description: 获取运行时Tensor的shape,此shape对象是可变的。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00207_html.md ## CANN社区版-GetOriginShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00208.html - Description: 获取Tensor的原始shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00208_html.md ## CANN社区版-MutableOriginShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00209.html - Description: 获取Tensor的原始shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00209_html.md ## CANN社区版-GetShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00210.html - Description: 获取Tensor的shape,包含运行时和原始shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00210_html.md ## CANN社区版-GetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00211.html - Description: 获取运行时Tensor的format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00211_html.md ## CANN社区版-SetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00212.html - Description: 设置运行时Tensor的format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00212_html.md ## CANN社区版-GetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00213.html - Description: 获取Tensor的原始format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00213_html.md ## CANN社区版-SetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00214.html - Description: 设置Tensor的原始format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00214_html.md ## CANN社区版-GetFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00215.html - Description: 获取Tensor的format,包含运行时format和原始format,返回的format对象都是只读的。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00215_html.md ## CANN社区版-MutableFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00216.html - Description: 获取Tensor的format,包含运行时format和原始format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00216_html.md ## CANN社区版-GetExpandDimsType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00217.html - Description: 获取shape的补维规则。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00217_html.md ## CANN社区版-SetExpandDimsType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00218.html - Description: 设置shape的补维规则。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00218_html.md ## CANN社区版-GetPlacement - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00219.html - Description: 获取tensor的placement。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00219_html.md ## CANN社区版-SetPlacement - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00220.html - Description: 设置tensor的placement。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00220_html.md ## CANN社区版-GetTensorData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00221.html - Description: 获取tensor中的数据,返回只读的TensorData类型对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00221_html.md ## CANN社区版-MutableTensorData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00222.html - Description: 获取tensor中的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00222_html.md ## CANN社区版-GetInputShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00224.html - Description: 根据算子输入索引获取对应的输入shape指针。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00224_html.md ## CANN社区版-GetInputTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00225.html - Description: 根据算子输入索引获取对应的输入tensor指针。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00225_html.md ## CANN社区版-GetOptionalInputTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00226.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入tensor指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00226_html.md ## CANN社区版-GetDynamicInputTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00227.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入Tensor指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00227_html.md ## CANN社区版-GetRequiredInputTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00228.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入tensor指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00228_html.md ## CANN社区版-GetOptionalInputShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00229.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入shape指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00229_html.md ## CANN社区版-GetDynamicInputShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00230.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入shape指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00230_html.md ## CANN社区版-GetRequiredInputShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00231.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入shape指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00231_html.md ## CANN社区版-GetOutputShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00232.html - Description: 根据算子输出索引获取对应的输出shape指针。这里的输出索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00232_html.md ## CANN社区版-SetTilingKey - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00234.html - Description: 设置TilingKey。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00234_html.md ## CANN社区版-GetTilingKey - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00235.html - Description: 获取tiling key。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00235_html.md ## CANN社区版-SetBlockDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00236.html - Description: 设置blockDim,即参与计算的Vector或者Cube核数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00236_html.md ## CANN社区版-GetBlockDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00237.html - Description: 获取blockDim,即参与计算的Vector或者Cube核数。blockDim的详细概念和设置方式请参考SetBlockDim。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00237_html.md ## CANN社区版-SetTilingCond - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00238.html - Description: 设置tiling cond。tiling cond是一个整型值,用于选择算子实际使用的Tiling实现。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00238_html.md ## CANN社区版-GetTilingCond - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00239.html - Description: 获取GetTilingCond中设置的tiling cond。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00239_html.md ## CANN社区版-SetNeedAtomic - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00240.html - Description: 用于设置是否需要框架来完成atomic clean操作,保证在算子kernel执行前,输出内存已经被初始化。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00240_html.md ## CANN社区版-NeedAtomic - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00241.html - Description: 获取是否需要atomic clean的标识值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00241_html.md ## CANN社区版-GetTilingData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00242.html - Description: 获取有类型的tiling data指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00242_html.md ## CANN社区版-GetRawTilingData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00243.html - Description: 获取无类型的tiling data指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00243_html.md ## CANN社区版-GetWorkspaceSizes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00244.html - Description: 获取workspace sizes指针,workspace大小以字节为单位。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00244_html.md ## CANN社区版-GetWorkspaceNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00245.html - Description: 获取workspace个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00245_html.md ## CANN社区版-GetPlatformInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00246.html - Description: 获取PlatFormInfos指针。PlatformInfos类用于管理和查询硬件平台的相关信息,包括核数、内存带宽等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00246_html.md ## CANN社区版-GetCompileInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00247.html - Description: 获取编译信息CompileInfo。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00247_html.md ## CANN社区版-SetScheduleMode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00248.html - Description: 设置算子在NPU上执行时的调度模式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00248_html.md ## CANN社区版-GetScheduleMode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00249.html - Description: 获取算子在NPU上执行时的调度模式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00249_html.md ## CANN社区版-SetLocalMemorySize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00250.html - Description: SIMT算子用于设置需要使用的Dynamic Unified Buffer大小。不设置的情况下,默认为0,即算子不需要使用Dynamic Unified Buffer。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00250_html.md ## CANN社区版-GetLocalMemorySize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00251.html - Description: SIMT算子获取所需的Dynamic Unified Buffer大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00251_html.md ## 构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00253.html - Description: TilingData类的构造函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00253_html.md ## CANN社区版-GetCapacity - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00254.html - Description: 获取本实例可容纳的最大tiling data长度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00254_html.md ## CANN社区版-GetDataSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00255.html - Description: 获取tiling data长度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00255_html.md ## CANN社区版-SetDataSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00256.html - Description: 设置tiling data长度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00256_html.md ## CANN社区版-GetData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00257.html - Description: 获取TilingData的数据指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00257_html.md ## CANN社区版-Append - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00258.html - Description: 向后添加tiling data,若添加超过可容纳的最大长度,则添加失败。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00258_html.md ## CANN社区版-CreateCap - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00259.html - Description: 根据指定的最大容量创建一个TilingData类实例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00259_html.md ## CANN社区版-CalcTotalSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00260.html - Description: 通过最大容量计算TilingData实例所占用的内存空间。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00260_html.md ## CANN社区版-Init - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00261.html - Description: 初始化TilingData。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00261_html.md ## CANN社区版-AppendConvertedAttrVal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00262.html - Description: 将RuntimeAttrs内存中的第index个属性,从src\_type数据类型转成dst\_type数据类型后,追加在当前的tilingdata后面。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00262_html.md ## operator<< - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00263.html - Description: 使用<<运算符重载的方式,实现向后添加tiling data的功能。若添加超过可容纳的最大长度,则忽略本次操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00263_html.md ## CANN社区版-本类继承自ContinuousVector类 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00270.html - Description: 本类继承自ContinuousVector类,与ContinuousVector类不同的是MutableData和GetData返回的是指定类型的地址,而不是void *。因此称为Typed。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00270_html.md ## CANN社区版-MutableData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00271.html - Description: 获取首个元素的指针地址,\[MutableData\(\), reinterpret\_cast\(MutableData\(\)\) + GetSize\(\)\) 中的数据即为当前容器中保存的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00271_html.md ## CANN社区版-GetData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00272.html - Description: 获取首个元素的指针地址,\[GetData\(\), reinterpret\_cast\(GetData\(\)\) + GetSize\(\)\) 中的数据即为当前容器中保存的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00272_html.md ## CANN社区版-TensorPlacement - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00273.html - Description: ``` enum TensorPlacement \{ kOnDeviceHbm, ///< Tensor位于Device kOnHost, ///< Tensor位于Host kFollowing, ///< Tensor位于Host,且数据紧跟在结构体后面 kOnDeviceP2p, ///< Tensor位于Device, P2p内存指的是Device内存透到PCIE B - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00273_html.md ## 内部关联接口 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00274.html - Description: 在进行算子原型注册、Tiling实现、shape推导过程中,使用到的外部开放接口中会调用到一些辅助数据结构和接口,称之为内部关联接口。开发者不会直接调用内部关联接口,此处仅作简单介绍。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00274_html.md ## Allocator构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00278.html - Description: Allocator构造函数和析构函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00278_html.md ## CANN社区版-Malloc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00279.html - Description: 在用户内存池中根据指定size大小申请device内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00279_html.md ## CANN社区版-Free - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00280.html - Description: 根据指定的MemBlock释放内存到内存池。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00280_html.md ## CANN社区版-MallocAdvise - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00281.html - Description: 在用户内存池中根据指定size大小申请device内存,建议申请的内存地址为addr。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00281_html.md ## AscendString构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00283.html - Description: AscendString构造函数和析构函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00283_html.md ## CANN社区版-GetString - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00284.html - Description: \#\#\#\# 函数功能 获取字符串地址。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00284_html.md ## 关系符重载 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00285.html - Description: 对于AscendString对象大小比较的使用场景(例如map数据结构的key进行排序),通过重载以下关系符实现。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00285_html.md ## CANN社区版-Find - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00286.html - Description: 查找子串在当前字符串中的位置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00286_html.md ## CANN社区版-Hash - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00287.html - Description: 返回字符串的哈希值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00287_html.md ## CANN社区版-GetLength - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00288.html - Description: \#\#\#\# 函数功能 获取字符串的长度。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00288_html.md ## CANN社区版-AutoMappingSubgraphIOIndexFuncRegister - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00293.html - Description: FrameworkRegistry类的封装,通过类的构造函数调用FrameworkRegistry类的AddAutoMappingSubgraphIOIndexFunc函数完成映射函数的注册。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00293_html.md ## FrameworkRegistry类构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00295.html - Description: FrameworkRegistry构造函数和析构函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00295_html.md ## CANN社区版-GetAutoMappingSubgraphIOIndexFunc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00296.html - Description: 根据网络类型,获取已经注册的自动映射函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00296_html.md ## CANN社区版-AddAutoMappingSubgraphIOIndexFunc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00297.html - Description: 注册的具体网络类型的自动映射函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00297_html.md ## CANN社区版-ListTensorType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00320.html - Description: ListTensorType类用以定义输入或者输出支持的数据类型,是TensorType的封装,用于标识支持多个数据类型的情况。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00320_html.md ## MemBlock构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00322.html - Description: MemBlock构造函数和析构函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00322_html.md ## CANN社区版-GetAddr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00323.html - Description: - 获取只读的device内存地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00323_html.md ## CANN社区版-GetSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00324.html - Description: 获取device内存对应的大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00324_html.md ## CANN社区版-SetSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00325.html - Description: 设置device内存地址大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00325_html.md ## CANN社区版-Free - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00326.html - Description: MemBlock的引用计数减为0时,释放MemBlock到内存池。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00326_html.md ## CANN社区版-AddCount - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00327.html - Description: MemBlock引用计数加1。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00327_html.md ## CANN社区版-SubCount - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00328.html - Description: MemBlock引用计数减1。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00328_html.md ## CANN社区版-GetCount - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00329.html - Description: 获取MemBlock的引用计数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00329_html.md ## OpReceiver构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00382.html - Description: OpReceiver构造函数,接收自定义算子的注册信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00382_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00384.html - Description: 开发人员完成自定义算子的实现代码后,需要进行适配插件的开发将基于第三方框架的算子映射成适配AI处理器的算子,可调用REGISTER\_CUSTOM\_OP宏实现算子转换。在调用REGISTER\_CUSTOM\_OP宏时,以REGISTER\_CUSTOM\_OP开始,以“.”链接FrameworkType、OriginOpType、ParseParamsFn等接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00384_html.md ## OpRegistrationData构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00385.html - Description: OpRegistrationData构造函数和析构函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00385_html.md ## REGISTER\_CUSTOM\_OP宏 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00386.html - Description: 按指定名称注册算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00386_html.md ## CANN社区版-FrameworkType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00387.html - Description: 设置原始模型的框架类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00387_html.md ## CANN社区版-OriginOpType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00388.html - Description: 设置原始模型的算子类型或算子类型列表。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00388_html.md ## CANN社区版-ParseParamsFn - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00389.html - Description: 注册解析算子属性的函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00389_html.md ## CANN社区版-ParseParamsByOperatorFn - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00390.html - Description: 注册解析用户自定义算子属性的函数 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00390_html.md ## CANN社区版-FusionParseParamsFn - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00391.html - Description: 注册解析融合算子属性的函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00391_html.md ## FusionParseParamsFn(Overload) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00392.html - Description: 注册解析融合算子属性的函数,为FusionParseParamsFn的重载函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00392_html.md ## CANN社区版-ParseSubgraphPostFn - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00393.html - Description: 根据算子类型,注册算子的子图中输入输出节点跟算子的输入输出的对应关系函数实现。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00393_html.md ## CANN社区版-ParseOpToGraphFn - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00394.html - Description: 注册实现算子一对多子图映射的函数,即将算子映射为多个算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00394_html.md ## CANN社区版-ImplyType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00395.html - Description: \#\#\#\# 函数功能 设置算子执行方式。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00395_html.md ## CANN社区版-DelInputWithCond - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00396.html - Description: 根据算子属性,删除算子指定输入边。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00396_html.md ## CANN社区版-DelInputWithOriginalType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00397.html - Description: 根据算子类型,删除算子指定输入边。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00397_html.md ## CANN社区版-GetImplyType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00398.html - Description: \#\#\#\# 函数功能 获取算子执行方式。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00398_html.md ## CANN社区版-GetOmOptype - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00399.html - Description: 获取模型的算子类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00399_html.md ## CANN社区版-GetOriginOpTypeSet - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00400.html - Description: 获取原始模型的算子类型集合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00400_html.md ## CANN社区版-GetFrameworkType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00401.html - Description: 获取原始模型的框架类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00401_html.md ## CANN社区版-GetParseParamFn - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00402.html - Description: 获取解析算子属性的函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00402_html.md ## CANN社区版-GetParseParamByOperatorFn - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00403.html - Description: 获取解析算子属性的函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00403_html.md ## CANN社区版-GetFusionParseParamFn - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00404.html - Description: 获取解析融合算子属性的函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00404_html.md ## CANN社区版-GetFusionParseParamByOpFn - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00405.html - Description: 获取解析融合算子属性的函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00405_html.md ## CANN社区版-GetParseSubgraphPostFn - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00406.html - Description: 根据算子类型,获取算子注册的子图中输入输出节点跟算子的输入输出的对应关系实现的函数对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00406_html.md ## CANN社区版-GetParseOpToGraphFn - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00407.html - Description: 获取将算子映射为一对多子图的实现函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00407_html.md ## CANN社区版-AutoMappingFn - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00408.html - Description: \#\#\#\# 函数功能 自动映射回调函数。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00408_html.md ## CANN社区版-AutoMappingByOpFn - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00409.html - Description: \#\#\#\# 函数功能 自动映射回调函数。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00409_html.md ## CANN社区版-AutoMappingFnDynamic - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00410.html - Description: 动态输入/输出算子的自动映射回调函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00410_html.md ## CANN社区版-AutoMappingByOpFnDynamic - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00411.html - Description: 动态输入/输出算子的自动映射回调函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00411_html.md ## CANN社区版-AutoMappingSubgraphIndex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00412.html - Description: 设置子图的输入输出和主图对应父节点输入输出的对应关系。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00412_html.md ## CANN社区版-InputReorderVector - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00413.html - Description: 支持在算子插件中调整算子的输入参数顺序,此接口为内部使用接口,外部开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00413_html.md ## CANN社区版-Promote - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00414.html - Description: Promote类用于表示输出数据类型为输入或属性指定的数据类型间的提升类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00414_html.md ## Shape构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00422.html - Description: Shape构造函数和析构函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00422_html.md ## CANN社区版-GetDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00423.html - Description: 获取Shape第idx维的长度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00423_html.md ## CANN社区版-GetDims - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00424.html - Description: 获取Shape所有维度组成的向量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00424_html.md ## CANN社区版-GetDimNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00425.html - Description: 获取Shape的维度个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00425_html.md ## CANN社区版-GetShapeSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00426.html - Description: 获取Shape中所有dim的累乘结果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00426_html.md ## CANN社区版-SetDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00427.html - Description: 将Shape中第idx维度的值设置为value。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00427_html.md ## CANN社区版-TensorDescInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00428.html - Description: ``` struct TensorDescInfo \{ Format format \= FORMATRESERVED; / tbe op register support format / DataType dataType \= DTUNDEFINED; / tbe op register support datatype / \}; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00428_html.md ## TensorDesc构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00430.html - Description: TensorDesc构造函数和析构函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00430_html.md ## CANN社区版-GetConstData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00431.html - Description: 如果TensorDesc是常量节点的描述,获取TensorDesc中的权重值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00431_html.md ## CANN社区版-GetDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00432.html - Description: 获取TensorDesc所描述Tensor的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00432_html.md ## CANN社区版-GetExpandDimsRule - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00433.html - Description: 获取Tensor的补维规则。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00433_html.md ## CANN社区版-GetFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00434.html - Description: 获取TensorDesc所描述的Tensor的Format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00434_html.md ## CANN社区版-GetName - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00435.html - Description: 获取TensorDesc所描述Tensor的名称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00435_html.md ## CANN社区版-GetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00436.html - Description: 获取TensorDesc所描述Tensor的原始Format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00436_html.md ## CANN社区版-GetOriginShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00437.html - Description: 获取TensorDesc所描述Tensor的原始Shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00437_html.md ## CANN社区版-GetPlacement - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00438.html - Description: 获取Tensor中数据地址的类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00438_html.md ## CANN社区版-GetRealDimCnt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00439.html - Description: 获取TensorDesc所描述Tensor的实际维度个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00439_html.md ## CANN社区版-GetShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00440.html - Description: 获取TensorDesc所描述Tensor的Shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00440_html.md ## CANN社区版-GetShapeRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00441.html - Description: 获取设置的shape变化范围。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00441_html.md ## CANN社区版-GetSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00442.html - Description: 获取TensorDesc所描述Tensor的数据大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00442_html.md ## CANN社区版-SetConstData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00443.html - Description: 如果TensorDesc是常量节点的描述,向TensorDesc中设置权重值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00443_html.md ## CANN社区版-SetDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00444.html - Description: 向TensorDesc中设置Tensor的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00444_html.md ## CANN社区版-SetExpandDimsRule - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00445.html - Description: 设置补维规则。补维是指在原有shape的基础上,添加一到多个维度。例如原shape\[2,2\]有两根轴,那么在两根轴中间补两维后的shape为\[2,1,1,2\],补维后shape的第0、3根轴被称为原始轴,第1、2根轴被称为补维轴。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00445_html.md ## CANN社区版-SetFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00446.html - Description: 向TensorDesc中设置Tensor的Format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00446_html.md ## CANN社区版-SetName - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00447.html - Description: 向TensorDesc中设置Tensor的名称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00447_html.md ## CANN社区版-SetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00448.html - Description: 向TensorDesc中设置Tensor的原始Format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00448_html.md ## CANN社区版-SetOriginShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00449.html - Description: 向TensorDesc中设置Tensor的原始Shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00449_html.md ## CANN社区版-SetPlacement - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00450.html - Description: 设置Tensor的数据存放的位置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00450_html.md ## CANN社区版-SetRealDimCnt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00451.html - Description: 向TensorDesc中设置Tensor的实际维度数目。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00451_html.md ## CANN社区版-SetSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00452.html - Description: 向TensorDesc中设置Tensor的数据大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00452_html.md ## CANN社区版-SetShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00453.html - Description: 向TensorDesc中设置Tensor的Shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00453_html.md ## CANN社区版-SetShapeRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00454.html - Description: 设置shape的变化范围。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00454_html.md ## CANN社区版-SetUnknownDimNumShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00455.html - Description: 设置tensor的shape为\{-2\},用来表示tensor是完全未知的。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00455_html.md ## CANN社区版-Update - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00456.html - Description: 更新TensorDesc的Shape、Format、DataType属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00456_html.md ## CANN社区版-TensorType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00457.html - Description: TensorType类用以定义输入或者输出支持的数据类型,TensorType提供以下接口指定支持的数据类型: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00457_html.md ## Tensor构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00459.html - Description: Tensor构造函数和析构函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00459_html.md ## CANN社区版-Clone - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00460.html - Description: \#\#\#\# 函数功能 拷贝Tensor。 \#\#\#\# 函数原型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00460_html.md ## CANN社区版-IsValid - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00461.html - Description: 判断Tensor对象是否有效。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00461_html.md ## CANN社区版-GetData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00462.html - Description: 获取Tensor中的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00462_html.md ## CANN社区版-GetDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00463.html - Description: 获取Tensor的DataType。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00463_html.md ## CANN社区版-GetExpandDimsRule - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00464.html - Description: 获取Tensor的补维规则。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00464_html.md ## CANN社区版-GetFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00465.html - Description: 获取Tensor的Format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00465_html.md ## CANN社区版-GetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00466.html - Description: 获取Tensor的原始Format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00466_html.md ## CANN社区版-GetOriginShapeDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00467.html - Description: 获取原始Shape第idx维度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00467_html.md ## CANN社区版-GetOriginShapeDimNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00468.html - Description: 获取原始Shape的维度大小,即rank大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00468_html.md ## CANN社区版-GetPlacement - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00469.html - Description: 获取Tensor的Placement。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00469_html.md ## CANN社区版-GetSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00470.html - Description: 获取Tensor中的数据的大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00470_html.md ## CANN社区版-GetShapeDimNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00471.html - Description: 获取Shape的维度大小,即rank大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00471_html.md ## CANN社区版-GetShapeDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00472.html - Description: 获取Shape第idx维度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00472_html.md ## CANN社区版-GetTensorDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00473.html - Description: 获取Tensor的描述符。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00473_html.md ## CANN社区版-SetData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00474.html - Description: 向Tensor中设置数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00474_html.md ## CANN社区版-SetExpandDimsRule - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00476.html - Description: 设置Tensor的补维规则。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00476_html.md ## CANN社区版-SetFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00477.html - Description: 设置Tensor的Format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00477_html.md ## CANN社区版-SetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00478.html - Description: 设置Tensor的原始Format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00478_html.md ## CANN社区版-SetOriginShapeDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00479.html - Description: 设置原始shape第idx维度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00479_html.md ## CANN社区版-SetOriginShapeDimNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00480.html - Description: 设置原始shape的维度大小,即rank大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00480_html.md ## CANN社区版-SetPlacement - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00481.html - Description: 设置Tensor的数据存放的位置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00481_html.md ## CANN社区版-SetShapeDimNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00482.html - Description: 设置shape的维度大小,即rank大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00482_html.md ## CANN社区版-SetShapeDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00483.html - Description: 设置shape第idx维度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00483_html.md ## CANN社区版-SetTensorDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00484.html - Description: 设置Tensor的描述符(TensorDesc)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00484_html.md ## CANN社区版-ResetData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00485.html - Description: 释放Tensor中数据内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00485_html.md ## CANN社区版-DataTypeToAscendString - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00487.html - Description: 将DataType类型值转化为字符串表达。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00487_html.md ## CANN社区版-AscendStringToDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00488.html - Description: 将DataType字符串表达转化为DataType类型值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00488_html.md ## CANN社区版-FormatToAscendString - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00489.html - Description: 将Format类型值转化为字符串表达。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00489_html.md ## CANN社区版-AscendStringToFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00490.html - Description: 将字符串转化为Format类型值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00490_html.md ## CANN社区版-DataTypeToSerialString - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00491.html - Description: 将DataType类型值转化为字符串表达。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00491_html.md ## CANN社区版-SerialStringToDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00492.html - Description: 将DataType字符串表达转化为DataType类型值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00492_html.md ## CANN社区版-FormatToSerialString - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00493.html - Description: 将Format类型值转化为字符串表达。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00493_html.md ## CANN社区版-SerialStringToFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00494.html - Description: 将字符串转化为Format类型值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00494_html.md ## CANN社区版-DataFormatToFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00495.html - Description: 将数据格式字符串转化为Format类型值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00495_html.md ## CANN社区版-GetDataTypeLength - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00496.html - Description: 获取数据类型所占内存大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00496_html.md ## CANN社区版-ConvertToAscendString - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00499.html - Description: 模板函数,接受一个模板参数T,并将其转换为AscendString类型。这个函数的主要功能是将不同类型的字符串转换为AscendString类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00499_html.md ## CANN社区版-ConvertToListAscendString - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00500.html - Description: 定义了一个模板函数ConvertToListAscendString,用于将不同类型的字符串列表转换为AscendString类型的列表。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00500_html.md ## CANN社区版-GetC0Format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00501.html - Description: 根据实际format获取C0 format的值。C0值是AI处理器特有数据格式所需要的参数。例如NC1HWC0,最后一维即表示C0值,C0值在不同的AI处理器中数值不同,通过C0 format来承载。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00501_html.md ## CANN社区版-GetC0Value - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00502.html - Description: 从实际format中解析出C0 format信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00502_html.md ## CANN社区版-GetFormatFromC0 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00503.html - Description: 根据传入的format和C0 format信息得到实际的format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00503_html.md ## CANN社区版-GetFormatFromSub - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00504.html - Description: 根据传入的主format和子format信息得到实际的format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00504_html.md ## CANN社区版-GetFormatFromSubAndC0 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00505.html - Description: 根据传入的主format,子format和C0 format信息得到实际的format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00505_html.md ## CANN社区版-GetFormatName - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00506.html - Description: 根据传入的Format类型,获取Format的字符串描述。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00506_html.md ## CANN社区版-GetPrimaryFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00507.html - Description: 从实际format中解析出主format信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00507_html.md ## CANN社区版-GetSizeByDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00508.html - Description: 根据传入的data\_type,获取该data\_type所占用的内存大小。如果要获取多个元素的内存大小,请使用GetSizeInBytes。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00508_html.md ## CANN社区版-GetSizeInBytes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00509.html - Description: 根据传入的element\_count和data\_type,获取element\_count个该data\_type所占用的内存总大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00509_html.md ## CANN社区版-GetSubFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00510.html - Description: 从实际format中解析出子format信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00510_html.md ## CANN社区版-HasC0Format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00511.html - Description: 判断实际format中是否包含C0 format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00511_html.md ## CANN社区版-HasSubFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00512.html - Description: 判断实际format中是否包含子format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00512_html.md ## ge::graphStatus - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00513.html - Description: graphStatus类型即uint32\_t类型,其不同的状态说明如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00513_html.md ## CANN社区版-DataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00514.html - Description: DataType枚举值定义如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00514_html.md ## CANN社区版-Format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00515.html - Description: ``` enum Format \{ FORMATNCHW \= 0, // NCHW FORMATNHWC, // NHWC FORMATND, // Nd Tensor FORMATNC1HWC0, // NC1HWC0 FORMATFRACTALZ, // FRACTALZ FORMATNC1C0HWPAD \= 5, FORMA - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00515_html.md ## CANN社区版-DECLARE\_ERRORNO - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00518.html - Description: 错误码及描述注册宏,该宏对外提供如下四个错误码供用户使用: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00518_html.md ## CANN社区版-GetDeterministic - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00535.html - Description: 获取确定性计算配置选项。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00535_html.md ## CANN社区版-SetReuseInputIndex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00539.html - Description: 设置算子输出TensorDesc复用内存的输入TensorDesc的序号。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00539_html.md ## CANN社区版-OpLibRegister类所提供的接口为内部关联接口 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00541.html - Description: OpLibRegister类所提供的接口为内部关联接口,当前主要为自定义算子动态库提供注册功能,供自定义算子工程框架注册指定初始化函数,开发者无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00541_html.md ## 构造和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00542.html - Description: OpLibRegister的构造函数和析构函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00542_html.md ## CANN社区版-RegOpLibInit - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00543.html - Description: 注册自定义算子动态库的初始化函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00543_html.md ## CANN社区版-GetDynamicInputTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00544.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入tensor指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00544_html.md ## CANN社区版-CompileTimeTensorDesc用于描述编译时张量的基本信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00545.html - Description: CompileTimeTensorDesc用于描述编译时张量的基本信息,包括数据类型(ge::DataType)、数据排布格式(gert::StorageFormat,包括原始格式和运行时格式)以及原始格式向运行时格式转换时的补维规则。该类提供了对张量数据类型的获取和设置方法,同时支持对原始格式和运行时格式的管理。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00545_html.md ## CANN社区版-ExtendedKernelContext是KernelContext的子类 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00546.html - Description: ExtendedKernelContext是KernelContext的子类,在KernelContext的基础上,封装了与计算节点(Compute Node,即算子)相关的Context信息处理接口。它提供了对计算节点输入、输出、属性、类型、名称等信息的访问接口。该类的主要目的是简化对计算节点信息的获取和处理过程。用户无需感知KernelContext信息的排布,可以直接通过ExtendedKe - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00546_html.md ## CANN社区版-InferDataTypeContext继承自ExtendedKernelCon - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00547.html - Description: InferDataTypeContext继承自ExtendedKernelContext,是一个用于数据类型(DataType)推导的上下文类,该类的主要作用是在算子数据类型推导过程中,提供获取输入、输出数据类型的接口,并支持设置输出数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00547_html.md ## CANN社区版-InferShapeContext继承自ExtendedKernelContex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00548.html - Description: InferShapeContext继承自ExtendedKernelContext,是一个用于shape推导的上下文类。该类的主要作用是在推导算子输出shape的过程中,提供必要的输入输出shape和输入tensor访问接口。对于部分推导shape过程依赖输入张量值的算子(例如Slice、Pad),该类提供了GetInputTensor等接口以获取实际输入数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00548_html.md ## CANN社区版-InferShapeRangeContext继承自ExtendedKernelC - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00549.html - Description: InferShapeRangeContext继承自ExtendedKernelContext,主要用于获取算子的输入输出ShapeRange和输入TensorRange,其中ShapeRange和TensorRange分别是Range模板的特化类型,记录了算子Shape和Tensor值的上下限。部分算子(例如,NonZero算子)在进行shape推导时,无法推导出具体的输出shape,只能通 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00549_html.md ## CANN社区版-OpImplRegisterV2是一个算子实现注册工具类 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00550.html - Description: OpImplRegisterV2是一个算子实现注册工具类,用于自定义算子开发。它支持以下功能: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00550_html.md ## CANN社区版-RuntimeAttrs是一个算子属性存取类 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00551.html - Description: RuntimeAttrs是一个算子属性存取类,用于在算子执行过程中提供对属性的访问能力。该类提供了一系列方法,允许用户根据属性索引获取不同类型的属性值,例如,int64\_t、float、bool、string、Tensor等类型。在ExtendedKernelContext及其子类中,可通过GetAttrs接口获取算子属性,返回值中仅包含在IR原型定义中的属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00551_html.md ## CANN社区版-StorageFormat是算子数据存储格式管理类 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00552.html - Description: StorageFormat是算子数据存储格式管理类,用于表达张量格式、记录不同格式的转换补维规则。该类主要存储: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00552_html.md ## CANN社区版-TensorData是一个张量数据管理类 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00553.html - Description: TensorData是一个张量数据管理类,用于记录张量的地址、大小、存放位置(TensorPlacement),支持张量的共享、所有权释放,管理张量的生命周期。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00553_html.md ## CANN社区版-Tensor是张量管理类 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00554.html - Description: Tensor是张量管理类,用于存储和操作张量数据。该类记录了张量的shape、数据格式、数据类型、存放位置,提供了数据地址访问、数据大小计算等接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00554_html.md ## CANN社区版-TilingContext继承自ExtendedKernelContext - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00555.html - Description: TilingContext继承自ExtendedKernelContext,是用于算子Tiling计算的上下文类,提供了获取算子编译信息(CompileInfo),输入输出shape、输入张量的值以及访问算子Tiling相关参数的接口。在算子Tiling实现中,可以通过该类获取计算Tiling所依赖的参数,然后将Tiling结果(例如TilingKey、TilingData)保存至上下文中,供后续 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00555_html.md ## CANN社区版-TilingData用于存储算子Tiling的计算结果 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00556.html - Description: TilingData用于存储算子Tiling的计算结果,即Tiling实现根据算子的shape等信息确定的数据切分算法相关参数(比如每次搬运的数据块大小,搬运、计算操作的循环次数)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00556_html.md ## CANN社区版-IntegerChecker是一个模板类 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00560.html - Description: IntegerChecker是一个模板类,带有模板参数T,用于检查一个整数是否在指定数据类型T的合法范围内。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00560_html.md ## CANN社区版-Compat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00561.html - Description: 检查入参的数值是否超过指定数据类型T所能表示的数值范围。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00561_html.md ## CANN社区版-AddOverflow - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00562.html - Description: 该模板函数用于判断两个数值相加是否会发生溢出,并在不溢出的情况下返回正确的计算结果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00562_html.md ## CANN社区版-MulOverflow - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00563.html - Description: 该模板函数用于判断两个数值相乘是否会发生溢出,并在不溢出的情况下返回正确的计算结果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00563_html.md ## CANN社区版-GetOptionalInputTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00564.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入tensor指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00564_html.md ## CANN社区版-InferFormatContext继承自ExtendedKernelConte - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00572.html - Description: InferFormatContext继承自ExtendedKernelContext,是一个用于Format推导的上下文类。该类的主要作用是在推导算子输出Format的过程中,提供必要的输入输出Format、输入输出Shape和输入Tensor访问接口。InferFormatContext是Format推导函数的入参,Format推导函数的相关解释请参考InferFormat。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00572_html.md ## CANN社区版-GetInputFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00573.html - Description: 根据算子输入索引获取对应的输入Format指针。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00573_html.md ## CANN社区版-GetRequiredInputFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00574.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入Format指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00574_html.md ## CANN社区版-GetOptionalInputFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00575.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入Format指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00575_html.md ## CANN社区版-GetDynamicInputFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00576.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入Format指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00576_html.md ## CANN社区版-GetInputShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00577.html - Description: 根据算子输入索引获取对应的输入Shape指针。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00577_html.md ## CANN社区版-GetRequiredInputShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00578.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入Shape指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00578_html.md ## CANN社区版-GetOptionalInputShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00579.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入Shape指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00579_html.md ## CANN社区版-GetDynamicInputShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00580.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入Shape指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00580_html.md ## CANN社区版-GetInputTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00581.html - Description: 根据算子输入索引获取对应的输入Tensor指针。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00581_html.md ## CANN社区版-GetRequiredInputTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00582.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入Tensor指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00582_html.md ## CANN社区版-GetOptionalInputTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00583.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入Tensor指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00583_html.md ## CANN社区版-GetDynamicInputTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00584.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入Tensor指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00584_html.md ## CANN社区版-GetOutputFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00585.html - Description: 根据算子输出索引获取对应的输出Format指针。这里的输出索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00585_html.md ## CANN社区版-GetRequiredOutputFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00586.html - Description: 根据算子原型定义中的输出索引获取对应的必选输出Format指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00586_html.md ## CANN社区版-GetDynamicOutputFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00587.html - Description: 根据算子原型定义中的输出索引获取对应的动态输出Format指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00587_html.md ## CANN社区版-InferFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00588.html - Description: 注册算子的InferFormat函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00588_html.md ## CANN社区版-SetAicpuBlockDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00589.html - Description: 设置可以调度的AI CPU核数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00589_html.md ## CANN社区版-GetAicpuBlockDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00590.html - Description: 获取用户设置的可以调度的AI CPU核数。设置方式请参考SetAicpuBlockDim。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00590_html.md ## CANN社区版-GetShapeSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00591.html - Description: 获取Shape中所有维度大小的累乘结果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00591_html.md ## CANN社区版-Context是算子Host侧实现函数执行时的上下文 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00597.html - Description: Context是算子Host侧实现函数执行时的上下文,由于构造出来的Context存储的都是指针类型,为了方便进行生命周期和所有权管理,提供ContextHolder类进行资源管理。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00597_html.md ## CANN社区版-GetContext - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00598.html - Description: 根据指定类型获取对应的Context指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00598_html.md ## CANN社区版-OpContextBuilderBase是各ContextBuilder的基类 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00600.html - Description: OpContextBuilderBase是各ContextBuilder的基类,用于构造子类context中算子信息,包括算子类型、名称、输入输出原型个数、输入输出实例个数、属性等信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00600_html.md ## CANN社区版-OpType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00601.html - Description: 设置算子类型,用于构造各子类Context的基类ExtendedKernelContext中ComputeNodeInfo信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00601_html.md ## CANN社区版-OpName - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00602.html - Description: 设置算子名称,用于构造各子类Context的基类ExtendedKernelContext中ComputeNodeInfo信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00602_html.md ## CANN社区版-IONum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00603.html - Description: 设置算子输入输出IR原型个数,用于构造各子类Context的基类ExtendedKernelContext中ComputeNodeInfo信息。该接口默认每个IR原型输入输出的实例个数为1。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00603_html.md ## CANN社区版-IOInstanceNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00604.html - Description: 当输入IR原型实例个数不为1时(一般是可选输入或动态输入场景),需要设置算子每个输入IR原型的实例个数,用于构造各子类Context的基类ExtendedKernelContext中ComputeNodeInfo信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00604_html.md ## CANN社区版-AppendAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00605.html - Description: 追加算子IR原型的属性信息,下标从0开始,用于构造各子类Context的基类ExtendedKernelContext中的ExtendedInfo信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00605_html.md ## CANN社区版-OpInferDataTypeContextBuilder用于构建InferDa - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00607.html - Description: OpInferDataTypeContextBuilder用于构建InferDataTypeContext 。构造出的Context在算子数据类型推导过程中作为入参,用于获取必要的算子输入输出数据。推导完成后,结果会被写入回上下文中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00607_html.md ## OpInferDataTypeContextBuilder构造与析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00608.html - Description: OpInferDataTypeContextBuilder类构造函数与析构函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00608_html.md ## CANN社区版-InputTensorDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00609.html - Description: 设置输入Tensor的描述信息,用于构造InferDataTypeContext的基类ExtendedKernelContext中的ComputeNodeInfo信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00609_html.md ## CANN社区版-OutputTensorDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00610.html - Description: 设置输出Tensor描述信息,用于构造InferDataTypeContext的基类ExtendedKernelContext中的ComputeNodeInfo信息。无需设置输出数据类型信息,输出数据类型由算子根据输入数据类型计算推导得到。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00610_html.md ## CANN社区版-Build - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00611.html - Description: 根据之前的设置,构建InferDataTypeContext,返回一个ContextHolder对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00611_html.md ## CANN社区版-OpInferShapeContextBuilder用于构建InferShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00613.html - Description: OpInferShapeContextBuilder用于构建InferShapeContext。构造出的Context在算子Shape推导过程中作为入参,用于获取必要的算子输入输出数据。推导完成后,结果会被写回上下文中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00613_html.md ## OpInferShapeContextBuilder构造与析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00614.html - Description: OpInferShapeContextBuilder构造与析构函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00614_html.md ## CANN社区版-OutputTensorDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00615.html - Description: 设置算子输出的Tensor描述信息,用于构造InferShapeContext的基类ExtendedKernelContext中的ComputeNodeInfo等信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00615_html.md ## CANN社区版-InputTensors - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00616.html - Description: 设置输入Tensor指针。Shape推导时,可通过该Builder类构造的InferShapeContext获取相应的输入Tensor指针。对于数据依赖的算子,对应数据依赖的输入Tensor中的TensorData需要设置为正确的Host地址;对于非数据依赖算子,Tensor的TensorData需要设置为空指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00616_html.md ## CANN社区版-Build - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00617.html - Description: 根据前期的设置,构建InferShapeContext,返回一个ContextHolder对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00617_html.md ## CANN社区版-OpInferShapeRangeContextBuilder用于构建Infer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00619.html - Description: OpInferShapeRangeContextBuilder用于构建InferShapeRangeContext。构造出的Context在算子ShapeRange推导过程中作为输入,用于获取必要的算子输入输出数据。推导完成后,结果会被写回上下文中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00619_html.md ## OpInferShapeRangeContextBuilder构造函数与析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00620.html - Description: OpInferShapeRangeContextBuilder构造函数与析构函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00620_html.md ## CANN社区版-OutputTensorDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00621.html - Description: 设置算子输出的Tensor描述信息,用于构造InferShapeRangeContext的基类ExtendedKernelContext中的ComputeNodeInfo信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00621_html.md ## CANN社区版-InputTensorsRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00622.html - Description: 设置输入Tensor的Range指针,用于在Shape Range推导时,可通过该Builder类构造的上下文InferShapeRangeContext获取相应的输入Tensor Range指针,即可以获得最大Shape的Tensor和最小Shape的Tensor。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00622_html.md ## CANN社区版-Build - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00623.html - Description: 根据之前的设置,构建InferShapeRangeContext,返回一个ContextHolder对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00623_html.md ## CANN社区版-用于构建一个通用的KernelContext对象 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00625.html - Description: 用于构建一个通用的KernelContext对象,该上下文作为算子Host实现实际执行阶段的输入上下文。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00625_html.md ## OpKernelContextBuilder构造与析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00626.html - Description: OpKernelContextBuilder构造与析构函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00626_html.md ## CANN社区版-InputTensorDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00627.html - Description: 设置Tensor描述信息,用于构造KernelContext的基类ExtendedKernelContext中的ComputeNodeInfo等信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00627_html.md ## CANN社区版-OutputTensorDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00628.html - Description: 设置Tensor描述信息,用于构造KernelContext的基类ExtendedKernelContext中的ComputeNodeInfo信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00628_html.md ## CANN社区版-Inputs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00629.html - Description: 设置Context的values的输入指针,values承载的类型为void*的指针数组。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00629_html.md ## CANN社区版-Build - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00630.html - Description: 根据之前的设置,构建KernelContext,返回一个ContextHolder对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00630_html.md ## CANN社区版-OpTilingContextBuilder用于构建TilingContext - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00632.html - Description: OpTilingContextBuilder用于构建TilingContext。构造出的Context在算子Tiling计算过程中作为入参,用于获取必要的算子输入输出等数据。Tiling计算完成后,结果会被写回上下文中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00632_html.md ## OpTilingContextBuilder构造与析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00633.html - Description: OpTilingContextBuilder构造与析构函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00633_html.md ## CANN社区版-CompileInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00634.html - Description: 设置算子的CompileInfo指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00634_html.md ## CANN社区版-PlatformInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00635.html - Description: 设置PlatformInfo平台信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00635_html.md ## CANN社区版-Deterministic - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00636.html - Description: 设置是否开启确定性计算。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00636_html.md ## CANN社区版-TilingData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00637.html - Description: 设置算子的TilingData指针,用于算子Tiling计算时,向该指针中写入TilingData数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00637_html.md ## CANN社区版-TilingDataSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00638.html - Description: 设置算子TilingData的大小,设置该大小后,会申请相应大小的内存用于存储算子的TilingData。相较于TilingData,调用此接口时生成的TilingData指针所有权归属ContextHolder,调用者无需关注TilingData的生命周期。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00638_html.md ## CANN社区版-Workspace - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00639.html - Description: 设置Workspace内存指针,可以传多块Workspace地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00639_html.md ## CANN社区版-InputTensors - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00640.html - Description: 设置输入Tensor指针,用于在Tiling计算时,可通过该Builder类构造的上下文TilingContext获取相应的输入Tensor指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00640_html.md ## CANN社区版-OutputTensors - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00641.html - Description: 设置输出Tensor 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00641_html.md ## CANN社区版-Build - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00642.html - Description: 根据之前的设置,构建TilingContext,返回一个ContextHolder对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00642_html.md ## CANN社区版-OpTilingParseContextBuilder用于构建TilingPar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00644.html - Description: OpTilingParseContextBuilder用于构建TilingParseContext。构造出的Context在算子TilingParse计算过程中作为输入,用于获取必要的算子输入输出数据。完成Parser计算后,结果会被写回到上下文中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00644_html.md ## OpTilingParseContextBuilder构造与析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00645.html - Description: OpTilingParseContextBuilder构造与析构函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00645_html.md ## CANN社区版-InputTensorDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00646.html - Description: 设置Tensor描述信息,用于构造TilingParseContext的基类ExtendedKernelContext中的ComputeNodeInfo等信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00646_html.md ## CANN社区版-OutputTensorDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00647.html - Description: 设置输出Tensor描述信息,用于构造TilingParseContext的基类ExtendedKernelContext中的ComputeNodeInfo等信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00647_html.md ## CANN社区版-CompiledJson - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00648.html - Description: 设置算子的CompiledJson指针,json格式文件指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00648_html.md ## CANN社区版-CompiledInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00649.html - Description: 设置算子的CompiledInfo指针,用于存储TilingParse的结果即CompileInfo信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00649_html.md ## CANN社区版-PlatformInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00650.html - Description: 设置算子的PlatFormInfo指针,用于构造TilingParseContext的PlatformInfo字段。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00650_html.md ## CANN社区版-Build - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00651.html - Description: 根据之前的设置,构建TilingParseContext,返回一个ContextHolder对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00651_html.md ## CANN社区版-KernelLaunchInfo类为开发者提供创建和管理下发给Device的任务 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00670.html - Description: KernelLaunchInfo类为开发者提供创建和管理下发给Device的任务接口,允许开发者设置或者获取当前待下发Device任务的相关Launch信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00670_html.md ## CANN社区版-LoadFromData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00671.html - Description: 提供将序列化后的Task任务反序列化的能力,主要用于在GenerateTask函数中,将框架构造的Task反序列化后,修改其参数使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00671_html.md ## CANN社区版-CreateAicpuKfcTask - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00672.html - Description: 创建一个AI CPU的KFC Task。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00672_html.md ## CANN社区版-CreateHcomRecordTask - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00673.html - Description: 创建一个Record task,此Task用于唤醒其他流上的与其有相同group\_name的Wait Task。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00673_html.md ## CANN社区版-CreateHcomWaitTask - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00674.html - Description: 创建一个Wait Task,此Task用于阻塞流,当与其有相同group\_name的Record Task被执行时,阻塞会被解除。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00674_html.md ## CANN社区版-Serialize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00675.html - Description: 将KernelLaunchInfo序列化成数据流。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00675_html.md ## CANN社区版-GetStreamId - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00676.html - Description: 获取当前Task所在流的id。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00676_html.md ## CANN社区版-SetStreamId - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00677.html - Description: 设置Task的流id。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00677_html.md ## CANN社区版-GetBlockDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00678.html - Description: 获取算子BlockDim。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00678_html.md ## CANN社区版-SetBlockDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00679.html - Description: 设置算子BlockDim。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00679_html.md ## CANN社区版-GetArgsFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00680.html - Description: 获取算子的ArgsFormat。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00680_html.md ## CANN社区版-SetArgsFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00681.html - Description: 设置算子的ArgsFormat。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00681_html.md ## CANN社区版-GetSoName - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00682.html - Description: 获取AI CPU任务的so名称。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00682_html.md ## CANN社区版-GetKernelName - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00683.html - Description: 获取AI CPU任务的Kernel入口函数名字。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00683_html.md ## CANN社区版-Expand - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00686.html - Description: 该函数用于将TilingData扩展指定的大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00686_html.md ## KernelLaunchInfo构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00687.html - Description: KernelLaunchInfo构造函数和析构函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00687_html.md ## CANN社区版-Op2StageExecuteFuncs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00688.html - Description: 单个算子包含多Kernel组合执行逻辑的场景下,算子可以通过该接口设置算子级的回调函数,包含下发准备回调函数和下发回调函数,下发准备回调函数完成Kernel下发使用到的参数的准备,下发回调函数内实现多Kernel的下发。本接口为内部关联接口,开发者不会直接调用,暂时无需关注。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00688_html.md ## CANN社区版-ExeResGenerationContext继承自ExtendedKernel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00690.html - Description: ExeResGenerationContext继承自ExtendedKernelContext,用于生成执行资源的上下文类,主要用于在算子执行前,生成或配置执行所需的各种资源,包括:内存、异步执行流、同步资源、算子属性、输入输出张量的形状信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00690_html.md ## CANN社区版-GetExecuteMode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00691.html - Description: 返回当前算子运行的执行模式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00691_html.md ## CANN社区版-IsConstInput - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00692.html - Description: 用于判断某个输入张量是否为常量数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00692_html.md ## CANN社区版-GetInputShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00693.html - Description: 获取算子输入张量的实际存储形状。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00693_html.md ## CANN社区版-GetOutputShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00694.html - Description: 获取算子输出张量的实际存储形状。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00694_html.md ## CANN社区版-SetAttachedStreamInfos - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00695.html - Description: 为当前算子附着一组Stream信息,用于指定该算子在哪个执行流(Stream)上运行。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00695_html.md ## CANN社区版-GetAttachedStreamInfos - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00696.html - Description: 返回当前算子绑定的所有StreamInfo列表。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00696_html.md ## CANN社区版-GetStreamId - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00697.html - Description: 返回当前算子绑定的StreamId。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00697_html.md ## CANN社区版-SetSyncResInfos - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00698.html - Description: 将传入的同步资源信息列表(sync\_info\_vec)设置到当前对象中,用于配置图执行时的同步资源行为。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00698_html.md ## CANN社区版-GetSyncResInfos - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00699.html - Description: 返回当前对象中保存的全部同步资源信息(SyncResInfo列表),用于查询或外部使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00699_html.md ## CANN社区版-GetWorkspaceBytes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00700.html - Description: 获取Workspace大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00700_html.md ## CANN社区版-SetWorkspaceBytes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00701.html - Description: 设置Workspace大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00701_html.md ## CANN社区版-GetOpId - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00702.html - Description: 获取当前算子的唯一标识ID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00702_html.md ## CANN社区版-SetListStr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00703.html - Description: 设置字符串列表类型的属性值到算子中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00703_html.md ## CANN社区版-GetStrAttrVal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00704.html - Description: 获取算子的字符串类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00704_html.md ## CANN社区版-SetStrAttrVal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00705.html - Description: 设置一个字符串类型的属性值到算子中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00705_html.md ## CANN社区版-GetIntAttrVal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00706.html - Description: 获取算子整数类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00706_html.md ## CANN社区版-SetIntAttrVal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00707.html - Description: 设置一个整数类型的属性值到算子中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00707_html.md ## CANN社区版-OpCheckContext继承自ExtendedKernelContext - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00709.html - Description: OpCheckContext继承自ExtendedKernelContext,用于算子参数与形状校验的上下文类,OpCheckContext的核心作用是在算子注册或执行前,对输入输出张量的形状、数据类型、维度等进行合法性校验,确保算子能够安全、正确地运行。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00709_html.md ## CANN社区版-GetInputShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00710.html - Description: 获取算子输入张量的实际存储形状。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00710_html.md ## CANN社区版-GetOutputShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00711.html - Description: 获取算子输出张量的实际存储形状。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00711_html.md ## CANN社区版-CalcOpParam - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00712.html - Description: 该接口用于GenerateTask阶段的资源计算和申请。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00712_html.md ## CANN社区版-GenerateTask - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00713.html - Description: GenerateTask阶段具体Task的生成和处理。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00713_html.md ## CANN社区版-CheckSupport - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00714.html - Description: 注册一个“是否支持该算子”的判断函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00714_html.md ## CANN社区版-OpSelectFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00715.html - Description: 注册一个格式选择函数,获取数据类型和数据格式,由算子自行决定支持情况。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00715_html.md ## CANN社区版-StreamInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00716.html - Description: name: 资源名称(或类型名),若reusekey为空,则该字段用作资源复用的键(reuse key)。 reusekey: 资源复用键,相同key的资源将被复用(共享),用于优化内存或计算资源分配。 dependvalueinputindices: 依赖的输入值索引列表,表示该资源的创建或分配依赖于哪些输入张量的值。 required: 是否为必选资源。若为true,资源必须 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00716_html.md ## CANN社区版-SyncResInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00717.html - Description: type: 资源类型,标识该同步资源的类别(如事件同步、内存同步、计算同步等)。 name: 资源名称(或类型名),若reusekey为空,则此字段将作为资源复用的键(reuse key)使用。 reusekey: 资源复用键,相同key的资源将被复用(共享),用于优化资源分配与减少冗余创建。 required: 是否为必选资源。若为true,表示该资源必须成功分配,否则算子校验 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00717_html.md ## CANN社区版-C\_DataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00719.html - Description: C\_DataType枚举值定义如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00719_html.md ## CANN社区版-C\_Format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00720.html - Description: ``` typedef enum \{ CFORMATNCHW \= 0, // NCHW CFORMATNHWC, // NHWC CFORMATND, // Nd Tensor CFORMATNC1HWC0, // NC1HWC0 CFORMATFRACTALZ, // FRACTALZ CFORMATNC1C0HWPAD \= 5, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00720_html.md ## CANN社区版-Stride结构体用于描述一个张量的步长 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00722.html - Description: Stride结构体用于描述一个张量的步长,包含两个信息: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00722_html.md ## Stride构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00723.html - Description: Stride构造函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00723_html.md ## operator\=\= - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00724.html - Description: 判断与另外一个Stride对象是否相等,如果两个Stride的维度数量相等,并且每个维度的步长的值都相等,则认为两个Stride对象相等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00724_html.md ## operator\!\= - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00725.html - Description: 判断与另一个Stride对象是否不等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00725_html.md ## operator\[\] - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00726.html - Description: 获取指定idx轴的步长值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00726_html.md ## CANN社区版-GetDimNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00727.html - Description: 获取Stride对象的维度个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00727_html.md ## CANN社区版-SetDimNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00728.html - Description: 设置Stride对象的维度个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00728_html.md ## CANN社区版-GetStride - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00729.html - Description: 获取对应idx轴的步长值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00729_html.md ## CANN社区版-SetStride - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00730.html - Description: 设置指定idx轴的步长值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00730_html.md ## CANN社区版-AppendStride - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00731.html - Description: 向后扩展一个步长值,如果扩展的步长数量超出Stride的最大限制,那么本函数不做任何事情。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00731_html.md ## CANN社区版-GetShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00733.html - Description: 获取原始shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00733_html.md ## CANN社区版-MutableShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00734.html - Description: 获取可写的原始shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00734_html.md ## CANN社区版-TensorV2是张量管理类 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00736.html - Description: TensorV2是张量管理类,用于存储和操作张量数据。该类记录了张量的形状、步长、偏移、数据格式、数据类型、存放位置,提供了数据地址访问、数据大小计算等接口。相对于Tensor类,TensorV2增加携带了步长和偏移信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00736_html.md ## 构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00737.html - Description: 用于构造指定的Tensor对象。TensorV2类用来描述一个Tensor对象的信息以及行为,包含:形状、数据格式、数据类型、步长、偏移以及tensor数据内容tensordata。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00737_html.md ## CANN社区版-GetShapeSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00738.html - Description: 获取当前Tensor运行时的形状大小,即此Tensor中包含的元素的数量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00738_html.md ## CANN社区版-GetData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00739.html - Description: 获取Tensor的数据地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00739_html.md ## CANN社区版-SetData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00740.html - Description: 设置Tensor的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00740_html.md ## CANN社区版-GetAddr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00741.html - Description: 获取Tensor的数据地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00741_html.md ## CANN社区版-GetSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00742.html - Description: 获取Tensor数据的内存大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00742_html.md ## CANN社区版-SetSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00743.html - Description: 设置Tensor的内存大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00743_html.md ## CANN社区版-GetDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00744.html - Description: 获取Tensor的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00744_html.md ## CANN社区版-SetDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00745.html - Description: 设置Tensor的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00745_html.md ## CANN社区版-CreateFollowing - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00746.html - Description: 创建一个指定数据类型以及大小的Tensor,其数据在TensorV2对象后连续排布。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00746_html.md ## CANN社区版-GetStorageShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00747.html - Description: 获取运行时Tensor的StorageShape,此Shape对象为只读。StorageShape和Originshape的区别如下:Originshape是Tensor最初创建时的形状,StorageShape是保存Tensor数据的底层存储的形状。运行时为了适配底层硬件,Tensor的StorageShape和其Originshape可能会有所不同。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00747_html.md ## CANN社区版-MutableStorageShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00748.html - Description: 获取运行时Tensor的形状,此Shape对象是可变的。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00748_html.md ## CANN社区版-GetOriginShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00749.html - Description: 获取Tensor的原始Shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00749_html.md ## CANN社区版-MutableOriginShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00750.html - Description: 获取Tensor的原始shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00750_html.md ## CANN社区版-GetShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00751.html - Description: 获取Tensor的Shape,包含运行时和原始Shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00751_html.md ## CANN社区版-GetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00752.html - Description: 获取运行时Tensor的数据格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00752_html.md ## CANN社区版-SetStorageFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00753.html - Description: 设置运行时Tensor的数据格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00753_html.md ## CANN社区版-GetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00754.html - Description: 获取Tensor的原始数据格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00754_html.md ## CANN社区版-SetOriginFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00755.html - Description: 设置Tensor的原始数据格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00755_html.md ## CANN社区版-GetFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00756.html - Description: 获取Tensor的数据格式,包含运行时数据格式和原始数据格式,返回的Format对象都是只读的。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00756_html.md ## CANN社区版-MutableFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00757.html - Description: 获取Tensor的数据格式,包含运行时数据格式和原始数据格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00757_html.md ## CANN社区版-GetExpandDimsType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00758.html - Description: 获取形状的补维规则。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00758_html.md ## CANN社区版-SetExpandDimsType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00759.html - Description: 设置形状的补维规则。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00759_html.md ## CANN社区版-GetPlacement - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00760.html - Description: 获取Tensor的placement。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00760_html.md ## CANN社区版-SetPlacement - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00761.html - Description: 设置Tensor的placement。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00761_html.md ## CANN社区版-GetTensorData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00762.html - Description: 获取Tensor中的数据,返回只读的TensorData类型对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00762_html.md ## CANN社区版-MutableTensorData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00763.html - Description: 获取Tensor中的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00763_html.md ## CANN社区版-GetVersion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00764.html - Description: 获取Tensor中的version。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00764_html.md ## CANN社区版-GetStride - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00765.html - Description: 获取Tensor中的stride。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00765_html.md ## CANN社区版-GetOffset - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00766.html - Description: 获取Tensor中的offset。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00766_html.md ## CANN社区版-MutableStride - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00767.html - Description: 获取Tensor中的Stride引用,该Stride可修改。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00767_html.md ## CANN社区版-SetOffset - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00768.html - Description: 设置Tensor中的offset。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00768_html.md ## CANN社区版-GetVersion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00769.html - Description: 获取Tensor中的版本。kTensorV1:不携带view和offset信息,kTensorV2:携带view和offset信息 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00769_html.md ## CANN社区版-TensorVersion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00770.html - Description: 头文件位于CANN软件安装后文件存储路径下的include/exe\_graph/runtime/tensor.h。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00770_html.md ## CANN社区版-InputIsView - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00771.html - Description: 根据算子输入索引获取对应的输入是否携带非连续信息。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00771_html.md ## CANN社区版-GetInputStride - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00772.html - Description: 根据算子输入索引获取对应的输入Stride指针。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00772_html.md ## CANN社区版-GetInputOffset - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00773.html - Description: 根据算子输入索引获取对应的输入offset。这里的输入索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00773_html.md ## CANN社区版-OutputIsView - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00774.html - Description: 根据算子输出索引获取对应的输出是否携带非连续信息。这里的输出索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00774_html.md ## CANN社区版-GetOutputStride - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00775.html - Description: 根据算子输出索引获取对应的输出Stride指针。这里的输出索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00775_html.md ## CANN社区版-GetOutputOffset - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00776.html - Description: 根据算子输出索引获取对应的输出offset。这里的输出索引是指算子实例化后实际的索引,不是原型定义中的索引。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00776_html.md ## CANN社区版-OptionalInputIsView - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00777.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入Tensor是否携带非连续描述信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00777_html.md ## CANN社区版-GetOptionalInputStride - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00778.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入Tensor的Stride指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00778_html.md ## CANN社区版-GetOptionalInputOffset - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00779.html - Description: 根据算子原型定义中的输入索引获取对应的可选输入Tensor的offset。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00779_html.md ## CANN社区版-DynamicInputIsView - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00780.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入Tensor是否携带非连续描述信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00780_html.md ## CANN社区版-GetDynamicInputStride - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00781.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入Tensor的Stride指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00781_html.md ## CANN社区版-GetDynamicInputOffset - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00782.html - Description: 根据算子原型定义中的输入索引获取对应的动态输入Tensor的offset。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00782_html.md ## CANN社区版-RequiredInputIsView - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00783.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入Tensor是否携带非连续描述信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00783_html.md ## CANN社区版-GetRequiredInputStride - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00784.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入Tensor的Stride指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00784_html.md ## CANN社区版-GetRequiredInputOffset - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00785.html - Description: 根据算子原型定义中的输入索引获取对应的必选输入Tensor的offset。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00785_html.md ## CANN社区版-SetDynUBufSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00786.html - Description: SIMT算子用于设置需要使用的Dynamic Unified Buffer大小。不设置的情况下,默认为0,即算子不需要使用Dynamic Unified Buffer。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00786_html.md ## CANN社区版-GetDynUBufSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00787.html - Description: SIMT算子获取所需的Dynamic Unified Buffer大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00787_html.md ## CANN社区版-CreateCcuTask - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00788.html - Description: 创建一个CCU类型的Task。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00788_html.md ## CANN社区版-CreateFusionTask - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00789.html - Description: 创建一个Fusion类型的Task,Fusion类型的Task指融合类型的Task,目前支持AI Core Task和CCU Task组成一个Fusion Task。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00789_html.md ## CANN社区版-Release - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00790.html - Description: 释放对TensorAddress的所有权,本接口调用后,本对象不再管理TensorAddress,而且TensorAddress并没有被释放,因此调用者负责通过manager释放TensorAddress。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00790_html.md ## CANN社区版-DeterministicLevel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00791.html - Description: 设置确定性计算级别。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00791_html.md ## CANN社区版-GetDeterministicLevel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00792.html - Description: 获取确定性计算级别配置选项。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00792_html.md ## gert\_TilingContextBuilder\_SetDeterministicLevel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00793.html - Description: 使用OpTilingContextBuilder构造TilingContext时设置确定性计算级别,对应弱符号C接口,与OpTilingContextBuilder::DeterministicLevel等价。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00793_html.md ## CANN社区版-ExceptionDumpParseFunc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00794.html - Description: 注册一个异常处理函数,在算子发生aic error时,执行用户定义的异常处理逻辑。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00794_html.md ## CANN社区版-SimtBlockDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00795.html - Description: 设置SIMT线程块的维度,即参与计算的Vector运算单元的线程块内部的线程数量,用Dim3结构体表示。Dim3是包含了x、y、z三个uint32的字段的结构体,表示一个Block线程块在x、y、z三个维度上的线程数量。算子Tiling函数可通过该Builder类构造的上下文TilingContext获取相应的Dim3指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00795_html.md ## CANN社区版-SimtGridDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00796.html - Description: 设置SIMT线程格的维度,即参与计算的Vector运算单元的线程格内部的线程块数量,用Dim3结构体表示。Dim3是包含了x、y、z三个uint32的字段的结构体,表示一个Grid线程格在x、y、z三个维度上的线程块数量。算子Tiling函数可通过该Builder类构造的上下文TilingContext获取相应的Dim3指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00796_html.md ## CANN社区版-SetSimdNumBlocks - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00797.html - Description: 设置SIMD Blocks的数量,即参与计算的Vector或者Cube核数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00797_html.md ## CANN社区版-GetSimdNumBlocks - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00798.html - Description: 获取SIMD Blocks数量,即参与计算的Vector或者Cube核数。num\_blocks的详细概念和设置方式请参考SetSimdNumBlocks。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00798_html.md ## CANN社区版-SetAicpuNumBlocks - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00799.html - Description: 设置可以调度的AI CPU核数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00799_html.md ## CANN社区版-GetAicpuNumBlocks - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00800.html - Description: 获取用户设置的可以调度的AI CPU核数。设置方式请参考SetAicpuNumBlocks。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00800_html.md ## CANN社区版-SetSimtBlockDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00801.html - Description: 设置SIMT线程块的维度,即参与计算的Vector运算单元的线程块内部的线程数量,用Dim3结构体表示。Dim3是包含了x、y、z三个uint32的字段的结构体,表示一个Block线程块在x、y、z三个维度上的线程数量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00801_html.md ## CANN社区版-GetSimtBlockDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00802.html - Description: 获取SIMT线程块的维度,即参与计算的Vector运算单元的线程块内部的线程数量,用Dim3结构体表示。Dim3是包含了x、y、z三个uint32的字段的结构体,表示一个Block线程块在x、y、z三个维度上的线程数量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00802_html.md ## CANN社区版-SetSimtGridDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00803.html - Description: 设置SIMT线程格的维度,即参与计算的Vector运算单元的线程格内部的线程块数量,用Dim3结构体表示。Dim3是包含了x、y、z三个uint32的字段的结构体,表示一个Grid线程格在x、y、z三个维度上的线程块数量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00803_html.md ## CANN社区版-GetSimtGridDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00804.html - Description: 获取SIMT线程格的维度,即参与计算的Vector运算单元的线程格内部的线程块数量,用Dim3结构体表示。Dim3是包含了x、y、z三个uint32的字段的结构体,表示一个Grid线程格在x、y、z三个维度上的线程块数量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00804_html.md ## CANN社区版-Dim3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00805.html - Description: Dim3结构体定义如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00805_html.md ## CANN社区版-SetExist - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00807.html - Description: 设置CompileTimeTensorDesc对应的输出是否存在。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00807_html.md ## CANN社区版-IsExist - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00808.html - Description: 获取CompileTimeTensorDesc对应的输出是否存在。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00808_html.md ## CANN社区版-NullableOutputs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00809.html - Description: 该接口用于标记算子可以为空的输出。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00809_html.md ## gert\_TilingContextBuilder\_SetSimtBlockDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00810.html - Description: 使用OpTilingContextBuilder构造TilingContext时设置SIMT Block维度,对应弱符号C接口,与OpTilingContextBuilder::SimtBlockDim等价。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00810_html.md ## gert\_TilingContextBuilder\_SetSimtGridDim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/basicdataapi/atlasopapi_07_00811.html - Description: 使用OpTilingContextBuilder构造TilingContext时设置SIMT Grid维度,对应弱符号C接口,与OpTilingContextBuilder::SimtGridDim等价。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_basicdataapi_atlasopapi_07_00811_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0001.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 安装后自动配置环境变量 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0003.html - Description: 描述CANN软件安装完成后,系统通过“set\_env.sh”脚本默认配置的程序编译、执行相关的基础环境变量,以及后续程序编译执行时,需要手工配置的与安装包相关的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0003_html.md ## CANN社区版-ASCEND\_CACHE\_PATH - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0006.html - Description: 若开发者期望编译运行过程中产生的文件落盘到统一路径,可通过此环境变量设置共享文件的存储路径,各组件编译运行过程中产生的可共享文件会存储到此环境变量定义的路径中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0006_html.md ## CANN社区版-ASCEND\_WORK\_PATH - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0007.html - Description: 若开发者期望编译运行过程中产生的文件落盘到归一路径,可通过此环境变量设置单机独享文件的存储路径,各组件编译运行过程中产生的单机独享文件会存储到此环境变量定义的路径中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0007_html.md ## CANN社区版-DUMP\_GE\_GRAPH - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0011.html - Description: 把整个流程中各个阶段的图描述信息打印到文件中,此环境变量控制dump图的内容多少。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0011_html.md ## CANN社区版-DUMP\_GRAPH\_LEVEL - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0012.html - Description: 把整个图编译流程中各个阶段的图描述信息打印到文件中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0012_html.md ## CANN社区版-DUMP\_GRAPH\_PATH - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0013.html - Description: 指定DUMP图文件的保存路径,可配置为绝对路径或脚本执行目录的相对路径。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0013_html.md ## CANN社区版-OP\_NO\_REUSE\_MEM - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0014.html - Description: 计算图在昇腾平台编译的过程中默认采用内存复用形式,在问题定位场景中,如果开发者怀疑是内存复用错误导致计算结果异常,可通过此环境变量指定为某算子单独分配内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0014_html.md ## CANN社区版-ASCEND\_ENGINE\_PATH - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0015.html - Description: 单算子JSON文件转换成离线模型场景,如果希望模型转换时只使用TBE算子(不查找AI CPU算子,找不到TBE算子则报错),则需要使用该环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0015_html.md ## CANN社区版-MAX\_COMPILE\_CORE\_NUMBER - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0016.html - Description: 此环境变量用于指定图编译时可用的CPU核数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0016_html.md ## CANN社区版-MULTI\_THREAD\_COMPILE - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0017.html - Description: 此环境变量用于控制模型转换时是否使用单线程编译。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0017_html.md ## CANN社区版-ENABLE\_NETWORK\_ANALYSIS\_DEBUG - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0018.html - Description: TensorFlow训练场景下,计算图编译失败时默认会终止训练流程,不会继续向Device下发剩余的图。若开发者希望图编译失败时,不终止训练流程,允许TF Adapter持续向Device下发计算图,可通过设置该环境变量实现。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0018_html.md ## CANN社区版-TE\_PARALLEL\_COMPILER - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0020.html - Description: 算子最大并行编译进程数,当该参数大于1时,系统将开启并行编译功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0020_html.md ## CANN社区版-ASCEND\_MAX\_OP\_CACHE\_SIZE - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0021.html - Description: 启用算子编译缓存功能时,可通过此环境变量限制某个AI处理器下缓存文件夹的磁盘空间的大小。默认为500,单位为MB。- 当编译缓存文件的大小超过此环境变量的设置值,且超过半小时缓存文件未被访问时,缓存文件就会老化。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0021_html.md ## CANN社区版-ASCEND\_REMAIN\_CACHE\_SIZE\_RATIO - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0022.html - Description: 启用算子编译缓存功能时,当编译缓存空间大小达到ASCEND\_MAX\_OP\_CACHE\_SIZE而需要删除旧的kernel文件时,系统需要保留缓存的空间大小比例,默认为50,单位为百分比。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0022_html.md ## CANN社区版-ASCEND\_DEVICE\_ID - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0027.html - Description: 指定当前进程所用的AI处理器的逻辑ID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0027_html.md ## CANN社区版-ASCEND\_RT\_VISIBLE\_DEVICES - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0028.html - Description: 指定哪些Device对当前进程可见,支持一次指定一个或多个Device ID。通过该环境变量,可实现不修改应用程序即可调整所用Device的功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0028_html.md ## CANN社区版-AUTO\_USE\_UC\_MEMORY - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0029.html - Description: 控制系统是否允许算子搬移数据不经过L2 Cache的功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0029_html.md ## CANN社区版-ACLNN\_CACHE\_LIMIT - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0031.html - Description: 此环境变量用于配置aclnn API在Host侧缓存的算子信息条目个数。缓存的算子信息包含workspace大小、算子计算的执行器、Tiling信息等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0031_html.md ## CANN社区版-ENABLE\_DYNAMIC\_SHAPE\_MULTI\_STREAM - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0033.html - Description: 计算图执行时,开启多流并发执行功能在一定场景下可提升网络性能。当前多流并发执行功能默认关闭,动态shape图模式场景下,若开发者想开启多流并发执行功能,可通过此环境变量开启。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0033_html.md ## CANN社区版-MAX\_RUNTIME\_CORE\_NUMBER - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0034.html - Description: 训练与在线推理场景下,针对动态shape图模式执行的网络,可通过设置此环境变量开启图执行器(Host侧)的多线程任务调度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0034_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0036.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0037.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0038.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0039.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0040.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0041.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0042.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0043.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0044.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0045.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0046.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0047.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0048.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0049.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0050.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0051.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0052.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0053.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0054.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 场景说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0103.html - Description: 本节描述推理与训练场景下,使用AOE工具进行性能调优时,AOE调优工具提供的可用环境变量。另外,调优过程中,您也可以使用编译或执行相关的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0103_html.md ## CANN社区版-TUNE\_BANK\_PATH - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0104.html - Description: 可通过此环境变量指定调优后自定义知识库的存储路径。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0104_html.md ## CANN社区版-REPEAT\_TUNE - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0105.html - Description: 是否重新发起调优,此环境变量在开启子图调优或算子调优的场景下生效。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0105_html.md ## CANN社区版-AOE\_MODE - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0106.html - Description: 在线推理与训练场景下,可通过此环境变量指定AOE调优模式,支持如下取值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0106_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0108.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0109.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0110.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0111.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0112.html - Description: 本手册描述开发者基于CANN构建AI应用和业务过程中可使用的环境变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0001_html.md ## 场景说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0114.html - Description: Profiling性能分析工具可在推理或训练任务执行过程中进行性能数据的采集,辅助定位系统的软、硬件性能瓶颈,提高性能分析的效率。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0114_html.md ## CANN社区版-PROFILING\_MODE - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0115.html - Description: 是否开启Profiling采集功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0115_html.md ## CANN社区版-PROFILING\_OPTIONS - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0116.html - Description: 训练或在线推理场景下,开发者可通过PROFILING\_OPTIONS环境变量配置Profiling配置选项。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0116_html.md ## 场景说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0119.html - Description: 日志主要用于记录系统的运行过程及异常信息,帮助用户快速定位系统运行过程中出现的问题以及开发过程中的程序调试问题。开发者可通过本节描述的环境变量,控制日志的落盘路径以及日志级别等信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0119_html.md ## CANN社区版-ASCEND\_PROCESS\_LOG\_PATH - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0120.html - Description: 设置日志落盘路径。 日志存储时如果不存在该目录,会自动创建该目录;如果存在则直接存储。 - 通过执行echo $ASCENDPROCESSLOGPATH命令可以查看环境变量设置的路径。 - 日志落盘优先级为:ASCENDPROCESSLOGPATH > ASCENDWORKPATH > 日志默认存储路径($HOME/ascend/log) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0120_html.md ## CANN社区版-ASCEND\_SLOG\_PRINT\_TO\_STDOUT - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0121.html - Description: 是否开启Host侧应用类日志打印。开启后,日志将不会保存在log文件中,而是将产生的日志直接打印显示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0121_html.md ## CANN社区版-ASCEND\_GLOBAL\_LOG\_LEVEL - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0122.html - Description: 设置应用类日志的日志级别及各模块日志级别,仅支持调试日志。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0122_html.md ## CANN社区版-ASCEND\_MODULE\_LOG\_LEVEL - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0123.html - Description: 设置应用类日志的各模块日志级别,仅支持调试日志。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0123_html.md ## CANN社区版-ASCEND\_GLOBAL\_EVENT\_ENABLE - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0124.html - Description: 设置应用类日志是否开启Event日志。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0124_html.md ## CANN社区版-ASCEND\_LOG\_DEVICE\_FLUSH\_TIMEOUT - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0125.html - Description: 指定Device侧应用类日志回传到Host侧的延时时间。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0125_html.md ## CANN社区版-ASCEND\_HOST\_LOG\_FILE\_NUM - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0126.html - Description: Ascend EP 场景下,设置应用类日志目录(plog和device-id)下存储每个进程日志文件的数量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0126_html.md ## CANN社区版-ASCEND\_COREDUMP\_SIGNAL - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0127.html - Description: 设置trace处理的core dump信号量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0127_html.md ## CANN社区版-ASCEND\_LOG\_SYNC\_SAVE - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0128.html - Description: 指定日志拥塞处理方式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0128_html.md ## CANN社区版-ASCEND\_DUMP\_PATH - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0130.html - Description: 指定异常算子Dump信息的存储路径,可配置为绝对路径或执行程序的相对路径。指定的路径支持大小写字母(a-z,A-Z)、数字(0-9)、下划线(\_)、中划线(-)、句点(.)、中文字符,执行用户需具有读、写、执行权限,若路径不存在,系统会自动创建该路径中的目录。不指定路径时,异常算子Dump信息默认存放在应用程序的当前执行目录。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0130_html.md ## CANN社区版-RESOURCE\_CONFIG\_PATH - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0133.html - Description: 用于设置配置异构资源描述信息文件的存储路径。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0133_html.md ## CANN社区版-GE\_USE\_STATIC\_MEMORY - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0138.html - Description: 网络运行时使用的内存分配方式,支持以下取值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0138_html.md ## CANN社区版-ENABLE\_ACLNN - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0139.html - Description: 该环境变量在后续版本会废弃。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0139_html.md ## CANN社区版-ASCEND\_TRACE\_RECORD\_NUM - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0140.html - Description: 设置trace日志文件的老化规格,取值范围\[10, 1000\]。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0140_html.md ## CANN社区版-IGNORE\_INFER\_ERROR - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0142.html - Description: 该环境变量为试验特性,后续版本可能会存在变更。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0142_html.md ## CANN社区版-ASCEND\_CUSTOM\_OPP\_PATH - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0147.html - Description: 用户自定义算子安装路径。配置该路径后,算子入图场景下,GE框架在图编译和执行时根据该环境变量搜索算子二进制并使用。支持配置多个路径,以英文冒号分隔。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0147_html.md ## CANN社区版-CANN\_KNOWLEDGE\_BANK\_PROCESS\_NUM - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0148.html - Description: CANN\_KNOWLEDGE\_BANK\_PROCESS\_NUM用于设置知识库管理模块查询知识库的进程数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0148_html.md ## CANN社区版-DUMP\_GRAPH\_FORMAT - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0155.html - Description: 控制需要生成的dump文件类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0155_html.md ## CANN社区版-NPU\_COLLECT\_PATH - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0163.html - Description: 在复现问题场景下,使用该环境变量指定故障信息(包括dump图、AI Core算子异常数据、算子编译信息等)的保存路径,可配置为绝对路径或相对路径(此处是相对执行程序或命令的路径),执行用户需对该路径具有读、写、可执行权限,若路径不存在,系统会自动创建该路径中的目录。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0163_html.md ## CANN社区版-ASCEND\_DUMP\_SCENE - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/envvar/envref_07_0164.html - Description: 在复现问题场景时,使用该环境变量开启异常算子Dump,导出异常算子的输入输出数据、workspace信息和Tiling信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_envvar_envref_07_0164_html.md ## CANN社区版-算子融合是整网性能提升的一种关键手段 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref - Description: 算子融合是整网性能提升的一种关键手段,包括图融合和UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0003_html.md ## CANN社区版-V100RequantFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0005.html - Description: 该融合在推理场景下对量化节点进行优化。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0005_html.md ## CANN社区版-V200RequantFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0006.html - Description: 该融合在推理场景下对量化节点进行优化。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0006_html.md ## CANN社区版-ConvToFullyConnectionFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0007.html - Description: 该融合规则将Conv卷积算子融合为FullyConnection算子,提高计算性能: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0007_html.md ## CANN社区版-SoftmaxFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0008.html - Description: 该融合规则将SoftmaxV2输入和输出添加TransposeD算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0008_html.md ## CANN社区版-SoftmaxSmallOpFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0009.html - Description: 该融合规则将ReduceMaxD、Sub等小算子组合识别并融合为SoftmaxV2算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0009_html.md ## CANN社区版-LayerNormFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0010.html - Description: 该融合规则将ReduceMean、SquaredDifference等小算子组合识别并融合为LayerNorm算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0010_html.md ## CANN社区版-GeluFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0011.html - Description: 该融合规则将Pow、Mul、Add、Tanh等小算子融合为Gelu算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0011_html.md ## CANN社区版-GridSampler3DFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0012.html - Description: 该融合规则主要是使用GridSample算子替换GridSampler3D算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0012_html.md ## CANN社区版-SplitConvConcatFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0013.html - Description: 对如下几种场景进行融合: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0013_html.md ## CANN社区版-ConvConcatFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0014.html - Description: 在concat算子前插入跳写算子,将原先通过concat拼接多个Conv2D内存的方式,修改成通过StridedWrite算子进行Conv2D内存拼接,以消除concat算子任务执行带来的性能消耗。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0014_html.md ## CANN社区版-PoolingFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0015.html - Description: 融合成 - 不支持动态shape。 - 静态融合数据类型仅支持float16和int8。 - 在AVG Pooling下融合规则生效,如果网络模型中涉及AVG Pooling int8量化情况,即prototxt文件中pooling属性参数pool为AVG时,该融合规则必须打开。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0015_html.md ## CANN社区版-BatchMatMulReduceMeanFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0016.html - Description: 为batchmatmul、batchmatmulv2、matmul、matmulv2和reducemean算子节点的常量输入添加pad算子节点,提高计算性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0016_html.md ## CANN社区版-PadDepthwiseConv2dFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0017.html - Description: 该融合规则将PadD+DepthwiseConv2D算子融合为DepthwiseConv2D算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0017_html.md ## CANN社区版-SameInputConv2dPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0018.html - Description: 非量化场景:该融合将符合约束条件的多路Conv2D+Relu算子融合成一路Conv2D+Relu+Split融合算子,如下图所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0018_html.md ## CANN社区版-ConvScaleFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0019.html - Description: 该融合规则将conv卷积算子和scale算子融合为conv卷积算子,filter输入替换为ConvScaleFilterHost算子,bias输入替换为ConvScaleBiasHost算子,提高计算性能: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0019_html.md ## CANN社区版-Conv2DSqueezeBiasaddFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0020.html - Description: 该融合将conv2D+squeeze+biasadd转换成conv2D+biasadd+squeeze的结构。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0020_html.md ## CANN社区版-ConvBatchnormFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0021.html - Description: 该融合将Conv2d+batchnorm或者Conv3d+batchnorm融合为一个融合算子;当batchnorm为2个输入时,在这种情况下,会将DepthwiseConv2d+batchnorm融合为一个融合算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0021_html.md ## CANN社区版-AConv2dMulFusion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0022.html - Description: 该融合将Conv2d+mul或Conv3d+mul融合为一个融合算子Conv。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0022_html.md ## CANN社区版-DepthwiseDfFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0023.html - Description: 该融合规则为DepthwiseConv2DbackpropInput卷积算子添加TransposeD算子,提高计算性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0023_html.md ## CANN社区版-ZBNupdateReluV2Conv2DBNreducePass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0024.html - Description: 该融合规则将BNTrainingUpdate+ReluV2+Conv2D+BNTrainingReduce四个算子融合成一个Conv2D算子,提高性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0024_html.md ## CANN社区版-ASplitConv2dConcatPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0025.html - Description: 将Split/SplitV + Conv2D *N + Concat/ConcatV2融合成一个组卷积,简化图结构。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0025_html.md ## CANN社区版-Conv3DQuantProcessFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0026.html - Description: 静态shape场景下,当匹配到如下图结构时,可以进行量化回退或者bias优化。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0026_html.md ## CANN社区版-MatmulCastFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0027.html - Description: 将MatMul/MatMulV2/BatchMatMul/BatchMatMulV2算子和cast算子融合为MatMul/MatMulV2/BatchMatMul/BatchMatMulV2算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0027_html.md ## CANN社区版-MatMulBiasAddFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0028.html - Description: 将MatMul/MatMulV2/MatMulV3/BatchMatmul/BatchMatMulV2/BatchMatMulV3算子和biasadd/add算子融合为MatMul/MatMulV2/MatMulV3/BatchMatmul/BatchMatMulV2/BatchMatMulV3算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0028_html.md ## CANN社区版-DeconvWeightTransFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0029.html - Description: 在int8量化场景下,对输入filter进行转置逆序。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0029_html.md ## CANN社区版-Conv2DbpInputBiasAddFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0030.html - Description: 将Conv2DBackpropInput算子和BiasAdd算子融合为Conv2DTransposeD算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0030_html.md ## CANN社区版-BatchMatMulV2ReshapeFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0031.html - Description: 该融合模式分为三种场景: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0031_html.md ## CANN社区版-BatchMatMulFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0032.html - Description: 有如下两种融合模式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0032_html.md ## CANN社区版-SwapMergeCastFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0033.html - Description: 该融合调节Merge与Cast节点间顺序: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0033_html.md ## CANN社区版-PSROIPoolingFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0034.html - Description: 当PSROIPooling前驱是Conv2D时,在Conv2D的Filter和Bias的输出插入SwapCo算子;如果PSROIPooling前驱不是Conv2D,则在PSROIPooling输入插入SwapCi算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0034_html.md ## CANN社区版-ConvWeightCompressFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0035.html - Description: 对于Cube类运算算子,通过插入压缩算子将Filter进行压缩,或通过插入四选二结构化稀疏算子进行稀疏。该Pass根据用户配置的参数执行压缩或者四选二结构化稀疏。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0035_html.md ## CANN社区版-ConcatQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0036.html - Description: 该融合规则将ConcatD/ConcatV2D+Quant子图融合成Quant+ConcatD/ConcatV2D子图模式。该融合规则可以减少数据搬运量,提高计算性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0036_html.md ## CANN社区版-BatchMatMulV2ReduceFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0037.html - Description: 该融合规则将BatchMatMulV2+ReduceSumD算子融合为BatchMatMulV2算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0037_html.md ## CANN社区版-BatchMatMulNonAlignedFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0038.html - Description: 该融合为BatchMatMul非对齐场景下的融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0038_html.md ## CANN社区版-Conv3DbpInputBiasAddFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0039.html - Description: 该融合规则将Conv3DBackpropInput+BiasAdd算子融合为Conv3DTransposeD算子,BiasAdd输入作为Conv3DTransposeD的输入bias。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0039_html.md ## CANN社区版-FullyConnectionPowerPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0040.html - Description: 该融合规则将FullyConnection+Power算子融合为FullyConnectionPower算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0040_html.md ## CANN社区版-AFullyConnectionReshapePass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0041.html - Description: 该融合规则将FullyConnection+Reshape算子融合为AFullyConnectionReshape算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0041_html.md ## CANN社区版-GemmTransFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0042.html - Description: 该融合规则将Transpose+Gemm算子融合为GemmTrans算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0042_html.md ## CANN社区版-MatmulTransdataFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0043.html - Description: 该融合规则通过等价替换将图中的Transdata算子从2个减少为1个。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0043_html.md ## CANN社区版-Matmulv2FusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0044.html - Description: 对于weight int8量化场景,输入数量为3的MatMulV2算子,该融合规则在需要转置的输入TensorB之前插入TransposeD算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0044_html.md ## CANN社区版-Resnet50DbnDwFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0045.html - Description: 该融合规则将在Conv2DBackpropFilterD算子前添加BNTrainingReduceGrad,融合成FusedDbnDw算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0045_html.md ## CANN社区版-AAMatMulNzToNdFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0046.html - Description: 该融合规则用于减少如下4个场景中的TransData或Cast算子。其中,TensorC节点是可选的。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0046_html.md ## CANN社区版-CastReluCastFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0047.html - Description: 该融合规则将Cast+Relu+Cast算子融合为Relu算子,即消除Relu前后的Cast算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0047_html.md ## CANN社区版-StrideHoistingPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0048.html - Description: 该融合主要是根据不同的图结构插入ReadSelect算子;如果匹配到Conv2D,会修改Conv2D的shape和属性。最终目的是让计算量减半。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0048_html.md ## CANN社区版-PadConv2dFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0049.html - Description: 该融合将Pad/PadV3+Conv2D算子融合成Conv2D算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0049_html.md ## CANN社区版-Conv2DTransposeBatchnormFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0050.html - Description: 该融合规则将Conv2DTranspose+BatchNorm或BNInference算子融合为Conv2DTransposeD算子,将BatchNorm或BNInference的输入转化为Conv2DTransposeD的weight和bias输入。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0050_html.md ## CANN社区版-AvgPoolV2GradFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0051.html - Description: 该融合规则将AvgPoolV2Grad算子融合为AvgPoolV2GradD算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0051_html.md ## CANN社区版-DropOutDoMaskFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0052.html - Description: 该融合规则替换DropOutDoMaskV3D算子为DropOutDoMask。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0052_html.md ## CANN社区版-TransposeSigmoidMulAddPowConcatFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0053.html - Description: 该融合规则将yolov3,yolov5和yolov7不带nms后处理算子的模型最后的sigmoid结构融合成一个算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0053_html.md ## CANN社区版-ConvCastFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0054.html - Description: 将Conv2D算子与Cast算子融合为一个Conv2D算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0054_html.md ## CANN社区版-YoloxBoundingBoxDecodeONNXFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0055.html - Description: 该融合规则将StridedSliceD/Mul/Exp/GatherV2/Add/Muls/Sub/Unsqueeze/ConcatD算子融合为YoloxBoundingBoxDecode算子,提高计算性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0055_html.md ## CANN社区版-MatMulUnsqueezeSqueezeFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0056.html - Description: 融合模式一 MatMul/MatMulV2/BatchMatmul/BatchMatmulV2支持1 dim x N dim和N dim x 1 dim的输入场景下,需要将1 dim的输入插入Unsqueeze算子扩成二维,输出插入Squeeze算子去掉对应的扩维轴。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0056_html.md ## CANN社区版-LayerNormSpecialTrainingFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0057.html - Description: 该融合规则将Mean/SquaredDifference/Add/Rsqrt/RsqrtGrad/Mul/Sub/AddN算子融合成一个LayerNorm算子和两个LayerNormGrad算子,提高计算性能。如下图所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0057_html.md ## CANN社区版-StridedSliceConcatFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0058.html - Description: 该融合规则将StridedSliceD/StridedSliceD/ConcatD算子融合成Squeeze/Roll/Unsqueeze,提高计算性能。如下图所示: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0058_html.md ## CANN社区版-ZSplitVDFusionPassV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0060.html - Description: 该融合模式用在SplitV的size\_splits和split\_dim为常量时,将其融合成SplitVD,同时删除了size\_splits和split\_dim节点,将其变成SplitVD的属性,用于提升算子性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0060_html.md ## CANN社区版-RGB2YUV422FusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0061.html - Description: 由于RGB2YUV422算子和该算子中的load\_image支持形态不一致,所以新增融合规则,将RGB2YUV422拆分成两个算子:Aipp+YUV4442YUV422。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0061_html.md ## CANN社区版-MatMulAlignInputsFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0062.html - Description: 当matmul算子输入shape内轴非512B对齐时,MTE效率较低,性能表现较差。该图融合就是将matmul的输入shape进行对齐,解决性能问题。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0062_html.md ## CANN社区版-BatchMatMul2MulFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0063.html - Description: 网络中存在部分k\=1的MatMul/MatMulv2/MatMulV3/BatchMatmul/BatchMatMulV2/BatchMatMulV3算子,性能表现较差。该图融合就是将MatMul/MatMulv2/MatMulV3/BatchMatmul/BatchMatMulV2/BatchMatMulV3转为mul,解决性能问题。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0063_html.md ## CANN社区版-AInplaceAddFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0064.html - Description: 该图融合就是将网络中的InplaceAdd算子拆分成TensorMove+ScatterAdd算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0064_html.md ## CANN社区版-AInplaceSubFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0065.html - Description: 该图融合就是将网络中的InplaceSub算子拆分成TensorMove+ScatterSub算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0065_html.md ## CANN社区版-AInplaceUpdateFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0066.html - Description: 该图融合就是将网络中的InplaceUpdate算子拆分成TensorMove+ScatterUpdate算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0066_html.md ## CANN社区版-BatchMatmulFixpipeFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0067.html - Description: 在量化场景中,将下图结构融合为BatchMatmulFixpipe算子,使用Fixpipe开启量化功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0067_html.md ## CANN社区版-IncreFlashAttentionQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0068.html - Description: 量化场景,将IncreFlashAttention+AscendQuant融合为IncreFlashAttention算子,quant的scale和offset转化为ifa的quant\_scale2和quant\_offset2入参。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0068_html.md ## CANN社区版-PromptFlashAttentionQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0069.html - Description: 量化场景,将PromptFlashAttention+AscendQuant融合为PromptFlashAttention算子,quant的scale和offset转化为pfa的quant\_scale2和quant\_offset2入参。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0069_html.md ## CANN社区版-BatchMatMulDequantElemwiseFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0070.html - Description: 量化场景,将BatchMatMul/MatMul +AscendDequant + Elemwise融合为BatchMatMul算子,Elemwise算子broadcast到MatMul上。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0070_html.md ## CANN社区版-AddLayerNormFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0071.html - Description: - 场景一:基础场景,将Add + Cast\(可选\)+ LayerNorm/LayerNormV3/LayerNormV4融合为AddLayerNorm算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0071_html.md ## CANN社区版-IndexByTensorStaticFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0072.html - Description: 在PyTorch图模式场景中,静态shape时,将IndexByTensor转换为Index算子,用于保证图下沉不被破坏。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0072_html.md ## CANN社区版-MaskedSoftmaxWithRelPosBiasFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0073.html - Description: 将符合如下模式中的Mul,Add,Reshape,Softmax融合成MaskedSoftmaxWithRelPosBias算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0073_html.md ## CANN社区版-WeightQuantBatchMatmulV2TransposeFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0074.html - Description: 对于WeightQuantBatchMatmulV2所连接的Transpose节点,将其信息下沉到transpose\_x和transpose\_weight属性中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0074_html.md ## CANN社区版-GeGluV2FusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0076.html - Description: 完成如下结构的融合,把小算子\(SplitVD + Gelu + Mul\)融合成大算子GeGluV2。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0076_html.md ## CANN社区版-QuantBatchMatmulV3TransposeFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0077.html - Description: 将算子QuantBatchMatmulV3的输入x1/x2所连接的Transpose/TransposeD算子节点融合,将其信息分别转化到QuantBatchMatmulV3的两个属性transpose\_x1和transpose\_x2中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0077_html.md ## CANN社区版-FusedInferAttentionScoreQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0078.html - Description: 量化场景,将FusedInferAttentionScore+AscendQuant融合为FusedInferAttentionScore算子,quant的scale和offset转化为FIA接口的quant\_scale2和quant\_offset2入参。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0078_html.md ## CANN社区版-ConfusionTransposeTransDataFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0079.html - Description: 在图融合阶段将ConfusionTransposeD\(NHWC->NCHW\)+TransData\(NCHW->5HD\)融合为TransData\(NHWC->5HD\)算子,减少一次ConfusionTransposeD操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0079_html.md ## CANN社区版-QuantizeAddLayerNormPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0080.html - Description: 场景1:将算子AddLayerNorm的输出y所连接的两个Quantize算子或两个AscendQuantV2算子融合掉,融合成新算子DuaQuantizeAddLayerNorm。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0080_html.md ## CANN社区版-InplaceAddRmsNormFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0081.html - Description: 场景一:将AddRmsNorm的y输出地址复用x1输入地址,x输出地址复用x2输入地址,转换为InplaceAddRmsNorm算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0081_html.md ## CANN社区版-ZInplaceAddLayerNormFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0082.html - Description: 将AddLayerNorm的y输出地址复用x1输入地址,x输出地址复用x2输入地址,转换为InplaceAddLayerNorm算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0082_html.md ## CANN社区版-TransdataTransposeTransdataBatchMatMulv2FusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0083.html - Description: 将双BatchMatMulV2节点间的TransData、Transpose等冗余节点删除。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0083_html.md ## CANN社区版-AscendQuantV2ScatterFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0086.html - Description: 将满足如下Pattern的结构融合成QuantUpdateScatter算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0086_html.md ## CANN社区版-AddLayerNormDynamicQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0087.html - Description: 将AddLayerNorm和其下游的1个或2个DynamicQuant融合成AddLayerNormQuant算子,如下图所示: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0087_html.md ## CANN社区版-AddRmsNormQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0088.html - Description: 将满足如下Pattern的结构融合成AddRmsNormQuant算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0088_html.md ## CANN社区版-GeluQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0089.html - Description: 完成如下结构的融合,把小算子\(Gelu + AscendQuantV2\)或\(Gelu + DynamicQuant\)融合成大算子GeluQuant。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0089_html.md ## CANN社区版-DeleteNoConstFoldingFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0091.html - Description: 识别到如下图结构时,AscendWeightQuant算子上如有ATTR\_NO\_NEED\_CONSTANT\_FOLDING标签则删除。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0091_html.md ## CANN社区版-TfMergeWeightQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0095.html - Description: 量化场景,在下列图结构中,对于匹配到的Cube类算子(包括Conv2D/DepthwiseConv2D/Conv3D/Deconvolution/Conv2DTransposeD/MatMulV2/BatchMatMulV2),做如下图中处理。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0095_html.md ## CANN社区版-LayerNormSpecialFourGradsTrainingFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0097.html - Description: 和LayerNormSpecialTrainingFusionPass类似,该融合规则将Mean/SquaredDifference/Add/Rsqrt/RsqrtGrad/Mul/Sub/AddN算子融合成一个LayerNorm算子和两个LayerNormGrad算子,提高计算性能。有差异的是该融合pass会匹配四个反向的pattern,并将其中两个scope名称和正向LayerNorm一致的反 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0097_html.md ## CANN社区版-GroupedMatmulTransFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0098.html - Description: 融合模式一:将Transpose或TransposeD从图中删除,并将x/weight转置信息添加在算子属性上。如下图所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0098_html.md ## CANN社区版-SameInputConv2dFixpipePass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0099.html - Description: 该融合将符合约束条件的多路Conv2D+AscendDequant+Relu+AscendQuant算子融合成一路Conv2D+AscendDequant+Relu+AscendQuant+Split融合算子,如下图所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0099_html.md ## CANN社区版-SpaceToBatchConv2dBatchToSpacePass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0101.html - Description: 该融合将顺序连接的SpaceToBatchND、Conv2D、BatchToSpaceND算子融合为Conv2D算子,如下图所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0101_html.md ## CANN社区版-ConcatTileFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0102.html - Description: 该融合将连续具备相同Multiple的Tile算子的输入使用Concat进行连接,进而完成Tile算子的融合,如下图所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0102_html.md ## CANN社区版-MatmulReshapeTransposeFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0103.html - Description: 该融合将符合图融合pattern的Matmul算子前后的Transpose算子删除,同时交换Matmul算子的两路输入。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0103_html.md ## CANN社区版-AddRmsNormFusionGraphPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0104.html - Description: 该融合将符合图融合pattern的Add算子和RmsNorm算子融合成融合算子AddRmsNorm,其中Add算子的输出作为RmsNorm算子的第一个输入。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0104_html.md ## CANN社区版-AddRmsNormDynamicQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0105.html - Description: 该融合将符合图融合pattern的AddRmsNorm算子和DynamicQuant算子融合成融合算子AddRmsNormDynamicQuant,其中AddRmsNorm算子的输出y作为DynamicQuant算子的第一个输入。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0105_html.md ## CANN社区版-ReluFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0106.html - Description: caffe框架下,该融合会匹配到如下特定图结构,匹配成功后,转成随路指令完成激活函数的计算。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0106_html.md ## CANN社区版-CubeTransFixpipeFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0110.html - Description: 当匹配到下图结构时,将transdata节点后移用于匹配Fixpipe融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0110_html.md ## CANN社区版-MatMulTransposeWeightFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0111.html - Description: 二维矩阵的第一个轴为外轴,第二个轴为内轴,比如A \= M x K中,内轴为K,转置之后A^T \= k x M,内轴为M。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0111_html.md ## CANN社区版-ConvFormatRefreshFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0112.html - Description: 针对如下图中的结构时,将卷积算子Input1的shape和format配置为输出的shape和format。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0112_html.md ## CANN社区版-FIXPIPEFUSIONPASS - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0113.html - Description: 在拥有FIXPIPE相关硬件上,当cube算子包含FixPipeAbilityProcessPass配置的“support\_fixpipe\_ability”属性时,会按照图中顺序依次匹配convert、activation和transform单元,当三个单元中至少存在一个单元时(不存在的单元则跳过),会将匹配到的算子融合为FIXPIPE算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0113_html.md ## CANN社区版-ConstToAttrReduceSumFusion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0114.html - Description: 静态场景下,该融合将符合图融合pattern的ReduceSum算子修改为ReduceSumD算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0114_html.md ## CANN社区版-AReduceSumFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0116.html - Description: 静态场景下,该融合将符合图融合pattern的ReduceSum算子修改为Reshape算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0116_html.md ## CANN社区版-TransposedUpdateFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0119.html - Description: 该融合将符合图融合pattern的TransposeD算子,当算子中的check\_supported函数返回True时,将图中的TransposeD算子改为Transpose算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0119_html.md ## CANN社区版-ConstToAttrStridedSliceFusion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0120.html - Description: 将StridedSlice算子融合成StridedSliceD算子,并将StridedSlice算子的Const节点输入begin、end、strides,转变成StridedSliceD算子的属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0120_html.md ## CANN社区版-ZSplitVFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0121.html - Description: 将输出数量超限的SplitV节点拆分成多层级联的SplitV节点结构。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0121_html.md ## CANN社区版-ZSplitFusionPassV2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0123.html - Description: 将输出数量超限的Split节点拆分成多层级联的Split/SplitV节点结构。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0123_html.md ## CANN社区版-ZConfusionSoftmaxGradFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0126.html - Description: 该融合将符合图融合pattern的Mul + ReduceSumD/ReduceSum(仅 Ascend 950PR / Ascend 950DT 支持) + Sub这几个小算子融合成ConfusionSoftmaxGrad算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0126_html.md ## CANN社区版-SoftmaxGradExtFusion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0128.html - Description: 该融合将符合下图左侧图结构的Mul、ReduceSumD、Sub这些小算子,融合成下图右侧的SoftmaxGradExt算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0128_html.md ## CANN社区版-TransposeReshapeFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0130.html - Description: 该融合将符合图融合pattern的TransposeD+Reshape算子,融合成ConfusionTransposeD算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0130_html.md ## CANN社区版-SoftmaxGradFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0131.html - Description: 该融合将符合图融合pattern的小算子融合成SoftmaxGrad算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0131_html.md ## CANN社区版-SparseSoftMaxFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0133.html - Description: 该融合将符合图融合pattern的SparseSoftmaxCrossEntropyWithLogits算子,融合成OneHotD + SoftmaxCrossEntropyWithLogits算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0133_html.md ## CANN社区版-ARefreshCubeC0FusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0135.html - Description: 修正cube类算子的输入输出是重型格式(私有格式)的c0值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0135_html.md ## CANN社区版-ApplyAddOutputPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0136.html - Description: 为表1中的算子增加可选输出和precheck。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0136_html.md ## CANN社区版-ZZMatMulToMatmulV3FusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0137.html - Description: 该融合将符合图融合pattern的MatmulV2的算子转换为MatmulV3算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0137_html.md ## CANN社区版-PaddUpdateFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0138.html - Description: 该融合将符合图融合pattern的PadD算子,在静态场景下且非5HD场景下,将图中的PadD算子改为Pad算子,并将属性转换为输入。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0138_html.md ## CANN社区版-PadFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0139.html - Description: 该融合将符合图融合pattern的Pad算子,在输入paddings为const节点时,将图中的Pad算子改为PadD算子,并将输入转换为属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0139_html.md ## CANN社区版-ForceFp16CastFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0140.html - Description: 针对cast算子中,输入和输出的数据类型为int32->fp32或fp32->int32时,可以通过设置attr\_keep\_dtype来提高精度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0140_html.md ## CANN社区版-TensorScatterUpdateFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0141.html - Description: 该融合将符合图融合pattern的TensorScatterUpdate算子,在输入输出数据类型不是Bool或int32时,修改为TensorMove+ScatterNdUpdate算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0141_html.md ## CANN社区版-SubFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0142.html - Description: 该融合将符合图融合pattern的Sub算子,在满足以下约束的情况下,融合成Const节点,修改Const节点的value是全0,shape与Sub节点的输出shape一致。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0142_html.md ## CANN社区版-ZZConfusionTransposeNdFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0143.html - Description: 将静态场景下ND格式的ConfusionTransposeD替换为Transpose算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0143_html.md ## CANN社区版-AddNFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0144.html - Description: 当输入过多时,将输入按照如下规则进行分组,最后将每组之和进行相加。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0144_html.md ## CANN社区版-ReshapeTransposeFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0145.html - Description: 该融合将符合图融合pattern的Reshape+TransposeD算子改为ConfusionTransposeD算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0145_html.md ## CANN社区版-SoftmaxCrossEntropyWithLogitsPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0146.html - Description: 该融合将符合图融合pattern的reshape+SoftmaxCrossEntropyWithLogits算子,融合后消除Reshape算子,仅保留SoftmaxCrossEntropyWithLogits算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0146_html.md ## CANN社区版-MulAddNPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0148.html - Description: 该融合规则在Mul节点个数大于2时,将多个Mul节点和AddN节点融合成一个MulAddN节点。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0148_html.md ## CANN社区版-ZConcatExt2FusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0149.html - Description: 该融合规则将ConcatV2算子的多个输入拆分成多个ConcatV2D,根据实际输入个数,按照一定计算规则确定融合后ConcatV2D个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0149_html.md ## CANN社区版-EinsumPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0150.html - Description: 该融合规则根据Einsum算子的表达式构造出对应的计算图。如下所示计算图中的虚线节点皆为根据实际表达式可能添加的算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0150_html.md ## CANN社区版-MatmulReshapeFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0151.html - Description: 该融合规则在Matmul N轴等于1时,会对第二个输入增加Reshape节点。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0151_html.md ## CANN社区版-AABiasaddConvFusion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0152.html - Description: 该融合规则将不包含Bias的Conv卷积算子和BiasAdd算子进行融合,融合为一个包含Bias输入的Conv卷积算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0152_html.md ## CANN社区版-TileConstToAttrFusion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0153.html - Description: 该融合规则将Tile转换成TileD,其中该融合规则的输入multiples将转换为required\_attr。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0153_html.md ## CANN社区版-MatMulReshapeBiasAddFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0154.html - Description: 该融合规则对MatMul算子的输出做了Reshape处理,并对Reshape输出进行BiasAdd/Add处理。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0154_html.md ## CANN社区版-RealDiv2MulsFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0155.html - Description: 在RealDiv算子的第二个输入的数据类型为scalar时,该融合规则会将其转换为调用Muls算子,且第二个输入变为原输入的倒数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0155_html.md ## CANN社区版-TopKFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0157.html - Description: 该融合规则将TopK或TopKV2节点,基于平台的不同替换为TopKV2/TopKD/TopKV2D算子,或直接拆解为SegmentSort+MultiMerge的组合。详细场景如下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0157_html.md ## CANN社区版-UniqueSortFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0158.html - Description: 将Unique或UniqueWithCount算子拆分为Sort+AdjacentDifference+Cumsum+Scatter+UniqueConsecutive算子的组合以完成计算。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0158_html.md ## CANN社区版-BatchMatMul2TransposeBatchMatMulFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0159.html - Description: 模式一: 当Transpose(可选)、BatchMatMul、Transpose这几个节点按下图所示顺序连接时,可融合为TransposeBatchMatmul算子节点。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0159_html.md ## CANN社区版-BatchMatMulToBatchMatmulV3FusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0160.html - Description: 该融合将符合图融合pattern的BatchMatMulV2/BatchMatMul的算子转换为BatchMatMulV3算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0160_html.md ## CANN社区版-MatMulToMatmulV3FusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0161.html - Description: 该融合将符合图融合pattern的MatMulV2/MatMul的算子转换为MatMulV3算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0161_html.md ## CANN社区版-BatchMatMulTransposeFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0162.html - Description: 该融合将符合图融合pattern的Transpose1/Transpose2算子融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0162_html.md ## CANN社区版-MatmulToGemmOpFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0164.html - Description: 该融合将符合图融合pattern的MatMulV3/MatMulV2/MatMul的算子转换为GemmV3算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0164_html.md ## CANN社区版-BernoulliFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0170.html - Description: 在GE中对于prob是多个值的场景,将StatelessBernoulliV2中x的shape关联到StatelessBernoulli第一个输入shape,x的value关联到第二输入prob中,形成统一在线编译的适配能力。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0170_html.md ## CANN社区版-RotaryMul2RotaryPositionEmbeddingFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0172.html - Description: 完成如下结构的融合,把算子RotaryMul融合成算子RotaryPositionEmbedding。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0172_html.md ## CANN社区版-InterleaveRope2RotaryPositionEmbeddingFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0173.html - Description: 完成如下结构的融合,把算子InterleaveRope融合成算子RotaryPositionEmbedding。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0173_html.md ## CANN社区版-RotaryMulGrad2RotaryPositionEmbeddingGradFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0174.html - Description: 完成如下结构的融合,把算子RotaryMulGrad融合成算子RotaryPositionEmbeddingGrad。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0174_html.md ## CANN社区版-TbePool2dQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0176.html - Description: 该融合将Pool2D+Quant+strided\_write算子融合成一个融合算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0176_html.md ## CANN社区版-TbeAippConv2dAddRelu6MulMulFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0178.html - Description: 该融合规则将满足如下Pattern的结构融合成一个融合算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0178_html.md ## CANN社区版-TbeConv3dElemwisePass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0179.html - Description: 该融合将满足如下pattern关系的子图中Conv3D和Elemwise进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0179_html.md ## CANN社区版-TbeConv3dDxElemwisePass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0180.html - Description: 该融合将满足如下Pattern关系的子图中Conv3dBackpropInput和Elemwise进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0180_html.md ## CANN社区版-MatmulDropOutDoMaskV3DFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0181.html - Description: 该融合将满足如下Pattern关系的子图中MatMul和DropOutDoMaskV3D/Add进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0181_html.md ## CANN社区版-BatchMatmulDropOutDoMaskV3DFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0182.html - Description: 该融合将满足如下Pattern关系的子图中BatchMatMul和DropOutDoMaskV3D/Add进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0182_html.md ## CANN社区版-MatmulReduceSumUbFusion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0183.html - Description: 该融合将满足如下Pattern关系的子图中BatchMatMul和ReduceSum进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0183_html.md ## CANN社区版-TbeBatchMatMulQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0184.html - Description: 该融合将满足如下Pattern关系的子图中BatchMatMul/GEMM和AscendDequant/AscendQuant/Elemwise进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0184_html.md ## CANN社区版-TbeBatchMatmulElementWiseFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0185.html - Description: 该融合将满足如下Pattern关系的子图中BatchMatMul/GEMM和ElemWise进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0185_html.md ## CANN社区版-ATbeMatMulElemwiseFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0186.html - Description: 该融合将满足如下Pattern关系的子图中MatMul/GEMM和Elemwise进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0186_html.md ## CANN社区版-MatMulFastgelugradUbFusion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0187.html - Description: 该融合将满足如下Pattern关系的子图中MatMul/GEMM和Elemwise进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0187_html.md ## CANN社区版-MatmulConfusiontransposeUbFusion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0188.html - Description: 该融合将满足如下Pattern关系的子图中MatMul和ConfusionTransposeD进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0188_html.md ## CANN社区版-BatchMatMulV2DequantMulAddFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0189.html - Description: 该融合将满足如下Pattern关系的子图中BatchMatMul+Elemwise+AscendDequant节点进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0189_html.md ## CANN社区版-MatMulGelugradUbFusion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0190.html - Description: 该融合将满足如下Pattern关系的子图中MatMul/GEMM和ElemWise进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0190_html.md ## CANN社区版-TbeFullyconnectionElemwiseDequantFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0191.html - Description: 该融合将满足如下Pattern关系的子图中FullyConnection/MatMul/MatMulV2/BatchMatMul/BatchMatMulV2+ElemWise+AscendQuant+AscendDequant对应节点进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0191_html.md ## CANN社区版-BatchMatmulConfusiontransposeUbFusion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0192.html - Description: 该融合将满足如下Pattern关系的子图中batch\_matmul和batchmatmul\_transpose进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0192_html.md ## CANN社区版-TbeConvSigmoidMulQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0194.html - Description: 该融合将Conv+Sigmoid+Mul+Quant算子融合成一个融合算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0194_html.md ## CANN社区版-TbeConvDequantVaddReluQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0195.html - Description: 该融合支持将以下7种融合模式融合成单个conv2d融合算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0195_html.md ## CANN社区版-TbeConvDequantVaddReluFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0196.html - Description: 该融合支持将以下三种融合模式融合成单个Conv2D融合算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0196_html.md ## CANN社区版-TbeConv2DReluv2Pass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0197.html - Description: 该融合将Conv2D+ReluV2算子融合成1个Conv2D融合算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0197_html.md ## CANN社区版-TbeConvDoubleInFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0198.html - Description: 该融合将Conv2D + Elemtwise + Elemtwise算子融合成1个Conv2D融合算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0198_html.md ## CANN社区版-Conv2DDequantClipByValueFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0199.html - Description: 该融合将Conv2D + AscendDequant(可选) + ClipByValue + AscendQuant(可选)算子融合成一个融合算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0199_html.md ## CANN社区版-TbeConv2dAddClipMulDivFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0200.html - Description: 该融合将Conv2D + Add + Clip + Mul + Div(可选)算子融合成一个融合算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0200_html.md ## CANN社区版-TbeConv2DAddMulQuantPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0201.html - Description: 将Conv2D + Dequant + Add + Quant进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0201_html.md ## CANN社区版-TbeConv2dAddRelu6MulMulFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0202.html - Description: 支持以下两种融合模式 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0202_html.md ## CANN社区版-ConvClipByValueFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0203.html - Description: 支持以下融合模式 将Conv2D + Elemwise(ClipByValue类型)算子融合成一个融合算子。 - Elemwise个数为1-3个,第一个Elemwise算子必须是ClipByValue类型,后两个Elemwise算子类型为Relu或Add。 - Conv2D算子的output channel需为16的整数倍大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0203_html.md ## CANN社区版-TbeAippConvReluMaxpoolingFusion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0204.html - Description: 该融合将满足如下Pattern关系的子图中Aipp(可选) + Conv2D + Dequant(可选) + ElemWise(可选) + MaxPool(MaxPool/Pooling/MaxPoolv3)+ AscendQuant(可选)算子融合成一个融合算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0204_html.md ## CANN社区版-TbeAippCommonFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0205.html - Description: 该融合将满足如下Pattern关系的子图中Aipp+Conv2D+Fixpipe(可选)或Requant(可选)对应节点进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0205_html.md ## CANN社区版-AutomaticUbFusion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0206.html - Description: 经过其他UB融合之后,将未参与UB融合且相连的Elemwise类算子进行UB融合。该融合优先级最低。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0206_html.md ## CANN社区版-TbeReduceElemwiseFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0207.html - Description: 该融合规则在静态shape场景下将如下pattern子图进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0207_html.md ## CANN社区版-TbeReadSelectEltwiseFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0208.html - Description: 该融合将ReadSelect + ElemWise算子进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0208_html.md ## CANN社区版-TbeMultiOutputFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0209.html - Description: 该融合将满足如下Pattern关系的子图中ElemWise对应节点进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0209_html.md ## CANN社区版-TbeEltwiseWriteSelectFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0210.html - Description: 该融合将满足如下Pattern关系的子图中ElemWise + write\_select对应节点进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0210_html.md ## CANN社区版-TbeEltwiseQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0211.html - Description: 该融合将满足如下Pattern关系的子图中ElemWise/Broadcast类和quant类节点进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0211_html.md ## CANN社区版-TbeEltwiseFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0212.html - Description: 该融合将满足如下Pattern关系的子图中ElemWise/Broadcast对应节点进行UB融合,ElemWise/Broadcast节点可以连续多个,最多支持6个。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0212_html.md ## CANN社区版-TbeDynamicElemwiseReduceFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0213.html - Description: 该融合规则在动态shape场景下将如下pattern子图进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0213_html.md ## CANN社区版-TbeDynamicElemwiseBroadcastFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0214.html - Description: 该融合在动态shape场景下Elemwise/Broadcast类算子的UB融合,最多融合6个算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0214_html.md ## CANN社区版-TbeConvBnreduceFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0215.html - Description: 该融合将满足如下Pattern关系的子图中Convolution + bn\_reduce对应节点进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0215_html.md ## CANN社区版-TbeConv2DBackpropElemwiseFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0216.html - Description: 该融合将满足DX+ElementWise+ElementWise1(可选)进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0216_html.md ## CANN社区版-TbeDepthwiseConvElemwiseFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0217.html - Description: 将满足如下Pattern关系的Elemwise+DepthwiseConvolution进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0217_html.md ## CANN社区版-TbeDxDeqElemQuantPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0218.html - Description: 该融合将满足DX+AscendDequant + ElementWise + AscendQuant(可选)进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0218_html.md ## CANN社区版-TbeDxElemwisePass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0219.html - Description: 该融合将满足DX+ElementWise进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0219_html.md ## CANN社区版-TbeConv2dBackpropRequantFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0220.html - Description: 该融合将满足DX+AscendRequant+StrideWrite(可选)进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0220_html.md ## CANN社区版-TbeDxTransdataFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0221.html - Description: 该融合将满足TransData(可选)+TransData+DX+TransData(可选)进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0221_html.md ## CANN社区版-MatmulGeneralizedUbFusion - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0222.html - Description: 该融合将对满足如下模式(pattern)关系的子图进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0222_html.md ## CANN社区版-MatmulTransdataFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0223.html - Description: 该融合将满足如下Pattern关系的子图进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0223_html.md ## CANN社区版-TbeElemwiseQuantFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0224.html - Description: 该融合将Elemwise/Broadcast类算子和Quant算子进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0224_html.md ## CANN社区版-TbeEltwiseCastFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0225.html - Description: 该融合将Elemwise类算子和Cast算子进行融合,具体可以分为如下四种场景。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0225_html.md ## CANN社区版-TbeConv2DBackpropDequantFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0226.html - Description: 该融合将DX+AscendDequant进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0226_html.md ## CANN社区版-TbeQuantConv2DElemWiseFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0227.html - Description: 将QuantConv2D和elemwise/broadcast节点进行UB融合。elemwise白名单为Add/Div/Realdiv。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0227_html.md ## CANN社区版-TbeConv2DAddRealDivTransdataFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0228.html - Description: 将Conv2D和elemwise/broadcast以及transdata节点进行UB融合。elemwise白名单为Add/Div/Realdiv。仅支持SDXL网络中的单输出级联结构:即静态场景下的conv2d+transdata、conv2d+add+transdata、conv2d+div+transdata、conv2d+realdiv+transdata、conv2d+add+div+t - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0228_html.md ## CANN社区版-TbeConvFixPipeFusionPass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/graphubfusionref/atlasrr_30_0230.html - Description: 将conv2d与FIXPIPEFUSIONPASS中生成的fixpipe节点、elemwise类算子(可选)和quant算子(可选)进行UB融合。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_graphubfusionref_atlasrr_30_0230_html.md ## 日志简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/logreference - Description: 请根据产品型号选择对应章节进行查看。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_logreference_docs_zh_log_ref_log_overview_md.md ## 日志简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/logreference/logreference_0001.html - Description: 请根据产品型号选择对应章节进行查看。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_logreference_docs_zh_log_ref_log_overview_md.md ## 日志简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/logreference/logreference_0002.html - Description: 请根据产品型号选择对应章节进行查看。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_logreference_docs_zh_log_ref_log_overview_md.md ## 日志简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/logreference/logreference_0004.html - Description: 请根据产品型号选择对应章节进行查看。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_logreference_docs_zh_log_ref_log_overview_md.md ## 日志简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/logreference/logreference_0008.html - Description: 请根据产品型号选择对应章节进行查看。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_logreference_docs_zh_log_ref_log_overview_md.md ## 日志简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/logreference/logreference_0012.html - Description: 请根据产品型号选择对应章节进行查看。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_logreference_docs_zh_log_ref_log_overview_md.md ## 日志简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/logreference/logreference_0024.html - Description: 请根据产品型号选择对应章节进行查看。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_logreference_docs_zh_log_ref_log_overview_md.md ## 日志简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/logreference/logreference_0025.html - Description: 请根据产品型号选择对应章节进行查看。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_logreference_docs_zh_log_ref_log_overview_md.md ## 日志简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/logreference/logreference_0026.html - Description: 请根据产品型号选择对应章节进行查看。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_logreference_docs_zh_log_ref_log_overview_md.md ## 通信矩阵 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/refdoc/refer001.html - Description: CANN通信矩阵中包含产品开放的端口、该端口使用的传输层协议、通过该端口与对端通信的通信网元名称、认证方式、用途等信息说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_refdoc_refer001_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## E10002 Invalid\_Argument\_Tensor\_Input\_Shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0002.html - Description: 报错格式如下,占位符%s的含义依次为参数值、报错原因、配置示例: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0002_html.md ## E10003 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0003.html - Description: 报错格式如下,占位符%s的含义依次为参数值、参数名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0003_html.md ## E10004 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0004.html - Description: 报错格式如下,占位符%s表示参数名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0004_html.md ## E10005 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0005.html - Description: 报错格式如下,占位符%s的含义依次为参数值、参数名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0005_html.md ## E10006 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0006.html - Description: 报错格式如下,占位符%s的含义依次为参数值、参数名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0006_html.md ## E10007 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0007.html - Description: 报错格式如下,占位符%s的含义依次为参数名、参数值要求: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0007_html.md ## E10008 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0008.html - Description: - 如果源模型框架是Caffe,请尝试使用有效的--weight参数重新运行。 - 如果源模型框架不是Caffe,请尝试使用有效的--framework参数重新运行。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0008_html.md ## E10009 Invalid\_Argument\_Tensor\_Dynamic\_Shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0009.html - Description: 1. 在动态Shape场景中,请在命令行中仅包含这些参数中的一个。 2. 在静态Shape场景中,请从命令行中移除这些参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0009_html.md ## E10010 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0010.html - Description: 报错格式如下,占位符%s表示参数值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0010_html.md ## E10011 Invalid\_Argument\_Tensor\_Input\_Shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0011.html - Description: 报错格式如下,占位符%s的含义依次为参数值、参数名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0011_html.md ## E10012 Invalid\_Argument\_Tensor\_Input\_Shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0012.html - Description: - 在静态Shape场景下,从命令行中移除--dynamicbatchsize选项。 - 在动态Shape场景下,将--inputshape中动态Shape输入的对应轴设置为-1。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0012_html.md ## E10013 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0013.html - Description: 报错格式如下,占位符%s的含义依次为参数值、参数名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0013_html.md ## E10014 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0014.html - Description: 报错格式如下,占位符%s的含义依次为参数值、参数名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0014_html.md ## E10016 Invalid\_Argument\_Operator\_Name - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0016.html - Description: 报错格式如下,占位符%s的含义依次为算子名称、参数名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0016_html.md ## E10017 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0017.html - Description: 报错格式如下,占位符%s的含义依次为算子名称、参数名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0017_html.md ## E10018 Invalid\_Argument\_Tensor\_Dynamic\_Shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0018.html - Description: 报错格式如下,占位符%s的含义依次为Shape、index: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0018_html.md ## E10019 Invalid\_Argument\_Tensor\_Input\_Shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0019.html - Description: 请使用有效的--inputshape参数值重试,确保除高度和宽度之外,其他维度值不为-1。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0019_html.md ## E10020 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0020.html - Description: 报错格式如下,占位符%s表示参数值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0020_html.md ## E10021 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0021.html - Description: 报错格式如下,占位符%s的含义依次为参数名、取值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0021_html.md ## E10022 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0022.html - Description: 报错格式如下,占位符%s的含义依次为路径、参数名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0022_html.md ## E10023 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0023.html - Description: 报错格式如下,占位符%s表示参数值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0023_html.md ## E10024 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0024.html - Description: 报错格式如下,占位符%s表示文件名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0024_html.md ## E10026 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0026.html - Description: 检查文件中算子名称是否为空。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0026_html.md ## E10029 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0028.html - Description: 报错格式如下,占位符%s表示算子名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0028_html.md ## E10031 Invalid\_Argument\_Tensor\_Input\_Shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0030.html - Description: 由于命令行中包含了--dynamicbatchsize参数,请确保在--inputshape参数中指定的节点中至少有一个节点的batch size等于-1。 1. 在静态Shape场景下,从命令行中移除--dynamicbatchsize参数。 2. 在动态shape场景下,需要将--inputshape中动态shape输入的对应轴设置为-1。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0030_html.md ## E10032 File\_Operation\_Error\_Parse - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0031.html - Description: 报错格式如下,占位符%s的含义依次为文件名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0031_html.md ## E10034 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0032.html - Description: 报错格式如下,占位符%s表示算子名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0032_html.md ## E10035 Invalid\_Argument\_Tensor\_Dynamic\_Shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0033.html - Description: 报错格式如下,占位符%s的含义依次为Shape size、Shape size最小值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0033_html.md ## E10036 Invalid\_Argument\_Tensor\_Dynamic\_Shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0034.html - Description: 报错格式如下,占位符%s的含义依次为Shape size、Shape size最大值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0034_html.md ## E10037 Invalid\_Argument\_Tensor\_Dynamic\_Shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0035.html - Description: 报错格式如下,占位符%s都表示维度数量: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0035_html.md ## E10038 Invalid\_Argument\_Tensor\_Dynamic\_Shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0036.html - Description: 报错格式如下,占位符%s表示维度值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0036_html.md ## E10039 Invalid\_Argument\_Tensor\_Dynamic\_Shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0037.html - Description: 在--dynamicbatchsize、--dynamicimagesize或--dynamicdims参数值中,检查每个档位的值是否唯一。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0037_html.md ## E10041 Invalid\_Argument\_Model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0039.html - Description: 报错格式如下,占位符%s表示文件名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0039_html.md ## E10045 Invalid\_Argument\_Tensor\_Dynamic\_Shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0042.html - Description: 确保--inputshape参数中-1的数量与--dynamicdims中每个档位的维度数量相匹配。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0042_html.md ## E10047 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0044.html - Description: 报错格式如下,占位符%s都表示参数名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0044_html.md ## E10048 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0045.html - Description: 报错格式如下,占位符%s的含义依次为参数值、报错原因、配置示例: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0045_html.md ## E10049 Invalid\_Argument\_Tensor\_Input\_Shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0046.html - Description: 报错格式如下,占位符%s都表示维度数: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0046_html.md ## E10050 Invalid\_Argument\_Tensor\_Input\_Shape\_Range - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0047.html - Description: 报错格式如下,占位符%s的含义依次为当前维度大小、最小值、最大值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0047_html.md ## E10051 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0048.html - Description: 报错格式如下,占位符%s的含义依次为参数值、长度: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0048_html.md ## E10054 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0051.html - Description: 报错格式如下,占位符%s表示参数名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0051_html.md ## E10055 Not\_Supported - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0052.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0052_html.md ## E10056 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0053.html - Description: 报错格式如下,占位符%s都表示参数名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0053_html.md ## E10057 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0054.html - Description: 报错格式如下,占位符%s都表示参数名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0054_html.md ## E10401 Invalid\_Argument\_Operator\_Input\_Count - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0055.html - Description: 报错格式如下,占位符%s的含义依次为输入数量、最大数量: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0055_html.md ## E10402 Invalid\_Argument\_Operator\_Input\_Buffer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0056.html - Description: 报错格式如下,占位符%s的含义依次为index、期望buffer大小、实际buffer大小: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0056_html.md ## E10403 Invalid\_Argument\_Operator\_Output\_Count - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0057.html - Description: 报错格式如下,占位符%s的含义依次为输出数量、最大数量: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0057_html.md ## E10404 Invalid\_Argument\_Operator\_Output\_Buffer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0058.html - Description: 报错格式如下,占位符%s的含义依次为index、期望buffer大小、实际buffer大小: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0058_html.md ## E10406 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0060.html - Description: 报错格式如下,占位符%s的含义依次为内存大小、tensor数量: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0060_html.md ## E10410 File\_Operation\_Error\_File\_Not\_Exist - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0061.html - Description: 报错格式如下,占位符%s表示文件名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0061_html.md ## E10501 Not\_Supported\_Operator - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0062.html - Description: 报错格式如下,占位符%s的含义依次为算子名称、算子类型: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0062_html.md ## E11001 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0063.html - Description: 从atc命令行中删除--inputdim或--inputshape参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0063_html.md ## E11003 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0064.html - Description: 报错格式如下,占位符%s的含义依次为输入维度大小、输入数量: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0064_html.md ## E11004 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0065.html - Description: 报错格式如下,占位符%s的含义依次为输入Shape大小、输入数量: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0065_html.md ## E11005 Invalid\_Argument\_Tensor\_Input\_Shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0066.html - Description: 报错格式如下,占位符%s表示输入名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0066_html.md ## E11008 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0067.html - Description: 修改Caffe模型,将DetectionOutput算子替换为FSRDetectionOutput或SSDDetectionOutput。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0067_html.md ## E11009 Not\_Supported\_Operator - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0068.html - Description: 报错格式如下,占位符%s的含义依次为算子名称、算子类型: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0068_html.md ## E11012 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0069.html - Description: 报错格式如下,占位符%s的含义依次为bottom blob、layer: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0069_html.md ## E11014 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0070.html - Description: 报错格式如下,占位符%s表示layer: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0070_html.md ## E11015 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0071.html - Description: 报错格式如下,占位符%s表示layer: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0071_html.md ## E11016 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0072.html - Description: 报错格式如下,占位符%s的含义依次为算子名称、output index、output index最大值、input index、input index最大值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0072_html.md ## E11018 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0074.html - Description: 报错格式如下,占位符%s表示算子名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0074_html.md ## E11021 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0075.html - Description: 报错格式如下,占位符%s表示模型文件名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0075_html.md ## E11022 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0076.html - Description: 无效的Caffe模型,在Caffe模型中没有发现layer字段。 请修改Caffe模型并添加layer字段。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0076_html.md ## E11023 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0077.html - Description: 请用layer替换layers。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0077_html.md ## E11024 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0078.html - Description: 无效的Caffe权重文件,在Caffe权重中没有发现layer字段。 请修改Caffe权重文件并添加layer字段。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0078_html.md ## E11027 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0079.html - Description: 报错格式如下,占位符%s的含义依次为算子名称、算子类型: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0079_html.md ## E11029 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0080.html - Description: 报错格式如下,占位符%s表示算子名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0080_html.md ## E11032 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0081.html - Description: 报错格式如下,占位符%s的含义依次为消息类型、错误字段、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0081_html.md ## E11033 Invalid\_Argument\_Caffe\_Model\_Weight - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0082.html - Description: 报错格式如下,占位符%s的含义依次为blob名称、blob大小、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0082_html.md ## E11036 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0084.html - Description: 报错格式如下,占位符%s表示top blobs: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0084_html.md ## E11037 Invalid\_Argument\_Caffe\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0085.html - Description: 报错格式如下,占位符%s表示算子名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0085_html.md ## E12004 Invalid\_Argument\_Operator\_Input\_Index - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0086.html - Description: 报错格式如下,占位符%s的含义依次为算子名称、input index、input数量: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0086_html.md ## E12009 Invalid\_Argument\_TensorFlow\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0087.html - Description: 报错格式如下,占位符%s都表示算子名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0087_html.md ## E12013 Invalid\_Argument\_TensorFlow\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0088.html - Description: 报错格式如下,占位符%s表示图名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0088_html.md ## E12029 Invalid\_Argument\_TensorFlow\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0089.html - Description: 要转换的模型包含function subgraphs,但未找到graphdeflibrary.pbtxt文件。 1. 要使用function subgraphs转换TensorFlow模型,需将子图的.proto描述文件与模型文件放在同一目录下,并将其命名为graphdeflibrary.pbtxt。 2. - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0089_html.md ## E14001 Invalid\_Argument\_Operator\_Compilation\_Parameter - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0090.html - Description: 报错格式如下,占位符%s的含义依次为参数值、算子名称、算子类型、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0090_html.md ## E14002 Invalid\_Argument\_Tensor\_Attribute - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0091.html - Description: 报错格式如下,占位符%s的含义依次为属性名称、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0091_html.md ## E16001 Invalid\_Argument\_ONNX\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0092.html - Description: 报错格式如下,占位符%s表示节点名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0092_html.md ## E16002 Invalid\_Argument\_ONNX\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0093.html - Description: 报错格式如下,占位符%s表示算子类型: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0093_html.md ## E16004 Invalid\_Argument\_ONNX\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0094.html - Description: 无效的ONNX模型,请修改ONNX模型并添加graph信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0094_html.md ## E16005 Invalid\_Argument\_ONNX\_Model\_Data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0095.html - Description: 报错格式如下,占位符%s表示domain版本数量: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0095_html.md ## E19999 Inner\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0113.html - Description: 系统异常终止。 需收集故障发生时产生的日志,并根据日志定位故障。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0113_html.md ## W11001 Performance\_Not\_Optimal\_Operator - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0114.html - Description: 报错格式如下,占位符%s表示算子名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0114_html.md ## E20001 Compilation\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0117.html - Description: 报错格式如下,占位符%s的含义依次为算子名称、算子类型: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0117_html.md ## E20002 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0118.html - Description: 报错格式如下,占位符%s的含义依次为环境变量值、环境变量名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0118_html.md ## E20003 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0119.html - Description: 报错格式如下,占位符%s的含义依次为配置项、配置文件、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0119_html.md ## E20007 Compilation\_Error\_Execute\_Fusion\_Pass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0120.html - Description: 报错格式如下,占位符%s的含义依次为融合规则名、融合规则类型: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0120_html.md ## E20103 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0122.html - Description: 报错格式如下,占位符%s的含义依次为参数值、参数名、参数最大值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0122_html.md ## E21001 File\_Operation\_Error\_Open - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0123.html - Description: 报错格式如下,占位符%s的含义为文件名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0123_html.md ## E21002 File\_Operation\_Error\_Parse - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0124.html - Description: 报错格式如下,占位符%s的含义依次为文件名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0124_html.md ## E22001 Compilation\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0125.html - Description: 报错格式如下,占位符%s的含义依次为算子名称、算子类型: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0125_html.md ## E30003 Not\_Supported\_Specification - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0127.html - Description: 调度队列中拉起的进程数超过产品使用约束,具体约束参考Link\(https://hiascend.com/document/redirect/CannCommercialCppAppendix\)中“关于进程”描述。 在上次训练任务退出10秒后进行重试。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0127_html.md ## E30004 NN\_Process\_Bin\_Error(已废弃) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0128.html - Description: Device侧出现ECC内存错误。 获取Host侧和Device侧日志后分析是否有ECC相关报错,并通过https://www.hiascend.com/support联系技术支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0128_html.md ## E30005 Device\_Connection\_Failure(已废弃) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0129.html - Description: 1. Decice侧心跳丢失。 2. 底层通路断开连接。 1. 获取Host侧和Device侧日志,通过https://www.hiascend.com/support联系技术支持。 2. 尝试重启,恢复设备。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0129_html.md ## E30006 Package\_Error\_Verify\_OPP - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0130.html - Description: 1. Host侧AI CPU算子包被篡改。 2. Device侧出现ECC内存错误。 1. 安装正确算子包。 2. 获取Host侧和Device侧日志后分析是否有ECC相关报错,并通过https://www.hiascend.com/support联系技术支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0130_html.md ## E30007 Cgroup\_Add\_Failure(已废弃) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0131.html - Description: Cgroup配置不正确。 获取Host侧和Device侧日志,通过https://www.hiascend.com/support联系技术支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0131_html.md ## E30008 Execution\_Error\_AICPU\_Operator\_Timeout - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0132.html - Description: 报错格式如下,占位符%s表示扩展信息: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0132_html.md ## E39001 Invalid\_Argument(已废弃) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0133.html - Description: 参数取值为空或参数长度无效。 查看主机日志获取详细信息,并定位到报错日志处的参数进行核查。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0133_html.md ## E39004 Inner\_Error\_AICPU\_Scheduler\_Init\_Failed - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0135.html - Description: AI CPU scheduler进程内部处理异常。 获取Host侧和Device侧日志,通过https://www.hiascend.com/support联系技术支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0135_html.md ## E39005 Inner\_Error\_TSDaemon\_Process\_Abnormal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0136.html - Description: TSDaemon进程内部处理异常。 获取Host侧和Device侧日志,通过https://www.hiascend.com/support联系技术支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0136_html.md ## E39006 Inner\_Error\_Failed\_Send\_OPP\_To\_Device - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0137.html - Description: 1. HDC(Host Device Communication,主机设备通信)链路故障。 2. Device状态异常。 获取Host侧和Device侧日志,通过https://www.hiascend.com/support联系技术支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0137_html.md ## E39007 Inner\_Error\_Device\_Subprocess\_Startup\_Timeout - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0138.html - Description: 1. 子进程启动失败。 2. HDC(Host Device Communication,主机设备通信)链路故障。 获取Host侧和Device侧日志,通过https://www.hiascend.com/support联系技术支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0138_html.md ## E40001 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0140.html - Description: 报错格式如下,占位符%s的含义依次为环境变量值、环境变量名、报错阶段、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0140_html.md ## E40003 File\_Operation\_Error\_Open - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0142.html - Description: 报错格式如下,占位符%s表示文件名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0142_html.md ## E40020 Environment\_Error\_Import\_Python\_Module\_Failed - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0143.html - Description: 报错格式如下,占位符%s的含义依次为Python模块名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0143_html.md ## E40022 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0145.html - Description: 报错格式如下,占位符%s的含义依次为参数值、参数名、取值范围: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0145_html.md ## W40010 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0147.html - Description: 报错格式如下,占位符%s的含义依次为环境变量值、环境变量名、错误结果、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0147_html.md ## W40011 Directory\_Operation\_Error\_Create\_Failed - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0148.html - Description: 报错格式如下,占位符%s的含义依次为目录、错误结果、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0148_html.md ## W40012 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0149.html - Description: 报错格式如下,占位符%s的含义依次为参数值、参数名、取值范围、默认值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0149_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0151.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0155.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0156.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0157.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0158.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0159.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0160.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## EC0000 Communication\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0162.html - Description: 报错格式如下,占位符%s的含义依次为IP地址、端口号: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0162_html.md ## EC0001 Permission\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0163.html - Description: 报错格式如下,占位符%s表示用户名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0163_html.md ## EC0002 Directory\_Operation\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0164.html - Description: 报错格式如下,占位符%s表示mount路径: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0164_html.md ## EC0003 File\_Operation\_Error\_File\_Not\_Exist - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0165.html - Description: 报错格式如下,占位符%s表示mount路径: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0165_html.md ## EC0004 Permission\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0166.html - Description: 报错格式如下,占位符%s表示mount路径: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0166_html.md ## EC0005 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0167.html - Description: socversion与Device不匹配,或者config.json配置不正确。 需根据报错提示检查参数配置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0167_html.md ## EC0006 Directory\_Operation\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0168.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0168_html.md ## EC0007 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0169.html - Description: 报错格式如下,占位符%s的含义依次为当前环境变量值、环境变量名称、期望配置的环境变量值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0169_html.md ## EC0008 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0170.html - Description: 报错格式如下,占位符%s表示环境变量名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0170_html.md ## EC0009 Resource\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0171.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0171_html.md ## EC0010 Environment\_Error\_Import\_Python\_Module\_Failed - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0172.html - Description: 报错格式如下,占位符%s表示Python组件名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0172_html.md ## EC0011 Permission\_Error\_User\_Denied - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0173.html - Description: 报错格式如下,占位符%s表示自定义策略文件路径: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0173_html.md ## EC0012 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0174.html - Description: 报错格式如下,占位符%s的含义依次为当前环境变量值、环境变量名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0174_html.md ## ED0000 Communication\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0176.html - Description: 获取远端设备信息失败,请检查设备是否正常运行。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0176_html.md ## EE1002 Execution\_Error\_Stream\_Synchronize\_Timeout - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0181.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0181_html.md ## EE4001 Model\_Binding\_Errors - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0182.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0182_html.md ## EE4002 Model\_Unbinding\_Errors - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0183.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0183_html.md ## EE4004 Profiling\_Enable\_Errors - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0184.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0184_html.md ## EF0000 Directory\_Operation\_Error\_Open\_Failed - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0186.html - Description: 报错格式如下,占位符%s表示文件路径: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0186_html.md ## EF0001 Invalid\_Argument\_SOC\_Version - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0187.html - Description: 报错格式如下,占位符%s表示AI处理器型号: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0187_html.md ## EF0003 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0188.html - Description: 报错格式如下,占位符%s的含义依次为当前环境变量值、环境变量名称、期望配置的环境变量值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0188_html.md ## WF0000 File\_Operation\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0189.html - Description: 报错格式如下,占位符%s表示文件路径: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0189_html.md ## WF0001 Invalid\_Config\_Value - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0190.html - Description: 报错格式如下,占位符%s的含义依次为当前配置值、配置项名称、期望配置的值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0190_html.md ## WF0002 Model\_Performance\_Not\_Optimal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0191.html - Description: 由于UB融合的变化,模型性能可能非最优,建议重新用AOE SGAT做子图调优。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0191_html.md ## EG0000 Invalid\_Argument\_Command - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0222.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0222_html.md ## EG0001 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0223.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0223_html.md ## EG0010 Directory\_Operation\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0226.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0226_html.md ## EG0011 File\_Operation\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0227.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0227_html.md ## EG0012 Environment\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0228.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0228_html.md ## EG0013 Invalid\_Argument\_Device\_ID - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0229.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0229_html.md ## EG2000 Communication\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0230.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0230_html.md ## EG2001 Permission\_Error\_Private\_Key\_Certificate\_Verify\_Failed - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0231.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0231_html.md ## WG0000 Resource\_Error\_Insufficient\_Host\_Memory - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0232.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0232_html.md ## EH0001 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0234.html - Description: 报错格式如下,占位符%s的含义依次为参数值、参数名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0234_html.md ## EH0003 File\_Operation\_Error\_Invalid\_Path - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0236.html - Description: 报错格式如下,占位符%s的含义依次为文件路径、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0236_html.md ## EH0004 File\_Operation\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0237.html - Description: 报错格式如下,占位符%s的含义依次为文件路径、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0237_html.md ## EH0005 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0238.html - Description: 报错格式如下,占位符%s的含义依次为参数名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0238_html.md ## EH0006 Not\_Supported - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0239.html - Description: 报错格式如下,占位符%s的含义依次为特性或接口、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0239_html.md ## EI0002 Communication\_Error\_Timeout - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0242.html - Description: 报错格式如下,占位符%s的含义依次为对端Rank ID、任务信息、通信算子信息、通信域信息: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0242_html.md ## EI0003 Invalid\_Argument\_Collective\_Communication\_Operator - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0243.html - Description: 报错格式如下,占位符%s的含义依次为算子名、参数值、参数名、期望值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0243_html.md ## EI0004 File\_Operation\_Error\_Parse - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0244.html - Description: 报错格式如下,占位符%s的含义依次为文件名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0244_html.md ## EI0005 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0245.html - Description: 报错格式如下,占位符%s的含义依次为算子名、通信域组、参数名、本端ID、对端ID: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0245_html.md ## EI0006 Communication\_Error\_Get\_Socket - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0246.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0246_html.md ## EI0007 Resource\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0247.html - Description: 报错格式如下,占位符%s的含义依次为内存所在位置、内存大小: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0247_html.md ## EI0008 Package\_Error\_Incorrect\_HCCL\_Version - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0248.html - Description: 报错格式如下,占位符%s的含义依次为模块名、本端版本、对端版本: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0248_html.md ## EI0010 Communication\_Error\_P2P - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0250.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0250_html.md ## EK0001 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0257.html - Description: 报错格式如下,占位符%s的含义依次为参数值、参数名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0257_html.md ## EK0002 Invalid\_Argument\_API\_Call\_Sequence - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0258.html - Description: 报错格式如下,占位符%s都表示接口名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0258_html.md ## EK0003 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0259.html - Description: 报错格式如下,占位符%s的含义依次为参数值、参数名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0259_html.md ## EK0004 Not\_Supported\_API - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0260.html - Description: 报错格式如下,占位符%s表示接口名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0260_html.md ## EK0201 Resource\_Error\_Insufficient\_Host\_Memory - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0261.html - Description: 报错格式如下,占位符%s表示内存大小: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0261_html.md ## EK9999 System\_Terminated - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0262.html - Description: 内部错误,请根据日志进一步定位问题,或联系华为工程师。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0262_html.md ## EL0002 Invalid\_Device\_ID - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0265.html - Description: \#\#\#\# 错误信息 报错格式如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0265_html.md ## EL0003 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0266.html - Description: \#\#\#\# 错误信息 报错格式如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0266_html.md ## EL0004 Memory\_Allocation\_Failure - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0267.html - Description: 报错格式如下,占位符%s都表示模块名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0267_html.md ## EL0005 Resource\_Busy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0268.html - Description: \#\#\#\# 错误信息 报错格式如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0268_html.md ## EL0006 Insufficient\_Resources - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0269.html - Description: \#\#\#\# 错误信息 报错格式如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0269_html.md ## EL0007 No\_Permission - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0270.html - Description: \#\#\#\# 错误信息 报错格式如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0270_html.md ## EL0008 Insufficient\_Event\_Resources - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0271.html - Description: \#\#\#\# 错误信息 报错格式如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0271_html.md ## EL0009 Insufficient\_Stream\_Resources - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0272.html - Description: \#\#\#\# 错误信息 报错格式如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0272_html.md ## EL0010 Insufficient\_Notify\_Resources - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0273.html - Description: \#\#\#\# 错误信息 报错格式如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0273_html.md ## EL0011 Insufficient\_Model\_Resources - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0274.html - Description: \#\#\#\# Symptom 报错格式如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0274_html.md ## EL0012 Full\_Service\_Queue - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0275.html - Description: \#\#\#\# 错误信息 报错格式如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0275_html.md ## EL0013 Insufficient\_CDQM\_Resources - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0276.html - Description: \#\#\#\# 错误信息 报错格式如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0276_html.md ## EL0014 Operation\_Unsupported - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0277.html - Description: \#\#\#\# 错误信息 报错格式如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0277_html.md ## EL0015 Invalid\_Device\_Access - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0278.html - Description: \#\#\#\# 错误信息 报错格式如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0278_html.md ## EM9002 Inner\_Error\_Queue\_Scheduler\_Init\_Failed - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0281.html - Description: 队列调度进程内部处理异常。 获取Host侧和Device侧日志后,通过https://www.hiascend.com/support联系技术支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0281_html.md ## EN0001 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0283.html - Description: 报错格式如下,占位符%s的含义依次为接口名、参数值、参数名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0283_html.md ## EN0002 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0284.html - Description: 报错格式如下,占位符%s表示接口名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0284_html.md ## EN0003 Invalid\_Argument\_Null\_Pointer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0285.html - Description: 报错格式如下,占位符%s的含义依次为接口名、参数名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0285_html.md ## EN0004 Not\_Supported - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0286.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0286_html.md ## EN0005 Invalid\_Argument\_Channel\_ID - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0287.html - Description: 报错格式如下,占位符%s的含义依次为通道ID、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0287_html.md ## EN0006 Invalid\_Argument\_Memory\_Address - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0288.html - Description: 使用himpidvppmalloc接口分配内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0288_html.md ## EN0007 Execution\_Error\_DVPP\_Operator\_Timeout - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0289.html - Description: 报错格式如下,占位符%s的含义依次为操作任务名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0289_html.md ## EN0008 Not\_Supported\_File\_Type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0290.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0290_html.md ## EN0009 Not\_Supported\_File\_Type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0291.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0291_html.md ## EO0001 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0293.html - Description: 报错格式如下,占位符%s的含义依次为配置项值、配置项、配置文件、期望值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0293_html.md ## EO0002 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0294.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0294_html.md ## EO0003 Invalid\_Model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0295.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0295_html.md ## EO0004 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0296.html - Description: 报错格式如下,占位符%s的含义依次为配置项、配置文件、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0296_html.md ## EO9999 Inner\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0297.html - Description: 请根据日志进一步定位问题。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0297_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0299.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0300.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0302.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0303.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0304.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0305.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0306.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0307.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0308.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0309.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## EZ1001 AclNN\_Parameter\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0311.html - Description: 报错格式如下,占位符%s表示报错信息: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0311_html.md ## E9** Internal error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0314.html - Description: E*9***表示系统内部错误码,请根据报错信息进行问题排查。如果问题仍然存在,请联系技术支持。您可以获取日志后单击Link\(https://www.hiascend.com/support\)联系技术支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0314_html.md ## E40024 Environment\_Error\_Call\_Python\_Function\_Failed - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0315.html - Description: 报错格式如下,占位符%s的含义依次为Python函数名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0315_html.md ## EP0001 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0320.html - Description: 报错格式如下,占位符%s的含义依次为配置项、配置文件、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0320_html.md ## EP0002 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0321.html - Description: 报错格式如下,占位符%s的含义依次为取值、配置项、文件名、期望值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0321_html.md ## W11003 Config\_Error\_Operator\_Missing\_Implementation - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0322.html - Description: 报错格式如下,占位符%s的含义依次为算子名称、交付件名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0322_html.md ## EC0013 File\_Operation\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0323.html - Description: 报错格式如下,占位符%s的含义依次为文件路径、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0323_html.md ## EI0011 Resource\_Error\_Insufficient\_Device\_Memory - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0324.html - Description: 报错格式如下,占位符%s表示内存大小: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0324_html.md ## E39008 Inner\_Error\_Verify\_NN\_Process\_Binary - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0325.html - Description: Device侧出现ECC内存错误。 获取Host侧和Device侧日志后分析是否有ECC相关报错,并通过https://www.hiascend.com/support联系技术支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0325_html.md ## E39010 Inner\_Error\_Cgroup\_Add\_Failed - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0327.html - Description: Cgroup配置不正确。 获取Host侧和Device侧日志,通过https://www.hiascend.com/support联系技术支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0327_html.md ## E13000 File\_Operation\_Error\_Invalid\_Path - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0328.html - Description: 报错格式如下,占位符%s的含义依次为文件路径、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0328_html.md ## E13001 File\_Operation\_Error\_Open - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0329.html - Description: 报错格式如下,占位符%s的含义依次为文件名称、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0329_html.md ## E13003 File\_Operation\_Error\_Read - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0331.html - Description: 报错格式如下,占位符%s的含义依次为文件名称、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0331_html.md ## E13004 File\_Operation\_Error\_Write - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0332.html - Description: 报错格式如下,占位符%s的含义依次为文件名称、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0332_html.md ## E13005 File\_Operation\_Error\_Parse - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0333.html - Description: 报错格式如下,占位符%s表示文件名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0333_html.md ## E13009 Invalid\_Argument\_Operator\_Name - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0334.html - Description: 报错格式如下,占位符%s表示算子名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0334_html.md ## E13010 Not\_Supported\_Operator - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0335.html - Description: 报错格式如下,占位符%s的含义依次为算子名称、算子类型: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0335_html.md ## E13014 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0336.html - Description: 报错格式如下,占位符%s的含义依次为参数值、参数名称、算子名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0336_html.md ## E13015 File\_Operation\_Error\_Invalid\_File\_Size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0337.html - Description: 报错格式如下,占位符%s的含义依次为文件名、文件大小、最大值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0337_html.md ## E13018 File\_Operation\_Error\_Parse - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0338.html - Description: 报错格式如下,占位符%s表示文件名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0338_html.md ## E13023 Invalid\_Argument\_OM\_Model\_Size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0339.html - Description: 报错格式如下,占位符%s的含义依次为模型属性名、内存大小、最大值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0339_html.md ## E13024 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0340.html - Description: 报错格式如下,占位符%s的含义依次为环境变量名称、环境变量取值、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0340_html.md ## E13026 File\_Operation\_Error\_Invalid\_Path - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0342.html - Description: 报错格式如下,占位符%s的含义依次为文件路径、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0342_html.md ## E13027 Invalid\_Argument\_Network\_Connection - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0343.html - Description: 报错格式如下,占位符%s表示ip address: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0343_html.md ## E13028 Compilation\_Error\_Execute\_Custom\_Fusion\_Pass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0344.html - Description: 报错格式如下,占位符%s的含义依次为融合规则名称、返回码、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0344_html.md ## E13029 Compilation\_Error\_Load\_Custom\_Fusion\_Pass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0345.html - Description: 报错格式如下,占位符%s的含义依次为融合规则库、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0345_html.md ## E13030 Initialization\_Error\_Register\_Custom\_Fusion\_Pass - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0346.html - Description: 报错格式如下,占位符%s的含义依次为融合规则名称、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0346_html.md ## EI0012 Execution\_Error\_SDMA - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0348.html - Description: 报错格式如下,占位符%s的含义依次为对端Rank信息、基础信息、任务信息、通信域信息: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0348_html.md ## EI0013 Execution\_Error\_ROCE\_CQE - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0349.html - Description: 报错格式如下,占位符%s的含义依次为本端Server ID、Device ID、Device IP以及对端Server ID、Device ID、Device IP: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0349_html.md ## EI0014 Config\_Error\_Ranktable - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0350.html - Description: 报错格式如下,占位符%s的含义依次为取值、配置项、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0350_html.md ## EI0015 Communication\_Error\_Ranktable\_Detect - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0351.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0351_html.md ## EI0017 Config\_Error\_Ranktable - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0353.html - Description: 报错格式如下,占位符%s表示配置项: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0353_html.md ## E13006 File\_Operation\_Error\_Parse - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0354.html - Description: 报错格式如下,占位符%s的含义依次为文件类型、文件名称、期望的文件类型: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0354_html.md ## EE1003 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0355.html - Description: 报错格式如下,占位符%s的含义依次为报错阶段(或接口名)、参数值、参数名、期望值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0355_html.md ## EE1004 Invalid\_Argument\_Null\_Pointer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0356.html - Description: 报错格式如下,占位符%s的含义依次为报错阶段(或接口名)、参数名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0356_html.md ## EE1005 Not\_Supported - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0357.html - Description: 报错格式如下,占位符%s表示功能名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0357_html.md ## EE1006 Not\_Supported - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0358.html - Description: 报错格式如下,占位符%s的含义依次为报错阶段(或接口名)、不支持的参数或参数值、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0358_html.md ## EE1007 Resource\_Error\_Bind\_Stream - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0359.html - Description: 报错格式如下,占位符%s的含义依次为Stream ID、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0359_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0360.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## EE1009 Execution\_Error\_Model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0361.html - Description: 报错格式如下,占位符%s的含义依次为Model ID、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0361_html.md ## EE1010 Execution\_Error\_Invalid\_Context - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0362.html - Description: 报错格式如下,占位符%s的含义依次为接口名、对象名、扩展信息: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0362_html.md ## EE2002 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0363.html - Description: 报错格式如下,占位符%s的含义依次为环境变量值、环境变量名、期望值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0363_html.md ## EE1011 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0364.html - Description: 报错格式如下,占位符%s的含义依次为报错阶段(或接口名)、参数值、参数名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0364_html.md ## EK0005 Not\_Supported - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0366.html - Description: 报错格式如下,占位符%s表示参数名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0366_html.md ## EK0006 Invalid\_Argument\_Null\_Pointer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0367.html - Description: 报错格式如下,占位符%s的含义依次为接口、参数名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0367_html.md ## EO0005 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0368.html - Description: 报错格式如下,占位符%s的含义依次为配置文件、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0368_html.md ## EO0006 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0369.html - Description: 报错格式如下,占位符%s的含义依次为配置项值、配置项、配置文件、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0369_html.md ## E10059 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0370.html - Description: 报错格式如下,占位符%s的含义依次为xxx、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0370_html.md ## E10061 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0372.html - Description: 报错格式如下,占位符%s分别表示参数值、参数名、期望值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0372_html.md ## EN0010 Resource\_Error\_Insufficient\_Host\_Memory - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0373.html - Description: 报错格式如下,占位符%s表示内存大小: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0373_html.md ## EN0011 Resource\_Error\_Insufficient\_Host\_Memory - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0374.html - Description: \#\#\#\# 错误信息 报错格式如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0374_html.md ## EN0012 Resource\_Error\_Insufficient\_Device\_Memory - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0375.html - Description: 报错格式如下,占位符%s表示内存大小: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0375_html.md ## EN0013 Resource\_Error\_Busy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0376.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0376_html.md ## EN0014 Resource\_Error\_Insufficient\_Channel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0377.html - Description: 报错格式如下,占位符%s表示最大通道数量: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0377_html.md ## EN0015 Resource\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0378.html - Description: 报错格式如下,占位符%s分别表示功能模块、接口: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0378_html.md ## EN0016 File\_Operation\_Error\_Open - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0379.html - Description: 报错格式如下,占位符%s分别表示文件名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0379_html.md ## EN0017 Invalid\_Argument\_API\_Call\_Sequence - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0380.html - Description: 报错格式如下,占位符%s都表示接口名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0380_html.md ## EI0009 Communication\_Error\_Initialize\_Transport - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0381.html - Description: 报错格式如下,占位符%s的含义依次为Device ID、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0381_html.md ## EI0018 Execution\_Error\_UB\_CQE - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0382.html - Description: 报错格式如下,占位符%s的含义依次为本端Server ID、本端Device ID、本端Device IP、对端Server ID、对端Device ID、对端Device IP: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0382_html.md ## EI0019 Communication\_Error\_Bind\_IP\_Port - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0383.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0383_html.md ## EI0020 Communication\_Error\_Bind\_IP\_Port - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0384.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0384_html.md ## EP0003 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0385.html - Description: 报错格式如下,占位符%s的含义依次为取值、配置项、文件名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0385_html.md ## WE0001 Not\_Supported - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0387.html - Description: 报错格式如下,占位符%s分别表示操作任务、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0387_html.md ## EE1012 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0388.html - Description: 报错格式如下,占位符%s的含义依次为报错阶段(或接口名)、参数值、参数名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0388_html.md ## EP0004 File\_Operation\_Error\_Parse - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0389.html - Description: 报错格式如下,占位符%s的含义依次为文件名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0389_html.md ## EE1017 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0390.html - Description: 报错格式如下,占位符%s的含义依次为报错阶段(或接口名)、参数名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0390_html.md ## EZ1002 Config\_Error\_Invalid\_Environment\_Variable - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0392.html - Description: 报错格式如下,占位符%s的含义依次为报错阶段、环境变量名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0392_html.md ## EZ1003 File\_Operation\_Error\_Open - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0394.html - Description: 报错格式如下,占位符%s的含义依次为文件名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0394_html.md ## EZ1004 File\_Operation\_Error\_Parse - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0395.html - Description: 报错格式如下,占位符%s的含义依次为文件名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0395_html.md ## EZ1005 File\_Operation\_Error\_Parse - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0396.html - Description: 报错格式如下,占位符%s的含义依次为文件名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0396_html.md ## EZ1006 Not\_Supported\_Data\_Type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0397.html - Description: 报错格式如下,占位符%s的含义依次为算子名、数据类型、取值范围: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0397_html.md ## EZ1007 Invalid\_Argument\_Tensor\_Input\_Shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0398.html - Description: 报错格式如下,占位符%s的含义依次为输入参数Shape值、算子名、dim值、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0398_html.md ## EZ1008 Execution\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0399.html - Description: 报错格式如下,占位符%s的含义依次为算子名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0399_html.md ## EE1013 Resource\_Error\_Insufficient\_Host\_Memory - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0400.html - Description: 报错格式如下,占位符%s分别表示内存大小、内存申请接口: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0400_html.md ## EE1016 Not\_Supported - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0402.html - Description: 报错格式如下,占位符%s的含义依次为报错阶段(或接口名)、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0402_html.md ## EE1018 Invalid\_Argument\_API\_Call\_Sequence - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0403.html - Description: 报错格式如下,占位符%s的含义依次为报错阶段(或接口名)、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0403_html.md ## EE1020 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0405.html - Description: 报错格式如下,占位符%s的含义依次为接口名、接口名、报错原因、扩展信息: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0405_html.md ## EH0007 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0406.html - Description: 报错格式如下,占位符%s的含义依次为报错阶段、参数值、参数名、期望值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0406_html.md ## EH0008 Invalid\_Argument\_Null\_Pointer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0407.html - Description: 报错格式如下,占位符%s的含义依次为报错阶段、参数名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0407_html.md ## EH0009 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0408.html - Description: 报错格式如下,占位符%s的含义依次为报错阶段、参数值、参数名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0408_html.md ## EH0010 Resource\_Error\_Insufficient\_Host\_Memory - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0409.html - Description: 报错格式如下,占位符%s分别表示内存大小、内存申请接口: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0409_html.md ## EH0011 Not\_Supported - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0410.html - Description: 报错格式如下,占位符%s表示接口名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0410_html.md ## EH0012 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0411.html - Description: 报错格式如下,占位符%s的含义依次为报错阶段、参数名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0411_html.md ## EH0013 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0412.html - Description: 报错格式如下,占位符%s的含义依次为报错阶段、接口名称、报错原因、扩展信息: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0412_html.md ## EK0007 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0413.html - Description: 报错格式如下,占位符%s的含义依次为错误模式、正确模式: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0413_html.md ## EZ0028 Invalid\_Argument\_Tensor\_Stride - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0414.html - Description: 报错格式如下,占位符%s的含义依次为输入参数名、算子名或接口名、stride错误值、stride正确值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0414_html.md ## EZ0029 File\_Operation\_Error\_Invalid\_Path - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0415.html - Description: 报错格式如下,占位符%s的含义依次为文件路径、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0415_html.md ## EZ0030 File\_Operation\_Error\_Open - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0416.html - Description: 报错格式如下,占位符%s的含义依次为文件路径、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0416_html.md ## EZ0031 File\_Operation\_Error\_Parse - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0417.html - Description: 报错格式如下,占位符%s的含义依次为文件路径、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0417_html.md ## EZ0032 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0418.html - Description: 报错格式如下,占位符%s的含义依次为配置值、配置项、配置文件、正确值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0418_html.md ## EZ0033 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0419.html - Description: 报错格式如下,占位符%s的含义依次为配置值、配置项、配置文件、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0419_html.md ## EZ0034 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0420.html - Description: 报错格式如下,占位符%s的含义依次为配置值、配置项、配置文件、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0420_html.md ## EZ0002 Invalid\_Attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0422.html - Description: 报错格式如下,占位符%s的含义依次为属性名、算子名或接口名、属性错误值、属性正确值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0422_html.md ## EZ0004 Invalid\_Input - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0424.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0424_html.md ## EZ0005 Invalid\_Input\_ShapeSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0425.html - Description: 报错格式如下,占位符%s的含义依次为序号、算子名或接口名、shape大小错误值、shape大小正确值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0425_html.md ## EZ0006 Invalid\_Input\_Format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0426.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、format错误值、format正确值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0426_html.md ## EZ0007 Invalid\_Input\_Dtype - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0427.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、数据类型错误值、数据类型正确值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0427_html.md ## EZ0008 Invalid\_Argument\_Tensor\_Shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0428.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、shape错误值、shape正确值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0428_html.md ## EZ0009 Invalid\_Argument\_Tensor\_Shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0429.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、shape错误值、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0429_html.md ## EZ0010 Invalid\_Argument\_Tensor\_Shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0430.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、shape错误值、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0430_html.md ## EZ0011 Invalid\_Argument\_Tensor\_Shape\_Dim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0431.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、shape dim错误值、shape dim正确值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0431_html.md ## EZ0012 Invalid\_Argument\_Tensor\_Shape\_Dim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0432.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、shape dim错误值、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0432_html.md ## EZ0013 Invalid\_Argument\_Tensor\_Shape\_Dim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0433.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、shape dim错误值、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0433_html.md ## EZ0014 Invalid\_Argument\_Tensor\_Shape\_Size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0434.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、shape大小错误值、shape大小正确值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0434_html.md ## EZ0015 Invalid\_Argument\_Tensor\_Shape\_Size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0435.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、shape大小错误值、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0435_html.md ## EZ0016 Invalid\_Argument\_Tensor\_Shape\_Size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0436.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、shape大小错误值、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0436_html.md ## EZ0017 Invalid\_Argument\_Tensor\_Format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0437.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、format错误值、format正确值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0437_html.md ## EZ0018 Invalid\_Argument\_Tensor\_Format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0438.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、format错误值、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0438_html.md ## EZ0020 Invalid\_Argument\_Tensor\_Dtype - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0440.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、数据类型错误值、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0440_html.md ## EZ0021 Invalid\_Argument\_Tensor\_Dtype - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0441.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、数据类型错误值、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0441_html.md ## EZ0022 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0442.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、tensor数量错误值、tensor数量正确值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0442_html.md ## EZ0023 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0443.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、tensor数量错误值、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0443_html.md ## EZ0024 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0444.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、错误值、正确值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0444_html.md ## EZ0025 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0445.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、列表大小错误值、列表大小正确值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0445_html.md ## EZ0026 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0446.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、错误值、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0446_html.md ## EZ0027 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0447.html - Description: 报错格式如下,占位符%s的含义依次为参数名、算子名或接口名、错误值、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0447_html.md ## EK0202 Resource\_Error\_Insufficient\_Host\_Memory - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0448.html - Description: 报错格式如下,占位符%s表示申请内存的模块: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0448_html.md ## EK0203 Resource\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0449.html - Description: 报错格式如下,占位符%s表示报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0449_html.md ## EP0005 Config\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0451.html - Description: 报错格式如下,占位符%s的含义依次为文件名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0451_html.md ## EP0006 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0452.html - Description: 报错格式如下,占位符%s的含义依次为接口名、参数名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0452_html.md ## EP0007 Invalid\_Argument\_Null\_Pointer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0453.html - Description: 报错格式如下,占位符%s分别表示接口名、参数名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0453_html.md ## EP0008 Invalid\_Argument\_API\_Call\_Sequence - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0454.html - Description: 报错格式如下,占位符%s的含义依次为接口名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0454_html.md ## EZ1009 Execution\_Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0455.html - Description: 报错格式如下,占位符%s的含义依次为算子名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0455_html.md ## EZ1010 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0456.html - Description: 报错格式如下,占位符%s的含义依次为参数值、参数名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0456_html.md ## EZ1011 Invalid\_Argument\_Null\_Pointer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0457.html - Description: 报错格式如下,占位符%s的含义依次为接口名、参数名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0457_html.md ## EZ1012 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0458.html - Description: 报错格式如下,占位符%s的含义依次为参数值、参数名、参数最大值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0458_html.md ## EL0016 Invalid\_Argument - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0459.html - Description: 报错格式如下,占位符%s的含义依次为接口名、参数值、参数名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0459_html.md ## EL0017 Invalid\_Argument\_Null\_Pointer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0460.html - Description: 报错格式如下,占位符%s的含义依次为接口名、参数名: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0460_html.md ## EL0018 Resource\_Error\_Insufficient\_Host\_Memory - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0461.html - Description: 报错格式如下,占位符%s的含义依次为内存大小、模块名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0461_html.md ## EL0019 Resource\_Error\_Insufficient\_Device\_Memory - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0462.html - Description: 报错格式如下,占位符%s的含义依次为内存大小、模块名称: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0462_html.md ## EL0020 Resource\_Busy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0463.html - Description: 报错格式如下,占位符%s表示Device ID: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0463_html.md ## EL0021 Not\_Supported - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0464.html - Description: 报错格式如下,占位符%s的含义依次为接口名、报错原因: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0464_html.md ## EL0022 Resource\_Error\_Insufficient\_SQCQ - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/atlaserrorcode_15_0465.html - Description: 报错格式如下,占位符%s表示最大值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_atlaserrorcode_15_0465_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0001.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## 收集AI Core Error问题信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0006.html - Description: 注意:在收集日志时,需收集本次AI Core Error问题附近时间的日志,旧日志中的不相关信息或其它报错信息可能导致后续msaicerr工具分析AI Core Error问题时报错。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0006_html.md ## 使用msaicerr工具分析AI Core Error问题 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0007.html - Description: msaicerr工具的功能及约束请参见msaicerr工具功能及约束,环境准备请参见msaicerr工具环境准备。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0007_html.md ## HBM比特ECC故障 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0009.html - Description: Device的event日志(slog/dev-os-id/run/event/event\_*.log)中存在“event\_id\=0x80E01809”或“event\_id\=0x80E01801”关键字。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0009_html.md ## icache数据校验故障 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0010.html - Description: Device的event日志(slog/dev-os-id/run/event/event\_*.log)中存在“event\_id\=0x80C98000”关键字。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0010_html.md ## AI Core硬件故障 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0011.html - Description: Host应用类日志(log/\[run|debug\]/plog/plog-pid\_*.log)中存在如下报错: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0011_html.md ## 系统环境/硬件问题 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0013.html - Description: 如果在info.txt中给出如下分析结论,则一般为系统环境/硬件问题: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0013_html.md ## 单算子运行报错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0014.html - Description: 如果info.txt中给出如下结论,说明是单算子运行报错或pass异常。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0014_html.md ## atomic add精度溢出 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0015.html - Description: 如果info.txt中给出如下结论,说明是精度溢出导致的AI Core error。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0015_html.md ## 算子输入输出数据地址异常 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0016.html - Description: 如果info.txt中给出如下分析结论,一般为地址非法错误: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0016_html.md ## 算子输入args下发前后不一致 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0017.html - Description: 如果在info.txt中给出如下分析结论,则一般为args错误: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0017_html.md ## Dump数据失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0018.html - Description: 如果在info.txt中给出如下分析结论,则推断为dump数据失败: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0018_html.md ## 算子输入args错误 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0019.html - Description: Host应用类日志(log/\[run|debug\]/plog/plog-pid\_*.log)中存在如下报错: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0019_html.md ## 使用msnpureport工具收集更多AI Core Error信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0021.html - Description: 联系技术支持定位一些疑难AI Core Error问题时,除了收集AI Core Error问题信息中收集的信息外,还需借助msnpureport工具获取Device配置信息、设置TaskSchedule是否自动复位加速器、导出寄存器信息、设置AI Core上任务串联或并行执行、屏蔽指定AI Core或Vector Core上的任务执行等,以便更进一步排查算子问题、硬件问题。定位问题后,建议恢复配 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0021_html.md ## 内存OOM问题定位思路 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0051.html - Description: 您可以按如下步骤定位问题,若无法解决问题,再联系技术支持。您可以获取日志后单击Link\(https://www.hiascend.com/support\)联系技术支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0051_html.md ## 收集内存OOM问题信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0052.html - Description: 支持用户手动收集、工具自动收集两种方式。- 用户手动收集:收集Host、Device日志和文件,仅收集最小集信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0052_html.md ## 使用第三方asan工具检测内存错误问题 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0054.html - Description: asan是一款面向C/C++语言的第三方内存错误问题检查工具,可以检测使用已释放内存、内存越界、内存泄漏等问题,gcc4.8以上版本中已包含asan工具,无需单独安装。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0054_html.md ## 查看CANN各组件内存统计信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0055.html - Description: 1. 查看并解读日志 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0055_html.md ## 进程中断问题现象描述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0061.html - Description: 应用进程异常退出,一般主要由于以下原因导致: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0061_html.md ## 进程中断问题定位思路 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0062.html - Description: 您可以按如下步骤定位问题,若无法解决问题,再联系技术支持。您可以获取日志后单击Link\(https://www.hiascend.com/support\)联系技术支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0062_html.md ## 调用SetDevice接口错误导致无可用Context - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0065.html - Description: 参见收集进程中断问题信息收集日志文件,收集的日志所存放的目录,下文以$\{HOME\}/err\_log\_info/为例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0065_html.md ## rtMemcpyAsync异步参数校验报错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0066.html - Description: 参见收集进程中断问题信息收集日志文件,收集的日志所存放的目录,下文以$\{HOME\}/err\_log\_info/为例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0066_html.md ## 算子执行过程中D2D拷贝出错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0067.html - Description: 参见收集进程中断问题信息收集日志文件,收集的日志所存放的目录,下文以$\{HOME\}/err\_log\_info/为例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0067_html.md ## 环境变量访问冲突,导致应用程序异常终止 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0068.html - Description: 多卡训练场景,出现多次core dump,应用程序异常终止。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0068_html.md ## 进程卡住问题定位思路 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0072.html - Description: 您可以按如下步骤定位问题,若无法解决问题,再联系技术支持。您可以获取日志后单击Link\(https://www.hiascend.com/support\)联系技术支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0072_html.md ## 收集进程卡住问题信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0073.html - Description: 支持用户手动收集、工具自动收集两种方式。- 用户手动收集:收集Host、Device日志和文件,仅收集最小集信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0073_html.md ## fork方式创建子进程导致应用进程卡死 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0075.html - Description: 多卡训练场景下,出现训练进程卡死,或者出现训练超时、用户dataloader卡死等现象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0075_html.md ## asys工具功能及约束 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0096.html - Description: 为提高系统故障维测效率,提供故障信息收集工具asys一键式收集信息。该工具仅支持在 Ascend EP 形态下使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0096_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0097.html - Description: 已在CANN运行环境上安装Toolkit软件包。详细安装请参见《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/softwareinst/instg/instg\_0000.html\)》。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0097_html.md ## msaicerr工具功能及约束 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0099.html - Description: msaicerr工具可用于分析AI Core Error问题、解析Dump文件、检查环境。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0099_html.md ## 通过Device日志获取故障ID并排查RAS硬件故障 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0103.html - Description: RAS硬件故障是指与硬件的可靠性(Reliability)、可用性(Availability)和可服务性(Serviceability)有关的故障。此处可通过日志中的“event\_id”的值(即RAS硬件故障码),在对应版本的故障码手册中查找解决方法。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0103_html.md ## 通过Device日志查看资源占用过高的信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0104.html - Description: 有些业务程序运行异常的情况可能由于Device的内存被耗尽、CPU占用率过高、文件句柄数达到上限、进程数达到上限等问题引起,因此在定位问题时,我们可以通过日志中的一些关键信息排查这部分问题。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0104_html.md ## 通过Device日志确认Host进程的拉起与结束时间 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0105.html - Description: 问题定位时往往需要先初步定界到问题发生的大致时间点,再根据出错时间的详细日志继续定位。这时,可以通过查找Device日志的ringbuffer关键字,来判断业务进程的拉起与结束时间,定界到问题发生的时间点。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0105_html.md ## 如何查看Python、C&C++应用程序的堆栈 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0106.html - Description: 此处以pyspy工具查看Python堆栈信息为例说明。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0106_html.md ## 案例集说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0108.html - Description: 本章收集了推理、训练、算子执行等场景下的典型或高频问题,并针对这些问题给出现象描述、定位思路以及解决方法。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0108_html.md ## Event数量超过上限导致aclrtRecordEvent接口返回失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0111.html - Description: 调用aclrtRecordEvent接口在Stream中记录一个Event时,日志中的报错如下,红框中是关键日志信息,提示Event申请失败。由于软件版本在持续优化中,新旧版本的日志不同,如下所示: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0111_html.md ## 进程异常退出后重新执行任务失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0112.html - Description: 进程异常退出时,包括强行终止任务(如ctrl + c或者kill命令终止进程)的场景,然后重新启动任务失败。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0112_html.md ## 进程异常,下一次执行任务报错“unbind model stream failed” - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0113.html - Description: 用户捕获异常退出信号,并在信号处理函数中释放已申请资源,下一次执行时会报执行失败。此时查看日志,会发现unbind model stream failed报错。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0113_html.md ## 用户进程异常退出后重启进程失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0114.html - Description: 用户进程卡住或者用户强制退出进程后,再次重启,重启后发现进程无法正常启动。类似的日志信息如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0114_html.md ## AI应用进程未退出,导致休眠唤醒失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0115.html - Description: \#\#\#\# 问题现象描述 休眠失败。 查看应用类日志,系统内部的任务分发模块hwts正处于busy状态,检查发现不满足休眠条件,日志片段示例如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0115_html.md ## 异步拷贝调用查询接口报错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0120.html - Description: 通过event实现H2D或D2H异步拷贝任务的同步等待时,在调用aclrtQueryEventStatus确认任务完成后,先调用aclrtFreeHost释放Host内存再调用aclrtDestroyEvent接口,可能会有如下报错信息打印: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0120_html.md ## 低版本内核使用asan导致算子执行失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0121.html - Description: 执行算子时,算子输入数据正确,但输出数据异常,全为0,Host侧plog日志中的报错示例如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0121_html.md ## 析构函数中调用去初始化接口aclFinalize导致应用进程coredump - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0122.html - Description: 应用程序运行过程中出现core dump,应用程序异常终止。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0122_html.md ## 动态shape推理申请内存失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0125.html - Description: 模型推理过程中,申请了大小为0的内存,日志报错信息中包含以下关键信息: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0125_html.md ## 注册算子数超过最大规格 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0126.html - Description: 推理过程中,用户load model出现报错。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0126_html.md ## 动态shape模型用户输入和模型推导结果不匹配 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0127.html - Description: 场景1:模型执行报错,日志信息中包含以下关键信息: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0127_html.md ## 动态shape模型输入大小校验失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0128.html - Description: 动态shape模型输入大小校验失败,plog日志信息中包含以下关键信息:tensor size mismatches. expected: ..., but given ... - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0128_html.md ## 算子插件未注册报错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0148.html - Description: 查看日志, 存在报错某个算子类型不支持: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0148_html.md ## AI Core算子执行报错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0150.html - Description: Runtime执行报错,在应用程序运行日志中Runtime打印了类似fault kernel\_name和func\_name的关键信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0150_html.md ## AI CPU算子Kernel执行报错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0151.html - Description: Runtime执行报错,在应用程序运行日志中Runtime打印了PrintAicpuErrorInfo的错误信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0151_html.md ## AI CPU算子执行超时报错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0153.html - Description: 算子执行过程中,如果遇到下面任意一种报错,均属于算子执行超时报错。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0153_html.md ## 单算子匹配失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0155.html - Description: 单算子执行过程中,出现匹配失败,日志显示如下类似信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0155_html.md ## 执行单算子产生coredump的定位处理 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0156.html - Description: 单算子执行结束,出现重复释放内存,导致coredump,屏幕显示关键日志信息: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0156_html.md ## 算子库包版本问题导致加载单算子失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0157.html - Description: 加载单算子报错失败,日志显示如下类似信息: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0157_html.md ## DVPP驱动引擎异常返回码 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0159.html - Description: 视频解码失败,Device日志提示-512返回码:\[dvpp\_ioctl\_vpc 845\] call proc failed:-512, engine\_id:1,如下所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0159_html.md ## 两个版本的DVPP接口混用导致应用程序报错退出 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0161.html - Description: 使用媒体数据处理V1接口(接口名以acldvpp开头)创建了通道,同时又使用媒体数据处理V2接口(接口名以hi\_mpi开头)接口创建通道,后者创建通道时失败。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0161_html.md ## 调用错误的内存申请接口,导致内存地址校验出错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0163.html - Description: 调用VPC接口,返回HI\_ERR\_VPC\_BADADDR (0xA0078011)错误码,同时日志中有错误提示,不同版本的报错日志可能存在差别: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0163_html.md ## 读/写内存地址无效,导致异常中断 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0165.html - Description: Device侧内核态日志报错VPC异常(不同版本的报错日志可能存在差别): - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0165_html.md ## VPC调用失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0166.html - Description: VPC模块调用失败(不同版本的报错日志可能存在差别),查看日志有类似如下报错信息: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0166_html.md ## VPC参数校验失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0167.html - Description: 调用VPC功能接口返回0xA0078003,即HI\_ERR\_VPC\_ILLEGAL\_PARAM,参数超出合法范围。查看日志有类似如下报错信息,不同版本的报错日志可能存在差别: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0167_html.md ## VPC获取结果失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0169.html - Description: 调用hi\_mpi\_vpc\_get\_process\_result,返回HI\_ERR\_VPC\_ILLEGAL\_PARAM,查看日志信息,不同版本的报错日志可能存在差别: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0169_html.md ## VPC输出图片存在花屏/绿边等 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0170.html - Description: 输出图片存在花屏、绿边等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0170_html.md ## 调用错误的内存申请接口,导致内存地址校验出错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0172.html - Description: \#\#\#\# 问题现象描述 日志报错如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0172_html.md ## 内存被提前释放,导致解码数据花屏 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0173.html - Description: 原始H264/H265每一帧视频流正常,解码过程无异常(无异常日志),仅输出图片有异常。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0173_html.md ## JPEGD图像解码进程超时退出 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0174.html - Description: \#\#\#\# 问题现象描述 用户进程退出。 查看应用类日志,发现类似ERROR日志“task timeout, userData\= ..., timeout\=30, duration\=…”和WARNING日志“frames statistic: ACL receive\(n\), send\(n-1\)”,n表示处理任务数量,需根据实际情况确定。 日志片段举例如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0174_html.md ## JPEGD图片解码失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0175.html - Description: JPEGD模块解码失败,查看日志有类似如下报错信息: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0175_html.md ## VDEC视频解码丢帧/丢包 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0176.html - Description: 视频解码丢帧,出现重影或不连续现象。查看Device日志,发现日志中存在以下几个报错的内容信息中的一个或多个,不同版本日志信息可能有所不同。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0176_html.md ## VDEC视频解码花屏 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0177.html - Description: 输入码流给VDEC进行解码,得到的解码数据不正确,产生花屏现象,如图1所示。并且日志中存在类似“decode error”、“input stream error, can't decode, report to user”、“num\_ref\_idx\_l0\_active\(30\) out of range\(0,16\)”、“dvpp\_vdec\_vdm\_process failed”、“Chan 0 E - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0177_html.md ## 输入码流不符合要求导致VDEC视频解码失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0179.html - Description: 视频解码失败,日志中打印如下所示的异常信息,不同版本日志信息可能有所不同:- 日志信息:Invalid width or height - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0179_html.md ## VDEC视频帧解码失败不触发回调函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0180.html - Description: 用户输入码流给VDEC解码,某些帧或所有帧都没有触发回调函数,用户收不到解码结果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0180_html.md ## VDEC视频解码异常导致进程卡死,无法退出 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0181.html - Description: 用户进程卡死,无法退出。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0181_html.md ## retCode返回值设置错误,导致VDEC视频解码异常 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0182.html - Description: 调用aclvdecSendFrame接口发送一帧码流后,继续复用output输出图片描述信息,进行后续帧码流的解码操作,结果反复出现解码不成功、解码异常的情况。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0182_html.md ## VDEC视频解码无报错,但无解码结果数据、CPU占用率高 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0183.html - Description: 查看应用类日志,无ERROR报错、无解码结果数据输出,另外,在运行应用程序的Linux服务器上执行top命令,该应用进程的cpu占用率持续升高。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0183_html.md ## 复用输出图片描述类型,VDEC视频解码报错,提示有不支持的图片格式 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0184.html - Description: 循环调用aclvdecSendFrame接口解码视频中的每一帧码流时,在遇到异常帧之后,解码下一帧就会报错,退出应用进程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0184_html.md ## 异常码流导致VDEC视频解码失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0185.html - Description: 调用hi\_mpi\_vdec\_get\_frame接口成功,返回的解码结果为失败\(frame\_info->v\_frame.frame\_flag \= 1\),表示可能由于输入码流异常、设置的码流格式与实际码流不一致等问题导致解码失败。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0185_html.md ## 不支持的协议字段0x31导致JPEGD图片解码结果异常 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0187.html - Description: JPEGD图片解码的结果数据都是0,查看日志,有报错“Unsupported marker type 0x31”,日志示例如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0187_html.md ## 码流大小校验失败导致VDEC视频解码失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0188.html - Description: 调用hi\_mpi\_vdec\_send\_stream接口返回错误码HI\_ERR\_VDEC\_ILLEGAL\_PARAM,查看应用类日志,有报错“stream len can't be zero\!”,日志示例如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0188_html.md ## 实际码流类型与接口中设置的解码器类型不一致导致VDEC视频解码失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0189.html - Description: \#\#\#\# 问题现象描述 每一帧解码都失败。 Device日志示例如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0189_html.md ## 多帧码流当一帧送入解码导致VDEC视频解码异常 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0190.html - Description: 解码发生丢帧,有ERROR日志。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0190_html.md ## 送帧太快,VDEC视频解码发生OOM - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0191.html - Description: 进行多路解码时,送帧间隔设置太短,导致发帧过快,出现OOM现象,解码卡住。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0191_html.md ## 解码器帧存大小以及参考帧个数设置过小,VDEC视频解码卡住 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0192.html - Description: 解码卡住,日志中提示无法申请帧存的相关错误。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0192_html.md ## 昇腾虚拟化实例场景使用不含DVPP的算力模板时,创建VDEC通道失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0193.html - Description: 无法创建VDEC视频解码通道。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0193_html.md ## 昇腾虚拟化实例场景下VDEC通道数量达到上限,无法创建通道 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0194.html - Description: 创建一定数量的通道后,无法继续创建vdec通道。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0194_html.md ## 调用错误的内存申请接口,导致内存地址校验出错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0196.html - Description: \#\#\#\# 问题现象描述 日志报错如下: - 日志1 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0196_html.md ## 使用正确的内存申请接口,但内存大小传值错误 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0197.html - Description: \#\#\#\# 问题现象描述 日志报错如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0197_html.md ## 内存被提前释放,导致VENC编码数据花屏 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0198.html - Description: 编码出来的数据花屏,其他无异常日志信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0198_html.md ## VENC创建通道失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0199.html - Description: 调用VENC创建通道的接口hi\_mpi\_venc\_create\_chn返回值非0,通道创建失败。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0199_html.md ## VENC送入待编码图像帧失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0200.html - Description: 调用VENC发送帧的接口hi\_mpi\_venc\_send\_frame返回值非0,发送失败。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0200_html.md ## buf\_size参数设置不合理导致视频编码异常 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0201.html - Description: 视频编码场景下,需通过hi\_venc\_attr结构体中buf\_size参数值来设置编码缓冲区的内存大小,buf\_size参数值设置得不合理,可能会导致视频编码耗时长或编码失败。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0201_html.md ## 播放VENC编码的码流,亮暗与原始YUV不一致 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0203.html - Description: 用户使用第三方播放器播放经过VENC编码的码流,发现编码后的码流亮暗与原始YUV不一致。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0203_html.md ## Camera找不到设备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0205.html - Description: - 业务场景:Camera出图 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0205_html.md ## Camera不出图 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0206.html - Description: - 业务场景:Camera出图 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0206_html.md ## Camera一直丢帧,无图片dump出来 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0207.html - Description: - 业务场景:Camera出图,同时dump raw和yuv图片 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0207_html.md ## Camera出图效果不对 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0208.html - Description: - 业务场景:Camera出图,dump图片 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0208_html.md ## 无法正常播音 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0210.html - Description: \#\#\#\# 适用场景 - 业务场景:播音 - 适用处理器:Atlas 200I/500 A2 推理产品 - 处理器形态:EP、RC \#\#\#\# 问题现象描述 在执行播音业务时,不能正常播音,并产生报错,返回错误码0xa0168009。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0210_html.md ## 播音属性设置无效 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0211.html - Description: \#\#\#\# 适用场景 - 业务场景:播音 - 适用处理器:Atlas 200I/500 A2 推理产品 - 处理器形态:EP、RC \#\#\#\# 问题现象描述 在初始化播音相关参数时失败,并产生报错,返回错误码0xa0168003或者0xa016800c。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0211_html.md ## 播音音调、语速不对 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0212.html - Description: - 业务场景:播音 - 适用处理器:Atlas 200I/500 A2 推理产品 - 处理器形态:EP、RC 执行播音命令之后,pcm音频文件被成功读取,音乐播放有声音,但速度变慢或者变快,对应的音调变低或变高。 例如:原始pcm为单音正弦波,频率为1kHz。 经过播放之后频率变为2kHz,播放速度变快,音调变高。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0212_html.md ## 音量调节失效 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0213.html - Description: - 业务场景:播音/录音时调节音量 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0213_html.md ## HDMI OPEN失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0215.html - Description: - 业务场景:通过HDMI接口送显 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0215_html.md ## HDMI与VO模块多进程时报错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0216.html - Description: - 业务场景:通过vo模块及HDMI接口送显 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0216_html.md ## HDMI接口无显示 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0217.html - Description: - 业务场景:通过HDMI接口送显 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0217_html.md ## 编译运行应用样例报错,提示找不到头文件或库文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0219.html - Description: 获取samples仓的样例代码(以图片分类应用\(https://gitee.com/ascend/samples/tree/master/cplusplus/level2\_simple\_inference/1\_classification/resnet50\_imagenet\_classification\)为例): - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0219_html.md ## 执行应用程序的权限不足导致acl接口初始化报错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0221.html - Description: 用户进程报错并退出。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0221_html.md ## acl接口执行无输出无报错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0222.html - Description: 调用acl时,无接口报错,但是没得到预期结果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0222_html.md ## CANN社区版-错误码以6位字符形式体现 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0225.html - Description: 错误码以6位字符形式体现,例如E10035,其中:- 第1位表示级别,分为E、W、I,分别表示错误、告警、提示类。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0225_html.md ## 手动收集算子编译信息(算子.o和.json文件) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0228.html - Description: 先从CANN软件安装路径下查找算子.json和.o文件,CANN软件默认安装路径为/usr/local/Ascend/cann,如果找不到,再从缓存目录下查找,默认为$\{HOME\}/atc\_data目录,如果配置了ASCEND\_CACHE\_PATH环境变量,则从该环境变量配置的路径下查找。关于环境变量的详细说明及约束,请参见《环境变量参考\(https://www.hiascend.com/docu - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0228_html.md ## AI CPU算子输入标量执行报错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0492.html - Description: Host侧Runtime执行报错,在应用程序运行日志中Runtime打印了PrintAicpuErrorInfo错误信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0492_html.md ## AI Core超时故障 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0500.html - Description: Host应用类日志(log/\[run|debug\]/plog/plog-pid\_*.log)中存在如下报错: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0500_html.md ## 故障信息收集 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0501.html - Description: 不复跑业务,仅收集故障信息,例如软硬件信息、日志等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0501_html.md ## 业务复跑+故障信息收集 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0502.html - Description: 复跑业务后再收集故障信息,例如软硬件信息、日志等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0502_html.md ## 健康检查 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0504.html - Description: 检查所有Device或指定Device的健康状态(若不健康,会展示报错信息)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0504_html.md ## 综合检测 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0505.html - Description: 包括压力检测、HBM硬件检测、CPU检测等功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0505_html.md ## 组件检测 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0506.html - Description: 组件检测,当前只支持AI Vector组件检测,不支持并行执行 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0506_html.md ## trace文件解析 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0507.html - Description: 解析trace文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0507_html.md ## stackcore文件解析 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0511.html - Description: 解析stackcore文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0511_html.md ## coretrace文件解析 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0512.html - Description: 解析coretrace文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0512_html.md ## 实时堆栈导出 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0513.html - Description: 该功能适用于训练、推理业务进程卡住场景,以便导出堆栈信息定位问题。在业务未卡死时,执行实时堆栈导出,可能有:信号发送失败、bin文件生成超时、bin文件解析失败等异常,无法正常导出堆栈信息。另外,不支持对同一个卡住进程并行导出堆栈信息,否则可能执行命令失败。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0513_html.md ## 环境配置 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0514.html - Description: 获取或恢复指定配置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0514_html.md ## AI Core Error故障信息解析 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0515.html - Description: 执行业务时,若日志文件或屏幕打印信息中包含AI Core Error报错(例如“there is an aivec error exception”或“there is an aicore error exception”),可使用AI Core Error故障信息解析功能,快速定位AI Core Error问题的原因,提高排查效率。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0515_html.md ## 性能数据采集 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0516.html - Description: \#\#\#\# 功能说明 采集性能数据。 \#\#\#\# 注意事项 对于 Atlas 200I/500 A2 推理产品 、 Atlas 推理系列产品 、 Atlas 训练系列产品 ,不支持使用环境配置功能。 \#\#\#\# 命令格式 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0516_html.md ## 分析AI Core Error问题 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0531.html - Description: 分析AI Core Error问题的故障信息,辅助定位AI Core Error问题。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0531_html.md ## 转换Dump文件数据类型 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0533.html - Description: 转换*.bin格式的Dump文件中的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0533_html.md ## msaicerr工具环境准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0535.html - Description: 已在CANN运行环境上安装Toolkit软件包。详细安装请参见《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/softwareinst/instg/instg\_0000.html\)》。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0535_html.md ## 故障处理简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0537.html - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:屏幕打印的错误码信息及处理方法、一键式日志收集以及各类问题定位工具使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0001_html.md ## UB文件解析 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/maintenref/troubleshooting/troubleshooting_0538.html - Description: 解析UB维测信息文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_maintenref_troubleshooting_troubleshooting_0538_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dataflow_dev_001.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## DataFlow简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevc_23_0002.html - Description: 本文档用于指导开发者如何使用DataFlow接口进行计算图的构建、修改、编译和执行。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevc_23_0002_html.md ## 开发前准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevc_23_0003.html - Description: 支持的产品型号: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 和 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevc_23_0003_html.md ## 应用场景 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevc_23_0004.html - Description: DataFlow可用于多模型串接下沉执行场景,在该场景下,DataFlow可以对自定义计算节点或模型进行编排,通过数据驱动模型执行,其中被定义成GraphProcessPoint的节点可以完全下沉到device侧执行,且相邻的两个GraphProcessPoint之间的数据传输将在device-device间进行。上述机制减少了host和device之间控制面和数据面的交互,降低整个DataFlo - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevc_23_0004_html.md ## 什么是FlowOperator - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevc_23_0006.html - Description: FlowOperator是FlowGraph的节点基类,衍生类有FlowData和FlowNode两种类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevc_23_0006_html.md ## 如何通过FlowOperator构建FlowGraph - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevc_23_0007.html - Description: 用户使用创建好的FlowOperator节点,创建一个FlowGraph实例,并在FlowGraph中设置输入、输出,从而完成Graph构建。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevc_23_0007_html.md ## 编译并运行FlowGraph - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevc_23_0008.html - Description: 构建完FlowGraph之后,如果您希望直接编译并运行FlowGraph,得到图的执行结果,可以参考本节内容。涉及的主要接口为: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevc_23_0008_html.md ## 完整样例参考 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevc_23_0009.html - Description: 单击GitCode\(https://gitcode.com/cann/ge/tree\),选择对应版本的分支,从“examples/dflow”目录中获取样例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevc_23_0009_html.md ## 开发流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevc_23_0013.html - Description: 进行UDF开发的流程如下图所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevc_23_0013_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevc_23_0015.html - Description: - 进行UDF开发前,需要完成驱动固件及开发套件包Ascend-cann-toolkit的安装,详细操作请参见《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/softwareinst/instg/instg\_0000.html\)》。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevc_23_0015_html.md ## 工程创建 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevc_23_0016.html - Description: UDF工程分成如下几类,请根据使用场景进行创建。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevc_23_0016_html.md ## 开发过程(调用MetaFlowFunc类) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevc_23_0017.html - Description: 在UDF开发过程中,用户可以调用MetaFlowFunc类进行自定义的单func处理函数的编写。也可以调用MetaMultiFunc类进行自定义的多func处理函数的编写。本小节介绍调用MetaFlowFunc类进行UDF的开发过程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevc_23_0017_html.md ## 开发过程(调用MetaMultiFunc类) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevc_23_0018.html - Description: 在UDF开发过程中,用户可以调用MetaFlowFunc类进行自定义的单func处理函数的编写。也可以调用MetaMultiFunc类进行自定义的多func处理函数的编写。本小节介绍调用MetaMultiFunc类进行UDF的开发过程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevc_23_0018_html.md ## 工程编译 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevc_23_0019.html - Description: 在udf\_workspace/01\_udf\_add目录下创建build和release目录: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevc_23_0019_html.md ## 使用DataFlow API构建graph - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevc_23_0020.html - Description: 1. 构建FlowGraph。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevc_23_0020_html.md ## CANN社区版-测试 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevc_23_0022.html - Description: 请使用开发好的UDF,构建单UDF的FlowGraph并编译运行,详细操作可以参考通过FlowOperator构建FlowGraph和编译并运行FlowGraph。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevc_23_0022_html.md ## 基于flow标记的图切分 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevc_23_0023.html - Description: 前端表达仅支持IR表达,在同构引擎间,若希望进行Flow表达,可以通过"\_flow\_attr"设置Op或者SubGraphOp的flow属性,分别拆分成不同的Flow图,并分别进行图编译、部署和执行;对于子图,可以通过PartitionedCall算子来实现子图的嵌套; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevc_23_0023_html.md ## 指定DataFlow节点部署位置 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevc_23_0024.html - Description: 支持使用配置文件指定DataFlow图节点部署位置。该功能可以实现多卡多实例。分摊计算量,提升性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevc_23_0024_html.md ## DataFlow子图编译缓存 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevc_23_0025.html - Description: 开启DataFlow编译缓存功能,当修改DataFlow单个节点的子图时,只增量编译修改的子图,其余子图使用缓存,从而降低编译耗时。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevc_23_0025_html.md ## DataFlow离线编译 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevc_23_0026.html - Description: DataFlow离线编译是指在开发环境编译,在运行环境上加载和部署,从而实现编译和建链解耦。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevc_23_0026_html.md ## numa\_config.json配置 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevc_23_0032.html - Description: numa\_config.json全量字段含义如表1所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevc_23_0032_html.md ## 读者对象 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0003.html - Description: 本文档用于指导开发者如何使用DataFlow接口进行异步流水应用的开发,或者对原应用进行异步流水的改造,实现应用的大吞吐和高并发。通过本文档您可以达成以下目标: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0003_html.md ## 阅读向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0004.html - Description: 如果您对DataFlow不太了解,或者首次阅读本文档,建议先从阅读向导开始,帮助您快速了解手册内容,按需访问对应章节。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0004_html.md ## DataFlow简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0006.html - Description: DataFlow是一套面向异构系统的应用开发和执行框架,提供了一套API来帮助用户快速表达业务逻辑。框架屏蔽异构硬件和组网的差异,并以异步流水方式提升应用的整体性能和吞吐量。同时,DataFlow提供了简单灵活的部署策略,用户可以方便地调整每个业务实例的个数以及部署位置,从而提升应用的资源利用率,降低用户的使用成本。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0006_html.md ## 多模型串接下沉执行 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0008.html - Description: DataFlow可以对自定义计算节点或模型进行编排,通过数据驱动模型执行,其中被定义成GraphProcessPoint的节点可以完全下沉device侧执行,且相邻的两个GraphProcessPoint之间的数据传输将在device-device间进行。上述机制减少了host和device之间控制面和数据面的交互,降低整个DataFlow图执行的时延,从而提升整体性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0008_html.md ## 基于PyTorch模型的在线推理 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0009.html - Description: DataFlow可以结合多种深度学习框架进行模型的训练或在线推理,来达到提高模型吞吐的目的。以PyTorch为例,在使用PyTorch进行模型在线推理时,通常会经过预处理、模型推理以及后处理三个步骤,其中模型推理又可以根据模型结构拆分成多个串行执行的子模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0009_html.md ## 整体开发流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0011.html - Description: \# 整体开发流程 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0011_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0012.html - Description: 支持的产品型号: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 和 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0012_html.md ## 完整样例参考 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0013.html - Description: Sample名称 代码地址 场景说明 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0013_html.md ## CANN社区版-该章节将介绍如何构建并执行一张FlowGraph - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0015.html - Description: 该章节将介绍如何构建并执行一张FlowGraph,包含以下两种方式: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0015_html.md ## 通过注解构图并执行 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0016.html - Description: 通过注解构图并执行的流程如下所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0016_html.md ## 通过API构图并执行 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0017.html - Description: 通过API构图并执行的流程如下所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0017_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0020.html - Description: - 进行UDF开发前,需要完成驱动固件及开发套件包Ascend-cann-toolkit的安装,详细操作请参见《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/softwareinst/instg/instg\_0000.html\)》。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0020_html.md ## 通过注解创建UDF - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0021.html - Description: 通过注解进行UDF开发的流程如下图所示: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0021_html.md ## 通过工程创建UDF - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0022.html - Description: 通过工程进行UDF开发的流程如下图所示: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0022_html.md ## 指定DataFlow节点部署位置 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0023.html - Description: 支持使用配置文件指定DataFlow图节点部署位置。该功能可以实现多卡多实例。分摊计算量,提升性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0023_html.md ## DataFlow子图编译缓存 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0024.html - Description: 开启DataFlow编译缓存功能,当修改DataFlow单个节点的子图时,只增量编译修改的子图,其余子图使用缓存,从而降低编译耗时。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0024_html.md ## DataFlow离线编译 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0025.html - Description: DataFlow离线编译是指在开发环境编译,在运行环境上加载和部署,从而实现编译和建链解耦。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0025_html.md ## 数据对齐 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0026.html - Description: 了解数据对齐之前,需要先了解什么是数据对。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0026_html.md ## 配置动态shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0027.html - Description: 配置动态shape可以给予图编译阶段更多shape range信息,编译器用以编译高效的算子和更好地管理内存。设置maxOutputSize用于配置更精准的输出最大值,图执行器会根据此配置在图计算前预先申请好输出内存,提升性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0027_html.md ## 多实例部署 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0028.html - Description: 当某个节点需要较多的计算资源时,可以考虑采用部署多份的方式来加速计算。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0028_html.md ## 流式输入和输出 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0029.html - Description: 在DataFlow中,流式输入是指:UDF执行一次可以获取多次输入。比如流式输出是指:UDF执行一次可以输出多次。详细介绍和示例请参见使用方法。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0029_html.md ## DataFlow框架介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0031.html - Description: 图1 DataFlow框架结构 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0031_html.md ## Mbuf多内存 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0032.html - Description: Mbuf是一种共享内存,包含了MbufHead和MbufData两部分数据,如表1所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0032_html.md ## numa\_config.json配置 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0033.html - Description: numa\_config.json全量字段含义如表1所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0033_html.md ## UDF Python工程创建工具 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfdevp_23_0034.html - Description: 该工具的作用是创建一个UDF Python工程模板,包括对应的文件夹和文件,用户可以基于该模板进行功能的开发,减少了手工创建的工作量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfdevp_23_0034_html.md ## DataFlow头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0001.html - Description: 您可以在“$\{INSTALL\_DIR\}/include/flow\_graph”路径下查看对应接口的头文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0001_html.md ## FlowOperator类 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0004.html - Description: FlowOperator类是DataFlow Graph的节点基类,继承于GE的Operator。详细介绍请参考“Operator\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/API/ascendgraphapi/cpp/ge/Operator/overview.md\)”。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0004_html.md ## FlowNode构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0007.html - Description: FlowNode构造函数和析构函数,构造函数返回一个FlowNode节点。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0008_html.md ## CANN社区版-AddPp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0010.html - Description: 给FlowNode添加映射的ProcessPoint,当前一个FlowNode仅能添加一个ProcessPoint,添加后会默认将FlowNode的输入输出和ProcessPoint的输入输出按顺序进行映射。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0010_html.md ## CANN社区版-MapInput - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0011.html - Description: 给FlowNode映射输入,表示将FlowNode的第nodeinputindex个输入给到ProcessPoint的第ppinputindex个输入,并且给ProcessPoint的该输入设置上attrs里的所有属性,返回映射好的FlowNode节点。该函数可选,不被调用时会默认按顺序映射FlowNode和ProcessPoint的输入。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0011_html.md ## CANN社区版-MapOutput - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0012.html - Description: 给FlowNode映射输出,表示将ProcessPoint的第ppoutputindex个输出给到FlowNode的第nodeoutputindex个输出,返回映射好的FlowNode节点。 可选调用方法,不调用会默认按顺序去映射FlowNode和ProcessPoint的输出。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0012_html.md ## CANN社区版-SetBalanceScatter - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0013.html - Description: 设置节点balance scatter属性,具有balance scatter属性的UDF可以使用balance options设置负载均衡输出。 无。 返回设置完属性的FlowNode节点。 无。 与SetBalanceGather接口互斥。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0013_html.md ## CANN社区版-SetBalanceGather - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0014.html - Description: 设置节点balance gather属性,具有balance gather属性的UDF可以使用balance options设置负载均衡亲和输出。 无。 返回设置完属性的FlowNode节点。 无。 与SetBalanceScatter接口互斥。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0014_html.md ## FlowGraph构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0015.html - Description: FlowGraph构造函数和析构函数,构造函数会返回一张空的FlowGraph图。 返回一张空的FlowGraph图。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0016_html.md ## FlowGraph构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0016.html - Description: FlowGraph构造函数和析构函数,构造函数会返回一张空的FlowGraph图。 返回一张空的FlowGraph图。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0016_html.md ## SetOutputs(index) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0019.html - Description: 设置FlowGraph中的FlowNode和FlowNode输出index的关联关系,并返回该图。常用于设置FlowNode部分输出场景,比如FlowNode1有2个输出,但是作为FlowNode2输入的时候只需要FlowNode1的一个输出,这种情况下可以设置FlowNode1的一个输出index。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0019_html.md ## CANN社区版-SetContainsNMappingNode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0020.html - Description: 设置FlowGraph是否包含nmapping节点。nmapping节点指存在以下任意一种情况。 - 一次输入生成非一次(多个,0个,或不定)输出。 - 多次输入生成一次输出。 - 多次输入生成非一次(多个,0个,或不定)输出。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0020_html.md ## CANN社区版-SetInputsAlignAttrs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0021.html - Description: 设置FlowGraph中的输入对齐属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0021_html.md ## const ge::Graph &ToGeGraph\(\) const - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0022.html - Description: 将FlowGraph转换到GE的Graph。具体的GE Graph介绍请参考《图开发\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/programug/graphdevg/atlasag\_25\_0081.html\)》。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0022_html.md ## CANN社区版-SetGraphPpBuilderAsync - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0023.html - Description: 设置FlowGraph中的GraphPp的Builder是否异步执行。 无 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0023_html.md ## CANN社区版-SetExceptionCatch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0024.html - Description: 设置用户异常捕获功能是否开启。 返回当前对象。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0024_html.md ## ProcessPoint析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0025.html - Description: ProcessPoint析构函数。 无 无 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0026_html.md ## ProcessPoint析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0026.html - Description: ProcessPoint析构函数。 无 无 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0026_html.md ## CANN社区版-GetProcessPointType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0027.html - Description: 获取ProcessPoint的类型。 无 返回一个ProcessPoint的类型。类型取值如下: 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0027_html.md ## CANN社区版-Serialize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0030.html - Description: ProcessPoint的序列化方法。由ProcessPoint的子类去实现该方法的功能。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0030_html.md ## FunctionPp构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0031.html - Description: FunctionPp的构造函数和析构函数,构造函数会返回一个FunctionPp对象。 返回一个FunctionPp对象。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0032_html.md ## FunctionPp构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0032.html - Description: FunctionPp的构造函数和析构函数,构造函数会返回一个FunctionPp对象。 返回一个FunctionPp对象。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0032_html.md ## CANN社区版-SetCompileConfig - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0033.html - Description: 设置FunctionPp的json配置文件名字和路径,该配置文件用于将FunctionPp和UDF进行映射。 返回设置好的FunctionPp。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0033_html.md ## AddInvokedClosure \(添加调用的GraphPp\) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0034.html - Description: 添加FunctionPp调用的GraphPp,返回添加好的FunctionPp。 返回设置好的FunctionPp。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0034_html.md ## CANN社区版-SetInitParam - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0037.html - Description: 设置FunctionPp的初始化参数,返回设置好的FunctionPp。 返回设置好的FunctionPp。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0037_html.md ## CANN社区版-Serialize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0038.html - Description: FunctionPp的序列化方法。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0038_html.md ## CANN社区版-GetInvokedClosures - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0039.html - Description: 获取FunctionPp调用的GraphPp。 无 返回AddInvokedClosure设置的的map。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0039_html.md ## GraphPp构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0040.html - Description: GraphPp构造函数和析构函数,构造函数会返回一个GraphPp对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0041_html.md ## GraphPp构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0041.html - Description: GraphPp构造函数和析构函数,构造函数会返回一个GraphPp对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0041_html.md ## CANN社区版-SetCompileConfig - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0042.html - Description: 设置GraphPp的json配置文件路径和文件名。配置文件用于AscendGraph的描述和编译。 返回设置好的GraphPp。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0042_html.md ## CANN社区版-Serialize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0043.html - Description: GraphPp的序列化方法。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0043_html.md ## CANN社区版-GetGraphBuilder - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0044.html - Description: 获取GraphPp中Graph的创建函数。 无 Graph的创建函数,函数原型如下。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0044_html.md ## CANN社区版-Serialize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0047.html - Description: FlowGraphPp的序列化方法。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0047_html.md ## CANN社区版-GetGraphBuilder - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0048.html - Description: 获取FlowGraphPp中Graph的创建函数。 无 Graph的创建函数,函数原型如下。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0048_html.md ## CANN社区版-TimeBatch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0049.html - Description: TimeBatch功能是基于UDF为前提的。 正常模型每次处理一个数据,当需要一次处理一批数据时,就需要将这批数据组成一个batch,最基本的batch方式是将这批N个数据直接拼接,然后shape前加N,而某些场景需要将某段或者某几段时间数据组成一个batch,并且按特定的维度拼接,则可以通过使用TimeBatch功能来组batch。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0050_html.md ## CANN社区版-TimeBatch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0050.html - Description: TimeBatch功能是基于UDF为前提的。 正常模型每次处理一个数据,当需要一次处理一批数据时,就需要将这批数据组成一个batch,最基本的batch方式是将这批N个数据直接拼接,然后shape前加N,而某些场景需要将某段或者某几段时间数据组成一个batch,并且按特定的维度拼接,则可以通过使用TimeBatch功能来组batch。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0050_html.md ## DataFlow运行接口简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0053.html - Description: 本文档主要描述模型执行接口,您可以在“$\{INSTALL\_DIR\}/include/ge”路径下查看对应接口的头文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0053_html.md ## FeedDataFlowGraph(feed所有输入) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0054.html - Description: 将数据输入到Graph图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0055_html.md ## FeedDataFlowGraph(feed所有输入) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0055.html - Description: 将数据输入到Graph图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0055_html.md ## FeedDataFlowGraph(feed所有FlowMsg) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0057.html - Description: 将数据输入到Graph图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0057_html.md ## FeedDataFlowGraph(按索引feed FlowMsg) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0058.html - Description: 将数据按索引输入到Graph图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0058_html.md ## FetchDataFlowGraph(获取所有输出数据) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0060.html - Description: 获取图输出数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0060_html.md ## FetchDataFlowGraph(获取所有输出FlowMsg) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0062.html - Description: 获取图输出数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0062_html.md ## FetchDataFlowGraph(按索引获取输出FlowMsg) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0063.html - Description: 按索引获取图输出数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0063_html.md ## DataFlowInfo数据类型构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0064.html - Description: DataFlowInfo构造函数和析构函数。 无 无 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0065_html.md ## DataFlowInfo数据类型构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0065.html - Description: DataFlowInfo构造函数和析构函数。 无 无 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0065_html.md ## CANN社区版-SetUserData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0066.html - Description: 设置用户信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0066_html.md ## CANN社区版-GetUserData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0067.html - Description: 获取用户信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0067_html.md ## CANN社区版-SetStartTime - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0068.html - Description: 设置数据的开始时间戳。 无 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0068_html.md ## CANN社区版-GetStartTime - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0069.html - Description: 获取数据的开始时间戳。 无 返回数据的开始时间戳。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0069_html.md ## CANN社区版-SetEndTime - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0070.html - Description: 设置数据的结束时间戳。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0070_html.md ## CANN社区版-SetFlowFlags - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0072.html - Description: 设置数据中的flags。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0072_html.md ## CANN社区版-GetFlowFlags - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0073.html - Description: 获取数据中的flags。 无。 返回数据中的flags。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0073_html.md ## CANN社区版-SetTransactionId - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0074.html - Description: 设置DataFlow数据传输使用的事务ID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0074_html.md ## CANN社区版-GetTransactionId - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0075.html - Description: 获取DataFlow数据传输使用的事务ID。 无。 返回DataFlow数据传输使用的transactionid。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0075_html.md ## FlowMsg数据类型构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0076.html - Description: FlowMsg构造函数和析构函数。 无。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0077_html.md ## FlowMsg数据类型构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0077.html - Description: FlowMsg构造函数和析构函数。 无。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0077_html.md ## CANN社区版-GetMsgType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0078.html - Description: 获取FlowMsg的消息类型。 无。 返回FlowMsg的消息类型。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0078_html.md ## CANN社区版-SetMsgType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0079.html - Description: 设置FlowMsg的消息类型。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0079_html.md ## CANN社区版-GetTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0080.html - Description: 获取FlowMsg中的Tensor指针。 无 返回Tensor类型指针。 无。 只有消息类型为TENSORDATATYPE时,才能获取Tensor类型指针,否则返回NULL。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0080_html.md ## CANN社区版-GetRetCode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0081.html - Description: 获取输入FlowMsg中的错误码。 无 返回FlowMsg消息中的错误码。0表示正常,非0表示异常。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0081_html.md ## CANN社区版-SetRetCode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0082.html - Description: 设置FlowMsg中的错误码。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0082_html.md ## CANN社区版-GetStartTime - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0084.html - Description: 获取FlowMsg消息中的开始时间戳。 无。 返回FlowMsg消息中的开始时间戳。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0084_html.md ## CANN社区版-SetEndTime - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0085.html - Description: 设置FlowMsg消息头中的结束时间戳。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0085_html.md ## CANN社区版-GetEndTime - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0086.html - Description: 获取FlowMsg消息中的结束时间戳。 无。 返回FlowMsg消息中的结束时间戳。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0086_html.md ## CANN社区版-SetFlowFlags - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0087.html - Description: 设置FlowMsg消息头中的flags。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0087_html.md ## CANN社区版-GetFlowFlags - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0088.html - Description: 获取FlowMsg消息头中的flags。 无。 返回FlowMsg消息中的flags。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0088_html.md ## CANN社区版-GetTransactionId - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0089.html - Description: 获取FlowMsg消息中的事务ID,事务ID从1开始计数,每feed一批数据,事务ID会加一,可用于识别哪一批数据。 无。 事务ID。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0089_html.md ## CANN社区版-SetTransactionId - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0090.html - Description: 设置FlowMsg消息中的事务ID,事务ID从1开始计数,可用于识别哪一批数据,设置为0时表示不使用自定义的transactionid,内部会采用自增的方式自动生成transactionid。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0090_html.md ## CANN社区版-SetUserData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0091.html - Description: 设置用户信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0091_html.md ## CANN社区版-GetUserData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0092.html - Description: 获取用户信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0092_html.md ## CANN社区版-GetRawData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0093.html - Description: 获取RawData类型的数据对应的数据指针和数据大小。 - 0:SUCCESS。 - other:FAILED 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0093_html.md ## CANN社区版-AllocTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0095.html - Description: 根据shape、data type和对齐大小申请Tensor。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0095_html.md ## CANN社区版-AllocTensorMsg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0096.html - Description: 根据shape、data type和对齐大小申请FlowMsg。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0096_html.md ## CANN社区版-AllocRawDataMsg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0097.html - Description: 根据输入的size申请一块连续内存,用于承载raw data类型的数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0097_html.md ## CANN社区版-AllocEmptyDataMsg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0098.html - Description: 申请空数据的MsgType类型的message。 申请的FlowMsg指针。 申请不到FlowMsg指针则返回NULL。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0098_html.md ## ToFlowMsg(tensor) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0099.html - Description: 根据输入的Tensor转换成用于承载Tensor的FlowMsg。 转换的FlowMsg指针。 转换失败则返回NULL。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0099_html.md ## ToFlowMsg(raw data) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0100.html - Description: 根据输入的raw data转换成用于承载raw data的FlowMsg。 转换的FlowMsg指针。 转换失败则返回NULL。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefc_23_0100_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0102.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0103.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0104.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0105.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0106.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefc_23_0107.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## DataFlow接口列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0001.html - Description: 使用DataFlow Python接口构造DataFlow图进行推理。支持定义图处理点,UDF处理点,描述处理点之间的数据流关系;支持导入TensorFlow, ONNX, MindSpore的IR文件作为图处理点计算逻辑定义。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0001_html.md ## dataflow.FlowData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0003.html - Description: DataFlow Graph中的数据节点,每个FlowData对应一个输入。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0003_html.md ## CANN社区版-FlowNode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0005.html - Description: DataFlow Graph中的计算节点。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0005_html.md ## CANN社区版-add\_process\_point - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0006.html - Description: 给FlowNode添加映射的pp,当前一个FlowNode仅能添加一个pp,添加后会默认将FlowNode的输入输出和pp的输入输出按顺序进行映射。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0006_html.md ## CANN社区版-map\_input - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0007.html - Description: 给FlowNode映射输入,表示将FlowNode的第nodeinputindex个输入给到ProcessPoint的第ppinputindex个输入,并且给ProcessPoint的该输入设置上attr里的所有属性,返回映射好的FlowNode节点。该函数可选,不被调用时会默认按顺序去映射FlowNode和ProcessPoint的输入。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0007_html.md ## CANN社区版-map\_output - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0008.html - Description: 给FlowNode映射输出,表示将pp的第ppoutputindex个输出给到FlowNode的第nodeoutputindex个输出,返回映射好的FlowNode节点。 可选调方法,不调用会默认按顺序去映射FlowNode和pp的输出。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0008_html.md ## CANN社区版-set\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0009.html - Description: 设置FlowNode的属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0009_html.md ## CANN社区版-\_\_call\_\_ - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0010.html - Description: 调用FlowNode进行计算。 一个输出时返回FlowOutput对象,多个输出时返回FlowOutput元组。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0010_html.md ## CANN社区版-set\_balance\_scatter - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0011.html - Description: 设置节点balance scatter属性,具有balance scatter属性的UDF可以使用balance options设置负载均衡输出。 无 返回None。 与setbalancegather接口互斥。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0011_html.md ## CANN社区版-set\_balance\_gather - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0012.html - Description: 设置节点balance gather属性,具有balance gather属性的UDF可以使用balance options设置负载均衡亲和输出。 无 返回None。 与setbalancescatter接口互斥。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0012_html.md ## CANN社区版-set\_alias - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0013.html - Description: 设置节点别名,使用option:ge.experiment.dataflowdeployinfopath指定节点部署位置时,flownodelist字段可使用别名进行指定。 返回当前FlowNode。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0013_html.md ## dataflow.FlowFlag - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0014.html - Description: 枚举值如下: - FlowFlag.DATAFLOWFLAGEOS - FlowFlag.DATAFLOWFLAGSEG - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0014_html.md ## CANN社区版-FlowGraph - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0016.html - Description: DataFlow的graph,由输入节点FlowData和计算节点FlowNode构成。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0016_html.md ## CANN社区版-set\_contains\_n\_mapping\_node - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0017.html - Description: 设置FlowGraph是否包含nmapping节点。nmapping节点指存在以下任意一种情况。 - 一次输入生成非一次(多个,0个,或不定)输出 - 多次输入生成一次输出 - 多次输入生成非一次(多个,0个, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0017_html.md ## CANN社区版-set\_inputs\_align\_attrs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0018.html - Description: 设置FlowGraph中的输入对齐属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0018_html.md ## CANN社区版-set\_exception\_catch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0019.html - Description: 设置用户异常捕获功能是否开启。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0019_html.md ## dataflow.FlowOutput - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0020.html - Description: 描述FlowNode的输出。 用户无需自己定义,调用FlowNode的call方法会返回FlowOutput或者Tuple\[FlowOutput\]。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0020_html.md ## dataflow.Framework - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0021.html - Description: 枚举值如下: - Framework.TENSORFLOW - Framework.ONNX - Framework.MINDSPORE - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0021_html.md ## CANN社区版-FuncProcessPoint - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0023.html - Description: FuncProcessPoint的构造函数,返回一个FuncProcessPoint对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0023_html.md ## CANN社区版-set\_init\_param - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0024.html - Description: 设置FuncProcessPoint的初始化参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0024_html.md ## CANN社区版-add\_invoked\_closure - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0025.html - Description: 添加FuncProcessPoint调用的GraphProcessPoint或FlowGraphProcessPoint,返回添加好的FuncProcessPoint。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0025_html.md ## CANN社区版-GraphProcessPoint - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0027.html - Description: GraphProcessPoint构造函数,返回一个GraphProcessPoint对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0027_html.md ## CANN社区版-fnode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0028.html - Description: 根据当前的GraphProcessPoint生成一个FlowNode,返回一个FlowNode对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0028_html.md ## dataflow.FlowGraphProcessPoint - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0029.html - Description: FlowGraphProcessPoint构造函数,返回一个FlowGraphProcessPoint对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0029_html.md ## CANN社区版-Tensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0031.html - Description: Tensor的构造函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0031_html.md ## CANN社区版-numpy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0032.html - Description: 将Tensor转换到numpy的ndarray。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0032_html.md ## dataflow.TensorDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0033.html - Description: Tensor的描述函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0033_html.md ## dataflow.alloc\_tensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0034.html - Description: 根据shape、data type以及对齐大小申请dataflow tensor。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0034_html.md ## dataflow.utils.generate\_deploy\_template - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0035.html - Description: 根据FlowGraph生成指定部署位置的option:"ge.experiment.dataflowdeployinfopath"所需要的文件的模板,具体格式请参见指定DataFlow节点部署位置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0035_html.md ## CANN社区版-register - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0037.html - Description: 注册自定义类型对应的序列化、反序列化、计算size的函数,可结合feed,fetch接口使用,用于feed/fetch任意Python类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0037_html.md ## CANN社区版-registered - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0038.html - Description: 判断消息类型ID是否被注册过 bool,True表示注册过, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0038_html.md ## CANN社区版-get\_msg\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0039.html - Description: 根据类型定义获取注册的消息类型ID。 注册的消息类型ID,没有注册过返回None。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0039_html.md ## CANN社区版-get\_serialize\_func - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0040.html - Description: 根据消息类型ID获取注册的序列化函数。 注册的序列化函数,没有注册过返回None。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0040_html.md ## CANN社区版-get\_deserialize\_func - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0041.html - Description: 根据消息类型ID获取注册的反序列化函数。 注册的反序列化函数,没有注册过返回None。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0041_html.md ## CANN社区版-get\_size\_func - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0042.html - Description: 根据消息类型ID获取注册的计算序列化内存大小的函数。 注册的计算序列化内存大小函数,没有注册过返回None。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0042_html.md ## CANN社区版-deserialize\_from\_file - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0043.html - Description: 从序列化的pickle文件进行反序列化恢复Python对象。 反序列化恢复的Python对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0043_html.md ## CANN社区版-pyflow - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0044.html - Description: 支持将函数作为pipeline任务在本地或者远端运行。为此,需使用@pyflow装饰函数,以表达需要使用pipeline方式运行此函数。当用户的类或者函数被@pyflow装饰后,会自动添加fnode的构图方法,使用方式参考调用示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0044_html.md ## CANN社区版-method - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0045.html - Description: 对于复杂场景支持将类作为pipeline任务在本地或者远端运行。为此,需使用@pyflow装饰类,同时使用@method装饰类中的函数,以表达需要使用pipeline方式运行此函数,支持一个类中存在多个被@method修饰的函数,以表达可同时接受输入进行执行,同时被@method修饰的函数均需要参与进行构造FlowGraph图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0045_html.md ## CANN社区版-npu\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0046.html - Description: 如果UDF部署在host侧,执行时数据需要从device拷贝到本地进行运算。对于PyTorch场景,如果计算全在device侧,输入输出也是在device侧,执行时数据需要从device拷贝到host,执行后PyTorch再将数据搬到device侧,影响执行性能,使用npumodel可以优化为不搬移数据(即直接下沉到device执行)的方式触发执行。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0046_html.md ## dataflow.CountBatch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0047.html - Description: CountBatch功能是指基于UDF为计算处理点将多个数据按batchsize组成batch。该功能应用于dataflow异步场景,具体如下。 - 长时间没有数据输入时,可以通过CountBatch功能设置超时时间,如果没有设置padding,超时后取当前已有数据送计算处理点处理。 - 设置超时时间后,如果数据不满batchsize时, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0047_html.md ## dataflow.TimeBatch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0048.html - Description: TimeBatch功能是基于UDF为前提的。 正常模型每次处理一个数据,当需要一次处理一批数据时,就需要将这批数据组成一个batch。最基本的batch方式是将这批N个数据直接拼接,然后shape前加N,而某些场景需要将某段或者某几段时间数据组成一个batch,并且按特定的维度拼接,则可以通过使用TimeBatch功能来组batch。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0048_html.md ## dataflow.init - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0050.html - Description: 初始化dataflow时的options。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0050_html.md ## CANN社区版-FlowInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0052.html - Description: DataFlow的flow信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0052_html.md ## CANN社区版-set\_user\_data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0053.html - Description: 设置用户信息。 正常场景下返回None。 异常情况抛出异常, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0053_html.md ## CANN社区版-get\_user\_data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0054.html - Description: 获取用户信息。 正常场景下返回bytearray。 异常情况抛出异常, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0054_html.md ## CANN社区版-user\_data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0055.html - Description: 获取用户信息。 无 以属性方式返回userdata对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0055_html.md ## CANN社区版-data\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0056.html - Description: 获取userdata的长度。 无 返回userdata的长度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0056_html.md ## CANN社区版-start\_time - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0057.html - Description: 以属性方式读取和设置FlowInfo的开始时间。 starttime属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0057_html.md ## CANN社区版-end\_time - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0058.html - Description: 以属性方法读取和设置FlowInfo的结束时间。 endtime属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0058_html.md ## CANN社区版-flow\_flags - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0059.html - Description: 以属性方法读取和设置FlowInfo的flowflags。 flowflags属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0059_html.md ## CANN社区版-transaction\_id - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0060.html - Description: 以属性方式读写事务ID。 transactionid的属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0060_html.md ## CANN社区版-feed\_data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0062.html - Description: 将数据输入到Graph。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0062_html.md ## CANN社区版-feed - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0063.html - Description: 将数据输入到Graph,支持可序列化的任意的输入。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0063_html.md ## CANN社区版-fetch\_data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0064.html - Description: 获取Graph输出数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0064_html.md ## CANN社区版-fetch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0065.html - Description: 获取Graph输出数据。支持可序列化的任意的输出。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0065_html.md ## dataflow.finalize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0066.html - Description: 释放dataflow初始化的资源。 无 无 无 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0066_html.md ## dataflow.get\_running\_device\_id - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0067.html - Description: UDF执行时获取当前UDF的运行deviceid,该信息来源于dataflowdeployinfo.json中的logicdevicelist配置。 无 返回当前UDF的运行deviceid,数据类型为int。 需配合pyflow装饰器进行使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0067_html.md ## dataflow.get\_running\_instance\_id - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0068.html - Description: UDF执行时获取当前UDF的运行实例ID,该信息来源于dataflowdeployinfo.json中的logicdevicelist配置。 无 返回当前UDF的运行实例ID,数据类型为int。 需配合pyflow装饰器进行使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0068_html.md ## dataflow.get\_running\_instance\_num - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0069.html - Description: UDF执行时获取当前UDF的运行实例个数,该信息来源于dataflowdeployinfo.json中的logicdevicelist配置。 无 返回当前UDF的运行实例个数,数据类型为int。 需配合pyflow装饰器进行使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0069_html.md ## DataFlow错误码 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/dfrefp_23_0070.html - Description: DataFlow错误码含义如下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dfrefp_23_0070_html.md ## UDF头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00001.html - Description: 本文档主要描述UDF(User Defined Function)模块对外提供的接口,用户可以调用这些接口进行自定义处理函数的开发,然后通过DataFlow构图在CPU上执行该处理函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00001_html.md ## AttrValue构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00004.html - Description: AttrValue构造函数和析构函数。 无 返回AttrValue类型的对象。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00004_html.md ## CANN社区版-GetVal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00005.html - Description: 获取string类型的属性值。 - 0:SUCCESS。 - 其他返回值请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00005_html.md ## CANN社区版-GetVal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00006.html - Description: 获取list string类型的属性值。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00006_html.md ## CANN社区版-GetVal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00007.html - Description: 获取int类型的属性值。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00007_html.md ## CANN社区版-GetVal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00008.html - Description: 获取list int类型的属性值。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00008_html.md ## CANN社区版-GetVal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00009.html - Description: 获取list list int类型的属性值。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00009_html.md ## CANN社区版-GetVal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00010.html - Description: 获取float类型的属性值。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00010_html.md ## CANN社区版-GetVal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00011.html - Description: 获取list float类型的属性值。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00011_html.md ## CANN社区版-GetVal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00012.html - Description: 获取bool类型的属性值。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00012_html.md ## CANN社区版-GetVal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00013.html - Description: 获取list bool类型的属性值。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00013_html.md ## CANN社区版-GetVal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00014.html - Description: 获取TensorDataType类型的属性值。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00014_html.md ## CANN社区版-GetVal - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00015.html - Description: 获取list TensorDataType类型的属性值。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00015_html.md ## CANN社区版-GetString - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00018.html - Description: 获取字符串地址。 无 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00018_html.md ## 关系符重载 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00019.html - Description: 对于AscendString对象大小比较的使用场景(例如map数据结构的key进行排序),通过重载以下关系符实现。 无。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00019_html.md ## CANN社区版-GetLength - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00020.html - Description: 获取字符串的长度。 无 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00020_html.md ## MetaContext构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00021.html - Description: MetaContext构造函数和析构函数。 无 返回MetaContext类型的对象。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00022_html.md ## CANN社区版-AllocEmptyDataMsg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00024.html - Description: 申请空数据的MsgType类型的message。该函数供Proc调用。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00024_html.md ## CANN社区版-SetOutput - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00025.html - Description: 设置指定index的output的tensor。该函数供Proc调用。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00025_html.md ## CANN社区版-GetAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00026.html - Description: 根据属性名获取AttrValue类型的指针。该函数供Init调用。 获取到的AttrValue类型的指针。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00026_html.md ## CANN社区版-GetAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00027.html - Description: 根据属性名获取对应的属性值。该函数供Init调用。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00027_html.md ## CANN社区版-RunFlowModel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00028.html - Description: 同步执行指定的模型。该函数供Proc调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00028_html.md ## CANN社区版-GetInputNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00029.html - Description: 获取Flowfunc的输入个数。该函数供Init调用。 无 返回Flowfunc的输入个数。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00029_html.md ## CANN社区版-GetOutputNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00030.html - Description: 获取Flowfunc的输出个数。该函数供Init调用。 无 返回Flowfunc的输出个数。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00030_html.md ## CANN社区版-GetWorkPath - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00031.html - Description: 获取Flowfunc的工作路径。该函数供Init调用。 无 返回Flowfunc的工作路径。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00031_html.md ## CANN社区版-GetRunningDeviceId - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00032.html - Description: 获取正在运行的设备ID。该函数供Init调用。 无 返回运行的设备ID。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00032_html.md ## CANN社区版-GetUserData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00033.html - Description: 获取用户数据。该函数供Proc调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00033_html.md ## CANN社区版-AllocTensorMsgWithAlign - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00034.html - Description: 根据shape、data type和对齐大小申请Tensor类型的FlowMsg,与AllocTensorMsg函数区别是AllocTensorMsg默认申请以64字节对齐,此函数可以指定对齐大小,方便性能调优。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00034_html.md ## CANN社区版-RaiseException - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00035.html - Description: UDF主动上报异常,该异常可以被同作用域内的其他UDF捕获。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00035_html.md ## CANN社区版-GetException - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00036.html - Description: UDF获取异常,如果开启了异常捕获功能,需要在UDF中Proc函数开始位置尝试捕获异常。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00036_html.md ## FlowMsg构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00037.html - Description: FlowMsg构造函数和析构函数。 无 返回FlowMsg类型的对象。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00038_html.md ## FlowMsg构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00038.html - Description: FlowMsg构造函数和析构函数。 无 返回FlowMsg类型的对象。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00038_html.md ## CANN社区版-SetRetCode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00041.html - Description: 设置FlowMsg消息中的错误码。 无 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00041_html.md ## CANN社区版-GetRetCode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00042.html - Description: 获取输入FlowMsg消息中的错误码。 无 返回FlowMsg消息中的错误码。0表示正常,非0表示异常。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00042_html.md ## CANN社区版-SetStartTime - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00043.html - Description: 设置FlowMsg消息头中的开始时间戳。 无 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00043_html.md ## CANN社区版-GetStartTime - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00044.html - Description: 获取FlowMsg消息中的开始时间戳。 无 返回FlowMsg消息中的开始时间戳。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00044_html.md ## CANN社区版-SetEndTime - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00045.html - Description: 设置FlowMsg消息头中的结束时间戳。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00045_html.md ## CANN社区版-GetEndTime - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00046.html - Description: 获取FlowMsg消息中的结束时间戳。 无 返回FlowMsg消息中的结束时间戳。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00046_html.md ## CANN社区版-SetFlowFlags - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00047.html - Description: 设置FlowMsg消息头中的flags。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00047_html.md ## CANN社区版-GetFlowFlags - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00048.html - Description: 获取FlowMsg消息头中的flags。 无。 返回FlowMsg消息中的flags。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00048_html.md ## CANN社区版-SetRouteLabel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00049.html - Description: 设置route的标签。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00049_html.md ## CANN社区版-GetTransactionId - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00050.html - Description: 获取FlowMsg消息中的事务ID,事务ID从1开始计数,每feed一批数据,事务ID会加一,可用于识别哪一批数据。 无 事务ID。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00050_html.md ## CANN社区版-GetTensorList - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00051.html - Description: 返回FlowMsg中所有的Tensor指针列表。 无 所有的Tensor指针列表。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00051_html.md ## CANN社区版-GetRawData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00052.html - Description: 获取RawData类型的数据对应的数据指针和数据大小。 - 0:SUCCESS。 - other:FAILED,具体请参考错误码。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00052_html.md ## CANN社区版-SetMsgType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00053.html - Description: 设置FlowMsg的消息类型。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00053_html.md ## CANN社区版-SetTransactionId - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00054.html - Description: 设置FlowMsg消息中的事务ID,事务ID从1开始计数,可用于识别哪一批数据,设置为0时表示不使用自定义的transactionid,内部会采用自增的方式自动生成transactionid。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00054_html.md ## Tensor构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00055.html - Description: Tensor构造函数和析构函数。 无 返回Tensor类型的对象。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00056_html.md ## Tensor构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00056.html - Description: Tensor构造函数和析构函数。 无 返回Tensor类型的对象。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00056_html.md ## CANN社区版-GetShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00057.html - Description: 获取Tensor的Shape。 无。 返回Tensor的Shape。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00057_html.md ## CANN社区版-GetDataSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00060.html - Description: 获取Tensor中的数据大小。 无。 返回Tensor的数据大小。 无。 修改返回的TensorDesc信息,不影响Tensor对象中已有的TensorDesc信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00060_html.md ## CANN社区版-GetElementCnt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00061.html - Description: 获取Tensor中的元素的个数。 无。 返回Tensor中的元素的个数。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00061_html.md ## CANN社区版-GetDataBufferSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00062.html - Description: 获取Tensor中的对齐后的数据大小。 无。 Tensor中对齐后的data大小。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00062_html.md ## CANN社区版-Reshape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00063.html - Description: 对Tensor进行Reshape操作,不改变Tensor的内容。 - 0:SUCCESS。 - other:FAILED,具体请参考错误码。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00063_html.md ## MetaFlowFunc构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00064.html - Description: 用户继承该类进行自定义的单func处理函数的编写。在析构函数中,执行释放相关资源操作。 无。 返回MetaFlowFunc类型的对象。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00065_html.md ## MetaFlowFunc构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00065.html - Description: 用户继承该类进行自定义的单func处理函数的编写。在析构函数中,执行释放相关资源操作。 无。 返回MetaFlowFunc类型的对象。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00065_html.md ## CANN社区版-SetContext - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00066.html - Description: 设置flow func的上下文信息。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00066_html.md ## CANN社区版-Init - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00067.html - Description: 用户自定义flow func的初始化函数。 无 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00067_html.md ## CANN社区版-ResetFlowFuncState - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00070.html - Description: 在故障恢复场景下,快速重置FlowFunc为初始化状态。 无 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 此接口为虚函数,当用户的FlowFunc未实现ResetFlowFuncState函数时,框架默认返回FLOWFUNCERRNOTSUPPORT(认为当前FlowFunc不支持此操作), - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00070_html.md ## CANN社区版-其他 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00071.html - Description: REGISTER\_FLOW\_FUNC\_INNER\(name, ctr, clazz\)和REGISTER\_FLOW\_FUNC\_IMPL\(name, ctr, clazz\)是MetaFlowFunc注册函数宏的实现,不建议用户直接调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00071_html.md ## MetaMultiFunc构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00072.html - Description: 用户继承该类进行自定义的多func处理函数的编写。在析构函数中,执行释放相关资源操作。 无。 返回MetaMultiFunc类型的对象。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00073_html.md ## MetaMultiFunc构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00073.html - Description: 用户继承该类进行自定义的多func处理函数的编写。在析构函数中,执行释放相关资源操作。 无。 返回MetaMultiFunc类型的对象。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00073_html.md ## CANN社区版-Init - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00074.html - Description: 用户自定义flow func的初始化函数。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00074_html.md ## 多func处理函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00075.html - Description: 用户自定义的多flow func处理函数。 - 普通场景下,函数输入由框架准备完毕后直接给用户使用,用户直接使用入参中的flowMsg即可。 1 std::function \(const std::sharedptr &runContext, const std::vector> &flowMsg\) - 流式输入(即函数入参为队列)场景下, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00075_html.md ## CANN社区版-RegisterMultiFunc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00076.html - Description: 注册多flow func。 不建议直接使用该函数,建议使用MetaMultiFunc注册函数宏来注册flow func。 - 注册普通flow func,即flow func输入为flowMsg时使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00076_html.md ## CANN社区版-RegProcFunc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00079.html - Description: 注册多flow func处理函数,结合MetaMultiFunc注册函数宏来注册flow func。 - 注册普通flow func,即flow func输入为flowMsg时使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00079_html.md ## CANN社区版-CreateMultiFunc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00080.html - Description: 创建多func处理对象和处理函数,框架内部使用,用户不直接使用。 创建普通flow func处理对象和处理函数时使用,即flow func输入为flowMsg时使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00080_html.md ## CANN社区版-CreateMultiFuncWithQ - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00081.html - Description: 创建输入类型为FlowMsgQueue的多func处理对象和处理函数,框架内部使用,用户不直接使用。 创建流式输入(即函数入参为队列)flow func处理对象和处理函数时使用,即flow func输入为flowMsgQueue时使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00081_html.md ## MetaParams构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00082.html - Description: MetaParams构造函数和析构函数。 无。 返回MetaParams类型的对象。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00083_html.md ## MetaParams构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00083.html - Description: MetaParams构造函数和析构函数。 无。 返回MetaParams类型的对象。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00083_html.md ## CANN社区版-GetAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00086.html - Description: 根据属性名获取对应的属性值。该函数供Init调用。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00086_html.md ## CANN社区版-GetInputNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00087.html - Description: 获取Flowfunc的输入个数。该函数供Init调用。 无 返回Flowfunc的输入个数。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00087_html.md ## CANN社区版-GetOutputNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00088.html - Description: 获取Flowfunc的输出个数。该函数供Init调用。 无 返回Flowfunc的输出个数。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00088_html.md ## CANN社区版-GetRunningInstanceId - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00091.html - Description: 获取正在运行的实例ID。 无 返回运行的实例ID。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00091_html.md ## CANN社区版-GetRunningInstanceNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00092.html - Description: 获取正在运行的实例数量。 无 返回运行的实例个数。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00092_html.md ## MetaRunContext构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00093.html - Description: MetaRunContext构造函数和析构函数。 无。 返回MetaRunContext类型的对象。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00094_html.md ## MetaRunContext构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00094.html - Description: MetaRunContext构造函数和析构函数。 无。 返回MetaRunContext类型的对象。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00094_html.md ## CANN社区版-AllocTensorMsg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00095.html - Description: 根据shape和data type申请Tensor类型的msg。该函数供Proc调用。 申请的Tensor指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00095_html.md ## CANN社区版-SetOutput - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00096.html - Description: 设置指定index的output的tensor。该函数供Proc调用。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00096_html.md ## CANN社区版-RunFlowModel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00097.html - Description: 同步执行指定的模型。该函数供Proc调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00097_html.md ## CANN社区版-AllocEmptyDataMsg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00098.html - Description: 申请空数据的MsgType类型的message。 - 0:SUCCESS。 - other:FAILED,具体请参考 UDF错误码 。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00098_html.md ## CANN社区版-GetUserData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00099.html - Description: 获取用户数据。该函数供Proc调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00099_html.md ## CANN社区版-SetOutput - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00100.html - Description: 设置指定index和options的输出,该函数供func函数调用。 - 0:SUCCESS。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00100_html.md ## CANN社区版-AllocTensorListMsg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00103.html - Description: 根据输入的dtype shapes数组分配一块连续内存,用于承载Tensor数组。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00103_html.md ## CANN社区版-RaiseException - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00104.html - Description: UDF主动上报异常,该异常可以被同作用域内的其他UDF捕获。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00104_html.md ## CANN社区版-GetException - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00105.html - Description: UDF获取异常,如果开启了异常捕获功能,需要在UDF中Proc函数开始位置尝试捕获异常。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00105_html.md ## CANN社区版-AllocRawDataMsg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00106.html - Description: 根据输入的size申请一块连续内存,用于承载RawData类型的数据。 申请的FlowMsg指针。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00106_html.md ## CANN社区版-ToFlowMsg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00107.html - Description: 根据输入的Tensor转换成用于承载Tensor的FlowMsg。 转换的FlowMsg指针。 转换失败则返回NULL。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00107_html.md ## OutOptions构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00108.html - Description: OutOptions的构造和析构函数。 无。 无 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00109_html.md ## OutOptions构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00109.html - Description: OutOptions的构造和析构函数。 无。 无 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00109_html.md ## CANN社区版-MutableBalanceConfig - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00110.html - Description: 获取或创建BalanceConfig。 无 返回BalanceConfig。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00110_html.md ## CANN社区版-GetBalanceConfig - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00111.html - Description: 获取BalanceConfig。 无 返回null表示没有BalanceConfig配置。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00111_html.md ## BalanceConfig构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00112.html - Description: BalanceConfig的构造和析构函数。 无。 无 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00113_html.md ## BalanceConfig构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00113.html - Description: BalanceConfig的构造和析构函数。 无。 无 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00113_html.md ## CANN社区版-SetAffinityPolicy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00114.html - Description: 设置均衡分发亲和性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00114_html.md ## CANN社区版-GetAffinityPolicy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00115.html - Description: 获取亲和性。 无 返回任务名称。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00115_html.md ## CANN社区版-SetBalanceWeight - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00116.html - Description: 设置均衡分发权重信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00116_html.md ## CANN社区版-GetLogExtHeader - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00134.html - Description: 获取日志扩展头信息。 无。 日志扩展头。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00134_html.md ## CANN社区版-IsLogEnable - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00135.html - Description: 查询对应级别和类型的日志是否开启。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00135_html.md ## CANN社区版-Error - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00136.html - Description: 记录ERROR级别日志。 无。 日志流控后日志不会记录。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00136_html.md ## CANN社区版-Debug - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00139.html - Description: 记录Debug级别日志。 无。 日志流控后日志不会记录。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00139_html.md ## 运行日志Error级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00140.html - Description: 运行日志Error级别日志宏。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00140_html.md ## 运行日志Info级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00141.html - Description: 运行日志Info级别日志宏。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00141_html.md ## 调试日志Error级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00142.html - Description: 调试日志Error级别日志宏。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00142_html.md ## 调试日志Warn级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00143.html - Description: 调试日志Warn级别日志宏。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00143_html.md ## 调试日志Info级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00144.html - Description: 调试日志Info级别日志宏。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00144_html.md ## 调试日志Debug级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00145.html - Description: 调试日志Debug级别日志宏。 无。 无。 无。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefc_23_00145_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00147.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00150.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00151.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00152.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00153.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00155.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00156.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00158.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00159.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00160.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00161.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00162.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00163.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00164.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00165.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00166.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00167.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00168.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00169.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00170.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00171.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00172.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## CANN社区版-DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefc_23_00173.html - Description: DataFlow以数据驱动方式将一个或多个计算处理点组织成完整的计算流,通过DataFlow接口可以构建、修改、编译和执行计算图。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_dataflow_dev_001_html.md ## UDF接口列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0001.html - Description: 本文档主要描述UDF(User Defined Function)模块对外提供的接口,用户可以调用这些接口进行自定义处理函数的开发,然后通过DataFlow构图在CPU上执行该处理函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0001_html.md ## FlowMsg构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0004.html - Description: flowfuncwrapper模块中定义的FlowMsg。实际执行时由C++代码传入,通过pybind11的绑定关系映射成flowfuncwrapper的FlowMsg对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0004_html.md ## CANN社区版-get\_msg\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0005.html - Description: 获取FlowMsg的消息类型。 无 返回FlowMsg的消息类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0005_html.md ## CANN社区版-get\_tensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0006.html - Description: 获取FlowMsg中的tensor对象。 无 返回dataflow.Tensor类型对象。 无 如果FlowMsg中是空,则tensor返回None。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0006_html.md ## CANN社区版-set\_ret\_code - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0007.html - Description: 设置FlowMsg消息中的错误码。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0007_html.md ## CANN社区版-get\_ret\_code - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0008.html - Description: 获取输入FlowMsg消息中的错误码。 无 返回FlowMsg消息中的错误码。0表示正常,非0表示异常。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0008_html.md ## CANN社区版-set\_start\_time - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0009.html - Description: 设置FlowMsg消息头中的开始时间戳。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0009_html.md ## CANN社区版-get\_start\_time - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0010.html - Description: 获取FlowMsg消息中的开始时间戳。 无 返回FlowMsg消息中的开始时间戳。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0010_html.md ## CANN社区版-set\_end\_time - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0011.html - Description: 设置FlowMsg消息头中的结束时间戳。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0011_html.md ## CANN社区版-get\_end\_time - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0012.html - Description: 获取FlowMsg消息中的结束时间戳。 无 返回FlowMsg消息中的结束时间戳。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0012_html.md ## CANN社区版-set\_flow\_flags - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0013.html - Description: 设置FlowMsg消息头中的flags。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0013_html.md ## CANN社区版-get\_flow\_flags - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0014.html - Description: 获取FlowMsg消息头中的flags。 无 返回FlowMsg消息中的flags。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0014_html.md ## CANN社区版-set\_route\_label - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0015.html - Description: 设置路由的标签。 举例:udf1,udf2节点分别部署在device1和device2,且都有2个输出(out0和out1)。如用户希望每组out0和out1发送到同一个device上,需要给2个输出flowmsg设置相同的routelabel。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0015_html.md ## CANN社区版-get\_transaction\_id - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0016.html - Description: 获取FlowMsg消息中的事务ID,事务ID从1开始计数,每feed一批数据,事务ID会加一,可用于识别哪一批数据。 无 事务ID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0016_html.md ## CANN社区版-set\_msg\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0017.html - Description: 设置FlowMsg的消息类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0017_html.md ## CANN社区版-get\_raw\_data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0018.html - Description: 获取rawdata类型的数据。 无 正常输出bytes类型的数据,即字节流;失败场景返回None。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0018_html.md ## CANN社区版-set\_transaction\_id - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0019.html - Description: 设置DataFlow数据传输使用的事务ID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0019_html.md ## Tensor构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0022.html - Description: Tensor构造函数。 无 返回dataflow模块Tensor类型的对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0022_html.md ## CANN社区版-get\_shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0023.html - Description: 获取Tensor的Shape。 无 返回Tensor的Shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0023_html.md ## CANN社区版-get\_data\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0024.html - Description: 获取Tensor中的数据类型。 无 返回Tensor的数据类型。返回的类型为numpy的dtype。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0024_html.md ## CANN社区版-get\_data\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0025.html - Description: 获取Tensor中的数据大小。 无 返回Tensor的数据大小。 无 修改返回的TensorDesc信息,不影响Tensor对象中已有的TensorDesc信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0025_html.md ## CANN社区版-get\_element\_cnt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0026.html - Description: 获取Tensor中的元素的个数。 无 返回Tensor中的元素的个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0026_html.md ## CANN社区版-reshape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0027.html - Description: 对tensor进行Reshape操作,不改变tensor的内容。 - 0:SUCCESS - other:FAILED,具体请参考 UDF错误码 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0027_html.md ## PyMetaParams构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0030.html - Description: PyMetaParams构造函数。 无 返回PyMetaParams类型的对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0030_html.md ## CANN社区版-get\_name - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0031.html - Description: 获取Flowfunc的实例名。 无 返回Flowfunc的实例名。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0031_html.md ## CANN社区版-get\_attr\_int - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0032.html - Description: 获取指定名称的int类型属性值。 获取返回码及int类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS,第二个元素为int类型的属性值。 - 如果属性不存在, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0032_html.md ## CANN社区版-get\_attr\_bool\_list - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0033.html - Description: 获取指定名称的bool数组类型属性值。 获取返回码及bool数组类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS,第二个元素为bool数组的list。 - 如果属性不存在, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0033_html.md ## CANN社区版-get\_attr\_int\_list - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0034.html - Description: 获取指定名称的int数组类型属性值。 获取返回码及int数组类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS,第二个元素为int类型数组的属性值。 - 如果属性不存在, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0034_html.md ## CANN社区版-get\_attr\_int\_list\_list - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0035.html - Description: 获取指定名称的int二维数组类型属性值。 获取返回码及int二维数组类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS,第二个元素为int二维数组类型的属性值。 - 如果属性不存在, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0035_html.md ## CANN社区版-get\_attr\_bool - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0036.html - Description: 获取指定名称的bool类型属性值。 获取返回码及bool类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS,第二个元素为bool类型的属性值。 - 如果属性不存在, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0036_html.md ## CANN社区版-get\_attr\_float\_list - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0037.html - Description: 获取指定名称的float数组类型属性值。 获取返回码及float数组类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS,第二个元素为float数组类型的属性值。 - 如果属性不存在, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0037_html.md ## CANN社区版-get\_attr\_tensor\_dtype - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0038.html - Description: 获取指定名称的numpy dtype类型的属性值。 获取返回码及numpy dtype类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS,第二个元素为numpy dtype类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0038_html.md ## CANN社区版-get\_attr\_tensor\_dtype\_list - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0039.html - Description: 获取指定名称的numpy dtype数组类型的属性值。 获取返回码及numpy dtype数组类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0039_html.md ## CANN社区版-get\_attr\_str - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0040.html - Description: 获取指定名称的string类型的属性值。 获取返回码及string类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS,第二个元素为string类型的属性值。 - 如果属性不存在, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0040_html.md ## CANN社区版-get\_attr\_str\_list - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0041.html - Description: 获取指定名称的string数组类型的属性值。 获取返回码及string数组类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS,第二个元素为string数组类型的属性值。 - 如果属性不存在, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0041_html.md ## CANN社区版-get\_attr\_float - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0042.html - Description: 获取指定名称的float类型属性值。 获取返回码及float类型的属性值。 - 如果该属性存在,返回的Tuple中第一个元素为FLOWFUNCSUCCESS,第二个元素为float类型的属性值。 - 如果属性不存在, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0042_html.md ## CANN社区版-get\_input\_num - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0043.html - Description: 获取Flowfunc的输入个数。 无 返回Flowfunc的输入个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0043_html.md ## CANN社区版-get\_output\_num - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0044.html - Description: 获取Flowfunc的输出个数。 无 返回Flowfunc的输出个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0044_html.md ## CANN社区版-get\_work\_path - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0045.html - Description: 获取Flowfunc的工作路径。 无 返回Flowfunc的工作路径。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0045_html.md ## CANN社区版-get\_running\_device\_id - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0046.html - Description: 获取正在运行的设备ID。 无 返回运行的设备ID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0046_html.md ## MetaRunContext构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0049.html - Description: MetaRunContext构造函数。 无 返回MetaRunContext类型的对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0049_html.md ## CANN社区版-alloc\_tensor\_msg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0050.html - Description: 根据shape、data type以及对齐大小申请Tensor类型的FlowMsg。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0050_html.md ## CANN社区版-set\_output - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0051.html - Description: 设置指定index的output的tensor。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0051_html.md ## CANN社区版-set\_multi\_outputs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0052.html - Description: 批量设置指定index的output的tensor。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0052_html.md ## CANN社区版-run\_flow\_model - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0053.html - Description: 同步执行指定的模型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0053_html.md ## CANN社区版-alloc\_empty\_data\_msg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0054.html - Description: 申请空数据的MsgType类型的message。 无 返回FlowMsg的实例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0054_html.md ## CANN社区版-get\_user\_data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0055.html - Description: 获取用户定义数据。 返回用户自定义的数据,类型是bytearray。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0055_html.md ## CANN社区版-raise\_exception - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0056.html - Description: UDF主动上报异常。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0056_html.md ## CANN社区版-get\_exception - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0057.html - Description: UDF获取其他UDF节点上报的异常。 无 返回tuple\(bool, int, int\),元组中各元素含义如下。 - 元组中第一个元素标识是否存在异常:True表示存在异常被捕获成功,False表示不存在异常。 - 元组中第二个元素标识被捕获异常中用户自定义的异常的错误码。 - 元组中第三个元素标识被捕获异常中用户自定义的异常的上下文ID, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0057_html.md ## CANN社区版-alloc\_raw\_data\_msg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0058.html - Description: 根据输入的size申请一块连续内存,用于承载raw data类型的FlowMsg。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0058_html.md ## CANN社区版-to\_flow\_msg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0059.html - Description: 将dataflow Tensor转换成FlowMsg。 正常返回FlowMsg的实例。失败返回None。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0059_html.md ## AffinityPolicy类 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0060.html - Description: 亲和策略枚举定义。 说明:按行和按列亲和的策略只用于设置BalanceConfig均衡分发。按行亲和使用示例可参考多实例部署。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0060_html.md ## BalanceConfig构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0063.html - Description: BalanceConfig构造函数。 返回BalanceConfig类型的对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0063_html.md ## CANN社区版-set\_data\_pos - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0064.html - Description: 设置输出数据对应权重矩阵中的位置。 无 无 pos的位置坐标必须在权重矩阵的行列内。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0064_html.md ## CANN社区版-get\_inner\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0065.html - Description: 获取内部配置对象,被setoutput或者setmultioutputs调用。 无 内部配置对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0065_html.md ## FlowMsgQueue构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0068.html - Description: FlowMsgQueue构造函数和析构函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0068_html.md ## CANN社区版-get - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0069.html - Description: 获取队列中的元素。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0069_html.md ## CANN社区版-get\_nowait - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0070.html - Description: 无等待地获取队列中的元素,功能等同于get\(block\=False\)。 无 MsgType中所对应类型的数据对象。 队列为空时会抛出queue.Empty异常。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0070_html.md ## CANN社区版-full - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0071.html - Description: 判断队列是否满。 无 - True:队列满。 - False:队列非满。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0071_html.md ## CANN社区版-empty - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0072.html - Description: 判断队列是否为空。 无 True,表示队列空; False,表示队列非空。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0072_html.md ## CANN社区版-qsize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0073.html - Description: 获取队列中当前元素的个数。 无 队列中元素的个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0073_html.md ## UDF日志接口简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0075.html - Description: UDF Python开放了日志记录接口,使用时导入flow\_func模块。使用其中定义的logger对象,调用logger对象封装的不同级别的日志接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0075_html.md ## FlowFuncLogger构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0076.html - Description: FlowFuncLogger构造函数。 无 无 无 无 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0076_html.md ## CANN社区版-get\_log\_header - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0077.html - Description: 获取日志扩展头信息。 无 日志扩展头。 无 无 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0077_html.md ## CANN社区版-is\_log\_enable - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0078.html - Description: 查询对应级别和类型的日志是否开启。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0078_html.md ## 运行日志Error级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0079.html - Description: 运行日志Error级别日志宏。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0079_html.md ## 运行日志Info级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0080.html - Description: 运行日志Info级别日志宏。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0080_html.md ## 调试日志Error级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0081.html - Description: 调试日志Error级别日志宏。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0081_html.md ## 调试日志Warn级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0082.html - Description: 调试日志Warn级别日志宏。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0082_html.md ## 调试日志Info级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0083.html - Description: 调试日志Info级别日志宏。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0083_html.md ## 调试日志Debug级别日志宏 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0084.html - Description: 调试日志Debug级别日志宏。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0084_html.md ## UDF错误码 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/dataflowdevg/udfrefp_23_0085.html - Description: flow\_func\_defines.h提供了flowfunc的错误码供用户使用,主要用于对异常逻辑的判断处理。每个错误码含义如下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_dataflowdevg_udfrefp_23_0085_html.md ## 特征向量检索说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch - Description: 在图像检索场景,通常使用深度学习算法处理感兴趣的图像时,提取出高维特征向量;并将一组感兴趣的图像提取得到的特征向量作为底库,待搜索的特征向量与底库中的向量依次进行相似度计算,按相似度排序返回检索结果。为了进一步降低存储和计算的开销,对浮点型长特征向量进行量化处理、转换为短特征再进行检索比对的技术被广泛应用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1334_html.md ## 特征向量检索说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1334.html - Description: 在图像检索场景,通常使用深度学习算法处理感兴趣的图像时,提取出高维特征向量;并将一组感兴趣的图像提取得到的特征向量作为底库,待搜索的特征向量与底库中的向量依次进行相似度计算,按相似度排序返回检索结果。为了进一步降低存储和计算的开销,对浮点型长特征向量进行量化处理、转换为短特征再进行检索比对的技术被广泛应用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1334_html.md ## CANN社区版-aclfvInit - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1335.html - Description: 初始化特征检索模块。一个进程内只能调用一次aclfvInit接口,且需与aclfvRelease接口配套使用。 特征向量检索功能依赖的头文件为“$\{INSTALLDIR\}/include/acl/ops/aclfv.h”目录下,库文件为“$\{INSTALLDIR\}/lib64/libaclretr.so”目录下。$\{INSTALLDIR\}请替换为CANN软件安装后文件存储路径。以root用户安装为 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1335_html.md ## CANN社区版-aclfvRelease - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1336.html - Description: 特征检索模块去初始化,释放内存空间,与aclfvInit接口配套使用。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1336_html.md ## CANN社区版-aclfvRepoAdd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1337.html - Description: 添加底库或向已存在底库中添加特征。该章节描述的1:N表示“检索请求的个数:底库的数量”,N:M用于碰撞两个库的相似性。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1337_html.md ## CANN社区版-aclfvRepoDel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1338.html - Description: 删除底库。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1338_html.md ## CANN社区版-aclfvDel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1339.html - Description: 精确删除底库中某个特征,一次只能删除底库中一个特征。N:M场景下不涉及这个接口。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1339_html.md ## CANN社区版-aclfvModify - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1340.html - Description: 修改底库中某个特征,一次只能修改底库中一个特征,不允许修改底库中不存在的特征。N:M场景下不涉及这个接口。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1340_html.md ## CANN社区版-aclfvSearch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1341.html - Description: 特征1:N或N:M检索。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1341_html.md ## CANN社区版-aclError - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1345_3.html - Description: ``` typedef int aclError; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1345_3_html.md ## CANN社区版-aclfvSearchType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1361.html - Description: ``` enum aclfvSearchType \{ SEARCH1N, // 1:N operation type SEARCHNM // N:M operation type \}; - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1361_html.md ## CANN社区版-aclfvCreateRepoRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1590.html - Description: 创建aclfvRepoRange类型的数据,表示创建特征库范围的参数。如需销毁aclfvRepoRange类型的数据,请参见aclfvDestroyRepoRange。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1590_html.md ## CANN社区版-aclfvDestroyRepoRange - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1591.html - Description: 销毁通过aclfvCreateRepoRange接口创建的aclfvRepoRange类型的数据。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1591_html.md ## CANN社区版-aclfvCreateFeatureInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1593.html - Description: 创建aclfvFeatureInfo类型的数据,表示创建特征描述信息。如需销毁aclfvFeatureInfo类型的数据,请参见aclfvDestroyFeatureInfo。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1593_html.md ## CANN社区版-aclfvDestroyFeatureInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1594.html - Description: 销毁通过aclfvCreateFeatureInfo接口创建的aclfvFeatureInfo类型的数据。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1594_html.md ## CANN社区版-aclfvCreateQueryTable - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1596.html - Description: 创建aclfvQueryTable类型的数据,表示创建检索输入表信息。如需销毁aclfvQueryTable类型的数据,请参见aclfvDestroyQueryTable。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1596_html.md ## CANN社区版-aclfvDestroyQueryTable - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1597.html - Description: 销毁通过aclfvCreateQueryTable接口创建的aclfvQueryTable类型的数据。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1597_html.md ## CANN社区版-aclfvCreateSearchInput - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1599.html - Description: 创建aclfvSearchInput类型的数据,表示创建检索任务输入信息。如需销毁aclfvSearchInput类型的数据,请参见aclfvDestroySearchInput。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1599_html.md ## CANN社区版-aclfvDestroySearchInput - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1600.html - Description: 销毁通过aclfvCreateSearchInput接口创建的aclfvSearchInput类型的数据。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1600_html.md ## CANN社区版-aclfvCreateSearchResult - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1602.html - Description: 创建aclfvSearchResult类型的数据,表示创建检索结果信息。如需销毁aclfvSearchResult类型的数据,请参见aclfvDestroySearchResult。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1602_html.md ## CANN社区版-aclfvDestroySearchResult - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1603.html - Description: 销毁通过aclfvCreateSearchResult接口创建的aclfvSearchResult类型的数据。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1603_html.md ## CANN社区版-aclfvCreateInitPara - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1605.html - Description: 创建aclfvInitPara类型的数据,表示创建特征向量检索的初始化参数。如需销毁aclfvInitPara类型的数据,请参见aclfvDestroyInitPara。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1605_html.md ## CANN社区版-aclfvDestroyInitPara - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1606.html - Description: 销毁通过aclfvCreateInitPara接口创建的aclfvInitPara类型的数据。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1606_html.md ## CANN社区版-aclfvSet1NTopNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1607.html - Description: 设置1:N场景下返回的topK结果数量的最大值,如果不设置,默认topK结果数量的最大值为4800。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1607_html.md ## CANN社区版-aclfvSetNMTopNum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclcppdevg_03_1608.html - Description: 设置N:M场景下返回的topK结果数量的最大值,如果不设置,默认topK结果数量的最大值为500。 Atlas 推理系列加速模块产品 不支持本接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclcppdevg_03_1608_html.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0822.html - Description: 在图像检索场景,通常使用深度学习算法处理目标等感兴趣的图像,提取出高维特征向量,并将一组感兴趣的图像提取得到的特征向量作为底库,待搜索的特征向量与底库中的向量依次进行相似度计算,按相似度排序返回检索结果。为了进一步降低存储和计算的开销,对浮点型长特征向量进行量化处理、转换为短特征再进行检索比对的技术被广泛应用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0822_html.md ## 函数:init - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0823.html - Description: 初始化特征检索模块。与acl.fv.release接口配套使用。 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0823_html.md ## 函数:release - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0824.html - Description: 特征检索模块去初始化,释放内存空间,与acl.fv.init接口配套使用。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0824_html.md ## 函数:repo\_add - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0825.html - Description: 添加底库或向已存在底库中添加特征。该章节描述的1:N表示“检索请求的个数:底库的数量”,N:M用于碰撞两个库的相似性。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0825_html.md ## 函数:repo\_del - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0826.html - Description: 删除底库。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0826_html.md ## 函数:delete - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0827.html - Description: 精确删除底库中某个特征,一次只能删除底库中一个特征。N:M场景下不涉及这个接口。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0827_html.md ## 函数:modify - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0828.html - Description: 修改底库中某个特征,一次只能修改底库中一个特征,不允许修改底库中不存在的特征。N:M场景下不涉及这个接口。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0828_html.md ## 函数:search - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0829.html - Description: 特征1:N或N:M检索。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0829_html.md ## 函数:create\_init\_para - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0830.html - Description: 创建aclfvInitPara类型的数据,表示创建特征向量检索的初始化参数。 如需销毁aclfvInitPara类型的数据,请参见函数:destroyinitpara。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0830_html.md ## 函数:destroy\_init\_para - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0831.html - Description: 销毁通过acl.fv.createinitpara接口创建的aclfvInitPara类型的数据。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0831_html.md ## 函数:set\_1n\_top\_num - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0833.html - Description: 设置1:N场景下返回的topK结果数量的最大值,如果不设置,默认topK结果数量的最大值为4800。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0833_html.md ## 函数:set\_nm\_top\_num - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0834.html - Description: 设置N:M场景下返回的topK结果数量的最大值,如果不设置,默认topK结果数量的最大值为500。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0834_html.md ## 函数:create\_feature\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0835.html - Description: 创建aclfvFeatureInfo类型的数据,表示创建特征描述信息。 如需销毁aclfvFeatureInfo类型的数据,请参见函数:destroyfeatureinfo。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0835_html.md ## 函数:destroy\_feature\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0836.html - Description: 销毁通过acl.fv.createfeatureinfo接口创建的aclfvFeatureInfo类型的数据。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0836_html.md ## 函数:create\_repo\_range - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0837.html - Description: 创建aclfvRepoRange类型的数据,表示创建特征库范围的参数。 如需销毁aclfvRepoRange类型的数据,请参见函数:destroyreporange。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0837_html.md ## 函数:destroy\_repo\_range - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0838.html - Description: 销毁通过acl.fv.createreporange接口创建的aclfvRepoRange类型的数据。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0838_html.md ## 函数:create\_query\_table - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0839.html - Description: 创建aclfvQueryTable类型的数据,表示创建检索输入表信息。 如需销毁aclfvQueryTable类型的数据,请参见函数:destroyquerytable。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0839_html.md ## 函数:destroy\_query\_table - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0840.html - Description: 销毁通过acl.fv.createquerytable接口创建的aclfvQueryTable类型的数据。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0840_html.md ## 函数:create\_search\_input - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0841.html - Description: 创建aclfvSearchInput类型的数据,表示创建检索任务输入信息。 如需销毁aclfvSearchInput类型的数据,请参见函数:destroysearchinput。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0841_html.md ## 函数:destroy\_search\_input - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0842.html - Description: 销毁通过acl.fv.createsearchinput接口创建的aclfvSearchInput类型的数据。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0842_html.md ## 函数:create\_search\_result - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0843.html - Description: 创建aclfvSearchResult类型的数据,表示创建检索结果信息。 如需销毁aclfvSearchResult类型的数据,请参见函数:destroysearchresult。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0843_html.md ## 函数:destroy\_search\_result - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0844.html - Description: 销毁通过acl.fv.createsearchresult接口创建的aclfvSearchResult类型的数据。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0844_html.md ## CANN社区版-aclError - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0911.html - Description: 返回码定义规则: - 规则1:开发人员的环境异常或者代码逻辑错误,可以通过优化环境或代码逻辑的方式解决问题,此时返回码定义为:1XXXXX。 - 规则2:资源不足(Stream、内存等)、开发人员编程时使用的接口或参数与当前硬件不匹配,可以通过在编程时合理使用资源的方式解决,此时返回码定义为:2XXXXX。 - 规则3:业务功能异常,比如队列满、队列空等,此时返回码定义为3XXXXX。 - 规则4 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0911_html.md ## CANN社区版-aclfvSearchType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_0923.html - Description: Atlas 200I/500 A2 推理产品 ,不支持该枚举值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_0923_html.md ## CANN社区版-destory\_init\_para - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/fvsearch/aclpythondevg_01_1104.html - Description: 销毁通过acl.fv.createinitpara接口创建的aclfvInitPara类型的数据。 Atlas 推理系列产品 中的 Atlas 推理系列加速模块产品 不支持该接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_fvsearch_aclpythondevg_01_1104_html.md ## ISP Firmware介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug - Description: ISP Firmware包含三部分,一部分是ISP控制单元和基础算法库,一部分是3A算法库(包括AE、AWB、AF算法库,其中,AF算法库当前不支持),一部分是Sensor库。仅 Atlas 200I/500 A2 推理产品 支持ISP Firmware功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0001_html.md ## 接口简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0001.html - Description: ISP提供了各种图像调优算法API,供开发者进行ISP二次开发及图像质量调试。仅 Atlas 200I/500 A2 推理产品 支持这部分功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0001_html.md ## CANN社区版-hi\_mpi\_isp\_sensor\_reg\_callback - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0003.html - Description: ISP提供的Sensor注册的回调接口,用于获取差异化的初始化参数,并控制Sensor。 此接口不支持多进程操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0003_html.md ## CANN社区版-hi\_mpi\_isp\_sensor\_unreg\_callback - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0004.html - Description: ISP提供的取消Sensor注册的回调接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0004_html.md ## CANN社区版-hi\_mpi\_isp\_mem\_init - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0005.html - Description: 初始化ISP内部资源。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0005_html.md ## CANN社区版-hi\_mpi\_isp\_set\_pub\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0006.html - Description: 设置ISP公共属性,例如裁剪分辨率、帧率等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0006_html.md ## CANN社区版-hi\_mpi\_isp\_get\_pub\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0007.html - Description: 获取ISP公共属性。 - 0:成功 - 非0:失败,参见 错误码 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0007_html.md ## CANN社区版-hi\_mpi\_isp\_init - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0008.html - Description: 初始化ISP firmware。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0008_html.md ## CANN社区版-hi\_mpi\_isp\_run - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0009.html - Description: 运行ISP firmware。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0009_html.md ## CANN社区版-hi\_mpi\_isp\_exit - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0010.html - Description: 退出ISP firmware。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0010_html.md ## CANN社区版-hi\_mpi\_isp\_set\_sns\_slave\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0011.html - Description: 设置从模式Sensor行场同步信号。 从模式Sensor需要其提供行同步信号XHS和场同步信号XVS,在这两个信号的控制下进行曝光与数据读出,这个接口主要配置同步信号发生模块,使其输出Sensor要求的行场时序。此接口一般在Sensor库里调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0011_html.md ## CANN社区版-hi\_mpi\_isp\_get\_sns\_slave\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0012.html - Description: 获取从模式Sensor行场同步信号。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0012_html.md ## CANN社区版-hi\_mpi\_ae\_register - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0013.html - Description: 向ISP注册AE库。AE库可以注册多个实例。 此接口不支持多进程操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0013_html.md ## CANN社区版-hi\_mpi\_ae\_unregister - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0014.html - Description: 向ISP取消注册AE库。 此接口不支持多进程操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0014_html.md ## CANN社区版-hi\_mpi\_ae\_sensor\_reg\_callback - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0015.html - Description: AE库提供的Sensor注册的回调接口。AE通过Sensor注册的一系列回调接口,获取差异化的初始化参数,并控制Sensor。 此接口不支持多进程操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0015_html.md ## CANN社区版-hi\_mpi\_ae\_sensor\_unreg\_callback - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0016.html - Description: AE库提供的Sensor注销的回调接口。 此接口不支持多进程操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0016_html.md ## CANN社区版-hi\_mpi\_awb\_register - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0017.html - Description: 向ISP注册AWB库。AWB库可以注册多个实例。 此接口不支持多进程操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0017_html.md ## CANN社区版-hi\_mpi\_awb\_unregister - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0018.html - Description: 向ISP取消注册AWB库。 此接口不支持多进程操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0018_html.md ## CANN社区版-hi\_mpi\_awb\_sensor\_reg\_callback - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0019.html - Description: AWB库提供的Sensor注册的回调接口。AWB通过Sensor注册的一系列回调接口,获取差异化的初始化参数,并控制Sensor。 此接口不支持多进程操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0019_html.md ## CANN社区版-hi\_mpi\_awb\_sensor\_unreg\_callback - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0020.html - Description: AWB库提供的Sensor注销的回调接口。 此接口不支持多进程操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0020_html.md ## 基本数据类型说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0022.html - Description: ``` typedef unsigned char hiu8; typedef signed char his8; typedef unsigned short hiu16; typedef short his16; typedef unsigned int hiu32; typedef int his32; typedef unsigned long long hiu64; typedef lo - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0022_html.md ## CANN社区版-hi\_video\_field - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0023.html - Description: 定义视频图像帧场类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0023_html.md ## CANN社区版-hi\_pixel\_format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0024.html - Description: DVPP所支持的各种图片格式的枚举。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0024_html.md ## CANN社区版-hi\_video\_format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0025.html - Description: \#\#\#\# 说明 定义视频格式枚举。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0025_html.md ## CANN社区版-hi\_compress\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0026.html - Description: 定义视频压缩数据格式枚举。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0026_html.md ## CANN社区版-hi\_dynamic\_range - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0027.html - Description: \#\#\#\# 说明 定义动态范围枚举。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0027_html.md ## CANN社区版-hi\_color\_gamut - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0028.html - Description: \#\#\#\# 说明 定义色域范围枚举。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0028_html.md ## CANN社区版-hi\_video\_supplement - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0029.html - Description: 定义视频图像帧补充信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0029_html.md ## CANN社区版-hi\_video\_frame - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0030.html - Description: 定义视频原始图像帧结构。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0030_html.md ## CANN社区版-hi\_mod\_id - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0031.html - Description: 定义模块ID枚举类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0031_html.md ## CANN社区版-hi\_video\_frame\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0032.html - Description: 定义视频图像帧信息结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0032_html.md ## CANN社区版-hi\_rect - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0033.html - Description: 定义矩形宽高和左上角坐标 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0033_html.md ## CANN社区版-hi\_op\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0034.html - Description: \#\#\#\# 说明 定义操作模式枚举。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0034_html.md ## CANN社区版-hi\_point - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0035.html - Description: \#\#\#\# 说明 定义坐标点结构体。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0035_html.md ## CANN社区版-hi\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0036.html - Description: 定义矩形尺寸的结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0036_html.md ## CANN社区版-hi\_wdr\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0037.html - Description: \#\#\#\# 说明 定义宽动态模式。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0037_html.md ## CANN社区版-hi\_vi\_pipe - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0038.html - Description: 定义VI PIPE号。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0038_html.md ## CANN社区版-hi\_sensor\_id - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0040.html - Description: 定义Sensor ID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0040_html.md ## CANN社区版-hi\_isp\_sns\_attr\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0041.html - Description: 定义ISP Sensor属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0041_html.md ## CANN社区版-hi\_isp\_cmos\_sensor\_image\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0042.html - Description: 定义Sensor输出的宽高和帧率属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0042_html.md ## CANN社区版-hi\_isp\_cmos\_alg\_key - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0043.html - Description: 定义ISP的各算法是否采用cmos中的默认配置的标志位。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0043_html.md ## CANN社区版-hi\_isp\_cmos\_noise\_calibration - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0044.html - Description: \#\#\#\# 说明 定义噪声校正参数。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0044_html.md ## CANN社区版-hi\_isp\_cmos\_sensor\_max\_resolution - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0045.html - Description: 定义Sensor最大分辨率结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0045_html.md ## CANN社区版-hi\_isp\_dng\_blc\_repeat\_dim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0046.html - Description: \#\#\#\# 说明 保留结构体。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0046_html.md ## CANN社区版-hi\_isp\_dng\_repeat\_pattern\_dim - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0047.html - Description: \#\#\#\# 说明 保留结构体。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0047_html.md ## CANN社区版-hi\_isp\_dng\_srational - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0048.html - Description: \#\#\#\# 说明 保留结构体。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0048_html.md ## CANN社区版-hi\_isp\_dng\_default\_scale - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0049.html - Description: \#\#\#\# 说明 保留结构体。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0049_html.md ## CANN社区版-hi\_isp\_dng\_cfa\_layout\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0050.html - Description: \#\#\#\# 说明 保留枚举定义。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0050_html.md ## CANN社区版-hi\_isp\_dng\_raw\_format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0051.html - Description: \#\#\#\# 说明 保留结构体。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0051_html.md ## CANN社区版-hi\_isp\_cmos\_sensor\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0052.html - Description: 定义Sensor模式寄存器。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0052_html.md ## CANN社区版-hi\_isp\_cmos\_dng\_color\_param - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0053.html - Description: 定义DNG白平衡校正系数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0053_html.md ## CANN社区版-hi\_isp\_cmos\_wdr\_switch\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0054.html - Description: 定义WDR切换属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0054_html.md ## CANN社区版-hi\_isp\_cmos\_default - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0055.html - Description: 定义ISP基础算法库的初始化参数结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0055_html.md ## CANN社区版-hi\_isp\_cmos\_black\_level - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0056.html - Description: 定义Sensor的黑电平结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0056_html.md ## CANN社区版-hi\_isp\_sns\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0057.html - Description: 定义Sensor与ISP的通信接口类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0057_html.md ## CANN社区版-hi\_isp\_sns\_commbus - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0058.html - Description: 定义与Sensor绑定的设备号信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0058_html.md ## CANN社区版-hi\_isp\_i2c\_data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0059.html - Description: 定义I2C数据参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0059_html.md ## CANN社区版-hi\_isp\_ssp\_data - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0060.html - Description: 定义SSP数据参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0060_html.md ## CANN社区版-hi\_isp\_sns\_regs\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0061.html - Description: 定义sensor的寄存器信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0061_html.md ## CANN社区版-hi\_isp\_sensor\_exp\_func - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0062.html - Description: 定义sensor回调函数结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0062_html.md ## CANN社区版-hi\_isp\_sensor\_register - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0063.html - Description: 定义sensor注册结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0063_html.md ## CANN社区版-hi\_isp\_bayer\_format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0064.html - Description: 定义输入Bayer图像数据格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0064_html.md ## CANN社区版-hi\_isp\_pub\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0065.html - Description: 定义ISP公共属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0065_html.md ## CANN社区版-hi\_isp\_frame\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0066.html - Description: 定义ISP实时信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0066_html.md ## CANN社区版-hi\_slave\_dev - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0067.html - Description: \#\#\#\# 说明 定义从信号设备号。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0067_html.md ## CANN社区版-hi\_isp\_slave\_sns\_sync - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0068.html - Description: 定义从模式sensor同步信号配置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0068_html.md ## CANN社区版-hi\_isp\_ae\_accuracy\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0070.html - Description: 定义曝光时间、增益的精度类型的枚举。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0070_html.md ## CANN社区版-hi\_isp\_ae\_accuracy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0071.html - Description: 定义曝光时间、增益的精度的结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0071_html.md ## CANN社区版-hi\_isp\_ae\_sensor\_default - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0072.html - Description: 定义AE算法库的初始化参数结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0072_html.md ## CANN社区版-hi\_isp\_ae\_sensor\_exp\_func - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0073.html - Description: sensor回调函数结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0073_html.md ## CANN社区版-hi\_isp\_ae\_sensor\_register - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0074.html - Description: 定义sensor注册结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0074_html.md ## CANN社区版-hi\_isp\_awb\_agc\_table - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0075.html - Description: 定义饱和度初始化参数结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0075_html.md ## CANN社区版-hi\_isp\_awb\_ccm\_tab - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0076.html - Description: 定义不同色温下自动颜色校正矩阵系数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0076_html.md ## CANN社区版-hi\_isp\_awb\_ccm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0077.html - Description: 定义CCM颜色校正矩阵属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0077_html.md ## CANN社区版-hi\_isp\_awb\_sensor\_default - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0078.html - Description: 定义AWB算法库的初始化参数结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0078_html.md ## CANN社区版-hi\_isp\_awb\_sensor\_exp\_func - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0079.html - Description: 定义sensor回调函数结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0079_html.md ## CANN社区版-hi\_isp\_awb\_sensor\_register - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0080.html - Description: 定义sensor注册结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0080_html.md ## CANN社区版-hi\_mpi\_isp\_run\_once - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0082.html - Description: 运行ISP firmware一次。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0082_html.md ## CANN社区版-hi\_mpi\_isp\_set\_module\_ctrl - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0083.html - Description: 设置是否启用ISP各功能模块。 该接口对应的寄存器与各模块的启用寄存器复用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0083_html.md ## CANN社区版-hi\_mpi\_isp\_get\_module\_ctrl - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0084.html - Description: 获取ISP各功能模块是否启用的开关。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0084_html.md ## CANN社区版-hi\_mpi\_isp\_set\_ctrl\_param - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0085.html - Description: 设置ISP控制参数。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0085_html.md ## CANN社区版-hi\_mpi\_isp\_get\_ctrl\_param - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0086.html - Description: 获取ISP控制参数。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0086_html.md ## CANN社区版-hi\_mpi\_isp\_ae\_lib\_reg\_callback - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0087.html - Description: 用于向ISP注册AE算法库回调函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0087_html.md ## CANN社区版-hi\_mpi\_isp\_ae\_lib\_unreg\_callback - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0088.html - Description: ISP提供的AE库反注册的回调接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0088_html.md ## CANN社区版-hi\_mpi\_isp\_awb\_lib\_reg\_callback - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0089.html - Description: ISP提供的AWB库注册的回调接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0089_html.md ## CANN社区版-hi\_mpi\_isp\_awb\_lib\_unreg\_callback - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0090.html - Description: ISP提供的AWB库反注册的回调接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0090_html.md ## CANN社区版-hi\_mpi\_isp\_set\_bind\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0091.html - Description: 设置ISP库与3A库、sensor的绑定关系。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0091_html.md ## CANN社区版-hi\_mpi\_isp\_get\_bind\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0092.html - Description: 获取ISP库与3A库、sensor的绑定关系。 此接口不支持多进程操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0092_html.md ## CANN社区版-hi\_mpi\_isp\_get\_vd\_time\_out - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0093.html - Description: 获取ISP中断信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0093_html.md ## CANN社区版-hi\_mpi\_isp\_set\_fmw\_state - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0094.html - Description: 设置ISP firmware状态。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0094_html.md ## CANN社区版-hi\_mpi\_isp\_get\_fmw\_state - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0095.html - Description: 获取ISP firmware状态。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0095_html.md ## CANN社区版-hi\_isp\_bayer\_raw\_bit - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0097.html - Description: 定义输入Bayer图像数据位宽。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0097_html.md ## CANN社区版-hi\_isp\_fmw\_state - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0098.html - Description: 定义ISP firmware状态。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0098_html.md ## CANN社区版-hi\_isp\_wdr\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0099.html - Description: 定义ISP宽动态模式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0099_html.md ## CANN社区版-hi\_isp\_module\_ctrl - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0100.html - Description: 定义ISP功能模块的控制。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0100_html.md ## CANN社区版-hi\_isp\_vd\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0101.html - Description: 定义ISP场同步信号。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0101_html.md ## CANN社区版-hi\_isp\_cmos\_lsc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0102.html - Description: 定义镜头阴影校正LSC的CMOS参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0102_html.md ## CANN社区版-hi\_isp\_acs\_y\_shading\_lut - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0103.html - Description: 定义Auto Color Shading亮度分量上的校正强度表,也就是Gr/Gb分量的校正强度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0103_html.md ## CANN社区版-hi\_isp\_acs\_color\_shading\_lut - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0104.html - Description: 定义Auto Color Shading颜色分量上的Lut表,算法会根据R/B分量上的Lut表,动态生成适合当前场景的Lut表。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0104_html.md ## CANN社区版-hi\_isp\_acs\_calib\_param - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0105.html - Description: 定义Auto Color Shading的标定参数,用标定工具生成。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0105_html.md ## CANN社区版-hi\_isp\_cmos\_acs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0106.html - Description: 定义Auto Color Shading的CMOS参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0106_html.md ## CANN社区版-hi\_isp\_lsc\_cabli\_table - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0107.html - Description: 定义LSC的校正参数 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0107_html.md ## CANN社区版-hi\_isp\_cmos\_expander\_point - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0108.html - Description: 定义Expander结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0108_html.md ## CANN社区版-hi\_isp\_expander\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0109.html - Description: 定义Expander结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0109_html.md ## CANN社区版-hi\_isp\_cmos\_clut - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0110.html - Description: 定义CLUT结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0110_html.md ## CANN社区版-hi\_isp\_cmos\_drc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0111.html - Description: 定义DRC的CMOS参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0111_html.md ## CANN社区版-hi\_isp\_cmos\_demosaic - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0112.html - Description: 定义demosaic的CMOS参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0112_html.md ## CANN社区版-hi\_isp\_cmos\_pregamma - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0113.html - Description: 定义pregamma的CMOS参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0113_html.md ## CANN社区版-hi\_isp\_cmos\_gamma - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0114.html - Description: 定义gamma的CMOS参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0114_html.md ## CANN社区版-hi\_isp\_cmos\_sharpen\_manual - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0115.html - Description: 定义sharpen manual档的CMOS参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0115_html.md ## CANN社区版-hi\_isp\_cmos\_sharpen\_auto - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0116.html - Description: 定义sharpen auto档的CMOS参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0116_html.md ## CANN社区版-hi\_isp\_cmos\_sharpen - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0117.html - Description: 定义sharpen的CMOS参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0117_html.md ## CANN社区版-hi\_isp\_cmos\_edgemark - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0118.html - Description: 定义edgemark的CMOS参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0118_html.md ## CANN社区版-hi\_isp\_cmos\_hlc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0119.html - Description: 定义hlc的CMOS参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0119_html.md ## CANN社区版-hi\_isp\_cmos\_ldci - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0120.html - Description: 定义ldci的CMOS参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0120_html.md ## CANN社区版-hi\_isp\_cmos\_dpc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0121.html - Description: 定义dpc的CMOS参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0121_html.md ## CANN社区版-hi\_isp\_cmos\_ge - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0122.html - Description: 定义ge的CMOS参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0122_html.md ## CANN社区版-hi\_isp\_cmos\_afc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0123.html - Description: 定义afc的CMOS参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0123_html.md ## CANN社区版-hi\_isp\_cmos\_bayernr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0124.html - Description: 定义bayernr的CMOS参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0124_html.md ## CANN社区版-hi\_isp\_cmos\_ca - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0125.html - Description: 定义ca的CMOS参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0125_html.md ## CANN社区版-hi\_isp\_cmos\_wdr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0126.html - Description: 定义wdr的CMOS参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0126_html.md ## CANN社区版-hi\_isp\_cmos\_dehaze - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0127.html - Description: 定义dehaze的CMOS参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0127_html.md ## CANN社区版-hi\_isp\_cmos\_lcac\_manual - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0128.html - Description: 定义手动模式下配置紫边校正强度参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0128_html.md ## CANN社区版-hi\_isp\_cmos\_lcac\_auto - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0129.html - Description: 定义自动模式下配置紫边校正强度参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0129_html.md ## CANN社区版-hi\_isp\_cmos\_lcac - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0130.html - Description: 定义lcac的CMOS参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0130_html.md ## CANN社区版-hi\_isp\_bnr\_lsc\_calib\_table - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0131.html - Description: 定义Bayer NR LSC的标定LUT 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0131_html.md ## CANN社区版-hi\_isp\_3a\_alg\_lib - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0132.html - Description: 定义AE/AWB算法库结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0132_html.md ## CANN社区版-hi\_isp\_bind\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0133.html - Description: 定义ISP库与Sensor、3A库之间绑定关系的结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0133_html.md ## CANN社区版-hi\_isp\_ctrl\_proc\_write - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0134.html - Description: 定义ISP的PROC信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0134_html.md ## CANN社区版-hi\_isp\_ctrl\_cmd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0135.html - Description: 定义ISP对3A的控制命令。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0135_html.md ## CANN社区版-hi\_isp\_stitch\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0136.html - Description: 定义ISP拼接结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0136_html.md ## CANN社区版-hi\_isp\_ae\_register - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0137.html - Description: 定义AE注册结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0137_html.md ## CANN社区版-hi\_isp\_ae\_exp\_func - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0138.html - Description: 定义AE回调函数结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0138_html.md ## CANN社区版-hi\_isp\_ae\_param - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0139.html - Description: 定义ISP提供给AE的初始化参数结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0139_html.md ## CANN社区版-hi\_isp\_fe\_ae\_stat\_1 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0140.html - Description: 定义AE统计信息结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0140_html.md ## CANN社区版-hi\_isp\_fe\_ae\_stat\_2 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0141.html - Description: 定义AE统计信息结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0141_html.md ## CANN社区版-hi\_isp\_fe\_ae\_stat\_3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0142.html - Description: 定义AE统计信息结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0142_html.md ## CANN社区版-hi\_isp\_fe\_ae\_stitch\_stat\_3 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0143.html - Description: 定义AE统计信息结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0143_html.md ## CANN社区版-hi\_isp\_ae\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0144.html - Description: 定义ISP提供给AE的统计信息结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0144_html.md ## CANN社区版-hi\_isp\_ae\_stat\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0145.html - Description: 定义AE库返回给ISP的配置寄存器结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0145_html.md ## CANN社区版-hi\_isp\_ae\_result - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0146.html - Description: 定义AE库返回给ISP的配置寄存器结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0146_html.md ## CANN社区版-hi\_isp\_awb\_register - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0147.html - Description: 定义AWB注册结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0147_html.md ## CANN社区版-hi\_isp\_awb\_exp\_func - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0148.html - Description: 定义AWB回调函数结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0148_html.md ## CANN社区版-hi\_isp\_awb\_param - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0149.html - Description: 定义ISP提供给AWB的初始化参数结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0149_html.md ## CANN社区版-hi\_isp\_awb\_stat\_result - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0150.html - Description: 定义AWB统计信息结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0150_html.md ## CANN社区版-hi\_isp\_awb\_stat\_1 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0151.html - Description: 定义AWB统计信息结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0151_html.md ## CANN社区版-hi\_isp\_awb\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0152.html - Description: 定义ISP提供给AWB的统计信息结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0152_html.md ## CANN社区版-hi\_isp\_awb\_raw\_stat\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0153.html - Description: 定义AWB库返回给ISP的配置寄存器结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0153_html.md ## CANN社区版-hi\_isp\_awb\_result - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0154.html - Description: 定义AWB库返回给ISP的配置寄存器结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0154_html.md ## CANN社区版-hi\_isp\_dcf\_update\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0155.html - Description: 定义DCF信息中ISP实时更新配置参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0155_html.md ## CANN社区版-hi\_isp\_ctrl\_param - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0156.html - Description: 定义ISP控制参数结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0156_html.md ## CANN社区版-hi\_isp\_quick\_start\_param - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0157.html - Description: 设定不带光敏AE快速启动参数结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0157_html.md ## CANN社区版-hi\_isp\_awb\_alg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0158.html - Description: 定义AWB算法类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0158_html.md ## CANN社区版-hi\_isp\_init\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0159.html - Description: 定义ISP第一次启动时AE/AWB的初始化参数结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0159_html.md ## CANN社区版-hi\_mpi\_isp\_set\_exposure\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0162.html - Description: 设定AE曝光属性。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - AE曝光控制类型为自动时,曝光时间, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0162_html.md ## CANN社区版-hi\_mpi\_isp\_get\_exposure\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0163.html - Description: 获取AE曝光属性。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0163_html.md ## CANN社区版-hi\_mpi\_isp\_set\_wdr\_exposure\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0164.html - Description: 设置WDR模式下的AE。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0164_html.md ## CANN社区版-hi\_mpi\_isp\_get\_wdr\_exposure\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0165.html - Description: 获取WDR模式下的AE。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0165_html.md ## CANN社区版-hi\_mpi\_isp\_set\_ae\_route\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0166.html - Description: 设置AE曝光分配策略属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0166_html.md ## CANN社区版-hi\_mpi\_isp\_get\_ae\_route\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0167.html - Description: 获取AE曝光分配策略属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0167_html.md ## CANN社区版-hi\_mpi\_isp\_set\_ae\_route\_attr\_ex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0168.html - Description: 设置AE曝光分配扩展属性,支持分别设置AE分配策略中的sensor模拟增益,sensor数字增益和ISP数字增益。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0168_html.md ## CANN社区版-hi\_mpi\_isp\_get\_ae\_route\_attr\_ex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0169.html - Description: 获取AE曝光分配策略扩展属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0169_html.md ## CANN社区版-hi\_mpi\_isp\_set\_ae\_route\_sf\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0170.html - Description: WDR模式下,设置AE短帧的曝光分配策略属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0170_html.md ## CANN社区版-hi\_mpi\_isp\_get\_ae\_route\_sf\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0171.html - Description: 获取AE短帧曝光分配策略属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0171_html.md ## CANN社区版-hi\_mpi\_isp\_set\_ae\_route\_sf\_attr\_ex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0172.html - Description: 此接口用于WDR模式下设定AE短帧的曝光分配扩展属性,AE计算得到的短帧的曝光量将按照设定的路线进行分配,用户可以根据自己的需求设定曝光时间优先、sensor模拟增益优先、sensor数字增益优先、ISP数字增益优先和光圈优先。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0172_html.md ## CANN社区版-hi\_mpi\_isp\_get\_ae\_route\_sf\_attr\_ex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0173.html - Description: 获取AE短帧曝光分配策略扩展属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0173_html.md ## CANN社区版-hi\_mpi\_isp\_query\_exposure\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0174.html - Description: 获取AE内部状态信息,包括全局 5 段直方图、1024 段直方图和平均亮度等统计信息,同时还可获取AE运行状态中的曝光时间、增益、曝光量和实际生效的AE route等信息。 - 调用该接口需要确保系统已经运行起来并且统计信息已经生成;当系统刚运行起来第一帧,AE内部还没有统计信息时,调用该接口统计信息会返回全 0,这时候系统内存是足够的。 - 手动模式下,实际生效的again、dgain等其他值可 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0174_html.md ## CANN社区版-hi\_mpi\_isp\_set\_exp\_convert - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0175.html - Description: 设定等曝光量转换的曝光参数相关属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0175_html.md ## CANN社区版-hi\_mpi\_isp\_get\_exp\_convert - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0176.html - Description: 设定等曝光量转换的曝光参数相关属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0176_html.md ## CANN社区版-hi\_mpi\_isp\_set\_iris\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0180.html - Description: 设定光圈的控制属性,该函数可实现手动光圈属性和光圈类型等参数的设置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0180_html.md ## CANN社区版-hi\_mpi\_isp\_get\_iris\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0181.html - Description: 获取光圈的控制属性。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0181_html.md ## CANN社区版-hi\_mpi\_isp\_set\_dciris\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0182.html - Description: 设定DC-Iris AI算法的控制属性,该函数可实现DC-Iris自动光圈的参数设置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0182_html.md ## CANN社区版-hi\_mpi\_isp\_get\_dciris\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0183.html - Description: 获取DC-Iris自动光圈的控制属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0183_html.md ## CANN社区版-hi\_mpi\_isp\_set\_piris\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0184.html - Description: 设定P-Iris自动光圈的控制属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0184_html.md ## CANN社区版-hi\_mpi\_isp\_get\_piris\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0185.html - Description: 获取P-Iris自动光圈的控制属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0185_html.md ## CANN社区版-hi\_isp\_ae\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0187.html - Description: 定义自动曝光的模式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0187_html.md ## CANN社区版-hi\_isp\_ae\_strategy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0188.html - Description: 定义AE曝光策略模式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0188_html.md ## CANN社区版-hi\_isp\_ae\_delay - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0189.html - Description: \#\#\#\# 说明 定义AE延时属性。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0189_html.md ## CANN社区版-hi\_isp\_ae\_range - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0190.html - Description: 定义曝光时间或增益的最大值和最小值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0190_html.md ## CANN社区版-hi\_isp\_antiflicker\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0191.html - Description: \#\#\#\# 说明 定义抗闪模式。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0191_html.md ## CANN社区版-hi\_isp\_antiflicker - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0192.html - Description: \#\#\#\# 说明 定义抗闪属性。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0192_html.md ## CANN社区版-hi\_isp\_subflicker - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0193.html - Description: 定义ISP图像亚抗闪属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0193_html.md ## CANN社区版-hi\_isp\_fswdr\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0194.html - Description: 定义ISP FSWDR运行模式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0194_html.md ## CANN社区版-hi\_isp\_ae\_fswdr\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0195.html - Description: 定义isp fswdr运行模式 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0195_html.md ## CANN社区版-hi\_isp\_ae\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0196.html - Description: \#\#\#\# 说明 定义自动曝光属性。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0196_html.md ## CANN社区版-hi\_isp\_me\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0197.html - Description: \#\#\#\# 说明 定义手动曝光属性。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0197_html.md ## CANN社区版-hi\_isp\_exposure\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0198.html - Description: 定义ISP曝光属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0198_html.md ## CANN社区版-hi\_isp\_wdr\_exposure\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0199.html - Description: 定义WDR模式下的曝光属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0199_html.md ## CANN社区版-hi\_isp\_ae\_route\_node - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0200.html - Description: 定义AE分配路线节点属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0200_html.md ## CANN社区版-hi\_isp\_ae\_route - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0201.html - Description: 定义AE曝光分配策略属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0201_html.md ## CANN社区版-hi\_isp\_ae\_route\_ex\_node - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0202.html - Description: 定义AE扩展分配路线节点属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0202_html.md ## CANN社区版-hi\_isp\_ae\_route\_ex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0203.html - Description: 定义AE曝光分配策略扩展属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0203_html.md ## CANN社区版-hi\_isp\_exp\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0204.html - Description: 定义ISP曝光内部状态信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0204_html.md ## CANN社区版-hi\_isp\_prior\_frame - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0205.html - Description: WDR模式下的优先帧。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0205_html.md ## CANN社区版-hi\_isp\_iris\_status - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0206.html - Description: 定义ISP光圈状态。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0206_html.md ## CANN社区版-hi\_isp\_iris\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0207.html - Description: 定义ISP光圈类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0207_html.md ## CANN社区版-hi\_isp\_iris\_f\_no - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0208.html - Description: 定义ISP光圈F值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0208_html.md ## CANN社区版-hi\_isp\_mi\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0209.html - Description: \#\#\#\# 说明 定义手动光圈属性。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0209_html.md ## CANN社区版-hi\_isp\_dciris\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0210.html - Description: 定义DC-Iris AI算法属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0210_html.md ## CANN社区版-hi\_isp\_piris\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0211.html - Description: 定义P-Iris属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0211_html.md ## CANN社区版-hi\_isp\_iris\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0212.html - Description: 定义ISP光圈属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0212_html.md ## CANN社区版-hi\_isp\_exp\_conv\_param - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0213.html - Description: AE算法中定义不同帧率下等曝光量转换相关曝光参数属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0213_html.md ## CANN社区版-hi\_isp\_ae\_convert\_param - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0214.html - Description: 对接驱动时,定义不同帧率下等曝光量转换相关曝光参数属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0214_html.md ## CANN社区版-hi\_isp\_ae\_param\_reg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0215.html - Description: \#\#\#\# 说明 定义寄存器状态。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0215_html.md ## CANN社区版-hi\_mpi\_isp\_set\_wb\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0220.html - Description: 设置白平衡属性。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - 白平衡控制类型为自动时,AWB算法自动调节白平衡系数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0220_html.md ## CANN社区版-hi\_mpi\_isp\_get\_wb\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0221.html - Description: 获取白平衡属性。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0221_html.md ## CANN社区版-hi\_mpi\_isp\_set\_awb\_attr\_ex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0222.html - Description: 设置自动白平衡扩展属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0222_html.md ## CANN社区版-hi\_mpi\_isp\_get\_awb\_attr\_ex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0223.html - Description: 获取自动白平衡扩展属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0223_html.md ## CANN社区版-hi\_mpi\_isp\_query\_wb\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0224.html - Description: 获取当前白平衡增益系数,检测色温,饱和度值,颜色校正矩阵系数等信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0224_html.md ## CANN社区版-hi\_mpi\_isp\_cal\_gain\_by\_temp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0225.html - Description: 计算特定色温下的白平衡增益系数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0225_html.md ## CANN社区版-hi\_isp\_awb\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0227.html - Description: 定义ISP自动白平衡属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0227_html.md ## CANN社区版-hi\_isp\_awb\_cbcr\_track\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0228.html - Description: 定义Bayer域统计信息的联动参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0228_html.md ## CANN社区版-hi\_isp\_awb\_lum\_histgram\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0229.html - Description: 定义白平衡的亮度直方图统计参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0229_html.md ## CANN社区版-hi\_isp\_awb\_alg\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0230.html - Description: 定义白平衡的算法类型属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0230_html.md ## CANN社区版-hi\_isp\_awb\_ct\_limit\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0231.html - Description: 定义白平衡的增益范围限制属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0231_html.md ## CANN社区版-hi\_isp\_mwb\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0232.html - Description: 定义ISP手动白平衡属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0232_html.md ## CANN社区版-hi\_isp\_wb\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0233.html - Description: \#\#\#\# 说明 定义白平衡属性。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0233_html.md ## CANN社区版-hi\_isp\_awb\_multi\_ls\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0234.html - Description: 定义混合光源下的AWB策略。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0234_html.md ## CANN社区版-hi\_isp\_awb\_indoor\_outdoor\_status - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0235.html - Description: 定义AWB室内外状态。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0235_html.md ## CANN社区版-hi\_isp\_awb\_attr\_ex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0236.html - Description: 定义自动白平衡扩展属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0236_html.md ## CANN社区版-hi\_isp\_awb\_extra\_light\_source\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0237.html - Description: 定义独立光源点的信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0237_html.md ## CANN社区版-hi\_isp\_awb\_in\_out\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0238.html - Description: 定义对场景做室内外判断的参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0238_html.md ## CANN社区版-hi\_isp\_wb\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0239.html - Description: 定义白平衡,饱和度,颜色校正信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0239_html.md ## CANN社区版-sensor对光谱的响应 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0241.html - Description: sensor对光谱的响应,在RGB各分量上与人眼对光谱的响应通常是有偏差的,通常通过一个色彩校正矩阵校正光谱响应的交叉效应和响应强度,使前端捕获的图片与人眼视觉在色彩上保持一致。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0241_html.md ## CANN社区版-hi\_mpi\_isp\_set\_saturation\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0242.html - Description: 设置颜色饱和度属性。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0242_html.md ## CANN社区版-hi\_mpi\_isp\_get\_saturation\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0243.html - Description: 获取颜色饱和度属性。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0243_html.md ## CANN社区版-hi\_mpi\_isp\_set\_ccm\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0244.html - Description: 设置颜色矩阵。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - 颜色校正矩阵的数据格式,应与校正工具提供的保持一致。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0244_html.md ## CANN社区版-hi\_mpi\_isp\_get\_ccm\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0245.html - Description: 获取颜色矩阵。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0245_html.md ## CANN社区版-hi\_isp\_saturation\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0247.html - Description: 定义ISP颜色饱和度属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0247_html.md ## CANN社区版-hi\_isp\_saturation\_manual - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0248.html - Description: 定义手动饱和度属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0248_html.md ## CANN社区版-hi\_isp\_saturation\_auto - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0249.html - Description: 定义自动饱和度属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0249_html.md ## CANN社区版-hi\_isp\_color\_matrix\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0250.html - Description: 定义ISP颜色矩阵属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0250_html.md ## CANN社区版-hi\_isp\_color\_matrix\_auto - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0251.html - Description: 定义自动颜色校正矩阵属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0251_html.md ## CANN社区版-hi\_isp\_color\_matrix\_param - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0252.html - Description: 定义不同色温下自动颜色校正矩阵系数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0252_html.md ## CANN社区版-hi\_isp\_color\_matrix\_manual - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0253.html - Description: 定义手动颜色校正矩阵属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0253_html.md ## CANN社区版-hi\_mpi\_isp\_get\_auto\_color\_shading\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0255.html - Description: 获取Auto Color Shading属性参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0255_html.md ## CANN社区版-hi\_mpi\_isp\_set\_auto\_color\_shading\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0256.html - Description: 设置Auto Color Shading属性参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0256_html.md ## CANN社区版-hi\_isp\_acs\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0258.html - Description: 定义Auto Color Shading属性参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0258_html.md ## 功能描述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0260.html - Description: Inner State Information接口的作用是输出与ISO相关的多个参数的逻辑寄存器当前配置的真实值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0260_html.md ## CANN社区版-hi\_mpi\_isp\_query\_inner\_state\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0261.html - Description: 预留接口,当前版本不支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0261_html.md ## CANN社区版-hi\_isp\_inner\_state\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0263.html - Description: 定义内部寄存器实际配置信息参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0263_html.md ## CANN社区版-hi\_mpi\_isp\_get\_pregamma\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0265.html - Description: 获取PreGamma属性参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0265_html.md ## CANN社区版-hi\_mpi\_isp\_set\_pregamma\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0266.html - Description: 设置PreGamma属性参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0266_html.md ## CANN社区版-hi\_isp\_pregamma\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0268.html - Description: 定义PreGamma属性参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0268_html.md ## CANN社区版-hi\_mpi\_isp\_get\_clut\_coeff - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0270.html - Description: 获取CLUT系数。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0270_html.md ## CANN社区版-hi\_mpi\_isp\_set\_clut\_coeff - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0271.html - Description: 设置CLUT系数。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0271_html.md ## CANN社区版-hi\_mpi\_isp\_get\_clut\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0272.html - Description: 获取CLUT属性。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0272_html.md ## CANN社区版-hi\_mpi\_isp\_set\_clut\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0273.html - Description: 设置CLUT属性。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0273_html.md ## CANN社区版-hi\_isp\_clut\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0275.html - Description: 定义CLUT的增益。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0275_html.md ## CANN社区版-hi\_isp\_clut\_lut - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0276.html - Description: 定义CLUT的查找表。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0276_html.md ## CANN社区版-hi\_mpi\_isp\_set\_csc\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0278.html - Description: 设定CSC(色彩空间转换)属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0278_html.md ## CANN社区版-hi\_mpi\_isp\_get\_csc\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0279.html - Description: 获取CSC(色彩空间转换)属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0279_html.md ## CANN社区版-hi\_isp\_csc\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0281.html - Description: 说明定义ISP色彩空间转换模块属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0281_html.md ## CANN社区版-hi\_isp\_csc\_matrix - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0282.html - Description: 定义色彩空间转换矩阵系数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0282_html.md ## CANN社区版-hi\_mpi\_isp\_get\_ldci\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0284.html - Description: 获取LDCI属性参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0284_html.md ## CANN社区版-hi\_mpi\_isp\_set\_ldci\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0285.html - Description: 设置LDCI属性参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0285_html.md ## CANN社区版-hi\_isp\_ldci\_gauss\_coef\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0287.html - Description: 定义GAUSS分布属性参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0287_html.md ## CANN社区版-hi\_isp\_ldci\_he\_wgt\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0288.html - Description: 定义直方图均衡与原图融合权重属性参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0288_html.md ## CANN社区版-hi\_isp\_ldci\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0289.html - Description: 定义LDCI手动模式属性参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0289_html.md ## CANN社区版-hi\_isp\_ldci\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0290.html - Description: 定义LDCI自动模式下属性参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0290_html.md ## CANN社区版-hi\_isp\_ldci\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0291.html - Description: 定义LDCI属性参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0291_html.md ## CANN社区版-hi\_mpi\_isp\_set\_color\_tone\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0293.html - Description: 设置色调的参数。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0293_html.md ## CANN社区版-hi\_mpi\_isp\_get\_color\_tone\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0294.html - Description: 获取色调的参数。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0294_html.md ## CANN社区版-hi\_isp\_color\_tone\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0296.html - Description: \#\#\#\# 说明 定义色调调整属性。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0296_html.md ## CANN社区版-hi\_mpi\_isp\_get\_fswdr\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0298.html - Description: 获取帧合成参数。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0298_html.md ## CANN社区版-hi\_mpi\_isp\_set\_fswdr\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0299.html - Description: 设置帧合成参数。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0299_html.md ## CANN社区版-hi\_isp\_wdr\_merge\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0301.html - Description: 定义ISP合成方式属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0301_html.md ## CANN社区版-hi\_isp\_fswdr\_mdt\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0302.html - Description: 定义ISPFSWDR运动检测属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0302_html.md ## CANN社区版-hi\_isp\_wdr\_combine\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0303.html - Description: 定义ISP FSWDR combine属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0303_html.md ## CANN社区版-hi\_isp\_fusion\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0304.html - Description: 定义ISP FUSION属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0304_html.md ## CANN社区版-hi\_isp\_fswdr\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0305.html - Description: 定义ISP FSWDR手动属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0305_html.md ## CANN社区版-hi\_isp\_fswdr\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0306.html - Description: 定义ISP FSWDR自动属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0306_html.md ## CANN社区版-hi\_isp\_wdr\_fs\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0307.html - Description: 定义ISP FSWDR属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0307_html.md ## CANN社区版-hi\_mpi\_isp\_get\_global\_cac\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0309.html - Description: 获取色差校正参数。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0309_html.md ## CANN社区版-hi\_mpi\_isp\_set\_global\_cac\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0310.html - Description: 设置横向色差校正参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0310_html.md ## CANN社区版-hi\_mpi\_isp\_get\_local\_cac\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0311.html - Description: 获取紫边检测校正参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0311_html.md ## CANN社区版-hi\_mpi\_isp\_set\_local\_cac\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0312.html - Description: 设置紫边检测校正参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0312_html.md ## CANN社区版-hi\_isp\_depurplestr\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0314.html - Description: 定义紫边校正手动属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0314_html.md ## CANN社区版-hi\_isp\_depurplestr\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0315.html - Description: 定义紫边校正自动属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0315_html.md ## CANN社区版-hi\_isp\_local\_cac\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0316.html - Description: \#\#\#\# 说明 紫边检测校正属性。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0316_html.md ## CANN社区版-hi\_isp\_global\_cac\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0317.html - Description: \#\#\#\# 说明 定义色差校正属性。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0317_html.md ## CANN社区版-hi\_mpi\_isp\_get\_ca\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0319.html - Description: 获取CA属性。 - 0:成功 - 非0:失败,参见 ISP返回码 HDR模式,默认关闭CA,客户可以自行设置打开。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0319_html.md ## CANN社区版-hi\_mpi\_isp\_set\_ca\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0320.html - Description: 设置CA属性。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0320_html.md ## CANN社区版-hi\_isp\_ca\_lut - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0322.html - Description: 定义CA模式的属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0322_html.md ## CANN社区版-hi\_isp\_ca\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0323.html - Description: 定义颜色调整模块的属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0323_html.md ## CANN社区版-hi\_mpi\_isp\_set\_fpn\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0325.html - Description: 设置去FPN属性。 - 0:成功 - 非0:失败,参见 ISP返回码 - 不支持分块模式下校正。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0325_html.md ## CANN社区版-hi\_mpi\_isp\_get\_fpn\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0326.html - Description: 获取去FPN属性。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0326_html.md ## CANN社区版-hi\_mpi\_isp\_fpn\_calibrate - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0327.html - Description: 设置去FPN标定属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0327_html.md ## CANN社区版-hi\_isp\_fpn\_frame\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0329.html - Description: 定义去FPN标定的黑帧信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0329_html.md ## CANN社区版-hi\_isp\_fpn\_calibrate\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0330.html - Description: 定义去FPN的标定属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0330_html.md ## CANN社区版-hi\_isp\_fpn\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0331.html - Description: 定义去FPN的校正属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0331_html.md ## CANN社区版-hi\_isp\_fpn\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0332.html - Description: 定义去FPN在手动模式下的校正属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0332_html.md ## CANN社区版-hi\_isp\_fpn\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0333.html - Description: 定义去FPN在自动模式下的校正属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0333_html.md ## CANN社区版-hi\_isp\_fpn\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0334.html - Description: \#\#\#\# 说明 定义去FPN类型。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0334_html.md ## CANN社区版-hi\_mpi\_isp\_get\_black\_level\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0336.html - Description: 获取黑电平属性。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0336_html.md ## CANN社区版-hi\_mpi\_isp\_set\_black\_level\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0337.html - Description: 设置黑电平属性。 - 0:成功 - 非0:失败,参见 ISP返回码 - 如果接口配置为自动模式:若cmos. - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0337_html.md ## CANN社区版-hi\_isp\_black\_level\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0339.html - Description: 定义ISP黑电平属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0339_html.md ## CANN社区版-hi\_mpi\_isp\_get\_demosaic\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0341.html - Description: 获取Demosaic参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0341_html.md ## CANN社区版-hi\_mpi\_isp\_set\_demosaic\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0342.html - Description: 设置Demosaic参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0342_html.md ## CANN社区版-hi\_isp\_demosaic\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0344.html - Description: 定义ISP DEMOSAIC手动属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0344_html.md ## CANN社区版-hi\_isp\_demosaic\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0345.html - Description: 定义ISP DEMOSAIC自动属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0345_html.md ## CANN社区版-hi\_isp\_demosaic\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0346.html - Description: 定义ISP DEMOSAIC属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0346_html.md ## CANN社区版-hi\_mpi\_isp\_get\_anti\_false\_color\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0348.html - Description: 获取Anti FalseColor参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0348_html.md ## CANN社区版-hi\_mpi\_isp\_set\_anti\_false\_color\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0349.html - Description: 设置Anti FalseColor参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0349_html.md ## CANN社区版-hi\_isp\_anti\_false\_color\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0351.html - Description: 定义ISP Anti FalseColor手动属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0351_html.md ## CANN社区版-hi\_isp\_anti\_false\_color\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0352.html - Description: 定义ISP Anti FalseColor自动属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0352_html.md ## CANN社区版-hi\_isp\_anti\_false\_color\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0353.html - Description: 定义Anti FalseColor属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0353_html.md ## CANN社区版-hi\_mpi\_isp\_get\_nr\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0355.html - Description: 获取BNR参数。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0355_html.md ## CANN社区版-hi\_mpi\_isp\_set\_nr\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0356.html - Description: 设置BNR参数。 - 0:成功 - 非0:失败, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0356_html.md ## CANN社区版-hi\_isp\_nr\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0358.html - Description: 定义ISP NR手动属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0358_html.md ## CANN社区版-hi\_isp\_nr\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0359.html - Description: 定义ISP NR自动属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0359_html.md ## CANN社区版-hi\_isp\_nr\_wdr\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0360.html - Description: 定义ISP NR在WDR模式下属性,与自动/手动模式并行。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0360_html.md ## CANN社区版-hi\_isp\_nr\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0361.html - Description: 定义ISP NR属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0361_html.md ## CANN社区版-hi\_mpi\_isp\_get\_crosstalk\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0363.html - Description: 获取Crosstalk属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0363_html.md ## CANN社区版-hi\_mpi\_isp\_set\_crosstalk\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0364.html - Description: 设置Crosstalk属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0364_html.md ## CANN社区版-hi\_isp\_cr\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0366.html - Description: 定义ISP Crosstalk属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0366_html.md ## CANN社区版-hi\_mpi\_isp\_get\_dp\_dynamic\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0368.html - Description: 获取动态坏点调试属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0368_html.md ## CANN社区版-hi\_mpi\_isp\_set\_dp\_dynamic\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0369.html - Description: 设置动态坏点调试属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0369_html.md ## CANN社区版-hi\_mpi\_isp\_get\_dp\_static\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0370.html - Description: 获取静态坏点属性。 在设置静态坏点属性中,亮点坏点表中表示亮坏点坐标信息,暗坏点表中则保存的是暗坏点坐标信息;而获取静态坏点属性时,亮点坏点表中保存的是所有坏点的坐标信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0370_html.md ## CANN社区版-hi\_mpi\_isp\_set\_dp\_static\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0371.html - Description: 设置静态坏点属性,合并坏点表,将坏点坐标信息与坏点数目写入系统内存。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0371_html.md ## CANN社区版-hi\_mpi\_isp\_get\_dp\_calibrate - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0372.html - Description: 获取静态坏点标定结果。 该接口一般用于调试场景下标定Defect Pixel算法的参数,生产环境中不建议使用,可能会引起内存异常、图片效果异常等问题。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0372_html.md ## CANN社区版-hi\_mpi\_isp\_set\_dp\_calibrate - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0373.html - Description: 设置静态坏点标定参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0373_html.md ## CANN社区版-hi\_isp\_static\_dp\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0375.html - Description: 定义静态坏点标定类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0375_html.md ## CANN社区版-hi\_isp\_status - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0376.html - Description: 定义ISP校正(检测)状态。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0376_html.md ## CANN社区版-hi\_isp\_dp\_static\_calibrate - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0377.html - Description: 定义静态坏点标定的属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0377_html.md ## CANN社区版-hi\_isp\_dp\_static\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0378.html - Description: 定义静态坏点校正属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0378_html.md ## CANN社区版-hi\_isp\_dp\_dynamic\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0379.html - Description: 定义动态坏点校正的手动属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0379_html.md ## CANN社区版-hi\_isp\_dp\_dynamic\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0380.html - Description: 定义动态坏点校正的自动属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0380_html.md ## CANN社区版-hi\_isp\_dp\_dynamic\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0381.html - Description: 定义动态坏点校正属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0381_html.md ## CANN社区版-hi\_mpi\_isp\_set\_mesh\_shading\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0383.html - Description: 设置Mesh Shading算法参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0383_html.md ## CANN社区版-hi\_mpi\_isp\_get\_mesh\_shading\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0384.html - Description: 获取Mesh Shading算法参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0384_html.md ## CANN社区版-hi\_mpi\_isp\_set\_mesh\_shading\_gain\_lut\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0385.html - Description: 设置Mesh Shading增益表属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0385_html.md ## CANN社区版-hi\_mpi\_isp\_get\_mesh\_shading\_gain\_lut\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0386.html - Description: 获取Mesh Shading增益表属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0386_html.md ## CANN社区版-hi\_isp\_shading\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0388.html - Description: 定义Mesh Shading算法参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0388_html.md ## CANN社区版-hi\_isp\_shading\_gain\_lut - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0389.html - Description: 定义Mesh Shading增益表参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0389_html.md ## CANN社区版-hi\_isp\_bnr\_lsc\_gain\_lut - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0390.html - Description: 定义BayerNR所参考的LSC(lens shading correction,镜头阴影校正)增益表参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0390_html.md ## CANN社区版-hi\_isp\_shading\_lut\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0391.html - Description: 定义Mesh Shading增益表属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0391_html.md ## CANN社区版-hi\_mpi\_isp\_set\_drc\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0393.html - Description: 设置动态范围压缩参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0393_html.md ## CANN社区版-hi\_mpi\_isp\_get\_drc\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0394.html - Description: 获取动态范围压缩参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0394_html.md ## CANN社区版-hi\_isp\_drc\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0396.html - Description: 定义ISP DRC手动属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0396_html.md ## CANN社区版-hi\_isp\_drc\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0397.html - Description: 定义ISP DRC自动属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0397_html.md ## CANN社区版-hi\_isp\_drc\_asymmetry\_curve\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0398.html - Description: 定义ISP DRC Asymmetry Curve属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0398_html.md ## CANN社区版-hi\_isp\_drc\_curve\_select - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0399.html - Description: 定义ISP DRC Tone Mapping曲线类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0399_html.md ## CANN社区版-hi\_isp\_drc\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0400.html - Description: 定义ISP DRC属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0400_html.md ## CANN社区版-hi\_mpi\_isp\_get\_gamma\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0402.html - Description: 获取Gamma属性。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0402_html.md ## CANN社区版-hi\_mpi\_isp\_set\_gamma\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0403.html - Description: 设置Gamma属性。 - 0:成功。 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0403_html.md ## CANN社区版-hi\_isp\_gamma\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0405.html - Description: 定义ISP Gamma校正属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0405_html.md ## CANN社区版-hi\_isp\_gamma\_curve\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0406.html - Description: 定义Gamma曲线类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0406_html.md ## CANN社区版-hi\_mpi\_isp\_get\_hlc\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0408.html - Description: 获取图像的高光遮蔽属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0408_html.md ## CANN社区版-hi\_mpi\_isp\_set\_hlc\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0409.html - Description: 设置图像的高光遮蔽属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0409_html.md ## CANN社区版-hi\_isp\_hlc\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0411.html - Description: 定义ISP HLC属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0411_html.md ## CANN社区版-hi\_mpi\_isp\_get\_edge\_mark\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0413.html - Description: 获取图像边缘标记属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0413_html.md ## CANN社区版-hi\_mpi\_isp\_set\_edge\_mark\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0414.html - Description: 设置图像边缘标记属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0414_html.md ## CANN社区版-hi\_isp\_edge\_mark\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0416.html - Description: 定义ISP EdgeMark属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0416_html.md ## CANN社区版-hi\_mpi\_isp\_set\_sharpen\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0418.html - Description: 设定图像锐化属性。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0418_html.md ## CANN社区版-hi\_mpi\_isp\_get\_sharpen\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0419.html - Description: 获取图像锐化属性。 - 0:成功 - 非0:失败,参见 ISP返回码 。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0419_html.md ## CANN社区版-hi\_isp\_sharpen\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0421.html - Description: 定义图像锐化的手动属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0421_html.md ## CANN社区版-hi\_isp\_sharpen\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0422.html - Description: 定义图像锐化的自动属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0422_html.md ## CANN社区版-hi\_isp\_sharpen\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0423.html - Description: 定义图像锐化的属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0423_html.md ## CANN社区版-hi\_mpi\_isp\_get\_dehaze\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0425.html - Description: 获取Dehaze属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0425_html.md ## CANN社区版-hi\_mpi\_isp\_set\_dehaze\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0426.html - Description: 设置Dehaze属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0426_html.md ## CANN社区版-hi\_isp\_dehaze\_manual\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0428.html - Description: 定义去雾手动模式属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0428_html.md ## CANN社区版-hi\_isp\_dehaze\_auto\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0429.html - Description: 定义去雾自动模式属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0429_html.md ## CANN社区版-hi\_isp\_dehaze\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0430.html - Description: 定义ISP去雾属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0430_html.md ## 功能描述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0432.html - Description: Auto Flicker Type Detection(自动工频闪类型检测)是一个结合软件和硬件一起实现的算法。该算法能够计算出当前环境光源的频闪频率是50Hz还是60Hz\(当前版本只支持50HZ检测\)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0432_html.md ## CANN社区版-hi\_mpi\_isp\_calc\_flicker\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0433.html - Description: 输入帧信息,获取工频闪类型检测的结果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0433_html.md ## CANN社区版-hi\_isp\_calc\_flicker\_input - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0435.html - Description: 定义计算工频闪输入参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0435_html.md ## CANN社区版-hi\_isp\_calc\_flicker\_output - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0436.html - Description: 定义自动工频闪类型检测输出结果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0436_html.md ## CANN社区版-hi\_isp\_calc\_flicker\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0437.html - Description: 自动工频闪检测结果类型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0437_html.md ## CANN社区版-hi\_mpi\_mfusion\_set\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0439.html - Description: 设置motionfusion属性。 调用本接口前,必须调用himpisysinit进行系统初始化。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0439_html.md ## CANN社区版-hi\_mfusion\_steady\_detect\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0441.html - Description: 定义IMU噪声和静止检测灵敏度参数类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0441_html.md ## CANN社区版-hi\_mfusion\_attr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0442.html - Description: 定义motionfusion属性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0442_html.md ## CANN社区版-ISP提供的3A统计信息及相关配置 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0444.html - Description: ISP提供的3A统计信息及相关配置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0444_html.md ## AE区域统计信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0446.html - Description: AE按支持17×15分块进行统计,每个分块均可以输出16bit R,Gr, Gb,B均值\(Average R/Gr/Gb/B\)。以R、Gr为例,区块的统计信息读取地址与数据的对应关系如下表所示。m表示水平分区个数,n表示垂直分区个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0446_html.md ## 带权重的AE全局统计信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0447.html - Description: 与AE的区域统计信息基本一致,对于整幅图像,AE也提供了4个全局统计信息。分别为HI\_ISP\_AE\_TOTAL\_R\_AVER,HI\_ISP\_AE\_TOTAL\_GR\_AVER,HI\_ISP\_AE\_TOTAL\_GB\_AVER,HI\_ISP\_AE\_TOTAL\_B\_AVER。其物理意义与分块统计一致。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0447_html.md ## 带权重的AE直方图信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0448.html - Description: AE提供1024阶直方图统计0-1023,直方图信息读取地址与数据的对应关系如下表所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0448_html.md ## MG区域统计信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0450.html - Description: MG按17×15 分块统计,每个分块均可以输出 8bit R,Gr, Gb,B均值\(Average R/Gr/Gb/B\)。ISP统计算法内部区块的统计信息读取地址与数据的对应关系如下表所示。m表示水平分区个数,n表示垂直分区个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0450_html.md ## AWB区域统计信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0452.html - Description: AWB中最大支持图像的32x32 分块,每个分块均可以输出R、G、B均值\(Average R/G/B\)。其中统计的像素点均为16bit,分块内统计有效点个数Count All,点数统计值均已根据图像大小做了归一化处理,归一化到16bit。同时,每一个分块支持分亮度区间进行统计,最大支持分4个亮度区间。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0452_html.md ## AWB全局统计信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0453.html - Description: 与AWB的区域统计信息基本一致,对于整幅图像,AWB也提供了四个全局统计信息。分别为ISP\_AWB\_AVG\_R/G/B,ISP\_AWB\_CNT\_ALL。其物理意义与分块统计一致。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0453_html.md ## CANN社区版-hi\_mpi\_isp\_set\_stats\_cfg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0455.html - Description: 设置ISP 3A统计信息配置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0455_html.md ## CANN社区版-hi\_mpi\_isp\_get\_stats\_cfg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0456.html - Description: 获取ISP 3A统计信息配置。 该接口必须在调用himpiispinit接口之后才能调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0456_html.md ## CANN社区版-hi\_mpi\_isp\_get\_ae\_stats - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0457.html - Description: 获取AE统计信息。 该接口必须在调用himpiispinit接口之后才能调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0457_html.md ## CANN社区版-hi\_mpi\_isp\_get\_mg\_stats - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0458.html - Description: 获取MG统计信息。 该接口必须在调用himpiispinit接口之后才能调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0458_html.md ## CANN社区版-hi\_mpi\_isp\_get\_wb\_stats - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0459.html - Description: 获取WB统计信息。 该接口必须在调用himpiispinit接口之后才能调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0459_html.md ## CANN社区版-hi\_isp\_stats\_cfg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0461.html - Description: 定义ISP 3A统计信息配置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0461_html.md ## CANN社区版-hi\_isp\_ae\_stats\_cfg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0463.html - Description: 定义AE统计信息配置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0463_html.md ## CANN社区版-hi\_isp\_ae\_switch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0464.html - Description: 定义AE统计模块在ISP pipeline的位置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0464_html.md ## CANN社区版-hi\_isp\_ae\_four\_plane\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0465.html - Description: 启用FourPlaneMode。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0465_html.md ## CANN社区版-hi\_isp\_ae\_hist\_skip - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0466.html - Description: 直方图统计时采样点设置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0466_html.md ## CANN社区版-hi\_isp\_ae\_hist\_offset\_x - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0467.html - Description: 直方图统计时水平方向起始点设置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0467_html.md ## CANN社区版-hi\_isp\_ae\_hist\_offset\_y - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0468.html - Description: 直方图统计时垂直方向起始点设置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0468_html.md ## CANN社区版-hi\_isp\_ae\_hist\_config - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0469.html - Description: 定义全局直方图统计时的采样点方式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0469_html.md ## CANN社区版-hi\_isp\_ae\_stat\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0470.html - Description: 定义统计模块的开方模式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0470_html.md ## CANN社区版-hi\_isp\_ae\_crop - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0471.html - Description: 对AE模块输入图像进行裁剪。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0471_html.md ## CANN社区版-hi\_isp\_awb\_switch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0472.html - Description: 定义AWB统计模块在ISP pipeline的位置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0472_html.md ## CANN社区版-hi\_isp\_awb\_gain\_switch - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0473.html - Description: 定义AWB增益的位置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0473_html.md ## CANN社区版-hi\_isp\_awb\_crop - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0474.html - Description: 对AWB模块输入图像进行裁剪。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0474_html.md ## CANN社区版-hi\_isp\_wb\_stats\_cfg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0475.html - Description: 定义AWB统计信息配置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0475_html.md ## CANN社区版-hi\_isp\_ae\_grid\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0476.html - Description: 定义AE分区间统计信息的坐标信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0476_html.md ## CANN社区版-hi\_isp\_ae\_stats - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0477.html - Description: \#\#\#\# 说明 定义AE统计信息。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0477_html.md ## CANN社区版-hi\_isp\_ae\_stitch\_stats - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0478.html - Description: 定义拼接模式AE统计信息。当前版本不支持该功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0478_html.md ## CANN社区版-hi\_isp\_mg\_grid\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0479.html - Description: MG分区间统计信息的坐标信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0479_html.md ## CANN社区版-hi\_isp\_mg\_stats - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0480.html - Description: \#\#\#\# 说明定义 MG统计信息。 \#\#\#\# 定义 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0480_html.md ## CANN社区版-hi\_isp\_awb\_grid\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0481.html - Description: 定义AWB分区间统计信息的坐标信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0481_html.md ## CANN社区版-hi\_isp\_wb\_stats - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0482.html - Description: 定义AWB统计信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0482_html.md ## CANN社区版-hi\_isp\_wb\_stitch\_stats - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0483.html - Description: 定义拼接模式WB统计信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0483_html.md ## CANN社区版-hi\_isp\_focus\_stats\_cfg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0484.html - Description: 定义AF统计信息配置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0484_html.md ## CANN社区版-hi\_isp\_af\_cfg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0485.html - Description: 定义AF统计信息配置参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0485_html.md ## CANN社区版-hi\_isp\_af\_peak\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0486.html - Description: PEAK模式,决定分区间统计值是否进行求峰值处理。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0486_html.md ## CANN社区版-hi\_isp\_af\_squ\_mode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0487.html - Description: 平方模式,决定分区间统计值是否进行平方处理。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0487_html.md ## CANN社区版-hi\_isp\_af\_crop - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0488.html - Description: 对AF模块输入图像进行裁剪。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0488_html.md ## CANN社区版-hi\_isp\_af\_stats\_pos - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0489.html - Description: 配置AF模块统计位置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0489_html.md ## CANN社区版-hi\_isp\_af\_raw\_cfg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0490.html - Description: AF模块Bayer域配置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0490_html.md ## CANN社区版-hi\_isp\_af\_pre\_filter\_cfg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0491.html - Description: AF模块预滤波器配置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0491_html.md ## CANN社区版-hi\_isp\_af\_level\_depend - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0492.html - Description: AF Level Depend Gain模块配置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0492_html.md ## CANN社区版-hi\_isp\_af\_coring - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0493.html - Description: AF Coring模块配置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0493_html.md ## CANN社区版-hi\_isp\_af\_h\_param - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0494.html - Description: AF统计水平滤波器IIR参数设置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0494_html.md ## CANN社区版-hi\_isp\_af\_v\_param - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0495.html - Description: AF统计垂直滤波器FIR参数设置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0495_html.md ## CANN社区版-hi\_isp\_af\_fv\_param - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0496.html - Description: AF统计结果输出格式参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0496_html.md ## CANN社区版-hi\_isp\_focus\_zone - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0497.html - Description: 定义AF统计信息参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0497_html.md ## CANN社区版-hi\_isp\_fe\_focus\_stats - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0498.html - Description: 定义FE AF统计信息,当前不支持。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0498_html.md ## CANN社区版-hi\_isp\_be\_focus\_stats - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0499.html - Description: 定义BE AF统计信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0499_html.md ## CANN社区版-hi\_isp\_focus\_grid\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0500.html - Description: 定义AF分区间统计信息的坐标信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0500_html.md ## CANN社区版-hi\_isp\_af\_stats - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0501.html - Description: 定义FE和BE的AF统计信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0501_html.md ## 错误码 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevapi_0546.html - Description: **表1 ISP API错误码** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevapi_0546_html.md ## ISP Firmware介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0001.html - Description: ISP Firmware包含三部分,一部分是ISP控制单元和基础算法库,一部分是3A算法库(包括AE、AWB、AF算法库,其中,AF算法库当前不支持),一部分是Sensor库。仅 Atlas 200I/500 A2 推理产品 支持ISP Firmware功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0001_html.md ## ISP调优算法介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0002.html - Description: ISP模块支持标准的Sensor图像数据处理,包括自动白平衡、自动曝光、Demosaic、坏点矫正及镜头阴影矫正等基本功能,也支持WDR、DRC、降噪等高级处理功能。ISP主要支持的图像处理功能如下表所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0002_html.md ## 3A算法介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0004.html - Description: 3A算法库,包括AE、AWB、AF算法库,其中,AF算法库当前不支持。3A算法库以注册的方式,添加到Firmware中,完成曝光、白平衡、色彩还原等处理,接口调用流程请参见总体接口调用流程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0004_html.md ## Sensor对接 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0005.html - Description: Sensor库主要是为了提供差异化的Sensor适配,里面的内容可以分为两部分:Sensor向ISP库注册的差异化适配,这些差异化适配主要由Firmware中的基础算法单元决定;Sensor向3A库注册的差异化适配。Sensor的适配包括算法的初始化默认值,及Sensor控制接口,Sensor的适配是通过接口回调的形式注册给ISP库和3A算法库。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0005_html.md ## 向ISP库注册AE算法 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0007.html - Description: 1. 用户需要在自开发定制的AE库中实现以下回调函数(回调函数的说明请参见hi\_isp\_ae\_exp\_func),如下表所示:| 成员名称 | 描述 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0007_html.md ## 向ISP注册AWB算法 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0008.html - Description: 1. 用户需要在自开发定制的AWB库中实现以下回调函数(回调函数的说明请参见hi\_isp\_awb\_exp\_func),如下表所示:| 成员名称 | 描述 | - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0008_html.md ## 开发AE无光敏快速收敛功能 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0009.html - Description: 无光敏快速收敛是在没有光敏传感器反馈当前亮度的情况下,AE算法在启动后以最快速收敛到目标亮度范围的功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0009_html.md ## 调试流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0011.html - Description: 请按照下图所示流程进行调试。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0011_html.md ## 准备材料 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0012.html - Description: 需提前确认是否支持以下规格: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0012_html.md ## 硬件准备就绪 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0014.html - Description: 首先验证是否可以读写Sensor寄存器。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0014_html.md ## 完成初始化序列配置 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0015.html - Description: 配置初始化序列,建议参考版本发布包里面的Sensor驱动,以便于快速开发。为了方便调试,此时要排除AE配置及帧率配置的干扰,建议暂时空实现驱动中cmos\_get\_sns\_regs\_info函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0015_html.md ## Sensor输出 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0016.html - Description: 参考《DVPP媒体加速库\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/acce/dvpp/dvpp\_03\_0000.html\)》,依次配置vi、mipi、isp等模块。待整个系统运行起来,可以通过cat /proc/umap/mipi\_rx以及cat /proc/umap/vi查看各模块的调试信 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0016_html.md ## 开发ISP基本功能 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0017.html - Description: 本章节涉及Sensor部分,请仔细阅读Sensor的Datasheet,或联系Sensor原厂工程师。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0017_html.md ## 完成AE配置 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0018.html - Description: AE配置,请按如下顺序实现: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0018_html.md ## 完善功能 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0019.html - Description: 完善所有其它的函数,例如Sensor启停流控制、各函数里与Sensor工作模式的配合,确保所有功能工作正常。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0019_html.md ## 帧合成WDR模式 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0023.html - Description: - sensor\_init函数使用线性模式的初始化序列。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0023_html.md ## Built-in WDR模式 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0024.html - Description: Sensor输出的raw数据是压缩格式,因此需要使用EXPANDER模块实现解压缩功能。具体方法是在pfn\_cmos\_get\_isp\_default回调函数中配置hi\_isp\_cmos\_default.hi\_isp\_expander\_attr结构体。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0024_html.md ## GDC功能介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0026.html - Description: 几何畸变矫正(Geometric Distortion Correction,以下简称GDC)子系统实现的功能:对一帧图像进行鱼眼校正(包括360全景、180全景和Normal三种校正模式)、LDC(镜头畸变校正)校正功能。GDC相关API和参数说明请参见“媒体数据处理V2\(https://www.hiascend.comdocument/detail/zh/CANNCommunityEditio - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0026_html.md ## 鱼眼校正典型场景的调试说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0027.html - Description: 壁装时,推荐使用180全景校正模式或normal校正模式,演示效果及参数说明如下表所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0027_html.md ## 镜头畸变校正典型场景的调试说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0028.html - Description: **表1 桶形矫正说明** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0028_html.md ## DIS功能介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0058.html - Description: DIS(Digital Image Stabilization)数字图像防抖是对图像进行数字处理的过程,采用防抖算法计算出当前图像的运动偏移,然后根据计算得到的运动偏移对当前图像进行平移、旋转等变换,从而起到防抖的效果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0058_html.md ## DIS调试关键参数说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0059.html - Description: 在启动DIS前需要先设置DIS配置信息和属性等相关参数,参数的不同值会不同程度的影响防抖效果。这里主要介绍几个重要影响防抖效果的参数设置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0059_html.md ## 3DNR功能介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0061.html - Description: 3DNR是数字降噪,英文全名为Three-dimensional Noise Reduction,主要用来降低弱信号图像的噪波干扰,并通过对比相邻的几帧图像,将不重叠的信息(即噪波)自动滤出,从而显示出比较纯净细腻的画面。相比ISP中的去噪模块, 3DNR在YUV域做降噪,采用时域和空域相结合的形式,并且不需要做噪声标定。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0061_html.md ## 默认参数说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0063.html - Description: 3DNR参数的接口默认参数,如图1所示: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0063_html.md ## 空域接口参数说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0064.html - Description: 空域滤波包含0~4号基础滤波器即nXsf0、nXsf1、nXsf2、nXsf3、nXsf4,也包含基础滤波器的组合处理。不同级采用了不同类型的空域滤波器,第0级和第1级采用的滤波器去噪保边的能力较强,但易出现条状噪声(称为SFi滤波器组)。第2级和第3级的滤波器去噪保边的能力稍弱,但副作用较小(称为SFk滤波器组)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0064_html.md ## 时域接口参数说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0065.html - Description: 每一级均包含了时域的信息用于图像处理。第1级的时域可采用分层处理结构(第0层和第1层),其中每个时域的接口都有两套分别对应于两层(如果接口有多个参数,接口带上后缀0,1来区分层级,例如nXtfr0、nXtfr1)。针对IPC应用场景一般建议采用分层处理,将第1层设置为背景层,将第0层设置为前景层分开处理。其他三级采用了单层结构,其中第四级采用了利用时域信息的空域处理方式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0065_html.md ## 色度去噪参数说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0066.html - Description: 视频色度去噪接口NRc去噪主要调试参数为sfc,tfc,trc,tpc,mode,presfc。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0066_html.md ## IPC类非目标抓拍场景的3DNR调试 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0067.html - Description: 支持分层处理。可将图像划分为前景和背景层,分别配置相应的时域和空域系数。主要依赖时域去噪,空域去噪作为补充。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0067_html.md ## 注册函数的关系 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0212.html - Description: hi\_mpi\_isp\_ae\_lib\_reg\_callback和hi\_mpi\_isp\_awb\_lib\_reg\_callback这两个接口是ISP firmware库提供的钩子函数,用于开发3A算法库时实现注册动作。例如3A算法库的hi\_mpi\_ae\_register和hi\_mpi\_awb\_register接口,在实现时调用了相应的钩子函数,所以调用hi\_mpi\_ae\_register能实现AE算法库 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0212_html.md ## 扩展性的设计考虑 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0213.html - Description: 在代码中有hi\_vi\_pipe、hi\_isp\_3a\_alg\_lib、hi\_sensor\_id这样一些概念,这些概念是出于架构扩展性的考虑。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0213_html.md ## 3A架构的设计思路 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0214.html - Description: 设计思路基本是这样,ISP firmware初始化并销毁各个算法单元;在运行时,提供前一帧的统计信息,并根据返回值配置寄存器,其他内容,均由用户开发。所以当用户替换自己的3A算法后,当前的AE/AWB的MPI不可复用,cmos.c中的AE/AWB相关的内容不可复用,对于AE的权重配置和AWB的找白点配置的内容不可复用,这几个配置理论上是由3A算法配置,而不是从ISP firmware获取,ISP - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0214_html.md ## 外部寄存器的说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0215.html - Description: 在IPC的应用中,通常除了业务主程序进程外,板端还会有另外的进程去支持PC端的工具来调节图像质量。ISP的各个算法的许多状态、参数均驻留于全局变量中,不足以支持多进程的访问,所以引入外部寄存器的概念,用以支持多进程的业务场景。用户通过PC端工具与板端进程通信,调用提供的MPI,实际是改变外部寄存器中的内容,从而改变业务主程序中的ISP的各个算法的状态和参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0215_html.md ## 不同格式图像所需内存大小说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0217.html - Description: CEILING\(X, Y\)表示将X按Y大小向上取整对齐。以下计算公式以字节为单位,width表示图像宽度,height表示图像高度,bit\_width表示图像像素位宽。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0217_html.md ## CANN社区版-VI - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0219.html - Description: VI采集状态下一般会占用三个视频帧VB。一个用于当前帧采集,一个用于准备给下一帧采集,一个在轮转流程中(主要是后级模块占用)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0219_html.md ## CANN社区版-ISP - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0220.html - Description: 每路isp pipe,全量算法开启后,额外需要10M内存,内存占用较大的算法说明如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0220_html.md ## CANN社区版-VPSS - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0221.html - Description: - vpss chn buffer:每路chn一般至少需要3个YUV格式视频帧,一个用于当前帧处理,一个用于准备给下一帧处理,一个在轮转流程中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0221_html.md ## CANN社区版-MIPI\_RX - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0222.html - Description: 不涉及 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0222_html.md ## CANN社区版-VI - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0224.html - Description: 措施 相关接口 收益 影响 注意 proc信息 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0224_html.md ## CANN社区版-ISP - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0225.html - Description: 措施 相关接口/参数 收益 影响 注意 proc信息 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0225_html.md ## CANN社区版-VPSS - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0226.html - Description: 措施 相关模块参数/接口 收益 影响 注意 proc信息 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0226_html.md ## CANN社区版-MIPI\_RX - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0227.html - Description: 不涉及 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0227_html.md ## 工频闪类型自适应Sample用例处理流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/ispdevug/ispdevug_0228.html - Description: 图1 工频闪类型自适应Sample用例处理流程 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_ispdevug_ispdevug_0228_html.md ## CANN社区版-LLM-DataDist作为大模型分布式集群和数据管理组件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev - Description: LLM-DataDist作为大模型分布式集群和数据管理组件,提供了高性能、零拷贝的点对点KV传输的能力,该能力通过简易的API开放给用户。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmdastdev_001_html.md ## ClusterInfo和IpInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmc_42_0040.html - Description: 数据类型ClusterInfo和IpInfo定义在“$\{INSTALL\_DIR\}/include/ge/llm\_engine\_types.h”。$\{INSTALL\_DIR\}请替换为CANN软件安装后文件存储路径。以root用户安装为例,安装后文件默认存储路径为:/usr/local/Ascend/cann。具体信息如下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmc_42_0040_html.md ## 错误码 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmc_42_0041.html - Description: 错误码定义存放路径:"$\{INSTALL\_DIR\}/include/ge/llm\_error\_codes.h"和"$\{INSTALL\_DIR\}/include/llm\_datadist/llm\_datadist.h"。$\{INSTALL\_DIR\}请替换为CANN软件安装后文件存储路径。以root用户安装为例,安装后文件默认存储路径为:/usr/local/Ascend/cann。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmc_42_0041_html.md ## 读者对象 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcdv1_42_02.html - Description: 本文档用于指导开发者如何使用LLM-DataDist的C++接口实现集群间的数据传输,构建大模型推理分离式框架,从而提高大模型推理系统的吞吐性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcdv1_42_02_html.md ## 阅读向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcdv1_42_03.html - Description: 如果您对LLM-DataDist不太了解,或者首次阅读本文档。建议先阅读表1,帮助您快速了解手册内容,按需访问对应章节。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcdv1_42_03_html.md ## LLM-DataDist简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcdv1_42_05.html - Description: 在大模型推理场景下,随着模型batch size的增大,Prefill阶段的性能会线性降低,Decode阶段会额外占用更多的内存。两阶段对资源的需求不同,部署在一起导致资源分配不均,成本居高不下。通过LLM-DataDist构建的大模型推理分离式框架有效地解决了该问题。在分离式框架中,将Prefill和Decode分别部署在不同规格和架构的集群中,提升了性能和资源利用效率,提升了大模型推理系统吞吐 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcdv1_42_05_html.md ## LLM-DataDist应用场景 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcdv1_42_06.html - Description: 通过LLM-DataDist构建大模型推理PD分离式框架。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcdv1_42_06_html.md ## 整体开发流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcdv1_42_08.html - Description: 为了方便后续的描述,我们对于不同的推理框架抽象为几个模块: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcdv1_42_08_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcdv1_42_09.html - Description: 支持的产品形态如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcdv1_42_09_html.md ## 完整样例参考 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcdv1_42_10.html - Description: 本示例通过LLM-DataDist接口实现分离部署场景下KV Cache管理功能。为不同框架使用LLM-DataDist的功能提供一些参考和改造思路。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcdv1_42_10_html.md ## CANN社区版-建链 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcdv1_42_13.html - Description: 调用LinkLlmClusters接口在PD节点之间建立通信链路,链路主要用于KV Cache的传输。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcdv1_42_13_html.md ## CANN社区版-断链 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcdv1_42_14.html - Description: 调用UnlinkLlmClusters接口断开并清理PD之间的通信链路。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcdv1_42_14_html.md ## KV Cache管理 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcdv1_42_15.html - Description: 在LLM-DataDist初始化时会预申请一块指定大小的内存池,由OPTION\_BUF\_POOL\_CFG配置项决定其大小,后续的KV Cache的内存申请及释放都在预申请的内存上进行,相比每次执行时申请一块cache内存,可以节省耗时。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcdv1_42_15_html.md ## 角色切换 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcdv1_42_17.html - Description: 主要用于在PD集群节点数量固定的场景下,由于业务的变化,期望PD集群节点间可以相互切换,充分利用资源。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcdv1_42_17_html.md ## 公共前缀 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcdv1_42_18.html - Description: 公共前缀指的是模型推理的多个输入包含相同的起始部分。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcdv1_42_18_html.md ## 基本概念 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcdv1_42_20.html - Description: **表1 基本概念** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcdv1_42_20_html.md ## 大模型推理流程简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcdv1_42_21.html - Description: ChatGPT的推出意味着交互式人工智能逐渐成为商业化成熟产品,同时也进一步推动了底层技术大型语言模型LLM的研究和进步。现有主要使用的LLM包括GPT系列、LLAMA系列、GLM系列。其模型基础架构都采用Transformer架构,并以Decode-Only为主。该类Transformer-Based-Decode-Only的LLM在推理预测时,采用自回归生成(auto-regressive g - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcdv1_42_21_html.md ## 为什么要做PD分离 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcdv1_42_22.html - Description: 从实现上来看,整个LLM推理过程由Prefill和多轮迭代的Decode组成,想要在Decode阶段实现Continuous batching的前提是,每个被调度的request需要有空闲算力完成Prefill计算。按现有的部署模式,Prefill和Decode部署在一起,当有新的Prefill请求时,会被优先处理,从而导致Decode的执行流程由于增量token时延(TBT)而无法得到有效保障。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcdv1_42_22_html.md ## 头文件和库文件说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_02.html - Description: 相关头文件在$\{INSTALL\_DIR\}/include/llm\_datadist目录下,库文件在$\{INSTALL\_DIR\}/lib64/目录下。$\{INSTALL\_DIR\}请替换为CANN软件安装后文件存储路径。以root用户安装为例,安装后文件默认存储路径为:/usr/local/Ascend/cann。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_02_html.md ## LlmDataDist构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_04.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 创建LLM-DataDist对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_05_html.md ## LlmDataDist构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_05.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 创建LLM-DataDist对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_05_html.md ## ~LlmDataDist\(\) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_06.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 LLM-DataDist对象析构函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_06_html.md ## CANN社区版-Initialize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_07.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 初始化LLM-DataDist。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_07_html.md ## CANN社区版-Finalize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_08.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 LLM-DataDist的资源释放函数。 无 无 无 - 需要和 Initialize 配对使用。 - 分离部署下, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_08_html.md ## CANN社区版-SetRole - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_09.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 设置LLM-DataDist的角色。建议仅在使用PagedAttention的场景使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_09_html.md ## CANN社区版-LinkLlmClusters - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_10.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 进行Device间建链。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_10_html.md ## CANN社区版-UnlinkLlmClusters - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_11.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 进行Device间断链。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_11_html.md ## CANN社区版-PullKvCache - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_12.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 从远端节点拉取Cache到本地Cache,仅当角色为Decoder时可调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_12_html.md ## CANN社区版-PullKvBlocks - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_13.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 在传输Blocks Cache场景下,通过block列表的方式,从远端节点拉取Cache到本地Cache, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_13_html.md ## CANN社区版-CopyKvCache - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_14.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 拷贝KV Cache。支持D2D,D2H的拷贝。 当期望PullKvCache和其他使用Cache的操作流水时, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_14_html.md ## CANN社区版-CopyKvBlocks - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_15.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 PA场景下,通过block列表的方式拷贝KV Cache。支持D2D,D2H,H2D的拷贝。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_15_html.md ## CANN社区版-PushKvCache - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_16.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 推送Cache到远端节点,仅当角色为Prompt时可调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_16_html.md ## CANN社区版-PushKvBlocks - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_17.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 通过配置block列表的方式,从本地节点推送Cache到远端节点,仅当角色为Prompt时可调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_17_html.md ## CANN社区版-AllocateCache - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_18.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 分配Cache。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_18_html.md ## CANN社区版-LlmRole - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_20.html - Description: LLM-DataDist的角色 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_21_html.md ## CANN社区版-LlmRole - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_21.html - Description: LLM-DataDist的角色 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_21_html.md ## CANN社区版-CachePlacement - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_22.html - Description: Cache的内存类型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_22_html.md ## CANN社区版-CacheDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_23.html - Description: Cache的描述信息 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_23_html.md ## CANN社区版-CacheIndex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_24.html - Description: Cache的索引 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_24_html.md ## CANN社区版-Cache - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_25.html - Description: Cache,其中维护了一组tensor的地址 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_25_html.md ## ClusterInfo和IpInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_26.html - Description: 用于描述集群信息,用于建链与断链。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_26_html.md ## CANN社区版-KvCacheExtParam - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_27.html - Description: 调用Pull或Push相关接口时传入的扩展参数。``` - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmcrv1_42_27_html.md ## CANN社区版-LLM-DataDist作为大模型分布式集群和数据管理组件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmcrv1_42_30.html - Description: LLM-DataDist作为大模型分布式集群和数据管理组件,提供了高性能、零拷贝的点对点KV传输的能力,该能力通过简易的API开放给用户。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmdastdev_001_html.md ## CANN社区版-LLM-DataDist作为大模型分布式集群和数据管理组件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmdastdev_001.html - Description: LLM-DataDist作为大模型分布式集群和数据管理组件,提供了高性能、零拷贝的点对点KV传输的能力,该能力通过简易的API开放给用户。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmdastdev_001_html.md ## 读者对象 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpdv1_42_02.html - Description: 本文档用于指导开发者如何使用LLM-DataDist的Python接口实现点对点数据传输,构建大模型推理分离式框架,从而提高大模型推理系统的吞吐性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpdv1_42_02_html.md ## 阅读向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpdv1_42_03.html - Description: 如果您对LLM-DataDist不太了解,或者首次阅读本文档。建议先阅读表1,帮助您快速了解手册内容,按需访问对应章节。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpdv1_42_03_html.md ## LLM-DataDist简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpdv1_42_05.html - Description: 在大模型推理场景下,随着模型batch size的增大,Prefill阶段的性能会线性降低,Decode阶段会额外占用更多的内存。两阶段对资源的需求不同,部署在一起导致资源分配不均,成本居高不下。通过LLM-DataDist构建的大模型推理分离式框架有效地解决了该问题。在分离式框架中,将Prefill和Decode分别部署在不同规格和架构的集群中,提升了性能和资源利用效率,提升了大模型推理系统吞吐 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpdv1_42_05_html.md ## LLM-DataDist应用场景 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpdv1_42_06.html - Description: 通过LLM-DataDist构建大模型推理PD分离式框架。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpdv1_42_06_html.md ## 整体开发流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpdv1_42_08.html - Description: 为了方便后续的描述,我们对于不同的推理框架抽象为几个模块: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpdv1_42_08_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpdv1_42_09.html - Description: 支持的产品形态如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpdv1_42_09_html.md ## 完整样例参考 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpdv1_42_10.html - Description: 本示例是以transformers的LLAMA模型为样例,主要展示PD分离前后的脚本变化点,提供如何从非分离脚本改为PD分离脚本的一个参考,PD分离脚本示例请单击Gitee\(https://gitee.com/ascend/torchair/tree/master\#version\_match\),根据版本配套表下载对应版本的sample包,从“npu\_tuned\_model/llm/llama/be - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpdv1_42_10_html.md ## 链路管理 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpdv1_42_12.html - Description: NN模型执行时调用的HCCL集合通信接口是双边通信,即需要两边同时发起建链,而在P-D分离方案中,简化建链操作,由Client单侧发起建链。由于动态扩缩的部分大多数是Decode侧,因此将P定义为Server端,D定义为Client端,建链过程实现由D向P发起建链的流程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpdv1_42_12_html.md ## KV Cache管理 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpdv1_42_13.html - Description: 在LLM-DataDist初始化时会预申请一块指定大小的内存池,由ge.flowGraphMemMaxSize配置项决定其大小,后续的KV Cache的内存申请及释放都在预申请的内存上进行,相比每次申请一块内存,可以节省耗时。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpdv1_42_13_html.md ## KV Cache换入换出 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpdv1_42_15.html - Description: KV Cache换入换出指将KV Cache从Device换出到Host,或者从Host换入Device。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpdv1_42_15_html.md ## 公共前缀 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpdv1_42_16.html - Description: 公共前缀指的是在一次推理过程中,多个输入提示包含相同的起始部分。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpdv1_42_16_html.md ## 基本概念 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpdv1_42_18.html - Description: **表1 基本概念** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpdv1_42_18_html.md ## 大模型推理流程简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpdv1_42_19.html - Description: ChatGPT的推出意味着交互式人工智能逐渐成为商业化成熟产品,同时也进一步推动了底层技术大型语言模型LLM的研究和进步。现有主要使用的LLM包括GPT系列、LLAMA系列、GLM系列。其模型基础架构都采用Transformer架构,并以Decode-Only为主。该类Transformer-Based-Decode-Only的LLM在推理预测时,采用自回归生成(auto-regressive g - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpdv1_42_19_html.md ## 为什么要做PD分离 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpdv1_42_20.html - Description: 从实现上来看,整个LLM推理过程由Prefill和多轮迭代的Decode组成,想要在Decode阶段实现Continuous batching的前提是,每个被调度的request需要有空闲算力完成Prefill计算。按现有的部署模式,Prefill和Decode部署在一起,当有新的Prefill请求时,会被优先处理,从而导致Decode的执行流程由于增量token时延(TBT)而无法得到有效保障。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpdv1_42_20_html.md ## LLM-DataDist接口列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0002.html - Description: LLM-DataDist:大模型分布式集群和数据加速组件,提供了集群KV数据管理能力,以支持全量图和增量图分离部署。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0002_html.md ## LLMDataDist构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0004.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造LLMDataDist。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0004_html.md ## CANN社区版-init - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0005.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 初始化LLMDataDist。通过单边建链,即Client向Server发起建链,Prompt作为Server, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0005_html.md ## CANN社区版-finalize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0006.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 释放LLMDataDist。 无 无 初始化成功后,系统退出前需要调用finalize。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0006_html.md ## CANN社区版-link\_clusters - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0007.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 由Client单侧发起建链。由于动态扩缩的部分大部分是Decode侧,因此将P定义为Server端, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0007_html.md ## CANN社区版-unlink\_clusters - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0008.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 断链。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0008_html.md ## CANN社区版-check\_link\_status - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0009.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 可快速检测链路状态是否正常。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0009_html.md ## CANN社区版-kv\_cache\_manager - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0010.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取KvCacheManager实例。 无 返回KvCacheManager实例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0010_html.md ## CANN社区版-switch\_role - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0011.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 切换当前LLMDataDist的角色,建议仅在使用PagedAttention的场景使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0011_html.md ## LLMConfig构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0019.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造LLMConfig,调用init接口需要传入一个配置项字典,为了简化配置,可以通过此类来构造该配置项字典。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0019_html.md ## CANN社区版-generate\_options - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0020.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 生成配置项字典。 无 返回配置项字典。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0020_html.md ## CANN社区版-device\_id - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0021.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 设置当前进程Device ID,对应底层ge.exec.deviceId配置项。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0021_html.md ## CANN社区版-sync\_kv\_timeout - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0022.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 配置一系列接口的超时时间,对应底层llm.SyncKvCacheWaitTime配置项。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0022_html.md ## CANN社区版-enable\_switch\_role - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0023.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 配置是否支持角色平滑切换,对应底层llm.EnableSwitchRole配置项。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0023_html.md ## CANN社区版-ge\_options - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0024.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 配置额外的GE配置项。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0024_html.md ## CANN社区版-listen\_ip\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0025.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 PROMPT侧设置集群侦听信息,对应底层llm.listenIpInfo配置项。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0025_html.md ## CANN社区版-mem\_utilization - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0026.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 配置ge.flowGraphMemMaxSize内存的利用率。默认值0.95。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0026_html.md ## CANN社区版-buf\_pool\_cfg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0027.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 用户指定内存档位配置,提高内存申请性能和使用率。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0027_html.md ## KvCacheManager构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0035.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 KvCacheManager的实例应该通过kvcachemanager返回。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0035_html.md ## CANN社区版-is\_initialized - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0036.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 查询KvCacheManager实例是否已初始化。 NA 如果LLMDataDist已初始化,则返回True。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0036_html.md ## CANN社区版-allocate\_cache - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0037.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 分配Cache,分配成功后,会同时被cacheid与cachekeys引用,只有当这些引用都解除后, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0037_html.md ## CANN社区版-deallocate\_cache - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0038.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 释放Cache。 如果该Cache在Allocate时关联了CacheKey, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0038_html.md ## CANN社区版-remove\_cache\_key - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0039.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 移除CacheKey,仅当LLMRole为PROMPT时可调用。 移除CacheKey后, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0039_html.md ## CANN社区版-pull\_cache - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0040.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 根据CacheKey,从对应的Prompt节点拉取KV到本地KV Cache,仅当LLMRole为DECODER时可调用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0040_html.md ## CANN社区版-copy\_cache - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0041.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 拷贝KV Cache。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0041_html.md ## CANN社区版-get\_cache\_tensors - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0042.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取cache tensor。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0042_html.md ## CANN社区版-allocate\_blocks\_cache - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0043.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 PagedAttention场景下,分配多个blocks的Cache,Cache分配成功后, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0043_html.md ## CANN社区版-pull\_blocks - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0044.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 PagedAttention场景下,根据BlocksCacheKey, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0044_html.md ## CANN社区版-copy\_blocks - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0045.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 PagedAttention场景下,拷贝block。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0045_html.md ## CANN社区版-swap\_blocks - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0046.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 对cpucache和npucache进行换入换出。 对于swap out功能, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0046_html.md ## CANN社区版-transfer\_cache\_async - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0047.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 异步分层传输KV Cache。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0047_html.md ## KvCache构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0049.html - Description: 构造KvCache,该接口通常不需要用户调用,KvCache对象由KvCacheManager.allocate\_cache或allocate\_blocks\_cache返回。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0049_html.md ## CANN社区版-cache\_id - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0050.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取KvCache的id。 无 正常情况返回类型为KvCache的id。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0050_html.md ## CANN社区版-cache\_desc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0051.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取KvCache描述。 无 正常情况返回类型为KvCache的cache描述。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0051_html.md ## CANN社区版-per\_device\_tensor\_addrs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0052.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取KvCache的地址。 无 正常情况返回类型为KVCache的地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0052_html.md ## CANN社区版-create\_cpu\_cache - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0053.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 创建cpu cache。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0053_html.md ## CANN社区版-LLMRole - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0078.html - Description: 调用init接口传入的角色类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0078_html.md ## LLMClusterInfo构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0080.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造LLMClusterInfo,用于linkclusters和unlinkclusters接口的参数类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0080_html.md ## CANN社区版-remote\_cluster\_id - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0081.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 设置对端集群ID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0081_html.md ## CANN社区版-append\_local\_ip\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0082.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 添加本地集群IP信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0082_html.md ## CANN社区版-append\_remote\_ip\_info - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0083.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 添加远端集群IP信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0083_html.md ## CANN社区版-Placement - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0085.html - Description: 表示Cache所在位置,通常作为CacheDesc的placement参数的类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0085_html.md ## CANN社区版-CacheDesc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0086.html - Description: 构造CacheDesc,通常在KvCacheManager的allocate\_cache接口中作为参数类型使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0086_html.md ## CANN社区版-CacheKey - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0089.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造CacheKey, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0089_html.md ## CANN社区版-CacheKeyByIdAndIndex - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0090.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造CacheKeyByIdAndIndex,通常在pullcache接口中作为参数类型使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0090_html.md ## CANN社区版-BlocksCacheKey - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0091.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造BlocksCacheKey, - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0091_html.md ## CANN社区版-LayerSynchronizer - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0093.html - Description: 抽象类,需要由用户继承该抽象类实现相关接口。当前该类下只有一个接口synchronize\_layer。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0093_html.md ## CANN社区版-TransferConfig - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0094.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造TransferConfig。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0094_html.md ## CANN社区版-TransferWithCacheKeyConfig - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0095.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造TransferWithCacheKeyConfig。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0095_html.md ## CacheTask构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0097.html - Description: 构造CacheTask,由KvCacheManager.transfer\_cache\_async接口返回,表示分层传输异步任务。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0097_html.md ## CANN社区版-synchronize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0098.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 等待所有层传输完成,并获取整体执行结果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0098_html.md ## CANN社区版-get\_results - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0099.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 等待所有层传输完成,并获取每个TransferConfig对应执行结果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0099_html.md ## CANN社区版-LLMException - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0100.html - Description: 调用LLMDataDist各接口,异常场景可能抛出LLMException异常。当前该类下只有一个接口status\_code。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0100_html.md ## CANN社区版-LLMStatusCode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0101.html - Description: LLMException中status\_code对应的枚举类,枚举值及解决方法如下表。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0101_html.md ## CANN社区版-DataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0102.html - Description: DataType枚举类,枚举值如下表所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0102_html.md ## TensorDesc构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0137.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造TensorDesc。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0137_html.md ## CANN社区版-dtype - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0138.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取dtype属性值。 无 返回dtype。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0138_html.md ## CANN社区版-shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0139.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取shape属性值。 无 返回shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0139_html.md ## Tensor构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0141.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 构造Tensor。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0141_html.md ## CANN社区版-numpy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/llmdatadistdev/llmpr_42_0142.html - Description: 说明: Atlas A2 训练系列产品 / Atlas A2 推理系列产品 :针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。 获取tensor的numpy数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_llmdatadistdev_llmpr_42_0142_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0001.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0003.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0004.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0005.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0006.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0007.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0009.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0011.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0012.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0014.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0015.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0016.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0018.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0019.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0020.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0022.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0023.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0024.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0025.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0027.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0028.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0029.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0031.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0032.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0033.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0034.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0039.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0040.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0046.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0047.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhiva_01_0048.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0001.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0002.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0004.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0005.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0006.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0007.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0008.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0009.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0010.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0011.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0012.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0013.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0014.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0015.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0016.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0017.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0018.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0019.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0021.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0022.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0023.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0024.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0025.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0027.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0028.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0029.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0030.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0031.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0032.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0033.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0034.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0036.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0037.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0038.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0039.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0040.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0042.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0043.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0044.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0046.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0047.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0048.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0049.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0051.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0052.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0055.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0056.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0058.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0059.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0061.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0062.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0063.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0064.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0065.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0066.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0067.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0068.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0069.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0070.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0071.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0073.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0074.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0075.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0078.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0080.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0081.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0082.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0084.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0085.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0086.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0087.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0088.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0089.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0090.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0091.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0092.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0094.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0095.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0096.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0097.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0099.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-CANN提供了一套C语言API库和一套Python语言API库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/openhivadevg/atlasopenhivaapi_07_0100.html - Description: CANN提供了一套C语言API库和一套Python语言API库,Python接口是基于C语言接口,使用CPython封装而成的Python API库。您可以基于这两套接口,利用AI处理器的硬件计算资源,在CANN上进行深度学习推理计算、图形图像预处理、单算子加速计算等。这套C语言API库(下文简称acl接口)和Python语言API库(下文简称pyacl接口),包含运行时管理、单算子调用、模型管理 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_acldevg_acldevg_0001_html.md ## CANN社区版-Ascend 950PR / Ascend 950DT - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev - Description: Ascend 950PR / Ascend 950DT - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_RPing_02_0001_html.md ## 接口列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0001.html - Description: RPing是一种基于RDMA/UB的网络探测技术,昇腾AI软件栈提供了RPing功能相关接口供开发者调用,用以实现发送检测报文、记录网络时延、统计报文收发情况,从而帮助客户进行网络链路状态的监测。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0001_html.md ## CANN社区版-HccnRpingInit - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0002.html - Description: 初始化参与RPing的Device,启动网络状态监测。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0002_html.md ## CANN社区版-HccnRpingDeinit - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0003.html - Description: 释放内存资源。 HccnResult类型错误码的解析结果。 - 该接口会主动释放资源,若入参rpingCtx指向为空可能会触发异常。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0003_html.md ## CANN社区版-HccnRpingAddTarget - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0004.html - Description: 添加探测目标,建立client与target之间的RPing通信链路。 其中client为发送端NPU,target为接收端NPU。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0004_html.md ## CANN社区版-HccnRpingRemoveTarget - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0005.html - Description: 删除探测目标并关闭RPing功能的通信链路。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0005_html.md ## CANN社区版-HccnRpingGetTarget - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0006.html - Description: 获取链路状态信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0006_html.md ## CANN社区版-HccnRpingBatchPingStart - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0007.html - Description: 发起探测请求。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0007_html.md ## CANN社区版-HccnRpingBatchPingStop - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0008.html - Description: 中止探测请求。 HccnResult类型错误码的解析结果。 该接口需要与HccnRpingBatchPingStart接口配对使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0008_html.md ## CANN社区版-HccnRpingGetResult - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0009.html - Description: 获取对目标的探测结果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0009_html.md ## CANN社区版-HccnResult - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0011.html - Description: 定义RPing功能相关操作的返回值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0011_html.md ## CANN社区版-HccnRpingMode - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0012.html - Description: 定义RPing功能使用的网络类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0012_html.md ## CANN社区版-HccnRpingAddTargetState - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0013.html - Description: 定义添加探测目标操作的返回状态。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0013_html.md ## CANN社区版-HccnRpingInitAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0014.html - Description: 定义RPing功能初始化时要配置的参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0014_html.md ## CANN社区版-HccnRpingTargetInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0015.html - Description: 定义需要被探测的target信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0015_html.md ## CANN社区版-HccnRpingResultInfo - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0016.html - Description: 定义RPing的探测结果信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0016_html.md ## CANN社区版-HccnRpingResultState - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0017.html - Description: 定义RPing的探测结果是否有效。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0017_html.md ## CANN社区版-HccnRpingCtx - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0018.html - Description: 指向RPing对象的句柄。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0018_html.md ## CANN社区版-HccnRpingGetPayload - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0019.html - Description: 获取对目标探测报文的自定义payload。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0019_html.md ## CANN社区版-HccnRpingTimestamp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0020.html - Description: \#\#\#\# 功能 时间戳的数据结构。 \#\#\#\# 定义原型 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0020_html.md ## CANN社区版-HccnRpingPayloadHead - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0021.html - Description: 保存自定义payload数据头的数据结构。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0021_html.md ## CANN社区版-HccnRpingAddTargetWithCfg - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0022.html - Description: 添加探测目标,建立client与target之间的RPing通信链路,支持RPing超时时间可配置。 其中client为发送端NPU,target为接收端NPU。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0022_html.md ## CANN社区版-HccnRpingAddTargetConfig - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/hccnrpingapi_07_0023.html - Description: 定义RPing超时时间配置的数据结构。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_hccnrpingapi_07_0023_html.md ## CANN社区版-Ascend 950PR / Ascend 950DT - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/RPing_02_0001.html - Description: Ascend 950PR / Ascend 950DT - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_RPing_02_0001_html.md ## 开发流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/RPing_02_0002.html - Description: 介绍RPing功能实现的详细流程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_RPing_02_0002_html.md ## 样例参考 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/rpingdev/RPing_02_0003.html - Description: 本节给出实现RPing功能的完整代码样例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_rpingdev_RPing_02_0003_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg - Description: TBE算子开发后续版本不再演进,推荐参考《Ascend C算子开发指南\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/850alpha001/opdevg/Ascendcopdevg/atlas\_ascendc\_10\_0001.html\)》完成自定义算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0001_html.md ## CANN社区版-AI CPU是AI处理器的计算单元 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0001.html - Description: AI CPU是AI处理器的计算单元,AI CPU算子,是运行在AI处理器中AI CPU计算单元上的表达一个完整计算逻辑的运算。在NN模型训练或者推理过程中,将第三方开源框架转化为适配AI处理器的模型时遇到了AI处理器不支持的算子。此时,为了快速打通模型执行流程,用户可以通过自定义AI CPU算子进行功能调测,提升调测效率。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0001_html.md ## CpuKernelContext构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0003.html - Description: CpuKernelContext构造函数和析构函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0003_html.md ## CANN社区版-GetOpType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0004.html - Description: \#\#\#\# 函数功能 获取算子的类型。 \#\#\#\# 函数原型 std::string GetOpType\(\) const \#\#\#\# 参数说明 无。 \#\#\#\# 返回值说明 std::string,算子的类型。 \#\#\#\# 约束说明 无。 \#\#\#\# 调用示例 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0004_html.md ## CANN社区版-Input - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0005.html - Description: 获取输入Tensor。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0005_html.md ## CANN社区版-Output - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0006.html - Description: 获取输出Tensor。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0006_html.md ## CANN社区版-GetAttr - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0007.html - Description: \#\#\#\# 函数功能 获取算子的属性。 输入参数name需要为有效值。若获取失败,则返回空指针。 \#\#\#\# 函数原型 AttrValue GetAttr\(std::string name\) const \#\#\#\# 参数说明 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0007_html.md ## CANN社区版-GetInputsSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0008.html - Description: 获取输入Tensor的个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0008_html.md ## CANN社区版-GetOutputsSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0009.html - Description: 获取输出Tensor的个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0009_html.md ## CANN社区版-Init - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0010.html - Description: 初始化CpuKernelContext对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0010_html.md ## TensorShape构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0012.html - Description: TensorShape构造函数和析构函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0012_html.md ## CANN社区版-SetFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0013.html - Description: 设置Tensor的数据排布格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0013_html.md ## CANN社区版-GetFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0014.html - Description: 获取Tensor的数据排布格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0014_html.md ## CANN社区版-GetUnknownRank - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0015.html - Description: 获取是否为未知的rank。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0015_html.md ## CANN社区版-GetDimSizes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0017.html - Description: 获取Tensor的shape的值,即Tensor的数据维度大小,用std::vector表征每一个维度的具体大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0017_html.md ## CANN社区版-SetDimSizes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0018.html - Description: 设置Tensor的shape的值,即Tensor的数据维度大小,用std::vector表征每一个维度的具体大小。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0018_html.md ## CANN社区版-GetDimSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0019.html - Description: 获取shape的某一维度的长度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0019_html.md ## CANN社区版-GetDims - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0020.html - Description: 获取Tensor的shape的总维度数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0020_html.md ## CANN社区版-NumElements - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0021.html - Description: 获取shape的元素个数,即所有dim取值的累乘结果。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0021_html.md ## CANN社区版-GetTensorShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0023.html - Description: 获取Tensor的shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0023_html.md ## CANN社区版-SetTensorShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0024.html - Description: 设置Tensor的shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0024_html.md ## CANN社区版-SetDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0025.html - Description: 设置Tensor的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0025_html.md ## CANN社区版-GetDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0026.html - Description: 获取Tensor的数据类型。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0026_html.md ## CANN社区版-SetData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0027.html - Description: 设置Tensor的数据地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0027_html.md ## CANN社区版-GetData - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0028.html - Description: 获取Tensor的数据地址。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0028_html.md ## CANN社区版-SetDataSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0029.html - Description: 设置Tensor的数据占用内存大小,单位字节。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0029_html.md ## CANN社区版-GetDataSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0030.html - Description: 获取Tensor的数据占用的内存大小,单位字节。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0030_html.md ## CANN社区版-CalcDataSizeByShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0031.html - Description: 根据shape计算Tensor的数据占用内存大小,单位字节。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0031_html.md ## CANN社区版-GetString - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0035.html - Description: 获取string类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0035_html.md ## CANN社区版-SetString - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0036.html - Description: 设置string类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0036_html.md ## CANN社区版-GetListString - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0037.html - Description: 获取list string类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0037_html.md ## CANN社区版-AddListString - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0038.html - Description: 向list string类型的属性中追加一个string类型的元素。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0038_html.md ## CANN社区版-SetListString - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0039.html - Description: 设置list string类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0039_html.md ## CANN社区版-ListStringSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0040.html - Description: 获取list string类型的属性中string元素的个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0040_html.md ## CANN社区版-GetInt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0041.html - Description: 获取int类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0041_html.md ## CANN社区版-SetInt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0042.html - Description: 设置int类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0042_html.md ## CANN社区版-GetListInt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0043.html - Description: 获取list int类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0043_html.md ## CANN社区版-AddListInt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0044.html - Description: 向list int类型的属性中添加的int类型的元素。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0044_html.md ## CANN社区版-GetListListInt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0046.html - Description: 获取list list int类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0046_html.md ## CANN社区版-SetListListInt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0047.html - Description: 设置list list int类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0047_html.md ## CANN社区版-ListIntSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0048.html - Description: 获取list int类型的属性中int元素的个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0048_html.md ## CANN社区版-GetFloat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0049.html - Description: 获取float类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0049_html.md ## CANN社区版-GetListFloat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0051.html - Description: 获取list float类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0051_html.md ## CANN社区版-AddListFloat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0052.html - Description: 向list float类型的属性中追加float元素。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0052_html.md ## CANN社区版-SetBool - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0056.html - Description: 设置bool类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0056_html.md ## CANN社区版-GetListBool - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0057.html - Description: 获取list bool类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0057_html.md ## CANN社区版-AddListBool - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0058.html - Description: 向list bool类型的属性中追加bool元素。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0058_html.md ## CANN社区版-SetListBool - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0059.html - Description: 设置list bool类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0059_html.md ## CANN社区版-GetDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0061.html - Description: 获取DataType类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0061_html.md ## CANN社区版-SetDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0062.html - Description: 设置DataType类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0062_html.md ## CANN社区版-GetListDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0063.html - Description: 获取list DataType类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0063_html.md ## CANN社区版-AddListDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0064.html - Description: 向list DataType类型的属性中添加DataType类型的元素。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0064_html.md ## CANN社区版-SetListDataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0065.html - Description: 设置AttrValue的list DataType类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0065_html.md ## CANN社区版-ListDataTypeSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0066.html - Description: 获取list DataType类型的属性中DataType类型的元素个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0066_html.md ## CANN社区版-ListTensorShapeSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0067.html - Description: 获取AttrValue的list TensorShape属性中TensorShape元素个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0067_html.md ## CANN社区版-SetTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0068.html - Description: 设置AttrValue的Tensor类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0068_html.md ## CANN社区版-GetTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0069.html - Description: 获取AttrValue的Tensor类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0069_html.md ## CANN社区版-SetListTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0070.html - Description: 设置list Tensor类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0070_html.md ## CANN社区版-GetListTensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0072.html - Description: 获取list Tensor类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0072_html.md ## CANN社区版-ListTensorSize - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0073.html - Description: 获取list Tensor类型的属性中Tensor类型的元素个数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0073_html.md ## CANN社区版-SetTensorShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0075.html - Description: 设置TensorShape类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0075_html.md ## CANN社区版-GetTensorShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0076.html - Description: 获取TensorShape类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0076_html.md ## CANN社区版-GetListTensorShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0077.html - Description: 获取AttrValue的list TensorShape类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0077_html.md ## CANN社区版-AddListTensorShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0078.html - Description: 向AttrValue的list TensorShape属性中添加TensorShape类型的元素。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0078_html.md ## CANN社区版-SetListTensorShape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0079.html - Description: 设置AttrValue的list TensorShape类型的属性值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0079_html.md ## CANN社区版-DataType - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0084.html - Description: ``` enum DataType \{ DTFLOAT \= 0, // float type DTFLOAT16 \= 1, // fp16 type DTINT8 \= 2, // int8 type DTINT16 \= 6, // int16 type DTUINT16 \= 7, // uint16 t - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0084_html.md ## CANN社区版-Format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0085.html - Description: ``` enum Format \{ FORMATNCHW \= 0, // NCHW FORMATNHWC, // NHWC FORMATND, // Nd Tensor FORMATNC1HWC0, // NC1HWC0 FORMATFRACTALZ, // FRACTALZ FORMATNC1C0HWPAD, FORMATNHWC1C0, FORMATFSRNCHW - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0085_html.md ## Dump日志接口 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0090.html - Description: 记录AI CPU算子执行过程中的日志信息,便于功能调测。目前提供DEBUG/INFO/WARNING/ERROR级别的日志接口。日志Dump功能的具体使用方法请参考日志Dump功能使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0090_html.md ## NodeDefBuilder类 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0091.html - Description: NodeDef是一个Protocol Buffer,用于框架UT/ST测试时,构造节点信息,包含了节点的名称、类型、输入和输出等信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0091_html.md ## CANN社区版-Instance - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0094.html - Description: 获取AI CPU算子Kernel注册类的实例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0094_html.md ## CANN社区版-GetCpuKernel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0095.html - Description: 获取AI CPU算子Kernel的Compute函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0095_html.md ## CANN社区版-GetAllRegisteredOpTypes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0096.html - Description: 获取所有注册了AI CPU算子Kernel的算子类型信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0096_html.md ## CANN社区版-RunCpuKernelAsync - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlascpuapi_10_0098.html - Description: 异步执行AI CPU算子Kernel的Compute函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlascpuapi_10_0098_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0001.html - Description: TBE算子开发后续版本不再演进,推荐参考《Ascend C算子开发指南\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/850alpha001/opdevg/Ascendcopdevg/atlas\_ascendc\_10\_0001.html\)》完成自定义算子开发。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0001_html.md ## 了解算子开发场景 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0002.html - Description: CANN算子库包含了丰富的高性能算子,让神经网络的运行性能更高。CANN算子库中的算子都是预先实现和编译的,是华为工程师使用AI处理器架构专用编程语言开发的高度优化的内核函数,能够较好的适配底层硬件架构,具有较高的性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0002_html.md ## CANN算子类型介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0005.html - Description: 首先看下CANN算子在AI处理器中的位置,如图1所示,其中:- AI Core是AI处理器的计算核心,负责执行矩阵、向量、标量计算密集的算子任务。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0005_html.md ## AI CPU简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0011.html - Description: AI CPU负责执行AI处理器的CPU类算子(包括控制算子、标量和向量等通用计算),其在解决方案系统架构中的位置如下所示: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0011_html.md ## 算子编译运行流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0012.html - Description: 一个完整的CANN算子包含四部分:算子原型定义、对应开源框架的算子适配插件、算子信息库定义和算子实现。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0012_html.md ## 全新开发 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0015.html - Description: 全新开发,指CANN算子库中不包含相应的算子,需要先完成自定义算子的开发,再进行第三方框架的适配。可以查看《算子库》\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/API/aolapi\),判断算子库是否包含对应算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0015_html.md ## 硬件变更后适配 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0017.html - Description: 仅TBE自定义算子存在硬件变更后需要适配的场景,AI CPU自定义算子不涉及,即AI CPU算子与AI处理器的型号无关。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0017_html.md ## 选择算子开发方式 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0018.html - Description: 在章节CANN算子类型介绍中,我们了解到CANN算子有几种开发方式:TBE DSL、TBE TIK与AI CPU。针对全新开发的算子,在进行代码开发前,首先需要选择合适的算子实现方式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0018_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0019.html - Description: - 进行自定义算子开发前,需要完成驱动及CANN软件的安装,详情可参见《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/920beta1/softwareinst/instg/instg\_0000.html\)》。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0019_html.md ## 基于msopgen工具 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0024.html - Description: CANN开发套件包中提供了自定义算子工程生成工具msopgen,可基于算子原型定义输出算子开发相关交付件,包括算子代码实现文件、算子适配插件、算子原型定义、算子信息库定义以及工程编译配置文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0024_html.md ## 基于算子样例 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0025.html - Description: 命令行场景下,开发者可以直接基于Ascend社区中提供的自定义算子样例工程进行修改,追加自定义算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0025_html.md ## CANN社区版-原理 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0028.html - Description: 算子原型定义规定了在AI处理器上可运行算子的约束,主要体现算子的数学含义,包含定义算子输入、输出和属性信息,基本参数的校验和shape的推导,原型定义的信息会被注册到GE的算子原型库中。网络模型生成时,GE会调用算子原型库的校验接口进行基本参数的校验,校验通过后,会根据原型库中的推导函数推导每个节点的输出shape与dtype,进行输出tensor的静态内存的分配。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0028_html.md ## 算子IR注册 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0029.html - Description: 算子的原型(即IR)用于进行算子的描述,包括算子输入输出信息,属性信息等,用于把算子注册到算子原型库中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0029_html.md ## Shape推导与校验 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0030.html - Description: IR实现的cc文件中主要实现如下两个功能: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0030_html.md ## DSL简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0032.html - Description: 为了方便开发者进行自定义算子开发,TBE(Tensor Boost Engine)提供了一套计算接口供开发者用于组装算子的计算逻辑,这套计算接口称之为DSL(Domain-Specific Language)。基于DSL开发的算子,可以直接使用TBE提供的Auto Schedule机制,自动完成调度过程,省去最复杂的调度编写过程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0032_html.md ## 入门示例 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0033.html - Description: 使用TBE DSL进行算子开发,开发者只需要关注算子本身计算逻辑,无需关注调度策略,开发方式简单便捷。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0033_html.md ## 算子实现流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0034.html - Description: 基于TBE DSL进行算子开发时,由于算子调度依赖Auto Schedule机制,算子开发层面无法直接控制,因此开发者基于TBE DSL算子开发时只需要重点关注算子的计算过程的实现,同时在计算过程中可以通过一些方式进行算子精度和性能的提升。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0034_html.md ## 代码结构介绍 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0035.html - Description: TBE DSL方式实现的算子代码结构如下所示: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0035_html.md ## 计算实现 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0037.html - Description: 计算实现包含依赖python模块导入、算子函数声明、算子入参校验、计算逻辑实现以及调度与编译。计算实现时,可以通过一定的方法进行精度与性能上的提升。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0037_html.md ## 调度与编译 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0038.html - Description: 如下代码所示,当定义完计算逻辑后,需要在算子接口实现函数中实现调度与编译。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0038_html.md ## (可选)Format推导及参数校验 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0039.html - Description: 开发者可以在算子实现文件中实现op\_select\_format函数,推导出算子的输入输出支持的dtype与format,后续进行算子信息库定义时将输入输出的dtype与format的dynamicFormat.flag配置为true即可,算子融合时会自动调用算子实现文件中的op\_select\_format函数进行dtype与format的设置,无需配置固定的dtype与format;若算子实现文件 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0039_html.md ## DSL功能调试 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0040.html - Description: 若算子运行出错,开发者可参见本章节描述的方法在CPU中进行DSL算子的功能调试,验证算子的算法逻辑是否正确。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0040_html.md ## DSL算子泛化 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0044.html - Description: 如果开发者想支持“一类” 算子,要能适合任何合法的数据类型、数据形状,甚至适合多种AI处理器型号,这种场景,称之为算子的泛化。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0044_html.md ## TIK简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0047.html - Description: TIK(Tensor Iterator Kernel)是一种基于Python语言的动态编程框架,呈现为一个Python模块。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0047_html.md ## 入门示例 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0048.html - Description: 本节以一个简单的Add算子为例,带您快速熟悉TIK算子的编写流程。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0048_html.md ## TIK作用域 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0051.html - Description: TIK的作用域即一个TIK变量有效的区域,又可叫生命周期或活跃状态。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0051_html.md ## TIK程序控制 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0052.html - Description: 过程式编程的程序结构元素包括:顺序、分支、循环。TIK提供if\_scope、elif\_scope和else\_scope接口在TIK DSL程序中定义分支结构;提供for\_range接口在TIK DSL程序中定义循环结构;除此之外,其它的TIK DSL接口在当前的代码块中形成顺序结构。TIK借用Python的with语句特性,表达代码块语义。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0052_html.md ## TIK数据搬运 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0053.html - Description: 对于Vector计算,一般是用Unified Buffer去存放数据,再进行计算,所以整体数据流应该是从Global Memory>Unified Buffer>Global Memory。TIK提供了data\_move接口实现Global Memory和Unified Buffer间的数据搬运,函数原型为: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0053_html.md ## TIK表达式 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0055.html - Description: 本节主要介绍TIK中表达式即Expr的概念和相关技巧。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0055_html.md ## TIK语句 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0056.html - Description: 上节我们讲过表达式的概念。TIK表达式不会生成对应的IR,而TIK语句会生成对应的IR,当TIK语句中包含了表达式时,表达式会被实例化进行相应的计算。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0056_html.md ## TIK函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0057.html - Description: 经过前几章的学习,相信读者已经掌握了编写TIK算子的数据搬运和矢量计算的技能,以及了解了TIK作为代码生成器的本质,也已经可以编写一些最基本的TIK算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0057_html.md ## TIK功能调试 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0058.html - Description: 用户开发完TIK算子之后,建议使用TIK调试工具进行算子调试,这样可以通过模拟算子运行的过程,解决算子的绝大部分功能问题(例如数据越界)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0058_html.md ## TIK算子泛化 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0059.html - Description: 在TIK简介的示例中,我们仅支持固定的数据输入个数和数据类型,所有的tensor申请的大小和TIK API参数配置为固定值。但是我们若想编写“一类”算子,要能够适应任何合法的数据类型、数据形状和数据排布格式,这种场景就称之为算子的泛化。由于当前版本TIK对数据排布格式不敏感,所以算子的泛化仅考虑数据类型和数据形状的泛化即可。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0059_html.md ## TIK常见编译错误 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0066.html - Description: 当发生TIK编译错误时,在界面上显示错误信息、发生错误时算子的代码行、算子源代码的上下文和算子调用堆栈,下面是部分英文错误信息,中文含义, 处理方式: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0066_html.md ## 入门样例 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0068.html - Description: 该样例实现了从Global Memory中的A,B两处分别读取128个float16类型的数值,相加,并将结果写入Global Memory地址C中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0068_html.md ## 进阶样例 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0069.html - Description: 本节设计了一个张量加法的Sample,通过综合应用文档介绍的TIK优化机制,增强用户对TIK编程与优化的理解。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0069_html.md ## 更多样例 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0070.html - Description: 单击Gitee\(https://gitee.com/ascend/samples/\)或Github\(https://github.com/Ascend/samples\),进入Ascend samples样例仓,参见README中的“版本说明”下载配套版本的sample包,从“cplusplus/level1\_single\_api/4\_op\_dev/1\_custom\_op/tbe/impl”目录中获 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0070_html.md ## CANN社区版-AI CPU算子的实现包括两部分: - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0072.html - Description: AI CPU算子的实现包括两部分: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0072_html.md ## 算子类声明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0073.html - Description: 用户需要在算子工程的“cpukernel/impl/xx.h”文件中进行算子类的声明,如下所示: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0073_html.md ## 实现流程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0075.html - Description: 用户需要在算子工程的“cpukernel/impl/xx.cc”文件中进行算子的计算逻辑实现,如下所示: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0075_html.md ## TBE算子信息库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0079.html - Description: 算子开发者需要通过配置算子信息库文件,将算子在AI处理器上相关实现信息注册到算子信息库中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0079_html.md ## AI CPU算子信息库 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0080.html - Description: 算子开发者需要通过配置算子信息库文件,将算子在AI处理器上相关实现信息注册到算子信息库中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0080_html.md ## 适配插件开发(TensorFlow框架) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0083.html - Description: 您可以参考本章节进行算子适配插件的开发,将第三方框架的算子映射成适配AI处理器的算子。基于TensorFlow 框架的网络运行时,首先会加载并调用Graph Engine(简称GE)中的插件信息,将原始框架网络中的算子进行解析并映射成适配AI处理器算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0083_html.md ## 适配插件开发(ONNX框架) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0085.html - Description: 您可以参考本章节进行算子适配插件的开发,将基于第三方框架的算子映射成适配AI处理器的算子,将算子信息注册到Graph Engine(简称:GE)中。基于ONNX框架的网络运行时,首先会加载并调用GE中的插件信息,将原始框架网络中的算子进行解析并映射成适配AI处理器中的算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0085_html.md ## 适配插件开发(PyTorch框架) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0086.html - Description: Pytorch框架单算子模式下的适配插件开发流程和具体样例请参见《TorchNPU框架特性\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/fwfeatures/docs/zh/framework\_feature\_guide\_pytorch/overview.md\)》中的基于OpPlugin算子适配开发章节。图模式 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0086_html.md ## CANN社区版-自定义算子开发完成后 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0088.html - Description: 自定义算子开发完成后,需要对算子工程编译出可直接安装的自定义算子run包,然后进行run包的安装,将自定义算子部署到CANN算子库。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0088_html.md ## 算子工程编译 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0089.html - Description: 算子交付件开发完成后,需要对算子工程进行编译,生成自定义算子安装包*.run,详细的编译操作包括: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0089_html.md ## 算子包部署 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0091.html - Description: 算子部署指将算子编译生成的自定义算子安装包(*.run)部署到CANN算子库中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0091_html.md ## CANN社区版-CANN开发套件包中提供了ST测试工具:msopst - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0096.html - Description: CANN开发套件包中提供了ST测试工具:msopst,支持生成算子的ST测试用例并在硬件环境中执行。具有如下功能:- 根据算子信息库定义文件(*.ini)生成算子测试用例定义文件(*.json),作为算子ST测试用例的输入。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0096_html.md ## 生成测试用例定义文件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0097.html - Description: 指导用户使用msopst工具生成算子测试用例定义文件(*.json),作为算子ST测试用例的输入。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0097_html.md ## 生成/执行测试用例 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0098.html - Description: 指导用户根据算子测试用例定义文件生成ST测试数据及测试用例执行代码,在硬件环境上执行算子测试用例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0098_html.md ## 测试用例定义文件配置样例 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0099.html - Description: - Less算子的测试用例定义文件“Less\_case.json”如下所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0099_html.md ## 基于ST测试样例 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0100.html - Description: 命令行场景下,开发者可以直接基于Ascend社区中提供的算子测试样例代码进行修改,适配自己的算子测试代码。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0100_html.md ## CANN社区版-算子部署到算子库后 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0104.html - Description: 算子部署到算子库后,可通过运行包含自定义算子的TensorFlow网络,验证算子在网络中的运行结果是否正确。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0104_html.md ## 实现过程 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0105.html - Description: 本节详细介绍通过构造仅包含待验证算子的单算子网络进行算子验证的方法。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0105_html.md ## 算子网络测试(训练,PyTorch) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0106.html - Description: 完成算子适配开发后,可通过运行适配昇腾处理器的PyTorch算子,验证算子运行结果是否正确。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0106_html.md ## 精度基本概念 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0109.html - Description: 绝对误差和相对误差是常用的衡量精度的概念,通俗的说,绝对误差是指真实值和测量值的差值,相对误差是这个差值和真实值的比。用公式表示为 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0109_html.md ## 精度查看方法 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0110.html - Description: 本节我们介绍一种借助开源的可视化工具Octave分析相对误差的方法。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0110_html.md ## 数据类型转换 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0112.html - Description: 由于float16数据类型本身存在精度限制,详情请参见Link\(https://en.wikipedia.org/wiki/Half-precision\_floating-point\_format\),所以在进行算子实现时,可将入参中float16类型的数据转换成float32类型进行计算,用高精度数据进行中间计算来提升精度,从而提升最终结果的精度。当中间计算过程较为复杂时,此方法精度提升效果比较明 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0112_html.md ## 指令精度优化 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0113.html - Description: 指令精度优化仅针对TBE DSL开发方式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0113_html.md ## 数学公式优化 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0114.html - Description: 对于一些数学算子,常常采用泰勒级数用无限项连加式来拟合,这些相加的项由函数在某一点的导数求得,通过函数在自变量零点的导数求得的泰勒级数又叫做麦克劳林级数。在数学上,对于一个在实数或复数α邻域上,以实数作为变量或以复数作为变量、无穷可微的函数放f\(x\),它的泰勒级数是以下这种形式的幂级数: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0114_html.md ## CANN社区版-总结 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0115.html - Description: 针对TBE算子,我们已经介绍了一些定位以及解决精度问题的方法。总结一下,当我们遇到精度问题,可以按照以下步骤来解决: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0115_html.md ## TBE算子性能优化 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0116.html - Description: 当DSL方式实现的算子性能不满足需求时,可以参考如下流程进行优化: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0116_html.md ## AI Core算子执行时间超时导致网络运行失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0144.html - Description: 执行模型推理时,返回模型执行失败。Device侧日志中有如下ERROR级别的打印日志,关键信息如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0144_html.md ## 网络调测时ReduceSum算子性能差如何处理 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0146.html - Description: 网络调测时,网络整体性能较慢。通过Profiling工具获取网络的Profiling数据(Profiling工具的使用方法可参见对应版本的《性能调优工具》),并进行算子的性能数据分析,发现ReduceSum算子的性能很差。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0146_html.md ## 开启AI CPU Cast算子自动插入特性 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasopdev_10_0147.html - Description: 模型编译时,若遇到AI CPU算子不支持某种数据类型导致编译失败的场景,可通过启用Cast算子自动插入特性快速将输入转换为算子支持的数据类型,从而实现网络的快速打通。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasopdev_10_0147_html.md ## CANN社区版-TBE封装了一些算子开发过程中的通用校验/操作接口 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0002.html - Description: TBE封装了一些算子开发过程中的通用校验/操作接口,例如对算子输入/输出、属性、Kernel Name进行基础校验,shape与data type的校验,对两个输入进行broadcast操作并返回broadcast后的shape等。开发者在算子开发过程中可直接调用这些接口,提升算子开发效率。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0002_html.md ## CANN社区版-check\_op\_params - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0004.html - Description: 算子定义函数的装饰器,为算子定义函数提供基础的校验功能,对算子的输入、输出、属性及Kernel Name进行基础校验。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0004_html.md ## CANN社区版-check\_shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0005.html - Description: 对tensor的shape进行校验。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0005_html.md ## CANN社区版-check\_dtype - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0006.html - Description: 对tensor的数据类型进行校验。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0006_html.md ## CANN社区版-check\_format - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0007.html - Description: 对算子的Format进行校验。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0007_html.md ## CANN社区版-check\_input\_type - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0008.html - Description: 装饰器函数,用于校验算子定义函数中的参数类型是否合法。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0008_html.md ## CANN社区版-check\_dtype\_rule - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0009.html - Description: 对tensor的数据类型进行校验。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0009_html.md ## CANN社区版-check\_shape\_rule - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0010.html - Description: 对tensor的shape进行校验。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0010_html.md ## CANN社区版-check\_kernel\_name - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0011.html - Description: 对算子的Kernel名称进行校验。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0011_html.md ## CANN社区版-is\_scalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0013.html - Description: 根据tensor的shape校验是否是标量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0013_html.md ## CANN社区版-check\_shape\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0014.html - Description: 检查shape乘积的大小是否大于或等于指定的限制值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0014_html.md ## CANN社区版-squeeze\_shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0019.html - Description: 去除shape中dim值为1的维度,即去除shape中的值1。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0019_html.md ## CANN社区版-wrap\_axes\_to\_positive - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0020.html - Description: 将axis或者axis列表中的负值优化为正值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0020_html.md ## CANN社区版-refine\_shape\_axes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0021.html - Description: 对axes(reduce轴列表)进行负值的优化,并将shape按照如下原则进行fuse操作: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0021_html.md ## CANN社区版-broadcast\_shapes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0022.html - Description: 将两个输入shape:shape1与shape2进行广播,并返回shape1、shape2与broadcast shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0022_html.md ## CANN社区版-refine\_shapes\_for\_broadcast - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0023.html - Description: 在满足广播规则的前提下,对输入shape1和shape2补维至相同长度,如果补维后的两个shape在某一维度上的值均为1,则舍弃该维度,然后对新的输入shape1和shape2在连续且广播方向相同的轴上执行合并操作,在连续非广播轴上执行合并操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0023_html.md ## CANN社区版-simplify\_axis\_shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0024.html - Description: 输入shape及待reduce的轴列表,然后将输入shape中连续的reduce轴对应的shape维度进行合并,连续的非reduce轴对应的shape维度也进行合并。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0024_html.md ## CANN社区版-shape\_refine - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0025.html - Description: 当reduce轴为None时,返回输入shape去除1后的shape列表;当reduce轴不为None时,返回输入去除1后的shape列表及排序后的reduce轴列表,格式为(shape,axis)的元组。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0025_html.md ## CANN社区版-refine\_axis - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0026.html - Description: 从shape中获取axis对应的非1维度数值组成的列表。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0026_html.md ## CANN社区版-axis\_check - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0027.html - Description: 对轴的值进行合法性校验,并返回排好序且是正数的轴值,轴值按照升序进行排序。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0027_html.md ## CANN社区版-produce\_shapes - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0028.html - Description: 根据两个输入shape,生成broadcast后的shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0028_html.md ## CANN社区版-check\_reduce\_need\_refine - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0029.html - Description: 判断指定的reduce轴能否进行reduce操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0029_html.md ## CANN社区版-axis\_transform\_5d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0031.html - Description: 把4D场景下的轴值转为5HD场景下的对应值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0031_html.md ## CANN社区版-compare\_tensor\_dict\_key - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0032.html - Description: 比较两个字典类型数据指定的key值是否一致。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0032_html.md ## CANN社区版-get\_shape\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0033.html - Description: 获取shape的各维度值的乘积。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0033_html.md ## CANN社区版-shape\_to\_list - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0035.html - Description: 将tvm格式的shape转换为列表格式的shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0035_html.md ## CANN社区版-OpParamInfoKey - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0039.html - Description: TBE提供了OpParamInfoKey结构体用于存储算子输入输出信息的关键字段。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0039_html.md ## CANN社区版-TensorFormat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasoputilsapi_07_0040.html - Description: TBE提供了TensorFormat结构体用于定义算子输入输出数据的数据排布格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasoputilsapi_07_0040_html.md ## CANN社区版-TBE基于不同的AI处理器封装了统一的硬件信息相关接口 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasplatform_07_0002.html - Description: TBE基于不同的AI处理器封装了统一的硬件信息相关接口,包含获取硬件信息、设置soc信息、判断相关指令是否在当前AI处理器支持等接口,屏蔽了不同AI处理器间的差异。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasplatform_07_0002_html.md ## CANN社区版-api\_check\_support - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasplatform_07_0004.html - Description: 查询在当前AI处理器中是否支持某接口,若配置了可选参数dtype,则表示查询当前AI处理器是否支持数据类型为dtype的某接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasplatform_07_0004_html.md ## CANN社区版-get\_soc\_spec - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlasplatform_07_0005.html - Description: 此接口用于获取硬件信息,包括SOC\_VERSION、AICORE\_TYPE、CORE\_NUM以及各存储单元的大小等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlasplatform_07_0005_html.md ## CANN社区版-TBE的Register模块 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastbecommon_07_0006.html - Description: TBE的Register模块,提供了注册管理算子compute函数、算子编译选项、算子编译阶段融合pass等能力的接口。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastbecommon_07_0006_html.md ## CANN社区版-TBE的Context模块 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastbecommon_07_0024.html - Description: TBE的Context模块,用于提供算子编译期间的上下文信息管理功能,包括算子编译参数、算子的编译结果等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastbecommon_07_0024_html.md ## CANN社区版-get\_context - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastbecommon_07_0057.html - Description: 获取算子的上下文信息,需要访问算子相关信息前,都需要先调用此函数获取上下文信息,再访问上下文的其他成员函数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastbecommon_07_0057_html.md ## TBE DSL简介 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0001.html - Description: TBE(Tensor Boost Engine)是基于TVM(Tensor Virtual Machine)的自定义算子开发框架。TVM是社区的开源项目,旨在将各算子的生成规则进一步抽象,将算子本身分成各个操作原语,在需要的时候加以组合。TVM会根据算子的计算过程的定义,使用Schedule技术和Codegen技术,生成对指定硬件的算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0001_html.md ## CANN社区版-vadd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0003.html - Description: 两个tensor按元素相加。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0003_html.md ## CANN社区版-vsub - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0004.html - Description: 两个tensor按元素相减。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0004_html.md ## CANN社区版-vmul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0005.html - Description: 两个tensor按元素相乘。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0005_html.md ## CANN社区版-vdiv - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0006.html - Description: 两个tensor按元素相除。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0006_html.md ## CANN社区版-vrec - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0007.html - Description: 对tensor中的每个元素做倒数运算 1 / x。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0007_html.md ## CANN社区版-vmod - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0008.html - Description: 两个tensor按元素取模运算。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0008_html.md ## CANN社区版-vmax - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0009.html - Description: 两个tensor按元素比较并取较大值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0009_html.md ## CANN社区版-vmin - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0010.html - Description: 两个tensor按元素比较并取较小值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0010_html.md ## CANN社区版-vlog - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0011.html - Description: 对raw\_tensor中的每个元素做对数ln\(x\)运算。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0011_html.md ## CANN社区版-vexp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0012.html - Description: 对tensor中的每个元素做自然指数运算e^x。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0012_html.md ## CANN社区版-vabs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0013.html - Description: 对tensor中的每个元素做绝对值运算|x|。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0013_html.md ## CANN社区版-vsqrt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0014.html - Description: 对tensor中的每个元素取平方根。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0014_html.md ## CANN社区版-vrsqrt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0015.html - Description: 对tensor中的每个元素求平方根倒数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0015_html.md ## CANN社区版-vor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0017.html - Description: 两个tensor元素按位取或。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0017_html.md ## CANN社区版-vand - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0018.html - Description: 两个tensor元素按位取与。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0018_html.md ## CANN社区版-vadds - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0019.html - Description: 将tensor中每个元素加上标量scalar。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0019_html.md ## CANN社区版-vmuls - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0020.html - Description: 将raw\_tensor中每个元素乘上标量scalar。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0020_html.md ## CANN社区版-vmaxs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0021.html - Description: 将raw\_tensor中每个元素与标量scalar进行比较,结果取两者间的最大者。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0021_html.md ## CANN社区版-vaxpy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0023.html - Description: 将lhs中每个元素乘上标量scalar,再加上rhs中的对应元素。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0023_html.md ## CANN社区版-vmla - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0024.html - Description: 将tensor\_0中每个元素乘上tensor\_1中的对应元素,再加上tensor\_2中的对应元素,对应的计算为tensor\_0 * tensor\_1 + tensor\_2。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0024_html.md ## CANN社区版-vmadd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0025.html - Description: 将tensor\_0中每个元素乘上tensor\_2中的对应元素,再加上tensor\_1中的对应元素,对应的计算为tensor\_0 * tensor\_2 + tensor\_1。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0025_html.md ## CANN社区版-vcmp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0026.html - Description: lhs tensor中的元素与rhs按operation指定的操作进行比较,operation指定的操作包括eq、ne、lt、gt、le、ge,依次表示\=\=、\!\=、<、>、<\=、>\=。如果表达式成立,mode为bool时返回True,mode为bit时返回1;如果表达式不成立,mode为bool时返回False,mode为bit时返回0。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0026_html.md ## CANN社区版-reduce\_sum - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0029.html - Description: 按某个轴进行累加操作,进行降维。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0029_html.md ## CANN社区版-reduce\_min - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0030.html - Description: 按某个轴求最小值,进行降维。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0030_html.md ## CANN社区版-reduce\_max - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0031.html - Description: 按某个轴求最大值,进行降维。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0031_html.md ## CANN社区版-reduce\_prod - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0032.html - Description: 按某个轴求乘积,进行降维。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0032_html.md ## CANN社区版-inplace\_add - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0033.html - Description: inplace\_add实现lhs指定行和rhs的加法计算。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0033_html.md ## CANN社区版-inplace\_sub - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0034.html - Description: inplace\_sub实现lhs指定行和rhs的减法计算。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0034_html.md ## CANN社区版-inplace\_update - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0035.html - Description: inplace\_update实现将tensor lhs的指定行用rhs来替换计算。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0035_html.md ## CANN社区版-clip - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0036.html - Description: 将data中每个元素取到 \[min\_value, max\_value\] 的范围内,将data中的每个元素与min\_value、max\_value做比较,如果元素值在min\_value、max\_value之间,则取data元素值;如果元素值小于min\_value,则取min\_value值;如果元素值大于max\_value,则取max\_value。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0036_html.md ## CANN社区版-ceil - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0038.html - Description: 对raw\_tensor中的每个元素向上取整。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0038_html.md ## CANN社区版-round - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0040.html - Description: 对raw\_tensor中的每个元素四舍六入,遇0.5取偶数,例如:1.5->2.0,2.5->2.0。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0040_html.md ## CANN社区版-round\_half\_up - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0042.html - Description: 将raw\_tensor中每个元素向最接近的整数取整(四舍六入),当0.5或-0.5时则向远离0的方向取整(例如,-1.5向远离0取整的结果是-2,1.5向远离0取整的结果是2)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0042_html.md ## CANN社区版-cast\_to - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0043.html - Description: 数据类型转换,把data中的数据转换为目标dtype类型。支持的转换范围如下表所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0043_html.md ## CANN社区版-vrelu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0045.html - Description: 对tensor中的每个元素做线性整流运算relu。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0045_html.md ## CANN社区版-pooling2d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0047.html - Description: 通过不同的池化方式,对tensor\_in上不同的滑动窗口进行信号的采样。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0047_html.md ## CANN社区版-max\_pooling3d\_grad\_grad - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0049.html - Description: 计算maxpooling3d的二阶梯度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0049_html.md ## CANN社区版-conv2d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0050.html - Description: 在给定5HD格式的Data和FracZ格式的Weight的情况下计算2-D卷积。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0050_html.md ## CANN社区版-conv2d\_backprop\_input - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0051.html - Description: 在给定5HD格式的out\_backprop和FracZ格式的Weight的情况下计算float16的2-D反卷积。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0051_html.md ## CANN社区版-conv2d\_backprop\_filter - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0052.html - Description: 在给定5HD格式的Data和5HD格式的out\_backprop的情况下计算float32的2-D反卷积。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0052_html.md ## CANN社区版-conv3d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0053.html - Description: 在给定6HD格式的Data和FracZ格式的Weight的情况下计算float16的3-D卷积。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0053_html.md ## CANN社区版-conv3d\_backprop\_input - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0054.html - Description: 在给定6HD格式的Data和FracZ格式的Weight的情况下计算float16的3-D反卷积。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0054_html.md ## CANN社区版-conv3d\_backprop\_filter - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0055.html - Description: 在给定6HD格式的Data和6HD格式的out\_backprop的情况下计算float32的3-D反卷积。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0055_html.md ## CANN社区版-gemm - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0056.html - Description: 通用矩阵乘,计算表达式如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0056_html.md ## CANN社区版-matmul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0057.html - Description: 矩阵乘,计算:tensor\_c\=trans\_a\(tensor\_a\) * trans\_b\(tensor\_b\) + tensor\_bias。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0057_html.md ## CANN社区版-concat - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0059.html - Description: 在指定轴上对输入的多个Tensor进行重新连接。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0059_html.md ## CANN社区版-split - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0060.html - Description: 将输入data沿轴split\_dim划成size\_splits指定大小的块。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0060_html.md ## CANN社区版-transpose - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0061.html - Description: 将输入tensor按照axes的值转置,详细功能介绍可参见调用示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0061_html.md ## CANN社区版-gather - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0062.html - Description: 获取输入Tensor的特定维度中指定索引的切片数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0062_html.md ## CANN社区版-gather\_nd - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0063.html - Description: gather接口只能获取某一维度上的索引数据,而gather\_nd接口可以获取多个维度上的索引数据,且针对同一维度的每组数据,可分别取不同的索引值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0063_html.md ## CANN社区版-slice - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0064.html - Description: 从输入tensor中根据begin与end获取切片数据。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0064_html.md ## CANN社区版-broadcast - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0065.html - Description: 把tensor var广播为形状为目标shape(第二个参数)的tensor,结果的数据类型由output\_dtype指定。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0065_html.md ## CANN社区版-auto\_schedule - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0067.html - Description: auto\_schedule接口的作用是把定义好的计算过程生成schedule对象。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0067_html.md ## CANN社区版-build - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0068.html - Description: 对schedule对象进行编译生成算子二进制文件与算子描述文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0068_html.md ## CANN社区版-本章节介绍的TBE DSL接口 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0070.html - Description: 本章节介绍的TBE DSL接口,在后续版本中将过期废弃,新开发算子请不要使用本章节接口。废弃接口列表如下。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0070_html.md ## CANN社区版-vlogic - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0071.html - Description: 两个tensor按元素进行逻辑and/or操作,或者一个tensor进行逻辑not操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0071_html.md ## CANN社区版-vmaddrelu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0072.html - Description: 将tensor\_0中每个元素乘上tensor\_2中的对应元素,再加上tensor\_1中的对应元素,然后做线性整流,对应的计算为relu\(tensor\_0 * tensor\_2 + tensor\_1\)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0072_html.md ## CANN社区版-vaddrelu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0073.html - Description: 将tensor\_0中每个元素加上tensor\_1中的对应元素,然后做线性整流,对应的计算为relu\(tensor\_0 + tensor\_1\)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0073_html.md ## CANN社区版-vsubrelu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0074.html - Description: 将tensor\_0中每个元素减tensor\_1中的对应元素,然后做线性整流,对应的计算为relu\(tensor\_0 - tensor\_1\)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0074_html.md ## CANN社区版-set\_value - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlaste_07_0075.html - Description: 将Tensor中满足特定条件的元素,设置为指定的值,详细功能介绍可参见调用示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlaste_07_0075_html.md ## 通用约束 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0002.html - Description: 用户定义的Tensor在内存分配时会对起始地址进行对齐,不同scope的对齐要求如表1所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0002_html.md ## TIK类构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0005.html - Description: 创建TIK DSL容器。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0005_html.md ## CANN社区版-BuildCCE - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0006.html - Description: BuildCCE的功能是,生成用户在目标机上定义的TIK描述语言,并将TIK描述语言编译成AI处理器上可执行的二进制代码,以及对应的配置文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0006_html.md ## CANN社区版-Tensor - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0008.html - Description: 定义Tensor变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0008_html.md ## CANN社区版-Scalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0009.html - Description: 定义Scalar变量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0009_html.md ## CANN社区版-InputScalar - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0010.html - Description: 如果开发者在算子实现时不想将某标量定义为定值,想要使用算子运行时输入的值作为具体的值,此时可以将此标量定义为InputScalar类型,然后在BuildCCE的inputs参数中将此InputScalar对象作为输入。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0010_html.md ## CANN社区版-set\_as - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0012.html - Description: 设置或者改变Scalar的值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0012_html.md ## CANN社区版-reshape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0014.html - Description: 改变Tensor shape。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0014_html.md ## 获取Tensor部分数据 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0016.html - Description: 通过Tensor数组下标,获得Tensor内部分数据,形成新的Tensor。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0016_html.md ## 改变Tensor内容 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0017.html - Description: 通过Tensor数组下标,改变Tensor内容。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0017_html.md ## CANN社区版-shape - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0018.html - Description: 获取Tensor形状。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0018_html.md ## CANN社区版-set\_as - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0019.html - Description: 设置或者改变Tensor 的内容。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0019_html.md ## CANN社区版-if\_scope - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0021.html - Description: 创建一个TIK的条件判断语句,当条件满足时,则执行if\_scope代码块。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0021_html.md ## CANN社区版-elif\_scope - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0022.html - Description: 创建TIK条件判断语句,当前面的if\_scope语句以及elif\_scope语句条件都不满足时,且当前elif\_scope条件判断通过时,则执行本elif\_scope代码块。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0022_html.md ## CANN社区版-else\_scope - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0023.html - Description: 创建TIK的条件判断语句,当前面的if\_scope语句以及elif\_scope语句条件都不满足时,则执行此else\_scope语句中的代码块。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0023_html.md ## CANN社区版-new\_stmt\_scope - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0025.html - Description: 代表一个c语言的大括号,new\_stmt\_scope范围内空间代表一个新作用域。disable\_sync配置是否在当前作用域内自动插入同步指令。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0025_html.md ## CANN社区版-any - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0026.html - Description: 此函数用于判断输入参数是否全部为False,若是则返回False;若其中有一个为True,则返回True。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0026_html.md ## CANN社区版-all - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0027.html - Description: 此函数用于判断输入参数是否全部为True,若是则返回True;若其中有一个为False,则返回False。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0027_html.md ## CANN社区版-tik\_break - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0030.html - Description: tik\_break语句用来终止for\_range循环语句,即tik\_break语句将停止执行当前的循环。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0030_html.md ## CANN社区版-start\_debug - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0033.html - Description: TIK提供了在仿真环境上进行功能调试的能力,通过tik.tikdb对象提供,tikdb可以类似于PDB(The Python Debugger)一样进行断点设置,单步调试,变量打印等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0033_html.md ## CANN社区版-set\_printf\_params - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0035.html - Description: 设置printf参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0035_html.md ## CANN社区版-printf - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0036.html - Description: 打印Scalar、Expr、ScalarArray、Tensor值。支持功能调试环境start\_debug上的打印。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0036_html.md ## CANN社区版-scalar\_countbit0 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0041.html - Description: 逐bit统计源操作数64位二进制格式中bit为0的数量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0041_html.md ## CANN社区版-scalar\_countbit1 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0042.html - Description: 逐bit统计源操作数64位二进制格式中bit为1的数量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0042_html.md ## CANN社区版-scalar\_conv - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0044.html - Description: 标量精度转换(值转换)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0044_html.md ## CANN社区版-scalar\_max - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0046.html - Description: 比较并选取两个源操作数的最大值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0046_html.md ## 通用定义 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0051.html - Description: 此为仅有一个源操作数时指令的通用格式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0051_html.md ## CANN社区版-vec\_relu - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0052.html - Description: 按element做线性整流Relu:。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0052_html.md ## CANN社区版-vec\_abs - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0053.html - Description: 按element取绝对值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0053_html.md ## CANN社区版-vec\_not - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0054.html - Description: 每个element按位取反: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0054_html.md ## CANN社区版-vec\_exp - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0055.html - Description: 按element取自然指数:。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0055_html.md ## CANN社区版-vec\_expm1\_high\_preci - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0056.html - Description: 按element取自然底数:,该接口的精度高于vec\_exp。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0056_html.md ## CANN社区版-vec\_ln - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0057.html - Description: 按element取自然对数:。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0057_html.md ## CANN社区版-vec\_ln\_high\_preci - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0058.html - Description: 按element取自然对数:。该接口的精度高于vec\_ln。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0058_html.md ## CANN社区版-vec\_rec - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0059.html - Description: 按element取倒数:。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0059_html.md ## CANN社区版-vec\_rec\_high\_preci - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0060.html - Description: 按element取倒数:。该接口的精度高于vec\_rec。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0060_html.md ## CANN社区版-vec\_rsqrt - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0061.html - Description: 按element做开方后,再取倒数:。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0061_html.md ## CANN社区版-vec\_rsqrt\_high\_preci - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0062.html - Description: 按element做开方后,再取倒数:。该接口的精度高于vec\_rsqrt。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0062_html.md ## CANN社区版-vec\_add - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0065.html - Description: 按element求和: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0065_html.md ## CANN社区版-vec\_sub - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0066.html - Description: 按element求差: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0066_html.md ## CANN社区版-vec\_max - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0068.html - Description: 按element求最大值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0068_html.md ## CANN社区版-vec\_min - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0069.html - Description: 按element求最小值: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0069_html.md ## CANN社区版-vec\_and - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0070.html - Description: 每对elements按位与运算: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0070_html.md ## CANN社区版-vec\_or - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0071.html - Description: 每对elements按位或运算: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0071_html.md ## 通用定义 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0073.html - Description: 此为有两个源操作数时指令的通用格式,两个源操作数为src和标量scalar。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0073_html.md ## CANN社区版-vec\_adds - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0074.html - Description: 矢量内每个element与标量求和: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0074_html.md ## CANN社区版-vec\_muls - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0075.html - Description: 矢量内每个element与标量求积: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0075_html.md ## 通用定义 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0077.html - Description: 三个源操作数时指令的通用格式,三个源操作数分别为src, dst和标量scalar。注:这不是真正的指令。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0077_html.md ## CANN社区版-vec\_axpy - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0078.html - Description: 矢量每个element与标量求积后累加: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0078_html.md ## CANN社区版-vec\_cmpv\_xx - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0080.html - Description: 逐element比较两个tensor大小,如果为真则对应比特位为1,否则为0,支持多种比较模式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0080_html.md ## CANN社区版-vec\_sel - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0081.html - Description: 根据sel的比特位值选取element,当sel的比特位是1时从src0中选取,比特位是0时从src1选取,选取后的结果记为dst\_temp,然后根据mask值对dst\_temp进行过滤,有效位填入最终的dst,无效位则保持dst原始值。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0081_html.md ## CANN社区版-vec\_conv - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0083.html - Description: 根据src与dst tensor的类型进行精度转换。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0083_html.md ## 通用定义 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0085.html - Description: 此为对归约指令的通用格式,指令对当前迭代的相邻内对(elements)源操作数进行统一处理。注:这不是真正的指令。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0085_html.md ## CANN社区版-vec\_reduce\_add - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0088.html - Description: 对所有输入数据求和。数据采用二叉树方式,两两相加。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0088_html.md ## CANN社区版-vec\_reduce\_max - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0089.html - Description: 在所有的输入数据中找出最大值及最大值对应的索引位置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0089_html.md ## CANN社区版-vec\_reduce\_min - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0090.html - Description: 在所有的输入数据中找出最小值及最小值对应的索引位置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0090_html.md ## CANN社区版-conv2d - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0092.html - Description: 给定一个输入的张量和一个权重张量执行卷积2-D操作,输出结果张量。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0092_html.md ## CANN社区版-fixpipe - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0093.html - Description: 矩阵计算完成后,对结果进行处理,例如对计算结果进行加偏置和对数据进行量化、并把数据从L1OUT 搬迁到GM Memory 中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0093_html.md ## CANN社区版-matmul - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0094.html - Description: 给定两个输入的张量a和b。进行矩阵相乘,输出到结果张量中。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0094_html.md ## CANN社区版-vec\_trans\_scatter - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0097.html - Description: NCHW转换成NC1HWC0格式。如果是数据类型是float32 int32,uint32, int16,unint16,float16, 则C0\=16, 如果数据类型是uint8,int8,则C0\=32. - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0097_html.md ## CANN社区版-vec\_dup - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0099.html - Description: 将一个Scalar变量或一个立即数,复制多次并填充到向量(PAR代表并行度): - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0099_html.md ## CANN社区版-data\_move - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0101.html - Description: 在src与dst间进行数据传输。支持src与dst的类型同时为Tensor。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0101_html.md ## matmul样例 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0103.html - Description: 本样例实现了输入是固定shape的matmul接口的端到端调用示例。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0103_html.md ## Dprofile类构造函数 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0105.html - Description: Dprofile类用来管理和配置昇腾AI处理器相关信息, 例如产品架构、产品形态、各级buffer大小等。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0105_html.md ## CANN社区版-get\_unified\_buffer\_size - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/atlastikapi_07_0106.html - Description: 获取对应产品形态的Unified Buffer的buffer大小,单位为Bytes。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_atlastikapi_07_0106_html.md ## CANN社区版-TBE自定义算子开发接口包含算子代码实现接口、插件实现接口以及原型定义接口 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/opdevapi_07_0000.html - Description: TBE自定义算子开发接口包含算子代码实现接口、插件实现接口以及原型定义接口,如下表所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_opdevapi_07_0000_html.md ## CANN社区版-debug - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/tbedsl_testing_07_0002.html - Description: 针对TBE DSL算子的实现,可通过此接口配合python with语句,进入DSL调试模式。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_tbedsl_testing_07_0002_html.md ## CANN社区版-get\_ctx - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/tbedsl_testing_07_0003.html - Description: DSL算子的运行平台为CPU时,用于获取算子运行的上下文。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_tbedsl_testing_07_0003_html.md ## CANN社区版-assert\_allclose - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/tbedsl_testing_07_0005.html - Description: 比较指定tensor的值与期望值是否在一定精度范围内。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_tbedsl_testing_07_0005_html.md ## CANN社区版-build - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/tbedsl_testing_07_0006.html - Description: 使用LLVM编译生成在CPU上运行的DSL算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_tbedsl_testing_07_0006_html.md ## CANN社区版-run - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/others/tbeaicpudevg/tbedsl_testing_07_0007.html - Description: 将输入参数传入编译好的算子中,执行算子。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_others_tbeaicpudevg_tbedsl_testing_07_0007_html.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000006.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000026.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000027.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000029.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000030.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000031.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000033.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000034.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000035.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000037.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000038.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000039.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000041.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000043.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000044.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000045.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000047.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000048.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000049.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000051.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000052.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000053.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000055.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000056.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000058.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000060.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000061.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000063.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000065.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000066.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000067.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000068.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000069.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000074.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000075.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000076.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000077.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000078.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000080.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000081.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000082.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000083.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000084.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000085.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000092.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000098.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000102.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000103.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000104.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000109.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000110.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000111.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000113.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000114.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000115.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000116.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000137.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000222.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000523.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000527.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000530.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000531.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000537.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000538.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000540.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000541.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclcppdevg_000542.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0005.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0006.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0009.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0017.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0018.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0019.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0020.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0023.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0024.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0025.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0026.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0029.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0030.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0031.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0032.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0034.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0035.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0037.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0038.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0040.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0041.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0042.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0044.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0046.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0047.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0049.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0051.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0053.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0054.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0055.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0056.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0057.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0058.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0060.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0061.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0062.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0065.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0067.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0068.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0070.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0072.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0079.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0091.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0094.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0098.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0101.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0157.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/aclpythondevg_0158.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0002.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0004.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0006.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0007.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0012.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0013.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0014.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0015.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0016.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0017.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0019.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0021.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0022.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0023.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0024.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0025.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0026.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0027.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0028.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0030.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0031.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0032.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0034.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0035.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0036.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0037.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0038.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0042.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/acldevg/runtime_doc_dev_0043.html - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E5%85%A5%E9%97%A8%E6%95%99%E7%A8%8B/%E5%BF%AB%E9%80%9F%E5%85%A5%E9%97%A8/%E5%9F%BA%E4%BA%8ESIMD%E7%BC%96%E7%A8%8B/%E5%9F%BA%E4%BA%8ESIMD%E7%BC%96%E7%A8%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E5%85%A5%E9%97%A8%E6%95%99%E7%A8%8B/%E5%BF%AB%E9%80%9F%E5%85%A5%E9%97%A8/%E5%9F%BA%E4%BA%8ESIMD%E7%BC%96%E7%A8%8B/Add%E7%AE%97%E5%AD%90%E5%BF%AB%E9%80%9F%E5%85%A5%E9%97%A8.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E5%85%A5%E9%97%A8%E6%95%99%E7%A8%8B/%E5%BF%AB%E9%80%9F%E5%85%A5%E9%97%A8/%E5%9F%BA%E4%BA%8ESIMD%E7%BC%96%E7%A8%8B/HelloWorld.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E5%85%A5%E9%97%A8%E6%95%99%E7%A8%8B/%E5%BF%AB%E9%80%9F%E5%85%A5%E9%97%A8/%E5%9F%BA%E4%BA%8ESIMT%E7%BC%96%E7%A8%8B/%E5%9F%BA%E4%BA%8ESIMT%E7%BC%96%E7%A8%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E5%85%A5%E9%97%A8%E6%95%99%E7%A8%8B/%E5%BF%AB%E9%80%9F%E5%85%A5%E9%97%A8/%E5%9F%BA%E4%BA%8ESIMT%E7%BC%96%E7%A8%8B/Add%E7%AE%97%E5%AD%90%E5%BF%AB%E9%80%9F%E5%85%A5%E9%97%A8.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E5%85%A5%E9%97%A8%E6%95%99%E7%A8%8B/%E5%BF%AB%E9%80%9F%E5%85%A5%E9%97%A8/%E5%9F%BA%E4%BA%8ESIMT%E7%BC%96%E7%A8%8B/HelloWorld.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E5%85%A5%E9%97%A8%E6%95%99%E7%A8%8B/%E5%BF%AB%E9%80%9F%E5%85%A5%E9%97%A8/%E5%BC%82%E6%9E%84%E7%B3%BB%E7%BB%9F%E4%B8%8E%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E5%85%A5%E9%97%A8%E6%95%99%E7%A8%8B/%E7%8E%AF%E5%A2%83%E5%87%86%E5%A4%87.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E5%85%A5%E9%97%A8%E6%95%99%E7%A8%8B/Ascend-C%E6%A6%82%E8%BF%B0%E4%B8%8E%E5%AD%A6%E4%B9%A0%E8%B7%AF%E5%BE%84.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E6%8A%80%E6%9C%AF%E9%99%84%E5%BD%95/%E6%A6%82%E5%BF%B5%E5%8E%9F%E7%90%86%E5%92%8C%E6%9C%AF%E8%AF%AD/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE%E5%8E%9F%E7%90%86/Scalar%E8%AF%BB%E5%86%99%E6%95%B0%E6%8D%AE.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E6%8A%80%E6%9C%AF%E9%99%84%E5%BD%95/%E6%A6%82%E5%BF%B5%E5%8E%9F%E7%90%86%E5%92%8C%E6%9C%AF%E8%AF%AD/%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96%E6%8A%80%E6%9C%AF%E5%8E%9F%E7%90%86/DoubleBuffer.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E6%8A%80%E6%9C%AF%E9%99%84%E5%BD%95/%E6%A6%82%E5%BF%B5%E5%8E%9F%E7%90%86%E5%92%8C%E6%9C%AF%E8%AF%AD/%E6%9C%AF%E8%AF%AD%E8%A1%A8.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E6%8A%80%E6%9C%AF%E9%99%84%E5%BD%95/%E6%A6%82%E5%BF%B5%E5%8E%9F%E7%90%86%E5%92%8C%E6%9C%AF%E8%AF%AD/%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E5%92%8C%E7%AE%97%E5%AD%90/%E6%95%B0%E6%8D%AE%E6%8E%92%E5%B8%83%E6%A0%BC%E5%BC%8F.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E6%8A%80%E6%9C%AF%E9%99%84%E5%BD%95/%E6%A6%82%E5%BF%B5%E5%8E%9F%E7%90%86%E5%92%8C%E6%9C%AF%E8%AF%AD/%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E5%92%8C%E7%AE%97%E5%AD%90/%E7%AE%97%E5%AD%90%E5%9F%BA%E6%9C%AC%E6%A6%82%E5%BF%B5.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E6%8A%80%E6%9C%AF%E9%99%84%E5%BD%95/CPP%E6%A0%87%E5%87%86%E6%94%AF%E6%8C%81/%E6%A6%82%E8%BF%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E6%8A%80%E6%9C%AF%E9%99%84%E5%BD%95/CPP%E6%A0%87%E5%87%86%E6%94%AF%E6%8C%81/%E8%AF%AD%E6%B3%95%E9%99%90%E5%88%B6/%E5%87%BD%E6%95%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E6%8A%80%E6%9C%AF%E9%99%84%E5%BD%95/CPP%E6%A0%87%E5%87%86%E6%94%AF%E6%8C%81/%E8%AF%AD%E6%B3%95%E9%99%90%E5%88%B6/%E7%89%B9%E6%80%A7.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E6%8A%80%E6%9C%AF%E9%99%84%E5%BD%95/CPP%E6%A0%87%E5%87%86%E6%94%AF%E6%8C%81/%E8%AF%AD%E6%B3%95%E9%99%90%E5%88%B6/%E8%AF%AD%E6%B3%95%E9%99%90%E5%88%B6.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E4%BC%98%E7%A7%80%E5%AE%9E%E8%B7%B5/%E4%BC%98%E7%A7%80%E5%AE%9E%E8%B7%B5.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E4%BC%98%E7%A7%80%E5%AE%9E%E8%B7%B5/FlashAttention%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E8%B0%83%E4%BC%98%E6%A1%88%E4%BE%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E4%BC%98%E7%A7%80%E5%AE%9E%E8%B7%B5/GroupedMatmul%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E8%B0%83%E4%BC%98%E6%A1%88%E4%BE%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E4%BC%98%E7%A7%80%E5%AE%9E%E8%B7%B5/Matmul%E6%80%A7%E8%83%BD%E8%B0%83%E4%BC%98%E6%A1%88%E4%BE%8B/AIV%E6%A0%B8%E4%B8%8A%E7%9A%84ND2NZ%E6%A0%BC%E5%BC%8F%E8%BD%AC%E6%8D%A2.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E4%BC%98%E7%A7%80%E5%AE%9E%E8%B7%B5/Matmul%E6%80%A7%E8%83%BD%E8%B0%83%E4%BC%98%E6%A1%88%E4%BE%8B/Matmul%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96%E7%AD%96%E7%95%A5%E6%80%BB%E8%A7%88.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E4%BC%98%E7%A7%80%E5%AE%9E%E8%B7%B5/Matmul%E6%80%A7%E8%83%BD%E8%B0%83%E4%BC%98%E6%A1%88%E4%BE%8B/Matmul%E7%AE%97%E5%AD%90%E4%BC%98%E5%8C%96Tiling%E7%AD%96%E7%95%A5.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E4%BC%98%E7%A7%80%E5%AE%9E%E8%B7%B5/Matmul%E6%80%A7%E8%83%BD%E8%B0%83%E4%BC%98%E6%A1%88%E4%BE%8B/Matmul%E9%AB%98%E9%98%B6API%E4%BD%BF%E8%83%BD%E5%A4%9A%E6%A0%B8%E5%88%87K.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E4%BC%98%E7%A7%80%E5%AE%9E%E8%B7%B5/Matmul%E6%80%A7%E8%83%BD%E8%B0%83%E4%BC%98%E6%A1%88%E4%BE%8B/Matmul%E9%AB%98%E9%98%B6API%E4%BD%BF%E8%83%BD%E5%A4%9A%E6%A0%B8K%E8%BD%B4%E9%94%99%E5%B3%B0%E8%AE%BF%E9%97%AE%E5%86%85%E5%AD%98.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E4%BC%98%E7%A7%80%E5%AE%9E%E8%B7%B5/Matmul%E6%80%A7%E8%83%BD%E8%B0%83%E4%BC%98%E6%A1%88%E4%BE%8B/Matmul%E9%AB%98%E9%98%B6API%E4%BD%BF%E8%83%BD%E7%BA%AFCube%E6%A8%A1%E5%BC%8F.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E4%BC%98%E7%A7%80%E5%AE%9E%E8%B7%B5/Matmul%E6%80%A7%E8%83%BD%E8%B0%83%E4%BC%98%E6%A1%88%E4%BE%8B/Matmul%E9%AB%98%E9%98%B6API%E4%BD%BF%E8%83%BDIBShare%E6%A8%A1%E6%9D%BF%E5%85%B1%E4%BA%ABA%E5%92%8CB%E7%9F%A9%E9%98%B5%E6%95%B0%E6%8D%AE.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E4%BC%98%E7%A7%80%E5%AE%9E%E8%B7%B5/Matmul%E6%80%A7%E8%83%BD%E8%B0%83%E4%BC%98%E6%A1%88%E4%BE%8B/Matmul%E9%AB%98%E9%98%B6API%E4%BD%BF%E8%83%BDIBShare%E6%A8%A1%E6%9D%BF%E5%85%B1%E4%BA%ABB%E7%9F%A9%E9%98%B5%E6%95%B0%E6%8D%AE.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E4%BC%98%E7%A7%80%E5%AE%9E%E8%B7%B5/Matmul%E6%80%A7%E8%83%BD%E8%B0%83%E4%BC%98%E6%A1%88%E4%BE%8B/Matmul%E9%AB%98%E9%98%B6API%E4%BD%BF%E8%83%BDL2-Cache%E5%88%87%E5%88%86.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E4%BC%98%E7%A7%80%E5%AE%9E%E8%B7%B5/Matmul%E6%80%A7%E8%83%BD%E8%B0%83%E4%BC%98%E6%A1%88%E4%BE%8B/Matmul%E9%AB%98%E9%98%B6API%E4%BD%BF%E8%83%BDMDL%E6%A8%A1%E6%9D%BF.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E4%BC%98%E7%A7%80%E5%AE%9E%E8%B7%B5/Matmul%E6%80%A7%E8%83%BD%E8%B0%83%E4%BC%98%E6%A1%88%E4%BE%8B/Matmul%E9%AB%98%E9%98%B6API%E4%BD%BF%E8%83%BDMTE2-Preload.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E4%BC%98%E7%A7%80%E5%AE%9E%E8%B7%B5/Matmul%E6%80%A7%E8%83%BD%E8%B0%83%E4%BC%98%E6%A1%88%E4%BE%8B/Matmul%E9%AB%98%E9%98%B6API%E4%BD%BF%E8%83%BDNBuffer33%E6%A8%A1%E6%9D%BF.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E4%BC%98%E7%A7%80%E5%AE%9E%E8%B7%B5/Matmul%E6%80%A7%E8%83%BD%E8%B0%83%E4%BC%98%E6%A1%88%E4%BE%8B/Matmul%E9%AB%98%E9%98%B6API%E4%BD%BF%E8%83%BDTiling%E5%85%A8%E9%87%8F%E5%B8%B8%E9%87%8F%E5%8C%96.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E4%BC%98%E7%A7%80%E5%AE%9E%E8%B7%B5/Matmul%E6%80%A7%E8%83%BD%E8%B0%83%E4%BC%98%E6%A1%88%E4%BE%8B/Matmul%E9%AB%98%E9%98%B6API%E4%BD%BF%E8%83%BDUnitFlag.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E4%BC%98%E7%A7%80%E5%AE%9E%E8%B7%B5/MC-%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E8%B0%83%E4%BC%98%E6%A1%88%E4%BE%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E4%BC%98%E7%A7%80%E5%AE%9E%E8%B7%B5/SIMT%E5%AE%9E%E7%8E%B0InsertHashTable%E7%AE%97%E5%AD%90%E6%A1%88%E4%BE%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E5%8A%9F%E8%83%BD%E8%B0%83%E8%AF%95/%E5%8A%9F%E8%83%BD%E8%B0%83%E8%AF%95.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E5%8A%9F%E8%83%BD%E8%B0%83%E8%AF%95/%E7%AE%97%E5%AD%90%E8%B0%83%E8%AF%95.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E5%8A%9F%E8%83%BD%E8%B0%83%E8%AF%95/%E7%B2%BE%E5%BA%A6%E6%AD%A3%E5%B8%B8.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E5%8A%9F%E8%83%BD%E8%B0%83%E8%AF%95/%E8%BF%90%E8%A1%8C%E6%AD%A3%E5%B8%B8.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E5%BC%82%E6%9E%84%E8%AE%A1%E7%AE%97.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E6%80%A7%E8%83%BD%E5%88%86%E6%9E%90/%E5%88%86%E6%9E%90%E6%80%A7%E8%83%BD%E6%95%B0%E6%8D%AE.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E6%80%A7%E8%83%BD%E5%88%86%E6%9E%90/%E6%80%A7%E8%83%BD%E5%88%86%E6%9E%90.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E6%80%A7%E8%83%BD%E5%88%86%E6%9E%90/%E8%8E%B7%E5%8F%96%E6%80%A7%E8%83%BD%E6%95%B0%E6%8D%AE.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/%E6%9C%AC%E6%96%87%E6%A1%A3%E7%BB%84%E7%BB%87%E7%BB%93%E6%9E%84.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E4%B8%8ESIMT%E6%B7%B7%E5%90%88%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E5%9F%BA%E7%A1%80%E7%9F%A5%E8%AF%86.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E4%B8%8ESIMT%E6%B7%B7%E5%90%88%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E4%B8%8ESIMT%E6%B7%B7%E5%90%88%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/SIMD%E4%B8%8ESIMT%E6%B7%B7%E5%90%88%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E4%B8%8ESIMT%E6%B7%B7%E5%90%88%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE/%E4%BD%BF%E7%94%A8Unified-Buffer%E6%8F%90%E5%8D%87%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE%E6%95%88%E7%8E%87.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E4%B8%8ESIMT%E6%B7%B7%E5%90%88%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E8%AE%A1%E7%AE%97%E4%BC%98%E5%8C%96/%E9%80%9A%E8%BF%87SIMT%E5%AE%9E%E7%8E%B0%E5%88%86%E6%94%AF%E5%88%A4%E6%96%AD.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E4%B8%8ESIMT%E6%B7%B7%E5%90%88%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/SIMD%E4%B8%8ESIMT%E6%B7%B7%E5%90%88%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E6%A6%82%E8%BF%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A2%E9%87%8F%E7%BC%96%E7%A8%8B/%E5%9F%BA%E7%A1%80%E7%9F%A2%E9%87%8F%E7%AE%97%E5%AD%90.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A2%E9%87%8F%E7%BC%96%E7%A8%8B/%E5%A4%9A%E6%A0%B8-Tiling%E5%88%87%E5%88%86/%E5%A4%9A%E6%A0%B8Tiling.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A2%E9%87%8F%E7%BC%96%E7%A8%8B/%E5%A4%9A%E6%A0%B8-Tiling%E5%88%87%E5%88%86/%E5%B0%BE%E5%9D%97Tiling.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A2%E9%87%8F%E7%BC%96%E7%A8%8B/%E5%A4%9A%E6%A0%B8-Tiling%E5%88%87%E5%88%86/%E5%B0%BE%E6%A0%B8-%E5%B0%BE%E5%9D%97.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A2%E9%87%8F%E7%BC%96%E7%A8%8B/%E5%A4%9A%E6%A0%B8-Tiling%E5%88%87%E5%88%86/%E5%B0%BE%E6%A0%B8Tiling.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A2%E9%87%8F%E7%BC%96%E7%A8%8B/%E5%A4%9A%E6%A0%B8-Tiling%E5%88%87%E5%88%86/%E6%A6%82%E8%BF%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A2%E9%87%8F%E7%BC%96%E7%A8%8B/%E6%A6%82%E8%BF%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A2%E9%87%8F%E7%BC%96%E7%A8%8B/%E7%9F%A2%E9%87%8F%E7%BC%96%E7%A8%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A2%E9%87%8F%E7%BC%96%E7%A8%8B/%E9%9D%9E%E5%AF%B9%E9%BD%90%E5%9C%BA%E6%99%AF.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A2%E9%87%8F%E7%BC%96%E7%A8%8B/Broadcast%E5%9C%BA%E6%99%AF.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A2%E9%87%8F%E7%BC%96%E7%A8%8B/DoubleBuffer%E5%9C%BA%E6%99%AF.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A2%E9%87%8F%E7%BC%96%E7%A8%8B/TBuf%E7%9A%84%E4%BD%BF%E7%94%A8.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E5%9F%BA%E7%A1%80API%EF%BC%89/%E5%88%86%E7%A6%BB%E6%A8%A1%E5%BC%8F.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E5%9F%BA%E7%A1%80API%EF%BC%89/%E8%80%A6%E5%90%88%E6%A8%A1%E5%BC%8F.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E9%AB%98%E9%98%B6API%EF%BC%89/%E5%9F%BA%E7%A1%80%E7%9F%A5%E8%AF%86.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E9%AB%98%E9%98%B6API%EF%BC%89/%E7%89%B9%E6%80%A7%E5%9C%BA%E6%99%AF/%E5%8D%95%E6%AC%A1%E7%9F%A9%E9%98%B5%E4%B9%98%E5%B1%80%E9%83%A8%E8%BE%93%E5%87%BA.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E9%AB%98%E9%98%B6API%EF%BC%89/%E7%89%B9%E6%80%A7%E5%9C%BA%E6%99%AF/%E5%A4%9A%E6%A0%B8%E5%AF%B9%E9%BD%90%E5%88%87%E5%88%86.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E9%AB%98%E9%98%B6API%EF%BC%89/%E7%89%B9%E6%80%A7%E5%9C%BA%E6%99%AF/%E5%A4%9A%E6%A0%B8%E9%9D%9E%E5%AF%B9%E9%BD%90%E5%88%87%E5%88%86.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E9%AB%98%E9%98%B6API%EF%BC%89/%E7%89%B9%E6%80%A7%E5%9C%BA%E6%99%AF/%E5%BC%82%E6%AD%A5%E5%9C%BA%E6%99%AF%E5%A4%84%E7%90%86.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E9%AB%98%E9%98%B6API%EF%BC%89/%E7%89%B9%E6%80%A7%E5%9C%BA%E6%99%AF/%E7%9F%A9%E9%98%B5%E4%B9%98%E8%BE%93%E5%87%BA%E7%9A%84%E9%87%8F%E5%8C%96-%E5%8F%8D%E9%87%8F%E5%8C%96.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E9%AB%98%E9%98%B6API%EF%BC%89/%E7%89%B9%E6%80%A7%E5%9C%BA%E6%99%AF/%E7%9F%A9%E9%98%B5%E4%B9%98%E8%BE%93%E5%87%BA%E7%9A%84Channel%E6%8B%86%E5%88%86.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E9%AB%98%E9%98%B6API%EF%BC%89/%E7%89%B9%E6%80%A7%E5%9C%BA%E6%99%AF/%E7%9F%A9%E9%98%B5%E4%B9%98%E8%BE%93%E5%87%BA%E7%9A%84N%E6%96%B9%E5%90%91%E5%AF%B9%E9%BD%90.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E9%AB%98%E9%98%B6API%EF%BC%89/%E7%89%B9%E6%80%A7%E5%9C%BA%E6%99%AF/%E7%9F%A9%E9%98%B5%E5%90%91%E9%87%8F%E4%B9%98.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E9%AB%98%E9%98%B6API%EF%BC%89/%E7%89%B9%E6%80%A7%E5%9C%BA%E6%99%AF/4-2%E7%A8%80%E7%96%8F%E7%9F%A9%E9%98%B5%E4%B9%98.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E9%AB%98%E9%98%B6API%EF%BC%89/%E7%89%B9%E6%80%A7%E5%9C%BA%E6%99%AF/AIC%E5%92%8CAIV%E7%8B%AC%E7%AB%8B%E8%BF%90%E8%A1%8C%E6%9C%BA%E5%88%B6.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E9%AB%98%E9%98%B6API%EF%BC%89/%E7%89%B9%E6%80%A7%E5%9C%BA%E6%99%AF/Batch-Matmul%E5%9F%BA%E7%A1%80%E5%8A%9F%E8%83%BD.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E9%AB%98%E9%98%B6API%EF%BC%89/%E7%89%B9%E6%80%A7%E5%9C%BA%E6%99%AF/Batch-Matmul%E5%A4%8D%E7%94%A8Bias%E7%9F%A9%E9%98%B5.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E9%AB%98%E9%98%B6API%EF%BC%89/%E7%89%B9%E6%80%A7%E5%9C%BA%E6%99%AF/Matmul%E7%89%B9%E6%80%A7%E4%BB%8B%E7%BB%8D.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E9%AB%98%E9%98%B6API%EF%BC%89/%E7%89%B9%E6%80%A7%E5%9C%BA%E6%99%AF/MxMatmul%E5%9C%BA%E6%99%AF.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E9%AB%98%E9%98%B6API%EF%BC%89/%E7%89%B9%E6%80%A7%E5%9C%BA%E6%99%AF/TSCM%E8%BE%93%E5%85%A5%E7%9A%84%E7%9F%A9%E9%98%B5%E4%B9%98.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E9%AB%98%E9%98%B6API%EF%BC%89/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E9%AB%98%E9%98%B6API%EF%BC%89.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%9F%A9%E9%98%B5%E7%BC%96%E7%A8%8B%EF%BC%88%E9%AB%98%E9%98%B6API%EF%BC%89/%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E8%9E%8D%E5%90%88%E7%AE%97%E5%AD%90%E7%BC%96%E7%A8%8B/%E8%9E%8D%E5%90%88%E7%AE%97%E5%AD%90%E7%BC%96%E7%A8%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E8%9E%8D%E5%90%88%E7%AE%97%E5%AD%90%E7%BC%96%E7%A8%8B/%E9%80%9A%E7%AE%97%E8%9E%8D%E5%90%88/%E5%9F%BA%E7%A1%80%E7%9F%A5%E8%AF%86.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E8%9E%8D%E5%90%88%E7%AE%97%E5%AD%90%E7%BC%96%E7%A8%8B/%E9%80%9A%E7%AE%97%E8%9E%8D%E5%90%88/%E7%89%B9%E6%80%A7%E5%9C%BA%E6%99%AF.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E8%9E%8D%E5%90%88%E7%AE%97%E5%AD%90%E7%BC%96%E7%A8%8B/%E9%80%9A%E7%AE%97%E8%9E%8D%E5%90%88/%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E8%9E%8D%E5%90%88%E7%AE%97%E5%AD%90%E7%BC%96%E7%A8%8B/CV%E8%9E%8D%E5%90%88/%E5%9F%BA%E7%A1%80%E7%9F%A5%E8%AF%86.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E8%9E%8D%E5%90%88%E7%AE%97%E5%AD%90%E7%BC%96%E7%A8%8B/CV%E8%9E%8D%E5%90%88/%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/SIMD%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E4%BC%98%E5%8C%96%E5%BB%BA%E8%AE%AE%E6%80%BB%E8%A7%88%E8%A1%A8.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE/%E5%B0%BD%E9%87%8F%E4%B8%80%E6%AC%A1%E6%90%AC%E8%BF%90%E8%BE%83%E5%A4%A7%E7%9A%84%E6%95%B0%E6%8D%AE%E5%9D%97.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE/%E7%AE%97%E5%AD%90%E4%B8%8E%E9%AB%98%E9%98%B6API%E5%85%B1%E4%BA%AB%E4%B8%B4%E6%97%B6Buffer.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE/%E7%BA%AF%E6%90%AC%E8%BF%90%E7%B1%BB%E7%AE%97%E5%AD%90VECIN%E5%92%8CVECOUT%E5%BB%BA%E8%AE%AE%E5%A4%8D%E7%94%A8.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE/%E8%AE%BE%E7%BD%AE%E5%90%88%E7%90%86%E7%9A%84L2-CacheMode.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE/%E9%80%9A%E8%BF%87%E7%BC%A9%E5%87%8FTensor-ShapeInfo%E7%BB%B4%E5%BA%A6-%E4%BC%98%E5%8C%96%E6%A0%88%E7%A9%BA%E9%97%B4.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE/%E9%81%BF%E5%85%8D%E5%90%8C%E5%9C%B0%E5%9D%80%E8%AE%BF%E9%97%AE.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE/%E9%81%BF%E5%85%8DUB%E7%9A%84bank%E5%86%B2%E7%AA%81/%E6%A6%82%E8%BF%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE/%E9%81%BF%E5%85%8DUB%E7%9A%84bank%E5%86%B2%E7%AA%81/%E9%81%BF%E5%85%8Dbank%E5%86%B2%E7%AA%81%EF%BC%88NPU%E6%9E%B6%E6%9E%84%E7%89%88%E6%9C%AC2201%EF%BC%89.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE/%E9%81%BF%E5%85%8DUB%E7%9A%84bank%E5%86%B2%E7%AA%81/%E9%81%BF%E5%85%8Dbank%E5%86%B2%E7%AA%81%EF%BC%88NPU%E6%9E%B6%E6%9E%84%E7%89%88%E6%9C%AC3510%EF%BC%89.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE/%E9%81%BF%E5%85%8DUB%E7%9A%84bank%E5%86%B2%E7%AA%81/%E9%81%BF%E5%85%8DUB%E7%9A%84bank%E5%86%B2%E7%AA%81.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE/%E9%9D%9E%E5%AF%B9%E9%BD%90%E5%9C%BA%E6%99%AF%E5%87%8F%E5%B0%91%E6%97%A0%E6%95%88%E6%95%B0%E6%8D%AE%E7%9A%84%E6%90%AC%E8%BF%90.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE/%E9%9D%9E%E8%BF%9E%E7%BB%AD%E6%90%AC%E8%BF%90%E5%9C%BA%E6%99%AF%E5%87%8F%E5%B0%91%E6%90%AC%E8%BF%90%E6%AC%A1%E6%95%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE/%E9%AB%98%E6%95%88%E7%9A%84%E4%BD%BF%E7%94%A8%E6%90%AC%E8%BF%90API.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE/GM%E5%9C%B0%E5%9D%80%E5%B0%BD%E9%87%8F512B%E5%AF%B9%E9%BD%90.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE/L2-Cache%E5%88%87%E5%88%86.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%A4%B4%E5%B0%BE%E5%BC%80%E9%94%80%E4%BC%98%E5%8C%96/%E5%A4%B4%E5%B0%BE%E5%BC%80%E9%94%80%E4%BC%98%E5%8C%96.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%A4%B4%E5%B0%BE%E5%BC%80%E9%94%80%E4%BC%98%E5%8C%96/%E6%A0%B8%E5%87%BD%E6%95%B0%E5%86%85%E5%88%A0%E9%99%A4Workspace%E7%9B%B8%E5%85%B3%E5%86%97%E4%BD%99%E6%93%8D%E4%BD%9C.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%A4%B4%E5%B0%BE%E5%BC%80%E9%94%80%E4%BC%98%E5%8C%96/%E8%AE%BE%E7%BD%AE%E5%90%88%E9%80%82%E7%9A%84%E6%A0%B8%E6%95%B0%E5%92%8C%E7%AE%97%E5%AD%90Kernel%E7%B1%BB%E5%9E%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%A4%B4%E5%B0%BE%E5%BC%80%E9%94%80%E4%BC%98%E5%8C%96/%E8%AE%BE%E7%BD%AEDCI%E7%BC%96%E8%AF%91%E9%80%89%E9%A1%B9%E6%9D%A5%E5%87%8F%E5%B0%91%E7%AE%97%E5%AD%90%E5%B0%BE%E5%BC%80%E9%94%80.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%A4%B4%E5%B0%BE%E5%BC%80%E9%94%80%E4%BC%98%E5%8C%96/%E9%81%BF%E5%85%8DTPipe%E5%9C%A8%E5%AF%B9%E8%B1%A1%E5%86%85%E5%88%9B%E5%BB%BA%E5%92%8C%E5%88%9D%E5%A7%8B%E5%8C%96.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%A4%B4%E5%B0%BE%E5%BC%80%E9%94%80%E4%BC%98%E5%8C%96/%E9%99%90%E5%88%B6TilingData%E7%BB%93%E6%9E%84%E5%A4%A7%E5%B0%8F.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E6%B5%81%E6%B0%B4%E7%BC%96%E6%8E%92/%E4%BD%BF%E8%83%BDDoubleBuffer.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E6%B5%81%E6%B0%B4%E7%BC%96%E6%8E%92/%E4%BD%BF%E8%83%BDIterate%E6%88%96IterateAll%E5%BC%82%E6%AD%A5%E6%8E%A5%E5%8F%A3%E9%81%BF%E5%85%8DAIC-AIV%E5%90%8C%E6%AD%A5%E4%BE%9D%E8%B5%96.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E6%B5%81%E6%B0%B4%E7%BC%96%E6%8E%92/%E6%B5%81%E6%B0%B4%E7%BC%96%E6%8E%92.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E7%9F%A2%E9%87%8F%E8%AE%A1%E7%AE%97/%E7%9F%A2%E9%87%8F%E8%AE%A1%E7%AE%97.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E7%9F%A2%E9%87%8F%E8%AE%A1%E7%AE%97/%E9%80%89%E6%8B%A9%E4%BD%8E%E5%BB%B6%E8%BF%9F%E6%8C%87%E4%BB%A4-%E4%BC%98%E5%8C%96%E5%BD%92%E7%BA%A6%E6%93%8D%E4%BD%9C%E6%80%A7%E8%83%BD.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E7%9F%A2%E9%87%8F%E8%AE%A1%E7%AE%97/%E9%80%9A%E8%BF%87Unified-Buffer%E8%9E%8D%E5%90%88%E5%AE%9E%E7%8E%B0%E8%BF%9E%E7%BB%ADvector%E8%AE%A1%E7%AE%97.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E7%9F%A2%E9%87%8F%E8%AE%A1%E7%AE%97/Vector%E7%AE%97%E5%AD%90%E7%81%B5%E6%B4%BB%E8%BF%90%E7%94%A8Counter%E6%A8%A1%E5%BC%8F.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E7%9F%A2%E9%87%8F%E8%AE%A1%E7%AE%97/VF%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E6%8C%87%E4%BB%A4%E5%8F%8C%E5%8F%91%E4%BC%98%E5%8C%96.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E7%9F%A2%E9%87%8F%E8%AE%A1%E7%AE%97/VF%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E8%BF%9E%E7%BB%AD%E9%9D%9E%E5%AF%B9%E9%BD%90%E5%9C%BA%E6%99%AF%E4%BC%98%E5%8C%96.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E7%9F%A2%E9%87%8F%E8%AE%A1%E7%AE%97/VF%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/VF%E5%BE%AA%E7%8E%AF%E4%BC%98%E5%8C%96.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E7%9F%A2%E9%87%8F%E8%AE%A1%E7%AE%97/VF%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/VF%E8%9E%8D%E5%90%88%E4%BC%98%E5%8C%96.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E7%9F%A9%E9%98%B5%E8%AE%A1%E7%AE%97/%E7%9F%A9%E9%98%B5%E8%AE%A1%E7%AE%97.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E7%9F%A9%E9%98%B5%E8%AE%A1%E7%AE%97/%E8%BE%83%E5%B0%8F%E7%9F%A9%E9%98%B5%E9%95%BF%E9%A9%BBL1-Buffer-%E4%BB%85%E5%88%86%E6%AC%A1%E6%90%AC%E8%BF%90%E8%BE%83%E5%A4%A7%E7%9F%A9%E9%98%B5.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E7%9F%A9%E9%98%B5%E8%AE%A1%E7%AE%97/%E9%80%9A%E8%BF%87BT-Buffer%E5%AE%9E%E7%8E%B0%E9%AB%98%E6%95%88%E7%9A%84bias%E8%AE%A1%E7%AE%97.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E7%9F%A9%E9%98%B5%E8%AE%A1%E7%AE%97/%E9%80%9A%E8%BF%87FP-Buffer%E5%AD%98%E6%94%BE%E9%87%8F%E5%8C%96%E5%8F%82%E6%95%B0%E5%AE%9E%E7%8E%B0%E9%AB%98%E6%95%88%E9%9A%8F%E8%B7%AF%E9%87%8F%E5%8C%96.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E7%9F%A9%E9%98%B5%E8%AE%A1%E7%AE%97/%E9%80%9A%E8%BF%87L0C-Buffer%E6%95%B0%E6%8D%AE%E6%9A%82%E5%AD%98%E5%AE%9E%E7%8E%B0%E9%AB%98%E6%95%88%E7%9A%84%E7%9F%A9%E9%98%B5%E4%B9%98%E7%BB%93%E6%9E%9C%E7%B4%AF%E5%8A%A0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E7%9F%A9%E9%98%B5%E8%AE%A1%E7%AE%97/Matmul%E4%BD%BF%E8%83%BDAtomicAdd%E9%80%89%E9%A1%B9.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/Tiling%E7%AD%96%E7%95%A5/%E6%A0%B8%E9%97%B4%E8%B4%9F%E8%BD%BD%E5%9D%87%E8%A1%A1.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMD%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/Tiling%E7%AD%96%E7%95%A5/Tiling%E7%AD%96%E7%95%A5.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMT%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E5%9F%BA%E7%A1%80%E7%9F%A5%E8%AF%86.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMT%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMT%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0/SIMT%E7%AE%97%E5%AD%90%E5%AE%9E%E7%8E%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMT%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE/%E8%AE%BF%E5%AD%98%E5%90%88%E5%B9%B6.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%AE%97%E5%AD%90%E5%AE%9E%E8%B7%B5%E5%8F%82%E8%80%83/SIMT%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD%E4%BC%98%E5%8C%96/%E5%86%85%E5%AD%98%E8%AE%BF%E9%97%AE/%E9%81%BF%E5%85%8DUB%E7%9A%84Bank%E5%86%B2%E7%AA%81.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E6%9C%AC%E6%96%87%E6%A1%A3%E7%BB%84%E7%BB%87%E7%BB%93%E6%9E%84.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%B1%BB%E5%BA%93API/%E5%9F%BA%E7%A1%80API/%E5%B8%B8%E7%94%A8%E6%93%8D%E4%BD%9C%E9%80%9F%E6%9F%A5%E6%8C%87%E5%AF%BC/%E5%A6%82%E4%BD%95%E4%BD%BF%E7%94%A8%E5%BD%92%E7%BA%A6%E8%AE%A1%E7%AE%97API.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%B1%BB%E5%BA%93API/%E5%9F%BA%E7%A1%80API/%E5%B8%B8%E7%94%A8%E6%93%8D%E4%BD%9C%E9%80%9F%E6%9F%A5%E6%8C%87%E5%AF%BC/%E5%A6%82%E4%BD%95%E4%BD%BF%E7%94%A8%E6%8E%A9%E7%A0%81%E6%93%8D%E4%BD%9CAPI.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%B1%BB%E5%BA%93API/%E5%9F%BA%E7%A1%80API/%E6%8E%A5%E5%8F%A3%E5%88%86%E7%B1%BB%E8%AF%B4%E6%98%8E/%E8%BF%9E%E7%BB%AD%E8%AE%A1%E7%AE%97API.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%B1%BB%E5%BA%93API/%E5%9F%BA%E7%A1%80API/%E6%8E%A5%E5%8F%A3%E5%88%86%E7%B1%BB%E8%AF%B4%E6%98%8E/%E9%AB%98%E7%BB%B4%E5%88%87%E5%88%86API.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%B1%BB%E5%BA%93API/%E5%9F%BA%E7%A1%80API/%E6%A6%82%E8%BF%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%B1%BB%E5%BA%93API/%E7%B1%BB%E5%BA%93API.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%B1%BB%E5%BA%93API/%E7%BC%96%E7%A8%8B%E6%8E%A5%E5%8F%A3%E6%A6%82%E8%BF%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%B1%BB%E5%BA%93API/%E9%AB%98%E9%98%B6API/%E5%B8%B8%E7%94%A8%E6%93%8D%E4%BD%9C%E9%80%9F%E6%9F%A5%E6%8C%87%E5%AF%BC/%E5%A6%82%E4%BD%95%E4%BD%BF%E7%94%A8Kernel%E4%BE%A7%E4%B8%B4%E6%97%B6%E7%A9%BA%E9%97%B4.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%B1%BB%E5%BA%93API/%E9%AB%98%E9%98%B6API/%E5%B8%B8%E7%94%A8%E6%93%8D%E4%BD%9C%E9%80%9F%E6%9F%A5%E6%8C%87%E5%AF%BC/%E5%A6%82%E4%BD%95%E4%BD%BF%E7%94%A8Tiling%E4%BE%9D%E8%B5%96%E7%9A%84%E5%A4%B4%E6%96%87%E4%BB%B6.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%B1%BB%E5%BA%93API/%E9%AB%98%E9%98%B6API/%E6%A6%82%E8%BF%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%B1%BB%E5%BA%93API/Utils-API.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/%E5%BC%82%E6%9E%84%E7%B3%BB%E7%BB%9F.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B%E6%A6%82%E8%BF%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/AI-Core-SIMD%E7%BC%96%E7%A8%8B/%E5%9F%BA%E4%BA%8E%E6%8C%87%E9%92%88%E7%9A%84C%E8%AF%AD%E8%A8%80%E7%BC%96%E7%A8%8B/%E5%9F%BA%E4%BA%8E%E8%AF%AD%E8%A8%80%E6%89%A9%E5%B1%95%E5%B1%82C-API%E7%BC%96%E7%A8%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/AI-Core-SIMD%E7%BC%96%E7%A8%8B/%E5%9F%BA%E4%BA%8ETensor%E7%9A%84CPP%E7%BC%96%E7%A8%8B/%E9%9D%99%E6%80%81Tensor%E7%BC%96%E7%A8%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/AI-Core-SIMD%E7%BC%96%E7%A8%8B/%E5%9F%BA%E4%BA%8ETensor%E7%9A%84CPP%E7%BC%96%E7%A8%8B/Reg%E7%9F%A2%E9%87%8F%E8%AE%A1%E7%AE%97%E7%BC%96%E7%A8%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/AI-Core-SIMD%E7%BC%96%E7%A8%8B/%E5%9F%BA%E4%BA%8ETPipe-TQue%E6%A1%86%E6%9E%B6%E7%BC%96%E7%A8%8B/TPipe-TQue%E6%A1%86%E6%9E%B6%E7%BC%96%E7%A8%8B%E5%8E%9F%E7%90%86.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/AI-Core-SIMD%E7%BC%96%E7%A8%8B/%E5%9F%BA%E4%BA%8ETPipe-TQue%E6%A1%86%E6%9E%B6%E7%BC%96%E7%A8%8B/TPipe-TQue%E6%A1%86%E6%9E%B6%E7%BC%96%E7%A8%8B%E8%8C%83%E5%BC%8F.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/AI-Core-SIMD%E7%BC%96%E7%A8%8B/%E6%8A%BD%E8%B1%A1%E7%A1%AC%E4%BB%B6%E6%9E%B6%E6%9E%84.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/AI-Core-SIMD%E7%BC%96%E7%A8%8B/%E6%A0%B8%E5%87%BD%E6%95%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/AI-Core-SIMD%E7%BC%96%E7%A8%8B/%E6%A6%82%E8%BF%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/AI-Core-SIMD%E7%BC%96%E7%A8%8B/AI-Core-SIMD%E7%BC%96%E7%A8%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/AI-Core-SIMT%E7%BC%96%E7%A8%8B/%E5%86%85%E5%AD%98%E5%B1%82%E7%BA%A7.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/AI-Core-SIMT%E7%BC%96%E7%A8%8B/%E5%90%8C%E6%AD%A5%E6%9C%BA%E5%88%B6.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/AI-Core-SIMT%E7%BC%96%E7%A8%8B/%E6%8A%BD%E8%B1%A1%E7%A1%AC%E4%BB%B6%E6%9E%B6%E6%9E%84.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/AI-Core-SIMT%E7%BC%96%E7%A8%8B/%E6%A0%B8%E5%87%BD%E6%95%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/AI-Core-SIMT%E7%BC%96%E7%A8%8B/%E7%BA%BF%E7%A8%8B%E6%9E%B6%E6%9E%84.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/AI-Core-SIMT%E7%BC%96%E7%A8%8B/%E7%BC%96%E7%A8%8B%E7%A4%BA%E4%BE%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/AI-Core-SIMT%E7%BC%96%E7%A8%8B/AI-Core-SIMT%E7%BC%96%E7%A8%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/AI-CPU%E7%BC%96%E7%A8%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E8%AF%91%E4%B8%8E%E8%BF%90%E8%A1%8C/%E5%BC%82%E6%AD%A5%E6%89%A7%E8%A1%8C.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E8%AF%91%E4%B8%8E%E8%BF%90%E8%A1%8C/%E7%AE%97%E5%AD%90%E7%BC%96%E8%AF%91/%E6%AF%95%E6%98%87%E7%BC%96%E8%AF%91%E5%99%A8.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E8%AF%91%E4%B8%8E%E8%BF%90%E8%A1%8C/%E7%AE%97%E5%AD%90%E7%BC%96%E8%AF%91/%E7%BA%A6%E6%9D%9F%E8%AF%B4%E6%98%8E.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E8%AF%91%E4%B8%8E%E8%BF%90%E8%A1%8C/%E7%AE%97%E5%AD%90%E7%BC%96%E8%AF%91/AI-Core%E7%AE%97%E5%AD%90%E7%BC%96%E8%AF%91%E5%9F%BA%E6%9C%AC%E7%94%A8%E6%B3%95.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E8%AF%91%E4%B8%8E%E8%BF%90%E8%A1%8C/%E7%AE%97%E5%AD%90%E7%BC%96%E8%AF%91/AI-CPU%E7%AE%97%E5%AD%90%E7%BC%96%E8%AF%91%E5%9F%BA%E6%9C%AC%E7%94%A8%E6%B3%95.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E8%AF%91%E4%B8%8E%E8%BF%90%E8%A1%8C/%E7%AE%97%E5%AD%90%E7%BC%96%E8%AF%91/RTC%E8%BF%90%E8%A1%8C%E6%97%B6%E7%BC%96%E8%AF%91.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E7%BC%96%E8%AF%91%E4%B8%8E%E8%BF%90%E8%A1%8C/%E7%BC%96%E8%AF%91%E4%B8%8E%E8%BF%90%E8%A1%8C.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E8%AF%AD%E8%A8%80%E6%89%A9%E5%B1%95%E5%B1%82/%E8%AF%AD%E8%A8%80%E6%89%A9%E5%B1%95%E5%B1%82.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E8%AF%AD%E8%A8%80%E6%89%A9%E5%B1%95%E5%B1%82/SIMD-BuiltIn%E5%85%B3%E9%94%AE%E5%AD%97.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E8%AF%AD%E8%A8%80%E6%89%A9%E5%B1%95%E5%B1%82/SIMD%E8%AF%AD%E8%A8%80%E6%89%A9%E5%B1%95%E5%B1%82C-API.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E8%AF%AD%E8%A8%80%E6%89%A9%E5%B1%95%E5%B1%82/SIMT-BuiltIn%E5%85%B3%E9%94%AE%E5%AD%97.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E8%AF%AD%E8%A8%80%E6%89%A9%E5%B1%95%E5%B1%82/SIMT%E8%AF%AD%E8%A8%80%E6%89%A9%E5%B1%95%E5%B1%82C-API.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E8%B0%83%E8%AF%95%E8%B0%83%E4%BC%98/%E5%8A%9F%E8%83%BD%E8%B0%83%E8%AF%95/%E5%8A%9F%E8%83%BD%E8%B0%83%E8%AF%95.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E8%B0%83%E8%AF%95%E8%B0%83%E4%BC%98/%E5%8A%9F%E8%83%BD%E8%B0%83%E8%AF%95/CPU%E5%9F%9F%E5%AD%AA%E7%94%9F%E8%B0%83%E8%AF%95.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E8%B0%83%E8%AF%95%E8%B0%83%E4%BC%98/%E5%8A%9F%E8%83%BD%E8%B0%83%E8%AF%95/NPU%E5%9F%9F%E4%B8%8A%E6%9D%BF%E8%B0%83%E8%AF%95.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E8%B0%83%E8%AF%95%E8%B0%83%E4%BC%98/%E6%80%A7%E8%83%BD%E8%B0%83%E4%BC%98.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E8%B0%83%E8%AF%95%E8%B0%83%E4%BC%98/%E6%A6%82%E8%BF%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E8%B0%83%E8%AF%95%E8%B0%83%E4%BC%98/%E8%B0%83%E8%AF%95%E8%B0%83%E4%BC%98.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%99%84%E5%BD%95/%E5%9F%BA%E4%BA%8E%E6%A0%B7%E4%BE%8B%E5%B7%A5%E7%A8%8B%E5%AE%8C%E6%88%90Kernel%E7%9B%B4%E8%B0%83.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%99%84%E5%BD%95/%E5%B8%B8%E7%94%A8%E6%93%8D%E4%BD%9C/%E5%A6%82%E4%BD%95%E4%BD%BF%E7%94%A8Tensor%E5%8E%9F%E5%9C%B0%E6%93%8D%E4%BD%9C%E6%8F%90%E5%8D%87%E7%AE%97%E5%AD%90%E6%80%A7%E8%83%BD.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%99%84%E5%BD%95/%E5%B8%B8%E7%94%A8%E6%93%8D%E4%BD%9C/%E5%A6%82%E4%BD%95%E4%BD%BF%E7%94%A8workspace.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%99%84%E5%BD%95/%E5%B8%B8%E7%94%A8%E6%93%8D%E4%BD%9C/%E5%A6%82%E4%BD%95%E5%9C%A8%E7%9F%A2%E9%87%8F%E7%BC%96%E7%A8%8B%E6%97%B6%E4%BD%BF%E8%83%BDVector-Core.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%99%84%E5%BD%95/%E5%B8%B8%E7%94%A8%E6%93%8D%E4%BD%9C/%E5%A6%82%E4%BD%95%E5%BC%80%E5%8F%91%E5%8A%A8%E6%80%81%E8%BE%93%E5%85%A5%E7%AE%97%E5%AD%90.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%99%84%E5%BD%95/%E5%B8%B8%E7%94%A8%E6%93%8D%E4%BD%9C/%E5%A6%82%E4%BD%95%E8%BF%9B%E8%A1%8CTiling%E8%B0%83%E6%B5%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%99%84%E5%BD%95/%E7%AE%80%E6%98%93%E8%87%AA%E5%AE%9A%E4%B9%89%E7%AE%97%E5%AD%90%E5%B7%A5%E7%A8%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%99%84%E5%BD%95/FAQ/%E5%90%AB%E6%9C%89Matmul%E9%AB%98%E9%98%B6API%E7%9A%84%E7%AE%97%E5%AD%90%E7%B2%BE%E5%BA%A6%E9%97%AE%E9%A2%98.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%99%84%E5%BD%95/FAQ/%E6%A0%B8%E5%87%BD%E6%95%B0%E8%BF%90%E8%A1%8C%E9%AA%8C%E8%AF%81%E6%97%B6%E7%AE%97%E5%AD%90%E5%AD%98%E5%9C%A8%E7%B2%BE%E5%BA%A6%E9%97%AE%E9%A2%98.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%99%84%E5%BD%95/FAQ/%E7%AE%97%E5%AD%90%E5%8C%85%E9%83%A8%E7%BD%B2%E6%97%B6%E5%87%BA%E7%8E%B0%E6%9D%83%E9%99%90%E4%B8%8D%E8%B6%B3%E6%8A%A5%E9%94%99.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%99%84%E5%BD%95/FAQ/%E7%AE%97%E5%AD%90%E5%B7%A5%E7%A8%8B%E7%BC%96%E8%AF%91%E6%97%B6%E5%87%BA%E7%8E%B0%E6%96%87%E4%BB%B6%E5%90%8D%E8%BF%87%E9%95%BF%E6%8A%A5%E9%94%99.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%99%84%E5%BD%95/FAQ/%E8%B0%83%E7%94%A8%E7%AE%97%E5%AD%90%E6%97%B6%E5%87%BA%E7%8E%B0%E6%97%A0%E6%B3%95%E6%89%93%E5%BC%80config-ini%E7%9A%84%E6%8A%A5%E9%94%99.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%99%84%E5%BD%95/FAQ/%E8%BF%90%E8%A1%8C%E9%AA%8C%E8%AF%81%E6%97%B6AllocTensor-FreeTensor%E5%A4%B1%E8%B4%A5.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%99%84%E5%BD%95/FAQ/kernel%E4%BE%A7%E8%8E%B7%E5%8F%96Tiling%E4%BF%A1%E6%81%AF%E4%B8%8D%E6%AD%A3%E7%A1%AE.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%99%84%E5%BD%95/FAQ/Kernel%E7%BC%96%E8%AF%91%E6%97%B6%E6%8A%A5%E9%94%99-error-out-of-jump-jumpc-imm-range.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%99%84%E5%BD%95/msobjdump%E5%B7%A5%E5%85%B7.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%99%84%E5%BD%95/show_kernel_debug_data%E5%B7%A5%E5%85%B7.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/%E7%A1%AC%E4%BB%B6%E5%AE%9E%E7%8E%B0/%E5%9F%BA%E6%9C%AC%E6%9E%B6%E6%9E%84.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/%E7%A1%AC%E4%BB%B6%E5%AE%9E%E7%8E%B0/%E6%9E%B6%E6%9E%84%E8%A7%84%E6%A0%BC/%E6%9E%B6%E6%9E%84%E8%A7%84%E6%A0%BC.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/%E7%A1%AC%E4%BB%B6%E5%AE%9E%E7%8E%B0/%E6%9E%B6%E6%9E%84%E8%A7%84%E6%A0%BC/NPU%E6%9E%B6%E6%9E%84%E7%89%88%E6%9C%AC2002.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/%E7%A1%AC%E4%BB%B6%E5%AE%9E%E7%8E%B0/%E6%9E%B6%E6%9E%84%E8%A7%84%E6%A0%BC/NPU%E6%9E%B6%E6%9E%84%E7%89%88%E6%9C%AC2201.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/%E7%A1%AC%E4%BB%B6%E5%AE%9E%E7%8E%B0/%E6%9E%B6%E6%9E%84%E8%A7%84%E6%A0%BC/NPU%E6%9E%B6%E6%9E%84%E7%89%88%E6%9C%AC3002.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/%E7%A1%AC%E4%BB%B6%E5%AE%9E%E7%8E%B0/%E6%9E%B6%E6%9E%84%E8%A7%84%E6%A0%BC/NPU%E6%9E%B6%E6%9E%84%E7%89%88%E6%9C%AC3510.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/%E7%A1%AC%E4%BB%B6%E5%AE%9E%E7%8E%B0/%E7%A1%AC%E4%BB%B6%E5%AE%9E%E7%8E%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/%E7%A1%AC%E4%BB%B6%E5%AE%9E%E7%8E%B0/%E7%A1%AC%E4%BB%B6%E7%BA%A6%E6%9D%9F/NPU%E6%9E%B6%E6%9E%84%E7%89%88%E6%9C%AC2002.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/%E7%A1%AC%E4%BB%B6%E5%AE%9E%E7%8E%B0/%E7%A1%AC%E4%BB%B6%E7%BA%A6%E6%9D%9F/NPU%E6%9E%B6%E6%9E%84%E7%89%88%E6%9C%AC2201.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/%E7%AE%97%E5%AD%90%E5%85%A5%E5%9B%BE%E5%BC%80%E5%8F%91/%E4%BD%BF%E8%83%BDTiling%E4%B8%8B%E6%B2%89.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/%E7%AE%97%E5%AD%90%E5%85%A5%E5%9B%BE%E5%BC%80%E5%8F%91/%E5%9B%BE%E7%BC%96%E8%AF%91%E5%92%8C%E5%9B%BE%E6%89%A7%E8%A1%8C.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/%E7%AE%97%E5%AD%90%E5%85%A5%E5%9B%BE%E5%BC%80%E5%8F%91/%E5%9F%BA%E6%9C%AC%E5%BC%80%E5%8F%91%E6%B5%81%E7%A8%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/%E7%AE%97%E5%AD%90%E5%85%A5%E5%9B%BE%E5%BC%80%E5%8F%91/%E6%A6%82%E8%BF%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/%E7%AE%97%E5%AD%90%E5%85%A5%E5%9B%BE%E5%BC%80%E5%8F%91/SuperKernel%E5%BC%80%E5%8F%91.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/%E9%AB%98%E7%BA%A7AI-Core%E7%BC%96%E7%A8%8B%E6%A8%A1%E5%9E%8B/SIMD%E4%B8%8ESIMT%E6%B7%B7%E5%90%88%E7%BC%96%E7%A8%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/Aclnn%E7%AE%97%E5%AD%90%E5%B7%A5%E7%A8%8B%E5%8C%96%E5%BC%80%E5%8F%91/%E5%88%9B%E5%BB%BA%E7%AE%97%E5%AD%90%E5%B7%A5%E7%A8%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/Aclnn%E7%AE%97%E5%AD%90%E5%B7%A5%E7%A8%8B%E5%8C%96%E5%BC%80%E5%8F%91/%E5%8D%95%E7%AE%97%E5%AD%90API%E8%B0%83%E7%94%A8.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/Aclnn%E7%AE%97%E5%AD%90%E5%B7%A5%E7%A8%8B%E5%8C%96%E5%BC%80%E5%8F%91/%E6%A6%82%E8%BF%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/Aclnn%E7%AE%97%E5%AD%90%E5%B7%A5%E7%A8%8B%E5%8C%96%E5%BC%80%E5%8F%91/%E7%AE%97%E5%AD%90%E5%8A%A8%E6%80%81%E5%BA%93%E5%92%8C%E9%9D%99%E6%80%81%E5%BA%93%E7%BC%96%E8%AF%91.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/Aclnn%E7%AE%97%E5%AD%90%E5%B7%A5%E7%A8%8B%E5%8C%96%E5%BC%80%E5%8F%91/%E7%AE%97%E5%AD%90%E5%8C%85%E7%BC%96%E8%AF%91/%E7%AE%97%E5%AD%90%E5%8C%85%E9%83%A8%E7%BD%B2.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/Aclnn%E7%AE%97%E5%AD%90%E5%B7%A5%E7%A8%8B%E5%8C%96%E5%BC%80%E5%8F%91/%E7%AE%97%E5%AD%90%E5%8C%85%E7%BC%96%E8%AF%91/%E7%AE%97%E5%AD%90%E5%B7%A5%E7%A8%8B%E7%BC%96%E8%AF%91.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/Aclnn%E7%AE%97%E5%AD%90%E5%B7%A5%E7%A8%8B%E5%8C%96%E5%BC%80%E5%8F%91/%E7%AE%97%E5%AD%90%E5%8E%9F%E5%9E%8B%E5%AE%9A%E4%B9%89.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/Aclnn%E7%AE%97%E5%AD%90%E5%B7%A5%E7%A8%8B%E5%8C%96%E5%BC%80%E5%8F%91/%E7%AE%97%E5%AD%90%E5%B7%A5%E7%A8%8B%E7%BC%96%E8%AF%91%E6%8B%93%E5%B1%95.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/Aclnn%E7%AE%97%E5%AD%90%E5%B7%A5%E7%A8%8B%E5%8C%96%E5%BC%80%E5%8F%91/Host%E4%BE%A7Tiling%E5%AE%9E%E7%8E%B0/%E4%BD%BF%E7%94%A8%E6%A0%87%E5%87%86CPP%E8%AF%AD%E6%B3%95%E5%AE%9A%E4%B9%89Tiling%E7%BB%93%E6%9E%84%E4%BD%93.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/Aclnn%E7%AE%97%E5%AD%90%E5%B7%A5%E7%A8%8B%E5%8C%96%E5%BC%80%E5%8F%91/Host%E4%BE%A7Tiling%E5%AE%9E%E7%8E%B0/%E4%BD%BF%E7%94%A8%E9%AB%98%E9%98%B6API%E6%97%B6%E9%85%8D%E5%A5%97%E7%9A%84Tiling%E5%AE%9E%E7%8E%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/Aclnn%E7%AE%97%E5%AD%90%E5%B7%A5%E7%A8%8B%E5%8C%96%E5%BC%80%E5%8F%91/Host%E4%BE%A7Tiling%E5%AE%9E%E7%8E%B0/%E5%9F%BA%E6%9C%AC%E6%B5%81%E7%A8%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/Aclnn%E7%AE%97%E5%AD%90%E5%B7%A5%E7%A8%8B%E5%8C%96%E5%BC%80%E5%8F%91/Host%E4%BE%A7Tiling%E5%AE%9E%E7%8E%B0/%E9%80%9A%E8%BF%87TilingData%E4%BC%A0%E9%80%92%E5%B1%9E%E6%80%A7%E4%BF%A1%E6%81%AF.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/Aclnn%E7%AE%97%E5%AD%90%E5%B7%A5%E7%A8%8B%E5%8C%96%E5%BC%80%E5%8F%91/Host%E4%BE%A7Tiling%E5%AE%9E%E7%8E%B0/Tiling%E6%A8%A1%E6%9D%BF%E7%BC%96%E7%A8%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/AI%E6%A1%86%E6%9E%B6%E7%AE%97%E5%AD%90%E9%80%82%E9%85%8D/%E6%A6%82%E8%BF%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/AI%E6%A1%86%E6%9E%B6%E7%AE%97%E5%AD%90%E9%80%82%E9%85%8D/ONNX%E6%A1%86%E6%9E%B6/%E8%B0%83%E7%94%A8%E6%A0%B7%E4%BE%8B.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/AI%E6%A1%86%E6%9E%B6%E7%AE%97%E5%AD%90%E9%80%82%E9%85%8D/ONNX%E6%A1%86%E6%9E%B6/%E9%80%82%E9%85%8D%E6%8F%92%E4%BB%B6%E5%BC%80%E5%8F%91.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/AI%E6%A1%86%E6%9E%B6%E7%AE%97%E5%AD%90%E9%80%82%E9%85%8D/PyTorch%E6%A1%86%E6%9E%B6.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E7%BC%96%E7%A8%8B%E6%8C%87%E5%8D%97/%E9%AB%98%E7%BA%A7%E7%BC%96%E7%A8%8B/AI%E6%A1%86%E6%9E%B6%E7%AE%97%E5%AD%90%E9%80%82%E9%85%8D/TensorFlow%E6%A1%86%E6%9E%B6.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E8%B7%A8%E4%BB%A3%E8%BF%81%E7%A7%BB%E5%85%BC%E5%AE%B9%E6%80%A7%E6%8C%87%E5%8D%97/%E6%A6%82%E8%BF%B0.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E8%B7%A8%E4%BB%A3%E8%BF%81%E7%A7%BB%E5%85%BC%E5%AE%B9%E6%80%A7%E6%8C%87%E5%8D%97/3510%E6%9E%B6%E6%9E%84%E8%BF%81%E7%A7%BB%E6%8C%87%E5%AF%BC/2201%E5%88%B03510%E6%9E%B6%E6%9E%84%E5%8F%98%E6%9B%B4.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E8%B7%A8%E4%BB%A3%E8%BF%81%E7%A7%BB%E5%85%BC%E5%AE%B9%E6%80%A7%E6%8C%87%E5%8D%97/3510%E6%9E%B6%E6%9E%84%E8%BF%81%E7%A7%BB%E6%8C%87%E5%AF%BC/2201%E8%BF%81%E7%A7%BB3510%E6%8C%87%E5%AF%BC/%E5%9F%BA%E7%A1%80API%E8%BF%81%E7%A7%BB%E6%8C%87%E5%AF%BC.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E8%B7%A8%E4%BB%A3%E8%BF%81%E7%A7%BB%E5%85%BC%E5%AE%B9%E6%80%A7%E6%8C%87%E5%8D%97/3510%E6%9E%B6%E6%9E%84%E8%BF%81%E7%A7%BB%E6%8C%87%E5%AF%BC/2201%E8%BF%81%E7%A7%BB3510%E6%8C%87%E5%AF%BC/%E7%AE%97%E5%AD%90%E7%BC%96%E8%AF%91%E8%BF%81%E7%A7%BB%E6%8C%87%E5%AF%BC.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E8%B7%A8%E4%BB%A3%E8%BF%81%E7%A7%BB%E5%85%BC%E5%AE%B9%E6%80%A7%E6%8C%87%E5%8D%97/3510%E6%9E%B6%E6%9E%84%E8%BF%81%E7%A7%BB%E6%8C%87%E5%AF%BC/2201%E8%BF%81%E7%A7%BB3510%E6%8C%87%E5%AF%BC/%E9%AB%98%E9%98%B6API%E8%BF%81%E7%A7%BB%E6%8C%87%E5%AF%BC.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/Ascendcopdevg/docs/guide/%E8%B7%A8%E4%BB%A3%E8%BF%81%E7%A7%BB%E5%85%BC%E5%AE%B9%E6%80%A7%E6%8C%87%E5%8D%97/Ascend-C-API%E5%85%BC%E5%AE%B9%E7%AD%96%E7%95%A5.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_mgr_c/data_type_definition/HcclComm.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_mgr_c/data_type_definition/HcclResult.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/basic_resource_mgmt/HcommChannelCreate.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/basic_resource_mgmt/HcommChannelDescInit.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/basic_resource_mgmt/HcommChannelDestroy.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/basic_resource_mgmt/HcommChannelGetNotifyNum.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/basic_resource_mgmt/HcommChannelGetStatus.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/basic_resource_mgmt/HcommEndpointCreate.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/basic_resource_mgmt/HcommEndpointDestroy.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/basic_resource_mgmt/HcommMemExport.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/basic_resource_mgmt/HcommMemImport.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/basic_resource_mgmt/HcommMemReg.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/basic_resource_mgmt/HcommMemUnimport.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/basic_resource_mgmt/HcommMemUnreg.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/basic_resource_mgmt/HcommThreadAlloc.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/basic_resource_mgmt/HcommThreadFree.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/basic_resource_mgmt/README.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/comms_domain_resource_mgmt/HcclChannelAcquire.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/comms_domain_resource_mgmt/HcclChannelDescInit.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/comms_domain_resource_mgmt/HcclChannelGetHcclBuffer.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/comms_domain_resource_mgmt/HcclChannelGetRemoteMems.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/comms_domain_resource_mgmt/HcclCommMemReg.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/comms_domain_resource_mgmt/HcclEngineCtxCopy.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/comms_domain_resource_mgmt/HcclEngineCtxCreate.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/comms_domain_resource_mgmt/HcclEngineCtxDestroy.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/comms_domain_resource_mgmt/HcclEngineCtxGet.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/comms_domain_resource_mgmt/HcclGetHcclBuffer.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/comms_domain_resource_mgmt/HcclThreadAcquire.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/comms_domain_resource_mgmt/HcclThreadAcquireWithStream.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/comms_domain_resource_mgmt/HcclThreadResGetInfo.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/comms_domain_resource_mgmt/README.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/README.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/topo_info_query/HcclGetHeterogMode.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/topo_info_query/HcclGetRankId.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/topo_info_query/HcclGetRankSize.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/topo_info_query/HcclRankGraphGetEndpointDesc.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/topo_info_query/HcclRankGraphGetEndpointInfo.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/topo_info_query/HcclRankGraphGetEndpointNum.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/topo_info_query/HcclRankGraphGetInstSizeListByLayer.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/topo_info_query/HcclRankGraphGetLayers.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/topo_info_query/HcclRankGraphGetLinks.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/topo_info_query/HcclRankGraphGetRanksByLayer.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/topo_info_query/HcclRankGraphGetRanksByTopoInst.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/topo_info_query/HcclRankGraphGetRankSizeByLayer.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/topo_info_query/HcclRankGraphGetTopoInstsByLayer.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/topo_info_query/HcclRankGraphGetTopoType.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/topo_info_query/HcclRankGraphGetTopoTypeByLayer.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/control_plane_api/topo_info_query/README.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/communication_operations/HcommChannelNotifyRecordOnThread.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/communication_operations/HcommChannelNotifyWaitOnThread.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/communication_operations/HcommReadOnThread.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/communication_operations/HcommReadReduceOnThread.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/communication_operations/HcommWriteOnThread.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/communication_operations/HcommWriteReduceOnThread.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/communication_operations/HcommWriteReduceWithNotifyOnThread.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/communication_operations/HcommWriteWithNotifyOnThread.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/communication_operations/README.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/local_operations/HcommAclrtNotifyRecordOnThread.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/local_operations/HcommAclrtNotifyWaitOnThread.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/local_operations/HcommLocalCopyOnThread.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/local_operations/HcommLocalReduceOnThread.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/local_operations/HcommThreadNotifyRecordOnThread.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/local_operations/HcommThreadNotifyWaitOnThread.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/local_operations/README.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/others/HcommAcquireComm.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/others/HcommBatchModeEnd.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/others/HcommBatchModeStart.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/others/HcommReleaseComm.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/others/README.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/cpu_ts/README.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/data_plan_api/README.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/ChannelHandle.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/CommAbiHeader.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/CommAddr.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/CommAddrType.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/CommEngine.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/CommLink.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/CommMem.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/CommMemType.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/CommProtocol.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/CommTopo.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/EndpointAttr.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/EndpointAttrBwCoeff.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/EndpointAttrDieId.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/EndpointAttrLocation.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/EndPointDesc.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/EndpointHandle.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/EndPointLoc.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/EndPointLocType.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/HcclChannelDesc.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/HcclCommSymWindow.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/HcclHeterogMode.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/HcclMemHandle.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/HcommChannelDesc.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/HcommDataType.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/HcommReduceOp.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/README.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/ThreadHandle.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/datatype_definition/ThreadResType.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/api_ref/comm_opdev/README.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/aicpu_comm_op_dev/algo_select.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/aicpu_comm_op_dev/build_deploy.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/aicpu_comm_op_dev/create_res.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/aicpu_comm_op_dev/define_op_if.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/aicpu_comm_op_dev/op_dispatch.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/aicpu_comm_op_dev/overall_flow.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/aicpu_comm_op_dev/query_topo.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/aicpu_comm_op_dev/README.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/aicpu_comm_op_dev/task_sched.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/aiv_comm_op_dev/algo_select.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/aiv_comm_op_dev/create_res.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/aiv_comm_op_dev/define_op_if.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/aiv_comm_op_dev/op_dispatch.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/aiv_comm_op_dev/overall_flow.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/aiv_comm_op_dev/query_topo.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/aiv_comm_op_dev/README.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/aiv_comm_op_dev/task_sched.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/comm_op_dev.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/env_prep.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/intro.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/npu_test.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/prog_models_concepts/comm_engine.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/prog_models_concepts/comm_model.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/prog_models_concepts/concurrency_model.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/prog_models_concepts/README.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/prog_models_concepts/topology_model.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## Ascend C概述 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/commopdev/docs/zh/comm_op_dev_guide/quick_start.md - Description: AI(Artificial Intelligence,人工智能)芯片是专为加速人工智能计算任务设计的专用处理器,凭借高度并行化的硬件架构,可高效应对深度学习场景中的大规模张量运算。NPU(Neural-Network Processing Unit,神经网络处理器)作为AI芯片的典型代表,其核心优势在于适配神经网络任务的高效执行;昇腾AI处理器作为专用NPU,内部集成大量高性能计算核心,进一步强化 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_Ascendcopdevg_docs_zh_guide__Ascend-C_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlas_ascendc_10_0099.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0004.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0005.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0008.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0009.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0011.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0013.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0016.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0024.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0030.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0033.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0035.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0041.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0044.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0047.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0048.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0049.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0052.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0053.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0054.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0056.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0063.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0070.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0075.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0076.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0077.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0079.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0081.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0083.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0085.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0087.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0090.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0093.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0095.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0096.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0098.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0099.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0105.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0106.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0119.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/atlasag_25_0121.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/autofuse_1_0008.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/autofuse_1_0013.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/autofuse_1_0014.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/autofuse_1_0015.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/autofuse_1_0018.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/autofuse_1_0020.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/autofuse_1_0021.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/autofuse_1_0023.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/autofuse_1_0030.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/autofuse_1_0053.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/autofuse_1_0054.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/autofuse_1_0055.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/autofuse_1_0060.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/autofuse_1_0061.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## 什么是GE图引擎 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/programug/graphdevg/autofuse_1_0062.html - Description: 图引擎(Graph Engine,简称GE)是昇腾平台计算图编译和运行的控制中心,提供了图构建、图编译优化及图执行控制等功能。借助GE图引擎能力,PyTorch、TensorFlow、MindSpore、PaddlePaddle等主流AI框架的算法模型可以统一转换为使用Ascend IR(Ascend Intermediate Representation)表示的计算图(Ascend Graph) - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_programug_graphdevg_docs_zh_user_guides_graph_dev_overview_GE_definition_md.md ## CANN社区版-CANN - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/releasenote/9.1.0-beta.3/release-notes.md - Description: 异构计算架构CANN(Compute Architecture for Neural Networks)是昇腾针对AI场景推出的异构计算架构,向上支持多种AI框架,包括MindSpore、PyTorch、TensorFlow等,向下服务AI处理器与编程,发挥承上启下的关键作用,是提升昇腾AI处理器计算效率的关键平台。同时针对多样化应用场景,提供多层次编程接口,支持用户快速构建基于昇腾平台的AI应用 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_index_index_html.md ## 选择安装场景 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg - Description: 本文档提供了详细的NPU驱动和固件、CANN软件安装步骤,若您初次上手或希望快速安装CANN,建议参考《CANN 快速安装\(https://www.hiascend.com/cann/download\)》进行部署。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0000_html.md ## 选择安装场景 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0000.html - Description: 本文档提供了详细的NPU驱动和固件、CANN软件安装步骤,若您初次上手或希望快速安装CANN,建议参考《CANN 快速安装\(https://www.hiascend.com/cann/download\)》进行部署。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0000_html.md ## 准备软件包 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0003.html - Description: 当前CANN软件支持离线安装和在线安装(Conda、Yum、Apt-get和Pip等)方式,不同的安装类型获取软件包的方式不同,请参考本节内容进行获取。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0003_html.md ## 安装NPU驱动和固件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0005.html - Description: 物理机和容器部署场景,只需要在物理机安装NPU驱动和固件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0005_html.md ## 安装CANN - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0008.html - Description: 安装前需确保已具备Python环境及pip3,当前CANN支持Python3.7.x至3.14.x版本,若不满足可执行以下命令安装。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0008_html.md ## 安装软件包时提示解压失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_00101.html - Description: 安装软件包的时候提示解压失败报错信息示例如下,导致安装中止。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_00101_html.md ## 安装CANN(容器镜像安装) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0013.html - Description: AscendHub\(https://www.hiascend.com/developer/ascendhub/\#/index\)提供多种应用场景的容器镜像,可以直接获取使用。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0013_html.md ## 升级前必读 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0028.html - Description: - 升级过程禁止进行其他维护操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0028_html.md ## 升级固件和驱动 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0029.html - Description: 升级NPU固件和驱动时,需按照“固件 > 驱动”的顺序升级。操作步骤如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0029_html.md ## 升级CANN - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0030.html - Description: 若通过Yum在线安装的CANN软件,升级步骤是通过在指令中指定目标版本号,示例:``` - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0030_html.md ## 卸载CANN - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0032.html - Description: ops跟随Toolkit安装后,卸载Toolkit时,会自动卸载ops。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0032_html.md ## 卸载驱动和固件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0033.html - Description: 若使用包管理器方式安装驱动后,可以参考卸载CANN进行操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0033_html.md ## 加固须知 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0035.html - Description: 本文中列出的安全加固措施为基本的加固建议项。用户应根据自身业务,重新审视整个系统的网络安全加固措施。用户应按照所在组织的安全策略进行相关配置,包括但不限于软件版本、口令复杂度要求、安全配置(协议、加密套件、密钥长度等),权限配置、防火墙设置等。必要时可参考业界优秀加固方案和安全专家的建议。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0035_html.md ## 禁止使用root账户远程登录系统 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0036.html - Description: root是Linux系统中的超级特权用户,具有所有Linux系统资源的访问权限。如果允许直接使用root账号登录Linux系统对系统进行操作,会带来潜在的安全风险。通常情况下,建议在“/etc/ssh/sshd\_config”文件中将“PermitRootLogin”参数设置为“no”,设置后,root用户无法通过SSH登录到系统,增加了系统的安全性。如果需要使用root权限进行管理操作,可以通过 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0036_html.md ## 账户UID安全加固 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0037.html - Description: UID为0的账户具有系统最高权限,应保证只有一个,其中只有root是Linux系统中的超级特权用户,确保当前系统中只有root账户UID\=0,同时,各系统账号的UID必须是不同的,可以执行id查询用户UID。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0037_html.md ## 内存地址随机化机制安全加固 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0038.html - Description: ASLR(address space layout randomization)开启后能增强漏洞攻击防护能力,建议用户将/proc/sys/kernel/randomize\_va\_space里面的值设置为2,开启该功能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0038_html.md ## 禁止使用SetUID或SetGID的shell脚本 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0039.html - Description: 特殊权限的脚本有可能被恶意使用,给系统带来巨大的威胁,如非必要,建议禁止使用SUID、SGID脚本。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0039_html.md ## 无属主文件安全加固 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0040.html - Description: 用户可以执行如下命令,查找系统中的无属主文件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0040_html.md ## 设置umask - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0041.html - Description: 建议用户将主机(包括宿主机)和容器中的umask设置为0027及以上,提高安全性。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0041_html.md ## 参数说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0043.html - Description: 本章节介绍了run格式软件包相关参数说明,run格式软件包支持通过命令行参数进行一键式安装,各个命令之间可以配合使用,用户根据安装需要选择对应参数,所有参数都是可选参数。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0043_html.md ## 相关信息记录路径 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0044.html - Description: CANN软件包在安装过程中会生成相关配置、日志信息等,文件存放路径如表1所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0044_html.md ## 运行依赖列表 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0045.html - Description: Python 3.7.x和Python 3.8.x版本的官方支持已经正式结束,进入日落阶段,CANN将于2027年3月30日之后的版本不再支持Python 3.7.x~3.8.x版本,建议用户升级至更高版本(Python 3.9.x~3.14.x)以确保软件长期稳定运行。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0045_html.md ## 账号口令复杂度要求 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0047.html - Description: 账号口令至少满足如下要求: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0047_html.md ## 公网地址 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0048.html - Description: CANN源码包含开源软件和公网URL,主要用于下载华为相关软件包时的相关协议和分析迁移工具中提供的性能调优建议: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0048_html.md ## 快速安装FAQ - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0050.html - Description: CANN快速安装\(https://www.hiascend.com/cann/download\)提供了安装驱动、Toolkit、ops算子包,以及安装后验证的操作步骤,帮助您迅速部署CANN环境。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0050_html.md ## 安装驱动源码编译所需依赖 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0051.html - Description: 各操作系统安装驱动源码编译所需的依赖及其检查命令、安装命令可参见本节内容。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0051_html.md ## 在边缘设备上部署 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0052.html - Description: **表1 参考文档** - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0052_html.md ## 配置交叉编译环境 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0055.html - Description: 若开发环境和运行环境上的操作系统架构不同,需在开发环境中使用交叉编译工具,并使用运行环境架构的库文件进行编译,这样编译出来的可执行文件,才可以在运行环境中执行。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0055_html.md ## 安装、回退和卸载CANN冷补丁包 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0056.html - Description: CANN软件包支持冷补丁升级,即支持独立升级单个或多个库文件的功能。因此发布CANN冷补丁包。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0056_html.md ## 安装、升级和卸载CANN软件包(适用于deb格式) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0057.html - Description: deb格式只能在root权限下操作,非root用户需用到提权命令,请用户自行获取所需的sudo权限。使用完成后请取消涉及高危命令的权限,否则有sudo提权风险。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0057_html.md ## 安装、升级和卸载CANN软件包(适用于rpm格式) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0058.html - Description: rpm格式只能在root权限下操作,非root用户需用到提权命令,请用户自行获取所需的sudo权限。使用完成后请取消涉及高危命令的权限,否则有sudo提权风险。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0058_html.md ## 编译安装Python - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0061.html - Description: 以安装Python3.9.2为例演示编译安装操作,编译前请检查系统时间,确认与当前一致后再进行编译,避免编译安装Python时陷入死循环。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0061_html.md ## 编译安装gcc - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0062.html - Description: 以安装gcc 7.3.0为例演示编译安装操作,编译安装其他版本的gcc时,请自行替换源码包或参考gcc官网进行安装。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0062_html.md ## 查询软件包版本信息 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0064.html - Description: 以下操作适用于查询驱动固件和CANN软件包的版本信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0064_html.md ## 设置用户有效期 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0065.html - Description: 为保证用户的安全性,应设置用户的有效期,使用系统命令chage来设置用户的有效期。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0065_html.md ## 执行命令安装驱动时报错“The list of missing tools:lspci,ifconfig” - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0069.html - Description: 执行命令安装驱动时报如下错误信息: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0069_html.md ## 创建UID和GID为1000的驱动运行用户HwHiAiUser失败 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0070.html - Description: 创建UID和GID为1000的驱动运行用户HwHiAiUser失败,回显如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0070_html.md ## 检查源或者安装依赖时,报错“No module named 'dnf'” - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0071.html - Description: 执行yum makecache或yum install -y xxx安装某个依赖包命令,显示如下错误: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0071_html.md ## 安装CANN包时报错pip3:command not found - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0072.html - Description: 安装CANN软件包的时候,报错pip3:command not found,导致安装中止。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0072_html.md ## CentOS 7.6容器镜像内安装CANN包报错“which:command not found” - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0073.html - Description: 在CentOS 7.6容器镜像内安装CANN软件包的时候,报错“which:command not found”,导致安装中止。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0073_html.md ## 容器里安装CANN时报错提示“Cannot fork” - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0074.html - Description: 在Ubuntu系统的容器里安装CANN软件包时,出现报错提示“Cannot fork”。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0074_html.md ## CANN社区版-openssl-devel安装时报错提示so文件冲突 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0075.html - Description: 运行yum install -y openssl-devel命令进行安装时,出现so文件冲突错误,如下图所示: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0075_html.md ## pip3安装软件包时,出现timed out报错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0076.html - Description: 使用pip3下载相关依赖报错,比如执行pip3 install scipy进行安装出现timed out错误,如下图所示: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0076_html.md ## pip3 install scipy报错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0077.html - Description: 安装scipy时,提示如下错误信息。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0077_html.md ## pip3 install numpy报错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0078.html - Description: 安装依赖时,使用pip3 install numpy命令安装时报错“Could not build wheels for numpy which use PEP 517 and cannot be install directly”,提示信息如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0078_html.md ## pip3安装报错lsb\_release异常 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0079.html - Description: 安装依赖时,使用pip3 install xxx命令安装相关软件时报错“subprocess.CalledProcessError:Command '\('lsb\_release', '-a'\)' return non-zero exit status 1”,提示信息如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0079_html.md ## Python版本不一致导致的问题 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0080.html - Description: 普通用户下,如果用户的其他软件依赖的Python版本和要求的Python版本不一致,可能会出现问题。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0080_html.md ## 安装时配置临时文件的路径 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0081.html - Description: 因为CANN软件包安装时所需空间较大,如果安装时遇到空间不足,可以通过TMPDIR环境变量,将解压的临时文件存放目录修改为剩余空间更大的磁盘上的目录,配置后再执行安装操作,示例命令如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0081_html.md ## 安装run包失败,日志中报错“usergroup\=root not right\!” - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0082.html - Description: 安装run包失败,日志中报错“usergroup\=root not right\!”。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0082_html.md ## 使用glibc 2.28版本运行业务调用malloc接口出现Core Dump问题 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0083.html - Description: 在glibc 2.28版本的docker环境中运行视频解析、目标识别相关业务时出现Core Dump,通过排查堆栈信息,实际为调用glibc的malloc接口时出现异常,堆栈信息如下图所示。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0083_html.md ## 模型训练时报错“NotImplementedError: Cannot convert a symbolic Tensor to a numpy array” - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0084.html - Description: 部分模型训练时,会出现报错“NotImplementedError: Cannot convert a symbolic Tensor to a numpy array”,导致模型训练失败,报错示例如下: - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0084_html.md ## CANN社区版-openEuler 22.03上运行业务时,出现firewalld相关soft lockup或ksoftirqd占用CPU过高 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0085.html - Description: 在openEuler 22.03上同时使用默认的18.09版本Docker与1.0.2版本firewalld时,运行业务出现firewalld相关soft lockup或ksoftirqd占用CPU过高的情况。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0085_html.md ## 执行atc转换或模型训练时,报错:fatal error: 'cstdint' file not found - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0086.html - Description: 在Ubuntu 22.04上执行atc转换命令或者在CentOS 7.6上进行模型训练时,报错:fatal error: 'cstdint' file not found。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0086_html.md ## 离线安装CANN软件 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0087.html - Description: 本节内容指导用户通过在离线场景(待安装环境无法连接网络)下,通过拷贝已下载的OS镜像文件、依赖软件包、驱动和固件、CANN软件包至离线环境,并在离线环境上安装依赖和CANN软件。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0087_html.md ## 安装CANN(Yum在线安装) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0089.html - Description: 本节将介绍通过Yum快速安装CANN软件的操作步骤。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0089_html.md ## 安装CANN - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0090.html - Description: 物理机和容器部署场景,只需要在物理机安装NPU驱动。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0090_html.md ## 安装Toolkit包时,报错Can not combine '--user' and '--target' - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0091.html - Description: 安装Toolkit包时报错“ERROR: Can not combine '--user' and '--target'”。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0091_html.md ## 安装CANN(Conda在线安装) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0093.html - Description: 本节提供了通过Conda快速安装CANN软件的操作步骤,支持的CANN软件包及版本详见软件包列表\(https://anaconda.org/ascend\)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0093_html.md ## 安装后配置 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0094.html - Description: 安装软件包后,请根据业务要求参考本节内容进行配置。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0094_html.md ## 编译优化 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0096.html - Description: 在推理业务场景下,使用毕昇编译器编译安装的Python,能有效提升推理性能。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0096_html.md ## BIOS配置 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0097.html - Description: 本节将介绍基于昇腾AI处理器上的一系列通过BIOS进行高性能配置的操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0097_html.md ## 高性能内存分配器 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0099.html - Description: jemalloc是一款内存分配器,与传统内存分配器(例如,glibc)相比,其优势在于减少内存碎片和提升多线程高并发场景下内存的分配效率,进而充分发挥多核多并发的优势。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0099_html.md ## OS配置 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0100.html - Description: 本节将介绍基于openEuler操作系统,进行Linux内核Page Size调优操作。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0100_html.md ## 操作系统兼容性说明 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0101.html - Description: 各硬件产品对应物理机部署场景支持的操作系统和内核版本要求请参考兼容性查询助手\(https://www.hiascend.com/hardware/compatibility\)。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0101_html.md ## 磁盘I/O配置 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0102.html - Description: 原理:NVMe SSD比普通SATA SSD的读、写性能更快、更高效,主要区别在于传输接口和协议。NVMe SSD使用更快的PCIe 接口和专门为SSD设计的NVMe协议,可直连CPU,实现更低延迟和数倍于SATA的读写速度。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0102_html.md ## 安装CANN(Pip在线安装) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0104.html - Description: 安装前需确保已具备Python环境及pip3,当前CANN支持Python3.7.x至3.14.x版本,若不满足可执行以下命令安装。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0104_html.md ## 安装CANN(Apt-get在线安装) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0105.html - Description: 本节将介绍通过apt-get快速安装CANN软件的操作步骤。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0105_html.md ## msopgen生成算子工程后,编译时出现ln命令报错 - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0106.html - Description: msopgen生成算子工程后,执行build.sh编译时失败,编译过程出现ln命令执行报错。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0106_html.md ## 安装NPU驱动(Yum在线安装) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0107.html - Description: 本节将介绍通过Yum快速安装NPU驱动的操作步骤。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0107_html.md ## 安装NPU驱动(Apt-get在线安装) - URL: https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/latest/softwareinst/instg/instg_0108.html - Description: 本节指导用户创建安装和运行用户,若用户已存在,请跳过本节内容。 - Detail: llms-content/document/detail/CANNCommunityEdition/CANNCommunityEdition_920beta1_softwareinst_instg_instg_0108_html.md ## MindCluster-MindCluster - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/appendices - Description: MindCluster是支持NPU(昇腾AI处理器)构建的深度学习系统组件,专为训练和推理任务提供集群级解决方案。赋能合作伙伴基于MindCluster快速开发深度学习平台,减少底层资源调度等相关软件开发的工作量。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_index_index_html.md ## MindCluster-MindCluster - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/appendices/mxreleasenote_003.html - Description: MindCluster是支持NPU(昇腾AI处理器)构建的深度学习系统组件,专为训练和推理任务提供集群级解决方案。赋能合作伙伴基于MindCluster快速开发深度学习平台,减少底层资源调度等相关软件开发的工作量。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_index_index_html.md ## MindCluster-MindCluster - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/appendices/mxreleasenote_005.html - Description: MindCluster是支持NPU(昇腾AI处理器)构建的深度学习系统组件,专为训练和推理任务提供集群级解决方案。赋能合作伙伴基于MindCluster快速开发深度学习平台,减少底层资源调度等相关软件开发的工作量。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_index_index_html.md ## MindCluster-MindCluster - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/appendices/mxreleasenote_006.html - Description: MindCluster是支持NPU(昇腾AI处理器)构建的深度学习系统组件,专为训练和推理任务提供集群级解决方案。赋能合作伙伴基于MindCluster快速开发深度学习平台,减少底层资源调度等相关软件开发的工作量。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_index_index_html.md ## MindCluster-MindCluster - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/appendices/mxreleasenote_007.html - Description: MindCluster是支持NPU(昇腾AI处理器)构建的深度学习系统组件,专为训练和推理任务提供集群级解决方案。赋能合作伙伴基于MindCluster快速开发深度学习平台,减少底层资源调度等相关软件开发的工作量。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_index_index_html.md ## MindCluster-MindCluster - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/appendices/mxreleasenote_008.html - Description: MindCluster是支持NPU(昇腾AI处理器)构建的深度学习系统组件,专为训练和推理任务提供集群级解决方案。赋能合作伙伴基于MindCluster快速开发深度学习平台,减少底层资源调度等相关软件开发的工作量。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_index_index_html.md ## MindCluster-MindCluster - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/appendices/mxreleasenote_009.html - Description: MindCluster是支持NPU(昇腾AI处理器)构建的深度学习系统组件,专为训练和推理任务提供集群级解决方案。赋能合作伙伴基于MindCluster快速开发深度学习平台,减少底层资源调度等相关软件开发的工作量。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_index_index_html.md ## MindCluster-MindCluster - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/appendices/mxreleasenote_010.html - Description: MindCluster是支持NPU(昇腾AI处理器)构建的深度学习系统组件,专为训练和推理任务提供集群级解决方案。赋能合作伙伴基于MindCluster快速开发深度学习平台,减少底层资源调度等相关软件开发的工作量。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_index_index_html.md ## MindCluster-MindCluster - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/appendices/mxreleasenote_011.html - Description: MindCluster是支持NPU(昇腾AI处理器)构建的深度学习系统组件,专为训练和推理任务提供集群级解决方案。赋能合作伙伴基于MindCluster快速开发深度学习平台,减少底层资源调度等相关软件开发的工作量。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_index_index_html.md ## MindCluster-MindCluster - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/appendices/mxreleasenote_012.html - Description: MindCluster是支持NPU(昇腾AI处理器)构建的深度学习系统组件,专为训练和推理任务提供集群级解决方案。赋能合作伙伴基于MindCluster快速开发深度学习平台,减少底层资源调度等相关软件开发的工作量。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_index_index_html.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/ascend_device_plugin.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/ascend_job.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/ascend_operator.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/clusterd/00_cluster_resources.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/clusterd/01_job_information.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/clusterd/02_process_level_recovery_apis.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/clusterd/03_public_fault_apis.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/clusterd/04_performance_degradation_apis.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/clusterd/05_service_configuration_apis.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/clusterd/06_fault_service_apis.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/clusterd/07_job_information_apis.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/clusterd/08_link_failover_and_switchback_apis.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/clusterd/09_online_stress_testing_apis.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/clusterd/menu_clusterd.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/elastic_agent.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/environment_variable_description.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/hccl.json_file_description.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/k8s.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/noded.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/npu_exporter/00_npu_exporter_home_page.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/npu_exporter/01_prometheus_metrics_api.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/npu_exporter/02_telegraf_data_description.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/npu_exporter/03_custom_metrics_file.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/npu_exporter/menu_npu_exporter.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/README.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/taskd/00_taskd_version.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/taskd/01_taskd_worker_apis.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/taskd/02_taskd_agent_apis.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/taskd/03_taskd_proxy_apis.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/taskd/04_taskd_manager_apis.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/taskd/05_resumable_training_apis.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/taskd/06_internal_taskd_apis.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/taskd/07_return_codes.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/taskd/menu_taskd.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/api/volcano.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/appendix.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/common_operations.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/faq.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/fault_recovery_acceleration/01_product_description.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/fault_recovery_acceleration/02_installation_and_deployment.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/fault_recovery_acceleration/03_usage_guidance.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/fault_recovery_acceleration/04_security_management_and_hardening.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/fault_recovery_acceleration/05_api_reference.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/fault_recovery_acceleration/06_appendixes.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/fault_recovery_acceleration/menu_fault_recovery_acceleration.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/00_before_you_start.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/01_environment_dependencies.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/02_environment_setup.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/03_installation/installation_using_tool.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/03_installation/manual_installation/00_obtaining_software_packages.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/03_installation/manual_installation/01_preparing_for_installation.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/03_installation/manual_installation/02_ascend_docker_runtime.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/03_installation/manual_installation/03_npu_exporter.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/03_installation/manual_installation/04_ascend_device_plugin.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/03_installation/manual_installation/05_volcano.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/03_installation/manual_installation/06_clusterd.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/03_installation/manual_installation/07_infer_operator.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/03_installation/manual_installation/08_ascend_operator.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/03_installation/manual_installation/09_noded.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/03_installation/manual_installation/10_resilience_controller.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/03_installation/manual_installation/11_container-manager.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/03_installation/manual_installation/menu_manual_installation.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/03_installation/menu_installation.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/04_confirming_status.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/05_upgrade.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/06_uninstallation.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/installation_guide/menu_installation_guide.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/introduction/_menu_introduction.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/introduction/00_overview.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/introduction/01_component_description.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/introduction/02_feature_description.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/introduction/03_supported_product_models_and_os.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/optimizing_saving_and_loading_checkpoints/01_product_description.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/optimizing_saving_and_loading_checkpoints/02_installation_and_deployment.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/optimizing_saving_and_loading_checkpoints/03_usage_guidance.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/optimizing_saving_and_loading_checkpoints/04_security_management_and_hardening.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/optimizing_saving_and_loading_checkpoints/05_api_reference.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/optimizing_saving_and_loading_checkpoints/06_alarm_reference.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/optimizing_saving_and_loading_checkpoints/07_appendixes.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/optimizing_saving_and_loading_checkpoints/menu_optimizing_saving_and_loading_checkpoints.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/quick_start.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/references.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/security_hardening.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/appliance/01_npu_hardware_fault_detection_and_rectification.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/appliance/02_inference_service_fault_recovery.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/appliance/menu_appliance.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/basic_scheduling/00_feature_description.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/basic_scheduling/01_affinity_scheduling/00_solution_description.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/basic_scheduling/01_affinity_scheduling/01_affinity_scheduling_interconnection.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/basic_scheduling/01_affinity_scheduling/02_affinity_scheduling_description.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/basic_scheduling/01_affinity_scheduling/03_ascend_ai_processor_based_affinity.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/basic_scheduling/01_affinity_scheduling/04_node_based_affinity.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/basic_scheduling/01_affinity_scheduling/05_scheduling_algorithm_of_ascend_ai_processor.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/basic_scheduling/01_affinity_scheduling/menu_affinity_scheduling.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/basic_scheduling/02_schedulling_process_of_the_ascend_ai_processor.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/basic_scheduling/03_full_npu_scheduling_and_static_vnpu_scheduling_training.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/basic_scheduling/04_full_npu_scheduling_and_static_vnpu_scheduling_inference.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/basic_scheduling/05_multi_level_scheduling.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/basic_scheduling/06_dynamic_vnpu_scheduling_inference.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/basic_scheduling/07_soft_allocation_scheduling_inference.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/basic_scheduling/08_elastic_training.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/basic_scheduling/09_rescheduling_upon_inference_card_faults.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/basic_scheduling/10_recovery_of_inference_card_faults.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/basic_scheduling/menu_basic_scheduling.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/containerization/00_before_you_start.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/containerization/01_configuring_custom_mounted_content.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/containerization/02_usage_on_the_docker_client.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/containerization/03_usage_on_the_docker_integrated_with_kubernetes.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/containerization/04_usage_on_the_containerd_client.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/containerization/05_usage_on_the_containerd_integrated_with_kubernetes.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/containerization/menu_containerization.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/infer_operator_best_practice/00_before_you_start.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/infer_operator_best_practice/01_deploying_infer_operator_inference_job_with_vllm_proxy.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/infer_operator_best_practice/02_deploying_infer_operator_inference_job_with_mindie_pymotor.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/infer_operator_best_practice/menu_infer_operator_best_practice.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/mindie_motor_best_practice/00_before_you_start.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/mindie_motor_best_practice/01_deploying_mindie_motor.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/mindie_motor_best_practice/02_rescheduling_inference_job.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/mindie_motor_best_practice/03_configuring_offline_reset_for_inference_job.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/mindie_motor_best_practice/04_configuring_elastic_scaling_for_inference_job.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/mindie_motor_best_practice/05_configuring_switch_affinity_for_inference_job.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/mindie_motor_best_practice/menu_mindie_motor_best_practice.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/README.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/resource_monitoring/00_before_you_start.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/resource_monitoring/01_working_principle.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/resource_monitoring/02_working_with_prometheus.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/resource_monitoring/03_working_with_telegraf.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/resource_monitoring/menu_resource_monitoring.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/resumable_training/00_feature_description.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/resumable_training/01_solutions_principles.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/resumable_training/02_preparing_kubernetes_and_shared_storage.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/resumable_training/03_configuring_fault_detection_levels.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/resumable_training/04_configuring_fault_handling_policies.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/resumable_training/05_configuring_training_recovery.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/resumable_training/06_configuring_the_job_yaml_file.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/resumable_training/07_using_resumable_training_on_the_cli.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/resumable_training/menu_resumable_training.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/sglang_best_practice/00_before_you_start.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/sglang_best_practice/01_deploying_ome_sglang_inference_job.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/sglang_best_practice/02_rescheduling_inference_job_instance.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/sglang_best_practice/menu_sglang_best_practice.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/virtual_instance/menu_virtual_instance.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/virtual_instance/virtual_instance_with_hdk/01_description.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/virtual_instance/virtual_instance_with_hdk/02_application_scenarios_solutions.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/virtual_instance/virtual_instance_with_hdk/03_virtualization_templates.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/virtual_instance/virtual_instance_with_hdk/04_creating_vnpu.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/virtual_instance/virtual_instance_with_hdk/05_destroying_vnpu.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/virtual_instance/virtual_instance_with_hdk/06_mounting_vnpu.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/virtual_instance/virtual_instance_with_hdk/menu_virtual_instance_with_hdk.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/virtual_instance/virtual_instance_with_vcann_rt/00_description.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/virtual_instance/virtual_instance_with_vcann_rt/01_soft_allocation_virtualization.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/virtual_instance/virtual_instance_with_vcann_rt/menu_virtual_instance_with_vcann_rt.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/vllm_best_practice/00_before_you_start.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/vllm_best_practice/01_deploying_vllm_inference_job.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/vllm_best_practice/02_rescheduling_inference_job_instance.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/vllm_best_practice/03_configuring_fault_isolation.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-集群调度组件基于业界流行的集群调度系统Kubernetes - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/clustersched/dlug/docs/zh/scheduling/usage/vllm_best_practice/menu_vllm_best_practice.md - Description: 集群调度组件基于业界流行的集群调度系统Kubernetes,增加了昇腾AI处理器(NPU)的支持,提供NPU资源管理、亲和性调度、故障恢复和指标监控等功能。用户可以直接使用K8s命令拉起昇腾任务,或者基于MindCluster快速开发昇腾深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_clustersched_dlug_docs_zh_scheduling_01_introduction_00_overview_md.md ## MindCluster-MindCluster - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/deployer/deployerug/docs/zh/appendix.md - Description: MindCluster是支持NPU(昇腾AI处理器)构建的深度学习系统组件,专为训练和推理任务提供集群级解决方案。赋能合作伙伴基于MindCluster快速开发深度学习平台,减少底层资源调度等相关软件开发的工作量。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_index_index_html.md ## MindCluster-MindCluster - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/deployer/deployerug/docs/zh/common_operations.md - Description: MindCluster是支持NPU(昇腾AI处理器)构建的深度学习系统组件,专为训练和推理任务提供集群级解决方案。赋能合作伙伴基于MindCluster快速开发深度学习平台,减少底层资源调度等相关软件开发的工作量。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_index_index_html.md ## MindCluster-MindCluster - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/deployer/deployerug/docs/zh/faq.md - Description: MindCluster是支持NPU(昇腾AI处理器)构建的深度学习系统组件,专为训练和推理任务提供集群级解决方案。赋能合作伙伴基于MindCluster快速开发深度学习平台,减少底层资源调度等相关软件开发的工作量。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_index_index_html.md ## MindCluster-MindCluster - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/deployer/deployerug/docs/zh/installation_guide.md - Description: MindCluster是支持NPU(昇腾AI处理器)构建的深度学习系统组件,专为训练和推理任务提供集群级解决方案。赋能合作伙伴基于MindCluster快速开发深度学习平台,减少底层资源调度等相关软件开发的工作量。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_index_index_html.md ## MindCluster-MindCluster - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/deployer/deployerug/docs/zh/introduction.md - Description: MindCluster是支持NPU(昇腾AI处理器)构建的深度学习系统组件,专为训练和推理任务提供集群级解决方案。赋能合作伙伴基于MindCluster快速开发深度学习平台,减少底层资源调度等相关软件开发的工作量。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_index_index_html.md ## MindCluster-MindCluster - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/deployer/deployerug/docs/zh/security_hardening.md - Description: MindCluster是支持NPU(昇腾AI处理器)构建的深度学习系统组件,专为训练和推理任务提供集群级解决方案。赋能合作伙伴基于MindCluster快速开发深度学习平台,减少底层资源调度等相关软件开发的工作量。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_index_index_html.md ## MindCluster-MindCluster - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/deployer/deployerug/docs/zh/supported_product_and_os.md - Description: MindCluster是支持NPU(昇腾AI处理器)构建的深度学习系统组件,专为训练和推理任务提供集群级解决方案。赋能合作伙伴基于MindCluster快速开发深度学习平台,减少底层资源调度等相关软件开发的工作量。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_index_index_html.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/api/configuration_file_customization.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/api/fault_diagnosis.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/api/fault_entity_customization.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/api/fault_event_cleaning.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/api/fault_event_diagnosis.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/api/fault_log_masking.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/api/help_command.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/api/log_cleaning.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/api/menu_api.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/api/README.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/api/root_cause_cleaning.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/api/root_cause_diagnosis.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/api/service_stream_cleaning.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/api/single_server_fault_diagnosis.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/api/version_query.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/appendix.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/ascend-faultdiag-toolkit/00_overview.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/ascend-faultdiag-toolkit/01_api_description.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/ascend-faultdiag-toolkit/02_detail_function/00_data_source_description.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/ascend-faultdiag-toolkit/02_detail_function/01_diagnosis_logic.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/ascend-faultdiag-toolkit/02_detail_function/menu_detail_function.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## /document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/ascend-faultdiag-tool - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/ascend-faultdiag-toolkit/menu_ascend-faultdiag-toolkit.md - Description: \#\# 概述 MindCluster Ascend FaultDiag Toolkit(简称 ascend-fd-tk)是面向昇腾 AI 集群的链路故障诊断工具。工具提供交互式与非交互式两种操作模式,具备在线数据自动采集与离线日志清洗两种数据处理能力,可完成集群设备信息采集与自动化巡检诊断,通过服务器、L1/L2 灵衢交换机、RoCE 交换机及 BMC 信息定位集群的链路故障。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag-toolkit_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/common_operations.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/faq.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/installation_guide.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/introduction.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/security_hardening.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/supported_products.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/user_guide/00_instruction.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/user_guide/01_usage_process.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/user_guide/02_example.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/user_guide/03_collecting_logs.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/user_guide/04_customizing_fault_entities.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/user_guide/05_masking_fault_logs.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/user_guide/06_cleaning_and_dumping_logs.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/user_guide/07_diagnosing_faults.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/user_guide/08_diagnosing_faults_on_a_single_server.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/user_guide/09_diagnosing_superpod_faults.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/user_guide/10_cleaning_service_flow_logs.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/user_guide/11_cleaning_and_diagnosing_the_root_cause_node.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/user_guide/12_cleaning_and_diagnosing_fault_events.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/user_guide/13_customizing_a_configuration_file.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-**MindCluster Ascend FaultDiag**(以下简称 as - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/faultdiag/faultdiagug/docs/zh/faultdiag/user_guide/menu_user_guide.md - Description: **MindCluster Ascend FaultDiag**(以下简称 ascend-fd)是一款面向昇腾(Ascend)AI 集群的日志诊断工具,提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_faultdiag_faultdiagug_docs_zh_faultdiag_ascend-faultdiag_01_introduction_01_overview_md.md ## MindCluster-MindCluster - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/index/index.html - Description: MindCluster是支持NPU(昇腾AI处理器)构建的深度学习系统组件,专为训练和推理任务提供集群级解决方案。赋能合作伙伴基于MindCluster快速开发深度学习平台,减少底层资源调度等相关软件开发的工作量。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_index_index_html.md ## 产品版本信息 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/patchnote - Description: 产品名称 MindCluster ToolBox - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_patchnote_mxreleasenote_003_html.md ## 产品版本信息 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/patchnote/mxreleasenote_003.html - Description: 产品名称 MindCluster ToolBox - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_patchnote_mxreleasenote_003_html.md ## 相关产品版本配套说明 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/patchnote/mxreleasenote_006.html - Description: MindCluster CANN HDK - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_patchnote_mxreleasenote_006_html.md ## 病毒扫描结果 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/patchnote/mxreleasenote_007.html - Description: 病毒扫描通过。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_patchnote_mxreleasenote_007_html.md ## 版本兼容性说明 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/patchnote/mxreleasenote_008.html - Description: MindCluster ToolBox组件需要配套使用,请勿跨版本混用各组件。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_patchnote_mxreleasenote_008_html.md ## 版本使用注意事项 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/patchnote/mxreleasenote_009.html - Description: 无。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_patchnote_mxreleasenote_009_html.md ## 新增特性 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/patchnote/mxreleasenote_017.html - Description: | 特性名称 | 特性描述 | - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_patchnote_mxreleasenote_017_html.md ## 关键特性变更 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/patchnote/mxreleasenote_018.html - Description: 无。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_patchnote_mxreleasenote_018_html.md ## 业务接口变更 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/patchnote/mxreleasenote_019.html - Description: | 特性名称 | 接口变更 | - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_patchnote_mxreleasenote_019_html.md ## 已解决的问题 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/patchnote/mxreleasenote_020.html - Description: 无。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_patchnote_mxreleasenote_020_html.md ## 遗留问题 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/patchnote/mxreleasenote_021.html - Description: 无。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_patchnote_mxreleasenote_021_html.md ## 升级过程对现行系统的影响 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/patchnote/mxreleasenote_023.html - Description: 无。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_patchnote_mxreleasenote_023_html.md ## 升级后对现行系统的影响 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/patchnote/mxreleasenote_024.html - Description: 无。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_patchnote_mxreleasenote_024_html.md ## 版本配套文档 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/patchnote/mxreleasenote_026.html - Description: 文档名称 内容简介 更新说明 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_patchnote_mxreleasenote_026_html.md ## 漏洞修补列表 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/patchnote/mxreleasenote_028.html - Description: 请参见漏洞修补列表\(https://gitcode.com/Ascend/mind-cluster/blob/branch\_v26.1.0/MindCluster\_26.1.0\_Release\_2026-08-05.md\)。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_patchnote_mxreleasenote_028_html.md ## MindCluster是什么 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/productdesc/docs/zh/overview.md - Description: MindCluster(AI集群系统软件)是支持NPU(昇腾AI处理器)构建的深度学习系统组件,专为训练和推理任务提供集群级解决方案。深度学习平台开发厂商可以减少底层资源调度相关软件开发工作量,快速帮助合作伙伴基于MindCluster开发深度学习平台。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_productdesc_docs_zh_overview_md.md ## MindCluster-说明 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/ref/commumatrix/commumatrix_02.html - Description: MindClusterToolBox通信矩阵请参见MindCluster\_toolbox 26.1.0 通信矩阵.xlsx。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_ref_commumatrix_commumatrix_02_html.md ## MindCluster-说明 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/ref/opensource/opensource_001.html - Description: MindCluster开源软件声明请参见MindCluster 26.1.0 Open Source Software Notice.docx。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_ref_opensource_opensource_001_html.md ## 版本说明 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/releasenote/docs/zh/release_notes_ascend-deployer.md - Description: >\[\!NOTE\] >MindCluster 26.0版本规划:MindCluster 26.0.0、MindCluster 26.1.0、MindCluster 26.2.0和MindCluster 26.3.0。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_releasenote_docs_zh_release_notes_md.md ## 版本说明 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/releasenote/docs/zh/release_notes.md - Description: >\[\!NOTE\] >MindCluster 26.0版本规划:MindCluster 26.0.0、MindCluster 26.1.0、MindCluster 26.2.0和MindCluster 26.3.0。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_releasenote_docs_zh_release_notes_md.md ## MindCluster-实用工具包MindCluster ToolBox中包括Ascend DMI工具、 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug - Description: 实用工具包MindCluster ToolBox中包括Ascend DMI工具、日志收集工具和Ascend Cert工具。- Ascend DMI工具主要为Atlas产品的标卡、板卡及模组类产品提供带宽测试、算力测试、功耗测试等功能。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0002_html.md ## MindCluster-实用工具包MindCluster ToolBox中包括Ascend DMI工具、 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0002.html - Description: 实用工具包MindCluster ToolBox中包括Ascend DMI工具、日志收集工具和Ascend Cert工具。- Ascend DMI工具主要为Atlas产品的标卡、板卡及模组类产品提供带宽测试、算力测试、功耗测试等功能。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0002_html.md ## 支持的操作系统 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0003.html - Description: **表1 Ascend DMI工具支持的操作系统** - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0003_html.md ## 安装MindCluster ToolBox - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0004.html - Description: - 如果环境上已安装MindCluster ToolBox软件包,请跳过此章节。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0004_html.md ## 环境配置 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0006.html - Description: 使用MindCluster ToolBox工具前请确保已完成CANN环境的部署,并根据实际使用场景确认表1已完成安装,详细环境部署方法及软件安装步骤请参考《CANN 软件安装》中的“安装NPU驱动和固件\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/910/softwareinst/instg/instg\_0005 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0006_html.md ## 容器内使用 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0008.html - Description: 1. 若在容器中使用MindCluster ToolBox工具,需要根据实际使用情况,参考如下命令启动容器。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0008_html.md ## MindCluster-Ascend DMI(Ascend Device Management Inte - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0010.html - Description: Ascend DMI(Ascend Device Management Interface)工具通过调用底层DCMI(设备控制管理接口)以及AscendCL(Ascend Computing Language,昇腾计算语言)相关接口完成相关检测功能,对于系统级别的信息查询通过调用系统提供的通用库来实现。Ascend DMI提供以下功能:Atlas硬件产品的兼容性检查、带宽测试、算力测试、功耗测试、 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0010_html.md ## 使用约束 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0011.html - Description: - 请保证Ascend DMI工具独立部署在各服务器产品中使用,若部署在共享目录中供多台服务器共同访问使用或在执行昇腾软件安装/升级/卸载时使用Ascend DMI工具,可能会导致功能执行失败或性能不符合预期等不可预测情况。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0011_html.md ## 查看帮助信息 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0013.html - Description: 查看Ascend DMI工具帮助信息。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0013_html.md ## 查看版本信息 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0014.html - Description: 查看Ascend DMI工具版本信息。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0014_html.md ## 带宽测试 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0015.html - Description: 带宽测试主要用于测试总线带宽、内存带宽。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0015_html.md ## 算力测试 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0016.html - Description: 算力测试通过构造矩阵乘“A\(m,k\)*B\(k,n\)”并执行一定次数的方式,根据运算量与执行多次矩阵乘所耗费时间来计算整卡、整机或处理器中AI Core的算力值和满算力下实时的功率。其中 Atlas A2 训练系列产品 的算力测试包含运算量与执行多次矩阵乘和向量乘所耗费时间来计算整卡、整机或处理器中AI Core的算力值和满算力下实时的功率。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0016_html.md ## 功耗测试 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0017.html - Description: 功耗测试是通过运行单算子模型来检测整卡的功耗信息。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0017_html.md ## 变更声明 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0018.html - Description: MindCluster ToolBox的接口/头文件变更声明请参见MindCluster 26.1.0 ToolBox 接口变更声明.xlsx。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0018_html.md ## 查询设备实时状态 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0019.html - Description: 检测设备在运行过程中的状态信息。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0019_html.md ## 眼图测试 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0021.html - Description: Ascend DMI支持眼图测试,用户使用该功能对网络进行测试,查询当前信号质量。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0021_html.md ## 软硬件版本兼容性测试 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0022.html - Description: 软硬件兼容性工具会获取硬件信息、架构、驱动版本、固件版本、MCU版本以及软件版本。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0022_html.md ## 日志说明 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0026.html - Description: Ascend DMI工具在执行命令行操作时会记录日志,日志存放路径如下: - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0026_html.md ## MindCluster-ascend-log-collect - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0028.html - Description: ascend-log-collect.sh用于在故障分析定位时收集运行环境信息、昇腾NPU健康信息、昇腾NPU日志、昇腾软件日志、Device的系统级日志和MindEdge、MindSDK、MindIE日志,收集到的数据以tar.gz格式保存。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0028_html.md ## 使用前准备 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0029.html - Description: - 已正确配置环境变量。若未配置,请参考 使用前准备 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0029_html.md ## MindCluster-约束 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0030.html - Description: - 昇腾NPU日志和Device的系统级日志仅支持在物理机上执行日志收集工具,且安装用户和使用用户须保持一致均为root才能收集,非物理机或安装用户/使用用户为普通用户执行该工具时无法收集日志。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0030_html.md ## 参数说明 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0034.html - Description: 日志相关参数说明参见表1。日志参数(如配置的文件名、参数等)仅支持大小写字母、数字和特殊字符(-.\_,/\=)的组合。基于安全性考虑,表1涉及的路径需要所在组织的安全要求。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0034_html.md ## MindCluster-Ascend Cert工具提供软件包数字签名校验和更新CRL证书吊销列表等功能 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0036.html - Description: Ascend Cert工具提供软件包数字签名校验和更新CRL证书吊销列表等功能,保证软件包的安全性和CRL文件的有效性。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0036_html.md ## 应用场景 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0037.html - Description: 1. 签名校验:为防止软件包在传递过程或存储期间被恶意篡改,下载软件包时需下载对应的数字签名文件进行完整性校验。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0037_html.md ## 签名校验 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0039.html - Description: 用于查询文件有效性。通过签名校验,确定软件未被恶意更改。如果执行不在参数说明范围内的参数时,将返回正确参数的提示信息。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0039_html.md ## CRL更新 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0040.html - Description: 用于比较上传服务器的CRL文件和服务器本地存储的CRL文件版本新旧。如果上传的CRL文件有更新,会更新本地存储的CRL文件。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0040_html.md ## 查看帮助信息 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0041.html - Description: ascend-cert -h - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0041_html.md ## 日志收集 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0042.html - Description: Ascend Cert工具在执行命令行操作时会记录日志,日志存放路径如下: - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0042_html.md ## 升级前必读 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0089.html - Description: - 升级软件包后,不会影响正常业务。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0089_html.md ## 升级操作 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0090.html - Description: Atlas 500 A2 智能小站在预置系统场景下升级Ascend DMI工具时,需参考《Atlas 500 A2 智能小站 升级指导书\(https://support.huawei.com/enterprise/zh/ascend-computing/atlas-500-a2-pid-254412305?category\=installation-upgrade&subcategory\=upgr - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0090_html.md ## 卸载MindCluster ToolBox - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0091.html - Description: 用户若获取的是*.run包,可以通过卸载脚本完成卸载。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0091_html.md ## 设置用户有效期 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0093.html - Description: 为保证用户的安全性,应设置用户的有效期,使用系统命令chage来设置用户的有效期。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0093_html.md ## 用户信息列表 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0094.html - Description: 表1 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0094_html.md ## 安装或卸载MindCluster ToolBox软件包(适用于.deb格式) - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0095.html - Description: *.deb包仅支持root用户安装,若您获取的是*.deb包,安装过程参考如下: - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0095_html.md ## 限制进程的CPU使用率或内存使用量 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0096.html - Description: 如果用户想限制物理机中Ascend DMI工具运行时CPU占用率或内存使用量,可参考本章节进行操作。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0096_html.md ## 安装MindCluster ToolBox后使用算力、带宽、功耗等功能报错:Failed to load the libascendcl.so dynamic library。 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0097.html - Description: Ascend DMI工具执行算力测试、带宽测试、功能测试等功能时报错,提示Failed to load the libascendcl.so dynamic library. Check the environment configuration dependency. - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0097_html.md ## 执行ascend-dmi命令报错:Failed to load the libdcmi.so dynamic library。 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0098.html - Description: 使用Ascend DMI工具时报错,提示Failed to load the libdcmi.so dynamic library. Check the environment configuration dependency。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0098_html.md ## 命令行使用说明 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0099.html - Description: Ascend DMI工具中各命令的使用方法符合Linux开源社区通用规范,例如对于命令长选项与短选项的支持。首先,概念说明如下: - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0099_html.md ## BIOS上设置Payload - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0102.html - Description: 为确保h2d带宽测试结果达到最佳,Atlas A2训练系列产品中aarch64架构的设备建议在host侧修改Max Payload Size值为512B,以Atlas 900 PoD A2为例演示具体操作。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0102_html.md ## 安装MindCluster ToolBox成功,但是使用Ascend DMI工具失败 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0104.html - Description: 安装MindCluster ToolBox成功后,使用Ascend DMI工具进行带宽测试,报错提示Failed to initialize the device. Check the environment configuration dependency。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0104_html.md ## 执行算力测试短暂出现实测算力低于达标值的情况 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0106.html - Description: 当设备未能及时散热时,电流、功耗增大,导致温度升高,从而触发EDP降频,导致测出的算力低于昇腾处理器达标值,此现象属于昇腾处理器本身的保护机制。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0106_html.md ## 在MindCluster ToolBox与驱动版本不配套的使用场景下,执行相关功能报错 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0107.html - Description: 查看日志出现类似以下提示: - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0107_html.md ## 【D2D带宽】开启ecc-enable导致D2D带宽性能不达标 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0108.html - Description: Ascend DMI工具执行故障诊断时报错,提示带宽测试结果小于参考值。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0108_html.md ## 使用Ascend Cert工具时提示CRL更新失败 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0109.html - Description: 使用Ascend Cert工具的CRL更新功能时,报错提示CRL更新失败。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0109_html.md ## 执行软硬件版本兼容性测试时,出现“Innerversion”值为“NA”的情况 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0111.html - Description: CANN包与驱动正常安装时,执行“软硬件版本兼容性测试”时,回显信息中“Innerversion”字段为“NA”,如下图所示: - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0111_html.md ## 【D2D带宽】环境开启SWAP交换空间机制导致性能不达标 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0112.html - Description: Ascend DMI工具的带宽测试时间较长,且测试结果明显低于预期。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0112_html.md ## 【P2P带宽】【Atlas 200T A2 Box16/Atlas 200I A2 Box16 异构子框】前8卡和后8卡间P2P带宽测试不达标 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0113.html - Description: Atlas 200T A2 Box16/Atlas 200I A2 Box16 异构子框执行P2P带宽测试时,出现无法执行指令有报错信息或测试结果未达到预期时。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0113_html.md ## 加固须知 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0116.html - Description: 本文中列出的安全加固措施为基本的加固建议项。用户应根据自身业务,重新审视整个系统的网络安全加固措施。用户应按照所在组织的安全策略进行相关配置,包括但不限于软件版本、口令复杂度要求、安全配置(协议、加密套件、密钥长度等),权限配置、防火墙设置等。必要时可参考业界优秀加固方案和安全专家的建议。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0116_html.md ## 防火墙配置 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0118.html - Description: 操作系统安装后,若配置普通用户,可以通过在“/etc/login.defs”文件中新增ALWAYS\_SET\_PATH字段并设置为yes,防止越权操作。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0118_html.md ## 设置umask - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0119.html - Description: 建议用户将主机(包括宿主机)和容器中的umask设置为027及以上,提高安全性。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0119_html.md ## 无属主文件安全加固 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0120.html - Description: 因为官方Docker镜像与物理机上的操作系统存在差异,系统中的用户可能不能一一对应,导致物理机或容器运行过程中产生的文件变成无属主文件。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0120_html.md ## 端口扫描 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0121.html - Description: 需要关注全网侦听的端口和非必要端口,如有非必要端口请及时关闭。建议用户关闭不安全的服务,如Telnet,FTP等。具体关闭方法请参考所使用的操作系统相关文档。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0121_html.md ## 防DoS攻击 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0122.html - Description: 可以通过添加白名单和调整服务组件并发参数大小等方式,防止资源被恶意请求占满。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0122_html.md ## SSH安全加固 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0123.html - Description: 用户可以通过修改/etc/ssh/下或者~/.ssh下的配置文件,如ssh\_config和sshd\_config等对SSH连接的安全性进行加固。特别建议禁止使用SSH v1协议,以及不安全的通信协议加密组件等。用户需注意,开启root登录会有安全风险,详细信息请参考所使用的操作系统的相关文档。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0123_html.md ## 内存地址随机化机制安全加固 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0124.html - Description: 建议用户将/proc/sys/kernel/randomize\_va\_space中的值设置为2。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0124_html.md ## 启用对Docker的审计功能 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0126.html - Description: - Docker守护进程在主机里是以root权限运行的,权限较大。建议用户在主机上配置一种对Docker守护进程运行和使用状态的审计机制。一旦Docker守护进程出现越权攻击行为,可以追溯攻击事件根源。开启审计功能请参见 开启对Docker的审计功能 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0126_html.md ## 设置Docker配置文件权限 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0127.html - Description: - daemon.json文件属主和属组设为root:root,文件权限设为600。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0127_html.md ## 控制Docker使用权限 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0128.html - Description: 使用Docker时,建议客户在运行容器时使用非root用户。特殊情况除外,如NPU-Exporter组件需要使用root用户运行容器。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0128_html.md ## 关闭容器中不安全的协议 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0129.html - Description: 为避免安全风险,建议用户使用安全协议,如SSHv2、TLS1.2、TLS1.3、IPsec、SFTP和SNMPv3等。若容器中使用了不安全协议,如TFTP、FTP、Telnet、SSL2.0、SSL3.0、TLS1.0、TLS1.1、SNMPv1、SNMPv2、SSHv1.x等,在不影响业务正常运行的情况下建议关闭或使用安全协议替代。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0129_html.md ## 为Docker创建单独分区 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0130.html - Description: Docker安装后默认目录是“/var/lib/docker”,用于存放Docker相关的文件,包括镜像、容器等。当该目录存储已满时,Docker和主机可能无法使用。因此,建议创建一个单独的分区(逻辑卷),用来存放Docker文件。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0130_html.md ## 限制容器的文件句柄和fork进程数 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0131.html - Description: 为避免攻击者在容器内使用命令启动fork炸弹,造成拒绝服务,建议用户设置全局默认的ulimit,对创建的文件句柄、进程数进行限制。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0131_html.md ## 镜像仓库安全 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0132.html - Description: 镜像仓库的安全风险主要包括仓库本身的安全风险和镜像拉取过程中的传输安全风险。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0132_html.md ## 镜像漏洞 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0133.html - Description: 镜像漏洞安全风险主要包括镜像中的软件含有CVE漏洞、攻击者上传含有恶意漏洞的镜像等情况。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0133_html.md ## Dockerfile安全 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0134.html - Description: Dockerfile是包含用于组合镜像命令的文本文件,一般由基础镜像信息(FROM)、维护者信息(MAINTAINER)、镜像操作指令(RUN、ADD、COPY等)和容器启动时执行指令(CMD等)四个部分组成,Docker可通过读取Dockerfile中的命令创建容器镜像。Dockerfile文件是提供给用户的参考样例文件,用户在此基础上修改后,需要注意Dockerfile中安装第三方软件的安全问 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0134_html.md ## 参数说明 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0137.html - Description: 软件包支持根据命令行完成一键式安装,各个命令之间可以配合使用,用户根据安装需要选择对应参数完成安装,所有参数都是可选参数。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0137_html.md ## 相关信息记录路径 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0138.html - Description: toolbox包在安装过程中会生成相关配置、日志信息等,文件存放路径如表1所示。基于安全性考虑,用户需确认表1涉及的相关文件及所属目录是否符合所在组织的安全要求。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0138_html.md ## 公网地址 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0139.html - Description: 实用工具包中包含开源软件和公网URL,引用的网址和邮箱地址详见MindCluster 26.1.0 ToolBox公网地址.xlsx。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0139_html.md ## NPU环境恢复 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0140.html - Description: NPU环境恢复即通过PCIe标准热复位流程复位昇腾AI处理器。请在以下3种情况下执行NPU环境恢复: - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0140_html.md ## PRBS码流诊断 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0141.html - Description: - 昇腾950PR&950DT系列产品:诊断单机内NPU之间UB直连链路的通信信号质量。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0141_html.md ## 使用hccn\_tool工具配置RoCE网卡IP地址和子网掩码 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0142.html - Description: 在进行network诊断前,需在Host侧以root用户按照如下步骤配置RoCE网卡IP地址和子网掩码,然后配置用于网络检测对象IP地址,否则可能导致诊断失败。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0142_html.md ## P2P压测 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0143.html - Description: 测试指定源头Device到目标Device的通信链路是否存在硬件故障,并输出测试结果。建议在因通信链路硬件故障导致的训练精度异常场景下使用该功能。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0143_html.md ## 设备device侧内存不足导致片上内存压测失败 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0147.html - Description: Ascend DMI工具执行片上内存压力测试失败,提示Error occurred in HBM stress test on device 0,日志报错aclrtMalloc failed, error code: 207001。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0147_html.md ## 日志权限有问题导致Ascend DMI功能不可用 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0149.html - Description: 使用Ascend DMI工具时报错,提示The log is abnormal. Check the log status。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0149_html.md ## 片上内存高危地址压测 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0150.html - Description: 对高带宽内存高危地址进行压力测试,并输出诊断结果。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0150_html.md ## 片上内存压测 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0151.html - Description: 对高带宽内存进行压力测试,并输出诊断结果。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0151_html.md ## AICORE压测 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0152.html - Description: 对AICore进行压力测试,并输出诊断结果。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0152_html.md ## AICORE诊断 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0153.html - Description: 对AICore ERROR进行诊断,并输出诊断结果。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0153_html.md ## 算力诊断 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0154.html - Description: 对芯片进行算力诊断,并输出测试结果。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0154_html.md ## 带宽诊断 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0155.html - Description: 对本地带宽进行诊断,并输出诊断结果。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0155_html.md ## 片上内存诊断 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0156.html - Description: 对高带宽内存进行诊断,并输出诊断结果。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0156_html.md ## 眼图诊断 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0159.html - Description: 对信号质量进行诊断,并输出诊断结果。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0159_html.md ## 网络健康诊断 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0160.html - Description: 对网络健康状态进行诊断,并输出诊断结果。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0160_html.md ## 芯片诊断 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0161.html - Description: 对芯片健康状态进行诊断,并输出诊断结果。Atlas A3 训练及推理产品包含总线设备芯片的健康诊断。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0161_html.md ## 驱动健康诊断 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0162.html - Description: 对驱动的健康状态进行诊断,并输出诊断结果。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0162_html.md ## CANN与驱动的兼容性诊断 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0163.html - Description: 对CANN与驱动的兼容性进行诊断,并输出诊断结果。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0163_html.md ## 一键式片上内存压测诊断 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0164.html - Description: Ascend DMI提供一键式片上内存压测诊断功能,即执行一次命令即可进行片上内存诊断、片上内存压测、片上内存高危地址压测,并输出测试结果。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0164_html.md ## 一键式组合诊断 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0165.html - Description: 故障诊断当前支持算力、带宽、SignalQuality等众多诊断项,每个诊断项需指定不同的参数,单诊断项依次执行耗时长。但在实际使用场景中,例如巡检场景,用户需执行多项诊断用以判断当前产品的健康状态。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0165_html.md ## 帮助查询 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0167.html - Description: 查看故障诊断命令的可用参数。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0167_html.md ## 自定义打流 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0169.html - Description: - 昇腾950PR&950DT系列产品:自定义打流是将一键式打流中的各步骤独立出来,用户可灵活控制打流的TX、RX方向开关。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0169_html.md ## 一键式打流 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0170.html - Description: - 昇腾950PR&950DT系列产品:一键式打流是指单机内NPU之间UB直连链路的码流测试。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0170_html.md ## 功耗压测 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0181.html - Description: 进行EDP/TDP功耗压力测试,并输出诊断结果。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0181_html.md ## 安装MindCluster ToolBox成功,但使用时提示command not found - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0183.html - Description: 以root用户为例,安装MindCluster ToolBox成功后,无法使用,报错提示如下: - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0183_html.md ## 【H2D/D2H带宽】OS内核日志级别影响 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0184.html - Description: 循环执行带宽测试,导致部分带宽不达标。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0184_html.md ## 【H2D/D2H带宽】One Numa Per Socket非最佳配置导致带宽不达标 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0187.html - Description: H2D带宽测试,部分卡不达标。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0187_html.md ## 【H2D带宽】Max Payload Size非最佳配置导致H2D带宽性能不达标 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0189.html - Description: 使用Ascend DMI测试时带宽值不达标。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0189_html.md ## 【H2D/D2H带宽】常见硬件性能影响点配置Checklist - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0190.html - Description: 在带宽值不达标时,通过服务器高性能模式、服务器内存条规模、服务器SMMU功能排查环境因素的影响。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0190_html.md ## 执行ascend-dmi --dg,诊断结果提示:hccn\_tool no certificate found - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0191.html - Description: 执行ascend-dmi --dg命令时,诊断结果提示:hccn\_tool no certificate found。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0191_html.md ## 错误码 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0194.html - Description: **表1 Ascend DMI错误码** - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0194_html.md ## 容器场景执行AICORE命令失败,plog日志报错,驱动故障码为46 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0195.html - Description: 在容器中使用Ascend DMI工具执行命令失败,查看plog报错如下显示: - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0195_html.md ## 执行AICORE压测时,进程被killed,导致进程异常终止 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0197.html - Description: 执行AICORE压测时,进程被killed,导致进程异常终止。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0197_html.md ## 【AICORE】压测包软件失败,错误码110000 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0198.html - Description: Aicore压测包软件失败,查看Message日志或plog日志报错,显示如下: - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0198_html.md ## 【AICORE】持续打印waiting for finish,无法结束 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0199.html - Description: 环境上配置为7.0.0的nnrt,使用6.0.RC2的MindCluster ToolBox和8.0.RC2的Toolkit以及安装了8.0.RC2的kernel执行ascend-dmi --dg -i aicore -s -q压测时,报错waiting for finish,plog报错无法找到算子的config配置文件。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0199_html.md ## AICORE压测失败,错误码100011 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0200.html - Description: 设置了环境变量ASCEND\_RT\_VISIBLE\_DEVICES,执行AICORE报错,显示错误码100011。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0200_html.md ## 【片上内存】片上内存压测失败,日志报aclopRegisterCompileFunc failed - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0201.html - Description: 使用片上内存压测时,压测失败,结果为fail。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0201_html.md ## 【片上内存】片上内存申请失败导致压测失败 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0202.html - Description: 片上内存压测失败,日志显示如下: - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0202_html.md ## 使用环境变量说明 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0203.html - Description: **表1 环境变量清单** - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0203_html.md ## 诊断项未通过时返回的JSON示例 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0204.html - Description: 带宽诊断不通过时,返回的JSON文件回显如下: - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0204_html.md ## 兼容性说明 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0206.html - Description: 各功能点支持的周边版本信息如下表所示。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0206_html.md ## 收集日志 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0208.html - Description: **表1 收集日志信息** - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0208_html.md ## 芯片诊断报错Failed to check switch chip health status - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0210.html - Description: 当驱动版本为25.0.RC1及之后版本,使用芯片诊断报如下错误。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0210_html.md ## NPU未插CDR网卡,码流测试报错-8005 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0212.html - Description: 执行码流测试时,出现满误码67092480,日志中dcmi\_prbs\_operate接口返回-8005,如下图所示。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0212_html.md ## 公共参数说明 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0213.html - Description: 功能命令的公共参数详情请见下表。| 一级参数 | 二级参数 | 是否必填 | 说明 | 支持功能点 | - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0213_html.md ## 定位信息收集 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0214.html - Description: 在定位Ascend DMI相关问题时,可以通过收集执行回显结果、Ascend DMI日志、plog日志(包含atrace日志)、Device日志、Message日志,寻找问题发生原因并解决问题。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0214_html.md ## 超节点P2P带宽测试 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0215.html - Description: 超节点P2P带宽测试主要用于测试超节点内节点间的HCCS链路传输速率和总耗时。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0215_html.md ## 【AICORE】诊断失败,提示A software or internal error occurs. Contact Huawei technical support。 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0220.html - Description: 使用Ascend DMI工具执行Aicore诊断时失败,提示A software or internal error occurs. Contact Huawei technical support。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0220_html.md ## 使用OpenMPI测试超节点,出现“the value of MCA ...” - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0221.html - Description: 使用OpenMPI方式测试超节点,出现如下图所示回显。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0221_html.md ## 使用OpenMPI测试超节点,出现“Authorized users only...” - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0222.html - Description: 使用OpenMPI方式测试超节点,出现如下图所示回显。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0222_html.md ## 使用OpenMPI测试超节点,出现“command not found” - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0223.html - Description: 使用OpenMPI方式测试超节点,出现如下图所示回显。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0223_html.md ## AICORE类问题定位通用方法 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0229.html - Description: 1. 收集/var/log/ascend/ascend-dmi.log文件,搜索如下包含“ret \=”的相关日志,记录其“进程号”及“返回码”。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0229_html.md ## 未配置环回,执行码流测试或诊断时报错-8005、-8001 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0235.html - Description: 执行码流测试或诊断,报错如下。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0235_html.md ## 驱动25.0.RC1及之后版本,执行码流测试或诊断时报错FAIL,错误码-8001 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0236.html - Description: 执行码流测试或诊断,报错如下。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0236_html.md ## grep $\{关键字\} -rn /var/log/ascend-dmi/ascend-dmi.log时,提示grep: ascend-dmi.log: binary file matches - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0238.html - Description: 执行grep $\{关键字\} -rn /var/log/ascend-dmi/ascend-dmi*.log时,提示grep: ascend-dmi*.log: binary file matches,如下图所示。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0238_html.md ## 时延测试 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0239.html - Description: 时延测试主要用于测试CPU、NPU相关链路的时延。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0239_html.md ## 执行ascend-dmi --bw命令时,概率性出现coredump - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0240.html - Description: 执行ascend-dmi --bw命令时,概率性出现coredump。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0240_html.md ## AICPU压测 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0245.html - Description: 对AICPU进行压力测试,并输出测试结果。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0245_html.md ## NIC诊断 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0246.html - Description: 对NPU网口连通性和NPU网口带宽进行诊断,并输出测试结果。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0246_html.md ## 掉卡场景进行超节点带宽测试失败 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0247.html - Description: 进行卡粒度超节点带宽测试时发生如下报错: - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0247_html.md ## 防止MPI全零侦听 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0248.html - Description: - MPI初始化拉起的后台mpirun和ascend-dmi进程存在端口未认证问题,存在被攻击的风险。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0248_html.md ## 带宽测试问题定位通用方法 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0249.html - Description: \# 带宽测试问题定位通用方法 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0249_html.md ## 【H2D带宽】MaxReadReq非最佳配置导致H2D带宽性能不达标 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0250.html - Description: H2D带宽数值不达标,但D2H带宽正常。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0250_html.md ## 【H2D/D2H带宽】CPU核不在位导致带宽性能不达标 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0251.html - Description: H2D/D2H带宽性能不达标。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0251_html.md ## 【H2D/D2H/P2P带宽】链路降lane导致带宽不达标 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0252.html - Description: 带宽测试性能不达标,实测性能仅有3/4、1/2、1/4的比例。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0252_html.md ## 【H2D/D2H/P2P/D2D带宽】其余进程同时占用卡,导致带宽性能不达标 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0253.html - Description: 带宽测试不达标,回显结果出现“Some processes are seizing the NPU”。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0253_html.md ## 【P2P带宽】开启IOMMU导致ACS启动,导致跨环PIX链路带宽值低 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0254.html - Description: Atlas 200T A2 Box16/Atlas 200I A2 Box16 异构子框的PIX链路(即PCIe Switch,NPU1->PCIE -> PCIE SWITCH -> PCIE -> NPU2)带宽性能低于预期,且单向带宽和双向带宽几乎一致。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0254_html.md ## DSA压测 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0258.html - Description: 对DSA进行压力测试,并输出测试结果。 - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0258_html.md ## 功耗测试1min内功耗值压测不上来,AICORE利用率为0% - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_0260.html - Description: 执行功耗测试时,开始1min左右功耗值无明显上升,AI Core Usage值为0%。如图所示: - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_0260_html.md ## MindCluster ToolBox环境变量脚本配置失败 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_1110.html - Description: 执行MindCluster ToolBox的环境变量配置脚本set\_env.sh时,出现如下报错信息: - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_1110_html.md ## 修订记录 - URL: https://www.hiascend.com/document/detail/zh/mindcluster/latest/toolbox/toolboxug/toolboxug_1140.html - Description: | 发布日期 | 修订说明 | - Detail: llms-content/document/detail/mindcluster/mindcluster_2610_toolbox_toolboxug_toolboxug_1140_html.md ## MindEdge-MindEdge - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/index/index.html - Description: MindEdge提供边缘AI业务基础组件管理和边缘AI业务容器的全生命周期管理能力,同时提供节点看管、日志采集等统一运维能力和严格的安全可信保障。为客户提供完整的边缘与云及数据中心协同的边缘计算解决方案,使能客户快速构建边缘AI业务。 - Detail: llms-content/document/detail/mindedge/mindedge_2600_index_index_html.md ## MindEdge-附录 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/mef/mefug/docs/zh/user_guide/appendix.md - Description: 开源代码包含的公网地址。 - Detail: llms-content/document/detail/mindedge/mindedge_2600_mef_mefug_docs_zh_user_guide_appendix_md.md ## 常用操作 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/mef/mefug/docs/zh/user_guide/common_operations.md - Description: **表 1** 常用命令依赖安装步骤 - Detail: llms-content/document/detail/mindedge/mindedge_2600_mef_mefug_docs_zh_user_guide_common_operations_md.md ## MindEdge-**问题现象描述** - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/mef/mefug/docs/zh/user_guide/faq.md - Description: **问题现象描述** - Detail: llms-content/document/detail/mindedge/mindedge_2600_mef_mefug_docs_zh_user_guide_faq_md.md ## 安装MEF - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/mef/mefug/docs/zh/user_guide/installation_guide.md - Description: **图 1** MEF安装流程图 - Detail: llms-content/document/detail/mindedge/mindedge_2600_mef_mefug_docs_zh_user_guide_installation_guide_md.md ## 产品简介 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/mef/mefug/docs/zh/user_guide/introduction.md - Description: 产品背景 随着AI技术的演进,交通、能源、安防等行业的智能化转型诉求愈发强烈,端边云应用落地越来越多。海量的终端设备实时产生数据,集中式云计算在带宽负载、网络延时、数据管理成本等方面难以适应数据频繁交互的需求,使得边缘计算的价值进一步凸显。边缘计算需求的增长必然带来边缘计算设备数量的增加,如何管理数量众多的边缘设备,以及如何将边缘计算应用批量部署到边缘设备成为系统管理人员重点关注的问题。 产品定义 - Detail: llms-content/document/detail/mindedge/mindedge_2600_mef_mefug_docs_zh_user_guide_introduction_md.md ## 接口参考 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/mef/mefug/docs/zh/user_guide/RESTful.md - Description: 用户通过对MEF Center提供的RESTful接口进行调用,可实现MEF相关功能的使用。 - Detail: llms-content/document/detail/mindedge/mindedge_2600_mef_mefug_docs_zh_user_guide_RESTful_md.md ## 安全加固 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/mef/mefug/docs/zh/user_guide/security_hardening.md - Description: 本文中列出的安全加固措施为基本的加固建议项。用户应根据自身业务,重新审视整个系统的网络安全加固措施。用户应按照所在组织的安全策略进行相关配置,包括并不局限于软件版本、口令复杂度要求、安全配置(协议、加密套件、密钥长度等),权限配置、防火墙设置等。必要时可参考业界优秀加固方案和安全专家的建议。 - Detail: llms-content/document/detail/mindedge/mindedge_2600_mef_mefug_docs_zh_user_guide_security_hardening_md.md ## 故障处理 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/mef/mefug/docs/zh/user_guide/troubleshooting.md - Description: **问题现象描述** - Detail: llms-content/document/detail/mindedge/mindedge_2600_mef_mefug_docs_zh_user_guide_troubleshooting_md.md ## 使用指导 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/mef/mefug/docs/zh/user_guide/usage.md - Description: MEF提供管理边缘节点容器应用的功能,其中包括边缘节点接入管理和容器应用管理。用户通过二次开发,对接ISV业务平台后,可通过MEF Center的RESTful接口实现初始化配置第三方镜像仓库和软件仓库、拉取镜像以及升级MEF Edge软件包功能。 - Detail: llms-content/document/detail/mindedge/mindedge_2600_mef_mefug_docs_zh_user_guide_usage_md.md ## 告警处理 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/mef/mefug/docs/zh/user_guide/warning.md - Description: - 告警:从某个时间点开始出现的问题。 - Detail: llms-content/document/detail/mindedge/mindedge_2600_mef_mefug_docs_zh_user_guide_warning_md.md ## 云边协同接口 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/omsdk/omsdkdg/docs/zh/secondary_development/api/collaboration_api.md - Description: 云边协同消息主要包含接口:Atlas IES与FusionDirector之间通过WebSocket消息通信,分为上行消息与下行消息。 - Detail: llms-content/document/detail/mindedge/mindedge_2600_omsdk_omsdkdg_docs_zh_secondary_development_api_collaboration_api_md.md ## RESTful接口 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/omsdk/omsdkdg/docs/zh/secondary_development/api/README.md - Description: OM SDK提供标准的RESTful接口供开发者进行查看或者调用;支持开发者进行硬件基础管理功能的二次开发或集成。 - Detail: llms-content/document/detail/mindedge/mindedge_2600_omsdk_omsdkdg_docs_zh_secondary_development_api_RESTful_api_md.md ## RESTful接口 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/omsdk/omsdkdg/docs/zh/secondary_development/api/RESTful_api.md - Description: OM SDK提供标准的RESTful接口供开发者进行查看或者调用;支持开发者进行硬件基础管理功能的二次开发或集成。 - Detail: llms-content/document/detail/mindedge/mindedge_2600_omsdk_omsdkdg_docs_zh_secondary_development_api_RESTful_api_md.md ## MindEdge-附录 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/omsdk/omsdkdg/docs/zh/secondary_development/appendix.md - Description: 产品规格配置文件是om-sdk.tar.gz中software/ibma/config/devm\_configs下的product\_specification.json文件。 - Detail: llms-content/document/detail/mindedge/mindedge_2600_omsdk_omsdkdg_docs_zh_secondary_development_appendix_md.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/omsdk/omsdkdg/docs/zh/secondary_development/developer_guide.md - Description: **支持的操作系统** - Detail: llms-content/document/detail/mindedge/mindedge_2600_omsdk_omsdkdg_docs_zh_secondary_development_developer_guide_md.md ## 产品简介 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/omsdk/omsdkdg/docs/zh/secondary_development/introduction.md - Description: 随着边缘计算的兴起,边缘设备逐渐向智能化、平台化发展。OM SDK作为开发态组件,使能第三方ISV(Independent Software Vendor,独立软件供应商)或者帮助开发者基于昇腾算力芯片快速搭建硬件管理平台,简化硬件设备的运维部署,快速构建自定义的设备运维系统。 - Detail: llms-content/document/detail/mindedge/mindedge_2600_omsdk_omsdkdg_docs_zh_secondary_development_introduction_md.md ## MindEdge-附录 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/omsdk/omsdkug/docs/zh/user_guide/appendix.md - Description: 本章节提供对OM SDK的维护命令,具体说明请参见表1 命令说明。 - Detail: llms-content/document/detail/mindedge/mindedge_2600_omsdk_omsdkug_docs_zh_user_guide_appendix_md.md ## 常用操作 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/omsdk/omsdkug/docs/zh/user_guide/common_operations.md - Description: 若升级过程中出现磁盘空间不足的问题,可以参考本章节清理磁盘空间。 - Detail: llms-content/document/detail/mindedge/mindedge_2600_omsdk_omsdkug_docs_zh_user_guide_common_operations_md.md ## 安装部署 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/omsdk/omsdkug/docs/zh/user_guide/installation_guide.md - Description: **表 1** 获取软件包 - Detail: llms-content/document/detail/mindedge/mindedge_2600_omsdk_omsdkug_docs_zh_user_guide_installation_guide_md.md ## 产品简介 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/omsdk/omsdkug/docs/zh/user_guide/introduction.md - Description: 随着边缘计算的兴起,边缘设备逐渐向智能化、平台化趋势发展。OM SDK作为开发态组件,使能第三方ISV(Independent Software Vendor,独立软件供应商)或者帮助开发者基于昇腾算力芯片快速搭建硬件管理平台,简化硬件设备的运维部署,快速构建自定义的设备运维系统。 - Detail: llms-content/document/detail/mindedge/mindedge_2600_omsdk_omsdkug_docs_zh_user_guide_introduction_md.md ## 安全配置和加固 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/omsdk/omsdkug/docs/zh/user_guide/security_hardening.md - Description: **界面系统能力项设置** - Detail: llms-content/document/detail/mindedge/mindedge_2600_omsdk_omsdkug_docs_zh_user_guide_security_hardening_md.md ## Web功能介绍 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/omsdk/omsdkug/docs/zh/user_guide/usage.md - Description: 边缘管理系统(Edge Management System)是一款针对边缘设备的系统监测和管理的软件。 - Detail: llms-content/document/detail/mindedge/mindedge_2600_omsdk_omsdkug_docs_zh_user_guide_usage_md.md ## MindEdge-说明 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/opensource/opensource_001.html - Description: MindEdge26.0.0的开源软件声明请参见MindEdge 26.0.0 Open Source Software Notice.docx。 - Detail: llms-content/document/detail/mindedge/mindedge_2600_opensource_opensource_001_html.md ## 版本配套说明 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/releasenote/docs/zh/release_notes_MEF.md - Description: 病毒扫描通过。 开源首版本不涉及版本升级,与昇腾社区上的MEF软件版本不兼容。 > \[\!NOTE\] > 软件版本兼容性是指产品软件版本升级时,其他关联软件不需要联动升级或打补丁,仍然可以支持已有功能。 无 1. 支持云侧对边侧节点的管理 2. 支持边侧节点的接入和容器应用生命周期管理; 3. 支持云侧、边侧告警和事件的管理; 4. - Detail: llms-content/document/detail/mindedge/mindedge_2600_releasenote_docs_zh_release_notes_MEF_md.md ## 版本配套说明 - URL: https://www.hiascend.com/document/detail/zh/mindedge/latest/releasenote/docs/zh/release_notes_OMSDK.md - Description: 病毒扫描通过。 开源首版本不涉及版本升级,与昇腾社区上的OM SDK版本不兼容。 > \[\!NOTE\] > 软件版本兼容性是指产品软件版本升级时,其他关联软件不需要联动升级或打补丁,仍然可以支持已有功能。 无 1. 支持对边缘设备进行硬件管理、软件安装、系统运维、用户管理能力。 2. 提供北向"API接口"和"云边协同接口"。 - Detail: llms-content/document/detail/mindedge/mindedge_2600_releasenote_docs_zh_release_notes_OMSDK_md.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/developer_guide/build_guide_llm.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/developer_guide/build_guide.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/installation.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/detail/image_usage_guide.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/detail/installation_in_containerized.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/detail/installation_on_a_physical_machine.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/detail/installing_software_and_dependencies.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/detail/preparing_software_and_dependencies.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/detail/uninstallation.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/detail/upgrade.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/faq_and_appendixes/curl_command_failed.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/faq_and_appendixes/error_libboost_thread_motor_started.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/faq_and_appendixes/password_complexity_requirement.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/faq_and_appendixes/setting_validity_of_account.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/faq_and_appendixes/software_package_options.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/faq_and_appendixes/starting_the_haveged_service.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/installation_introduction.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/%28optional%29installing_systemd_coredump.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/configuring_firewall.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/creating_separate_partition_for_docker.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/defending_against_dos_attacks.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/directory_permission_security_hardening.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/disabling_the_device_ssh_service.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/enabling_docker_audit.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/enabling_live_restore.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/enabling_tls_authentication_for_tcpremote.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/enabling_trustlist_verification_for_device.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/enforcing_root_exclusivity_and_UID_uniqueness.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/image_vulnerabilities.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/kubernetes_security_hardening.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/notification_of_data_disclosure_risks.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/other_measures_for_security_hardening.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/performing_security_hardening_ownerless_files.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/preventing_buffer_overflow.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/prohibiting_executable_files_with_highrisk_capabilities.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/prohibiting_files_without_owners.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/prohibiting_the_root_user_from_remotely.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/prohibiting_the_shell_scripts_with_setUID_setGID.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/python_security_hardening.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/scanning_ports.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/security_hardening_for_docker_container_running.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/security_hardening_on_the_docker_daemon.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/security_hardening_precautions.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/security_management.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/server_security_hardening.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/setting_permissions_for_docker_configuration_files.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/setting_umask.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/docs/zh/user_guide/install/security_management_and_hardening/using_ASLR_and_KASLR_provided_by_linux.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/envdeployment/instg/MindIE/26.0.0/public_url_and_email_addresses.md - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE-MindIE - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/index/index.html - Description: MindIE(Mind Inference Engine,昇腾推理引擎)是基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能AI推理引擎。 - Detail: llms-content/document/detail/mindie/mindie_310_index_index_html.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/developer_guide/migration_and_adaptation_guide/aclgraph_migration_and_adaptation_guide.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/faq/faq.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## 健康检查 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0016.html - Description: 检查服务状态是否正常。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0017_html.md ## 列举当前模型列表 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0019.html - Description: 列举当前模型列表信息。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0020_html.md ## 列举当前模型列表 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0020.html - Description: 列举当前模型列表信息。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0020_html.md ## 查询单个模型信息 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0021.html - Description: \#\#\#\# 接口功能 查询指定模型信息。 \#\#\#\# 接口格式 操作类型:GET URL:https://\{ip\}:\{port\}/v1/models/\{model\} \{ip\}和\{port\}请使用业务面的IP地址和端口号,即“ipAddress”和“port”。 \#\#\#\# 请求参数 URL链接中\{model\}字段为模型名称。 \#\#\#\# 使用样例 请求样例: - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0021_html.md ## 推理接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0022.html - Description: - 运行环境的transformers版本不可低于4.34.1,低版本tokenizer不支持"chat\_template"方法。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0022_html.md ## 列举当前模型列表 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0023.html - Description: 列举当前模型列表信息。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0024_html.md ## 列举当前模型列表 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0024.html - Description: 列举当前模型列表信息。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0024_html.md ## 查询单个模型信息 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0025.html - Description: \#\#\#\# 接口功能 查询指定模型信息。 \#\#\#\# 接口格式 操作类型:GET URL:https://\{ip\}:\{port\}/v1/models/\{model\} \{ip\}和\{port\}请使用业务面的IP地址和端口号,即“ipAddress”和“port”。 \#\#\#\# 请求参数 URL链接中\{model\}字段为模型名称。 \#\#\#\# 使用样例 请求样例: - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0025_html.md ## v1/chat接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0026.html - Description: - 运行环境的transformers版本不可低于4.34.1,低版本tokenizer不支持"chat\_template"方法。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0027_html.md ## v1/chat接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0027.html - Description: - 运行环境的transformers版本不可低于4.34.1,低版本tokenizer不支持"chat\_template"方法。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0027_html.md ## v1/completions接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0028.html - Description: 提供文本/流式推理处理功能。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0028_html.md ## 健康检查 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0029.html - Description: 检查服务状态是否正常。服务正常时,返回状态码200,消息体没有内容。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0030_html.md ## 健康检查 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0030.html - Description: 检查服务状态是否正常。服务正常时,返回状态码200,消息体没有内容。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0030_html.md ## 查询服务元数据 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0031.html - Description: 查询服务元数据信息。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0031_html.md ## 查询模型元数据 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0032.html - Description: 查询模型元数据信息。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0032_html.md ## 查询模型配置数据 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0033.html - Description: 查询模型配置数据信息。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0033_html.md ## Token推理接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0034.html - Description: 提供Token推理处理功能。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0034_html.md ## 文本推理接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0035.html - Description: 提供文本推理处理功能。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0035_html.md ## 流式推理接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0036.html - Description: 提供流式推理处理功能。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0036_html.md ## Slot统计接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0037.html - Description: 参考Triton格式,自定义的slot统计信息查询接口。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0038_html.md ## Slot统计接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0038.html - Description: 参考Triton格式,自定义的slot统计信息查询接口。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0038_html.md ## 提前终止请求接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0039.html - Description: 目前该接口只支持提前终止Triton推理请求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0039_html.md ## 文本/流式推理接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0040.html - Description: 提供文本/流式推理处理功能。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0040_html.md ## 计算token数量接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0042.html - Description: 计算token数量,默认对输入文本进行分词。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0042_html.md ## PD分离架构说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0043.html - Description: 该架构将推理的2个阶段(Prefill和Decode)分别部署到不同的实例上进行计算,从而减少Prefill和Decode之间互相干扰,提升推理性能。其基本流程如下: - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0044_html.md ## PD分离架构说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0044.html - Description: 该架构将推理的2个阶段(Prefill和Decode)分别部署到不同的实例上进行计算,从而减少Prefill和Decode之间互相干扰,提升推理性能。其基本流程如下: - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0044_html.md ## 推理接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0045.html - Description: - 推理接口属于业务面,使用业务面的IP地址和端口号。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0045_html.md ## 指定实例身份v1接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0046.html - Description: \#\#\#\# 接口功能 指定实例身份。 \#\#\#\# 接口格式 操作类型:POST URL:https://\{ip\}:\{port\}/v1/role/\{role\} - \{ip\}字段优先读取环境变量值MIESCONTAINERMANAGEMENTIP;如果没有该环境变量,则取配置文件的“managementIpAddress”参数;如果配置文件中没有“managementIpAddress”参数,则取配置文件 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0046_html.md ## 指定实例身份v2接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0047.html - Description: \#\#\#\# 接口功能 指定实例身份。 \#\#\#\# 接口格式 操作类型:POST URL:https://\{ip\}:\{port\}/v2/role/\{role\} - \{ip\}字段优先读取环境变量值MIESCONTAINERMANAGEMENTIP;如果没有该环境变量,则取配置文件的“managementIpAddress”参数;如果配置文件中没有“managementIpAddress”参数,则取配置文件 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0047_html.md ## 静态配置采集接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0048.html - Description: \#\#\#\# 接口功能 采集静态配置。 \#\#\#\# 接口格式 操作类型:GET URL:https://\{ip\}:\{port\}/v1/config - \{ip\}字段优先读取环境变量值MIESCONTAINERMANAGEMENTIP;如果没有该环境变量,则取配置文件的“managementIpAddress”参数;如果配置文件中没有“managementIpAddress”参数,则取配置文件的“ipAd - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0048_html.md ## 动态状态采集v1接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0049.html - Description: \#\#\#\# 接口功能 采集动态状态。 \#\#\#\# 接口格式 操作类型:GET URL:https://\{ip\}:\{port\}/v1/status - \{ip\}字段优先读取环境变量值MIESCONTAINERMANAGEMENTIP;如果没有该环境变量,则取配置文件的“managementIpAddress”参数;如果配置文件中没有“managementIpAddress”参数,则取配置文件的“ipAd - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0049_html.md ## 服务指标接口(JSON格式) - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0051.html - Description: 获取推理服务过程中请求的TTFT、TBT的动态平均值(默认近1000个请求的平均值),正在执行请求数、正在等待请求数量、剩余NPUblock数量。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0052_html.md ## 服务指标接口(JSON格式) - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0052.html - Description: 获取推理服务过程中请求的TTFT、TBT的动态平均值(默认近1000个请求的平均值),正在执行请求数、正在等待请求数量、剩余NPUblock数量。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0052_html.md ## 服务停止接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0053.html - Description: 实现整个服务的优雅退出。调用该接口时,会等待服务中正在执行和等待的所有请求完成,并关闭服务,等待时所有推理接口将不可用。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0053_html.md ## 健康探针接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0054.html - Description: 检查推理流程是否正常。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0054_html.md ## 服务管控指标查询接口(普罗格式) - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0055.html - Description: 如需使用该接口,请确保在启动服务前开启服务化管控开关。开启服务化管控功能的命令如下: - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0055_html.md ## 动态加载LoRA接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0056.html - Description: 实现lora的动态加载功能。调用该接口时,会根据LoRA的实际情况分别判断是否可以加载和等待,并返回对应结果。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0056_html.md ## 动态卸载LoRA接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0057.html - Description: 实现LoRA的动态卸载功能。调用该接口时,会根据LoRA的实际情况分别卸载和等待,并返回对应结果。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0057_html.md ## 使用场景 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0058.html - Description: 针对自研服务化MindIE Motor、三方服务化Triton,提供模型及调度能力,支持Continuous Batching动态调度。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0059_html.md ## 使用场景 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0059.html - Description: 针对自研服务化MindIE Motor、三方服务化Triton,提供模型及调度能力,支持Continuous Batching动态调度。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0059_html.md ## 类说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0060.html - Description: InferenceRequest推理引擎功能请求实现类,提供Request初始化,Tensor设置,获取请求信息等功能入口。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0062_html.md ## 类说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0061.html - Description: InferenceRequest推理引擎功能请求实现类,提供Request初始化,Tensor设置,获取请求信息等功能入口。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0062_html.md ## 类说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0062.html - Description: InferenceRequest推理引擎功能请求实现类,提供Request初始化,Tensor设置,获取请求信息等功能入口。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0062_html.md ## InferRequest接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0063.html - Description: \#\#\#\# 接口功能 构造函数。 \#\#\#\# 接口格式 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0063_html.md ## SetTensor接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0064.html - Description: 该接口用于设置Tensor。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0064_html.md ## AddTensor接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0065.html - Description: \#\#\#\# 接口功能 添加Tensor。 \#\#\#\# 接口格式 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0065_html.md ## DelTensorByName接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0067.html - Description: 根据Name删除Tensor。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0067_html.md ## GetRequestId接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0068.html - Description: \#\#\#\# 接口功能 获取请求ID。 \#\#\#\# 接口格式 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0068_html.md ## SetMaxOutputLen接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0069.html - Description: \#\#\#\# 接口功能 设置最大输出长度。 \#\#\#\# 接口格式 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0069_html.md ## GetMaxOutputLen接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0070.html - Description: \#\#\#\# 接口功能 获取最大输出长度。 \#\#\#\# 接口格式 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0070_html.md ## GetRequestInner接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0071.html - Description: 获取InferRequestImpl对象。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0071_html.md ## ImmutableInputs接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0072.html - Description: 获取TensorMap对象。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0072_html.md ## SetReqType接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0073.html - Description: 设置请求类型为prefill或decode。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0073_html.md ## SetRecompute接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0075.html - Description: 设置请求是否是重计算类型。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0075_html.md ## IsRecompute接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0076.html - Description: 判断请求是否是重计算请求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0076_html.md ## IsPrefillReq接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0077.html - Description: 判断请求是否为Prefill类型。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0077_html.md ## IsFlexLocalReq接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0079.html - Description: 判断请求是否为flex节点本地处理的请求类型。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0079_html.md ## SetDTarget接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0080.html - Description: 设置请求发往哪个D节点的server IP。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0080_html.md ## GetDTarget接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0081.html - Description: 获取请求发往哪个D节点的IP。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0081_html.md ## SetPrefillAddr接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0082.html - Description: 设置请求在P节点上的Server IP。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0082_html.md ## SetSrcBlockTable接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0084.html - Description: 设置请求在P节点上的block table。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0084_html.md ## GetSrcBlockTable接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0085.html - Description: 获取请求在P节点上的block table下标。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0085_html.md ## SetDpInstanceIds接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0086.html - Description: 设置当前推理请求关联的DP实例ID列表。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0086_html.md ## GetDpInstanceIds接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0087.html - Description: 获取当前推理请求关联的DP实例ID列表。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0087_html.md ## ~InferRequest - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0088.html - Description: \#\#\#\# 接口功能 默认析构函数。 \#\#\#\# 接口格式 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0088_html.md ## 类说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0089.html - Description: LLMManager推理引擎功能管理类,提供Manager模块的初始化和终止。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0090_html.md ## LlmManager接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0091.html - Description: \#\#\#\# 接口功能 默认构造函数。 \#\#\#\# 接口格式 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0091_html.md ## GetModelParams接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0092.html - Description: 提供获取模型参数的功能。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0092_html.md ## Shutdown接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0093.html - Description: 提供终止LlmManager的功能。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0093_html.md ## GetMaxPositionEmbeddings接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0094.html - Description: 获取MaxPositionEmbeddings数值。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0094_html.md ## UpdateEngineInfo接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0095.html - Description: \#\#\#\# 接口功能 下发切换身份请求。 \#\#\#\# 接口格式 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0095_html.md ## Init接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0096.html - Description: LlmManager的初始化接口。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0096_html.md ## InitModelForMultiPd接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0097.html - Description: LlmManager提供的针对PD分离多机场景的初始化模型接口。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0097_html.md ## HandleLora接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0098.html - Description: 动态加载、卸载和查询LoRA。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0098_html.md ## ~LlmManager接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0099.html - Description: \#\#\#\# 接口功能 默认析构函数。 \#\#\#\# 接口格式 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0099_html.md ## UpdateFlexSwitchInfo接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0100.html - Description: 下发Flex节点信息更新请求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0100_html.md ## 类说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0102.html - Description: Llmmanager推理引擎功能数据类,提供输入和输出的基类。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0102_html.md ## InferTensor接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0103.html - Description: \#\#\#\# 接口功能 默认构造函数。 \#\#\#\# 接口格式 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0103_html.md ## operator\=接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0104.html - Description: 禁用InferTensor的拷贝赋值函数。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0104_html.md ## GetShape接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0105.html - Description: 获取张量对象shape。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0105_html.md ## GetSize接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0106.html - Description: 获取张量对象数据大小。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0106_html.md ## GetMemType接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0108.html - Description: 获取张量对象的MemType。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0108_html.md ## GetData接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0109.html - Description: 获取张量对象的Data。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0109_html.md ## Allocate接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0112.html - Description: 为输入张量对象分配内存空间,用于接收输入数据。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0112_html.md ## Release接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0115.html - Description: 释放输入张量对象内存。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0115_html.md ## GetTypeByteSize接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0116.html - Description: 获取对应InferDataType类型的字节数。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0116_html.md ## ~InferTensor接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0117.html - Description: \#\#\#\# 接口功能 默认析构函数。 \#\#\#\# 接口格式 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0117_html.md ## 类说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0118.html - Description: 推理引擎错误码类,提供错误码的创建、获取等功能。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0119_html.md ## 类说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0119.html - Description: 推理引擎错误码类,提供错误码的创建、获取等功能。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0119_html.md ## Error接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0120.html - Description: - 根据枚举Code创建返回信息对象。错误码参考 Code枚举类 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0120_html.md ## ErrorCode接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0121.html - Description: 获取返回对象内的错误码。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0121_html.md ## Message接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0122.html - Description: 获取返回对象内的错误码信息。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0122_html.md ## IsOk接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0123.html - Description: 获取返回对象状态,是否是正常状态。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0123_html.md ## ToString接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0124.html - Description: 将返回对象转为字符串格式,具体为错误码映射为相应字符后,和错误信息以": "进行拼接。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0124_html.md ## 类说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0126.html - Description: 推理引擎请求ID实现类,提供请求ID的初始化。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0127_html.md ## 类说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0127.html - Description: 推理引擎请求ID实现类,提供请求ID的初始化。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0127_html.md ## InferRequestId接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0128.html - Description: - InferRequestId的默认构造函数。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0128_html.md ## operator\=接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0129.html - Description: - 重载推理请求体对象的运算符“\=”,用于序列号类型为uint64\_t的请求体对象的赋值操作。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0129_html.md ## Type接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0130.html - Description: 获取请求体对象唯一的序列号标识的数据类型。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0130_html.md ## UnsignedIntValue接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0132.html - Description: 获取请求体uint64\_t类型的序列号。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0132_html.md ## GetRequestIdString接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0133.html - Description: 获取请求ID的string类型。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0133_html.md ## 类说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0134.html - Description: 状态对象接口。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0135_html.md ## 类说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0135.html - Description: 状态对象接口。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0135_html.md ## Status接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0136.html - Description: - 通过错误码创建状态对象,错误码参考 Code枚举类 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0136_html.md ## IsOk接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0137.html - Description: 判断状态对象状态是否成功。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0137_html.md ## StatusCode接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0138.html - Description: 获取状态对象的错误码。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0138_html.md ## StatusMsg接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0139.html - Description: 获取状态对象的错误信息。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0139_html.md ## Operator操作符重载接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0140.html - Description: 重载状态信息对象操作符“\=\=”。实现将判断两个状态对象是否相等的逻辑,重载为只判断两个状态对象的错误码是否相等。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0140_html.md ## MindIE-DataType - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0141.html - Description: 获取对应InferDataType类型的字节数。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0141_html.md ## MindIE-InferDataType - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0142.html - Description: \#\#\#\# 接口功能 提供数据类型定义。 \#\#\#\# 接口格式 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0143_html.md ## MindIE-InferDataType - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0143.html - Description: \#\#\#\# 接口功能 提供数据类型定义。 \#\#\#\# 接口格式 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0143_html.md ## MindIE-BYTE\_SIZE\_MAP - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0145.html - Description: \#\#\#\# 枚举类功能 提供数据类型大小。 \#\#\#\# 枚举类格式 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0145_html.md ## Code枚举类 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0146.html - Description: \#\#\#\# 枚举类功能 错误码类型枚举。 \#\#\#\# 枚举类格式 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0146_html.md ## NodeHealthStatus枚举类 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0147.html - Description: 节点的链接状态类枚举。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0147_html.md ## Compare结构体 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0148.html - Description: 比较请求体对象的序列号大小,根据第一个参数请求体数据类型进行区分。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0148_html.md ## DataType枚举类 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0149.html - Description: InferRequestId类中的DataType枚举,表示请求ID是数值还是string类型。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0149_html.md ## MemType枚举类 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0150.html - Description: MemType枚举类,表示Mem的类型。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0150_html.md ## Operation枚举类 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0152.html - Description: Operation枚举类,表示请求停止的类型。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0152_html.md ## LoraOperation枚举类 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0153.html - Description: LoraOperation枚举类,表示LoRA请求的类型。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0153_html.md ## LoraParam结构体 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0154.html - Description: 用于承载加载、卸载和查询LoRA的信息。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0154_html.md ## MindIE-GetRequestsCallback - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0155.html - Description: 定义了一个函数对象类型GetRequestsCallback, 返回值为std::shared\_ptr。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0156_html.md ## MindIE-GetRequestsCallback - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0156.html - Description: 定义了一个函数对象类型GetRequestsCallback, 返回值为std::shared\_ptr。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0156_html.md ## MindIE-SendResponsesCallback - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0157.html - Description: 定义了一个函数对象类型SendResponsesCallback,它具有四个参数,类型为InferRequestId,TensorMap, bool和std::string&。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0157_html.md ## MindIE-SendStatusResponseCallback - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0158.html - Description: 定义了一个函数对象类型SendStatusResponseCallback,它接受三个参数,类型为InferRequestId, Status和StatusResponseType,并且没有返回值。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0158_html.md ## MindIE-LlmManagerStatsCallback - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0160.html - Description: 定义了一个函数对象类型LlmManagerStatsCallback,它接受一个参数,类型为const std::string&,并且没有返回值。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0160_html.md ## MindIE-TensorPtr - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0161.html - Description: 定义了一个TensorPtr类型别名。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0162_html.md ## MindIE-TensorPtr - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0162.html - Description: 定义了一个TensorPtr类型别名。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0162_html.md ## MindIE-TensorMap - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0163.html - Description: 定义了一个TensorMap的类型别名。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0163_html.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0164.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0165.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0166.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## 使用场景 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0168.html - Description: 针对自研服务化MindIE Motor,提供模型+调度能力,支持Continuous Batching动态调度。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0170_html.md ## 使用场景 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0169.html - Description: 针对自研服务化MindIE Motor,提供模型+调度能力,支持Continuous Batching动态调度。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0170_html.md ## 使用场景 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0170.html - Description: 针对自研服务化MindIE Motor,提供模型+调度能力,支持Continuous Batching动态调度。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0170_html.md ## 类说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0171.html - Description: InferenceRequest推理引擎功能请求实现类,提供Request初始化,Tensor设置,获取请求信息等功能入口。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0173_html.md ## 类说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0172.html - Description: InferenceRequest推理引擎功能请求实现类,提供Request初始化,Tensor设置,获取请求信息等功能入口。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0173_html.md ## InferRequest接口 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0174.html - Description: \#\#\#\# 接口功能 构造函数。 \#\#\#\# C++函数原型 - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm0174_html.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0418.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0461.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0462.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0504.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0505.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0506.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0507.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0554.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0555.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0557.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0558.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0559.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0560.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0561.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0565.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0566.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0567.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0568.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_llm0569.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0065.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0066.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0067.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0068.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0069.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0071.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0072.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0074.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0075.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0078.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0080.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0081.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0082.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0083.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0084.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0085.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0086.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0088.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0089.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0090.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0091.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0093.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0094.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0095.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0096.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0097.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0098.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0100.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0101.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0102.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0103.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0319.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0320.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0321.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0323.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0324.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/mindie_service0325.html - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/anti_outlier.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/asynchronous_scheduling.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/attention_quantization.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/context_parallel.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/data_parallel.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/enable_reasoning.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/expert_parallel.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/expert_parallelism_load_balancer.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/fa3_quantization.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/function_call.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/kv_cache_int8.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/kv_cache_pool.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/micro_batch.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/mix_shared_routing.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/mla.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/moe.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/mtp.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/multi_lora.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/pdmix.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/prefix_cache.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/README.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/sequence_parallel.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/slo_aware_scheduling_optimization.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/speculative_decoding.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/split_fuse.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/tensor_parallel.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/thinking_budget.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/w16a16sc.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/w4a8_mixed_precision_quantization.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/w8a16.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/w8a8.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/feature/w8a8sc.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/user_manual/compatibility_tool_configuration.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/user_manual/environment_variable.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/user_manual/introduction_to_manual_cpu_binding_for_virtual_machines.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/user_manual/introduction.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/user_manual/model_parameter_configuration.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/user_manual/offline_inference.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/user_manual/performance_tuning.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/user_manual/prefill_decode_mixed_deployment.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/user_manual/service_APIs_usage_guidance.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE LLM简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiellm/llmdev/user_guide/user_manual/service_parameter_configuration.md - Description: **MindIE LLM**(Mind Inference Engine for Large Language Models)是昇腾的大语言模型(Large Language Model,LLM)推理加速套件,旨在通过深度优化的模型库和推理优化器,专门提升大模型在昇腾硬件上的推理性能和易用性。MindIE LLM基于昇腾硬件,提供业界通用大模型推理能力,多并发请求的调度,包含Continuous - Detail: llms-content/document/detail/mindie/mindie_310_mindiellm_llmdev_mindie_llm_user_guide_user_manual_introduction_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/mindie_service0256.html - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/mindie_service0267.html - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/mindie_service0269.html - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/mindie_service0270.html - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/mindie_service0272.html - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/mindie_service0273.html - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/mindie_service0275.html - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/mindie_service0276.html - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/mindie_service0277.html - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/mindie_service0278.html - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/mindie_service0279.html - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/mindie_service0280.html - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/mindie_service0316.html - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/mindie_service0378.html - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/mindie_service0379.html - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/user_guide/appendix/restful_response_status_codes.md - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/user_guide/appendix/start_haveged_service.md - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/user_guide/cluster_management_component/controller.md - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/user_guide/cluster_management_component/coordinator.md - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/user_guide/cluster_management_component/general_comments.md - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/user_guide/cluster_management_component/log_configuration.md - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/user_guide/introduction.md - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/user_guide/performance_tuning.md - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/user_guide/quick_start.md - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/user_guide/service_deployment/environment_preparation.md - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/user_guide/service_deployment/pd_separation_service_deployment.md - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/user_guide/service_deployment/preparing_mindie_image.md - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/user_guide/service_deployment/single_machine_service_deployment.md - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/user_guide/service_oriented_optimization_tool/mindie_probe_tool.md - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/user_guide/service_oriented_optimization_tool/mindie_service_tools.md - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/user_guide/service_oriented_optimization_tool/performance_accuracy_test_tool.md - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## MindIE Motor架构 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiemotor/motordev/user_guide/service_oriented_optimization_tool/service_oriented_optimization_tool.md - Description: MindIE Motor 是面向大语言模型(LLM)分布式推理,如**PD分离推理**(Prefill 与 Decode 阶段分离)的请求调度框架。它通过开放、可扩展的推理服务化平台架构,向下对接 \[vLLM-Ascend\]\(https://github.com/vllm-project/vllm-ascend\),旨在满足大语言模型的高性能推理需求。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiemotor_motordev_docs_zh_architecture_md.md ## 环境变量 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiesd/sddev/docs/zh/appendix/environment_variable.md - Description: MindIE SD相关环境变量如下所示: - Detail: llms-content/document/detail/mindie/mindie_310_mindiesd_sddev_docs_zh_appendix_environment_variable_md.md ## 文件目录权限说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiesd/sddev/docs/zh/appendix/file_directory_permissions_description.md - Description: MindIE SD API会对传入的文件或文件夹做权限安全校验,常见文件与文件夹类型及权限要求说明如下: - Detail: llms-content/document/detail/mindie/mindie_310_mindiesd_sddev_docs_zh_appendix_file_directory_permissions_description_md.md ## 架构设计 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiesd/sddev/docs/zh/architecture.md - Description: MindIE SD旨在构建昇腾亲和的多模态加速系列套件,配合业内模型套件(如:diffusers),实现多模态推理在昇腾上的效率。主要专注于提供多模态生成的关键算子和融合算子,配合昇腾亲和的量化/稀疏算法,以存代算,多卡并行等策略,实现对diffusers模型的快速迁移和昇腾加速,未来会进一步扩展到多模态理解,全模态等场景的加速。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiesd_sddev_docs_zh_architecture_md.md ## 以存代算 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiesd/sddev/docs/zh/features/cache.md - Description: 扩散模型在推理过程中会循环迭代多个时间步,每个时间步内所有 block 都参与计算,相邻步之间 latent 的相似性导致大量冗余计算。MindIE SD 提供以下缓存加速手段来减少重复计算: - Detail: llms-content/document/detail/mindie/mindie_310_mindiesd_sddev_docs_zh_features_cache_md.md ## 编译特性 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiesd/sddev/docs/zh/features/compilation.md - Description: MindIE SD 基于 PyTorch 的 `torch.compile` 编译器提供自定义后端 `MindieSDBackend\(\)`,在昇腾芯片上提供两套互补的加速能力: - Detail: llms-content/document/detail/mindie/mindie_310_mindiesd_sddev_docs_zh_features_compilation_md.md ## 核心加速API - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiesd/sddev/docs/zh/features/core_layers.md - Description: 本文档描述 `mindiesd` 包通过 `layers` 模块对外暴露的接口。所有接口均可通过 `from mindiesd import <接口名>` 直接导入使用。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiesd_sddev_docs_zh_features_core_layers_md.md ## CPU 卸载 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiesd/sddev/docs/zh/features/cpu_offload.md - Description: 在 DiT 模型推理中,所有层(block)的权重需要常驻 NPU 显存。当模型规模超出单卡显存容量时,需要将部分层的权重暂时卸载到 CPU 内存,在计算到该层时再搬运回 NPU。这种技术称为 offload。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiesd_sddev_docs_zh_features_cpu_offload_md.md ## 动态专家负载均衡 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiesd/sddev/docs/zh/features/DyEPLB.md - Description: 随着视觉生成模型向 DiT 架构演进,引入 MoE 机制以突破 Scaling Law 已成为行业共识。然而,DiT-MoE 庞大的参数规模迫使我们采用专家并行(EP)策略。与 LLM 不同,视觉数据的强空间局部性极易诱发特定专家过载,导致严重的计算负载不均。更进一步,扩散模型的去噪过程中专家激活分布呈现出显著的时序动态变化,这意味着传统的静态负载均衡策略在面对这种时空双重异构性时彻底失效。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiesd_sddev_docs_zh_features_DyEPLB_md.md ## 多卡并行 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiesd/sddev/docs/zh/features/parallelism.md - Description: MindIE SD 提供多种并行策略来解决单卡显存不足和推理速度瓶颈的问题,不同策略从不同维度对计算和显存进行拆分: - Detail: llms-content/document/detail/mindie/mindie_310_mindiesd_sddev_docs_zh_features_parallelism_md.md ## MindIE-量化 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiesd/sddev/docs/zh/features/quantization.md - Description: MindIE SD 提供两类量化能力,分别作用于模型的不同部分: - Detail: llms-content/document/detail/mindie/mindie_310_mindiesd_sddev_docs_zh_features_quantization_md.md ## 显存共享 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiesd/sddev/docs/zh/features/share_memory.md - Description: - **核心问题** - Detail: llms-content/document/detail/mindie/mindie_310_mindiesd_sddev_docs_zh_features_share_memory_md.md ## MindIE-稀疏 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiesd/sddev/docs/zh/features/sparse.md - Description: 注意力机制是 DiT 类模型的核心计算瓶颈。在推理过程中,Q 和 K 的注意力分数矩阵中有大量冗余计算——部分 Token 对之间的相关性极低,对生成结果几乎没有贡献。稀疏注意力的基本思想是:跳过这些不重要的计算,只保留关键 Token 对之间的注意力交互,从而减少计算量,降低推理延迟。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiesd_sddev_docs_zh_features_sparse_md.md ## 安装指导 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiesd/sddev/docs/zh/installation.md - Description: MindIE SD 是一个 Python 包,它基于 PyTorch 构建,可以轻松集成到 Python 应用程序中。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiesd_sddev_docs_zh_installation_md.md ## 架构设计 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/mindiesd/sddev/MindIE/26.0.0/quick_start_sd.md - Description: MindIE SD旨在构建昇腾亲和的多模态加速系列套件,配合业内模型套件(如:diffusers),实现多模态推理在昇腾上的效率。主要专注于提供多模态生成的关键算子和融合算子,配合昇腾亲和的量化/稀疏算法,以存代算,多卡并行等策略,实现对diffusers模型的快速迁移和昇腾加速,未来会进一步扩展到多模态理解,全模态等场景的加速。 - Detail: llms-content/document/detail/mindie/mindie_310_mindiesd_sddev_docs_zh_architecture_md.md ## 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/quickstart/docs/zh/user_guide/quick_start/quick_start.md - Description: 本文档通过**简单快速**的部署案例(以Atlas 800I A2推理服务器、Qwen3-8B模型、P/D实例各一个的场景为例)指导开发者体验基于MindIE Motor的PD分离服务部署流程。 - Detail: llms-content/document/detail/mindie/mindie_310_quickstart_docs_zh_user_guide_quick_start_md.md ## 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/quickstart/MindIE/26.0.0/quick_start_sd.md - Description: 本文档通过**简单快速**的部署案例(以Atlas 800I A2推理服务器、Qwen3-8B模型、P/D实例各一个的场景为例)指导开发者体验基于MindIE Motor的PD分离服务部署流程。 - Detail: llms-content/document/detail/mindie/mindie_310_quickstart_docs_zh_user_guide_quick_start_md.md ## 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/quickstart/MindIE/26.0.0/what_is_mindie.md - Description: 本文档通过**简单快速**的部署案例(以Atlas 800I A2推理服务器、Qwen3-8B模型、P/D实例各一个的场景为例)指导开发者体验基于MindIE Motor的PD分离服务部署流程。 - Detail: llms-content/document/detail/mindie/mindie_310_quickstart_docs_zh_user_guide_quick_start_md.md ## MindIE Motor CPP通信矩阵 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/commumatrix/docs/zh/user_guide/appendix/communication_matrix.md - Description: 提供了MindIE Motor CPP的通信矩阵,包括产品开放的端口、该端口使用的传输层协议、通过该端口与对端通信的通信网元名称、认证方式、用途等信息说明。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_commumatrix_docs_zh_user_guide_appendix_communication_matrix_md.md ## 通信矩阵 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/commumatrix/docs/zh/user_guide/communication_matrix.md - Description: 提供了MindIE LLM的通信矩阵,包括产品开放的端口、该端口使用的传输层协议、通过该端口与对端通信的通信网元名称、认证方式、用途等信息说明。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_commumatrix_docs_zh_user_guide_communication_matrix_md.md ## MindIE-错误码以12位字符形式体现 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference - Description: 错误码以12位字符形式体现,以MIE01E000001错误码为例,各段含义及说明如表1及表2所示。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0072_html.md ## MindIE-错误码以12位字符形式体现 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0072.html - Description: 错误码以12位字符形式体现,以MIE01E000001错误码为例,各段含义及说明如表1及表2所示。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0072_html.md ## 错误码展示方式说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0102.html - Description: MindIE Motor组件后6位错误码,16进制。以100201为例,各段含义如表1所示。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0102_html.md ## MindIE-MIE03E400008 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0103.html - Description: HTTPServer通信超时,建立连接失败、请求执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0103_html.md ## MindIE-MIE03E400002 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0104.html - Description: HTTPServer参数校验出错,对应子组件的HTTPServer启动失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0104_html.md ## MindIE-MIE03E400009 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0105.html - Description: HTTPServer通信失败,建立连接失败、请求执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0105_html.md ## MindIE-MIE03E400006 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0106.html - Description: HTTPServer资源受限,建立连接失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0106_html.md ## MindIE-MIE03E400007 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0107.html - Description: HttpServer初始化申请内存失败,对应子组件的HttpServer启动失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0107_html.md ## MindIE-MIE03E400005 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0108.html - Description: HttpServer配置文件不存在,对应子组件的HttpServer启动失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0108_html.md ## MindIE-MIE03E400001 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0109.html - Description: HTTPServer配置项不合法,对应子组件的HTTPServer启动失败,子组件启动失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0109_html.md ## MIE03E100005,MIE03E100305,MIE03E100405,MIE03E100505,MIE03E100705,MIE03E100805,MIE03E100905,MIE03E100 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0110.html - Description: Controller查询不到请求的资源,请求执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0110_html.md ## MIE03E100007,MIE03E100207,MIE03E100307,MIE03E100407,MIE03E100707,MIE03E100907,MIE03E100C07,MIE03E100 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0111.html - Description: Controller申请内存失败,Controller启动失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0111_html.md ## MIE03E10000A,MIE03E10010A,MIE03E10060A,MIE03E10070A,MIE03E10090A,MIE03E100B0A,MIE03E100C0A,MIE03E100 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0112.html - Description: Controller内部逻辑执行失败,业务执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0112_html.md ## MIE03E100404,MIE03E100C04 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0113.html - Description: Controller资源重复操作,请求执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0113_html.md ## MIE03E100501,MIE03E100601,MIE03E100701,MIE03E100801,MIE03E100901,MIE03E100A01,MIE03E100C01,MIE03E100 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0114.html - Description: Controller输入配置不合法,Controller组件启动失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0114_html.md ## MIE03E100500,MIE03E100700,MIE03E100900,MIE03E100A00,MIE03E100B00,MIE03E100D00,MIE03E100F00 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0115.html - Description: Controller捕获异常报错,业务执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0115_html.md ## MIE03E100702,MIE03E100802,MIE03E100B02,MIE03E100F02 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0116.html - Description: Controller参数校验出错,请求执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0116_html.md ## MIE03E10070B,MIE03E10090B,MIE03E100F0B - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0117.html - Description: Controller当前资源不可用,请求执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0117_html.md ## MIE03E100706,MIE03E100906,MIE03E100D06 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0118.html - Description: Controller资源受限,请求执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0118_html.md ## MIE03E100709,MIE03E100B09,MIE03E100E09,MIE03E100F09 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0119.html - Description: Controller通信失败,请求执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0119_html.md ## MIE03E20000A,MIE03E20010A,MIE03E20030A,MIE03E20050A,MIE03E20060A,MIE03E200B0A,MIE03E200C0A,MIE03E201 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0120.html - Description: Coordinator内部逻辑失败,业务执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0120_html.md ## MIE03E200101,MIE03E200501,MIE03E200601,MIE03E200901,MIE03E200A01,MIE03E200C01,MIE03E201301,MIE03E201 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0121.html - Description: Coordinator输入配置不合法,Coordinator启动失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0121_html.md ## MIE03E200100,MIE03E200600,MIE03E200700,MIE03E200A00,MIE03E200B00,MIE03E200C00,MIE03E201400 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0122.html - Description: Coordinator捕获异常报错,业务执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0122_html.md ## MIE03E200204,MIE03E200C04,MIE03E201404 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0123.html - Description: Coordinator资源重复操作,请求执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0123_html.md ## MIE03E200305,MIE03E200505,MIE03E200605,MIE03E200A05,MIE03E200C05,MIE03E200D05,MIE03E200F05,MIE03E201 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0124.html - Description: Coordinator查询不到请求的资源,请求执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0124_html.md ## MIE03E200409,MIE03E200509,MIE03E200609,MIE03E200709,MIE03E200809,MIE03E200B09,MIE03E200C09,MIE03E200 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0125.html - Description: Coordinator通信失败,请求执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0125_html.md ## MIE03E200506,MIE03E200F06 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0126.html - Description: Coordinator资源受限,请求执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0126_html.md ## MIE03E200502,MIE03E200602,MIE03E201502,MIE03E201902 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0127.html - Description: Coordinator参数校验出错,业务执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0127_html.md ## MindIE-MIE03E20070D - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0128.html - Description: Coordinator操作中断,请求执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0128_html.md ## MIE03E200A0B,MIE03E200D0B,MIE03E200F0B,MIE03E20110B,MIE03E20120B,MIE03E20130B,MIE03E20190B,MIE03E201 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0129.html - Description: Coordinator当前配置/资源不可用,请求执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0129_html.md ## MindIE-MIE03E201008 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0130.html - Description: Coordinator通信超时,业务执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0130_html.md ## MIE03E300001,MIE03E300101,MIE03E300301,MIE03E300401,MIE03E300501,MIE03E300601,MIE03E300701 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0131.html - Description: Deployer输入配置不合法,Deployer启动失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0131_html.md ## MIE03E30000B,MIE03E30040B - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0132.html - Description: Deployer当前类型不支持,Deployer执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0132_html.md ## MIE03E300006,MIE03E300306,MIE03E300406 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0133.html - Description: Deployer资源受限,Deployer请求执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0133_html.md ## MindIE-MIE03E300009 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0134.html - Description: Deployer通信失败,Deployer请求执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0134_html.md ## MIE03E30000A,MIE03E30030A,MIE03E30040A,MIE03E30060A,MIE03E30070A - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0135.html - Description: Deployer内部逻辑失败,Deployer业务执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0135_html.md ## MindIE-MIE03E300002 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0136.html - Description: Deployer参数校验出错,Deployer业务执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0136_html.md ## MIE03E300005,MIE03E300205,MIE03E300305,MIE03E300505,MIE03E300605,MIE03E300705 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0137.html - Description: Deployer所需配置文件不存在,Deployer启动失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0137_html.md ## MindIE-MIE03E300007 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0138.html - Description: Deployer申请资源失败,Deployer启动失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0138_html.md ## MIE03E300204,MIE03E300304,MIE03E300404 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0139.html - Description: Deployer资源重复操作,Deployer请求执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0139_html.md ## MindIE-MIE03E300400 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0140.html - Description: Deployer捕获异常报错,Deployer业务执行失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0140_html.md ## 错误码展示方式说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0142.html - Description: Server组件后6位错误码,16进制。以010201为例,各段含义如表1所示。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0142_html.md ## 错误码展示方式说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0155.html - Description: MindIE LLM组件后6位错误码,十进制。以000002为例,各段含义如表1所示。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0155_html.md ## MindIE-MIE05E000000 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0156.html - Description: MindIE初始化失败:模型参数校验失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0156_html.md ## MindIE-MIE05E000001 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0157.html - Description: MindIE初始化失败:模型组图param JSON校验失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0157_html.md ## MindIE-MIE05E000002 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0158.html - Description: MindIE模型运行时:framework execute失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0158_html.md ## MindIE-MIE05E040001 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0160.html - Description: MindIE LLMInferModels初始化失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0160_html.md ## MindIE-MIE05E030000 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0161.html - Description: MindIE LLM模型配置参数(ModelDeployConfig)校验失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0161_html.md ## MindIE-MIE05E010000 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0163.html - Description: MindIE初始化失败:插件特性不支持。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0163_html.md ## MindIE-MIE05E010001 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0164.html - Description: MindIE初始化失败:特性使用场景限制条件不满足。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0164_html.md ## MindIE-MIE05E010002 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0165.html - Description: MindIE请求推理失败:无效的request\_ids。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0165_html.md ## MindIE-MIE05E010005 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0168.html - Description: MindIE请求推理失败:没有正常执行推理流程,除零保护。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0168_html.md ## MindIE-MIE05E010006 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0169.html - Description: MindIE请求推理失败:没有正常执行推理流程。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0169_html.md ## MindIE-MIE05E010007 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0170.html - Description: MindIE请求推理失败:无效的request\_ids。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0170_html.md ## MindIE-MIE05E010008 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0171.html - Description: MindIE初始化失败:generator\_backend类型不支持。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0171_html.md ## MindIE-MIE05E010009 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0172.html - Description: MindIE请求推理失败:校验request\_ids的shape失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0172_html.md ## MindIE-MIE05E010010 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0173.html - Description: MindIE请求推理失败:Decode阶段找不到参数缓存。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0173_html.md ## MindIE-MIE05E010011 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0174.html - Description: MindIE请求推理失败:block\_size校验失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0174_html.md ## MindIE-MIE05E010012 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0175.html - Description: MindIE初始化失败:eos\_token\_id不合法。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0175_html.md ## 错误码展示方式说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0177.html - Description: MindIE SD组件后6位错误码,10进制。以000001为例,各段含义如表1错误码各段说明所示。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0177_html.md ## MindIE-MIE06E000001 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0178.html - Description: MindIE SD Pipeline或者Model推理时报Parameters invalid。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0178_html.md ## MindIE-MIE06E000002 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0179.html - Description: MindIE SD构造config进行模型初始化时,初始化失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0179_html.md ## MindIE-MIE06E000003 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0180.html - Description: MindIE SD推理时出现NPU推理错误。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0180_html.md ## MindIE-MIE06E000004 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0181.html - Description: MindIE SD Pipeline初始化失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0181_html.md ## MindIE-MIE06E000006 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0182.html - Description: MindIE SD模型推理时,中间值不符合计算输入导致失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0182_html.md ## 错误类型及解决方法 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0201.html - Description: 以下内容主要描述错误类型(即错误码中第5-6位)的解决方法,详情请参见表1。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0201_html.md ## MindIE-MIE05E01000A - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_0202.html - Description: 申请显存时,使用的“num\_npu\_blocks”为负值。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_0202_html.md ## MindIE-MIE05E010016 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_205.html - Description: MindIE请求推理失败:LLM-DataDist出现未知故障。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_205_html.md ## MindIE-MIE05E010017 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_206.html - Description: MindIE请求推理失败:block\_id不合法。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_206_html.md ## MindIE-MIE05E010018 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_207.html - Description: MindIE请求推理失败:remote\_model\_instance\_id不合法。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_207_html.md ## MindIE-MIE05E010019 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_208.html - Description: MindIE请求推理失败:PD分离时link失败或pull\_kv失败。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_208_html.md ## MindIE-MIE05E01001A - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_209.html - Description: MindIE请求推理失败:对一个已经建立连接的device重复连接。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_209_html.md ## MindIE-MIE05E01001B - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/errorcodereference/mindie_log_210.html - Description: MindIE请求推理失败:link超时。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_errorcodereference_mindie_log_210_html.md ## 配置日志内容 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/logreference/docs/zh/user_guide/log/configuring_log_content.md - Description: 通过环境变量“MINDIE\_LOG\_VERBOSE”设置某个组件的日志内容中是否打印可选信息,默认为“true”打印可选信息。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_logreference_docs_zh_user_guide_log_configuring_log_content_md.md ## 配置日志轮转 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/logreference/docs/zh/user_guide/log/configuring_log_rotation.md - Description: 当文件大小超过每个日志文件大小和每个进程可写的日志文件个数乘积时,日志开始轮转。通过环境变量“MINDIE\_LOG\_ROTATE”设置日志的轮转。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_logreference_docs_zh_user_guide_log_configuring_log_rotation_md.md ## 日志参考 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/logreference/docs/zh/user_guide/log/introduction.md - Description: 对日志操作进行了归一化,通过六个新环境变量能对MindIE所有组件进行日志设置,参见表1。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_logreference_docs_zh_user_guide_log_introduction_md.md ## 日志简介 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/logreference/docs/zh/user_guide/log/log_overview.md - Description: 目前MindIE的日志按照内容分为安全审计日志和运行调试日志。任何与系统运行过程出现的登录认证、账户管理、访问控制、网络攻击等安全事件相关的信息都应该在安全审计日志中呈现。安全审计日志以外,在业务和调试过程中出现的日志为运行调试日志。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_logreference_docs_zh_user_guide_log_log_overview_md.md ## 查看日志 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/logreference/docs/zh/user_guide/log/log_viewing.md - Description: MindIE默认收集Informational级别及以上的日志,日志文件的默认落盘路径如表1所示。落盘路径的设置可参见\[配置日志落盘路径\]\(https://www.hiascend.com/document/detail/zh/mindie/310/ref/logreference/docs/zh/user\_guide/log/setting\_log\_path.md\)。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_logreference_docs_zh_user_guide_log_log_viewing_md.md ## 设置日志展示方式 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/logreference/docs/zh/user_guide/log/setting_log_display.md - Description: 通过环境变量“MINDIE\_LOG\_TO\_FILE”设置MindIE各组件日志是否写入文件,默认为“true”写入。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_logreference_docs_zh_user_guide_log_setting_log_display_md.md ## 设置日志级别 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/logreference/docs/zh/user_guide/log/setting_log_level.md - Description: 运行调试日志被分为如表1所示的5个等级。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_logreference_docs_zh_user_guide_log_setting_log_level_md.md ## 配置日志落盘路径 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/ref/logreference/docs/zh/user_guide/log/setting_log_path.md - Description: 通过环境变量“MINDIE\_LOG\_PATH”设置MindIE各组件日志的落盘路径,默认的落盘路径为“~/mindie/log/debug”。 - Detail: llms-content/document/detail/mindie/mindie_310_ref_logreference_docs_zh_user_guide_log_setting_log_path_md.md ## 版本配套说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/releasenote/docs/zh/release_note_motor.md - Description: **表 1** 产品版本信息 - Detail: llms-content/document/detail/mindie/mindie_310_releasenote_docs_zh_release_note_motor_md.md ## 版本配套说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/releasenote/docs/zh/release_note.md - Description: MindIE各组件需要配套使用,请勿跨版本混用各组件。 表 1 软件版本兼容性说明 - Detail: llms-content/document/detail/mindie/mindie_310_releasenote_docs_zh_release_note_md.md ## 版本说明书 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/releasenote/docs/zh/release_notes.md - Description: 各组件需要配套使用,请勿跨版本混用。 表 1 软件版本兼容性说明 - Detail: llms-content/document/detail/mindie/mindie_310_releasenote_docs_zh_release_notes_md.md ## 版本配套说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/releasenote/MindIE/26.0.0/related_documentation.md - Description: **表 1** 产品版本信息 - Detail: llms-content/document/detail/mindie/mindie_310_releasenote_docs_zh_release_note_motor_md.md ## 版本配套说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/releasenote/MindIE/26.0.0/release.md - Description: **表 1** 产品版本信息 - Detail: llms-content/document/detail/mindie/mindie_310_releasenote_docs_zh_release_note_motor_md.md ## 版本配套说明 - URL: https://www.hiascend.com/document/detail/zh/mindie/latest/releasenote/MindIE/26.0.0/virus_scan_report.md - Description: **表 1** 产品版本信息 - Detail: llms-content/document/detail/mindie/mindie_310_releasenote_docs_zh_release_note_motor_md.md ## MindSDK-MindSDK - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/index/index.html - Description: 提供昇腾AI处理器加速的各类AI软件开发套件(SDK),提供极简易用的API,加速高性能AI应用的开发,赋能千行百业。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_index_index_html.md ## MindSDK-**产品背景** - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/indexn/indexug/docs/zh/api/approximate_retrieval.md - Description: \#\# Index SDK 简介 产品背景 随着近些年人工智能技术的发展,可以通过先进的算法模型有效地提取出图像、文本、语音等非结构化数据中的特征表示,即结构化的向量特征。在实际应用场景下,如何快速准确的找出与待查询向量相似的向量已经成为各种智能化应用的重要诉求,这就需要提供一个高效的基于向量特征的检索系统,该系统的核心之一便是高效的检索引擎。 在此背景下,基于华为昇腾平台Index SDK实现了一 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_indexn_indexug_docs_zh_01_introduction_md.md ## MindSDK-**产品背景** - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/indexn/indexug/docs/zh/api/attribute_filtering-based_retrieval.md - Description: \#\# Index SDK 简介 产品背景 随着近些年人工智能技术的发展,可以通过先进的算法模型有效地提取出图像、文本、语音等非结构化数据中的特征表示,即结构化的向量特征。在实际应用场景下,如何快速准确的找出与待查询向量相似的向量已经成为各种智能化应用的重要诉求,这就需要提供一个高效的基于向量特征的检索系统,该系统的核心之一便是高效的检索引擎。 在此背景下,基于华为昇腾平台Index SDK实现了一 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_indexn_indexug_docs_zh_01_introduction_md.md ## MindSDK-**产品背景** - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/indexn/indexug/docs/zh/api/full_retrieval.md - Description: \#\# Index SDK 简介 产品背景 随着近些年人工智能技术的发展,可以通过先进的算法模型有效地提取出图像、文本、语音等非结构化数据中的特征表示,即结构化的向量特征。在实际应用场景下,如何快速准确的找出与待查询向量相似的向量已经成为各种智能化应用的重要诉求,这就需要提供一个高效的基于向量特征的检索系统,该系统的核心之一便是高效的检索引擎。 在此背景下,基于华为昇腾平台Index SDK实现了一 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_indexn_indexug_docs_zh_01_introduction_md.md ## MindSDK-**产品背景** - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/indexn/indexug/docs/zh/api/more_functions.md - Description: \#\# Index SDK 简介 产品背景 随着近些年人工智能技术的发展,可以通过先进的算法模型有效地提取出图像、文本、语音等非结构化数据中的特征表示,即结构化的向量特征。在实际应用场景下,如何快速准确的找出与待查询向量相似的向量已经成为各种智能化应用的重要诉求,这就需要提供一个高效的基于向量特征的检索系统,该系统的核心之一便是高效的检索引擎。 在此背景下,基于华为昇腾平台Index SDK实现了一 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_indexn_indexug_docs_zh_01_introduction_md.md ## MindSDK-**产品背景** - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/indexn/indexug/docs/zh/api/multi-index_batch_retrieval.md - Description: \#\# Index SDK 简介 产品背景 随着近些年人工智能技术的发展,可以通过先进的算法模型有效地提取出图像、文本、语音等非结构化数据中的特征表示,即结构化的向量特征。在实际应用场景下,如何快速准确的找出与待查询向量相似的向量已经成为各种智能化应用的重要诉求,这就需要提供一个高效的基于向量特征的检索系统,该系统的核心之一便是高效的检索引擎。 在此背景下,基于华为昇腾平台Index SDK实现了一 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_indexn_indexug_docs_zh_01_introduction_md.md ## API参考 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/indexn/indexug/docs/zh/api/README.md - Description: 本章节的接口变更说明包括新增、修改、删除和退出声明。接口变更只体现代码层面的修改,不包含文档本身在语言、格式、链接等方面的优化改进。 - 新增:表示此次版本新增的接口。 - 修改:表示本接口相比于上个版本有修改。 - 删除:表示该接口在此次版本已经删除。 - 退出声明:表示该接口自作出退出声明的版本起停止演进,且在声明一年后退出并删除。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_indexn_indexug_docs_zh_api_README_md.md ## MindSDK-**产品背景** - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/indexn/indexug/docs/zh/api/return_code_reference.md - Description: \#\# Index SDK 简介 产品背景 随着近些年人工智能技术的发展,可以通过先进的算法模型有效地提取出图像、文本、语音等非结构化数据中的特征表示,即结构化的向量特征。在实际应用场景下,如何快速准确的找出与待查询向量相似的向量已经成为各种智能化应用的重要诉求,这就需要提供一个高效的基于向量特征的检索系统,该系统的核心之一便是高效的检索引擎。 在此背景下,基于华为昇腾平台Index SDK实现了一 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_indexn_indexug_docs_zh_01_introduction_md.md ## MindSDK-**产品背景** - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/indexn/indexug/docs/zh/api/unused_apis.md - Description: \#\# Index SDK 简介 产品背景 随着近些年人工智能技术的发展,可以通过先进的算法模型有效地提取出图像、文本、语音等非结构化数据中的特征表示,即结构化的向量特征。在实际应用场景下,如何快速准确的找出与待查询向量相似的向量已经成为各种智能化应用的重要诉求,这就需要提供一个高效的基于向量特征的检索系统,该系统的核心之一便是高效的检索引擎。 在此背景下,基于华为昇腾平台Index SDK实现了一 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_indexn_indexug_docs_zh_01_introduction_md.md ## MindSDK-**产品背景** - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/indexn/indexug/docs/zh/appendix.md - Description: \#\# Index SDK 简介 产品背景 随着近些年人工智能技术的发展,可以通过先进的算法模型有效地提取出图像、文本、语音等非结构化数据中的特征表示,即结构化的向量特征。在实际应用场景下,如何快速准确的找出与待查询向量相似的向量已经成为各种智能化应用的重要诉求,这就需要提供一个高效的基于向量特征的检索系统,该系统的核心之一便是高效的检索引擎。 在此背景下,基于华为昇腾平台Index SDK实现了一 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_indexn_indexug_docs_zh_01_introduction_md.md ## MindSDK-**产品背景** - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/indexn/indexug/docs/zh/common_operations.md - Description: \#\# Index SDK 简介 产品背景 随着近些年人工智能技术的发展,可以通过先进的算法模型有效地提取出图像、文本、语音等非结构化数据中的特征表示,即结构化的向量特征。在实际应用场景下,如何快速准确的找出与待查询向量相似的向量已经成为各种智能化应用的重要诉求,这就需要提供一个高效的基于向量特征的检索系统,该系统的核心之一便是高效的检索引擎。 在此背景下,基于华为昇腾平台Index SDK实现了一 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_indexn_indexug_docs_zh_01_introduction_md.md ## MindSDK-**产品背景** - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/indexn/indexug/docs/zh/faq.md - Description: \#\# Index SDK 简介 产品背景 随着近些年人工智能技术的发展,可以通过先进的算法模型有效地提取出图像、文本、语音等非结构化数据中的特征表示,即结构化的向量特征。在实际应用场景下,如何快速准确的找出与待查询向量相似的向量已经成为各种智能化应用的重要诉求,这就需要提供一个高效的基于向量特征的检索系统,该系统的核心之一便是高效的检索引擎。 在此背景下,基于华为昇腾平台Index SDK实现了一 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_indexn_indexug_docs_zh_01_introduction_md.md ## MindSDK-**产品背景** - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/indexn/indexug/docs/zh/installation_guide.md - Description: \#\# Index SDK 简介 产品背景 随着近些年人工智能技术的发展,可以通过先进的算法模型有效地提取出图像、文本、语音等非结构化数据中的特征表示,即结构化的向量特征。在实际应用场景下,如何快速准确的找出与待查询向量相似的向量已经成为各种智能化应用的重要诉求,这就需要提供一个高效的基于向量特征的检索系统,该系统的核心之一便是高效的检索引擎。 在此背景下,基于华为昇腾平台Index SDK实现了一 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_indexn_indexug_docs_zh_01_introduction_md.md ## MindSDK-**产品背景** - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/indexn/indexug/docs/zh/introduction.md - Description: \#\# Index SDK 简介 产品背景 随着近些年人工智能技术的发展,可以通过先进的算法模型有效地提取出图像、文本、语音等非结构化数据中的特征表示,即结构化的向量特征。在实际应用场景下,如何快速准确的找出与待查询向量相似的向量已经成为各种智能化应用的重要诉求,这就需要提供一个高效的基于向量特征的检索系统,该系统的核心之一便是高效的检索引擎。 在此背景下,基于华为昇腾平台Index SDK实现了一 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_indexn_indexug_docs_zh_01_introduction_md.md ## MindSDK-**产品背景** - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/indexn/indexug/docs/zh/security_hardening.md - Description: \#\# Index SDK 简介 产品背景 随着近些年人工智能技术的发展,可以通过先进的算法模型有效地提取出图像、文本、语音等非结构化数据中的特征表示,即结构化的向量特征。在实际应用场景下,如何快速准确的找出与待查询向量相似的向量已经成为各种智能化应用的重要诉求,这就需要提供一个高效的基于向量特征的检索系统,该系统的核心之一便是高效的检索引擎。 在此背景下,基于华为昇腾平台Index SDK实现了一 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_indexn_indexug_docs_zh_01_introduction_md.md ## MindSDK-**产品背景** - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/indexn/indexug/docs/zh/user_guide.md - Description: \#\# Index SDK 简介 产品背景 随着近些年人工智能技术的发展,可以通过先进的算法模型有效地提取出图像、文本、语音等非结构化数据中的特征表示,即结构化的向量特征。在实际应用场景下,如何快速准确的找出与待查询向量相似的向量已经成为各种智能化应用的重要诉求,这就需要提供一个高效的基于向量特征的检索系统,该系统的核心之一便是高效的检索引擎。 在此背景下,基于华为昇腾平台Index SDK实现了一 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_indexn_indexug_docs_zh_01_introduction_md.md ## 缓存模块 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/api/cache_module.md - Description: MxRAGCache的功能主要是基于开源组件GPTCache进行二次开发,支持以下cache基本功能: - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_api_cache_module_md.md ## 数据库 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/api/databases.md - Description: 抽象类,处理关系数据库。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_api_databases_md.md ## 文档总结 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/api/document_summary.md - Description: 该类实现了对文档提取总结内容。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_api_document_summary_md.md ## embedding模型微调 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/api/embedding_model_fine_tuning.md - Description: 由于一般的embedding模型是在通用的数据集上进行训练的,导致在一些用户的特殊应用领域上存在精度不足进而导致检索增强效果较差的现象,为了解决这一问题,提供了可以帮助用户在相应特殊领域上快速方便的进行embedding模型微调的方法。该方法主要包括评估数据辅助生成、模型评估、微调合成数据自动生成、模型微调这几个部分。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_api_embedding_model_fine_tuning_md.md ## 向量化 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/api/embedding.md - Description: 本地使用transformers启动模型,提供文本至向量的embedding功能。需要使用transformers支持的BertModel类模型权重。类继承实现了langchaincore.embeddings.Embeddings接口。当前支持的模型:BAAI/bge-large-zh-v1.5,aspire/acgetextembedding。 > \[\!NOTE\] >配置的模型如果不是safe - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_api_embedding_md.md ## 评估模块 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/api/evaluation_module.md - Description: 目前,RAG评测领域主流采用RAGAS模块。RAGAS具备完善的评估指标体系,应用广泛,并随着RAG技术的发展持续迭代更新。因此,基于RAGAS进行Ascend适配,可以提升该模块的灵活性和易用性,并且同时增强了对中文的适配能力。其评测流程如下: - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_api_evaluation_module_md.md ## 知识图谱 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/api/knowledge_graph.md - Description: 实现基于知识图谱的RAG(Retrieval-Augmented Generation)流程。它结合了大模型(LLM)、图数据库(如NetworkX或OpenGauss)、向量检索、重排序等多种技术,实现了文档的结构化知识抽取、图谱构建、概念聚类、向量化检索和多跳推理等能力。该模块适用于复杂知识问答、企业知识管理、智能检索等场景。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_api_knowledge_graph_md.md ## 知识管理 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/api/knowledge_management.md - Description: KnowledgeDB依赖了KnowledgeStore、Docstore、VectorStore实现对知识库文档片段及向量化入库。KnowledgeStore负责对知识库增删查操作,Docstore负责对文档片段增删改查操作,具体配置实例为(OpenGaussDocstore、MilvusDocstore、SQLiteDocstore),VectorStore负责对向量增删改查操作,具体实例配置 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_api_knowledge_management_md.md ## 大模型Chain - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/api/llm_chains.md - Description: Chain定义实现了对接大模型客户端。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_api_llm_chains_md.md ## 对接模型客户端 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/api/llm_client.md - Description: 建立客户端对接语言大模型服务,提供大模型交互功能,当前只支持兼容OpenAI接口/v1/chat/completions。该类继承实现了langchain.llms.base.LLM。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_api_llm_client_md.md ## 模型推理加速 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/api/model_inference_acceleration.md - Description: **模型推理加速配置说明** - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_api_model_inference_acceleration_md.md ## Prompt压缩 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/api/prompt_compression.md - Description: prompt压缩抽象类。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_api_prompt_compression_md.md ## 接口参考 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/api/README.md - Description: RAG SDK的接口包含知识管理接口、数据库接口、模型管理接口、评估模块接口、检索接口、Chain类等接口。用户可调用接口完成二次开发。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_api_README_md.md ## 接口参考——排序 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/api/reranker.md - Description: 功能描述 重排抽象基类 函数原型 输入参数说明 返回值说明 Reranker对象。 功能描述 抽象函数,子类需实现。方法实现对texts中的列表与query相似性排序,最相似的排序在最前面。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_api_reranker_md.md ## MindSDK-检索 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/api/retrieval.md - Description: 将待搜索的问题进行向量化后使用近似算法在向量数据库中检索相似的topk个向量ID,通过向量ID获取关系数据库中topk个相关文档。该类继承langchaincore.retrievers.BaseRetriever,通过调用基类的invoke方法使用检索功能,待检索的问题为str类型,长度不超过100万。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_api_retrieval_md.md ## MindSDK-通用 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/api/universal_api.md - Description: \#\# ClientParam - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_api_universal_api_md.md ## MindSDK-附录 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/appendix.md - Description: RAG SDK编译的开源软件中会存在公开网址和邮箱地址,SDK本身不会访问,不会造成风险。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_appendix_md.md ## 常用操作 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/common_operations.md - Description: RAG SDK安装包为run格式,RAG SDK的安装、卸载日志记录~/log/mxRag/deployment.log。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_common_operations_md.md ## MindSDK-**问题现象** - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/faq.md - Description: \#\# 软件安装时常见问题 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_faq_md.md ## 安装部署 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/installation_guide.md - Description: RAG SDK支持物理机部署和容器部署两种方式,本文档介绍在物理机内部署的方式。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_installation_guide_md.md ## MindSDK-随着近些年人工智能技术的飞速发展 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/introduction.md - Description: 随着近些年人工智能技术的飞速发展,大模型展现出强大的能力。然而,在实际应用中,大模型仍面临一些挑战,如准确性不足、知识更新速度慢以及答案透明度欠缺等问题。为了解决这些问题,检索增强生成(Retrieval-Augmented Generation,RAG)技术应运而生。RAG通过为大模型接入外部知识库,有效提升了问答系统的准确率,解决了大模型的幻觉和时效性问题。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_introduction_md.md ## 安全加固 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/security_hardening.md - Description: 使用API读取文件时,用户需要保证该文件的owner必须为自己,且权限不大于640,避免发生提权等安全问题。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_security_hardening_md.md ## 开发流程 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rag/ragug/docs/zh/user_guide.md - Description: RAG SDK的完整开发流程如图1所示。用户可参见以下步骤完成接口调用。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rag_ragug_docs_zh_user_guide_md.md ## MindSDK-**产品背景** - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/overview.md - Description: \#\# Rec SDK是什么 产品背景 随着人工智能技术的演进,电商、长短视频、社交等行业对搜索系统、推荐系统以及广告系统的效果诉求越发强烈。在如今互联网发达的时代,大量的用户数据、商品数据、视频资料,使信息剧烈爆炸,也使得搜索推荐广告系统的价值进一步凸显。搜索推荐广告系统的需求增长必然带来对算力的需求,如何部署更大算力并充分发挥算力成为从业人员重点关注的问题。 产品定义 Rec SDK作为面向互联 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_overview_md.md ## 性能调优 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/performance_tuning.md - Description: 在计算越来越重要的今天,以GPU(Graphics Processing Unit)和NPU(Neural Network Processing Unit)为代表的并行计算设备,在人工智能和其他行业,都扮演着重要角色。计算的效率,或者称之为计算的性能,越来越得到广泛关注。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_performance_tuning_md.md ## 接口说明 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/tensorflow/tf_rec_v1/api/api_description.md - Description: Rec SDK TensorFlow通过Python接口进行应用开发,从代码调用角度上来说所有Python侧接口都可以被调用。本章节仅列出业务提供的对外接口,其余未进行说明的接口用户请勿直接调用。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_tensorflow_tf_rec_v1_api_api_description_md.md ## 自动改图 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/tensorflow/tf_rec_v1/api/automatic_graph_modification.md - Description: 获取tensorflow.data.Iterator的初始化算子(Operation),该算子需要通过使用sess.run\(\)来初始化Iterator。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_tensorflow_tf_rec_v1_api_automatic_graph_modification_md.md ## 类参考 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/tensorflow/tf_rec_v1/api/class_reference.md - Description: 待查询特征的配置描述类,适用于非自动改图模式。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_tensorflow_tf_rec_v1_api_class_reference_md.md ## 常量参考 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/tensorflow/tf_rec_v1/api/constant_reference.md - Description: 集合名常量,在TensorFlow构建图时作为key调用,用于设定数据集是否启用时间戳。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_tensorflow_tf_rec_v1_api_constant_reference_md.md ## 数据接口 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/tensorflow/tf_rec_v1/api/data_apis.md - Description: \#\# getascinsertfunc 功能描述 获取数据预处理函数。 函数原型 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_tensorflow_tf_rec_v1_api_data_apis_md.md ## 训练框架初始化与去初始化 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/tensorflow/tf_rec_v1/api/initialization_and_deinitialization_of_the_training_framework.md - Description: 初始化Rec SDK TensorFlow模型训练框架。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_tensorflow_tf_rec_v1_api_initialization_and_deinitialization_of_the_training_framework_md.md ## 模型接口 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/tensorflow/tf_rec_v1/api/model_apis.md - Description: \#\# createtable 功能描述 创建稀疏表。 函数原型 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_tensorflow_tf_rec_v1_api_model_apis_md.md ## 优化器 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/tensorflow/tf_rec_v1/api/optimizers_apis.md - Description: 自定义Adagrad优化器。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_tensorflow_tf_rec_v1_api_optimizers_apis_md.md ## 其他接口 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/tensorflow/tf_rec_v1/api/other_apis.md - Description: Rec SDK TensorFlow框架版本号查询。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_tensorflow_tf_rec_v1_api_other_apis_md.md ## TensorFlow相关接口 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/tensorflow/tf_rec_v1/api/tensorflow_apis.md - Description: 本章节列出Rec SDK TensorFlow基于TensorFlow框架patch修改的接口。更多TensorFlow原生接口信息请参考TensorFlow官网。昇腾AI处理器对TensorFlow API的支持情况详见官方文档:\[TensorFlow 1.15\]\(https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/85 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_tensorflow_tf_rec_v1_api_tensorflow_apis_md.md ## MindSDK-附录 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/tensorflow/tf_rec_v1/appendix.md - Description: TensorFlow对Embedding的支持是通过变量实现的,用户需要预估每个表的大小,再通过\[create\_table\]\(https://www.hiascend.com/document/detail/zh/mindsdk/2610/rec/recug/docs/zh/tensorflow/tf\_rec\_v1/api/model\_apis.md\#create\_table\)接口创建变量。Emb - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_tensorflow_tf_rec_v1_appendix_md.md ## 常用操作 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/tensorflow/tf_rec_v1/common_operations.md - Description: 如需使用片上内存侧动态扩容功能,请参考本步骤编译安装片上内存侧动态扩容算子包。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_tensorflow_tf_rec_v1_common_operations_md.md ## MindSDK-**问题现象** - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/tensorflow/tf_rec_v1/faq.md - Description: \#\# 多机训练HCCL集群通信失败 问题现象 HCCL集群通信失败。 可能原因 - 多机节点的NPU device ip不能互相ping通。 - 多机节点的NPU device的TLS配置不同。 - 其他 解决方案 1. 检查多机节点的NPU device ip是否能互相ping通。以双机集群(节点A、B),每个节点8卡示例。 1. 查询节点A的device ip: ``` - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_tensorflow_tf_rec_v1_faq_md.md ## MindSDK-Rec SDK TensorFlow的功能涉及: - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/tensorflow/tf_rec_v1/introduction.md - Description: Rec SDK TensorFlow的功能涉及: - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_tensorflow_tf_rec_v1_introduction_md.md ## 迁移与训练 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/tensorflow/tf_rec_v1/migration_and_training.md - Description: **训练场景介绍** - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_tensorflow_tf_rec_v1_migration_and_training_md.md ## 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/tensorflow/tf_rec_v1/quick_start.md - Description: 本章节指导用户基于Rec SDK TensorFlow为用户提供的little-demo样例,理解使用一个tf.Session进行模型训练需要准备的相关文件和关键接口适配。little-demo仅是一个代码示例,并介绍了调用相关接口的逻辑,不包含具体的模型,没有实现具体的功能。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_tensorflow_tf_rec_v1_quick_start_md.md ## 安装部署 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/tensorflow/tf_rec_v1/recsdk_tf_installation_guide.md - Description: - Rec SDK TensorFlow支持物理机部署开发环境或通过容器部署开发环境,用户可根据实际业务情况选择其中一种进行部署。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_tensorflow_tf_rec_v1_recsdk_tf_installation_guide_md.md ## 安全加固 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/tensorflow/tf_rec_v1/security_hardening.md - Description: 使用API读取文件时,用户需要保证该文件的owner必须为自己,且权限不大于640,避免发生提权等安全问题。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_tensorflow_tf_rec_v1_security_hardening_md.md ## 准入淘汰管理接口 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/torch/torch_rec_v1/api/access_and_elimination_management_apis.md - Description: 该类是一个扩展自JaggedTensor的类,用于表示带有时间戳信息的Jagged Tensor。该类在JaggedTensor的基础上增加了一个timestamps属性,存储与values对应的时间戳信息。用于特征淘汰时计算时间。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_torch_torch_rec_v1_api_access_and_elimination_management_apis_md.md ## 接口说明 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/torch/torch_rec_v1/api/api_description.md - Description: Rec SDK Torch 通过 Python 接口进行应用开发,从代码调用角度上来说所有 Python 侧接口都可以被调用。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_torch_torch_rec_v1_api_api_description_md.md ## 数据接口 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/torch/torch_rec_v1/api/data_apis.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_torch_torch_rec_v1_api_data_apis_md.md ## 多级缓存管理接口 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/torch/torch_rec_v1/api/multilevel_cache_management_apis.md - Description: 定义多级缓存模式下稀疏表权重的初始化方式的枚举类。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_torch_torch_rec_v1_api_multilevel_cache_management_apis_md.md ## 优化器接口 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/torch/torch_rec_v1/api/optimizers_apis.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_torch_torch_rec_v1_api_optimizers_apis_md.md ## pipeline接口 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/torch/torch_rec_v1/api/pipeline_apis.md - Description: 创建纯显存模式的分布式训练数据流水线调度器。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_torch_torch_rec_v1_api_pipeline_apis_md.md ## 自定义算子 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/torch/torch_rec_v1/api/specialized_operator.md - Description: 在推荐训练中,存在部分算子无NPU实现,或已有NPU实现但性能较差,不能满足推荐训练需求。Rec SDK Torch提供了以下表1 自定义算子列表,用于支持/加速推荐模型NPU训练。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_torch_torch_rec_v1_api_specialized_operator_md.md ## 分表接口 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/torch/torch_rec_v1/api/subtable_apis.md - Description: >\[\!NOTICE\] - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_torch_torch_rec_v1_api_subtable_apis_md.md ## 创表接口 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/torch/torch_rec_v1/api/table_creation_apis.md - Description: Rec SDK Torch提供两类稀疏表配置与创建接口,分别对应纯显存模式和多级缓存模式,并按是否带Pooling划分为EBC与EC两种查表模式。各Config与Collection的对应关系如下表所示。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_torch_torch_rec_v1_api_table_creation_apis_md.md ## MindSDK-附录 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/torch/torch_rec_v1/appendix.md - Description: 请周期性地更新用户的密码,避免长期使用同一个密码带来的风险。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_torch_torch_rec_v1_appendix_md.md ## 常用操作 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/torch/torch_rec_v1/common_operations.md - Description: Rec SDK Torch为Wheel包格式,安装、卸载日志记录在系统history中。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_torch_torch_rec_v1_common_operations_md.md ## MindSDK-Rec SDK Torch 是基于 PyTorch 和 TorchRec 构建的 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/torch/torch_rec_v1/introduction.md - Description: Rec SDK Torch 是基于 PyTorch 和 TorchRec 构建的推荐系统训练框架,依托昇腾 NPU 和 CANN 异构计算架构,为搜索、推荐、广告等场景提供大规模稀疏特征 Embedding 表的高性能分布式训练能力。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_torch_torch_rec_v1_introduction_md.md ## 迁移与训练 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/torch/torch_rec_v1/migration_and_training.md - Description: **基于Rec SDK Torch搭建网络** - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_torch_torch_rec_v1_migration_and_training_md.md ## 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/torch/torch_rec_v1/quick_start.md - Description: 本章节提供一个基础推荐模型示例指导用户基于Rec SDK Torch快速搭建推荐模型。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_torch_torch_rec_v1_quick_start_md.md ## 安装部署 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/torch/torch_rec_v1/recsdk_torch_installation_guide.md - Description: 当前Rec SDK Torch支持两种配套版本,后续安装时请安装对应配套版本的软件包。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_torch_torch_rec_v1_recsdk_torch_installation_guide_md.md ## 安全加固 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/rec/recug/docs/zh/torch/torch_rec_v1/security_hardening.md - Description: \#\# 安全要求 文件权限 使用API读取文件时,用户需要保证该文件的owner必须为自己,且权限不大于640,避免发生提权等安全问题。 外部下载的软件代码或程序可能存在风险,功能的安全性需由用户保证。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_rec_recug_docs_zh_torch_torch_rec_v1_security_hardening_md.md ## MindSDK-说明 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/ref/opensource/mxsdk_ossn_0001.html - Description: MindSDK26.1.0的开源软件声明请参见MindSDK 26.1.0 Open Source Software Notice.docx。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_ref_opensource_mxsdk_ossn_0001_html.md ## 版本说明 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/releasenote/docs/zh/release_notes_index.md - Description: 表 1 Index SDK软件版本配套表 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_releasenote_docs_zh_release_notes_index_md.md ## 版本说明 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/releasenote/docs/zh/release_notes_rag.md - Description: 表 1 Rec SDK软件版本配套表 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_releasenote_docs_zh_release_notes_rec_md.md ## 版本说明 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/releasenote/docs/zh/release_notes_rec.md - Description: 表 1 Rec SDK软件版本配套表 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_releasenote_docs_zh_release_notes_rec_md.md ## 版本说明 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/releasenote/docs/zh/release_notes.md - Description: 表 1 RAG SDK软件版本配套表 > \[\!NOTE\] > > 本节表格中“/”表示不可配套,“Y”表示可配套。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_releasenote_docs_zh_release_notes_md.md ## API接口参考(C++) - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/cpp/api_reference_cpp.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_cpp_api_reference_cpp_md.md ## 异步调用 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/cpp/asynchronous_invocation.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_cpp_asynchronous_invocation_md.md ## 基础组件层 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/cpp/basic_component_layer.md - Description: 该类负责Host侧和Device侧内存的管理:分配、初始化、移动和释放。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_cpp_basic_component_layer_md.md ## 自定义内存资源池管理 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/cpp/customized_memory_resource_pool_management.md - Description: 支持的型号 Atlas 200I/500 A2 推理产品 Atlas 推理系列产品 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_cpp_customized_memory_resource_pool_management_md.md ## 数据结构及枚举类型 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/cpp/data_structures_and_enumeration_types.md - Description: 功能 全局应用配置,支持配置DVPP资源池中VPC通道的数量。 结构定义 参数说明 功能 全局应用配置,支持配置DVPP资源池中VPC、JPEGD、PNGD及JPEGE通道的数量。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_cpp_data_structures_and_enumeration_types_md.md ## 高级API头文件列表说明 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/cpp/description_of_advanced_api_header_files.md - Description: **表 1** 头文件列表 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_cpp_description_of_advanced_api_header_files_md.md ## 初始化和去初始化 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/cpp/initialization_and_deinitialization.md - Description: 支持的型号 Atlas 200I/500 A2 推理产品 Atlas 推理系列产品 Atlas 800I A2推理产品 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_cpp_initialization_and_deinitialization_md.md ## 媒体数据处理 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/cpp/media_data_processing.md - Description: Image数据类,作为图像处理(包含图片编解码)的输入与输出的数据结构。默认情况下,用户在Host侧构造输入数据,数据在设备间的转移由ImageProcessor类来进行管理,用户无需进行内存数据的转移操作。图像类的校验会在ImageProcessor类进行。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_cpp_media_data_processing_md.md ## 模型推理 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/cpp/model_inference.md - Description: Model类,作为模型的抽象,持有模型推理的资源,并主要开放推理接口。支持使用ATC工具构建的动态Batch、动态分辨率和分档动态维度模型的推理。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_cpp_model_inference_md.md ## 模型后处理 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/cpp/model_postprocessing.md - Description: 用于记录图像类任务中模型前处理中的感兴趣(Region of Interest)区域,提供给模型后处理的坐标还原使用。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_cpp_model_postprocessing_md.md ## 流程编排 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/cpp/process_orchestration.md - Description: **表 1** 流程编排头文件列表 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_cpp_process_orchestration_md.md ## 调试插件 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/plugins/debugging_plugins.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_plugins_debugging_plugins_md.md ## 插件参考 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/plugins/general_description.md - Description: Vision SDK中实现的插件继承自\[MxPluginBase\]\(https://www.hiascend.com/document/detail/zh/mindsdk/2610/vision/visionug/docs/zh/api/cpp/process\_orchestration.md\#mxpluginbase\)。插件以“mxpi\_”开头,包含“status”、“deviceId”、“da - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_plugins_general_description_md.md ## 推理插件 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/plugins/inference_plugins.md - Description: \#\# mxpimodelinfer > \[\!NOTE\] >从当前版本不再演进,建议使用mxpitensorinfer插件。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_plugins_inference_plugins_md.md ## 输入插件 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/plugins/input_plugins.md - Description: 表 1 appsrc插件的属性 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_plugins_input_plugins_md.md ## 智能视频分析(IVA)插件 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/plugins/intelligent_video_analysis_plugins.md - Description: \#\# mxpimotsimplesort >\[\!NOTE\] >即将废弃,请使用mxpimotsimplesortV2插件。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_plugins_intelligent_video_analysis_plugins_md.md ## 媒体数据处理插件 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/plugins/media_data_processing_plugins.md - Description: - 缩放插件和抠图插件的贴图区域与抠图区域的缩放比例请控制在\[1/32, 16\]范围内。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_plugins_media_data_processing_plugins_md.md ## 模型后处理插件 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/plugins/model_postprocessing_plugins.md - Description: 模型后处理插件用于对模型推理的输出张量进行后处理并将对应结果写入元数据。由于不同推理任务类型的后处理所需要的输入,以及输出类型都不相同,因此需要采用不同的后处理插件。为了易于复用,Vision SDK已将部分接口和成员提取到后处理基类中。对于每类任务,如目标检测任务,采用动态加载后处理so的方法,实现支持各种模型(如YOLOv3,FasterRCNN,SsdVgg-16等模型)的多态性。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_plugins_model_postprocessing_plugins_md.md ## 屏幕展示(OSD)插件 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/plugins/on_screen_display_plugins.md - Description: OSD基础功能相关插件。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_plugins_on_screen_display_plugins_md.md ## 串流插件 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/plugins/streaming_plugins.md - Description: \#\# mxpiparallel2serial - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_plugins_streaming_plugins_md.md ## 依赖列表说明 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/python/dependency_description.md - Description: **表 1** 依赖列表 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_python_dependency_description_md.md ## 初始化和去初始化 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/python/initialization_and_deinitialization.md - Description: 支持的型号 Atlas 200I/500 A2 推理产品 Atlas 推理系列产品 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_python_initialization_and_deinitialization_md.md ## API接口参考(Python) - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/python/instructions.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_python_instructions_md.md ## 日志输出 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/python/log_output.md - Description: \#\# log类函数集 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_python_log_output_md.md ## 媒体数据处理 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/python/media_data_processing.md - Description: Tensor数据类,作为模型推理的输入与输出的数据结构。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_python_media_data_processing_md.md ## 模型推理 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/python/model_inference.md - Description: 该类主要用于模型推理。接口使用流程请参考\[模型推理\]\(https://www.hiascend.com/document/detail/zh/mindsdk/2610/vision/visionug/docs/zh/user\_guide.md\#模型推理\)。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_python_model_inference_md.md ## 模型后处理 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/python/model_postprocessing.md - Description: 接口使用流程请参考\[后处理\]\(https://www.hiascend.com/document/detail/zh/mindsdk/2610/vision/visionug/docs/zh/user\_guide.md\#后处理\)。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_python_model_postprocessing_md.md ## 流程编排 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/python/process_orchestration.md - Description: **表 1** 依赖列表 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_python_process_orchestration_md.md ## Python枚举类型及数据类 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/python/python_enumeration_types_and_data_classes.md - Description: 本章节数据类仅展示其属性,相关函数不予以全部展示。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_python_python_enumeration_types_and_data_classes_md.md ## 变更声明 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/api/README.md - Description: **软件包变更声明** - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_api_README_md.md ## MindSDK-附录 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/appendix.md - Description: **表 1** 模型支持列表 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_appendix_md.md ## 常用操作 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/common_operations.md - Description: 一键式信息收集工具用于快速收集Vision SDK问题,定位所依赖的相关信息,避免用户反复收集确认日志。主要包括芯片信息(版本和日志)、操作系统版本信息、环境变量、网络信息以及Vision SDK信息(版本、配置文件、日志、第三方库版本)等。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_common_operations_md.md ## MindSDK-**问题现象** - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/faq.md - Description: 问题现象 使用Vision SDK时,出现“can not find the element factory : mxpixxxpostprocessor”。 在“/mxVision-\{version\}/opensource/bin”路径下执行./gst-inspect-1.0 mxpixxxpostprocessor\(插件名\)检查插件, - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_faq_md.md ## 安装部署 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/installation_guide.md - Description: Vision SDK支持物理机部署和容器部署两种方式,本文档介绍在物理机内部署的方式。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_installation_guide_md.md ## MindSDK-**产品背景** - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/introduction.md - Description: \#\# Vision SDK是什么 产品背景 计算机视觉(Computer Vision,以下简称“CV”)的发展是一个不断探索的过程,CV最初是为了实现计算机对数字图片的简单处理而产生的,研究内容主要包括图像处理、模式识别、机器学习、深度学习等方面。在智能视频分析(Intelligent Video Analytics,以下简称“IVA”)行业中,传统计算常见算法的应用领域有很多,例如目标识别、视 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_introduction_md.md ## 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/quick_start.md - Description: Vision SDK 提供图像和视频处理加速能力,包括图像编解码和图像处理,也可以使用npu进行模型推理,搭建端到端的视频解决方案。本文将通过部署容器环境运行三个示例,帮助您快速上手Vision SDK开发与使用。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_quick_start_md.md ## 安全加固 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/security_hardening.md - Description: 使用API读取文件时,用户需要保证该文件的owner必须为自己,且权限不大于640,避免发生提权等安全问题。 - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_security_hardening_md.md ## 应用开发 - URL: https://www.hiascend.com/document/detail/zh/mindsdk/latest/vision/visionug/docs/zh/user_guide.md - Description: \#\# 使用API接口方式开发(C++) - Detail: llms-content/document/detail/mindsdk/mindsdk_2610_vision_visionug_docs_zh_user_guide_md.md ## MindSpeed-MindSpeed Core是针对华为昇腾设备的大模型加速库 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/Core/MindSpeed_Core/docs/zh/faq/data_helpers.md - Description: MindSpeed Core是针对华为昇腾设备的大模型加速库。大模型训练是一种非常复杂的过程,涉及到许多技术和挑战,其中大模型训练需要大量的显存资源是一个难题,对计算卡提出了不小的挑战。当单个计算卡显存资源不足时,可以通过多张计算卡进行计算,业界出现了类似 Megatron、DeepSpeed等第三方大模型加速库,对模型、输入数据等进行切分并分配到不同的计算卡上,最后再通过集合通信对结果进行汇总。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_Core_MindSpeed_Core_docs_zh_introduction_md.md ## MindSpeed-MindSpeed Core是针对华为昇腾设备的大模型加速库 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/Core/MindSpeed_Core/docs/zh/faq/torch_extensions.md - Description: MindSpeed Core是针对华为昇腾设备的大模型加速库。大模型训练是一种非常复杂的过程,涉及到许多技术和挑战,其中大模型训练需要大量的显存资源是一个难题,对计算卡提出了不小的挑战。当单个计算卡显存资源不足时,可以通过多张计算卡进行计算,业界出现了类似 Megatron、DeepSpeed等第三方大模型加速库,对模型、输入数据等进行切分并分配到不同的计算卡上,最后再通过集合通信对结果进行汇总。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_Core_MindSpeed_Core_docs_zh_introduction_md.md ## 特性总览 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/Core/MindSpeed_Core/docs/zh/features/feature_list.md - Description: 本手册汇总了MindSpeed Core相关特性,具体分类如下所示。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_Core_MindSpeed_Core_docs_zh_features_feature_list_md.md ## MindSpeed-MindSpeed Core是针对华为昇腾设备的大模型加速库 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/Core/MindSpeed_Core/docs/zh/introduction.md - Description: MindSpeed Core是针对华为昇腾设备的大模型加速库。大模型训练是一种非常复杂的过程,涉及到许多技术和挑战,其中大模型训练需要大量的显存资源是一个难题,对计算卡提出了不小的挑战。当单个计算卡显存资源不足时,可以通过多张计算卡进行计算,业界出现了类似 Megatron、DeepSpeed等第三方大模型加速库,对模型、输入数据等进行切分并分配到不同的计算卡上,最后再通过集合通信对结果进行汇总。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_Core_MindSpeed_Core_docs_zh_introduction_md.md ## MindSpeed-MindSpeed Core是针对华为昇腾设备的大模型加速库 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/Core/MindSpeed_Core/docs/zh/ops/ops_list.md - Description: MindSpeed Core是针对华为昇腾设备的大模型加速库。大模型训练是一种非常复杂的过程,涉及到许多技术和挑战,其中大模型训练需要大量的显存资源是一个难题,对计算卡提出了不小的挑战。当单个计算卡显存资源不足时,可以通过多张计算卡进行计算,业界出现了类似 Megatron、DeepSpeed等第三方大模型加速库,对模型、输入数据等进行切分并分配到不同的计算卡上,最后再通过集合通信对结果进行汇总。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_Core_MindSpeed_Core_docs_zh_introduction_md.md ## MindSpeed软件安装 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/Core/MindSpeed_Core/docs/zh/user-guide/install_guide.md - Description: 本文主要向用户介绍如何快速基于PyTorch框架完成MindSpeed Core(大模型训练加速库)的安装。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_Core_MindSpeed_Core_docs_zh_user-guide_install_guide_md.md ## 基于Megatron并行策略的性能优化 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/Core/MindSpeed_Core/docs/zh/user-guide/megatron_performance_optimization.md - Description: \[Megatron-LM\]\(https://github.com/NVIDIA/Megatron-LM\)是NVIDIA提出的一种分布式训练加速库,支持数据并行、模型并行和序列并行等特性,在大模型训练中得到广泛应用。经过MindSpeed昇腾平台的兼容性适配,现已在昇腾平台上支持原生并行策略。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_Core_MindSpeed_Core_docs_zh_user-guide_megatron_performance_optimization_md.md ## MindSpeed-MindSpeed - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/index/index.html - Description: MindSpeed是一款专为昇腾平台打造的高性能加速库,涵盖了MindSpeed Core大模型训练加速库、MindSpeed LLM套件、MindSpeed MM套件以及MindSpeed RL套件这四个重要组成部分。帮助开发者认识、了解训练加速套件MindSpeed,以及如何基于此进行模型开发和调优。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_index_index_html.md ## MindSpeed-MindSpeed LLM - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/LLM/MindSpeed_LLM/docs/zh/appendixes.md - Description: MindSpeed LLM,作为昇腾大模型训练框架,旨在为华为昇腾硬件提供端到端的大语言模型训练方案,包含分布式预训练、分布式指令微调以及对应的开发工具链。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_LLM_MindSpeed_LLM_docs_zh_introduction_md.md ## MindSpeed-MindSpeed LLM - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/LLM/MindSpeed_LLM/docs/zh/introduction.md - Description: MindSpeed LLM,作为昇腾大模型训练框架,旨在为华为昇腾硬件提供端到端的大语言模型训练方案,包含分布式预训练、分布式指令微调以及对应的开发工具链。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_LLM_MindSpeed_LLM_docs_zh_introduction_md.md ## 性能数据采集 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/LLM/MindSpeed_LLM/docs/zh/pytorch/tools/profiling.md - Description: MindSpeed LLM支持基于昇腾芯片采集profiling数据,以提供对模型运行情况的分析。使用时只需将相关参数添加至训练脚本中,运行脚本即可进行采集。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_LLM_MindSpeed_LLM_docs_zh_pytorch_tools_profiling_md.md ## MindSpeed-MindSpeed LLM - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/LLM/MindSpeed_LLM/docs/zh/pytorch/training/finetune/mcore/multi_sample_pack_finetune.md - Description: MindSpeed LLM,作为昇腾大模型训练框架,旨在为华为昇腾硬件提供端到端的大语言模型训练方案,包含分布式预训练、分布式指令微调以及对应的开发工具链。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_LLM_MindSpeed_LLM_docs_zh_introduction_md.md ## 单样本微调 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/LLM/MindSpeed_LLM/docs/zh/pytorch/training/finetune/mcore/single_sample_finetune.md - Description: 单样本微调是最基础、最通用的指令微调形式。每条样本由独立的“指令”和“目标回复”构成,不依赖任何上下文信息。该模式适用于**单轮、无历史依赖**的任务,例如: - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_LLM_MindSpeed_LLM_docs_zh_pytorch_training_finetune_mcore_single_sample_finetune_md.md ## MindSpeed LLM软件安装 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/LLM/MindSpeed_LLM/docs/zh/pytorch/training/install_guide.md - Description: 本文主要向用户介绍如何快速基于PyTorch框架完成MindSpeed LLM(大语言模型分布式训练套件)的安装。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_LLM_MindSpeed_LLM_docs_zh_pytorch_training_install_guide_md.md ## MindSpeed-MindSpeed LLM - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/LLM/MindSpeed_LLM/docs/zh/pytorch/training/pretrain/mcore/pretrain_eod.md - Description: MindSpeed LLM,作为昇腾大模型训练框架,旨在为华为昇腾硬件提供端到端的大语言模型训练方案,包含分布式预训练、分布式指令微调以及对应的开发工具链。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_LLM_MindSpeed_LLM_docs_zh_introduction_md.md ## 大模型分布式预训练 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/LLM/MindSpeed_LLM/docs/zh/pytorch/training/pretrain/mcore/pretrain.md - Description: 大模型预训练(Pretraining)是语言模型发展的核心步骤,目标是让模型通过大规模无标签语料学习语言规律与世界知识。预训练过程更关注语言建模本身,而非具体任务执行。以GPT类模型为例,它是一种典型的自回归语言模型,其核心思想是基于历史上下文预测下一个标记。预训练的过程就是通过反复优化这种预测能力,使模型逐渐学会如何理解语境、保持句子连贯性,并掌握更高层次的语言结构,为多种下游任务提供通用的语言 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_LLM_MindSpeed_LLM_docs_zh_pytorch_training_pretrain_mcore_pretrain_md.md ## MindSpeed-MindSpeed MM是面向大规模分布式训练的昇腾多模态大模型套件 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/MM/MM/docs/zh/features/feature_list.md - Description: MindSpeed MM是面向大规模分布式训练的昇腾多模态大模型套件,同时支持多模态生成及多模态理解。它旨在为华为昇腾芯片提供端到端的多模态训练解决方案,并包含预置业界主流模型,数据工程,分布式训练及加速,预训练、微调、在线推理任务等特性。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_MM_MM_docs_zh_introduction_md.md ## MindSpeed-MindSpeed MM是面向大规模分布式训练的昇腾多模态大模型套件 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/MM/MM/docs/zh/introduction.md - Description: MindSpeed MM是面向大规模分布式训练的昇腾多模态大模型套件,同时支持多模态生成及多模态理解。它旨在为华为昇腾芯片提供端到端的多模态训练解决方案,并包含预置业界主流模型,数据工程,分布式训练及加速,预训练、微调、在线推理任务等特性。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_MM_MM_docs_zh_introduction_md.md ## MindSpeed MM软件安装 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/MM/MM/docs/zh/pytorch/install_guide.md - Description: 本文主要向用户介绍如何快速基于PyTorch框架完成MindSpeed MM(多模态模型套件)的安装。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_MM_MM_docs_zh_pytorch_install_guide_md.md ## MindSpeed MM 工具库使用指南 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/MM/MM/docs/zh/tools.md - Description: 套件集成了昇腾\[profiling采集工具\]\(https://gitcode.com/Ascend/MindSpeed-MM/blob/26.1.0/mindspeed\_mm/tools/profiler.py\),以提供对模型运行情况的分析。内置模型均已适配,只需修改\[tools.json\]\(https://gitcode.com/Ascend/MindSpeed-MM/blob/26.1.0/m - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_MM_MM_docs_zh_tools_md.md ## MindSpeed是什么 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/productoverview/docs/zh/overview.md - Description: MindSpeed是一款专为昇腾平台打造的高性能加速库,涵盖了MindSpeed Core大模型训练加速库、MindSpeed LLM套件、MindSpeed MM套件以及MindSpeed RL套件这四个重要组成部分。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_productoverview_docs_zh_overview_md.md ## 快速入门:Qwen2.5-VL模型微调和Wan2.1模型微调 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/quickstart/docs/zh/pytorch/quickstart.md - Description: MindSpeed MM同时支持多模态生成和多模态理解模型,下面分别以Qwen2.5-VL(理解模型)和Wan2.1(生成模型)两个典型模型为例,介绍MindSpeed MM的使用方法,引导开发者快速上手预置模型在昇腾NPU上的高效运行。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_quickstart_docs_zh_pytorch_quickstart_md.md ## 快速入门:Qwen3-8B 模型预训练及微调 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/quickstart/docs/zh/pytorch/training/quick_start.md - Description: 本文档提供了一个简易示例,帮助初次接触MindSpeed LLM的开发者快速启动模型训练任务,并基于预训练语言模型,使用单样本格式数据完成指令单机微调任务。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_quickstart_docs_zh_pytorch_training_quick_start_md.md ## 快速入门 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/quickstart/docs/zh/user-guide/quickstart.md - Description: 本手册指导用户完成安装后,可实现Megatron-LM在昇腾设备上的高效运行,且无缝集成并充分发挥MindSpeed所提供的丰富加速与优化技术。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_quickstart_docs_zh_user-guide_quickstart_md.md ## 安全声明 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/reference/securityguide/docs/zh/security_statement.md - Description: 本文中列出的安全加固措施为基本的加固建议项。用户应根据自身业务,重新审视整个系统的网络安全加固措施。用户应按照所在组织的安全策略进行相关配置,包括但不限于软件版本、系统加固要求、安全配置(数据存储、调试接口、运行环境等)、权限配置、防火墙设置等。必要时可参考业界优秀加固方案和安全专家的建议。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_reference_securityguide_docs_zh_security_statement_md.md ## 版本说明 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/releasenote/docs/zh/release_note/release_notes.md - Description: > \[\!NOTE\] > > 有关MindSpeed LLM的版本维护,具体请参见版本维护策略。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_releasenote_docs_zh_release_notes_llm_md.md ## 版本说明 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/releasenote/docs/zh/release_notes_core.md - Description: > \[\!NOTE\] > > 有关MindSpeed的版本维护,具体请参见分支维护策略。 表 1 MindSpeed Core软件版本配套表 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_releasenote_docs_zh_release_notes_core_md.md ## 版本说明 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/releasenote/docs/zh/release_notes_llm.md - Description: > \[\!NOTE\] > > 有关MindSpeed LLM的版本维护,具体请参见版本维护策略。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_releasenote_docs_zh_release_notes_llm_md.md ## 版本说明 - URL: https://www.hiascend.com/document/detail/zh/MindSpeed/latest/releasenote/docs/zh/release_notes_mm.md - Description: > \[\!NOTE\] > > 有关MindSpeed MM的版本维护策略,具体请参见版本维护。 - Detail: llms-content/document/detail/MindSpeed/MindSpeed_2610_releasenote_docs_zh_release_notes_mm_md.md ## MindStudio Insight基础操作 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/GUI_baseddevelopmenttool/MindStudioInsight/docs/zh/user_guide/basic_operations.md - Description: MindStudio Insight工具为可视化调优工具,首先需完成工具基础配置的适配与常用操作的熟悉。本文档主要介绍主题与语言配置、数据导入、数据管理、日志管理的操作,以及快捷键相关信息。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_GUI_baseddevelopmenttool_MindStudioInsight_docs_zh_user_guide_basic_operations_md.md ## MindStudio-MindStudio Insight是面向昇腾AI开发者的可视化调优工具 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/GUI_baseddevelopmenttool/MindStudioInsight/docs/zh/user_guide/FAQ.md - Description: MindStudio Insight是面向昇腾AI开发者的可视化调优工具,支持系统调优、算子调优、服务化调优和内存调优的能力,帮助开发者在训练、推理以及算子开发场景快速完成性能优化。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_GUI_baseddevelopmenttool_MindStudioInsight_docs_zh_user_guide_overview_md.md ## MindStudio Insight内存调优 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/GUI_baseddevelopmenttool/MindStudioInsight/docs/zh/user_guide/memory_tuning.md - Description: MindStudio Insight工具以图形化形式呈现device侧内存详细分配情况,目前支持两种内存数据源: - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_GUI_baseddevelopmenttool_MindStudioInsight_docs_zh_user_guide_memory_tuning_md.md ## MindStudio-MindStudio Insight是面向昇腾AI开发者的可视化调优工具 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/GUI_baseddevelopmenttool/MindStudioInsight/docs/zh/user_guide/mindstudio_insight_install_guide.md - Description: MindStudio Insight是面向昇腾AI开发者的可视化调优工具,支持系统调优、算子调优、服务化调优和内存调优的能力,帮助开发者在训练、推理以及算子开发场景快速完成性能优化。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_GUI_baseddevelopmenttool_MindStudioInsight_docs_zh_user_guide_overview_md.md ## MindStudio Insight算子调优 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/GUI_baseddevelopmenttool/MindStudioInsight/docs/zh/user_guide/operator_tuning.md - Description: MindStudio Insight提供指令流水视图、算子源码视图以及算子运行负载分析视图,直观地将运行在昇腾AI处理器上的算子的关键性能指标进行可视化呈现,帮助用户快速定位算子的软硬件性能瓶颈,提升算子性能分析的效率。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_GUI_baseddevelopmenttool_MindStudioInsight_docs_zh_user_guide_operator_tuning_md.md ## MindStudio-MindStudio Insight是面向昇腾AI开发者的可视化调优工具 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/GUI_baseddevelopmenttool/MindStudioInsight/docs/zh/user_guide/overview.md - Description: MindStudio Insight是面向昇腾AI开发者的可视化调优工具,支持系统调优、算子调优、服务化调优和内存调优的能力,帮助开发者在训练、推理以及算子开发场景快速完成性能优化。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_GUI_baseddevelopmenttool_MindStudioInsight_docs_zh_user_guide_overview_md.md ## MindStudio-MindStudio Insight是面向昇腾AI开发者的可视化调优工具 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/GUI_baseddevelopmenttool/MindStudioInsight/docs/zh/user_guide/quick_start/operator_start.md - Description: MindStudio Insight是面向昇腾AI开发者的可视化调优工具,支持系统调优、算子调优、服务化调优和内存调优的能力,帮助开发者在训练、推理以及算子开发场景快速完成性能优化。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_GUI_baseddevelopmenttool_MindStudioInsight_docs_zh_user_guide_overview_md.md ## MindStudio-MindStudio Insight是面向昇腾AI开发者的可视化调优工具 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/GUI_baseddevelopmenttool/MindStudioInsight/docs/zh/user_guide/quick_start/system_start.md - Description: MindStudio Insight是面向昇腾AI开发者的可视化调优工具,支持系统调优、算子调优、服务化调优和内存调优的能力,帮助开发者在训练、推理以及算子开发场景快速完成性能优化。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_GUI_baseddevelopmenttool_MindStudioInsight_docs_zh_user_guide_overview_md.md ## MindStudio Insight服务化调优 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/GUI_baseddevelopmenttool/MindStudioInsight/docs/zh/user_guide/service_optimization.md - Description: MindStudio Insight工具以时间线(Timeline)的呈现方式,将请求端到端的执行情况平铺在时间轴上,直观体现请求在各个关键阶段的耗时情况以及当下请求的状态信息,可帮助用户快速识别服务化性能瓶颈,并调整调优策略。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_GUI_baseddevelopmenttool_MindStudioInsight_docs_zh_user_guide_service_optimization_md.md ## MindStudio Insight系统调优 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/GUI_baseddevelopmenttool/MindStudioInsight/docs/zh/user_guide/system_tuning.md - Description: MindStudio Insight支持导入性能数据文件,提供时间线视图、内存、算子耗时、通信瓶颈分析等功能,以图形化形式呈现相关内容,帮助开发者快速定位模型性能瓶颈。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_GUI_baseddevelopmenttool_MindStudioInsight_docs_zh_user_guide_system_tuning_md.md ## MindStudio-MindStudio - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/index/index.html - Description: MindStudio是面向昇腾AI开发者提供的全流程工具链,致力于提供端到端的昇腾AI应用开发解决方案,使能开发者高效完成训练开发、推理开发和算子开发。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_index_index_html.md ## MindStudio Kernel Launcher API接口文档 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/api_reference/mskl_api_reference.md - Description: msKL工具提供的接口可以调用msOpGen工程中的tiling函数以及用户自定义的Kernel函数,同时提供了autotune系列接口支持开发者可以高效地针对多个调优点进行代码替换、编译、运行以及性能对比。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_api_reference_mskl_api_reference_md.md ## MindStudio Kernel Performance Prediction对外接口使用说明 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/api_reference/mskpp_api_reference.md - Description: msKPP工具分为基础功能接口和指令接口两种接口类型。基础功能接口用于模拟算子计算中芯片平台、基础数据等。指令接口用于模拟特定的算子指令操作,包括Vector类计算指令和Cube类计算指令。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_api_reference_mskpp_api_reference_md.md ## MindStudio Sanitizer 对外接口使用说明 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/api_reference/mssanitizer_api_reference.md - Description: 调用aclrtMalloc接口在Device上分配size大小的线性内存,并通过devPtr返回已分配内存的指针,并向检测工具上报内存分配信息。实际的内存分配行为和参数含义与aclrtMalloc一致。 > \[\!NOTE\] > 可参见《应用开发接口》手册中“acl API参考(C) > 运行时管理 > 内存管理”章节查看aclrtMalloc的详细说明。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_api_reference_mssanitizer_api_reference_md.md ## MindStudio Ops Generator典型案例 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/best_practices/example.md - Description: 展示如何使用msOpGen工具进行Ascend C自定义算子的工程创建、编译和部署,并使用msOpST工具对Ascend C自定义算子进行功能测试。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_best_practices_example_md.md ## 典型案例 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/best_practices/msdebug_basic_cases.md - Description: \#\# 上板调试Vector算子 概述 展示如何使用msDebug工具来上板调试一个Vector算子,该Vector算子可实现两个向量相加并输出结果的功能。 前期准备 - 单击链接获取样例工程,为进行算子调试做准备。 - 完成相关环境变量配置,请参见MindStudio Debugger工具用户指南。 操作步骤 1. 基于样例工程编译算子,获取可执行文件add.fatbin。 1. 修改sa - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_best_practices_msdebug_basic_cases_md.md ## 基础案例 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/best_practices/mssanitizer_basic_cases.md - Description: 1. 参考《\[MindStudio Sanitizer 安装指南\]\(https://www.hiascend.com/document/detail/zh/mindstudio/2610/msOT/Operatordevelopmenttools/docs/zh/install\_guide/mssanitizer\_install\_guide.md\)》完成相关环境变量的配置。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_best_practices_mssanitizer_basic_cases_md.md ## 典型案例 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/best_practices/typical_cases.md - Description: \#\# 通过指令流水图优化算子 概述 展示如何通过msOpProf工具的指令流水图特性,分析算子的瓶颈点,并实现算子的性能优化。 操作步骤 1. 参考msopprof simulator用户指南,将算子仿真性能数据采集得到的visualizedata.bin文件导入MindStudio Insight,具体导入操作请参考《MindStudio Insight用户指南》的“导入性能数据”章节。 2. - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_best_practices_typical_cases_md.md ## MindStudio 工具开发环境安装指导 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/common/dev_env_setup.md - Description: 本文档用于搭建 MindStudio 工具编译/UT 等开发所需的标准化容器环境。除特别说明外,本文命令均在**宿主机**执行。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_common_dev_env_setup_md.md ## MindStudio Debugger安装指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/install_guide/msdebug_install_guide.md - Description: 本工具已集成于CANN中,若已安装CANN且无需更新此工具,可直接使用,无需按本文档安装。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_install_guide_msdebug_install_guide_md.md ## MindStudio Kernel Launcher 安装指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/install_guide/mskl_install_guide.md - Description: 本工具已集成于CANN中,若已安装CANN且无需更新此工具,可直接使用,无需按本文档安装。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_install_guide_mskl_install_guide_md.md ## MindStudio Kernel Performance Prediction 安装指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/install_guide/mskpp_install_guide.md - Description: 本工具已集成于CANN中,若已安装CANN且无需更新此工具,可直接使用,无需按本文档安装。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_install_guide_mskpp_install_guide_md.md ## MindStudio Ops Generator安装指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/install_guide/msopgen_install_guide.md - Description: 本工具已集成于CANN中,若已安装CANN且无需更新此工具,可直接使用,无需按本文档安装。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_install_guide_msopgen_install_guide_md.md ## MindStudio Ops Profiler 安装指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/install_guide/msopprof_install_guide.md - Description: 本工具已集成于CANN中,若已安装CANN且无需更新此工具,可直接使用,无需按本文档安装。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_install_guide_msopprof_install_guide_md.md ## MindStudio Sanitizer 安装指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/install_guide/mssanitizer_install_guide.md - Description: 本工具已集成于CANN中,若已安装CANN且无需更新此工具,可直接使用,无需按本文档安装。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_install_guide_mssanitizer_install_guide_md.md ## 工具介绍 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/quick_start/cann_container_setup.md - Description: 本文以 ”我要做什么” 为导向,结合典型场景为您推荐合适的工具。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_MindStudio_2610_zh_user_guide_msot_user_guide_md.md ## 昇腾 AI 算子开发工具链学习环境安装指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/quick_start/installation_guide.md - Description: > \[\!CAUTION\]注意 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_quick_start_installation_guide_md.md ## msDebug算子调试工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/quick_start/msdebug_quick_start.md - Description: msDebug 是一款面向昇腾设备的算子调试工具,用于调试在NPU侧执行的算子程序,为算子开发人员提供关键调试能力,包括读取昇腾设备内存与寄存器、断点暂停与恢复程序运行状态等。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_quick_start_msdebug_quick_start_md.md ## msKL 算子 Kernel 轻量化调用快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/quick_start/mskl_quick_start.md - Description: 使用 msKL 工具可以利用其提供的接口在 Python 脚本中快速实现 Kernel 下发的代码生成、编译及运行。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_quick_start_mskl_quick_start_md.md ## msKPP 算子建模工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/quick_start/mskpp_quick_start.md - Description: msKPP 工具用于算子开发前的性能建模设计,开发者基于其 DSL(Domain-Specific Language,领域特定语言),以算子的数学逻辑为输入,编写算子表达式,即可在秒级内获得性能预测结果。该建模仅依赖输入/输出规模,无需执行真实计算,可高效验证算子实现方案。本文档基于入门教程中开发的简易加法算子,演示 msKPP 工具的核心功能,帮助初学者直观感受 msKPP 在算子开发过程中的高 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_quick_start_mskpp_quick_start_md.md ## MindStudio Ops Generator快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/quick_start/msopgen_quick_start.md - Description: msOpGen 工具在算子开发过程中可自动生成自定义算子工程,使用户能够聚焦于算子的核心逻辑与算法实现,避免在项目搭建、编译配置等重复性工作上耗费大量时间,从而显著提升开发效率。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_quick_start_msopgen_quick_start_md.md ## msOpProf 算子性能调优工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/quick_start/msopprof_quick_start.md - Description: msOpProf 工具用于采集和分析运行在昇腾 AI 处理器上的算子的关键性能指标,用户可根据输出的性能数据,快速定位算子的软、硬件性能瓶颈,提升算子性能的分析效率。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_quick_start_msopprof_quick_start_md.md ## MindStudio Ops System Test快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/quick_start/msopst_quick_start.md - Description: msOpST工具用于算子开发完成后,对算子功能进行初步测试,该工具可以更加高效地进行算子性能的分析和优化,提高算子的执行效率,降低开发成本。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_quick_start_msopst_quick_start_md.md ## msSanitizer算子检测工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/quick_start/mssanitizer_quick_start.md - Description: msSanitizer 工具是基于昇腾 AI 处理器的异常检测工具,包含单算子开发场景下的内存检测、竞争检测、未初始化检测和同步检测四个子功能。本文档基于入门教程中开发的简易加法算子,演示 msSanitizer 工具的核心功能,帮助初学者直观感受其为算子开发过程带来的高效与便捷。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_quick_start_mssanitizer_quick_start_md.md ## MindStudio-**问题现象** - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/support/msdebug_faq.md - Description: \#\# msDebug工具打印Tensor变量功能不可用,提示“unavailable”或“memory read failed” 问题现象 提示“unavailable”或“Failed to dereference pointer from xxx for DWOPderef: memory read failed for xxx”。 原因分析 单步调试功能不支持Tensor按值传递的写法。 解 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_support_msdebug_faq_md.md ## 工具介绍 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/support/mskl_faq.md - Description: 本文以 ”我要做什么” 为导向,结合典型场景为您推荐合适的工具。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_MindStudio_2610_zh_user_guide_msot_user_guide_md.md ## MindStudio Sanitizer常见问题 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/support/mssanitizer_faq.md - Description: \#\# msSanitizer工具异常报告中未打印正确的文件名和行号 问题现象 文件名和行号显示为":0",或文件名显示正确,但行号显示为"0"。 解决方案 - 文件名和行号显示为":0"。 说明msSanitizer工具没有解析到正确的文件名和行号,根据用户的检测场景,有以下两种解决方法: - 如果启用了"--check-cann-heap\=yes"选项,对CANN软件栈内存进行检 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_support_mssanitizer_faq_md.md ## 开启全量检测 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/user_guide/compile_option_config.md - Description: 如需启用全量检测,须在算子代码的编译阶段添加相应编译选项并重新编译算子。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_user_guide_compile_option_config_md.md ## 扩展功能 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/user_guide/extended_functions.md - Description: 编写算子的定义json文件,配置参数的具体说明请参考**表 1** json文件配置参数说明和**表 2** test\_case参数字段说明。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_user_guide_extended_functions_md.md ## MindStudio Debugger工具用户指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/user_guide/msdebug_user_guide.md - Description: MindStudio Debugger(算子调试工具,msDebug)是一款面向昇腾设备的算子调试工具,用于调试NPU侧运行的算子程序,为算子开发人员提供调试手段。调试手段包括了读取昇腾设备内存与寄存器、暂停与恢复程序运行状态等。用户使用其他拉起算子的方式或msOpST工具在真实的硬件环境中对算子的功能进行测试后,可根据实际测试情况选择是否使用msDebug工具进行功能调试。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_user_guide_msdebug_user_guide_md.md ## MindStudio Kernel Launcher工具用户指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/user_guide/mskl_user_guide.md - Description: MindStudio Kernel Performance Prediction(算子调用工具,msKL)具有调用msOpGen算子工程和基于Ascend C模板库进行自动调优的功能,具体介绍如下: - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_user_guide_mskl_user_guide_md.md ## MindStudio Kernel Performance Prediction 用户指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/user_guide/mskpp_user_guide.md - Description: MindStudio Kernel Performance Prediction(算子设计工具,msKPP)具有性能建模分析的功能,在算子开发前,可根据算子的数学逻辑作为输入、基于msKPP提供的接口,写出一个算子实现方案的算子表达式,获得该方案的算子性能建模结果。由于本身针对性能的预测不需要进行真实的计算,仅需要依据输入和输出的规模,给出对应算法的执行时间,故而,可以在秒级给出性能建模结果。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_user_guide_mskpp_user_guide_md.md ## MindStudio Ops Generator工具用户指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/user_guide/msopgen_user_guide.md - Description: msOpGen目前已支持的功能如下:包括算子工程创建、算子实现(Host侧&Kernel侧)、算子工程编译部署以及解析算子仿真流水图文件等。 表 1 msOpGen工具功能 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_user_guide_msopgen_user_guide_md.md ## msopprof模式性能数据 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/user_guide/msopprof_performance_data.md - Description: Cube及Vector类型指令的cycle占比数据ArithmeticUtilization.csv,建议优化算子逻辑,减少冗余计算指令。详情介绍请参见下表中的字段说明。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_user_guide_msopprof_performance_data_md.md ## msOpProf simulator模式性能数据 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/user_guide/msopprof_simulator_performance_data.md - Description: msOpProf simulator运行模式通过仿真器对算子进行指令级性能仿真,采集完成后会在指定的`--output`目录下生成以`OPPROF\_\{timestamp\}\_XXX`命名的文件夹,输出以下性能数据文件。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_user_guide_msopprof_simulator_performance_data_md.md ## msopprof simulator模式用户指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/user_guide/msopprof_simulator_user_guide.md - Description: MindStudio Ops Profiler(算子调优工具,msOpProf)用于采集和分析运行在AI处理器上算子的关键性能指标,用户可根据输出的性能数据,快速定位算子的软、硬件性能瓶颈,提升算子性能的分析效率。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_user_guide_msopprof_simulator_user_guide_md.md ## msOpProf使用场景 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/user_guide/msopprof_usage.md - Description: > > 本示例中可执行文件的名称(add)仅为示例,具体以当前工程中用户实际编译的脚本为准。 2. 使用如下命令完成msopprof上板性能数据和精细化调优数据的采集,也可参考msopprof模式命令指定其他命令参数。 ```shell msprof op add ``` 3. 修改样例工程的编译文件CMakeLists.txt,构建可运行在仿真器上的算子可执行文 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_user_guide_msopprof_usage_md.md ## msOpProf模式用户指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/user_guide/msopprof_user_guide.md - Description: MindStudio Ops Profiler(算子调优工具,msOpProf)用于采集和分析运行在AI处理器上算子的关键性能指标,用户可根据输出的性能数据,快速定位算子的软、硬件性能瓶颈,提升算子性能的分析效率。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_user_guide_msopprof_user_guide_md.md ## MindStudio Sanitizer 使用指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msOT/Operatordevelopmenttools/docs/zh/user_guide/mssanitizer_user_guide.md - Description: MindStudio Sanitizer(异常检测工具,msSanitizer)是一种基于AI处理器的工具,包含了单算子开发场景下的内存检测、竞争检测、未初始化检测和同步检测四个子功能: - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msOT_Operatordevelopmenttools_docs_zh_user_guide_mssanitizer_user_guide_md.md ## 算子开发工具链快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msquickstart/docs/zh/mindspore_mstt_quick_start.md - Description: MindStudio 算子开发工具链包含多种工具。本文档以开发一个简单加法算子为例,带您贯穿算子开发全流程,直观体验工具链带来的高效与便捷。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msquickstart_docs_zh_quick_start_op_tool_quick_start_md.md ## 算子开发工具链快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msquickstart/docs/zh/msit_quick_start.md - Description: MindStudio 算子开发工具链包含多种工具。本文档以开发一个简单加法算子为例,带您贯穿算子开发全流程,直观体验工具链带来的高效与便捷。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msquickstart_docs_zh_quick_start_op_tool_quick_start_md.md ## 算子开发工具链快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msquickstart/docs/zh/pytorch_mstt_quick_start.md - Description: MindStudio 算子开发工具链包含多种工具。本文档以开发一个简单加法算子为例,带您贯穿算子开发全流程,直观体验工具链带来的高效与便捷。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msquickstart_docs_zh_quick_start_op_tool_quick_start_md.md ## 算子开发工具链快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msquickstart/docs/zh/quick_start/op_tool_quick_start.md - Description: MindStudio 算子开发工具链包含多种工具。本文档以开发一个简单加法算子为例,带您贯穿算子开发全流程,直观体验工具链带来的高效与便捷。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msquickstart_docs_zh_quick_start_op_tool_quick_start_md.md ## Ascend PyTorch调优工具 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/ascend_pytorch_profiler/docs/zh/ascend_pytorch_profiler/ascend_pytorch_profiler_user_guide.md - Description: Ascend PyTorch调优工具(Ascend PyTorch Profiler)支持性能数据采集和解析功能,可参照如下顺序使用。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_ascend_pytorch_profiler_docs_zh_ascend_pytorch_profiler_ascend_pytorch_profiler_user_guide_md.md ## 分析迁移工具 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/migrationtoolpt/msfmktransplt/README.md - Description: 昇腾NPU是AI算力的后起之秀,但目前训练和在线推理脚本大多是基于GPU的。由于NPU与GPU的架构差异,基于GPU的训练和在线推理脚本不能直接在NPU上使用。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_migrationtoolpt_msfmktransplt_README_md.md ## MindSpore Profiler - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/MindSpore_Profiler/MindStudio/26.0.0/mindspore_profiler_user_guide.md - Description: MindSpore调优工具(MindSpore Profiler)MindSpore Profiler是针对MindSpore框架开发的性能分析工具,通过在MindSpore训练脚本中添加MindSpore Profiler接口,执行训练的同时采集性能数据,完成训练后直接输出可视化的性能数据文件,提升了性能分析效率。MindSpore Profiler接口可全面采集MindSpore训练场景下的性 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_MindSpore_Profiler_MindStudio_2610_zh_menu_mindspore_profiler_user_guide_md.md ## msMemScope快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msMemScope/docs/zh/api.md - Description: 简介 msMemScope工具提供内存事件采集功能,基于采集事件开展内存泄漏检测、内存对比、内存块监测、内存拆解和低效内存识别等分析功能。本文档通过一个简单的PyTorch脚本介绍msMemScope工具的使用方法以及功能。 环境准备 请根据msMemScope安装指南完成msMemScope工具安装。 本示例基于PyTorch框架和Ascend for PyTorch插件,请根据Ascend f - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msMemScope_docs_zh_quick_start_quick_start_md.md ## msMemScope快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msMemScope/docs/zh/install_guide.md - Description: 简介 msMemScope工具提供内存事件采集功能,基于采集事件开展内存泄漏检测、内存对比、内存块监测、内存拆解和低效内存识别等分析功能。本文档通过一个简单的PyTorch脚本介绍msMemScope工具的使用方法以及功能。 环境准备 请根据msMemScope安装指南完成msMemScope工具安装。 本示例基于PyTorch框架和Ascend for PyTorch插件,请根据Ascend f - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msMemScope_docs_zh_quick_start_quick_start_md.md ## msMemScope快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msMemScope/docs/zh/memory_analysis.md - Description: 简介 msMemScope工具提供内存事件采集功能,基于采集事件开展内存泄漏检测、内存对比、内存块监测、内存拆解和低效内存识别等分析功能。本文档通过一个简单的PyTorch脚本介绍msMemScope工具的使用方法以及功能。 环境准备 请根据msMemScope安装指南完成msMemScope工具安装。 本示例基于PyTorch框架和Ascend for PyTorch插件,请根据Ascend f - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msMemScope_docs_zh_quick_start_quick_start_md.md ## msMemScope快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msMemScope/docs/zh/memory_profile.md - Description: 简介 msMemScope工具提供内存事件采集功能,基于采集事件开展内存泄漏检测、内存对比、内存块监测、内存拆解和低效内存识别等分析功能。本文档通过一个简单的PyTorch脚本介绍msMemScope工具的使用方法以及功能。 环境准备 请根据msMemScope安装指南完成msMemScope工具安装。 本示例基于PyTorch框架和Ascend for PyTorch插件,请根据Ascend f - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msMemScope_docs_zh_quick_start_quick_start_md.md ## msMemScope快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msMemScope/docs/zh/output_file_spec.md - Description: 简介 msMemScope工具提供内存事件采集功能,基于采集事件开展内存泄漏检测、内存对比、内存块监测、内存拆解和低效内存识别等分析功能。本文档通过一个简单的PyTorch脚本介绍msMemScope工具的使用方法以及功能。 环境准备 请根据msMemScope安装指南完成msMemScope工具安装。 本示例基于PyTorch框架和Ascend for PyTorch插件,请根据Ascend f - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msMemScope_docs_zh_quick_start_quick_start_md.md ## msMemScope快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msMemScope/docs/zh/quick_start.md - Description: 简介 msMemScope工具提供内存事件采集功能,基于采集事件开展内存泄漏检测、内存对比、内存块监测、内存拆解和低效内存识别等分析功能。本文档通过一个简单的PyTorch脚本介绍msMemScope工具的使用方法以及功能。 环境准备 请根据msMemScope安装指南完成msMemScope工具安装。 本示例基于PyTorch框架和Ascend for PyTorch插件,请根据Ascend f - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msMemScope_docs_zh_quick_start_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/appendix/faq.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/case_studies/msmodelslim_quantized_weight_to_autoawq_autogptq.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/case_studies/quantization_precision_tuning_guide.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/case_studies/quantization_weight_use_cases_in_acceleration_and_mindie_torch.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/case_studies/qwen3_32b_w8a8_precision_tuning_case.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/case_studies/sparse_quantization_accuracy_tuning_cases.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/case_studies/w8a16_accuracy_tuning_policy.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/case_studies/w8a8_accuracy_tuning_policy.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/feature_guide/auto_precision_tuning/configuration_protocols.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/feature_guide/auto_precision_tuning/usage.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/feature_guide/quick_quantization_v1/group.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/feature_guide/quick_quantization_v1/quantization_result.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/feature_guide/quick_quantization_v1/usage.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/feature_guide/sensitive_layer_analysis/analyze_api_usage.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/getting_started/install_guide.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/getting_started/quantization_quick_start.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/model_support/foundation_model_support_matrix.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/auto_tuning_strategies/standing_high_with_experience.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/auto_tuning_strategies/standing_high.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/outlier_suppression_algorithms/adapt_rotation.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/outlier_suppression_algorithms/awq_smooth.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/outlier_suppression_algorithms/flex_awq_ssz.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/outlier_suppression_algorithms/flex_smooth_quant.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/outlier_suppression_algorithms/iterative_smooth.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/outlier_suppression_algorithms/kv_smooth.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/outlier_suppression_algorithms/quarot.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/outlier_suppression_algorithms/smooth_quant.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/quantization_algorithms/autoround.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/quantization_algorithms/fa3_quant.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/quantization_algorithms/float_sparse.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/quantization_algorithms/gptq.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/quantization_algorithms/histogram_activation_quantization.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/quantization_algorithms/kvcache_quant.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/quantization_algorithms/laos.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/quantization_algorithms/linear_quant.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/quantization_algorithms/minmax.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/quantization_algorithms/pdmix.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/quantization_algorithms/ssz.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msModelSlim 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msModelSlim/docs/zh/quantization_algorithms/README.md - Description: msModelSlim 是面向昇腾生态的模型压缩工具,覆盖稠密 LLM、MoE 及多模态模型的量化与压缩。本文以 Qwen3.6-27B 为例,带你体验如何通过一键量化将模型权重压缩为 W8A8 格式,并基于vLLM-Ascend完成推理部署验证。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msModelSlim_docs_zh_quick_start_quantization_quick_start_md.md ## msMonitor工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msMonitor/docs/zh/dyno_instruct.md - Description: 下面通过msMonitor常见的使用场景介绍msMonitor工具快速入门: - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msMonitor_docs_zh_quick_start_msmonitor_quick_start_md.md ## msMonitor工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msMonitor/docs/zh/dynolog_instruct.md - Description: 下面通过msMonitor常见的使用场景介绍msMonitor工具快速入门: - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msMonitor_docs_zh_quick_start_msmonitor_quick_start_md.md ## msMonitor工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msMonitor/docs/zh/faq.md - Description: 下面通过msMonitor常见的使用场景介绍msMonitor工具快速入门: - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msMonitor_docs_zh_quick_start_msmonitor_quick_start_md.md ## msMonitor工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msMonitor/docs/zh/install_guide.md - Description: 下面通过msMonitor常见的使用场景介绍msMonitor工具快速入门: - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msMonitor_docs_zh_quick_start_msmonitor_quick_start_md.md ## msMonitor工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msMonitor/docs/zh/mindspore_adapter_instruct.md - Description: 下面通过msMonitor常见的使用场景介绍msMonitor工具快速入门: - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msMonitor_docs_zh_quick_start_msmonitor_quick_start_md.md ## msMonitor工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msMonitor/docs/zh/mindstudio_monitor_api_reference.md - Description: 下面通过msMonitor常见的使用场景介绍msMonitor工具快速入门: - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msMonitor_docs_zh_quick_start_msmonitor_quick_start_md.md ## msMonitor工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msMonitor/docs/zh/monitor_feature.md - Description: 下面通过msMonitor常见的使用场景介绍msMonitor工具快速入门: - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msMonitor_docs_zh_quick_start_msmonitor_quick_start_md.md ## msMonitor工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msMonitor/docs/zh/npumonitor_instruct.md - Description: 下面通过msMonitor常见的使用场景介绍msMonitor工具快速入门: - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msMonitor_docs_zh_quick_start_msmonitor_quick_start_md.md ## msMonitor工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msMonitor/docs/zh/nputrace_instruct.md - Description: 下面通过msMonitor常见的使用场景介绍msMonitor工具快速入门: - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msMonitor_docs_zh_quick_start_msmonitor_quick_start_md.md ## 总体介绍 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msMonitor/docs/zh/overview.md - Description: MindStudio Monitor(msMonitor)是面向昇腾集群场景的在线性能监测与动态采集工具, 基于 \[dynolog\]\(https://github.com/facebookincubator/dynolog\)(Meta CPU-GPU监控系统)和 \[msPTI\]\(https://www.hiascend.com/document/detail/zh/mindstudio/2610/ - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msMonitor_docs_zh_overview_md.md ## msMonitor工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msMonitor/docs/zh/quick_start.md - Description: 下面通过msMonitor常见的使用场景介绍msMonitor工具快速入门: - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msMonitor_docs_zh_quick_start_msmonitor_quick_start_md.md ## MindStudio 预检工具 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprechecker/msprechecker/README.md - Description: msprechecker \(MindStudio Prechecker Tool\):MindStudio 预检工具。这是一个帮助用户在昇腾(Ascend)环境中快速部署 AI 推理服务、复现性能基线、定位部署与性能问题的工具。工具提供预检(precheck)、环境信息落盘(dump)和差异比对(compare)三大核心功能,**并于 2025.12.16 版本起**,新增支持基于可扩展规则引擎的 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprechecker_msprechecker_README_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/accuracy_checker/mindspore_accuracy_checker_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/accuracy_checker/pytorch_accuracy_checker_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/accuracy_compare/atb_data_compare_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/accuracy_compare/infer_compare_offline_model_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/accuracy_compare/infer_compare_result.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/accuracy_compare/mindspore_accuracy_compare_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/accuracy_compare/mindspore_visualization_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/accuracy_compare/offline_data_compare_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/accuracy_compare/pytorch_accuracy_compare_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/accuracy_compare/pytorch_visualization_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/accuracy_compare/torchair_compare_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/accuracy_compare/trend_visualization_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## MindSpore 场景的精度预检基线 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/baseline/mindspore_accuracy_checker_perf_baseline.md - Description: 该基线为MindSpore框架下,使用"multi\_acc\_check"模式精度预检耗时参考基线。本基线测试了38B语言大模型在不同卡数下耗时的变化。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_baseline_mindspore_accuracy_checker_perf_baseline_md.md ## MindSpore 场景的精度数据采集基线 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/baseline/mindspore_data_dump_perf_baseline.md - Description: 该基线为MindSpore框架下,使用"statistics"模式采集数据性能膨胀参考基线。测试了38B语言大模型在不同采集模式下,使用8卡时的性能膨胀。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_baseline_mindspore_data_dump_perf_baseline_md.md ## 训练状态监测工具标准性能基线报告 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/baseline/monitor_perf_baseline.md - Description: NPU:Atlas A2 训练系列产品 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_baseline_monitor_perf_baseline_md.md ## PyTorch 场景的精度数据采集基线 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/baseline/pytorch_data_dump_perf_baseline.md - Description: 该基线为PyTorch框架下,使用"statistics"模式且risk\_level为ALL采集数据性能膨胀的参考基线。本基线测试了16层Llama 2大模型在不同采集模式4卡下的时间膨胀。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_baseline_pytorch_data_dump_perf_baseline_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/checkpoint_compare_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/config_check_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/dump/aclgraph_dump_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/dump/atb_data_dump_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/dump/config_json_introduct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/dump/data_parse_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/dump/debugger_save_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/dump/infer_offline_dump_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/dump/mindspore_data_dump_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/dump/mindspore_dump_quick_start.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/dump/mindspore_kernel_dump_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/dump/msadapter_data_dump_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/dump/pytorch_data_dump_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/dump/pytorch_kernel_dump_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/dump/sglang_eager_dump_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/dump/torchair_dump_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/dump/verl_fsdp_consistency_preprocess_dump.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/dump/verl_megatron_consistency_preprocess_dump.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/dump/vllm_dump_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## 模型分级可视化如何配置layer mapping映射文件 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/examples/layer_mapping_example.md - Description: 同框架跨套件比对(例如PyTorch DeepSpeed vs Megatron),或者跨框架比对(例如PyTorch vs MindSpore),**由于代码实现的差异,导致一些模型层级和层级命名有所不同,无法进行匹配**,需要进行layer层名称映射,才能够比对。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_examples_layer_mapping_example_md.md ## MindSpeed&LLamaFactory数据采集和自动比对 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/examples/mindspeed_llamafactory_mapping_example.md - Description: 基于MindSpeed和LLamaFactory框架实现的同一模型,在模型超参、环境变量、初始权重、训练数据等一致的前提下,训练过程中出现了精度差异,需要进行**整网比对**寻找精度差异点。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_examples_mindspeed_llamafactory_mapping_example_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/faq.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/monitor_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/monitor_v2_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/msprobe_install_guide.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/overflow_check/mindspore_overflow_check_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/overflow_check/overflow_check_instruct.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/quick_start/mindspore_quick_start.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msProbe PyTorch 场景快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProbe/docs/zh/quick_start/pytorch_quick_start.md - Description: msProbe(MindStudio Probe)是 AI 模型精度调试工具。本文以 ResNet-50 模型训练为例,演示 NPU/GPU 数据采集、精度比对及分级可视化构图比对的完整流程,帮助您掌握数值溢出、Loss 异常、模型不收敛等典型精度问题的排查方法与分析思路。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProbe_docs_zh_quick_start_pytorch_quick_start_md.md ## msprof-analyze 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprof_analyze/docs/zh/advisor_instruct.md - Description: msprof-analyze 是面向昇腾 AI 处理器性能数据的自动分析工具。本文以一次完整的性能诊断为例,介绍环境准备、性能数据采集、Advisor 分析和报告查看的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprof_analyze_docs_zh_quick_start_msprof-analyze_quick_start_md.md ## AICPU算子替换样例 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprof_analyze/docs/zh/aicpu_operator_replacement_example.md - Description: 部分算子因为数据输入类型问题或者算子实现问题,导致会在昇腾芯片的AICPU上执行,没有充分利用AICORE的资源,从而导致计算性能较差,影响训练速度。部分场景下,可以通过修改Python代码来减少这类AICPU算子,从而提升训练性能。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprof_analyze_docs_zh_aicpu_operator_replacement_example_md.md ## msprof-analyze 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprof_analyze/docs/zh/calibrate_npu_gpu_instruct.md - Description: msprof-analyze 是面向昇腾 AI 处理器性能数据的自动分析工具。本文以一次完整的性能诊断为例,介绍环境准备、性能数据采集、Advisor 分析和报告查看的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprof_analyze_docs_zh_quick_start_msprof-analyze_quick_start_md.md ## msprof-analyze 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprof_analyze/docs/zh/cluster_kernels_analysis_instruct.md - Description: msprof-analyze 是面向昇腾 AI 处理器性能数据的自动分析工具。本文以一次完整的性能诊断为例,介绍环境准备、性能数据采集、Advisor 分析和报告查看的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprof_analyze_docs_zh_quick_start_msprof-analyze_quick_start_md.md ## msprof-analyze 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprof_analyze/docs/zh/cluster_time_compare_summary_instruct.md - Description: msprof-analyze 是面向昇腾 AI 处理器性能数据的自动分析工具。本文以一次完整的性能诊断为例,介绍环境准备、性能数据采集、Advisor 分析和报告查看的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprof_analyze_docs_zh_quick_start_msprof-analyze_quick_start_md.md ## msprof-analyze 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprof_analyze/docs/zh/cluster_time_summary_instruct.md - Description: msprof-analyze 是面向昇腾 AI 处理器性能数据的自动分析工具。本文以一次完整的性能诊断为例,介绍环境准备、性能数据采集、Advisor 分析和报告查看的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprof_analyze_docs_zh_quick_start_msprof-analyze_quick_start_md.md ## msprof-analyze 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprof_analyze/docs/zh/communication_bottleneck_instruct.md - Description: msprof-analyze 是面向昇腾 AI 处理器性能数据的自动分析工具。本文以一次完整的性能诊断为例,介绍环境准备、性能数据采集、Advisor 分析和报告查看的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprof_analyze_docs_zh_quick_start_msprof-analyze_quick_start_md.md ## msprof-analyze 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprof_analyze/docs/zh/compare_tool_instruct.md - Description: msprof-analyze 是面向昇腾 AI 处理器性能数据的自动分析工具。本文以一次完整的性能诊断为例,介绍环境准备、性能数据采集、Advisor 分析和报告查看的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprof_analyze_docs_zh_quick_start_msprof-analyze_quick_start_md.md ## msprof-analyze 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprof_analyze/docs/zh/computational_op_masking_instruct.md - Description: msprof-analyze 是面向昇腾 AI 处理器性能数据的自动分析工具。本文以一次完整的性能诊断为例,介绍环境准备、性能数据采集、Advisor 分析和报告查看的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprof_analyze_docs_zh_quick_start_msprof-analyze_quick_start_md.md ## msprof-analyze 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprof_analyze/docs/zh/custom_analysis_guide.md - Description: msprof-analyze 是面向昇腾 AI 处理器性能数据的自动分析工具。本文以一次完整的性能诊断为例,介绍环境准备、性能数据采集、Advisor 分析和报告查看的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprof_analyze_docs_zh_quick_start_msprof-analyze_quick_start_md.md ## msprof-analyze 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprof_analyze/docs/zh/free_analysis_instruct.md - Description: msprof-analyze 是面向昇腾 AI 处理器性能数据的自动分析工具。本文以一次完整的性能诊断为例,介绍环境准备、性能数据采集、Advisor 分析和报告查看的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprof_analyze_docs_zh_quick_start_msprof-analyze_quick_start_md.md ## 昇腾迁移融合算子API替换样例 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprof_analyze/docs/zh/fused_operator_api_replacement_example.md - Description: 部分torch原生的API在下发和执行时会包括多个小算子,下发和执行耗时较长,可以通过替换成NPU API来使能融合算子,提升训练性能。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprof_analyze_docs_zh_fused_operator_api_replacement_example_md.md ## msprof-analyze 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprof_analyze/docs/zh/install_guide.md - Description: msprof-analyze 是面向昇腾 AI 处理器性能数据的自动分析工具。本文以一次完整的性能诊断为例,介绍环境准备、性能数据采集、Advisor 分析和报告查看的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprof_analyze_docs_zh_quick_start_msprof-analyze_quick_start_md.md ## msprof-analyze 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprof_analyze/docs/zh/module_statistic_instruct.md - Description: msprof-analyze 是面向昇腾 AI 处理器性能数据的自动分析工具。本文以一次完整的性能诊断为例,介绍环境准备、性能数据采集、Advisor 分析和报告查看的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprof_analyze_docs_zh_quick_start_msprof-analyze_quick_start_md.md ## msprof-analyze 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprof_analyze/docs/zh/pp_chart_instruct.md - Description: msprof-analyze 是面向昇腾 AI 处理器性能数据的自动分析工具。本文以一次完整的性能诊断为例,介绍环境准备、性能数据采集、Advisor 分析和报告查看的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprof_analyze_docs_zh_quick_start_msprof-analyze_quick_start_md.md ## msprof-analyze 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprof_analyze/docs/zh/README.md - Description: msprof-analyze 是面向昇腾 AI 处理器性能数据的自动分析工具。本文以一次完整的性能诊断为例,介绍环境准备、性能数据采集、Advisor 分析和报告查看的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprof_analyze_docs_zh_quick_start_msprof-analyze_quick_start_md.md ## msprof-analyze 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprof_analyze/docs/zh/recipe_output_format_introduct.md - Description: msprof-analyze 是面向昇腾 AI 处理器性能数据的自动分析工具。本文以一次完整的性能诊断为例,介绍环境准备、性能数据采集、Advisor 分析和报告查看的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprof_analyze_docs_zh_quick_start_msprof-analyze_quick_start_md.md ## msprof-analyze 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprof_analyze/MindStudio/26.0.0/menu/msprof-analyze_quickstart.md - Description: msprof-analyze 是面向昇腾 AI 处理器性能数据的自动分析工具。本文以一次完整的性能诊断为例,介绍环境准备、性能数据采集、Advisor 分析和报告查看的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprof_analyze_docs_zh_quick_start_msprof-analyze_quick_start_md.md ## GE自动融合性能对比 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprof_analyze/misc/autofuse_performance_comparison/README.md - Description: GE自动融合性能对比,是指对开启自动融合后的融合算子融合前后的性能进行对比。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprof_analyze_misc_autofuse_performance_comparison_README_md.md ## inductor+triton融合算子性能对比 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msprof_analyze/misc/inductor_triton_performance_comparison/README.md - Description: inductor+triton融合算子性能对比,是指对inductor+triton框架自动生成的融合算子融合前后的性能进行对比。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msprof_analyze_misc_inductor_triton_performance_comparison_README_md.md ## msProf 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProf/docs/zh/extended_functions.md - Description: msProf 是面向昇腾 AI 处理器的性能数据采集与分析工具。本文以一次完整的性能分析为例,介绍环境准备、数据采集、结果查看和可视化分析的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProf_docs_zh_quick_start_msprof_quick_start_md.md ## msProf 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProf/docs/zh/msprof_install_guide.md - Description: msProf 是面向昇腾 AI 处理器的性能数据采集与分析工具。本文以一次完整的性能分析为例,介绍环境准备、数据采集、结果查看和可视化分析的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProf_docs_zh_quick_start_msprof_quick_start_md.md ## msProf 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProf/docs/zh/msprof_parsing_instruct.md - Description: msProf 是面向昇腾 AI 处理器的性能数据采集与分析工具。本文以一次完整的性能分析为例,介绍环境准备、数据采集、结果查看和可视化分析的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProf_docs_zh_quick_start_msprof_quick_start_md.md ## msProf 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProf/docs/zh/profile_data_file_references.md - Description: msProf 是面向昇腾 AI 处理器的性能数据采集与分析工具。本文以一次完整的性能分析为例,介绍环境准备、数据采集、结果查看和可视化分析的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProf_docs_zh_quick_start_msprof_quick_start_md.md ## msProf 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProf/docs/zh/quick_start.md - Description: msProf 是面向昇腾 AI 处理器的性能数据采集与分析工具。本文以一次完整的性能分析为例,介绍环境准备、数据采集、结果查看和可视化分析的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProf_docs_zh_quick_start_msprof_quick_start_md.md ## msProf 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProf/MindStudio/26.0.0/menu/msprof_collecting_instruct.md - Description: msProf 是面向昇腾 AI 处理器的性能数据采集与分析工具。本文以一次完整的性能分析为例,介绍环境准备、数据采集、结果查看和可视化分析的基本流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProf_docs_zh_quick_start_msprof_quick_start_md.md ## Function Monitor - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProf/misc/function_monitor/README.md - Description: 在大模型训练或推理场景中,Host 侧性能抖动是影响模型运行效率的典型问题之一,可能造成 PyTorch 等 AI 框架的算子下发延迟,进而拖慢模型运行速度。这类问题根源在于 Host 侧复杂的软件栈交互(如 Python解释器、AI 框架、CANN 软件栈),难以精确定位。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProf_misc_function_monitor_README_md.md ## GIL Tracer - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msProf/misc/gil_tracer/README.md - Description: 当前 AI 训练、推理业务场景中,广泛使用 Python 多线程执行算子下发、内存搬运等任务。然而,由于 Python 的全局解释器锁(GIL)的存在,导致在多线程环境下,Python 解释器只能同时执行一个线程,无法实现真正的并行计算,各线程需竞争 GIL 锁,导致锁抢占频繁、线程调度不均,引发模型运行效率下降。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msProf_misc_gil_tracer_README_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivity.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityApi.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityCommunication.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityDisable.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityDisableMarkerDomain.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityEnable.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityEnableMarkerDomain.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityExternalCorrelation.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityFlag.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityFlushAll.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityFlushPeriod.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityGetNextRecord.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityHccl.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityKernel.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityKind.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityMarker.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityMemcpy.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityMemcpyKind.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityMemory.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityMemoryKind.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityMemoryOperationType.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityMemset.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityPopExternalCorrelationId.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityPushExternalCorrelationId.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivityRegisterCallbacks.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiActivitySourceKind.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiApiCallbackSite.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiBuffersCallbackCompleteFunc.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiBuffersCallbackRequestFunc.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiCallbackData.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiCallbackDomain.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiCallbackFunc.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiCallbackId.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiCallbackIdHccl.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiCallbackIdRuntime.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiCommunicationDataType.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiEnableCallback.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiEnableDomain.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiExternalCorrelationKind.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiObjectId.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiResult.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiSubscribe.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiSubscriberHandle.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/context/msptiUnsubscribe.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/c_api/README.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/mspti_install_guide.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/HcclData.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/HcclMonitor-flush_all.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/HcclMonitor-set_buffer_size.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/HcclMonitor-start.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/HcclMonitor-stop.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/KernelData.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/KernelMonitor-flush_all.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/KernelMonitor-set_buffer_size.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/KernelMonitor-start.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/KernelMonitor-stop.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/MarkerData.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/msptiActivityFlag.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/msptiActivityKind.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/msptiActivitySourceKind.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/msptiResult.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/MstxMonitor-disable_domain.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/MstxMonitor-enable_domain.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/MstxMonitor-flush_all.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/MstxMonitor-set_buffer_size.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/MstxMonitor-start.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/MstxMonitor-stop.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/context/RangeMarkerData.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/python_api/README.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/quick_start.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## msPTI 快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msPTI/docs/zh/README.md - Description: msPTI(MindStudio Profiler Tools Interface)是华为昇腾 MindStudio 提供的一套性能剖析 API 集合。您可以使用 msPTI 构建面向 NPU 应用的性能分析工具,应用于推理和训练场景。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msPTI_docs_zh_quick_start_mspti_quick_start_md.md ## MindStudio-ArrayAttr - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/serving_tuning/ArrayAttr.md - Description: 通过回调函数自定义添加数组属性。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_serving_tuning_ArrayAttr_md.md ## MindStudio-ArrayResource - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/serving_tuning/ArrayResource.md - Description: 添加数组类资源的关键属性。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_serving_tuning_ArrayResource_md.md ## Attr系列 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/serving_tuning/Attr.md - Description: 添加属性,返回当前对象,支持链式调用。在解析为trace数据之后,会显示在args中。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_serving_tuning_Attr_md.md ## MindStudio-Domain - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/serving_tuning/Domain.md - Description: 指定该数据的域,相同域的记录在trace数据中归为一类。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_serving_tuning_Domain_md.md ## MindStudio-Event - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/serving_tuning/Event.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_serving_tuning_Event_md.md ## MindStudio-GetMsg - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/serving_tuning/GetMsg.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_serving_tuning_GetMsg_md.md ## MindStudio-IsEnable - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/serving_tuning/IsEnable.md - Description: 判断是否使能采集数据,当入参级别小于配置的级别时,返回true。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_serving_tuning_IsEnable_md.md ## MindStudio-Launch - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/serving_tuning/Launch.md - Description: 正式将该请求记录进行落盘。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_serving_tuning_Launch_md.md ## MindStudio-Link - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/serving_tuning/Link.md - Description: 记录不同资源之间的关联,实际应用时不同模块对同一个请求使用不同的编号。将两个系统的编号关联起来。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_serving_tuning_Link_md.md ## 宏定义 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/serving_tuning/macro_definitions.md - Description: - PROF:将采集语句封装起来,这样可以通过ENABLE\_PROF宏定义在编译期间控制是否采集数据,支持传入一个参数或者两个参数。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_serving_tuning_macro_definitions_md.md ## MindStudio-Metric - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/serving_tuning/Metric.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_serving_tuning_Metric_md.md ## MindStudio-MetricInc - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/serving_tuning/MetricInc.md - Description: 记录一个指标类的增量数值。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_serving_tuning_MetricInc_md.md ## MindStudio-MetricScope - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/serving_tuning/MetricScope.md - Description: 定义一个指标类的作用范围,默认作用范围为全局。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_serving_tuning_MetricScope_md.md ## MindStudio-MetricScopeAsGlobal - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/serving_tuning/MetricScopeAsGlobal.md - Description: 定义一个指标类的作用范围为全局,默认即全局,可不调用该函数。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_serving_tuning_MetricScopeAsGlobal_md.md ## MindStudio-MetricScopeAsReqID - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/serving_tuning/MetricScopeAsReqID.md - Description: 定义一个指标类的作用范围为请求级别。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_serving_tuning_MetricScopeAsReqID_md.md ## MindStudio-NumArrayAttr - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/serving_tuning/NumArrayAttr.md - Description: 添加数组属性,数组中仅支持数值。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_serving_tuning_NumArrayAttr_md.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/serving_tuning/README.md - Description: msServiceProfiler模块提供推理服务化性能数据采集(C++)接口,用于采集服务化调优场景性能数据。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_serving_tuning_README_md.md ## MindStudio-Resource - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/serving_tuning/Resource.md - Description: 添加资源ID,数据和timeline根据资源ID进行关联,一般是请求ID。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_serving_tuning_Resource_md.md ## MindStudio-SpanEnd - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/serving_tuning/SpanEnd.md - Description: 记录一个过程的结束节点。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_serving_tuning_SpanEnd_md.md ## MindStudio-SpanStart - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/serving_tuning/SpanStart.md - Description: 记录一个过程的开始节点。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_serving_tuning_SpanStart_md.md ## MindStudio-Activate - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/trace_data_monitoring/Activate.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_trace_data_monitoring_Activate_md.md ## MindStudio-addResAttribute - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/trace_data_monitoring/addResAttribute.md - Description: 添加资源属性(全局属性)。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_trace_data_monitoring_addResAttribute_md.md ## MindStudio-Attach - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/trace_data_monitoring/Attach.md - Description: 附加Trace信息到当前上下文。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_trace_data_monitoring_Attach_md.md ## MindStudio-End - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/trace_data_monitoring/End.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_trace_data_monitoring_End_md.md ## MindStudio-ExtractAndAttach - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/trace_data_monitoring/ExtractAndAttach.md - Description: 解析HTTP Trace信息并附加到当前上下文。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_trace_data_monitoring_ExtractAndAttach_md.md ## MindStudio-GetCurrent - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/trace_data_monitoring/GetCurrent.md - Description: 获取当前Trace的上下文信息。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_trace_data_monitoring_GetCurrent_md.md ## MindStudio-GetTraceCtx - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/trace_data_monitoring/GetTraceCtx.md - Description: 获取当前线程的Trace的上下文实例。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_trace_data_monitoring_GetTraceCtx_md.md ## MindStudio-IsEnable - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/trace_data_monitoring/IsEnable.md - Description: 检查Trace功能是否启用。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_trace_data_monitoring_IsEnable_md.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/trace_data_monitoring/README.md - Description: Trace模块提供推理服务化性能数据采集(C++)接口,用于Trace数据监测。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_trace_data_monitoring_README_md.md ## MindStudio-SetAttribute - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/trace_data_monitoring/SetAttribute.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_trace_data_monitoring_SetAttribute_md.md ## MindStudio-SetStatus - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/trace_data_monitoring/SetStatus.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_trace_data_monitoring_SetStatus_md.md ## Span类 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/trace_data_monitoring/Span_1.md - Description: - **\[Span\]\(https://www.hiascend.com/document/detail/zh/mindstudio/2610/msTT\_msIT/msServiceProfiler/docs/zh/cpp\_api/trace\_data\_monitoring/Span.md\)** - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_trace_data_monitoring_Span_1_md.md ## MindStudio-Span - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/trace_data_monitoring/Span.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_trace_data_monitoring_Span_md.md ## MindStudio-StartSpanAsActive - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/trace_data_monitoring/StartSpanAsActive.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_trace_data_monitoring_StartSpanAsActive_md.md ## TraceContext类 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/trace_data_monitoring/TraceContext.md - Description: - **\[GetTraceCtx\]\(https://www.hiascend.com/document/detail/zh/mindstudio/2610/msTT\_msIT/msServiceProfiler/docs/zh/cpp\_api/trace\_data\_monitoring/GetTraceCtx.md\)** - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_trace_data_monitoring_TraceContext_md.md ## Tracer类 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/trace_data_monitoring/Tracer.md - Description: - **\[StartSpanAsActive\]\(https://www.hiascend.com/document/detail/zh/mindstudio/2610/msTT\_msIT/msServiceProfiler/docs/zh/cpp\_api/trace\_data\_monitoring/StartSpanAsActive.md\)** - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_trace_data_monitoring_Tracer_md.md ## MindStudio-Unattach - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/cpp_api/trace_data_monitoring/Unattach.md - Description: 解除指定索引Trace的上下文。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_cpp_api_trace_data_monitoring_Unattach_md.md ## 服务化性能数据比对工具 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/ms_service_profiler_compare_tool_instruct.md - Description: 服务化性能数据比对工具(msServiceProfiler Compare Tool):用于对比分析大模型推理服务化场景中不同版本或不同框架的性能数据差异,支持生成可视化报告和结构化数据输出。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_ms_service_profiler_compare_tool_instruct_md.md ## msServiceProfiler 工具安装指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/msserviceprofiler_install_guide.md - Description: 本工具已集成于CANN中,若已安装CANN且无需更新此工具,可直接使用,无需按本文档安装。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_msserviceprofiler_install_guide_md.md ## 服务化多维度解析工具 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/msserviceprofiler_multi_analyze_instruct.md - Description: 服务化多维度解析工具(msServiceProfiler Multi Analyze)基于msServiceProfiler工具采集的性能数据进行多维度解析,包括request维度、batch维度、总体服务维度。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_msserviceprofiler_multi_analyze_instruct_md.md ## 服务化调优工具 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/msserviceprofiler_serving_tuning_instruct.md - Description: 本文介绍推理服务化性能数据采集工具,本工具主要使用msServiceProfiler接口,在MindIE Motor推理服务化进程中,采集关键过程的开始和结束时间点,识别关键函数或迭代等信息,记录关键事件,支持多样的信息采集,对性能问题快速定位。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_msserviceprofiler_serving_tuning_instruct_md.md ## msServiceProfiler Trace数据监测 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/msserviceprofiler_trace_data_monitoring_instruct.md - Description: msServiceProfiler Trace提供基于OpenTelemetry Protocol(OTLP)协议的Trace数据转发服务,该服务用于接收、处理和转发分布式Trace数据,帮助用户监测和分析微服务架构的性能表现。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_msserviceprofiler_trace_data_monitoring_instruct_md.md ## \_\_enter\_\_/\_\_exit\_\_ - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/python_api/context/__enter__-__exit__.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_python_api_context___enter__-__exit___md.md ## MindStudio-attr - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/python_api/context/attr.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_python_api_context_attr_md.md ## MindStudio-domain - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/python_api/context/domain.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_python_api_context_domain_md.md ## MindStudio-event - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/python_api/context/event.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_python_api_context_event_md.md ## MindStudio-get\_msg - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/python_api/context/get_msg.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_python_api_context_get_msg_md.md ## MindStudio-init - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/python_api/context/init.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_python_api_context_init_md.md ## MindStudio-launch - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/python_api/context/launch.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_python_api_context_launch_md.md ## MindStudio-link - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/python_api/context/link.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_python_api_context_link_md.md ## MindStudio-metric\_inc - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/python_api/context/metric_inc.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_python_api_context_metric_inc_md.md ## MindStudio-metric\_scope\_as\_req\_id - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/python_api/context/metric_scope_as_req_id.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_python_api_context_metric_scope_as_req_id_md.md ## MindStudio-metric\_scope - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/python_api/context/metric_scope.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_python_api_context_metric_scope_md.md ## MindStudio-metric - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/python_api/context/metric.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_python_api_context_metric_md.md ## MindStudio-res - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/python_api/context/res.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_python_api_context_res_md.md ## MindStudio-span\_end - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/python_api/context/span_end.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_python_api_context_span_end_md.md ## MindStudio-span\_start - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/python_api/context/span_start.md - Description: \#\# > \[\!NOTE\] > >昇腾产品的具体型号,请参见《昇腾产品形态说明》 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_python_api_context_span_start_md.md ## 总体说明 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/python_api/README.md - Description: msServiceProfiler模块提供推理服务化性能数据采集(Python)接口,用于实现采集服务化调优场景性能数据。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_python_api_README_md.md ## 服务化性能调优工具快速入门 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/quick_start.md - Description: 服务化框架的性能调优往往如同置身 “黑盒”,问题根源难以精准定位 —— 比如请求量攀升后响应速度显著下降、硬件设备更换后性能表现迥异等场景,都难以快速排查。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_quick_start_md.md ## 服务化拆解工具 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/service_performance_split_tool_instruct.md - Description: 服务化拆解工具(Service Performance Split Tool)基于msServiceProfiler工具采集的性能数据拆解服务化Batch执行中各阶段耗时,如组Batch、数据下发、模型执行、数据接收等。通过拆解识别性能瓶颈,方便开发人员优化框架。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_service_performance_split_tool_instruct_md.md ## 服务化专家建议工具 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/service_profiling_advisor_instruct.md - Description: - 服务化专家建议工具(Service Profiling Advisor)基于 MindIE Service 服务化框架,及 benchmark 的输出结果,可以一键式给出调参建议,提供给用户作为调优参考。工具基于 benchmark 的 instance 输出结果、MindIE Service 的 config.json 配置、NPU显存情况、部署模型等信息,综合分析给出 config.jso - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_service_profiling_advisor_instruct_md.md ## 服务化自动寻优工具 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/serviceparam_optimizer_instruct.md - Description: **服务化自动寻优工具**(Serviceparam Optimizer)是一个基于PSO粒子寻优算法的服务化参数自动寻优工具,支持对 `MindIE` 和 `VLLM` 进行自动寻优,获取符合时延要求的最佳吞吐参数组合。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_serviceparam_optimizer_instruct_md.md ## 自定义插件开发指导 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/serviceparam_optimizer_plugin_instruct.md - Description: 寻优工具支持自定义插件,用户可通过开发自定义插件实现:自定义搜索参数配置、自定义服务框架,以及自定义性能测试工具。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_serviceparam_optimizer_plugin_instruct_md.md ## SGLang 服务化性能采集工具使用指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/SGLang_service_oriented_performance_collection_tool.md - Description: SGLang 服务化性能采集工具(SGLang Service Profiler)是用于监测和采集 SGLang 推理服务框架内部执行流程性能数据的工具。该工具通过采集关键流程的起止时间、识别关键函数、或记录关键事件并捕获多种类型的信息,帮助用户快速定位性能瓶颈。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_SGLang_service_oriented_performance_collection_tool_md.md ## vLLM 服务化 Prometheus 数据监测工具使用指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/vLLM_metrics_tool_instruct.md - Description: vLLM 服务化 Prometheus 数据监测工具用于增强 vLLM-Ascend 推理服务框架的原生监测能力。在 vLLM-Ascend 原生 metrics 基础上,本工具新增以下监测能力: - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_vLLM_metrics_tool_instruct_md.md ## vLLM 服务化性能采集工具使用指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTT_msIT/msServiceProfiler/docs/zh/vLLM_service_oriented_performance_collection_tool.md - Description: vLLM 服务化性能采集工具(vLLM Service Profiler)是用于监测和采集 vLLM-Ascend 推理服务框架内部执行流程性能数据的工具。该工具通过采集关键流程的起止时间、识别关键函数或迭代、记录关键事件并捕获多种类型的信息,帮助用户快速定位性能瓶颈。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTT_msIT_msServiceProfiler_docs_zh_vLLM_service_oriented_performance_collection_tool_md.md ## MindStudio-mstxDomainCreateA - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTX/mstxAPIReference/docs/zh/api_reference/Common/mstxDomainCreateA.md - Description: 创建自定义的mstx域。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTX_mstxAPIReference_docs_zh_api_reference_Common_mstxDomainCreateA_md.md ## MindStudio-mstxDomainDestroy - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTX/mstxAPIReference/docs/zh/api_reference/Common/mstxDomainDestroy.md - Description: 销毁指定的domain,销毁后的domain不能再次使用,需要重新创建。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTX_mstxAPIReference_docs_zh_api_reference_Common_mstxDomainDestroy_md.md ## MindStudio-mstxDomainRangeEnd - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTX/mstxAPIReference/docs/zh/api_reference/Common/mstxDomainRangeEnd.md - Description: 在指定的domain内,标识时间段事件的结束。 如果传入的domain已被销毁,日志打印告警提示,接口不再执行打点流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTX_mstxAPIReference_docs_zh_api_reference_Common_mstxDomainRangeEnd_md.md ## MindStudio-mstxDomainRangeStartA - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTX/mstxAPIReference/docs/zh/api_reference/Common/mstxDomainRangeStartA.md - Description: 在指定的domain内,标识时间段事件的开始。 如果传入的domain已被销毁,日志打印告警提示,接口不再执行打点流程。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTX_mstxAPIReference_docs_zh_api_reference_Common_mstxDomainRangeStartA_md.md ## MindStudio-mstxGetToolId - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTX/mstxAPIReference/docs/zh/api_reference/Common/mstxGetToolId.md - Description: 用于获取当前劫持mstx接口的工具ID,工具ID宏定义如下: 无效值0,表示无工具拉起程序 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTX_mstxAPIReference_docs_zh_api_reference_Common_mstxGetToolId_md.md ## MindStudio-mstxMarkA - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTX/mstxAPIReference/docs/zh/api_reference/Common/mstxMarkA.md - Description: 标识瞬时事件。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTX_mstxAPIReference_docs_zh_api_reference_Common_mstxMarkA_md.md ## MindStudio-mstxRangeEnd - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTX/mstxAPIReference/docs/zh/api_reference/Common/mstxRangeEnd.md - Description: mstx range指定范围能力的结束位置标记。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTX_mstxAPIReference_docs_zh_api_reference_Common_mstxRangeEnd_md.md ## MindStudio-mstxRangeStartA - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTX/mstxAPIReference/docs/zh/api_reference/Common/mstxRangeStartA.md - Description: mstx range指定范围能力的起始位置标记。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTX_mstxAPIReference_docs_zh_api_reference_Common_mstxRangeStartA_md.md ## MindStudio-mstxMemHeapRegister - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTX/mstxAPIReference/docs/zh/api_reference/Mem/mstxMemHeapRegister.md - Description: 注册内存池。用户在调用该接口注册内存池时,需确保该内存已提前申请。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTX_mstxAPIReference_docs_zh_api_reference_Mem_mstxMemHeapRegister_md.md ## MindStudio-mstxMemHeapUnregister - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTX/mstxAPIReference/docs/zh/api_reference/Mem/mstxMemHeapUnregister.md - Description: 注销内存池时,与之关联的Regions将一并被注销。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTX_mstxAPIReference_docs_zh_api_reference_Mem_mstxMemHeapUnregister_md.md ## MindStudio-mstxMemPermissionsAssign - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTX/mstxAPIReference/docs/zh/api_reference/Mem/mstxMemPermissionsAssign.md - Description: 为虚拟内存区间指定读、写、共享访问权限,指定权限前需保证此区间已注册为 region。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTX_mstxAPIReference_docs_zh_api_reference_Mem_mstxMemPermissionsAssign_md.md ## MindStudio-mstxMemRegionsRegister - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTX/mstxAPIReference/docs/zh/api_reference/Mem/mstxMemRegionsRegister.md - Description: 注册内存池二次分配。用户需保证mstxRegionsRegister的内存位于mstxMemHeapRegister注册的范围内,否则工具会提示越界读写。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTX_mstxAPIReference_docs_zh_api_reference_Mem_mstxMemRegionsRegister_md.md ## MindStudio-mstxMemRegionsUnregister - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTX/mstxAPIReference/docs/zh/api_reference/Mem/mstxMemRegionsUnregister.md - Description: 注销内存池二次分配。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTX_mstxAPIReference_docs_zh_api_reference_Mem_mstxMemRegionsUnregister_md.md ## MindStudio Tools Extension Library接口文档 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTX/mstxAPIReference/docs/zh/api_reference/README.md - Description: 本节介绍MindStudio Tools Extension Library(工具扩展接口库,msTX)打点接口。可以自定义采集时间段或者关键函数的开始和结束时间点,识别关键函数或迭代等信息,对性能和算子问题快速定界。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTX_mstxAPIReference_docs_zh_api_reference_README_md.md ## MindStudio Tools Extension Library安装指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/msTX/mstxAPIReference/docs/zh/install_guide/mstx_install_guide.md - Description: 本工具已集成于CANN中,若已安装CANN且无需更新此工具,可直接使用,无需按本文档安装。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_msTX_mstxAPIReference_docs_zh_install_guide_mstx_install_guide_md.md ## 大模型推理精度定位指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/practicalcases/Analysiscaseofreasoningaccuracy/docs/zh/wiki/infer_debug_guide.md - Description: 大语言模型在昇腾NPU上的推理精度保障,旨在确保模型能力与GPU保持语义等价,通常通过下游任务评估或与GPU输出对比来衡量。实践中,精度问题常源于模型结构错误、参数配置不当或算子计算偏差,表现为胡言乱语、输出中断、重复生成或结果偏离等异常现象。大模型推理中的精度问题可分为**模型精度问题**与**数值精度问题**两大类别,二者成因与影响程度各异,需采取差异化的分析与处置策略。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_practicalcases_Analysiscaseofreasoningaccuracy_docs_zh_best_practices_infer_debug_guide_md.md ## MindStudio-导读 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/practicalcases/GeneralPerformanceIssue/MindStudio/26.0.0/cases/general_performance_issue_troubleshooting_guide/guide.md - Description: 本文档旨在为昇腾开发者提供一套系统化的性能优化方法与工具链的使用指南,通过性能问题的认知、定位分析、工具使用及TopN案例的解决方案四个环节,实现全流程的闭环管理。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_practicalcases_GeneralPerformanceIssue_MindStudio_2610_zh_cases_general_performance_issue_troubleshooting_guide_guide_md.md ## MindStudio-导读 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/practicalcases/GeneralPerformanceIssue/MindStudio/26.0.0/cases/general_performance_issue_troubleshooting_guide/overview.md - Description: 本文档旨在为昇腾开发者提供一套系统化的性能优化方法与工具链的使用指南,通过性能问题的认知、定位分析、工具使用及TopN案例的解决方案四个环节,实现全流程的闭环管理。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_practicalcases_GeneralPerformanceIssue_MindStudio_2610_zh_cases_general_performance_issue_troubleshooting_guide_guide_md.md ## MindStudio-导读 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/practicalcases/GeneralPerformanceIssue/MindStudio/26.0.0/cases/general_performance_issue_troubleshooting_guide/performance_tool_usage.md - Description: 本文档旨在为昇腾开发者提供一套系统化的性能优化方法与工具链的使用指南,通过性能问题的认知、定位分析、工具使用及TopN案例的解决方案四个环节,实现全流程的闭环管理。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_practicalcases_GeneralPerformanceIssue_MindStudio_2610_zh_cases_general_performance_issue_troubleshooting_guide_guide_md.md ## MindStudio-导读 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/practicalcases/GeneralPerformanceIssue/MindStudio/26.0.0/cases/general_performance_issue_troubleshooting_guide/positioning_process_for_performance_issues.md - Description: 本文档旨在为昇腾开发者提供一套系统化的性能优化方法与工具链的使用指南,通过性能问题的认知、定位分析、工具使用及TopN案例的解决方案四个环节,实现全流程的闭环管理。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_practicalcases_GeneralPerformanceIssue_MindStudio_2610_zh_cases_general_performance_issue_troubleshooting_guide_guide_md.md ## MindStudio-导读 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/practicalcases/GeneralPerformanceIssue/MindStudio/26.0.0/cases/general_performance_issue_troubleshooting_guide/solution_to_top1.md - Description: 本文档旨在为昇腾开发者提供一套系统化的性能优化方法与工具链的使用指南,通过性能问题的认知、定位分析、工具使用及TopN案例的解决方案四个环节,实现全流程的闭环管理。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_practicalcases_GeneralPerformanceIssue_MindStudio_2610_zh_cases_general_performance_issue_troubleshooting_guide_guide_md.md ## MindStudio-导读 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/practicalcases/GeneralPerformanceIssue/MindStudio/26.0.0/cases/general_performance_issue_troubleshooting_guide/solution_to_top2.md - Description: 本文档旨在为昇腾开发者提供一套系统化的性能优化方法与工具链的使用指南,通过性能问题的认知、定位分析、工具使用及TopN案例的解决方案四个环节,实现全流程的闭环管理。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_practicalcases_GeneralPerformanceIssue_MindStudio_2610_zh_cases_general_performance_issue_troubleshooting_guide_guide_md.md ## MindStudio-导读 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/practicalcases/GeneralPerformanceIssue/MindStudio/26.0.0/cases/general_performance_issue_troubleshooting_guide/solution_to_top3.md - Description: 本文档旨在为昇腾开发者提供一套系统化的性能优化方法与工具链的使用指南,通过性能问题的认知、定位分析、工具使用及TopN案例的解决方案四个环节,实现全流程的闭环管理。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_practicalcases_GeneralPerformanceIssue_MindStudio_2610_zh_cases_general_performance_issue_troubleshooting_guide_guide_md.md ## MindStudio-导读 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/practicalcases/GeneralPerformanceIssue/MindStudio/26.0.0/cases/general_performance_issue_troubleshooting_guide/solution_to_top4.md - Description: 本文档旨在为昇腾开发者提供一套系统化的性能优化方法与工具链的使用指南,通过性能问题的认知、定位分析、工具使用及TopN案例的解决方案四个环节,实现全流程的闭环管理。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_practicalcases_GeneralPerformanceIssue_MindStudio_2610_zh_cases_general_performance_issue_troubleshooting_guide_guide_md.md ## MindStudio-导读 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/practicalcases/GeneralPerformanceIssue/MindStudio/26.0.0/cases/general_performance_issue_troubleshooting_guide/solution_to_top5.md - Description: 本文档旨在为昇腾开发者提供一套系统化的性能优化方法与工具链的使用指南,通过性能问题的认知、定位分析、工具使用及TopN案例的解决方案四个环节,实现全流程的闭环管理。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_practicalcases_GeneralPerformanceIssue_MindStudio_2610_zh_cases_general_performance_issue_troubleshooting_guide_guide_md.md ## MindStudio-导读 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/practicalcases/GeneralPerformanceIssue/MindStudio/26.0.0/cases/general_performance_issue_troubleshooting_guide/solution_to_top6.md - Description: 本文档旨在为昇腾开发者提供一套系统化的性能优化方法与工具链的使用指南,通过性能问题的认知、定位分析、工具使用及TopN案例的解决方案四个环节,实现全流程的闭环管理。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_practicalcases_GeneralPerformanceIssue_MindStudio_2610_zh_cases_general_performance_issue_troubleshooting_guide_guide_md.md ## MindStudio-导读 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/practicalcases/GeneralPerformanceIssue/MindStudio/26.0.0/cases/general_performance_issue_troubleshooting_guide/solution_to_top7.md - Description: 本文档旨在为昇腾开发者提供一套系统化的性能优化方法与工具链的使用指南,通过性能问题的认知、定位分析、工具使用及TopN案例的解决方案四个环节,实现全流程的闭环管理。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_practicalcases_GeneralPerformanceIssue_MindStudio_2610_zh_cases_general_performance_issue_troubleshooting_guide_guide_md.md ## MindStudio-导读 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/practicalcases/GeneralPerformanceIssue/MindStudio/26.0.0/cases/general_performance_issue_troubleshooting_guide/solution_to_topn_overview.md - Description: 本文档旨在为昇腾开发者提供一套系统化的性能优化方法与工具链的使用指南,通过性能问题的认知、定位分析、工具使用及TopN案例的解决方案四个环节,实现全流程的闭环管理。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_practicalcases_GeneralPerformanceIssue_MindStudio_2610_zh_cases_general_performance_issue_troubleshooting_guide_guide_md.md ## 大模型推理量化调试调优指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/practicalcases/InferenceQuantization/MindStudio/26.0.0/cases/foundation_model_inference_quantization_debugging_and_tuning_guide.md - Description: 需熟悉\[msModelSlim量化压缩工具\]\(https://gitcode.com/Ascend/msmodelslim/blob/26.1.0/README.md\)的各项功能和基本操作。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_practicalcases_InferenceQuantization_MindStudio_2610_zh_cases_foundation_model_inference_quantization_debugging_and_tuning_guide_md.md ## 大模型训练性能瓶颈定位流程案例 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/practicalcases/Largemodeltraining/MindStudio/26.0.0/cases/case_of_troubleshooting_performance_bottleneck_in_llm_training.md - Description: 大模型从其他设备迁移至昇腾设备,并在昇腾设备上训练的过程中,可能会出现性能问题。性能问题主要体现在开箱性能不足和长期运行后的性能衰退两个方面。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_practicalcases_Largemodeltraining_MindStudio_2610_zh_cases_case_of_troubleshooting_performance_bottleneck_in_llm_training_md.md ## 大模型训练精度定位指南 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/practicalcases/LargeModelTrainingAccuracy/docs/zh/wiki/train_debug_guide.md - Description: \#\# 1 精度问题概述 --- - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_practicalcases_LargeModelTrainingAccuracy_docs_zh_best_practices_train_debug_guide_md.md ## MindStudio-导读 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/practicalcases/optimizationmodelinference/MindStudio/26.0.0/cases/traditional_model_inference_optimizing_case.md - Description: 本文档旨在为昇腾开发者提供一套系统化的性能优化方法与工具链的使用指南,通过性能问题的认知、定位分析、工具使用及TopN案例的解决方案四个环节,实现全流程的闭环管理。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_practicalcases_GeneralPerformanceIssue_MindStudio_2610_zh_cases_general_performance_issue_troubleshooting_guide_guide_md.md ## MindStudio是什么 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/productdescription/MindStudio/26.0.0/mindstudio_introduction.md - Description: MindStudio是华为面向昇腾AI开发者打造的全流程开发工具集,旨在提供高效、便捷的一站式开发体验。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_productdescription_MindStudio_2610_zh_mindstudio_introduction_md.md ## 版本说明 - URL: https://www.hiascend.com/document/detail/zh/mindstudio/latest/releasenote/MindStudio/26.0.0/release_notes.md - Description: MindStudio是昇腾面向AI开发者打造的全流程开发工具链,覆盖算子开发、精度调试、性能调优、可视化分析等核心开发环节。本次版本迭代,针对大模型训练精度问题、性能瓶颈、量化精度调优困难、昇腾950算子调试调优等研发痛点,持续简化昇腾AI开发流程、降低开发门槛,提高量化效率、增强算子调优与问题排查效率,赋能开发者快速落地AI应用,推动昇腾生态规模化创新。 - Detail: llms-content/document/detail/mindstudio/mindstudio_2610_releasenote_MindStudio_2610_release_notes_md.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/pies - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/pies/pies_00001.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/pies/pies_00002.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/pies/pies_00003.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/pies/pies_00004.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/pies/pies_00005.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/pies/pies_00006.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/pies/pies_00008.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/pies/pies_00009.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/pies/pies_00011.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/pies/pies_00012.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/ptes - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/ptes/ptes_00001.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/ptes/ptes_00002.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/ptes/ptes_00003.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/ptes/ptes_00004.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/ptes/ptes_00005.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/ptes/ptes_00006.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/ptes/ptes_00008.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/ptes/ptes_00009.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/ptes/ptes_00010.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/ptes/ptes_00012.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/ptes/ptes_00013.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/qs/qs_0001.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/qs/qs_0002.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/qs/qs_0003.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## ModelZoo-ModelZoo - URL: https://www.hiascend.com/document/detail/zh/ModelZoo/latest/qs/qs_0004.html - Description: ModelZoo是昇腾的开源AI模型平台,涵盖计算机视觉、自然语言处理、语音、推荐、多模态、大语言模型等方向的AI模型及其基于昇腾机器的实操案例。 - Detail: llms-content/document/detail/ModelZoo/ModelZoo_Documentation_overview_overview_0001_html.md ## 添加二进制黑名单示例 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/appendix.md - Description: 参见如下示例设置"NPU\_FUZZY\_COMPILE\_BLACKLIST"选项,添加二进制黑名单。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_blacklist_md.md ## 添加二进制黑名单示例 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/blacklist.md - Description: 参见如下示例设置"NPU\_FUZZY\_COMPILE\_BLACKLIST"选项,添加二进制黑名单。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_blacklist_md.md ## (beta)at\_npu::detail::createNPUGenerator - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89at_npu-detail-createNPUGenerator.md - Description: torch\_npu\\csrc\\aten\\NPUGeneratorImpl.h - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betaat_npu-detail-createNPUGenerator_md.md ## (beta)at\_npu::detail::getDefaultNPUGenerator - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89at_npu-detail-getDefaultNPUGenerator.md - Description: torch\_npu\\csrc\\aten\\NPUGeneratorImpl.h - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betaat_npu-detail-getDefaultNPUGenerator_md.md ## (beta)at\_npu::native::empty\_with\_format - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89at_npu-native-empty_with_format.md - Description: torch\_npu\\csrc\\core - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betaat_npu-native-empty_with_format_md.md ## (beta)at\_npu::native::get\_npu\_format - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89at_npu-native-get_npu_format.md - Description: torch\_npu\\csrc\\core - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betaat_npu-native-get_npu_format_md.md ## (beta)at\_npu::native::get\_npu\_storage\_sizes - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89at_npu-native-get_npu_storage_sizes.md - Description: torch\_npu\\csrc\\core - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betaat_npu-native-get_npu_storage_sizes_md.md ## (beta)at\_npu::native::npu\_dropout\_gen\_mask - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89at_npu-native-npu_dropout_gen_mask.md - Description: third\_party\\op-plugin\\op\_plugin\\include\\ops.h - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betaat_npu-native-npu_dropout_gen_mask_md.md ## (beta)at\_npu::native::npu\_format\_cast - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89at_npu-native-npu_format_cast.md - Description: torch\_npu\\csrc\\core - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betaat_npu-native-npu_format_cast_md.md ## (beta)at::Device - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89at-Device.md - Description: 在安装TorchNPU后,Device类型新增支持NPU字段,可以从字符串描述中指示设备。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betaat-Device_md.md ## (beta)c10\_npu::c10\_npu\_get\_error\_message - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89c10_npu-c10_npu_get_error_message.md - Description: torch\_npu\\csrc\\core - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betac10_npu-c10_npu_get_error_message_md.md ## (beta)c10\_npu::current\_device - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89c10_npu-current_device.md - Description: torch\_npu\\csrc\\core - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betac10_npu-current_device_md.md ## (beta)c10\_npu::device\_count - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89c10_npu-device_count.md - Description: torch\_npu\\csrc\\core - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betac10_npu-device_count_md.md ## (beta)c10\_npu::getCurrentNPUStream - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89c10_npu-getCurrentNPUStream.md - Description: torch\_npu\\csrc\\core - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betac10_npu-getCurrentNPUStream_md.md ## (beta)c10\_npu::getDefaultNPUStream - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89c10_npu-getDefaultNPUStream.md - Description: torch\_npu\\csrc\\core - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betac10_npu-getDefaultNPUStream_md.md ## (beta)c10\_npu::GetDevice - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89c10_npu-GetDevice.md - Description: torch\_npu\\csrc\\core - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betac10_npu-GetDevice_md.md ## (beta)c10\_npu::getNPUStreamFromPool - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89c10_npu-getNPUStreamFromPool.md - Description: torch\_npu\\csrc\\core - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betac10_npu-getNPUStreamFromPool_md.md ## (beta)c10\_npu::set\_device - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89c10_npu-set_device.md - Description: torch\_npu\\csrc\\core - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betac10_npu-set_device_md.md ## (beta)c10\_npu::setCurrentNPUStream - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89c10_npu-setCurrentNPUStream.md - Description: torch\_npu\\csrc\\core - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betac10_npu-setCurrentNPUStream_md.md ## (beta)c10\_npu::SetDevice - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89c10_npu-SetDevice.md - Description: torch\_npu\\csrc\\core - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betac10_npu-SetDevice_md.md ## (beta)c10\_npu::warn\_or\_error\_on\_sync - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89c10_npu-warn_or_error_on_sync.md - Description: torch\_npu\\csrc\\core - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betac10_npu-warn_or_error_on_sync_md.md ## (beta)c10\_npu::warning\_state - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89c10_npu-warning_state.md - Description: torch\_npu\\csrc\\core - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betac10_npu-warning_state_md.md ## (beta)c10::npu::current\_device - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89c10-npu-current_device.md - Description: torch\_npu\\csrc\\libs\\init\_npu.h - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betac10-npu-current_device_md.md ## (beta)class at\_npu::native::OpCommand - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89class-at_npu-native-OpCommand.md - Description: torch\_npu\\csrc\\framework\\OpCommand.h - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betaclass-at_npu-native-OpCommand_md.md ## (beta)class at\_npu::NPUGeneratorImpl - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89class-at_npu-NPUGeneratorImpl.md - Description: torch\_npu\\csrc\\aten\\NPUGeneratorImpl.h - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betaclass-at_npu-NPUGeneratorImpl_md.md ## (beta)class c10\_npu::NPUStream - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89class-c10_npu-NPUStream.md - Description: torch\_npu\\csrc\\core - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betaclass-c10_npu-NPUStream_md.md ## (beta)struct c10\_npu::NPUEvent - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89struct-c10_npu-NPUEvent.md - Description: torch\_npu\\csrc\\core - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betastruct-c10_npu-NPUEvent_md.md ## (beta)struct c10\_npu::NPUHooksArgs - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89struct-c10_npu-NPUHooksArgs.md - Description: torch\_npu\\csrc\\core - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betastruct-c10_npu-NPUHooksArgs_md.md ## (beta)struct c10\_npu::NPUHooksInterface - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89struct-c10_npu-NPUHooksInterface.md - Description: torch\_npu\\csrc\\core - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betastruct-c10_npu-NPUHooksInterface_md.md ## (beta)torch\_npu::finalize\_npu - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89torch_npu-finalize_npu.md - Description: torch\_npu\\csrc\\libs\\init\_npu.h - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betatorch_npu-finalize_npu_md.md ## (beta)torch\_npu::init\_npu - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89torch_npu-init_npu.md - Description: torch\_npu\\csrc\\libs\\init\_npu.h - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betatorch_npu-init_npu_md.md ## (beta)torch::npu::synchronize - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/%EF%BC%88beta%EF%BC%89torch-npu-synchronize.md - Description: torch\_npu\\csrc\\libs\\init\_npu.h - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_betatorch-npu-synchronize_md.md ## at\_npu::native::empty\_with\_swapped\_memory - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/at_npu-native-empty_with_swapped_memory.md - Description: 申请一个device信息为NPU且实际内存在host侧的特殊tensor。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_at_npu-native-empty_with_swapped_memory_md.md ## C++接口列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/C_interface.md - Description: 本章节包含TorchNPU中提供的C++拓展接口,供深度优化使用。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_C_list_md.md ## C++接口列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/C_list.md - Description: 本章节包含TorchNPU中提供的C++拓展接口,供深度优化使用。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_C_list_md.md ## c10\_npu::NPUStreamGuard::current\_device - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/c10_npu-NPUStreamGuard-current_device.md - Description: 返回该Guard设置的当前NPU设备。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_c10_npu-NPUStreamGuard-current_device_md.md ## c10\_npu::NPUStreamGuard::current\_stream - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/c10_npu-NPUStreamGuard-current_stream.md - Description: 返回使用此设备guard设置的最新NPU流。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_c10_npu-NPUStreamGuard-current_stream_md.md ## c10\_npu::NPUStreamGuard::NPUStreamGuard - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/c10_npu-NPUStreamGuard-NPUStreamGuard.md - Description: 构造函数,创建一个流guard。将当前的NPU设备设置为与传入流关联的设备,并将该设备上的当前NPU流设置为传入流。NPUStreamGuard在析构时会自动恢复构造前的NPU设备和流,以确保作用域结束后恢复原始上下文。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_c10_npu-NPUStreamGuard-NPUStreamGuard_md.md ## c10\_npu::NPUStreamGuard::original\_device - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/c10_npu-NPUStreamGuard-original_device.md - Description: 返回guard构造时的NPU设备。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_c10_npu-NPUStreamGuard-original_device_md.md ## c10\_npu::NPUStreamGuard::original\_stream - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/c10_npu-NPUStreamGuard-original_stream.md - Description: 返回guard构造时设置的NPU流。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_c10_npu-NPUStreamGuard-original_stream_md.md ## c10\_npu::NPUStreamGuard::reset\_stream - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/c10_npu-NPUStreamGuard-reset_stream.md - Description: 给guard重新设置NPU流。将当前设置的流重置为原始流,并将当前设置的设备重置为原始设备。然后,将当前设备设置为与传入流关联的设备,并将该设备上的当前NPU流设置为传入流。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_c10_npu-NPUStreamGuard-reset_stream_md.md ## c10\_npu::NPUStreamGuard - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/c10_npu-NPUStreamGuard.md - Description: NPU设备流guard,保障作用域内的设备流,与`c10::cuda::CUDAStreamGuard`相同。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_c10_npu-NPUStreamGuard_md.md ## c10\_npu::stream\_synchronize - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/c10_npu-stream_synchronize.md - Description: NPU设备流同步,与`c10::cuda::streamsynchronize`相同。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_c10_npu-stream_synchronize_md.md ## c10d\_npu::ProcessGroupHCCL::batch\_isend\_irecv - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/c10d_npu-ProcessGroupHCCL-batch_isend_irecv.md - Description: 发送或接收一批tensor,异步处理P2P操作序列中的每一个操作,并返回对应的请求。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_c10d_npu-ProcessGroupHCCL-batch_isend_irecv_md.md ## c10d\_npu::ProcessGroupHCCL - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/cpp/c10d_npu-ProcessGroupHCCL.md - Description: ProcessGroupHCCL继承自`c10d::Backend`,实现`HCCL`后端的相关接口,用于通信算子调用。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_cpp_c10d_npu-ProcessGroupHCCL_md.md ## 确定性计算API清单 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/determin_API_list.md - Description: 在使用PyTorch框架进行训练时,部分算子在计算时可能存在随机性,若需要输出结果排除随机性,则需要设置确定性计算开关。在开启确定性计算时,当使用相同的输入在相同的硬件和软件上执行相同的操作,输出的结果每次都是相同的。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_determin_API_list_md.md ## (beta)torch\_npu.distributed.all\_gather\_into\_tensor\_uneven - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/distributed/%EF%BC%88beta%EF%BC%89torch_npu-distributed-all_gather_into_tensor_uneven.md - Description: 参考原生接口`torch.distributed.allgatherintotensor`功能,具体请参考https://pytorch.org/docs/stable/distributed.html\#torch.distributed.allgatherintotensor。`torchnpu.distributed.allgatherintotensoruneven`接口新增支持零拷贝和非等 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_distributed_betatorch_npu-distributed-all_gather_into_tensor_uneven_md.md ## (beta)torch\_npu.distributed.reinit\_process\_group - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/distributed/%EF%BC%88beta%EF%BC%89torch_npu-distributed-reinit_process_group.md - Description: 重新构建ProcessGroup集合通信域。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_distributed_betatorch_npu-distributed-reinit_process_group_md.md ## (beta)torch.distributed.is\_hccl\_available - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/distributed/%EF%BC%88beta%EF%BC%89torch-distributed-is_hccl_available.md - Description: 判断HCCL通信后端是否可用,与torch.distributed.isncclavailable类似,具体请参考https://pytorch.org/docs/stable/distributed.html\#torch.distributed.isncclavailable。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_distributed_betatorch-distributed-is_hccl_available_md.md ## (beta)torch.distributed.ProcessGroupHCCL - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/distributed/%EF%BC%88beta%EF%BC%89torch-distributed-ProcessGroupHCCL.md - Description: 创建一个ProcessGroupHCCL对象并返回。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_distributed_betatorch-distributed-ProcessGroupHCCL_md.md ## Distributed接口列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/distributed/Distributed_list.md - Description: 本章节包含适配后的分布式接口,提供并行计算能力。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_distributed_Distributed_list_md.md ## Distributed接口列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/distributed/Distributed.md - Description: 本章节包含适配后的分布式接口,提供并行计算能力。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_distributed_Distributed_list_md.md ## (beta)torch\_npu.distributed.reduce\_scatter\_tensor\_uneven - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/distributed/torch_npu-distributed-reduce_scatter_tensor_uneven.md - Description: 参考原生接口`torch.distributed.reducescattertensor`功能,具体请参考https://pytorch.org/docs/stable/distributed.html\#torch.distributed.reducescattertensor。`torchnpu.distributed.reducescattertensoruneven`接口新增支持零拷贝和非等 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_distributed_torch_npu-distributed-reduce_scatter_tensor_uneven_md.md ## torch.distributed.distributed\_c10d.\_world.default\_pg.\_get\_backend\(torch.device\("npu"\)\).get\_hccl\_comm - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/distributed/torch-distributed-distributed_c10d.md - Description: 从初始化完成的集合通信域中获取集合通信域名称。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_distributed_torch-distributed-distributed_c10d_md.md ## PyTorch-基于PyTorch2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/overview.md - Description: 基于PyTorch2.12.0/2.11.0/2.10.0/2.9.0/2.7.1版本,提供TorchNPU自定义API的功能说明、函数原型、参数说明与调用示例等。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_overview_md.md ## torch\_npu接口列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/Python_interface.md - Description: 本章节包含常用自定义接口,包括创建Tensor及计算类操作。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu_list_md.md ## 废弃API列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/scrap_API.md - Description: **表1** 废弃API列表 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_scrap_API_md.md ## (beta)torch\_npu.contrib.BiLSTM - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-BiLSTM.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-BiLSTM_md.md ## (beta)torch\_npu.contrib.DCNv2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-DCNv2.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-DCNv2_md.md ## (beta)torch\_npu.contrib.function.dropout\_with\_byte\_mask - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-function-dropout_with_byte_mask.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-function-dropout_with_byte_mask_md.md ## (beta)torch\_npu.contrib.function.fuse\_add\_softmax\_dropout - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-function-fuse_add_softmax_dropout.md - Description: API功能:融合了add、softmax和dropout的计算逻辑,以提高在NPU上计算的性能。 等价计算逻辑: 可使用`npufuseaddsoftmaxdropout`等价替换`torchnpu.contrib.function.fuseaddsoftmaxdropout`,两者计算逻辑一致。 ```python import torch import mat - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-function-fuse_add_softmax_dropout_md.md ## (beta)torch\_npu.contrib.function.matmul\_transpose - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-function-matmul_transpose.md - Description: 使用NPU自定义算子替换原生写法,以提高性能。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-function-matmul_transpose_md.md ## (beta)torch\_npu.contrib.function.npu\_batched\_multiclass\_nms - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-function-npu_batched_multiclass_nms.md - Description: 执行批量多类别的非极大抑制(NMS)计算。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-function-npu_batched_multiclass_nms_md.md ## (beta)torch\_npu.contrib.function.npu\_bbox\_coder\_decode\_xywh2xyxy - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-function-npu_bbox_coder_decode_xywh2xyxy.md - Description: 该函数基于NPU实现bbox格式解码操作,将格式从xywh转换为xyxy。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-function-npu_bbox_coder_decode_xywh2xyxy_md.md ## (beta)torch\_npu.contrib.function.npu\_bbox\_coder\_encode\_xyxy2xywh - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-function-npu_bbox_coder_encode_xyxy2xywh.md - Description: 应用基于NPU的bbox格式编码操作,将格式从xyxy编码为xywh。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-function-npu_bbox_coder_encode_xyxy2xywh_md.md ## (beta)torch\_npu.contrib.function.npu\_bbox\_coder\_encode\_yolo - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-function-npu_bbox_coder_encode_yolo.md - Description: 通过 NPU OP来计算从源框(bbox)到目标框(gtbbox)的 YOLO 风格框回归转换 deltas。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-function-npu_bbox_coder_encode_yolo_md.md ## (beta)torch\_npu.contrib.function.npu\_ciou - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-function-npu_ciou.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-function-npu_ciou_md.md ## (beta)torch\_npu.contrib.function.npu\_diou - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-function-npu_diou.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-function-npu_diou_md.md ## (beta)torch\_npu.contrib.function.npu\_fast\_condition\_index\_put - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-function-npu_fast_condition_index_put.md - Description: 使用NPU亲和写法替换bool型indexput函数中的原生写法。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-function-npu_fast_condition_index_put_md.md ## (beta)torch\_npu.contrib.function.npu\_multiclass\_nms - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-function-npu_multiclass_nms.md - Description: 执行多类别的非极大抑制(NMS)计算。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-function-npu_multiclass_nms_md.md ## (beta)torch\_npu.contrib.function.npu\_single\_level\_responsible\_flags - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-function-npu_single_level_responsible_flags.md - Description: 使用NPU OP在单个特征图中生成锚点的responsible flags。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-function-npu_single_level_responsible_flags_md.md ## (beta)torch\_npu.contrib.function.roll - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-function-roll.md - Description: 使用NPU亲和写法替换swin-transformer中的原生roll。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-function-roll_md.md ## (beta)torch\_npu.contrib.module.ChannelShuffle - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-module-ChannelShuffle.md - Description: - API功能:应用NPU兼容的通道shuffle操作。 - 等价计算逻辑: splitshuffle\=False场景可使用`cpuchannelshuffle`等价替换`torchnpu.contrib.module.ChannelShuffle`,两者计算逻辑一致。 ```python import torch def cpuchannelshuffle\(x, gro - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-module-ChannelShuffle_md.md ## (beta)torch\_npu.contrib.module.Focus - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-module-Focus.md - Description: 使用NPU亲和写法替换YOLOv5中的原生Focus。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-module-Focus_md.md ## (beta)torch\_npu.contrib.module.FusedColorJitter - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-module-FusedColorJitter.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-module-FusedColorJitter_md.md ## (beta)torch\_npu.contrib.module.LabelSmoothingCrossEntropy - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-module-LabelSmoothingCrossEntropy.md - Description: 使用NPU API计算Label Smoothing Cross Entropy。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-module-LabelSmoothingCrossEntropy_md.md ## (beta)torch\_npu.contrib.module.Mish - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-module-Mish.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-module-Mish_md.md ## (beta)torch\_npu.contrib.module.ModulatedDeformConv - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-module-ModulatedDeformConv.md - Description: 应用基于NPU的Modulated Deformable 2D卷积操作。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-module-ModulatedDeformConv_md.md ## (beta)torch\_npu.contrib.module.MultiheadAttention - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-module-MultiheadAttention.md - Description: Multi-head attention。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-module-MultiheadAttention_md.md ## (beta)torch\_npu.contrib.module.npu\_modules.DropoutWithByteMask - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-module-npu_modules-DropoutWithByteMask.md - Description: 应用NPU兼容的DropoutWithByteMask操作。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-module-npu_modules-DropoutWithByteMask_md.md ## (beta)torch\_npu.contrib.module.NpuCachedDropout - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-module-NpuCachedDropout.md - Description: 在NPU设备上使用FairseqDropout。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-module-NpuCachedDropout_md.md ## (beta)torch\_npu.contrib.module.NpuDropPath - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-module-NpuDropPath.md - Description: 使用NPU亲和写法替换swintransformer.py中的原生DropPath。丢弃每个样本(应用于residual blocks的主路径)的路径(随机深度)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-module-NpuDropPath_md.md ## (beta)torch\_npu.contrib.module.PSROIPool - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-module-PSROIPool.md - Description: 使用NPU API进行PSROIPool。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-module-PSROIPool_md.md ## (beta)torch\_npu.contrib.module.ROIAlign - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-module-ROIAlign.md - Description: 使用NPU API进行ROIAlign。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-module-ROIAlign_md.md ## (beta)torch\_npu.contrib.module.SiLU - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-module-SiLU.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-module-SiLU_md.md ## (beta)torch\_npu.contrib.npu\_fused\_attention\_with\_layernorm - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-npu_fused_attention_with_layernorm.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-npu_fused_attention_with_layernorm_md.md ## (beta)torch\_npu.contrib.npu\_fused\_attention - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-npu_fused_attention.md - Description: BERT自注意力的融合实现。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-npu_fused_attention_md.md ## (beta)torch\_npu.contrib.npu\_giou - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-npu_giou.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-npu_giou_md.md ## (beta)torch\_npu.contrib.npu\_iou - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-npu_iou.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-npu_iou_md.md ## (beta)torch\_npu.contrib.npu\_ptiou - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-npu_ptiou.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-npu_ptiou_md.md ## (beta)torch\_npu.contrib.NpuFairseqDropout - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-NpuFairseqDropout.md - Description: 在NPU设备上使用FairseqDropout。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-NpuFairseqDropout_md.md ## (beta)torch\_npu.contrib.Prefetcher - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-Prefetcher.md - Description: NPU设备上的数据预取器,主要用于优化数据加载流程,提升训练效率。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-Prefetcher_md.md ## (beta)torch\_npu.contrib.Swish - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/%EF%BC%88beta%EF%BC%89torch_npu-contrib-Swish.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_betatorch_npu-contrib-Swish_md.md ## torch\_npu.contrib接口列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/torch_npu-contrib_list.md - Description: 本章节包含常用亲和库接口,提供模型中常用的组合类接口,无需自行完成接口或导入第三方库。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_torch_npu-contrib_list_md.md ## torch\_npu.contrib.module.LinearA8W8Quant - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/torch_npu-contrib-module-LinearA8W8Quant.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_torch_npu-contrib-module-LinearA8W8Quant_md.md ## torch\_npu.contrib.module.LinearQuant - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/torch_npu-contrib-module-LinearQuant.md - Description: LinearQuant是对torchnpu.npuquantmatmul接口的封装类,完成A8W8、A4W4量化算子的矩阵乘计算。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_torch_npu-contrib-module-LinearQuant_md.md ## torch\_npu.contrib.module.LinearWeightQuant - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/torch_npu-contrib-module-LinearWeightQuant.md - Description: LinearWeightQuant是对torchnpu.npuweightquantbatchmatmul接口的封装类,完成矩阵乘计算中的weight输入和输出的量化操作,支持pertensor、perchannel、pergroup多场景量化。 当前Atlas 推理系列产品仅支持perchannel量化。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_torch_npu-contrib-module-LinearWeightQuant_md.md ## torch\_npu.contrib.module.QuantConv2d - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/torch_npu-contrib-module-QuantConv2d.md - Description: - API功能:为用户提供Conv2d算子量化相关功能。 - 计算公式: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_torch_npu-contrib-module-QuantConv2d_md.md ## torch\_npu.contrib接口列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-contrib/torch_npu-contrib.md - Description: 本章节包含常用亲和库接口,提供模型中常用的组合类接口,无需自行完成接口或导入第三方库。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-contrib_torch_npu-contrib_list_md.md ## (beta)torch\_npu.jit.optimize - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-jit/%EF%BC%88beta%EF%BC%89torch_npu-jit-optimize.md - Description: 主要用于优化ScriptFunction或ScriptModule,以获取更好的性能。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-jit_betatorch_npu-jit-optimize_md.md ## torch\_npu.jit接口列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-jit/torch_npu-jit_list.md - Description: 本章节包含适配后的jit接口,提供即时编译能力以获取更好的性能及部署能力。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-jit_torch_npu-jit_list_md.md ## torch\_npu.jit接口列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-jit/torch_npu-jit.md - Description: 本章节包含适配后的jit接口,提供即时编译能力以获取更好的性能及部署能力。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-jit_torch_npu-jit_list_md.md ## torch\_npu.npu.amp - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu-amp/torch_npu-npu-amp.md - Description: **表1** torch\_npu.npu.amp API - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu-amp_torch_npu-npu-amp_md.md ## (beta)NPU Tensor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89NPU-Tensor.md - Description: TorchNPU提供NPU tensor相关的部分接口,使用方式与CUDA类似。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betaNPU-Tensor_md.md ## (beta)torch\_npu.npu.aclnn.version - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-aclnn-version.md - Description: 查询aclnn算子版本信息。aclnn算子详情可参考《CANN 算子库》中的“简介\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/910/API/aolapi/operatorlist00001.html\)”章节。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-aclnn-version_md.md ## (beta)torch\_npu.npu.check\_uce\_in\_memory - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-check_uce_in_memory.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-check_uce_in_memory_md.md ## (beta)torch\_npu.npu.clear\_npu\_overflow\_flag - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-clear_npu_overflow_flag.md - Description: 对NPU溢出检测进行清零。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-clear_npu_overflow_flag_md.md ## (beta)torch\_npu.npu.config.allow\_internal\_format - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-config-allow_internal_format.md - Description: 控制是否使用私有格式,设置为True时允许使用私有格式,设置为False时,不允许申请任何私有格式的tensor,避免了适配层出现私有格式流通。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-config-allow_internal_format_md.md ## (beta)torch\_npu.npu.finalize\_dump - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-finalize_dump.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-finalize_dump_md.md ## (beta)torch\_npu.npu.get\_amp\_supported\_dtype - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-get_amp_supported_dtype.md - Description: 获取NPU设备支持的数据类型,该设备可能支持不止一种数据类型。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-get_amp_supported_dtype_md.md ## (beta)torch\_npu.npu.get\_autocast\_dtype - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-get_autocast_dtype.md - Description: 在AMP场景获取设备支持的数据类型,该`dtype`由torchnpu.npu.setautocastdtype设置,若未设置则使用默认数据类型`float16`。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-get_autocast_dtype_md.md ## (beta)torch\_npu.npu.get\_mm\_bmm\_format\_nd - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-get_mm_bmm_format_nd.md - Description: 确认线性module里面的mm和bmm算子是否已启用ND格式,如果启用了ND,返回True,否则返回False。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-get_mm_bmm_format_nd_md.md ## (beta)torch\_npu.npu.get\_npu\_overflow\_flag - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-get_npu_overflow_flag.md - Description: 检测NPU计算过程中是否有数值溢出。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-get_npu_overflow_flag_md.md ## (beta)torch\_npu.npu.init\_dump - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-init_dump.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-init_dump_md.md ## (beta)torch\_npu.npu.is\_autocast\_enabled - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-is_autocast_enabled.md - Description: 确认autocast是否可用。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-is_autocast_enabled_md.md ## (beta)torch\_npu.npu.is\_jit\_compile\_false - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-is_jit_compile_false.md - Description: 确认JIT编译模式是否被禁用,如果被禁用,返回True,否则返回False。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-is_jit_compile_false_md.md ## (beta)torch\_npu.npu.obfuscation\_calculate - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-obfuscation_calculate.md - Description: 该接口用于将张量`x`和配置参数(如`param`)发送至PMCC(Privacy and Model Confidential Computing)混淆引擎。引擎的CA(普通OS中的Client Application)模块调用TA(TEE OS中的Trusted Application)模块,进行张量混淆处理,最终返回混淆结果。 该接口针对PMCC业务,如下两种结果均符合预期: 如果部署PM - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-obfuscation_calculate_md.md ## (beta)torch\_npu.npu.obfuscation\_finalize - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-obfuscation_finalize.md - Description: 该接口用于完成PMCC(Privacy and Model Confidential Computing)模型混淆引擎的资源释放,即与PMCC混淆引擎CA(普通OS中的Client Application)断开socket连接。 该接口针对PMCC业务,如下两种结果均符合预期: 如果部署PMCC特性,该接口返回响应结果。 未部署PMCC特性时,执行该接口会返回错误码507018。 PMCC特性 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-obfuscation_finalize_md.md ## (beta)torch\_npu.npu.obfuscation\_initialize - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-obfuscation_initialize.md - Description: 该接口用于完成PMCC(Privacy and Model Confidential Computing)模型混淆引擎的资源初始化,即与PMCC混淆引擎CA(普通OS中的Client Application)建立socket连接、对CA、TA(TEE OS中的Trusted Application)进行初始化,并返回socket连接符。 该接口针对PMCC业务,如下两种结果均符合预期: 如果部署 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-obfuscation_initialize_md.md ## (beta)torch\_npu.npu.restart\_device - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-restart_device.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-restart_device_md.md ## (beta)torch\_npu.npu.set\_aoe - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-set_aoe.md - Description: 启用AOE调优。 dumppath:dump算子图保存路径。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-set_aoe_md.md ## (beta)torch\_npu.npu.set\_autocast\_dtype - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-set_autocast_dtype.md - Description: 设置设备在AMP场景支持的数据类型。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-set_autocast_dtype_md.md ## (beta)torch\_npu.npu.set\_autocast\_enabled - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-set_autocast_enabled.md - Description: 在设备上开启或关闭AMP。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-set_autocast_enabled_md.md ## (beta)torch\_npu.npu.set\_compile\_mode - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-set_compile_mode.md - Description: 设置是否开启JIT编译。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-set_compile_mode_md.md ## (beta)torch\_npu.npu.set\_dump - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-set_dump.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-set_dump_md.md ## (beta)torch\_npu.npu.set\_mm\_bmm\_format\_nd - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-set_mm_bmm_format_nd.md - Description: 设置线性module里面的mm和bmm算子是否用ND格式。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-set_mm_bmm_format_nd_md.md ## (beta)torch\_npu.npu.set\_option - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-set_option.md - Description: 详细使用参见《PyTorch 训练模型迁移调优指南》中的“设置算子编译选项\(https://gitcode.com/Ascend/docs/blob/master/FrameworkPTAdapter/26.0.0/zh/pytorch\_model\_migration\_fine\_tuning/config\_op\_comp\_opts.md\)”章节。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-set_option_md.md ## (beta)torch\_npu.npu.stop\_device - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-stop_device.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-stop_device_md.md ## (beta)torch\_npu.npu.stress\_detect - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-stress_detect.md - Description: 提供精度在线检测接口,供模型调用。主要通过`StressDetect`接口实现,该接口会对硬件做压力测试检测是否存在静默精度问题。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-stress_detect_md.md ## (beta)torch\_npu.npu.utils.is\_support\_inf\_nan - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-utils-is_support_inf_nan.md - Description: 判断当前使用的溢出检测模式。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-utils-is_support_inf_nan_md.md ## (beta)torch\_npu.npu.utils.npu\_check\_overflow - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/%EF%BC%88beta%EF%BC%89torch_npu-npu-utils-npu_check_overflow.md - Description: 检测梯度是否溢出。在INFNAN模式下,检测输入`tensor`是否溢出;在饱和模式下,通过检查硬件溢出标志位判断是否溢出。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-utils-npu_check_overflow_md.md ## (beta)torch\_npu.npu.get\_amp\_supported\_dtype - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/amp.md - Description: 获取NPU设备支持的数据类型,该设备可能支持不止一种数据类型。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-get_amp_supported_dtype_md.md ## (beta)torch\_npu.npu.set\_aoe - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/aoe.md - Description: 启用AOE调优。 dumppath:dump算子图保存路径。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-set_aoe_md.md ## Memory management API - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/Memory-management-API.md - Description: **表1** Memory management API - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_Memory-management-API_md.md ## Memory management API - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/Memory-management.md - Description: **表1** Memory management API - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_Memory-management-API_md.md ## NPU Device - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/NPU-Device.md - Description: **表1** NPU device API - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_NPU-Device_md.md ## torch\_npu.npu.mstx - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/profiler.md - Description: 打点接口。 用于为torchnpu.profiler.ExperimentalConfig的mstx提供打点接口调用。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-mstx_md.md ## Random Number Generator - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/Random-Number-Generator.md - Description: **表1** Random Number Generator API - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_Random-Number-Generator_md.md ## torch\_npu.npu接口列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu_list.md - Description: 本章节包含各种子模块接口,如随机数、内存管理等。npu模块支持torch.npu和torch\_npu.npu两种调用方式,功能一致。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu_list_md.md ## torch\_npu.npu.NpuGraphOpHandler - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu_npugraph_handlers.md - Description: 本接口用于注册自定义算子处理器,使自定义算子支持NPU Graph的动态Shape更新与重放功能。在NPU Graph模式下,用户调用 `g.update\(\)` 传入新的参数时,TorchNPU框架通过注册的处理器将数据映射到算子输入位置。 核心机制: 1. Capture预处理:定义算子捕获时的输入数据预处理逻辑。 2. Update动态更新:在Graph Replay(回放)阶段,无需重新Ca - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu_npugraph_handlers_md.md ## torch\_npu.npu接口列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-1.md - Description: 本章节包含各种子模块接口,如随机数、内存管理等。npu模块支持torch.npu和torch\_npu.npu两种调用方式,功能一致。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu_list_md.md ## (beta)torch\_npu.npu.get\_npu\_overflow\_flag - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-2.md - Description: 检测NPU计算过程中是否有数值溢出。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_betatorch_npu-npu-get_npu_overflow_flag_md.md ## torch\_npu.npu.aclnn.allow\_hf32 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-aclnn-allow_hf32.md - Description: 设置或查询conv类算子是否支持hf32。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-aclnn-allow_hf32_md.md ## torch\_npu.npu.are\_compatible\_impl\_enabled - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-are_compatible_impl_enabled.md - Description: 该接口用于查询`torchnpu.npu.usecompatibleimpl`的配置情况,查看算子API的实现是否与社区完全对齐。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-are_compatible_impl_enabled_md.md ## torch\_npu.npu.conv.allow\_hf32 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-conv-allow_hf32.md - Description: conv类算子开启支持hf32类型能力。 `torchnpu.npu.conv.allowhf32`功能和调用方式与`torch.backends.cudnn.allowtf32`类似,`torch.backends.cudnn.allowtf32`的功能具体请参考https://pytorch.org/docs/stable/backends.html\#torch.backends.cudnn. - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-conv-allow_hf32_md.md ## torch\_npu.npu.disable\_deterministic\_with\_backward - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-disable_deterministic_with_backward.md - Description: 关闭“确定性”功能。确定性算法是指在模型的前向传播过程中,每次输入相同,输出也相同。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-disable_deterministic_with_backward_md.md ## torch\_npu.npu.empty\_virt\_addr\_cache - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-empty_virt_addr_cache.md - Description: 轻量化的缓存释放接口,对应于`torch.npu.emptycache`。只释放虚拟内存,解除虚拟内存与物理内存的映射,但不真正释放物理内存,从而降低调用耗时。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-empty_virt_addr_cache_md.md ## torch\_npu.npu.enable\_deterministic\_with\_backward - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-enable_deterministic_with_backward.md - Description: - 开启“确定性”功能。确定性算法是指在模型的前向传播过程中,每次输入相同,输出也相同。 - 确定性算法可以避免模型在每次前向传播时产生的小随机误差累积,在需要重复测试或比较模型性能时非常有用。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-enable_deterministic_with_backward_md.md ## (beta)torch\_npu.npu.Event\(\).recorded\_time\(\) - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-Event%28%29-recorded_time-%28%29.md - Description: 获取NPU Event对象在设备上被记录的时间。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-Event-recorded_time-_md.md ## torch\_npu.npu.ExternalEvent - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-ExternalEvent.md - Description: ExternalEvent是AscendCL Event的封装。NPUGraph场景在执行图捕获时,ExternalEvent会被作为图外部节点被捕获,用于非图内时序控制场景。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-ExternalEvent_md.md ## torch\_npu.npu.ExternalEvent\(\).record\(\) - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-ExternalEvent%28%29.record%28%29.md - Description: 在指定stream上记录Event事件。本接口被调用时,会捕获当前Stream上已下发的任务,并记录到Event事件中,因此后续若调用wait接口,会等待该Event事件中所捕获的任务都已经完成。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-ExternalEventrecord_md.md ## torch\_npu.npu.ExternalEvent\(\).reset\(\) - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-ExternalEvent%28%29.reset%28%29.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-ExternalEventreset_md.md ## torch\_npu.npu.ExternalEvent\(\).wait\(\) - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-ExternalEvent%28%29.wait%28%29.md - Description: 阻塞指定Stream的运行,直到指定的Event完成,仅支持单个Stream等待单个Event的场景。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-ExternalEventwait_md.md ## torch\_npu.npu.graph\_task\_group\_begin - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-graph_task_group_begin.md - Description: NPUGraph场景下,用于标记任务组起始位置。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-graph_task_group_begin_md.md ## torch\_npu.npu.graph\_task\_group\_end - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-graph_task_group_end.md - Description: NPUGraph场景下,用于标记任务组结束位置。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-graph_task_group_end_md.md ## torch\_npu.npu.graph\_task\_update\_begin - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-graph_task_update_begin.md - Description: NPUGraph场景下,用于标记待更新任务的起始。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-graph_task_update_begin_md.md ## torch\_npu.npu.graph\_task\_update\_end - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-graph_task_update_end.md - Description: NPUGraph场景下,用于标记待更新任务的结束。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-graph_task_update_end_md.md ## torch\_npu.npu.host\_empty\_cache - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-host_empty_cache.md - Description: 释放当前由缓存持有的所有未占用的host物理内存。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-host_empty_cache_md.md ## torch\_npu.npu.matmul.allow\_hf32 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-matmul-allow_hf32.md - Description: matmul类算子开启对hf32类型的支持。 `torchnpu.npu.matmul.allowhf32`功能和调用方式与`torch.backends.cuda.matmul.allowtf32`类似,`torch.backends.cuda.matmul.allowtf32`的功能具体请参考https://pytorch.org/docs/stable/backends.html\#torch - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-matmul-allow_hf32_md.md ## torch\_npu.npu.matmul.cube\_math\_type - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-matmul-cubeMathType.md - Description: 设置或查询matmul类算子的cube计算类型。 `torchnpu.npu.matmul.cubemathtype` 用于设置或查询matmul算子的计算精度类型。通过设置不同的CubeMathType枚举值,以控制算子的数学计算模式。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-matmul-cubeMathType_md.md ## torch\_npu.npu.mstx.annotate - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-mstx-annotate.md - Description: API级别的打点,可自定义选择目标代码段或目标函数进行耗时采集。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-mstx-annotate_md.md ## torch\_npu.npu.mstx.mark - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-mstx-mark.md - Description: 标记瞬时事件。 - message \(`str`\):可选参数,打点携带信息的字符串,默认为'None'。 传入的message字符串长度要求:msPTI场景不能超过255字节。 - stream \(`torchnpu.npu.Stream`\):可选参数,用于执行打点任务的stream,默认为None。 - 配置为None时, - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-mstx-mark_md.md ## torch\_npu.npu.mstx.mstx\_range - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-mstx-mstx_range.md - Description: mstxrange装饰器,用来采集被装饰函数的range执行耗时。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-mstx-mstx_range_md.md ## torch\_npu.npu.mstx.range\_end - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-mstx-range_end.md - Description: 标识打点结束。 与torchnpu.npu.mstx.rangestart成对使用。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-mstx-range_end_md.md ## torch\_npu.npu.mstx.range\_pop - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-mstx-range_pop.md - Description: 标识打点结束。 与torchnpu.npu.mstx.rangepush成对使用。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-mstx-range_pop_md.md ## torch\_npu.npu.mstx.range\_push - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-mstx-range_push.md - Description: 标识打点开始。 与torchnpu.npu.mstx.rangepop成对使用。 仅支持在单线程内使用,支持多次嵌套调用,torchnpu.npu.mstx.rangepop自动匹配最近的torchnpu.npu.mstx.rangepush。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-mstx-range_push_md.md ## torch\_npu.npu.mstx.range\_start - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-mstx-range_start.md - Description: 标识打点开始。 与torchnpu.npu.mstx.rangeend成对使用。 支持跨线程使用,支持多次嵌套调用,torchnpu.npu.mstx.rangeend自动匹配最近的torchnpu.npu.mstx.rangestart。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-mstx-range_start_md.md ## torch\_npu.npu.mstx - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-mstx.md - Description: 打点接口。 用于为torchnpu.profiler.ExperimentalConfig的mstx提供打点接口调用。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-mstx_md.md ## torch\_npu.npu.set\_deterministic\_level - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-set_deterministic_level.md - Description: 该接口用于控制CANN侧强一致性功能。具体为重新配置CANN侧参数,参数详细说明可见:aclSysParamOpt。 实际level对应配置如下表所示: | torchnpu.npu.setdeterministiclevel配置 | 调用aclrtSetSysParamOpt配置 | 实际功能 | 与原生接口torch.usedeterministicalgorithms的对应关系 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-set_deterministic_level_md.md ## torch\_npu.npu.set\_op\_timeout\_ms - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-set_op_timeout_ms.md - Description: 该接口用于设置NPU上算子的执行超时时间,单位为毫秒(ms)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-set_op_timeout_ms_md.md ## torch\_npu.npu.SyncLaunchStream - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-SyncLaunchStream.md - Description: 创建一条同步下发NPUStream,在该流上下发的任务不再使用taskqueue异步下发。在集群场景某一设备出现故障,其他设备保存checkpoint时,可使用此同步下发流保存checkpoint。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-SyncLaunchStream_md.md ## torch\_npu.npu.use\_compatible\_impl - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-npu-use_compatible_impl.md - Description: 该接口用于控制算子API的实现是否与PyTorch社区完全对齐。该接口仅用于切换算子API所调用的底层算子。 该功能是否开启,可通过`torchnpu.npu.arecompatibleimplenabled`进行查询。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-npu-use_compatible_impl_md.md ## torch\_npu Storage - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch_npu-Storage.md - Description: **表1** torch\_npu Storage API - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch_npu-Storage_md.md ## torch\_npu.npu.change\_current\_allocator - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch-npu-npu-change_current_allocator.md - Description: 更改使用的内存分配器。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch-npu-npu-change_current_allocator_md.md ## torch\_npu.npu.NPUPluggableAllocator - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-npu/torch-npu-npu-NPUPluggableAllocator.md - Description: 从so文件加载的NPU内存分配器。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-npu_torch-npu-npu-NPUPluggableAllocator_md.md ## torch\_npu.optim接口列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-optim/torch_npu-optim_list.md - Description: 本章节包含各类融合优化器,提供比普通优化器更好的性能。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-optim_torch_npu-optim_list_md.md ## torch\_npu.optim.NpuFusedAdadelta - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-optim/torch_npu-optim-NpuFusedAdadelta.md - Description: 通过张量融合实现的高性能Adadelta优化器,核心功能和`torch.optim.Adadelta`兼容。 Adadelta的功能和原理可参考Adadelta。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-optim_torch_npu-optim-NpuFusedAdadelta_md.md ## torch\_npu.optim.NpuFusedAdam - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-optim/torch_npu-optim-NpuFusedAdam.md - Description: 通过张量融合实现的高性能Adam优化器,核心功能和`torch.optim.Adam`兼容。 Adam的功能和原理可参考Adam。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-optim_torch_npu-optim-NpuFusedAdam_md.md ## torch\_npu.optim.NpuFusedAdamP - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-optim/torch_npu-optim-NpuFusedAdamP.md - Description: 通过张量融合实现的高性能AdamP优化器。AdamP的功能和原理可参考《AdamP: Slowing Down the Slowdown for Momentum Optimizers on Scale-invariant Weights》。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-optim_torch_npu-optim-NpuFusedAdamP_md.md ## torch\_npu.optim.NpuFusedAdamW - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-optim/torch_npu-optim-NpuFusedAdamW.md - Description: 通过张量融合实现的高性能AdamW(Adam with decoupled Weight decay,解耦权重衰减的Adam)优化器,是Adam(Adaptive Moment Estimation,自适应矩估计优化器)的改进版本。它将权重衰减项从梯度计算中解耦出来,直接作用于参数更新步,修正了原始Adam中L2正则与自适应学习率相互干扰的问题。核心功能和`torch.optim.AdamW`兼容 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-optim_torch_npu-optim-NpuFusedAdamW_md.md ## torch\_npu.optim.NpuFusedBertAdam - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-optim/torch_npu-optim-NpuFusedBertAdam.md - Description: 通过张量融合实现的高性能BertAdam优化器。BertAdam的功能和原理可参考https://github.com/NVIDIA/DeepLearningExamples/blob/master/PyTorch/LanguageModeling/BERT/optimization.py\#L64。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-optim_torch_npu-optim-NpuFusedBertAdam_md.md ## torch\_npu.optim.NpuFusedLamb - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-optim/torch_npu-optim-NpuFusedLamb.md - Description: 通过张量融合实现的高性能Lamb优化器,Lamb(Layer-wise Adaptive Moments optimizer for Batch training,逐层自适应矩优化器)是Adam(Adaptive Moment Estimation,自适应矩估计优化器)的扩展版本。它在Adam的一阶、二阶矩估计基础上引入逐层信赖比(trust ratio),对每层的更新量按“参数范数/更新量范数” - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-optim_torch_npu-optim-NpuFusedLamb_md.md ## torch\_npu.optim.NpuFusedOptimizerBase - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-optim/torch_npu-optim-NpuFusedOptimizerBase.md - Description: 张量融合优化器的基类,实现梯度清零、梯度更新等优化器基本功能,用户可进行继承实现自定义融合优化器。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-optim_torch_npu-optim-NpuFusedOptimizerBase_md.md ## torch\_npu.optim.NpuFusedRMSprop - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-optim/torch_npu-optim-NpuFusedRMSprop.md - Description: 通过张量融合实现的高性能RMSprop优化器,核心功能和`torch.optim.RMSprop`兼容。 RMSprop的功能和原理可参考RMSprop。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-optim_torch_npu-optim-NpuFusedRMSprop_md.md ## torch\_npu.optim.NpuFusedRMSpropTF - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-optim/torch_npu-optim-NpuFusedRMSpropTF.md - Description: 通过张量融合实现的高性能RMSpropTF优化器,RMSpropTF是timm库(pytorch-image-models)中提供的RMSprop变体,其实现对齐TensorFlow版RMSprop的行为(故后缀为 "TF"),与torch.optim.RMSprop在初始化方式、epsilon加入位置、动量更新顺序等细节上存在差异,核心功能和torch.optim.RMSprop兼容。RMSpr - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-optim_torch_npu-optim-NpuFusedRMSpropTF_md.md ## torch\_npu.optim.NpuFusedSGD - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-optim/torch_npu-optim-NpuFusedSGD.md - Description: 通过张量融合实现的高性能SGD优化器,核心功能和`torch.optim.SGD`兼容。 SGD的功能和原理可参考SGD。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-optim_torch_npu-optim-NpuFusedSGD_md.md ## torch\_npu.optim接口列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-optim/torch_npu-optim.md - Description: 本章节包含各类融合优化器,提供比普通优化器更好的性能。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-optim_torch_npu-optim_list_md.md ## PyTorch-get\_trace\_id - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/get_trace_id.md - Description: 获取当前的traceid。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_get_trace_id_md.md ## PyTorch-set\_custom\_trace\_id\_callback - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/set_custom_trace_id_callback.md - Description: 设置生成traceid的回调。 该接口的功能可通过torchnpu.profiler.profile接口的customtraceidcallback参数直接配置,建议使用customtraceidcallback参数。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_set_custom_trace_id_callback_md.md ## torch\_npu.profiler接口列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler_list.md - Description: 本章节包含采集profiling相关的自定义接口,提供性能优化所需要的数据。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler_list_md.md ## torch\_npu.profiler.\_ExperimentalConfig - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-_ExperimentalConfig.md - Description: 性能数据采集扩展参数。用于构造torchnpu.profiler.profile的experimentalconfig参数。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-_ExperimentalConfig_md.md ## torch\_npu.profiler.\_KinetoProfile - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-_KinetoProfile.md - Description: 提供PyTorch训练过程中的性能数据采集功能。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-_KinetoProfile_md.md ## torch\_npu.profiler.AiCMetrics - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-AiCMetrics.md - Description: AI Core的性能指标采集项,Enum类型。用于作为ExperimentalConfig类的aicmetrics参数。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-AiCMetrics_md.md ## torch\_npu.profiler.dynamic\_profile.init - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-dynamic_profile-init.md - Description: 初始化dynamicprofile动态采集。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-dynamic_profile-init_md.md ## torch\_npu.profiler.dynamic\_profile.set\_state - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-dynamic_profile-set_state.md - Description: 动态采集时,设置训练已执行到的step步数。 训练未发生断点时,动态采集从step0开始计数,直到训练执行到相应step时启动采集;训练执行过程中发生断点,重新启动训练时,若未配置本接口,则动态采集默认以重新启动训练的位置为step0开始计数,可能导致训练结束还未启动采集。本接口可用于在训练断点时,手动设置训练已执行到的step步数,令动态采集从设置的step步数开始计数。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-dynamic_profile-set_state_md.md ## torch\_npu.profiler.dynamic\_profile.start - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-dynamic_profile-start.md - Description: 触发一次dynamicprofile动态采集。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-dynamic_profile-start_md.md ## torch\_npu.profiler.dynamic\_profile.step - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-dynamic_profile-step.md - Description: 在dynamicprofile动态采集时划分step。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-dynamic_profile-step_md.md ## torch\_npu.profiler.ExportType - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-ExportType.md - Description: 设置导出的性能数据结果文件格式,List类型。作为ExperimentalConfig类的exporttype参数。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-ExportType_md.md ## torch\_npu.profiler.profile.disable\_profiler\_in\_child\_thread - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-profile-disable_profiler_in_child_thread.md - Description: 注销Profiler采集回调函数。 与torchnpu.profiler.profile.enableprofilerinchildthread配对使用。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-profile-disable_profiler_in_child_thread_md.md ## torch\_npu.profiler.profile.enable\_profiler\_in\_child\_thread - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-profile-enable_profiler_in_child_thread.md - Description: 注册Profiler采集回调函数,采集用户子线程下发的torch算子等框架侧数据。该函数中可另外配置torchnpu.profiler.profile的参数(包括recordshapes、profilememory、withstack、withflops、withmodules),作为Profiler子线程的采集配置。 与torchnpu.profiler.profile.disableprofi - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-profile-enable_profiler_in_child_thread_md.md ## torch\_npu.profiler.profile - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-profile.md - Description: 提供PyTorch训练过程中的性能数据采集功能。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-profile_md.md ## torch\_npu.profiler.profiler.analyse - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-profiler-analyse.md - Description: 提供对Ascend PyTorch Profiler采集的性能数据进行离线解析的功能。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-profiler-analyse_md.md ## torch\_npu.profiler.ProfilerAction - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-ProfilerAction.md - Description: 用于控制Profiler行为状态,如性能数据采集、性能数据采集预热、性能数据采集并保存,属于Enum类型。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-ProfilerAction_md.md ## torch\_npu.profiler.ProfilerActivity - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-ProfilerActivity.md - Description: 事件采集列表,Enum类型。用于赋值给torchnpu.profiler.profile的activities参数。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-ProfilerActivity_md.md ## torch\_npu.profiler.ProfilerLevel - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-ProfilerLevel.md - Description: 采集等级,Enum类型。用于作为ExperimentalConfig类的profilerlevel参数。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-ProfilerLevel_md.md ## torch\_npu.profiler.schedule - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-schedule.md - Description: 设置不同step的行为。用于构造torchnpu.profiler.profile的schedule参数。默认不执行schedule操作。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-schedule_md.md ## torch\_npu.profiler.supported\_activities - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-supported_activities.md - Description: 查询当前支持采集的activities参数的CPU、NPU事件。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-supported_activities_md.md ## torch\_npu.profiler.supported\_ai\_core\_metrics - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-supported_ai_core_metrics.md - Description: 查询当前支持的torchnpu.profiler.AiCMetrics的AI Core性能指标采集项。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-supported_ai_core_metrics_md.md ## torch\_npu.profiler.supported\_export\_type - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-supported_export_type.md - Description: 查询当前`torchnpu.profiler.ExportType`支持的性能数据结果文件类型。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-supported_export_type_md.md ## torch\_npu.profiler.supported\_profiler\_level - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-supported_profiler_level.md - Description: 查询当前支持的torchnpu.profiler.ProfilerLevel级别。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-supported_profiler_level_md.md ## torch\_npu.profiler.tensorboard\_trace\_handler - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler-tensorboard_trace_handler.md - Description: 采集完成后的回调函数,用于控制导出性能数据。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler-tensorboard_trace_handler_md.md ## torch\_npu.profiler接口列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-profiler/torch_npu-profiler.md - Description: 本章节包含采集profiling相关的自定义接口,提供性能优化所需要的数据。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-profiler_torch_npu-profiler_list_md.md ## (beta)torch\_npu.utils.FlopsCounter - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-utils/%EF%BC%88beta%EF%BC%89torch_npu-utils-FlopsCounter.md - Description: Flops统计类,用于统计各个常见cube类算子的浮点计算Flops,采用单例模式。当前可统计Flops的算子包括:MM、BMM、AllgatherMM、ReduceScatterMM、FA。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-utils_betatorch_npu-utils-FlopsCounter_md.md ## (beta)torch\_npu.utils.get\_part\_combined\_tensor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-utils/%EF%BC%88beta%EF%BC%89torch_npu-utils-get_part_combined_tensor.md - Description: 根据地址偏移及内存大小,从经过`torchnpu.utils.npucombinetensors`融合后的融合tensor中获取局部tensor。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-utils_betatorch_npu-utils-get_part_combined_tensor_md.md ## (beta)torch\_npu.utils.is\_combined\_tensor\_valid - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-utils/%EF%BC%88beta%EF%BC%89torch_npu-utils-is_combined_tensor_valid.md - Description: 校验tensor列表中的tensor是否全部属于一个经过`torchnpu.utils.npucombinetensors`融合后的新融合tensor。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-utils_betatorch_npu-utils-is_combined_tensor_valid_md.md ## (beta)torch\_npu.utils.npu\_combine\_tensors - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-utils/%EF%BC%88beta%EF%BC%89torch_npu-utils-npu_combine_tensors.md - Description: 应用基于NPU的tensor融合操作,将NPU上的多个tensor融合为内存连续的一个新tensor,访问原tensor时实际访问新融合tensor的对应偏移地址。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-utils_betatorch_npu-utils-npu_combine_tensors_md.md ## (beta)torch\_npu.utils.save\_async - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-utils/%EF%BC%88beta%EF%BC%89torch_npu-utils-save_async.md - Description: 异步将对象保存到指定文件。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-utils_betatorch_npu-utils-save_async_md.md ## torch\_npu.utils接口列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-utils/torch_npu-utils_list.md - Description: 本章节包含辅助性接口,如异步保存等。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-utils_torch_npu-utils_list_md.md ## torch\_npu.utils.get\_cann\_version - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-utils/torch_npu-utils-get_cann_version.md - Description: 获取当前环境CANN或相关组件的版本号。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-utils_torch_npu-utils-get_cann_version_md.md ## torch\_npu.utils接口列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-utils/torch_npu-utils.md - Description: 本章节包含辅助性接口,如异步保存等。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-utils_torch_npu-utils_list_md.md ## torch\_npu.utils.reset\_thread\_affinity - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-utils/torch_npu-utils.reset_thread_affinity.md - Description: 恢复当前线程的绑核区间为主线程。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-utils_torch_npu-utilsreset_thread_affinity_md.md ## torch\_npu.utils.set\_thread\_affinity - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu-utils/torch_npu-utils.set_thread_affinity.md - Description: 设置当前线程的绑核区间。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu-utils_torch_npu-utilsset_thread_affinity_md.md ## (beta)torch\_npu.\_npu\_dropout - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-_npu_dropout.md - Description: 不使用种子(seed)进行dropout操作。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-_npu_dropout_md.md ## (beta)torch\_npu.copy\_memory\_ - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-copy_memory_.md - Description: 从src拷贝元素到self张量,并原地返回self张量。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-copy_memory__md.md ## (beta)torch\_npu.empty\_with\_format - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-empty_with_format.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-empty_with_format_md.md ## (beta)torch\_npu.fast\_gelu - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-fast_gelu.md - Description: 快速高斯误差线性单元激活函数(Fast Gaussian Error Linear Units activation function),对输入的每个元素计算FastGelu。支持FakeTensor模式。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-fast_gelu_md.md ## (beta)torch\_npu.npu\_alloc\_float\_status - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_alloc_float_status.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_alloc_float_status_md.md ## (beta)torch\_npu.npu\_anchor\_response\_flags - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_anchor_response_flags.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_anchor_response_flags_md.md ## (beta)torch\_npu.npu\_apply\_adam - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_apply_adam.md - Description: 获取Adam优化器的计算结果。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_apply_adam_md.md ## (beta)torch\_npu.npu\_batch\_nms - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_batch_nms.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_batch_nms_md.md ## (beta)torch\_npu.npu\_bert\_apply\_adam - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_bert_apply_adam.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_bert_apply_adam_md.md ## (beta)torch\_npu.npu\_bmmV2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_bmmV2.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_bmmV2_md.md ## (beta)torch\_npu.npu\_bounding\_box\_decode - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_bounding_box_decode.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_bounding_box_decode_md.md ## (beta)torch\_npu.npu\_bounding\_box\_encode - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_bounding_box_encode.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_bounding_box_encode_md.md ## (beta)torch\_npu.npu\_broadcast - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_broadcast.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_broadcast_md.md ## (beta)torch\_npu.npu\_ciou - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_ciou.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_ciou_md.md ## (beta)torch\_npu.npu\_clear\_float\_status - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_clear_float_status.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_clear_float_status_md.md ## (beta)torch\_npu.npu\_confusion\_transpose - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_confusion_transpose.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_confusion_transpose_md.md ## (beta)torch\_npu.npu\_conv\_transpose2d - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_conv_transpose2d.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_conv_transpose2d_md.md ## (beta)torch\_npu.npu\_conv2d - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_conv2d.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_conv2d_md.md ## (beta)torch\_npu.npu\_conv3d - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_conv3d.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_conv3d_md.md ## (beta)torch\_npu.npu\_convolution\_transpose - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_convolution_transpose.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_convolution_transpose_md.md ## (beta)torch\_npu.npu\_convolution - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_convolution.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_convolution_md.md ## (beta)torch\_npu.npu\_deformable\_conv2d - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_deformable_conv2d.md - Description: - API功能:使用预期输入计算变形卷积(deformable convolution)的输出。 - 计算公式: 假定输入(self)的shape是\[N, inC, inH, inW\],输出(out)的shape为\[N, outC, outH, outW\],根据已有参数计算outH、outW: $$ outH \= \(inH + padding\[0\] + padding\[1\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_deformable_conv2d_md.md ## (beta)torch\_npu.npu\_diou - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_diou.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_diou_md.md ## (beta)torch\_npu.npu\_dropout\_with\_add\_softmax - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_dropout_with_add_softmax.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_dropout_with_add_softmax_md.md ## (beta)torch\_npu.npu\_dtype\_cast - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_dtype_cast.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_dtype_cast_md.md ## (beta)torch\_npu.npu\_format\_cast\_ - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_format_cast_.md - Description: 原地修改`input`的数据格式为目标格式。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_format_cast__md.md ## (beta)torch\_npu.npu\_format\_cast - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_format_cast.md - Description: 修改`input`的数据格式为目标格式,修改后的新张量不会替换原有张量。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_format_cast_md.md ## (beta)torch\_npu.npu\_fused\_attention\_score - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_fused_attention_score.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_fused_attention_score_md.md ## (beta)torch\_npu.npu\_get\_float\_status - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_get_float_status.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_get_float_status_md.md ## (beta)torch\_npu.npu\_giou - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_giou.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_giou_md.md ## (beta)torch\_npu.npu\_grid\_assign\_positive - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_grid_assign_positive.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_grid_assign_positive_md.md ## (beta)torch\_npu.npu\_gru - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_gru.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_gru_md.md ## (beta)torch\_npu.npu\_indexing - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_indexing.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_indexing_md.md ## (beta)torch\_npu.npu\_iou - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_iou.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_iou_md.md ## (beta)torch\_npu.npu\_layer\_norm\_eval - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_layer_norm_eval.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_layer_norm_eval_md.md ## (beta)torch\_npu.npu\_linear - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_linear.md - Description: 将矩阵“a”乘以矩阵“b”,生成“ab”。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_linear_md.md ## (beta)torch\_npu.npu\_lstm - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_lstm.md - Description: 计算LSTM(长短期记忆网络)前向传播。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_lstm_md.md ## (beta)torch\_npu.npu\_max - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_max.md - Description: 使用dim对最大结果进行计算。类似于torch.max,优化NPU设备实现。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_max_md.md ## (beta)torch\_npu.npu\_min - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_min.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_min_md.md ## (beta)torch\_npu.npu\_mish - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_mish.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_mish_md.md ## (beta)torch\_npu.npu\_multi\_head\_attention - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_multi_head_attention.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_multi_head_attention_md.md ## (beta)torch\_npu.npu\_nms\_rotated - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_nms_rotated.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_nms_rotated_md.md ## (beta)torch\_npu.npu\_nms\_v4 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_nms_v4.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_nms_v4_md.md ## (beta)torch\_npu.npu\_nms\_with\_mask - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_nms_with_mask.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_nms_with_mask_md.md ## (beta)torch\_npu.npu\_one\_hot - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_one_hot.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_one_hot_md.md ## (beta)torch\_npu.npu\_pad - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_pad.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_pad_md.md ## (beta)torch\_npu.npu\_ps\_roi\_pooling - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_ps_roi_pooling.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_ps_roi_pooling_md.md ## (beta)torch\_npu.npu\_ptiou - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_ptiou.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_ptiou_md.md ## (beta)torch\_npu.npu\_random\_choice\_with\_mask - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_random_choice_with_mask.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_random_choice_with_mask_md.md ## (beta)torch\_npu.npu\_reshape - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_reshape.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_reshape_md.md ## (beta)torch\_npu.npu\_rms\_norm - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_rms_norm.md - Description: - API功能:RMSNorm算子是大模型常用的归一化操作,相比LayerNorm算子,其去掉了减去均值的部分。 - 计算公式: $$ \\operatorname\{RmsNorm\}\(xi\)\=\\frac\{xi\}\{\\operatorname\{Rms\}\(\\mathbf\{x\}\)\} gi $$ $$ \\operatorname\{Rms\}\(\\mathbf\{x\}\)\=\\sqrt\{\\frac\{1 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_rms_norm_md.md ## (beta)torch\_npu.npu\_roi\_align - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_roi_align.md - Description: 从特征图中获取ROI特征矩阵。自定义Faster R-CNN算子。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_roi_align_md.md ## (beta)torch\_npu.npu\_rotated\_iou - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_rotated_iou.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_rotated_iou_md.md ## (beta)torch\_npu.npu\_rotated\_overlaps - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_rotated_overlaps.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_rotated_overlaps_md.md ## (beta)torch\_npu.npu\_sign\_bits\_pack - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_sign_bits_pack.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_sign_bits_pack_md.md ## (beta)torch\_npu.npu\_sign\_bits\_unpack - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_sign_bits_unpack.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_sign_bits_unpack_md.md ## (beta)torch\_npu.npu\_silu - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_silu.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_silu_md.md ## (beta)torch\_npu.npu\_slice - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_slice.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_slice_md.md ## (beta)torch\_npu.npu\_softmax\_cross\_entropy\_with\_logits - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_softmax_cross_entropy_with_logits.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_softmax_cross_entropy_with_logits_md.md ## (beta)torch\_npu.npu\_sort\_v2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_sort_v2.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_sort_v2_md.md ## (beta)torch\_npu.npu\_swiglu - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_swiglu.md - Description: - API功能:Swish门控线性单元激活函数,实现张量`input`的swiglu计算。 - 计算公式: 公式中$x$是输入参数`input`的Tensor。$dim$是切分维度,默认为-1。$A$和$B$是`input`沿`dim`维度切分的Tensor。A表示前半部分张量,B表示后半部分张量。 $$ outputs\=swiglu\(x,dim\=-1\)\=swish\(A\) - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_swiglu_md.md ## (beta)torch\_npu.npu\_transpose - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_transpose.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_transpose_md.md ## (beta)torch\_npu.npu\_yolo\_boxes\_encode - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-npu_yolo_boxes_encode.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-npu_yolo_boxes_encode_md.md ## (beta)torch\_npu.one\_ - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/%EF%BC%88beta%EF%BC%89torch_npu-one_.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_betatorch_npu-one__md.md ## torch\_npu接口列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu_list.md - Description: 本章节包含常用自定义接口,包括创建Tensor及计算类操作。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu_list_md.md ## torch\_npu.npu\_apply\_rotary\_pos\_emb - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-apply_rotary_pos_emb.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-apply_rotary_pos_emb_md.md ## torch\_npu.empty\_with\_swapped\_memory - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-empty_with_swapped_memory.md - Description: 申请一个device信息为NPU且实际内存在host侧的`tensor`。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-empty_with_swapped_memory_md.md ## torch\_npu.erase\_stream - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-erase_stream.md - Description: - tensor通过recordstream在内存池上添加标记后,该标记已被stream使用,可以通过该接口移除该标记。 - 多流之间的内存可以复用,默认通过recordstream标记内存池,防止复用的内存被提前还给内存池而出现踩踏行为。内存池在每次内存申请时,通过query device上的event来确定算子是否已经被执行完,可以安全释放了。但是这种host和device结合的机制会出现副作 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-erase_stream_md.md ## torch.npu.get\_device\_limit - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-get_device_limit.md - Description: - 通过该接口,获取指定Device上的资源限制。 - 当前支持资源类型为Cube Core、Vector Core。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-get_device_limit_md.md ## torch.npu.get\_stream\_limit - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-get_stream_limit.md - Description: - 通过该接口,获取指定Stream的Device资源限制。 - 若没有调用`torch.npu.setstreamlimit`接口设置Device资源限制,则调用本接口获取到的Device资源优先级为:当前进程的Device资源限制(调用`torch.npu.setdevicelimit`接口设置)> 硬件默认资源限制。 - 当前支持资源类型为Cube Core、Vector Core。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-get_stream_limit_md.md ## torch\_npu.matmul\_checksum - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-matmul_checksum.md - Description: 提供基于原生torch.matmul和Tensor.matmul接口的aicore错误硬件故障检测接口。内部执行矩阵计算结果校验过程,并对校验误差和实时计算的校验门限进行对比,判断校验误差是否超过门限,若超过则认为发生了aicore错误。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-matmul_checksum_md.md ## torch\_npu.npu\_add\_quant\_matmul\_ - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_add_quant_matmul_.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_add_quant_matmul__md.md ## torch\_npu.npu\_add\_rms\_norm\_dynamic\_quant - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_add_rms_norm_dynamic_quant.md - Description: - API功能:RMSNorm算子是大模型常用的归一化操作,相比LayerNorm算子,其去掉了减去均值的部分。DynamicQuant算子则是为输入张量进行对称动态量化的算子。AddRmsNormDynamicQuant算子将RMSNorm前的Add算子和RMSNorm归一化输出给到的1个或2个DynamicQuant算子融合起来,减少搬入搬出操作。 - 计算公式: $$ x\=x\{1\}+ - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_add_rms_norm_dynamic_quant_md.md ## torch\_npu.npu\_add\_rms\_norm\_quant - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_add_rms_norm_quant.md - Description: - API功能:RMSNorm是大模型常用的标准化操作,相比LayerNorm其去掉了减去均值的部分。torchnpu.npuaddrmsnormquant算子将RMSNorm前的Add算子以及RMSNorm后的Quantize算子融合起来,减少搬入搬出操作。 - 计算公式: - AddRMSNorm计算过程: $$ xi\=\{x1\}+\{x2\} $$ $$ y\=\\operat - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_add_rms_norm_quant_md.md ## torch\_npu.npu\_add\_rms\_norm - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_add_rms_norm.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_add_rms_norm_md.md ## torch\_npu.npu\_advance\_step\_flashattn - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_advance_step_flashattn.md - Description: - API功能:在NPU上实现vLLM库中advancestepflashattn的功能,在每个生成步骤中原地更新`inputtokens`,`inputpositions`,`seqlens`和`slotmapping`。 - 非投机场景计算公式:$blockIdx$是当前代码被执行的核的索引。 $$ blockTablesStride \= blockTables.strid - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_advance_step_flashattn_md.md ## torch\_npu.npu\_all\_gather\_base\_mm - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_all_gather_base_mm.md - Description: - API功能:TP切分(Tensor Parallelism,张量并行)场景下,融合`allgather`和`matmul`,实现通信和计算流水并行。 - 计算公式: $x1$代表输入`x1` 基础场景: $$ output \= allgather\(x1\) \\mathbin\{@\} x2 + bias $$ $$ gatherout \= al - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_all_gather_base_mm_md.md ## torch\_npu.npu\_alltoallv\_gmm - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_alltoallv_gmm.md - Description: - API功能:MoE(Mixture of Experts,混合专家模型)网络中,完成路由专家AlltoAllv、Permute、GroupedMatMul融合并实现与共享专家MatMul并行融合,先通信后计算。 - 路由专家计算公式: $$ataout \= AlltoAllv\(gmmx\)$$ $$permuteout \= Permute\(ataout\)$$ $$gmmy - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_alltoallv_gmm_md.md ## torch\_npu.npu\_alltoallv\_quant\_gmm - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_alltoallv_quant_gmm.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_alltoallv_quant_gmm_md.md ## torch\_npu.npu\_anti\_quant - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_anti_quant.md - Description: - API功能:对张量`x`进行反量化操作,即将量化后的整数恢复为浮点数。反量化是量化的逆过程,用于将低精度整数(如int8)转换回高精度浮点数。 - 计算公式:其中`out`是输出张量,`x`是量化后的输入,`scale`是缩放因子,`offset`是偏移量。 - 当`offset`存在时: $out \= \(x + offset\) scale$ - 当`offset - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_anti_quant_md.md ## torch\_npu.npu\_attention\_to\_ffn - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_attention_to_ffn.md - Description: 将Attention节点上数据发往FFN节点。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_attention_to_ffn_md.md ## torch\_npu.npu\_attention\_update - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_attention_update.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_attention_update_md.md ## torch\_npu.npu\_block\_sparse\_attention - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_block_sparse_attention.md - Description: - API功能:BlockSparseAttention,即稀疏注意力计算,支持块级稀疏模式,通过`blocksparsemask`指定每个Q块选择的KV块,实现高效稀疏注意力。 - 计算公式:稀疏块大小为blockShapeX × blockShapeY,`blocksparsemask`指定稀疏模式: $$ attentionOut \= Softmax\(scale \\cdot query \\c - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_block_sparse_attention_md.md ## torch\_npu.npu\_chunk\_gated\_delta\_rule - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_chunk_gated_delta_rule.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_chunk_gated_delta_rule_md.md ## torch\_npu.npu\_clipped\_swiglu - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_clipped_swiglu.md - Description: - API功能:带截断的Swish门控线性单元激活函数,实现`x`的变体SwiGLU计算。本接口相较于torchnpu.npuswiglu,新增了部分输入参数:`groupindex`、`alpha`、`limit`、`bias`、`interleaved`,用于支持GPT-OSS模型使用的变体SwiGLU以及MoE模型使用的分组场景。 - 计算公式: 对给定的输入张量`x`,其维度为\[a - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_clipped_swiglu_md.md ## torch\_npu.npu\_convert\_weight\_to\_int4pack - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_convert_weight_to_int4pack.md - Description: 将`int32`类型的输入`tensor`打包为`int4`存放,每8个`int4`数据通过一个`int32`数据承载,并进行交错排放。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_convert_weight_to_int4pack_md.md ## torch\_npu.npu\_cross\_entropy\_loss - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_cross_entropy_loss.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_cross_entropy_loss_md.md ## torch\_npu.npu\_dense\_lightning\_indexer\_grad\_kl\_loss - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_dense_lightning_indexer_grad_kl_loss.md - Description: - API功能:该接口实现了Lightning Indexer组件warmup阶段训练的反向梯度计算,并融合了Loss的计算。 - 相比较于`npusparselightningindexergradklloss`接口,此API适用于稠密场景,其输入`key`、`keyindex`不用做稀疏化处理。 - 与`npudenselightningindexersoftmaxlse` - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_dense_lightning_indexer_grad_kl_loss_md.md ## torch\_npu.npu\_dense\_lightning\_indexer\_softmax\_lse - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_dense_lightning_indexer_softmax_lse.md - Description: - API功能:是`npudenselightningindexergradklloss`接口的前置接口,通过把Lightning Indexer组件的Softmax求最大值和求和运算提前来降低接口的显存占用。 - 计算公式: $$ res\=\\text\{AttentionMask\}\\left\(\\text\{ReduceSum\}\\left\(W\\odot\\text\{ReLU\}\\left\(\\tilde\{Q - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_dense_lightning_indexer_softmax_lse_md.md ## torch\_npu.npu\_dequant\_swiglu\_quant - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_dequant_swiglu_quant.md - Description: - API功能:对张量`x`做dequant反量化+swiglu激活+quant量化操作,同时支持分组。 - 计算公式: - group分组(目前仅支持count模式): 对输入`x`进行分组计算,`groupindex`表示每个group分组的Tokens数,每组使用不同的量化scale(如`weightscale`、`activationscale`、`quantsca - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_dequant_swiglu_quant_md.md ## torch\_npu.npu\_dynamic\_block\_quant - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_dynamic_block_quant.md - Description: - API功能:对输入张量,通过给定的`rowblocksize`和`colblocksize`将输入划分成多个数据块,以数据块为基本粒度进行量化。在每个块中,先计算出当前块对应的量化参数`scale`,并根据`scale`对输入进行量化。输出最终的量化结果,以及每个块的量化参数`scale`。 - 计算公式: $$ inputmax \= blockreducemax\(abs\(x\)\) - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_dynamic_block_quant_md.md ## torch\_npu.npu\_dynamic\_dual\_level\_mx\_quant - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_dynamic_dual_level_mx_quant.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_dynamic_dual_level_mx_quant_md.md ## torch\_npu.npu\_dynamic\_quant\_asymmetric - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_dynamic_quant_asymmetric.md - Description: - API功能: 对输入的张量进行动态非对称量化。当前版本仅支持pertoken模式,pertensor模式暂不支持,支持MoE(Mixture of Experts,混合专家模型)场景。 - 计算公式: pertoken模式下,rowMax、rowMin代表按行取最大值、按行取最小值,此处的“行”对应`x`最后一个维度的数据,即一个token。DSTMAX、DSTMIN - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_dynamic_quant_asymmetric_md.md ## torch\_npu.npu\_dynamic\_quant - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_dynamic_quant.md - Description: - API功能:对输入的张量进行pertoken对称动态量化。 如果是MoE(Mixture of Experts,混合专家模型)场景,会引入`groupindex`,`smoothscales`中包含多组smooth向量,按`groupindex`中的数值作用到`x`的不同行上。具体地,假如`x`包含m个token,`smoothscales`有n行,`smoothscales\[0\]`会 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_dynamic_quant_md.md ## torch\_npu.npu\_fast\_gelu - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_fast_gelu.md - Description: - API功能:快速高斯误差线性单元激活函数(Fast Gaussian Error Linear Units activation function),对输入的每个元素计算`FastGelu`的前向结果。 - 计算公式: - Atlas 训练系列产品、Atlas 推理系列产品上,计算公式如下: $$ fastgelu\(x\)\=\\frac\{x\}\{1+e^\{-1.702 \\mid x\\mi - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_fast_gelu_md.md ## torch\_npu.npu\_ffn\_to\_attention - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_ffn_to_attention.md - Description: 将FFN节点上的数据发往Attention节点。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_ffn_to_attention_md.md ## torch\_npu.npu\_ffn - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_ffn.md - Description: - API功能:FFN算子提供MoeFFN和FFN的计算功能。在没有专家分组(`experttokens`为空)时是FFN,有专家分组(`experttokens`不为空)时是MoeFFN。 - 计算公式: activation表示使用的激活函数,$W1$和$W2$对应输入参数的`weight1`和`weight2`,$b1$和$b2$对应输入参数的`bias1`和`bias2`。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_ffn_md.md ## torch\_npu.npu\_fused\_causal\_conv1d - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_fused_causal_conv1d.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_fused_causal_conv1d_md.md ## torch\_npu.npu\_fused\_floyd\_attention - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_fused_floyd_attention.md - Description: - API功能:训练场景下,npufusedfloydattention相较于传统FA\(npufusionattention\)主要是计算QK/PV注意力时,会额外将维度\(seq\)作为batch轴处理,从而将注意力计算转换为批量矩阵乘法\(batchMatmul\)。 - 计算公式: $$ \\text\{weights\} \= \\text\{Softmax\}\\left\(\\text\{attenmask\} + \\ - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_fused_floyd_attention_md.md ## torch\_npu.npu\_fused\_infer\_attention\_score\_v2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_fused_infer_attention_score_v2.md - Description: - API功能:适配增量&全量推理场景的FlashAttention算子,既可以支持全量计算场景(PromptFlashAttention),也可支持增量计算场景(IncreFlashAttention)。当不涉及system prefix、左padding、kv量化参数合一、pertensor全量化的场景,推荐使用本接口,否则使用老接口`npufusedinferattentionscore`。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_fused_infer_attention_score_v2_md.md ## torch\_npu.npu\_fused\_infer\_attention\_score - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_fused_infer_attention_score.md - Description: - API功能:适配增量&全量推理场景的FlashAttention算子,既可以支持全量计算场景(PromptFlashAttention),也可支持增量计算场景(IncreFlashAttention)。当`query`矩阵的S为1,进入IncreFlashAttention分支,其余场景进入PromptFlashAttention分支。支持的两种场景如下。 - PromptFlashAtt - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_fused_infer_attention_score_md.md ## torch\_npu.npu\_fusion\_attention\_v3 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_fusion_attention_v3.md - Description: 实现“Transformer Attention Score”的融合计算,实现的计算公式如下: $$ attentionout \= Dropout\(Softmax\(Mask\(scale\(pse+querykey^T\), attenmask\)\), keepprob\)value $$ 该接口为`torchnpu.npufusionattention`支持图模式的版本,aclgraph支持`inputl - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_fusion_attention_v3_md.md ## torch\_npu.npu\_fusion\_attention - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_fusion_attention.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_fusion_attention_md.md ## torch\_npu.npu\_gather\_sparse\_index - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_gather_sparse_index.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_gather_sparse_index_md.md ## torch\_npu.npu\_gelu\_mul - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_gelu_mul.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_gelu_mul_md.md ## torch\_npu.npu\_gelu - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_gelu.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_gelu_md.md ## torch\_npu.npu\_gmm\_alltoallv - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_gmm_alltoallv.md - Description: - API功能:MoE网络中,完成路由专家GroupedMatMul、AlltoAllv融合并实现与共享专家MatMul并行融合,先计算后通信。 - 路由专家计算公式: $$ \\begin\{aligned\} &\\text\{gmmy\}\=\\operatorname\{GroupedMatMul\}\(\\text\{gmmx\},\\ \\text\{gmmweight\}\) \\ &\\te - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_gmm_alltoallv_md.md ## torch\_npu.npu\_group\_norm\_silu - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_group_norm_silu.md - Description: - API功能:对输入张量`input`依次执行GroupNorm和SiLU激活,返回三个张量:out(SiLU激活后的输出)、meanOut(归一化均值)、rstdOut(归一化标准差的倒数)。 - 计算公式: - GroupNorm:$x$为输入`input`,$\\gamma$和$\\beta$分别代表输入`weight`和`bias`,$E\[x\] \= \\bar\{x\}$代表$x$的均值, - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_group_norm_silu_md.md ## torch\_npu.npu\_group\_norm\_swish - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_group_norm_swish.md - Description: - API功能:计算输入`input`的组归一化结果`y`、均值`mean`、标准差的倒数`rstd`,以及swish的输出。 - 计算公式: - GroupNorm: 公式中的$x$代表`input`, $E\[x\] \= \\bar\{x\}$ 代表$x$的均值,$Var\[x\] \= \\frac\{1\}\{n\} \\sum\{i\=1\}^\{n\} \(xi - E\[x\]\)^2$ 代表$x$的方差,$\\gamma$ - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_group_norm_swish_md.md ## torch\_npu.npu\_group\_quant - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_group_quant.md - Description: - API功能:对输入的张量进行分组量化操作。 - 计算公式:公式中$offsetOptional$对应可选参数`offset`。 $$ y\=round\(\(xscale\)+offsetOptional\) $$ - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_group_quant_md.md ## torch\_npu.npu\_grouped\_dynamic\_block\_quant - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_grouped_dynamic_block_quant.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_grouped_dynamic_block_quant_md.md ## torch\_npu.npu\_grouped\_matmul\_finalize\_routing - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_grouped_matmul_finalize_routing.md - Description: GroupedMatMul和MoeFinalizeRouting的融合算子,其中,GroupedMatMul负责分专家计算,MoeFinalizeRouting负责按路由关系回填并聚合GroupedMatMul结果,两者串联形成完整的MoE输出路径。 - MoE: Mixture of Experts,混合专家模型。每个token按路由结果分配到一个或多个专家进行计算。 - MoeFinalize - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_grouped_matmul_finalize_routing_md.md ## torch\_npu.npu\_grouped\_matmul\_swiglu\_quant\_v2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_grouped_matmul_swiglu_quant_v2.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_grouped_matmul_swiglu_quant_v2_md.md ## torch\_npu.npu\_grouped\_matmul - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_grouped_matmul.md - Description: - API功能:`npugroupedmatmul`是一种对多个矩阵乘法(matmul)操作进行分组计算的高效方法。该API实现了对多个矩阵乘法操作的批量处理,通过将具有相同形状或相似形状的矩阵乘法操作组合在一起,减少内存访问开销和计算资源的浪费,从而提高计算效率。如 $yi\[mi, ni\] \= xi\[mi, ki\] imes weighti\[ki, ni\], i \= 1 \\ldots g$ - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_grouped_matmul_md.md ## torch\_npu.npu\_incre\_flash\_attention - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_incre_flash_attention.md - Description: - API功能:增量FA实现。 - 计算公式: $$ attenout \= \\text\{softmax\}\(scalevalue \(query \\mathbin\{@\} key^\\top\) + attenmask\) \\mathbin\{@\} value $$ - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_incre_flash_attention_md.md ## torch\_npu.npu\_interleave\_rope - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_interleave_rope.md - Description: - API功能:针对单输入`x`进行旋转位置编码。 - 计算公式: $$q \= \\text\{reshape\}\(x, \[B, N, S, D/2, 2\]\).\\text\{transpose\}\(-1, -2\).\\text\{reshape\}\(\[B, N, S, D\]\)$$ $$q\{\\text\{embed\}\} \= q \\cdot \\cos + \\text\{RotateHalf\}\(q\) \\cd - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_interleave_rope_md.md ## torch\_npu-npu\_kv\_quant\_sparse\_flash\_attention - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_kv_quant_sparse_flash_attention.md - Description: - API功能:`kvquantsparseflashattention`在`sparseflashattention`的基础上支持了\[Per-Token-Head-Tile-128量化\]输入。随着大模型上下文长度的增加,Sparse Attention的重要性与日俱增,这一技术通过“只计算关键部分”大幅减少计算量,然而会引入大量的离散访存,造成数据搬运时间增加,进而影响整体性能。 - 计算公式: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_kv_quant_sparse_flash_attention_md.md ## torch\_npu.npu\_kv\_rmsnorm\_rope\_cache - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_kv_rmsnorm_rope_cache.md - Description: - API功能:融合了MLA(Multi-head Latent Attention)结构中RMSNorm归一化计算与RoPE(Rotary Position Embedding)位置编码以及更新KVCache的ScatterUpdate操作。 - MLA(Multi-head Latent Attention): 一种DeepSeek-V2提出的高效注意力机制,通过低秩潜在表 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_kv_rmsnorm_rope_cache_md.md ## torch\_npu.npu\_lightning\_indexer - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_lightning_indexer.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_lightning_indexer_md.md ## torch\_npu.npu\_masked\_causal\_conv1d - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_masked_causal_conv1d.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_masked_causal_conv1d_md.md ## torch\_npu.npu\_mhc\_post - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_mhc_post.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_mhc_post_md.md ## torch\_npu.npu\_mhc\_pre - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_mhc_pre.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_mhc_pre_md.md ## torch\_npu.npu\_mhc\_sinkhorn - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_mhc_sinkhorn.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_mhc_sinkhorn_md.md ## torch\_npu.npu\_mla\_prolog\_v2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_mla_prolog_v2.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_mla_prolog_v2_md.md ## torch\_npu.npu\_mla\_prolog\_v3 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_mla_prolog_v3.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_mla_prolog_v3_md.md ## torch\_npu.npu\_mla\_prolog - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_mla_prolog.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_mla_prolog_md.md ## torch\_npu.npu\_mm\_all\_reduce\_base - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_mm_all_reduce_base.md - Description: - API功能:TP切分(Tensor Parallelism,张量并行)场景下,实现mm和allreduce的融合,融合算子内部实现计算和通信流水并行。 - 计算公式: $$ output \= allreduce\\left\(x1 \\mathbin\{@\} \\left\(\(x2 + antiquantOffset\) antiquantScale\\right\) + bias + x3\\ - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_mm_all_reduce_base_md.md ## torch\_npu.npu\_mm\_reduce\_scatter\_base - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_mm_reduce_scatter_base.md - Description: - API功能:TP切分场景下,实现matmul和reducescatter的融合,融合算子内部实现计算和通信流水并行。支持如下两种量化方式: - perchannel 量化:针对权重(Weight)张量,沿输出特征维度(Output Channel)为每个通道维护独立的缩放因子与零点。 - pertoken 量化:针对激活(Activation)张量,沿序列长度维度(Sequen - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_mm_reduce_scatter_base_md.md ## torch\_npu.npu\_moe\_compute\_expert\_tokens - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_moe_compute_expert_tokens.md - Description: - API功能:MoE(Mixture of Experts,混合专家模型)计算中,通过二分查找的方式查找每个专家处理的最后一行的位置。 - 计算公式: $$ expertTokensi \= BinarySearch\(sortedExpertForSourceRow,numExpert\) $$ - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_moe_compute_expert_tokens_md.md ## torch\_npu.npu\_moe\_distribute\_combine\_add\_rms\_norm - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_moe_distribute_combine_add_rms_norm.md - Description: - API功能: 需与torchnpu.npumoedistributedispatchv2配套使用,相当于按`npumoedistributedispatchv2`算子收集数据的路径原路返回后对数据进行`addrmsnorm`操作。 与torchnpu.npumoedistributedispatchv2的参数配对关系见参数说明和约束说明。 > \[\!NOTE\] > - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_moe_distribute_combine_add_rms_norm_md.md ## torch\_npu.npu\_moe\_distribute\_combine\_v2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_moe_distribute_combine_v2.md - Description: - API功能: 需与torchnpu.npumoedistributedispatchv2配套使用,相当于按npumoedistributedispatchv2算子收集数据的路径原路返回。 - 支持数据整合功能,先进行reducescatterv通信,再进行alltoallv通信,最后将接收的数据整合(乘权重再相加); - 支持特殊专家场景。 - 计算公式: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_moe_distribute_combine_v2_md.md ## torch\_npu.npu\_moe\_distribute\_combine - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_moe_distribute_combine.md - Description: - API功能:先进行reducescatterv通信,再进行alltoallv通信,最后将接收的数据整合(乘权重再相加)。需与torchnpu.npumoedistributedispatch配套使用,相当于按npumoedistributedispatch算子收集数据的路径原路返回。 - 计算公式: $$ rsout \= ReduceScatterV\(expandx\)\\ - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_moe_distribute_combine_md.md ## torch\_npu.npu\_moe\_distribute\_dispatch\_v2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_moe_distribute_dispatch_v2.md - Description: - API功能: 需与torchnpu.npumoedistributecombinev2或torchnpu.npumoedistributecombineaddrmsnorm配套使用,完成MoE的并行部署下的token dispatchv2与combinev2。 - 支持动态量化场景,对token数据先进行量化(可选),再进行EP(Expert Parallelism)域的al - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_moe_distribute_dispatch_v2_md.md ## torch\_npu.npu\_moe\_distribute\_dispatch - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_moe_distribute_dispatch.md - Description: - API功能:需与torchnpu.npumoedistributecombine配套使用,完成MoE的并行部署下的token dispatch与combine。对token数据先进行quant量化(可选),再进行EP(Expert Parallelism)域的alltoallv通信,再进行TP(Tensor Parallelism)域的allgatherv通信(可选)。 - 计算公式:$x$ - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_moe_distribute_dispatch_md.md ## torch\_npu.npu\_moe\_finalize\_routing - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_moe_finalize_routing.md - Description: - API功能:在MoE计算的最后,合并MoE FFN\(Feedforward Neural Network\)的输出结果。 - 计算公式: $$ expertid \= expertForSourceRow\[i,k\] \\ out\(i,j\) \= skip1\{i,j\} + skip2Optional\{i,j\} + \\sum\{k\=0\}^\{K\}\(scales\{i,k\} \(expan - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_moe_finalize_routing_md.md ## torch\_npu.npu\_moe\_gating\_top\_k\_softmax - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_moe_gating_top_k_softmax.md - Description: - API功能:在MoE(混合专家模型,Mixture of Experts)架构的门控机制中,用于专家路由计算。对输入`x`做Softmax计算,再做topk操作,以挑选出权重最高的前K个专家。 - 计算公式: $$ softmaxOut \= softmax\(x, axis \= -1\) \\ yOut, expertIdxOut \= topK\(softmaxOut, k \= k\) \\ rowIdx - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_moe_gating_top_k_softmax_md.md ## torch\_npu.npu\_moe\_gating\_top\_k - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_moe_gating_top_k.md - Description: - API功能:MoE计算中,对输入x做Sigmoid/Softmax计算,对计算结果分组进行排序,最后根据分组排序的结果选取前k个专家。 - 计算公式: 对输入做sigmoid(`bias`可选): - 当`normtype`为1时: - 当`normtype`为0时: 对计算结果按照`groupcount`进行分组: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_moe_gating_top_k_md.md ## torch\_npu.npu\_moe\_init\_routing\_v2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_moe_init_routing_v2.md - Description: - API功能:MoE(Mixture of Experts)的routing计算,根据torchnpu.npumoegatingtopksoftmax的计算结果做routing处理,支持不量化、动态量化和静态量化模式。 - 计算公式: 1. 对输入expertIdx做排序,得出排序后的结果sortedExpertIdx和对应的序号sortedRowIdx: $$ - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_moe_init_routing_v2_md.md ## torch\_npu.npu\_moe\_init\_routing - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_moe_init_routing.md - Description: - API功能:MoE的routing计算,根据torchnpu.npumoegatingtopksoftmax的计算结果做routing处理。 - 计算公式: $$ expandedexpertidx, sortedrowidx \= keyValueSort\(expertidx, rowidx\)\\ expandedrowidx\[sortedrowidx\[i\]\] \= i\\ - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_moe_init_routing_md.md ## torch\_npu.npu\_moe\_re\_routing - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_moe_re_routing.md - Description: - API功能:MoE网络中,进行AlltoAll操作从其他卡上拿到需要算的token后,将token按照专家顺序重新排列。 - MoE 网络:混合专家(Mixture of Experts)网络,每层包含多个并行“专家”子网络,由路由(Routing)模块决定每个token由哪个或哪些专家处理。 - token:模型处理的最小数据单元,通常为词或子词经过嵌入(embedding) - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_moe_re_routing_md.md ## torch\_npu.npu\_moe\_update\_expert - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_moe_update_expert.md - Description: 本API支持负载均衡和专家剪枝功能。经过映射后的专家表和mask可传入MoE层进行数据分发和处理。 - 负载均衡:完成冗余专家部署场景下每个token的topK个专家逻辑卡号到物理卡号的映射。计算方法如下所示: 代码中符号说明:`F`表示`eplbtable`的列数;`ceil\(a, b\)`表示向上取整除法,即$\\lceil a/b \\rceil$。 负载均衡对于`expertids` - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_moe_update_expert_md.md ## torch\_npu.npu\_mrope - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_mrope.md - Description: - API功能:推理场景下将sin、cos以预计算cache形式传入,对`query`、`key`做旋转位置编码(RoPE)。支持普通RoPE(一维`positions`)与多模态MRoPE(二维`positions`,按`mropesection`整合多段位置编码),`cachemode\='default'`为分段式拼接,`cachemode\='interleave'`为交错式拼接。 - 计算公 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_mrope_md.md ## torch\_npu.npu\_prefetch - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_prefetch.md - Description: 提供网络`weight`预取功能,用于在计算执行前将指定的权重数据预先加载到L2 Cache中,减少算子访问这些权重时的访存等待时间。例如,在MatMul等算子之前进行预取,算子执行时可直接从低时延的L2 Cache中读取权重,进而提升算子数据访问与计算效率。实际性能收益取决于用户采用的并行方式和配置。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_prefetch_md.md ## torch\_npu.npu\_prompt\_flash\_attention - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_prompt_flash_attention.md - Description: - API功能:全量FA实现。 - 计算公式: $$ attenout \= softmax\\left\(scale \\cdot \(Q \\cdot K\) + attenmask\\right\) \\cdot V $$ - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_prompt_flash_attention_md.md ## torch\_npu.npu\_quant\_lightning\_indexer - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_quant_lightning_indexer.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_quant_lightning_indexer_md.md ## torch\_npu.npu\_quant\_matmul\_gelu - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_quant_matmul_gelu.md - Description: - API功能:完成量化的矩阵乘和GELU激活函数的融合计算,支持A8W8和A4W4量化。该接口融合了量化矩阵乘和GELU激活,减少内存访问,提升性能。 - 计算公式: - 量化矩阵乘计算: - 当`bias`为`int32`时: $$ qbmmout \= \(x1 \\mathbin\{@\} x2 + \\text\{bias\}\) x2Scale - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_quant_matmul_gelu_md.md ## torch\_npu.npu\_quant\_matmul\_reduce\_sum - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_quant_matmul_reduce_sum.md - Description: - API功能:完成量化的分组矩阵计算,然后所有组的矩阵计算结果相加后输出。 - 计算公式: $$ out \= \\sum\{i\=0\}^\{batch - 1\}\(x1i @ x2i\) x1Scalei x2Scale $$ - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_quant_matmul_reduce_sum_md.md ## torch\_npu.npu\_quant\_matmul - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_quant_matmul.md - Description: - API功能:完成量化的矩阵乘计算,最小支持输入维度为2维,最大支持输入维度为6维。 - 计算公式: - 无`bias`: $$ out \= x1 \\mathbin\{@\} x2 \\text\{scale\} + \\text\{offset\} $$ - `bias`为`int32`: $$ out \= \(x1 \\mathbin\{@\} x2 + \\ - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_quant_matmul_md.md ## torch\_npu.npu\_quant\_scatter\_ - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_quant_scatter_.md - Description: 先将`updates`进行量化,然后将`updates`中的值按指定的轴`axis`和索引`indices`更新`input`中的值,`input`中的数据被改变。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_quant_scatter__md.md ## torch\_npu.npu\_quant\_scatter - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_quant_scatter.md - Description: 先将`updates`进行量化,然后将`updates`中的值按指定的轴`axis`和索引`indices`更新`input`中的值,并将结果保存到输出tensor,`input`本身的数据不变。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_quant_scatter_md.md ## torch\_npu.npu\_quantize - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_quantize.md - Description: - API功能:对输入的张量进行量化处理。 - 计算公式: - 若`divmode`为`True`: $$ result\=\(input/scales\)+zeropoints $$ - 若`divmode`为`False`: $$ result\=\(inputscales\)+zeropoints - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_quantize_md.md ## torch\_npu.npu\_recurrent\_gated\_delta\_rule - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_recurrent_gated_delta_rule.md - Description: - API功能:该接口实现了变步长Recurrent Gated Delta Rule(RGDR)的计算逻辑,是Transformer线性注意力机制的关键算子之一。通过引入门控机制与递归更新策略,RGDR能够在保持线性时间复杂度的同时,有效捕捉长距离依赖关系,显著降低模型对序列长度的敏感性。 - 计算公式: 在每个时间步 $t$,网络根据当前的输入 $qt$、$kt$、$vt$ 和上一个隐藏状 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_recurrent_gated_delta_rule_md.md ## torch\_npu.npu\_rms\_norm\_quant - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_rms_norm_quant.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_rms_norm_quant_md.md ## torch\_npu.npu\_rotary\_mul - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_rotary_mul.md - Description: - API功能:实现Rotary Position Embedding \(RoPE\) 旋转位置编码,通过对输入特征进行二维平面旋转注入位置信息。 - 计算公式: $$ output \= x cos + rotate\(x\) sin $$ 其中$x$是输入`input`,$cos$和$sin$分别是旋转系数输入`r1`和`r2`,输入rotate支持两种计算模 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_rotary_mul_md.md ## torch\_npu.npu\_rotate\_quant - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_rotate_quant.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_rotate_quant_md.md ## torch\_npu.npu\_scaled\_masked\_softmax - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_scaled_masked_softmax.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_scaled_masked_softmax_md.md ## torch\_npu.npu\_scatter\_nd\_update\_ - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_scatter_nd_update_.md - Description: 将`updates`中的值按指定的索引`indices`更新`input`中的值,并将结果保存到输出tensor,`input`中的数据被改变。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_scatter_nd_update__md.md ## torch\_npu.npu\_scatter\_nd\_update - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_scatter_nd_update.md - Description: 将`updates`中的值按指定的索引`indices`更新`input`中的值,并将结果保存到输出tensor,`input`本身的数据不变。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_scatter_nd_update_md.md ## torch\_npu.npu\_scatter\_pa\_kv\_cache - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_scatter_pa_kv_cache.md - Description: 更新KVCache中指定位置的`key`和`value`。 输入输出支持以下场景: - 场景一: ```python key:\[batch, numhead, kheadsize\] value:\[batch, numhead, vheadsize\] keycache:\[numblocks, numhead kheadsize // lastdimk, blocks - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_scatter_pa_kv_cache_md.md ## torch\_npu.npu\_sim\_exponential\_ - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_sim_exponential_.md - Description: - API功能:根据参数`lambd`生成指数分布随机数,并原地填充至输入张量`input`。 - 计算公式: $$f\(x\) \= -1/λ ln\(1-u\), u ~ Uniform\(0, 1\]$$ - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_sim_exponential__md.md ## 注意:此处使用 random.sample 仅为演示目的,生产环境中应使用稀疏选择算法(如 lightning\_indexer)生成 sparse\_indices - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_sparse_flash_attention.md - Description: idxs \= random.sample\(range\(s2\_act - s1 + 1\), sparse\_block\_count\) - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_sparse_flash_attention_md.md ## torch\_npu.npu\_sparse\_lightning\_indexer\_grad\_kl\_loss - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_sparse_lightning_indexer_grad_kl_loss.md - Description: - API功能:该接口实现了npulightningindexer的反向功能,并融合了Loss的计算。npulightningindexer用于筛选Attention的`query`与`key`间最高内在联系的Top-k项,存放在`sparseindices`中,以减少长序列场景下的Attention计算量,提升训练性能。 - 计算公式: 1. Top-k value的计算公式: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_sparse_lightning_indexer_grad_kl_loss_md.md ## torch\_npu.npu\_swiglu\_quant - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_swiglu_quant.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_swiglu_quant_md.md ## torch\_npu.npu\_top\_k\_top\_p\_sample - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_top_k_top_p_sample.md - Description: - API功能: 根据输入词频`logits`、`topk`/`topp`/`minps`采样参数、随机采样权重分布`q`,进行topK-topP-minP-Sample采样计算,输出每个batch的最大词频`logitsselectidx`,以及topK-topP采样后的词频分布`logitstopkpselect`。 算子包含4个可单独开启,但上下游处理关系保持不变的采样算法(从原始输 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_top_k_top_p_sample_md.md ## torch\_npu.npu\_top\_k\_top\_p - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_top_k_top_p.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_top_k_top_p_md.md ## torch\_npu.npu\_trans\_quant\_param - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_trans_quant_param.md - Description: - API功能:完成量化计算参数`scale`数据类型的转换,将`float32`数据按照bit位存储进一个`int64`数据里。 - 计算公式: 1. `out`为64位格式,初始为0。 2. 根据`roundmode`将`scale`从`float32`转换为FP19: - 若`roundmode`为0(截断填充模式,默认值):不对`scale`做RINT舍入。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_trans_quant_param_md.md ## torch\_npu.npu\_transpose\_batchmatmul - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_transpose_batchmatmul.md - Description: - API功能:完成张量`input`与张量`weight`的矩阵乘计算。仅支持三维的Tensor传入。Tensor支持转置,转置序列根据传入的数列进行变更。`permx1`代表张量input的转置序列,`permx2`代表张量weight的转置序列,序列值为0的是batch维度,其余两个维度做矩阵乘法。 - 计算公式: - 非量化融合: $$ Y \= \(input^\{T1 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_transpose_batchmatmul_md.md ## torch\_npu.npu\_transpose\_quant\_batchmatmul - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_transpose_quant_batchmatmul.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_transpose_quant_batchmatmul_md.md ## torch\_npu.npu\_weight\_quant\_batchmatmul - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-npu_weight_quant_batchmatmul.md - Description: - API功能:该接口用于实现矩阵乘计算中`weight`输入和输出的量化操作,支持pertensor、perchannel、pergroup多场景量化。 - 计算公式: $$ y \= x @ ANTIQUANT\(weight\) + bias $$ 公式中的$weight$为伪量化场景的输入,其反量化公式$ANTIQUANT\(weight\)$ 为: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-npu_weight_quant_batchmatmul_md.md ## torch\_npu.print\_npugraph\_tensor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-print_npugraph_tensor.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-print_npugraph_tensor_md.md ## torch.npu.reset\_stream\_limit - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-reset_stream_limit.md - Description: 调用`torch.npu.setstreamlimit`接口设置指定Stream的Device资源限制后,可调用本接口重置指定Stream的Device资源限制,恢复默认配置,此时可通过`torch.npu.getstreamlimit`接口查询默认的资源设置。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-reset_stream_limit_md.md ## torch\_npu.save\_npugraph\_tensor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-save_npugraph_tensor.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-save_npugraph_tensor_md.md ## torch\_npu.scatter\_update\_ - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-scatter_update_.md - Description: 将tensor updates中的值按指定的轴axis和索引indices更新tensor data中的值,并将结果保存到输出tensor,data本身的数据被改变。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-scatter_update__md.md ## torch\_npu.scatter\_update - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-scatter_update.md - Description: 将tensor updates中的值按指定的轴axis和索引indices更新tensor data中的值,并将结果保存到输出tensor,data本身的数据不变。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-scatter_update_md.md ## torch.npu.set\_device\_limit - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-set_device_limit.md - Description: 设置一个进程上指定device执行算子时所使用的cube和vector核数。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-set_device_limit_md.md ## torch.npu.set\_stream\_limit - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu-set_stream_limit.md - Description: - 设置指定Stream的Device资源限制。 - 本接口应在调用`torch.npu.setdevice`接口之后且在算子执行之前调用,如果对同一stream进行多次设置,将以最后一次设置为准。 - 该接口设置完后,可以跨线程传递stream使用。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu-set_stream_limit_md.md ## torch\_npu接口列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/customapi/docs/zh/custom_APIs/torch_npu/torch_npu.md - Description: 本章节包含常用自定义接口,包括创建Tensor及计算类操作。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_customapi_docs_zh_custom_APIs_torch_npu_torch_npu_list_md.md ## \(beta\) TORCH\_HCCL\_ZERO\_COPY - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/%EF%BC%88beta%EF%BC%89TORCH_HCCL_ZERO_COPY.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_betaTORCH_HCCL_ZERO_COPY_md.md ## PyTorch-ACL\_DEVICE\_SYNC\_TIMEOUT - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/ACL_DEVICE_SYNC_TIMEOUT.md - Description: 通过此环境变量可配置设备同步的超时时间。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_ACL_DEVICE_SYNC_TIMEOUT_md.md ## PyTorch-ACL\_OP\_COMPILER\_CACHE\_DIR - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/ACL_OP_COMPILER_CACHE_DIR.md - Description: 通过此环境变量可配置算子编译磁盘缓存的目录。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_ACL_OP_COMPILER_CACHE_DIR_md.md ## PyTorch-ACL\_OP\_COMPILER\_CACHE\_MODE - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/ACL_OP_COMPILER_CACHE_MODE.md - Description: 通过此环境变量可配置算子编译磁盘缓存模式。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_ACL_OP_COMPILER_CACHE_MODE_md.md ## PyTorch-TORCH\_NPU\_DISABLED\_WARNING - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/alarm_message_printing.md - Description: 通过此环境变量可配置是否打印TorchNPU的告警信息。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_TORCH_NPU_DISABLED_WARNING_md.md ## 在进行模型分布式训练时遇到报错“RuntimeError: The Inner Error ...” - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/appendix.md - Description: 配置RANK\_TABLE\_FILE的场景下,在进行模型分布式训练时遇到报错“RuntimeError: The Inner Error ...”,并且打印的operator name是具体的通信算子。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_runtimeerror_Inner_Error_md.md ## PyTorch-ASCEND\_LAUNCH\_BLOCKING - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/ASCEND_LAUNCH_BLOCKING.md - Description: 通过此环境变量可控制算子执行时是否启用同步模式。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_ASCEND_LAUNCH_BLOCKING_md.md ## PyTorch-TORCH\_HCCL\_BLOCKING\_WAIT - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/collective_communication.md - Description: 当使用HCCL作为通信后端时,通过此环境变量可控制`ProcessGroupHCCL`中`wait\(\)`和`synchronize\(\)`的同步模式(阻塞或非阻塞)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_TORCH_HCCL_BLOCKING_WAIT_md.md ## PyTorch-COMBINED\_ENABLE - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/COMBINED_ENABLE.md - Description: 通过此环境变量可设置combined标志。设置为0表示关闭此功能;设置为1表示开启,用于优化两个非连续的算子组合类场景。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_COMBINED_ENABLE_md.md ## PyTorch-CPU\_AFFINITY\_CONF - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/CPU_AFFINITY_CONF.md - Description: TorchNPU可以通过设置环境变量CPU\_AFFINITY\_CONF来开启粗/细粒度绑核。该配置能够避免线程间抢占,提高缓存命中,避免跨NUMA(非一致性内存访问)节点的内存访问,减少任务调度开销,优化任务执行效率。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_CPU_AFFINITY_CONF_md.md ## PyTorch-STREAMS\_PER\_DEVICE - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/device_management.md - Description: 通过此环境变量可配置stream pool的最大流数。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_STREAMS_PER_DEVICE_md.md ## PyTorch-NPU\_ASD\_ENABLE - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/eigenvalue_detection.md - Description: 通过此环境变量可控制是否开启特征值检测功能。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_NPU_ASD_ENABLE_md.md ## 环境变量列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/env_variable_list.md - Description: 本手册描述开发者在TorchNPU训练和在线推理过程中可使用的环境变量。基于CANN构建AI应用和业务过程中使用的环境变量请参考《\[CANN 环境变量参考\]\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/910/maintenref/envvar/envref\_07\_0001.html\)》。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_env_variable_list_md.md ## PyTorch-HCCL\_ASYNC\_ERROR\_HANDLING - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/HCCL_ASYNC_ERROR_HANDLING.md - Description: 当使用HCCL作为通信后端时,通过此环境变量可控制是否开启异步错误处理。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_HCCL_ASYNC_ERROR_HANDLING_md.md ## PyTorch-HCCL\_DESYNC\_DEBUG - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/HCCL_DESYNC_DEBUG.md - Description: 当使用HCCL作为通信后端时,通过此环境变量可控制是否进行通信超时分析。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_HCCL_DESYNC_DEBUG_md.md ## PyTorch-HCCL\_EVENT\_TIMEOUT - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/HCCL_EVENT_TIMEOUT.md - Description: 当使用HCCL作为通信后端时,通过此环境变量可设置等待event完成的超时时间。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_HCCL_EVENT_TIMEOUT_md.md ## (beta)INDUCTOR\_ASCEND\_CHECK\_ACCURACY - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/INDUCTOR_ASCEND_CHECK_ACCURACY.md - Description: INDUCTOR\_ASCEND\_CHECK\_ACCURACY是TorchNPU提供的精度校验工具,在torch.compile图编译后端为“inductor”时自动检测融合算子的数值精度。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_INDUCTOR_ASCEND_CHECK_ACCURACY_md.md ## PyTorch-TORCHINDUCTOR\_NPU\_BACKEND - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/inductor.md - Description: 通过此环境变量可配置图模式(Inductor)下的后端优化策略,支持在Triton、MLIR、DVM等模式之间切换。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_TORCHINDUCTOR_NPU_BACKEND_md.md ## PyTorch-INF\_NAN\_MODE\_ENABLE - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/INF_NAN_MODE_ENABLE.md - Description: 通过此环境变量可控制AI处理器对输入数据为Inf/NaN时的处理方式,即控制AI处理器使用饱和模式还是INF\_NAN模式。默认值为“1”。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_INF_NAN_MODE_ENABLE_md.md ## PyTorch-INF\_NAN\_MODE\_FORCE\_DISABLE - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/INF_NAN_MODE_FORCE_DISABLE.md - Description: Atlas A2 训练系列产品/Atlas A3 训练系列产品,通过此环境变量可强制关闭INF\_NAN模式。关闭INF\_NAN模式会导致计算过程中产生的Inf和NaN被转换成对应数据类型的最大值和0值,使后续运算结果出现差异,所以进行了强制拦截。若一定要关闭INF\_NAN模式,则需要配置该环境变量为“1”,即强制关闭INF\_NAN模式,关闭后需注意Inf和NaN值的变化。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_INF_NAN_MODE_FORCE_DISABLE_md.md ## PyTorch-KINETO\_USE\_DAEMON - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/KINETO_USE_DAEMON.md - Description: 该环境变量用于在训练场景中设置是否通过msMonitor nputrace方式开启dynamic\_profile采集功能。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_KINETO_USE_DAEMON_md.md ## PyTorch-PYTORCH\_NPU\_ALLOC\_CONF - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/memory_management.md - Description: 通过此环境变量可控制缓存分配器行为。配置此环境变量会改变内存占用量,可能造成性能波动。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_PYTORCH_NPU_ALLOC_CONF_md.md ## PyTorch-MULTI\_STREAM\_MEMORY\_REUSE - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/MULTI_STREAM_MEMORY_REUSE.md - Description: 通过此环境变量可配置多流内存复用是否开启。在集合通信多流场景,对TorchNPU多流内存管理做优化,避免集合通信输入输出内存在多流场景下延迟释放,降低内存峰值。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_MULTI_STREAM_MEMORY_REUSE_md.md ## PyTorch-NPU\_ASD\_CONFIG - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/NPU_ASD_CONFIG.md - Description: 通过此环境变量可控制是否开启TorchNPU的特征值检测功能。特征值检测功能具体参见《框架特性》中的“\[特征值检测\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/fwfeatures/docs/zh/framework\_feature\_guide\_pytorch/feature\_value\_detection. - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_NPU_ASD_CONFIG_md.md ## PyTorch-NPU\_ASD\_ENABLE - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/NPU_ASD_ENABLE.md - Description: 通过此环境变量可控制是否开启特征值检测功能。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_NPU_ASD_ENABLE_md.md ## PyTorch-NPU\_ASD\_SIGMA\_THRESH - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/NPU_ASD_SIGMA_THRESH.md - Description: 通过此环境变量可配置特征值检测功能的相对阈值,格式为整型数据对,最小取值为3。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_NPU_ASD_SIGMA_THRESH_md.md ## PyTorch-NPU\_ASD\_UPPER\_THRESH - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/NPU_ASD_UPPER_THRESH.md - Description: 通过此环境变量可配置特征值检测功能的绝对阈值,格式为整型数据对,最小取值为3。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_NPU_ASD_UPPER_THRESH_md.md ## PyTorch-NPU\_INDUCTOR\_FALLBACK\_LIST - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/NPU_INDUCTOR_FALLBACK_LIST.md - Description: 通过此环境变量可指定需要回退到PyTorch原生的算子列表。当某些算子在NPU后端执行出现问题或需要使用算子原生实现时,可通过此环境变量进行配置。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_NPU_INDUCTOR_FALLBACK_LIST_md.md ## PyTorch-OOM\_SNAPSHOT\_ENABLE - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/OOM_SNAPSHOT_ENABLE.md - Description: 通过此环境变量可配置在内存不足报错时是否保存内存数据,以供分析内存不足原因。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_OOM_SNAPSHOT_ENABLE_md.md ## PyTorch-OOM\_SNAPSHOT\_PATH - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/OOM_SNAPSHOT_PATH.md - Description: 通过此环境变量可配置在内存不足报错时内存数据的保存路径。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_OOM_SNAPSHOT_PATH_md.md ## PyTorch-ACL\_OP\_COMPILER\_CACHE\_DIR - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/op_compilation.md - Description: 通过此环境变量可配置算子编译磁盘缓存的目录。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_ACL_OP_COMPILER_CACHE_DIR_md.md ## PyTorch-INF\_NAN\_MODE\_ENABLE - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/op_execution.md - Description: 通过此环境变量可控制AI处理器对输入数据为Inf/NaN时的处理方式,即控制AI处理器使用饱和模式还是INF\_NAN模式。默认值为“1”。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_INF_NAN_MODE_ENABLE_md.md ## PyTorch-P2P\_HCCL\_BUFFSIZE - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/P2P_HCCL_BUFFSIZE.md - Description: 通过此环境变量可配置是否开启点对点通信(torch.distributed.isend、torch.distributed.irecv和torch.distributed.batch\_isend\_irecv),并使用独立通信域功能。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_P2P_HCCL_BUFFSIZE_md.md ## PyTorch-PER\_STREAM\_QUEUE - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/PER_STREAM_QUEUE.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_PER_STREAM_QUEUE_md.md ## PyTorch-CPU\_AFFINITY\_CONF - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/performance_tuning.md - Description: TorchNPU可以通过设置环境变量CPU\_AFFINITY\_CONF来开启粗/细粒度绑核。该配置能够避免线程间抢占,提高缓存命中,避免跨NUMA(非一致性内存访问)节点的内存访问,减少任务调度开销,优化任务执行效率。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_CPU_AFFINITY_CONF_md.md ## PyTorch-PROF\_CONFIG\_PATH - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/PROF_CONFIG_PATH.md - Description: 在TorchNPU训练场景中,通过此环境变量可指定TorchNPU Profiler接口的dynamic\_profile采集功能的profiler\_config.json配置文件路径。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_PROF_CONFIG_PATH_md.md ## PyTorch-PYTORCH\_NO\_NPU\_MEMORY\_CACHING - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/PYTORCH_NO_NPU_MEMORY_CACHING.md - Description: 通过此环境变量可配置是否关闭内存复用机制。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_PYTORCH_NO_NPU_MEMORY_CACHING_md.md ## PyTorch-PYTORCH\_NPU\_ALLOC\_CONF - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/PYTORCH_NPU_ALLOC_CONF.md - Description: 通过此环境变量可控制缓存分配器行为。配置此环境变量会改变内存占用量,可能造成性能波动。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_PYTORCH_NPU_ALLOC_CONF_md.md ## PyTorch-RANK\_TABLE\_FILE - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/RANK_TABLE_FILE.md - Description: 通过此环境变量可配置RANK\_TABLE\_FILE文件的路径,用于集合通信域建链。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_RANK_TABLE_FILE_md.md ## 在进行模型分布式训练时遇到报错“RuntimeError: The Inner Error ...” - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/runtimeerror_Inner_Error.md - Description: 配置RANK\_TABLE\_FILE的场景下,在进行模型分布式训练时遇到报错“RuntimeError: The Inner Error ...”,并且打印的operator name是具体的通信算子。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_runtimeerror_Inner_Error_md.md ## PyTorch-STREAMS\_PER\_DEVICE - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/STREAMS_PER_DEVICE.md - Description: 通过此环境变量可配置stream pool的最大流数。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_STREAMS_PER_DEVICE_md.md ## PyTorch-ACL\_DEVICE\_SYNC\_TIMEOUT - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/synchronization_timeout.md - Description: 通过此环境变量可配置设备同步的超时时间。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_ACL_DEVICE_SYNC_TIMEOUT_md.md ## PyTorch-TASK\_QUEUE\_ENABLE - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/TASK_QUEUE_ENABLE.md - Description: 通过此环境变量可配置task\_queue算子下发队列是否开启和优化等级。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_TASK_QUEUE_ENABLE_md.md ## PyTorch-TORCH\_HCCL\_BLOCKING\_WAIT - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/TORCH_HCCL_BLOCKING_WAIT.md - Description: 当使用HCCL作为通信后端时,通过此环境变量可控制`ProcessGroupHCCL`中`wait\(\)`和`synchronize\(\)`的同步模式(阻塞或非阻塞)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_TORCH_HCCL_BLOCKING_WAIT_md.md ## PyTorch-TORCH\_NPU\_COMPACT\_ERROR\_OUTPUT - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/TORCH_NPU_COMPACT_ERROR_OUTPUT.md - Description: 通过此环境变量可精简打印错误信息,开启后会将CANN内部调用栈、TorchNPU错误码等自定义报错信息转移到plog中,仅保留有效的错误说明,提高异常信息的可读性。plog的详细信息请参考\[plog日志信息\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/userguide/troubleshooting/docs/zh/trou - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_TORCH_NPU_COMPACT_ERROR_OUTPUT_md.md ## PyTorch-TORCH\_NPU\_DEVICE\_CAPABILITY - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/TORCH_NPU_DEVICE_CAPABILITY.md - Description: 通过此环境变量可配置`torch\_npu.npu.get\_device\_capability\(\)`的返回值,仅用于兼容原生PyTorch的`torch.cuda.get\_device\_capability\(\)`接口,不代表NPU硬件实际能力。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_TORCH_NPU_DEVICE_CAPABILITY_md.md ## PyTorch-TORCH\_NPU\_DISABLED\_WARNING - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/TORCH_NPU_DISABLED_WARNING.md - Description: 通过此环境变量可配置是否打印TorchNPU的告警信息。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_TORCH_NPU_DISABLED_WARNING_md.md ## PyTorch-TORCH\_NPU\_LAZY\_FUSION - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/TORCH_NPU_LAZY_FUSION.md - Description: 通过此环境变量可开启TorchNPU Eager模式下的DVM算子融合。DVM将多个相邻的小算子合并成单个融合kernel,减少kernel下发次数和中间张量的搬运,从而加速训练和推理。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_TORCH_NPU_LAZY_FUSION_md.md ## PyTorch-TORCH\_NPU\_LOGS\_FILTER - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/TORCH_NPU_LOGS_FILTER.md - Description: 此环境变量用于过滤TorchNPU日志输出内容,通过黑白名单机制筛选需要显示的日志信息,帮助开发者在大量日志中快速定位关键信息。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_TORCH_NPU_LOGS_FILTER_md.md ## PyTorch-TORCH\_NPU\_LOGS - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/TORCH_NPU_LOGS.md - Description: 此环境变量用于配置TorchNPU新增模块的日志打印功能,为开发者在debugging场景下提供精准的调试定位能力。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_TORCH_NPU_LOGS_md.md ## PyTorch-TORCH\_NPU\_USE\_COMPATIBLE\_IMPL - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/TORCH_NPU_USE_COMPATIBLE_IMPL.md - Description: 该环境变量用于控制是否开启一致性配置,开启时,算子API的实现与PyTorch原生社区完全对齐。该环境变量仅用于切换API所调用的底层算子,默认值为“0”,即关闭一致性配置。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_TORCH_NPU_USE_COMPATIBLE_IMPL_md.md ## PyTorch-TORCH\_NPUGRAPH\_GC - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/TORCH_NPUGRAPH_GC.md - Description: 通过此环境变量可控制图捕获模式(NPUGraph Capture)过程中是否主动触发Python GC(Garbage Collection)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_TORCH_NPUGRAPH_GC_md.md ## PyTorch-TORCH\_TRANSFER\_TO\_NPU - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/TORCH_TRANSFER_TO_NPU.md - Description: 通过此环境变量可配置是否自动启用transfer\_to\_npu功能,将PyTorch的CUDA相关API自动替换为NPU对应API,方便用户从CUDA迁移到NPU。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_TORCH_TRANSFER_TO_NPU_md.md ## (beta)TORCHINDUCTOR\_ENABLE\_MFUSION - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/TORCHINDUCTOR_ENABLE_MFUSION.md - Description: 通过此环境变量可控制是否启用MFusion融合优化功能。MFusion是一种针对NPU平台的图融合优化技术,能够自动融合多个算子为单一kernel,从而减少数据传输开销,提升整体计算性能。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_TORCHINDUCTOR_ENABLE_MFUSION_md.md ## PyTorch-TORCHINDUCTOR\_NPU\_BACKEND - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/TORCHINDUCTOR_NPU_BACKEND.md - Description: 通过此环境变量可配置图模式(Inductor)下的后端优化策略,支持在Triton、MLIR、DVM等模式之间切换。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_TORCHINDUCTOR_NPU_BACKEND_md.md ## PyTorch-TORCHINDUCTOR\_USE\_AKG - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/ENV/docs/zh/environment_variable_reference/TORCHINDUCTOR_USE_AKG.md - Description: 通过此环境变量可配置torch.compile图模式(Inductor)下MLIR(Multi-Level Intermediate Representation)模式启用AKG(Auto Kernel Generator)后端优化。AKG基于Affine Dialect进行融合切分等调度优化,提升融合能力,降低调度和执行开销。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_ENV_docs_zh_environment_variable_reference_TORCHINDUCTOR_USE_AKG_md.md ## 添加二进制黑名单示例 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/appendixes.md - Description: 参见如下示例设置"NPU\_FUZZY\_COMPILE\_BLACKLIST"选项,添加二进制黑名单。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_example_of_adding_a_binary_blocklist_md.md ## 确定性计算API清单 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/deterministic_computing_apis.md - Description: 在使用PyTorch框架进行训练时,部分算子在计算时可能存在随机性,若需要输出结果排除随机性,则需要设置确定性计算开关。在开启确定性计算时,当使用相同的输入在相同的硬件和软件上执行相同的操作,输出的结果每次都是相同的。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_deterministic_computing_apis_md.md ## 支持DTensor的API清单 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/dtensor_supported_apis.md - Description: 昇腾支持DTensor的API列表请参见表1。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_dtensor_supported_apis_md.md ## 添加二进制黑名单示例 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/example_of_adding_a_binary_blocklist.md - Description: 参见如下示例设置"NPU\_FUZZY\_COMPILE\_BLACKLIST"选项,添加二进制黑名单。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_example_of_adding_a_binary_blocklist_md.md ## 支持入图的API清单 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/graph_supported_apis.md - Description: 昇腾支持入图的API列表请参见表1。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_graph_supported_apis_md.md ## inf/nan值处理差异说明 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/inf_nan_difference_apis.md - Description: 在TorchNPU中,部分API对`inf`/`nan`特殊值的处理行为与PyTorch原生实现存在差异,可能导致计算结果不一致。本文档主要列出两类差异场景:异常输入(输入包含`inf`/`nan`)时的行为差异,以及数值溢出时输出`inf`/`nan`的差异。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_inf_nan_difference_apis_md.md ## DDP Communication Hooks - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/DDP-Communication-Hooks.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_DDP-Communication-Hooks_md.md ## Distributed RPC Framework - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/Distributed-RPC-Framework.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_Distributed-RPC-Framework_md.md ## Named Tensors - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/Named-Tensors.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_Named-Tensors_md.md ## PyTorch-介绍PyTorch2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/overview.md - Description: 介绍PyTorch2.10.0版本原生API在昇腾NPU上的支持情况与限制说明,PyTorch2.10.0版本原生API具体使用方法请参考\[PyTorch社区文档\]\(https://pytorch.org/docs/2.10/\)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_overview_md.md ## PyTorch-介绍PyTorch2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/PyTorch-2-10-0.md - Description: 介绍PyTorch2.10.0版本原生API在昇腾NPU上的支持情况与限制说明,PyTorch2.10.0版本原生API具体使用方法请参考\[PyTorch社区文档\]\(https://pytorch.org/docs/2.10/\)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_overview_md.md ## PyTorch-Quantization - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/Quantization.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_Quantization_md.md ## Tensor Attributes - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/Tensor-Attributes.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_Tensor-Attributes_md.md ## torch.\_\_config\_\_ - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-__config__.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-__config___md.md ## torch.accelerator - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-accelerator.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-accelerator_md.md ## torch.amp - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-amp.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-amp_md.md ## torch.autograd - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-autograd.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-autograd_md.md ## torch.backends - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-backends.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-backends_md.md ## torch.compiler - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-compiler.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-compiler_md.md ## torch.cpu - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-cpu.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-cpu_md.md ## torch.cuda - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-cuda.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-cuda_md.md ## torch.distributed.algorithms.join - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-distributed-algorithms-join.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-distributed-algorithms-join_md.md ## torch.distributed.checkpoint - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-distributed-checkpoint.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-distributed-checkpoint_md.md ## torch.distributed.elastic - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-distributed-elastic.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-distributed-elastic_md.md ## torch.distributed.fsdp.fully\_shard - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-distributed-fsdp-fully_shard.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-distributed-fsdp-fully_shard_md.md ## torch.distributed.fsdp - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-distributed-fsdp.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-distributed-fsdp_md.md ## torch.distributed.optim - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-distributed-optim.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-distributed-optim_md.md ## torch.distributed.pipelining - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-distributed-pipelining.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-distributed-pipelining_md.md ## torch.distributed.tensor.parallel - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-distributed-tensor-parallel.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-distributed-tensor-parallel_md.md ## torch.distributed.tensor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-distributed-tensor.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-distributed-tensor_md.md ## torch.distributed - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-distributed.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-distributed_md.md ## torch.distributions - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-distributions.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-distributions_md.md ## torch.export - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-export.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-export_md.md ## torch.fft - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-fft.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-fft_md.md ## torch.func - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-func.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-func_md.md ## torch.futures - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-futures.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-futures_md.md ## torch.fx - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-fx.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-fx_md.md ## torch.hub - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-hub.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-hub_md.md ## torch.jit - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-jit.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-jit_md.md ## torch.library - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-library.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-library_md.md ## torch.linalg - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-linalg.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-linalg_md.md ## torch.monitor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-monitor.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-monitor_md.md ## torch.nested - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-nested.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-nested_md.md ## torch.nn.functional - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-nn-functional.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-nn-functional_md.md ## torch.nn.init - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-nn-init.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-nn-init_md.md ## torch.nn - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-nn.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-nn_md.md ## torch.onnx - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-onnx.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-onnx_md.md ## torch.optim - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-optim.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-optim_md.md ## torch.overrides - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-overrides.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-overrides_md.md ## torch.package - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-package.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-package_md.md ## torch.profiler - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-profiler.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-profiler_md.md ## torch.random - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-random.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-random_md.md ## torch.sparse - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-sparse.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-sparse_md.md ## torch.special - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-special.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-special_md.md ## torch.Storage - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-Storage.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-Storage_md.md ## torch.Tensor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-Tensor.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-Tensor_md.md ## torch.testing - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-testing.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-testing_md.md ## torch.utils.benchmark - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-utils-benchmark.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-utils-benchmark_md.md ## torch.utils.checkpoint - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-utils-checkpoint.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-utils-checkpoint_md.md ## torch.utils.cpp\_extension - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-utils-cpp_extension.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-utils-cpp_extension_md.md ## torch.utils.data - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-utils-data.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-utils-data_md.md ## torch.utils.dlpack - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-utils-dlpack.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-utils-dlpack_md.md ## torch.utils.mobile\_optimizer - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-utils-mobile_optimizer.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-utils-mobile_optimizer_md.md ## torch.utils.model\_zoo - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-utils-model_zoo.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-utils-model_zoo_md.md ## torch.utils.tensorboard - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-utils-tensorboard.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-utils-tensorboard_md.md ## torch.utils - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch-utils.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch-utils_md.md ## PyTorch-torch - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/torch.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_torch_md.md ## Type Info - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-10-0/Type-Info.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-10-0_Type-Info_md.md ## DDP Communication Hooks - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/DDP-Communication-Hooks.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_DDP-Communication-Hooks_md.md ## Distributed RPC Framework - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/Distributed-RPC-Framework.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_Distributed-RPC-Framework_md.md ## Named Tensors - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/Named-Tensors.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_Named-Tensors_md.md ## PyTorch-介绍PyTorch2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/overview.md - Description: 介绍PyTorch2.11.0版本原生API在昇腾NPU上的支持情况与限制说明,PyTorch2.11.0版本原生API具体使用方法请参考\[PyTorch社区文档\]\(https://pytorch.org/docs/2.11/\)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_overview_md.md ## PyTorch-介绍PyTorch2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/PyTorch-2-11-0.md - Description: 介绍PyTorch2.11.0版本原生API在昇腾NPU上的支持情况与限制说明,PyTorch2.11.0版本原生API具体使用方法请参考\[PyTorch社区文档\]\(https://pytorch.org/docs/2.11/\)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_overview_md.md ## PyTorch-Quantization - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/Quantization.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_Quantization_md.md ## Tensor Attributes - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/Tensor-Attributes.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_Tensor-Attributes_md.md ## torch.\_\_config\_\_ - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-__config__.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-__config___md.md ## torch.accelerator - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-accelerator.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-accelerator_md.md ## torch.amp - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-amp.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-amp_md.md ## torch.autograd - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-autograd.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-autograd_md.md ## torch.backends - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-backends.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-backends_md.md ## torch.compiler - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-compiler.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-compiler_md.md ## torch.cpu - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-cpu.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-cpu_md.md ## torch.cuda - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-cuda.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-cuda_md.md ## torch.distributed.algorithms.join - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-distributed-algorithms-join.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-distributed-algorithms-join_md.md ## torch.distributed.checkpoint - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-distributed-checkpoint.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-distributed-checkpoint_md.md ## torch.distributed.elastic - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-distributed-elastic.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-distributed-elastic_md.md ## torch.distributed.fsdp.fully\_shard - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-distributed-fsdp-fully_shard.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-distributed-fsdp-fully_shard_md.md ## torch.distributed.fsdp - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-distributed-fsdp.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-distributed-fsdp_md.md ## torch.distributed.optim - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-distributed-optim.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-distributed-optim_md.md ## torch.distributed.pipelining - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-distributed-pipelining.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-distributed-pipelining_md.md ## torch.distributed.tensor.parallel - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-distributed-tensor-parallel.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-distributed-tensor-parallel_md.md ## torch.distributed.tensor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-distributed-tensor.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-distributed-tensor_md.md ## torch.distributed - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-distributed.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-distributed_md.md ## torch.distributions - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-distributions.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-distributions_md.md ## torch.export - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-export.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-export_md.md ## torch.fft - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-fft.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-fft_md.md ## torch.func - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-func.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-func_md.md ## torch.futures - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-futures.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-futures_md.md ## torch.fx - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-fx.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-fx_md.md ## torch.hub - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-hub.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-hub_md.md ## torch.library - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-library.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-library_md.md ## torch.linalg - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-linalg.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-linalg_md.md ## torch.monitor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-monitor.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-monitor_md.md ## torch.nested - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-nested.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-nested_md.md ## torch.nn.functional - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-nn-functional.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-nn-functional_md.md ## torch.nn.init - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-nn-init.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-nn-init_md.md ## torch.nn - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-nn.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-nn_md.md ## torch.onnx - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-onnx.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-onnx_md.md ## torch.optim - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-optim.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-optim_md.md ## torch.overrides - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-overrides.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-overrides_md.md ## torch.package - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-package.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-package_md.md ## torch.profiler - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-profiler.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-profiler_md.md ## torch.random - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-random.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-random_md.md ## torch.sparse - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-sparse.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-sparse_md.md ## torch.special - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-special.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-special_md.md ## torch.Storage - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-Storage.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-Storage_md.md ## torch.Tensor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-Tensor.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-Tensor_md.md ## torch.testing - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-testing.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-testing_md.md ## torch.utils.benchmark - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-utils-benchmark.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-utils-benchmark_md.md ## torch.utils.checkpoint - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-utils-checkpoint.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-utils-checkpoint_md.md ## torch.utils.cpp\_extension - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-utils-cpp_extension.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-utils-cpp_extension_md.md ## torch.utils.data - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-utils-data.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-utils-data_md.md ## torch.utils.dlpack - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-utils-dlpack.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-utils-dlpack_md.md ## torch.utils.mobile\_optimizer - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-utils-mobile_optimizer.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-utils-mobile_optimizer_md.md ## torch.utils.model\_zoo - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-utils-model_zoo.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-utils-model_zoo_md.md ## torch.utils.tensorboard - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-utils-tensorboard.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-utils-tensorboard_md.md ## torch.utils - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch-utils.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch-utils_md.md ## PyTorch-torch - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/torch.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_torch_md.md ## Type Info - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-11-0/Type-Info.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-11-0_Type-Info_md.md ## DDP Communication Hooks - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/DDP-Communication-Hooks.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_DDP-Communication-Hooks_md.md ## Distributed RPC Framework - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/Distributed-RPC-Framework.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_Distributed-RPC-Framework_md.md ## Named Tensors - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/Named-Tensors.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_Named-Tensors_md.md ## PyTorch-介绍PyTorch2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/overview.md - Description: 介绍PyTorch2.12.0版本原生API在昇腾NPU上的支持情况与限制说明,PyTorch2.12.0版本原生API具体使用方法请参考\[PyTorch社区文档\]\(https://pytorch.org/docs/2.12/\)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_overview_md.md ## PyTorch-介绍PyTorch2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/PyTorch-2-12-0.md - Description: 介绍PyTorch2.12.0版本原生API在昇腾NPU上的支持情况与限制说明,PyTorch2.12.0版本原生API具体使用方法请参考\[PyTorch社区文档\]\(https://pytorch.org/docs/2.12/\)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_overview_md.md ## PyTorch-Quantization - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/Quantization.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_Quantization_md.md ## Tensor Attributes - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/Tensor-Attributes.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_Tensor-Attributes_md.md ## torch.\_\_config\_\_ - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-__config__.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-__config___md.md ## torch.accelerator - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-accelerator.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-accelerator_md.md ## torch.amp - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-amp.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-amp_md.md ## torch.autograd - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-autograd.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-autograd_md.md ## torch.backends - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-backends.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-backends_md.md ## torch.compiler - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-compiler.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-compiler_md.md ## torch.cpu - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-cpu.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-cpu_md.md ## torch.cuda - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-cuda.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-cuda_md.md ## torch.distributed.algorithms.join - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-distributed-algorithms-join.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-distributed-algorithms-join_md.md ## torch.distributed.checkpoint - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-distributed-checkpoint.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-distributed-checkpoint_md.md ## torch.distributed.elastic - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-distributed-elastic.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-distributed-elastic_md.md ## torch.distributed.fsdp.fully\_shard - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-distributed-fsdp-fully_shard.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-distributed-fsdp-fully_shard_md.md ## torch.distributed.fsdp - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-distributed-fsdp.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-distributed-fsdp_md.md ## torch.distributed.optim - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-distributed-optim.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-distributed-optim_md.md ## torch.distributed.pipelining - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-distributed-pipelining.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-distributed-pipelining_md.md ## torch.distributed.tensor.parallel - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-distributed-tensor-parallel.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-distributed-tensor-parallel_md.md ## torch.distributed.tensor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-distributed-tensor.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-distributed-tensor_md.md ## torch.distributed - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-distributed.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-distributed_md.md ## torch.distributions - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-distributions.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-distributions_md.md ## torch.export - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-export.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-export_md.md ## torch.fft - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-fft.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-fft_md.md ## torch.func - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-func.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-func_md.md ## torch.futures - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-futures.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-futures_md.md ## torch.fx - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-fx.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-fx_md.md ## torch.hub - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-hub.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-hub_md.md ## torch.library - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-library.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-library_md.md ## torch.linalg - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-linalg.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-linalg_md.md ## torch.monitor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-monitor.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-monitor_md.md ## torch.nested - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-nested.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-nested_md.md ## torch.nn.functional - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-nn-functional.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-nn-functional_md.md ## torch.nn.init - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-nn-init.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-nn-init_md.md ## torch.nn - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-nn.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-nn_md.md ## torch.onnx - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-onnx.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-onnx_md.md ## torch.optim - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-optim.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-optim_md.md ## torch.overrides - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-overrides.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-overrides_md.md ## torch.package - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-package.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-package_md.md ## torch.profiler - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-profiler.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-profiler_md.md ## torch.random - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-random.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-random_md.md ## torch.sparse - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-sparse.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-sparse_md.md ## torch.special - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-special.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-special_md.md ## torch.Storage - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-Storage.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-Storage_md.md ## torch.Tensor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-Tensor.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-Tensor_md.md ## torch.testing - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-testing.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-testing_md.md ## torch.utils.benchmark - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-utils-benchmark.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-utils-benchmark_md.md ## torch.utils.checkpoint - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-utils-checkpoint.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-utils-checkpoint_md.md ## torch.utils.cpp\_extension - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-utils-cpp_extension.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-utils-cpp_extension_md.md ## torch.utils.data - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-utils-data.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-utils-data_md.md ## torch.utils.dlpack - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-utils-dlpack.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-utils-dlpack_md.md ## torch.utils.mobile\_optimizer - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-utils-mobile_optimizer.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-utils-mobile_optimizer_md.md ## torch.utils.model\_zoo - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-utils-model_zoo.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-utils-model_zoo_md.md ## torch.utils.tensorboard - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-utils-tensorboard.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-utils-tensorboard_md.md ## torch.utils - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch-utils.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch-utils_md.md ## PyTorch-torch - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/torch.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_torch_md.md ## Type Info - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-12-0/Type-Info.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-12-0_Type-Info_md.md ## DDP Communication Hooks - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/DDP-Communication-Hooks.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_DDP-Communication-Hooks_md.md ## Distributed RPC Framework - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/Distributed-RPC-Framework.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_Distributed-RPC-Framework_md.md ## Named Tensors - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/Named-Tensors.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_Named-Tensors_md.md ## PyTorch-介绍PyTorch2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/overview.md - Description: 介绍PyTorch2.7.1版本原生API在昇腾NPU上的支持情况与限制说明,PyTorch2.7.1版本原生API具体使用方法请参考\[PyTorch社区文档\]\(https://pytorch.org/docs/2.7/\)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_overview_md.md ## PyTorch-介绍PyTorch2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/PyTorch-2-7-1.md - Description: 介绍PyTorch2.7.1版本原生API在昇腾NPU上的支持情况与限制说明,PyTorch2.7.1版本原生API具体使用方法请参考\[PyTorch社区文档\]\(https://pytorch.org/docs/2.7/\)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_overview_md.md ## PyTorch-Quantization - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/Quantization.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_Quantization_md.md ## Tensor Attributes - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/Tensor-Attributes.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_Tensor-Attributes_md.md ## torch.\_\_config\_\_ - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-__config__.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-__config___md.md ## torch.accelerator - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-accelerator.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-accelerator_md.md ## torch.amp - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-amp.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-amp_md.md ## torch.autograd - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-autograd.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-autograd_md.md ## torch.backends - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-backends.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-backends_md.md ## torch.compiler - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-compiler.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-compiler_md.md ## torch.cpu - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-cpu.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-cpu_md.md ## torch.cuda - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-cuda.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-cuda_md.md ## torch.distributed.algorithms.join - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-distributed-algorithms-join.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-distributed-algorithms-join_md.md ## torch.distributed.checkpoint - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-distributed-checkpoint.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-distributed-checkpoint_md.md ## torch.distributed.elastic - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-distributed-elastic.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-distributed-elastic_md.md ## torch.distributed.fsdp.fully\_shard - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-distributed-fsdp-fully_shard.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-distributed-fsdp-fully_shard_md.md ## torch.distributed.fsdp - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-distributed-fsdp.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-distributed-fsdp_md.md ## torch.distributed.optim - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-distributed-optim.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-distributed-optim_md.md ## torch.distributed.pipelining - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-distributed-pipelining.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-distributed-pipelining_md.md ## torch.distributed.tensor.parallel - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-distributed-tensor-parallel.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-distributed-tensor-parallel_md.md ## torch.distributed.tensor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-distributed-tensor.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-distributed-tensor_md.md ## torch.distributed - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-distributed.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-distributed_md.md ## torch.distributions - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-distributions.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-distributions_md.md ## torch.export - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-export.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-export_md.md ## torch.fft - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-fft.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-fft_md.md ## torch.func - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-func.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-func_md.md ## torch.futures - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-futures.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-futures_md.md ## torch.fx - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-fx.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-fx_md.md ## torch.hub - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-hub.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-hub_md.md ## torch.jit - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-jit.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-jit_md.md ## torch.library - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-library.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-library_md.md ## torch.linalg - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-linalg.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-linalg_md.md ## torch.monitor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-monitor.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-monitor_md.md ## torch.nested - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-nested.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-nested_md.md ## torch.nn.functional - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-nn-functional.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-nn-functional_md.md ## torch.nn.init - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-nn-init.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-nn-init_md.md ## torch.nn - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-nn.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-nn_md.md ## torch.onnx - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-onnx.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-onnx_md.md ## torch.optim - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-optim.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-optim_md.md ## torch.overrides - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-overrides.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-overrides_md.md ## torch.package - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-package.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-package_md.md ## torch.profiler - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-profiler.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-profiler_md.md ## torch.random - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-random.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-random_md.md ## torch.sparse - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-sparse.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-sparse_md.md ## torch.special - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-special.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-special_md.md ## torch.Storage - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-Storage.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-Storage_md.md ## torch.Tensor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-Tensor.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-Tensor_md.md ## torch.testing - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-testing.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-testing_md.md ## torch.utils.benchmark - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-utils-benchmark.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-utils-benchmark_md.md ## torch.utils.checkpoint - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-utils-checkpoint.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-utils-checkpoint_md.md ## torch.utils.cpp\_extension - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-utils-cpp_extension.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-utils-cpp_extension_md.md ## torch.utils.data - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-utils-data.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-utils-data_md.md ## torch.utils.dlpack - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-utils-dlpack.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-utils-dlpack_md.md ## torch.utils.mobile\_optimizer - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-utils-mobile_optimizer.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-utils-mobile_optimizer_md.md ## torch.utils.model\_zoo - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-utils-model_zoo.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-utils-model_zoo_md.md ## torch.utils.tensorboard - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-utils-tensorboard.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-utils-tensorboard_md.md ## torch.utils - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch-utils.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch-utils_md.md ## PyTorch-torch - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/torch.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_torch_md.md ## Type Info - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-7-1/Type-Info.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-7-1_Type-Info_md.md ## DDP Communication Hooks - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/DDP-Communication-Hooks.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_DDP-Communication-Hooks_md.md ## Distributed RPC Framework - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/Distributed-RPC-Framework.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_Distributed-RPC-Framework_md.md ## Named Tensors - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/Named-Tensors.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_Named-Tensors_md.md ## PyTorch-介绍PyTorch2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/overview.md - Description: 介绍PyTorch2.9.0版本原生API在昇腾NPU上的支持情况与限制说明,PyTorch2.9.0版本原生API具体使用方法请参考\[PyTorch社区文档\]\(https://pytorch.org/docs/2.9/\)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_overview_md.md ## PyTorch-介绍PyTorch2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/PyTorch-2-9-0.md - Description: 介绍PyTorch2.9.0版本原生API在昇腾NPU上的支持情况与限制说明,PyTorch2.9.0版本原生API具体使用方法请参考\[PyTorch社区文档\]\(https://pytorch.org/docs/2.9/\)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_overview_md.md ## PyTorch-Quantization - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/Quantization.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_Quantization_md.md ## Tensor Attributes - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/Tensor-Attributes.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_Tensor-Attributes_md.md ## torch.\_\_config\_\_ - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-__config__.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-__config___md.md ## torch.accelerator - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-accelerator.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-accelerator_md.md ## torch.amp - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-amp.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-amp_md.md ## torch.autograd - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-autograd.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-autograd_md.md ## torch.backends - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-backends.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-backends_md.md ## torch.compiler - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-compiler.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-compiler_md.md ## torch.cpu - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-cpu.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-cpu_md.md ## torch.cuda - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-cuda.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-cuda_md.md ## torch.distributed.algorithms.join - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-distributed-algorithms-join.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-distributed-algorithms-join_md.md ## torch.distributed.checkpoint - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-distributed-checkpoint.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-distributed-checkpoint_md.md ## torch.distributed.elastic - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-distributed-elastic.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-distributed-elastic_md.md ## torch.distributed.fsdp.fully\_shard - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-distributed-fsdp-fully_shard.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-distributed-fsdp-fully_shard_md.md ## torch.distributed.fsdp - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-distributed-fsdp.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-distributed-fsdp_md.md ## torch.distributed.optim - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-distributed-optim.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-distributed-optim_md.md ## torch.distributed.pipelining - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-distributed-pipelining.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-distributed-pipelining_md.md ## torch.distributed.tensor.parallel - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-distributed-tensor-parallel.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-distributed-tensor-parallel_md.md ## torch.distributed.tensor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-distributed-tensor.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-distributed-tensor_md.md ## torch.distributed - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-distributed.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-distributed_md.md ## torch.distributions - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-distributions.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-distributions_md.md ## torch.export - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-export.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-export_md.md ## torch.fft - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-fft.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-fft_md.md ## torch.func - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-func.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-func_md.md ## torch.futures - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-futures.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-futures_md.md ## torch.fx - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-fx.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-fx_md.md ## torch.hub - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-hub.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-hub_md.md ## torch.jit - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-jit.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-jit_md.md ## torch.library - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-library.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-library_md.md ## torch.linalg - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-linalg.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-linalg_md.md ## torch.monitor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-monitor.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-monitor_md.md ## torch.nested - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-nested.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-nested_md.md ## torch.nn.functional - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-nn-functional.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-nn-functional_md.md ## torch.nn.init - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-nn-init.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-nn-init_md.md ## torch.nn - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-nn.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-nn_md.md ## torch.onnx - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-onnx.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-onnx_md.md ## torch.optim - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-optim.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-optim_md.md ## torch.overrides - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-overrides.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-overrides_md.md ## torch.package - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-package.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-package_md.md ## torch.profiler - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-profiler.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-profiler_md.md ## torch.random - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-random.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-random_md.md ## torch.sparse - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-sparse.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-sparse_md.md ## torch.special - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-special.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-special_md.md ## torch.Storage - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-Storage.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-Storage_md.md ## torch.Tensor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-Tensor.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-Tensor_md.md ## torch.testing - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-testing.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-testing_md.md ## torch.utils.benchmark - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-utils-benchmark.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-utils-benchmark_md.md ## torch.utils.checkpoint - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-utils-checkpoint.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-utils-checkpoint_md.md ## torch.utils.cpp\_extension - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-utils-cpp_extension.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-utils-cpp_extension_md.md ## torch.utils.data - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-utils-data.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-utils-data_md.md ## torch.utils.dlpack - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-utils-dlpack.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-utils-dlpack_md.md ## torch.utils.mobile\_optimizer - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-utils-mobile_optimizer.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-utils-mobile_optimizer_md.md ## torch.utils.model\_zoo - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-utils-model_zoo.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-utils-model_zoo_md.md ## torch.utils.tensorboard - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-utils-tensorboard.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-utils-tensorboard_md.md ## torch.utils - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch-utils.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch-utils_md.md ## PyTorch-torch - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/torch.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_torch_md.md ## Type Info - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/apiref/nativeapi/docs/zh/native_apis/pytorch_2-9-0/Type-Info.md - Description: > \[\!NOTE\] > > - API的支持情况中,✔表示API支持在对应硬件环境上运行,✘表示暂不支持。 > - 若API标注有“限制与说明”,表示该API在昇腾NPU上的支持度和原生版本存在差异,请务必查阅具体说明,以确保适配昇腾NPU平台。 > - 部分API虽在PyTorch社区文档中存在,但未收录于本支持清单。此类API尚未验证,请谨慎使用。我们将持续进行验证工作,并在验证完成后更新文档 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_apiref_nativeapi_docs_zh_native_apis_pytorch_2-9-0_Type-Info_md.md ## 安全声明 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/comref/securityguide/docs/zh/security_statement/security_statement.md - Description: 本文中列出的安全加固措施为基本的加固建议项。用户应根据自身业务,重新审视整个系统的网络安全加固措施。用户应按照所在组织的安全策略进行相关配置,包括但不限于软件版本、系统加固要求、安全配置(数据存储、调试接口、运行环境等)、权限配置、防火墙设置等。必要时可参考业界优秀加固方案和安全专家的建议。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_comref_securityguide_docs_zh_security_statement_security_statement_md.md ## 编译验证 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/adaptation_compile_opplugin.md - Description: 1. 算子适配完成后,需编译TorchNPU包,推荐使用容器场景进行编译安装,具体操作可参考《软件安装》中的“\[方式二:源码安装\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/installguide/swinstall/docs/zh/installation\_guide/compilation\_installation\_us - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_adaptation_compile_opplugin_md.md ## 适配开发 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/adaptation_development_opplugin.md - Description: 返回原始张量视图,其维度已permute,结果连续。支持FakeTensor模式。 参数说明 self \(Tensor\):输入张量。 perm \(ListInt\):对应维度排列。 requirecontiguous\(Bool\):用户是否需要对输入Tensor做转连续。设置为False时,表示不对输入Tensor做转连续。用户明确输入Tensor为连续Tensor或转置Tensor时 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_adaptation_development_opplugin_md.md ## 算子适配流程 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/adaptation_flow_opplugin.md - Description: 算子适配需遵循标准化流程,确保算子在昇腾NPU平台的功能正确性与性能最优,总体适配流程如下图所示。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_adaptation_flow_opplugin_md.md ## PyTorch-OpPlugin是TorchNPU的算子插件 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/adaptation_overview_opplugin.md - Description: OpPlugin是TorchNPU的算子插件,为使用PyTorch框架的开发者提供便捷的NPU算子库调用能力。本章节的主要目标是指导具有一定PyTorch基础的用户完成算子适配工作,本章节提供了单算子适配概述、适配流程和适配开发指导等内容。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_adaptation_overview_opplugin_md.md ## 适配前准备 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/adaptation_preparation_opplugin.md - Description: - 参考PyTorch原生\[Aten IR定义\]\(https://github.com/pytorch/pytorch/tree/main/aten/src/ATen/native\#readme\),明确算子名称、入参/返回值、语义等信息。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_adaptation_preparation_opplugin_md.md ## 特征值检测 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/assisted_error_locating.md - Description: 特征值检测全称“训练阶段在线特征值检测”,主要针对长稳训练的使用场景,针对高比特跳变进行的检测。基于梯度做特征值的异常检测,识别精度问题。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_feature_value_detection_md.md ## 自动绑核 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/automatic_core_binding.md - Description: TorchNPU可以通过设置环境变量CPU\_AFFINITY\_CONF来开启粗/细粒度绑核。该配置能够避免线程间抢占,提高缓存命中率,避免跨NUMA(非一致性内存访问)节点的内存访问,减少任务调度开销,优化任务执行效率。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_automatic_core_binding_md.md ## 适配说明 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/c_extensions_operator_adaptation.md - Description: C++ extensions插件提供了将自定义算子映射到昇腾AI处理器的功能,为使用PyTorch框架的开发者提供了便捷的NPU算子库调用能力,基于PyTorch原生提供的自定义算子扩展功能,用户可以编译安装自定义算子wheel包并运行。本章节基于C++ extensions的方式介绍如何在昇腾NPU上完成自定义算子开发和适配。PyTorch官方的C++ extensions功能具体可参考\[C++ - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_examples_README_md.md ## PyTorch-torch\_npu\_run - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/communication_performance_optimization.md - Description: torch\_npu\_run是torchrun在大集群场景的改进版,提升集群建链性能。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_torch_npu_run_md.md ## 编译优化常见问题 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/comp_opt_faq.md - Description: - 运行模型时出现.so或者某模块找不到的情况。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_comp_opt_faq_md.md ## 编译优化技术介绍 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/comp_opt_intro.md - Description: > \[\!NOTE\] > > 在当前版本中,编译优化仅作为一项试用特性,此功能在后续版本中可能会有所调整或改进。请用户在使用过程中关注后续版本的迭代。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_comp_opt_intro_md.md ## 编译优化(Python) - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/comp_opt_py.md - Description: Python从3.6及以上版本开始支持LTO(链接时优化)与PGO(剖面导向优化)优化,可以在编译时开启。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_comp_opt_py_md.md ## 编译优化技术介绍 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/comp_opt.md - Description: > \[\!NOTE\] > > 在当前版本中,编译优化仅作为一项试用特性,此功能在后续版本中可能会有所调整或改进。请用户在使用过程中关注后续版本的迭代。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_comp_opt_intro_md.md ## 自动绑核 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/computing_performance_optimization.md - Description: TorchNPU可以通过设置环境变量CPU\_AFFINITY\_CONF来开启粗/细粒度绑核。该配置能够避免线程间抢占,提高缓存命中率,避免跨NUMA(非一致性内存访问)节点的内存访问,减少任务调度开销,优化任务执行效率。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_automatic_core_binding_md.md ## 自定义内存分配器 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/custom_memory_allocator.md - Description: 支持从so文件中加载自定义NPU内存分配器。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_custom_memory_allocator_md.md ## PyTorch-OpPlugin是TorchNPU的算子插件 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/custom_operator_adaptation.md - Description: OpPlugin是TorchNPU的算子插件,为使用PyTorch框架的开发者提供便捷的NPU算子库调用能力。本章节的主要目标是指导具有一定PyTorch基础的用户完成算子适配工作,本章节提供了单算子适配概述、适配流程和适配开发指导等内容。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_adaptation_overview_opplugin_md.md ## 特征值检测 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/feature_value_detection.md - Description: 特征值检测全称“训练阶段在线特征值检测”,主要针对长稳训练的使用场景,针对高比特跳变进行的检测。基于梯度做特征值的异常检测,识别精度问题。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_feature_value_detection_md.md ## 安装毕昇编译器 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/install_bisheng_comp.md - Description: 毕昇编译器可以从鲲鹏社区官网下载获取。请单击LINK\(https://kunpeng-repo.obs.cn-north-4.myhuaweicloud.com/BiSheng Enterprise/BiSheng Enterprise 203.0.0/BiShengCompiler-4.1.0-aarch64-linux.tar.gz\)下载毕昇编译器4.1.0版本。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_install_bisheng_comp_md.md ## 虚拟内存 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/memory_resource_optimization.md - Description: 虚拟内存管理机制主要是将地址和内存的概念分离。通过配置环境变量PYTORCH\_NPU\_ALLOC\_CONF或修改torch.npu.memory.\_set\_allocator\_settings接口的“expandable\_segments”属性值,可开启虚拟内存管理机制。该机制使PyTorch管理虚拟内存和物理内存的映射,并允许多次申请连续内存。通过构建可扩展的内存段并动态调整内存块大小,可以有效 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_virtual_memory_md.md ## 内存共享(IPC) - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/memory_sharing_ipc.md - Description: IPC(Inter-Process Communication),表示进程间通信,进程间可以直接访问设备内存,而不需要做显式的数据拷贝。该特性基于社区IPC特性(\[LINK\]\(https://docs.pytorch.org/docs/2.8/multiprocessing.html\))开发,支持社区IPC特性的使用方式,整体使用流程如下: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_memory_sharing_ipc_md.md ## 内存快照 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/memory_snapshot.md - Description: 支持训练过程中内存溢出(OOM)时或用户调用`torch.npu.memory.\_dump\_snapshot`接口时,生成设备内存快照,并通过交互式查看器(\[memory\_viz\]\(https://pytorch.org/memory\_viz\))进行可视化分析。快照能够记录分配的NPU内存在任意时间点的状态,并且可以选择性地记录该快照分配情况的历史记录。该特性基于社区内存快照特性(\[LINK\]\(h - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_memory_snapshot_md.md ## 多流内存复用 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/multistream_memory_reuse.md - Description: 流(stream)是PyTorch的一个重要机制,每个流代表一个时序上严格的执行逻辑。一般地,PyTorch在执行时会启动多个流,来并行完成模型的通信和计算任务。每个流在执行过程中会根据自身需要向设备(device)申请内存,称为该流的内存池。如果一个流申请的内存池需要给另一个流使用,两个流之间需要进行通信,以当前流的内存块(block)对应的数据执行完作为对应流使用这块内存的标志。Host算子下 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_multistream_memory_reuse_md.md ## PyTorch-OpPlugin是TorchNPU的算子插件 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/opplugin_operator_adaptation.md - Description: OpPlugin是TorchNPU的算子插件,为使用PyTorch框架的开发者提供便捷的NPU算子库调用能力。本章节的主要目标是指导具有一定PyTorch基础的用户完成算子适配工作,本章节提供了单算子适配概述、适配流程和适配开发指导等内容。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_adaptation_overview_opplugin_md.md ## PyTorch-TorchNPU插件是基于昇腾的深度学习适配框架 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/overview.md - Description: TorchNPU插件是基于昇腾的深度学习适配框架,使昇腾NPU可以支持PyTorch框架,为PyTorch框架的使用者提供昇腾AI处理器的超强算力。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_overview_md.md ## 通过pg\_options配置HCCL通信域参数 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/parameter_setting.md - Description: 本特性可以针对不同的通信域配置不同的HCCL参数。通过pg\_options添加hccl\_config配置,将HCCL配置参数从Python层透过TorchNPU传递到HCCL供使用。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_setting_HCCL_communicator_parameter_md.md ## 编译优化(PyTorch) - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/pytorch_comp_opt.md - Description: 以PyTorch 2.7.1为例进行编译优化。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_pytorch_comp_opt_md.md ## torch\_npu.npu.NPUGraph - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/pytorch_npugraph_desc.md - Description: NPUGraph是一种在Eager Mode(单算子执行模式)下使用的静态图捕获技术,将一系列NPU内核定义并封装为一个单元(即操作图),通过单一CPU操作启动多个NPU操作,从而减少启动开销。更多核心原理可参见\[CUDA Graphs\]\(https://pytorch.org/blog/accelerating-pytorch-with-cuda-graphs/\)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_pytorch_npugraph_desc_md.md ## ranktable建链 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/ranktable_link_setup.md - Description: 支持以rank table文件配置方式建立通信域,来加速通信域建立时间,并做到建链时间几乎和集群规模无关,从而解决大集群下建立通信域的性能瓶颈。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_ranktable_link_setup_md.md ## 常见参考 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/reference.md - Description: 官方schema(算子描述规范)指导可参见\[LINK\]\(https://github.com/pytorch/pytorch/blob/main/aten/src/ATen/native/README.md\)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_reference_md.md ## 调用样例 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/sample_call_opplugin.md - Description: 完成了PyTorch框架的适配插件开发后,即可实现从PyTorch框架调用Ascend C自定义算子。下文以自定义npu\_add\_custom算子为例,介绍PyTorch 2.7.1框架下,算子适配开发过程。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_sample_call_opplugin_md.md ## 通过pg\_options配置HCCL通信域参数 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/setting_HCCL_communicator_parameter.md - Description: 本特性可以针对不同的通信域配置不同的HCCL参数。通过pg\_options添加hccl\_config配置,将HCCL配置参数从Python层透过TorchNPU传递到HCCL供使用。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_setting_HCCL_communicator_parameter_md.md ## Stream级TaskQueue并行下发 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/stream_taskqueue_parallel_delivery.md - Description: > \[\!NOTICE\] - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_stream_taskqueue_parallel_delivery_md.md ## 编译优化(TorchNPU) - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/torch_npu_comp_opt.md - Description: > \[\!NOTE\] > > Ascend 950DT暂不支持编译优化(TorchNPU)。 1. 依赖安装。 TorchNPU构建依赖PyTorch,目前需要参考编译优化(PyTorch)用毕昇编译器构建PyTorch之后,在环境里重新安装PyTorch,然后再编译TorchNPU。 TorchNPU推荐在容器里进行编译,具体请参考源码安装。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_torch_npu_comp_opt_md.md ## PyTorch-torch\_npu\_run - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/torch_npu_run.md - Description: torch\_npu\_run是torchrun在大集群场景的改进版,提升集群建链性能。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_torch_npu_run_md.md ## 虚拟内存 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/virtual_memory.md - Description: 虚拟内存管理机制主要是将地址和内存的概念分离。通过配置环境变量PYTORCH\_NPU\_ALLOC\_CONF或修改torch.npu.memory.\_set\_allocator\_settings接口的“expandable\_segments”属性值,可开启虚拟内存管理机制。该机制使PyTorch管理虚拟内存和物理内存的映射,并允许多次申请连续内存。通过构建可扩展的内存段并动态调整内存块大小,可以有效 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_virtual_memory_md.md ## PyTorch-WatchDog - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/docs/zh/framework_feature_guide_pytorch/watchdog.md - Description: 在不影响大模型训练性能和精度的前提下,能快速稳定发现错误。WatchDog监视进程,可显著提高使用HCCL的PyTorch分布式训练的可靠性。WatchDog本质上是通过捕获集合通信中出现的错误,从子进程抛出异常,停止主进程训练,来防止分布式训练被阻塞。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_docs_zh_framework_feature_guide_pytorch_watchdog_md.md ## 适配开发及调用(AscendC) - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/examples/cpp_extension_asc/README.md - Description: 基于C++ extensions方式,通过TorchNPU框架调用AscendC自定义算子的完整适配开发流程。本样例展示了如何将AscendC算子集成到Ascend for PyTorch生态中,实现高效的NPU加速计算。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_examples_cpp_extension_asc_README_md.md ## 适配开发及调用(基础样例) - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/examples/cpp_extension_base/README.md - Description: 本文档基于C++ extensions方式,使用TorchNPU单算子API进行适配开发的完整流程。流程涵盖了算子定义、算子适配、ATen IR注册绑定,最终实现调用自定义算子。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_examples_cpp_extension_base_README_md.md ## 适配开发及调用(完整样例-module) - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/examples/cpp_extension_full/module/README.md - Description: 基于C++ extensions方式,通过TorchNPU来调用单算子API的适配开发过程,其中前反向绑定通过Python类的`forward`和`backward`注册实现。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_examples_cpp_extension_full_module_README_md.md ## 适配开发及调用(完整样例-TORCH\_LIBRARY\_IMPL) - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/examples/cpp_extension_full/torch_lib_impl/README.md - Description: 基于C++ extensions方式,通过TorchNPU来调用单算子API的适配开发过程,其中前反向绑定通过PyTorch中`TORCH\_LIBRARY\_IMPL`注册实现。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_examples_cpp_extension_full_torch_lib_impl_README_md.md ## 适配开发及调用(pybind) - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/examples/cpp_extension_pybind/README.md - Description: 本文档基于C++ extensions方式,使用TorchNPU单算子API进行适配开发的完整流程。流程涵盖了算子定义、算子适配、ATen IR注册绑定,最终实现调用自定义算子。区别于常见的TORCH\_LIBRARY方式,本用例采用PYBIND进行绑定注册,以获得更灵活的输入类型支持。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_examples_cpp_extension_pybind_README_md.md ## 算子适配开发及调用(结构化) - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/examples/cpp_extension_structured/README.md - Description: 本文档介绍基于C++ extensions方式与TorchNPU单算子API进行自定义NPU算子适配开发的完整流程,流程涵盖了算子定义、算子适配、ATen IR注册绑定。本样例重点阐述结构化内核适配方法,该方法适用于aclnn接口与ATen IR语义一致,且适配层逻辑仅需负责output tensor申请的场景。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_examples_cpp_extension_structured_README_md.md ## 适配说明 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/fwfeatures/examples/README.md - Description: C++ extensions插件提供了将自定义算子映射到昇腾AI处理器的功能,为使用PyTorch框架的开发者提供了便捷的NPU算子库调用能力,基于PyTorch原生提供的自定义算子扩展功能,用户可以编译安装自定义算子wheel包并运行。本章节基于C++ extensions的方式介绍如何在昇腾NPU上完成自定义算子开发和适配。PyTorch官方的C++ extensions功能具体可参考\[C++ - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_fwfeatures_examples_README_md.md ## AI Core/Cube Core/Vector Core简介 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/appendix/appendix/aicore.md - Description: **了解AI Core、Cube Core、Vector Core的关系**: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_appendix_appendix_aicore_md.md ## AI Core/Cube Core/Vector Core简介 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/appendix/appendix/appendix.md - Description: **了解AI Core、Cube Core、Vector Core的关系**: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_appendix_appendix_aicore_md.md ## Eager和图模式下控核介绍 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/appendix/appendix/core_limit.md - Description: 在多流集合通信场景下,AIV模式会存在核占满情况,此时如果进行全核同步,可能会出现死锁情况,导致用户脚本卡死。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_appendix_appendix_core_limit_md.md ## npugraph\_ex场景下Host Tiling参数刷新功能介绍 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/appendix/appendix/host_tiling_update.md - Description: aclgraph支持在Replay前刷新内核(kernels)功能,能够在类FIA算子执行前,根据实际计算出的actual\_seq\_len值动态更新分块(Tiling)结果,从而确保此类算子能够被aclgraph成功捕获并消除Tiling计算带来的调度间隙。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_appendix_appendix_host_tiling_update_md.md ## 支持的ATen API清单 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/appendix/aten_api.md - Description: 本章提供了支持入图的ATen API列表,这些API能力均对等Eager模式下的ATen API能力。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_appendix_aten_api_md.md ## 图模式精度比对 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/appendix/cases/accuracy_cases.md - Description: 当PyTorch网络在昇腾NPU上进行图模式推理时,如果精度不满足预期,应该如何定位和分析问题? - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_appendix_cases_accuracy_cases_md.md ## 大模型图模式推理案例 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/appendix/cases/cases.md - Description: - 面向熟悉Transformer模型结构的用户,例如了解注意力机制、DeepSpeed分布式计算等,以便更好地进行大模型优化和执行。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_appendix_cases_infer_cases_md.md ## 背景介绍 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/appendix/cases/dynamic_static_graph/background.md - Description: 介绍动/静态图概念之前,请参考\[简介\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/TorchAir/docs/zh/overview.md\)了解TorchAir架构图,max-autotune模式主要是将PyTorch的FX计算图转换为Ascend IR计算图,并通过(Graph Engine,图引擎)实现图 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_appendix_cases_dynamic_static_graph_background_md.md ## 动/静态图概念 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/appendix/cases/dynamic_static_graph/concepts.md - Description: Dynamo编译后的FX图动/静态属性与模型输入的形状相关,因此先介绍torch.compile入参“**dynamic**”对模型输入形状的编译影响。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_appendix_cases_dynamic_static_graph_concepts_md.md ## 动/静态图展示 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/appendix/cases/dynamic_static_graph/presentation.md - Description: 本节提供如下样例test\_compile.py,样例包含parameter、buffer、user\_input输入、scalar输入, 假设dynamic参数采用默认值。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_appendix_cases_dynamic_static_graph_presentation_md.md ## 典型问题 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/appendix/cases/dynamic_static_graph/typical_issues.md - Description: FA(Flash Attention)算子作为一个Tiling值依赖的算子,包含该类算子的模型如何实现整图静态下沉,可以从以下方面分析: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_appendix_cases_dynamic_static_graph_typical_issues_md.md ## 入图失败定界与定位 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/appendix/cases/graph_failed_cases.md - Description: 当PyTorch网络在昇腾NPU上以图模式运行出现了入图失败(如断图),可按图1进行问题定位。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_appendix_cases_graph_failed_cases_md.md ## 大模型图模式推理案例 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/appendix/cases/infer_cases.md - Description: - 面向熟悉Transformer模型结构的用户,例如了解注意力机制、DeepSpeed分布式计算等,以便更好地进行大模型优化和执行。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_appendix_cases_infer_cases_md.md ## 图模式性能分析 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/appendix/cases/performance_cases.md - Description: 当PyTorch网络在昇腾NPU上以图模式运行时,如果出现执行速度缓慢、计算精度下降、内存占用异常或资源利用率低等问题,可通过性能分析工具(Profiling)来分析各运行阶段的指标数据(如吞吐率、内存占用、耗时等),以确定问题的根源,并针对问题模块进行优化。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_appendix_cases_performance_cases_md.md ## SuperKernel调试调优方法 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/appendix/cases/superkernel_cases.md - Description: npugraph\_ex后端调试SuperKernel时,通常可按“是否融合成功 -> 是否执行正常 -> 是否获得性能收益”的顺序排查。下文按三个常见现象分别说明定位方法和应对策略。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_appendix_cases_superkernel_cases_md.md ## PyTorch-本地编译失败 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/appendix/faq.md - Description: 本地编译失败,报错信息提示libboundscheck等库下载失败。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_appendix_faq_md.md ## GE图模式API列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/api_list.md - Description: 本章介绍了GE图模式场景下功能配置可能涉及的Python API,接口列表如下。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_api_list_md.md ## GE图模式API列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/api.md - Description: 本章介绍了GE图模式场景下功能配置可能涉及的Python API,接口列表如下。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_api_list_md.md ## PyTorch-Cast - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/ge/Cast.md - Description: 算子Converter中的构图元素,表示一个Cast节点,即图中Tensor的类型转换方法。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_ge_Cast_md.md ## PyTorch-Clone - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/ge/Clone.md - Description: 算子Converter中的构图元素,表示一个Clone节点,该节点可实现图上任意单个Tensor的拷贝。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_ge_Clone_md.md ## PyTorch-Const - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/ge/Const.md - Description: 算子Converter中的构图元素,表示一个Const节点,即图中的常量值。该常量值在构建计算图时定义,且在整个图的执行过程中不会改变。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_ge_Const_md.md ## PyTorch-custom\_op - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/ge/custom_op.md - Description: 基于算子原型(IR)实现算子Converter函数,完成PyTorch IR与Ascend IR的转换。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_ge_custom_op_md.md ## DataType类 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/ge/datatype.md - Description: 数据类型的枚举类,提供了GE的data type定义,方便实现converter函数时调用。DataType类的具体定义如下: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_ge_datatype_md.md ## Format类 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/ge/format.md - Description: 数据格式的枚举类,提供了GE的data format定义,方便实现converter函数时调用。数据格式(format)是用于描述一个多维Tensor的轴的业务语义,表示数据的物理排布格式,定义了解读数据的维度,例如1D、2D、3D、4D、5D等。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_ge_format_md.md ## Tensor类 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/ge/tensor.md - Description: 提供了Tensor定义,用于算子入图的converter函数入参的类型声明。Tensor类具体定义如下: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_ge_tensor_md.md ## TensorSpec类 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/ge/tensorspec.md - Description: 提供了TensorSpec定义,TensorSpec表示算子在Meta推导过程中得到的节点输出的描述信息,当前主要用于算子入图的converter函数入参的类型声明。TensorSpec类具体定义如下: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_ge_tensorspec_md.md ## DataType类 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/ge/torchair-ge.md - Description: 数据类型的枚举类,提供了GE的data type定义,方便实现converter函数时调用。DataType类的具体定义如下: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_ge_datatype_md.md ## PyTorch-cache\_compile - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/inference/cache_compile.md - Description: 开启\[模型编译缓存功能\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/TorchAir/docs/zh/ascend\_ir/features/advanced/compile\_cache.md\)能时需调用该接口实现编译缓存,降低成图编译耗时。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_inference_cache_compile_md.md ## PyTorch-readable\_cache - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/inference/readable_cache.md - Description: 开启\[模型编译缓存功能\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/TorchAir/docs/zh/ascend\_ir/features/advanced/compile\_cache.md\)时需调用该接口读取封装的func函数缓存文件compiled\_module,并以可读文件格式(格式不限,如py、txt - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_inference_readable_cache_md.md ## PyTorch-set\_dim\_gears - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/inference/set_dim_gears.md - Description: 开启\[动态shape图分档执行功能\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/TorchAir/docs/zh/ascend\_ir/features/advanced/dynamic\_gears\_merge\_policy.md\)时需要调用该接口设置图被划分的档位。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_inference_set_dim_gears_md.md ## PyTorch-cache\_compile - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/inference/torchair-inference.md - Description: 开启\[模型编译缓存功能\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/TorchAir/docs/zh/ascend\_ir/features/advanced/compile\_cache.md\)能时需调用该接口实现编译缓存,降低成图编译耗时。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_inference_cache_compile_md.md ## PyTorch-create\_npu\_tensors - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/llm_datadist/create_npu_tensors.md - Description: 通过一串Device地址创建PyTorch在NPU上的Tensors。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_llm_datadist_create_npu_tensors_md.md ## PyTorch-create\_npu\_tensors - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/llm_datadist/torchair-llm_datadist.md - Description: 通过一串Device地址创建PyTorch在NPU上的Tensors。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_llm_datadist_create_npu_tensors_md.md ## PyTorch-npu\_fused\_infer\_attention\_score\_v2 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/ops/npu_fused_infer_attention_score_v2.md - Description: 推理场景下,TorchNPU提供的**torch\_npu.npu\_fused\_infer\_attention\_score\_v2**(参考\[TorchNPU文档中心\]\(https://hiascend.com/document/redirect/pytorchuserguide\)中的《自定义API》“torch\_npu.save\_npugraph\_tensor\_v2”章节),适配增量和全量推理场景的 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_ops_npu_fused_infer_attention_score_v2_md.md ## PyTorch-npu\_fused\_infer\_attention\_score - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/ops/npu_fused_infer_attention_score.md - Description: 推理场景下,TorchNPU提供的**torch\_npu.npu\_fused\_infer\_attention\_score**(参考\[TorchNPU文档中心\]\(https://hiascend.com/document/redirect/pytorchuserguide\)中的《自定义API》“torch\_npu.npu\_fused\_infer\_attention\_score”章节),适配增量和全量 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_ops_npu_fused_infer_attention_score_md.md ## PyTorch-npu\_print - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/ops/npu_print.md - Description: 在图执行过程中,打印执行脚本中目标Tensor信息。该接口类似原生的print接口,但不会导致断图,详细功能介绍参见\[图内Tensor打印功能\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/TorchAir/docs/zh/ascend\_ir/features/advanced/tensor\_print.md\) - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_ops_npu_print_md.md ## PyTorch-record - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/ops/record.md - Description: 本接口实现了在当前Stream上显示下发一个任务,其返回值可以被torchair.ops.wait等待。在依赖的节点没有输出时,可以使用record。(即使依赖的节点有输出,仍然可以使用torchair.ops.record让FX图看起来更清晰。) - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_ops_record_md.md ## PyTorch-npu\_print - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/ops/torchair-ops.md - Description: 在图执行过程中,打印执行脚本中目标Tensor信息。该接口类似原生的print接口,但不会导致断图,详细功能介绍参见\[图内Tensor打印功能\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/TorchAir/docs/zh/ascend\_ir/features/advanced/tensor\_print.md\) - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_ops_npu_print_md.md ## PyTorch-wait - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/ops/wait.md - Description: 用于在多流间控制时序关系,调用本接口表示当前流需要在传入的tensor对应节点执行结束后再执行。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_ops_wait_md.md ## PyTorch-data\_dump - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/scope/data_dump.md - Description: GE图模式场景下,可通过本接口dump指定范围内的算子数据,并可以与\[算子data dump功能\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/TorchAir/docs/zh/ascend\_ir/features/advanced/data\_dump.md\)其他dump options配套使用。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_scope_data_dump_md.md ## PyTorch-limit\_core\_num - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/scope/limit_core_num.md - Description: GE图模式(max-autotune)下可通过本接口配置算子执行时使用的最大AI Core数和Vector Core数。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_scope_limit_core_num_md.md ## PyTorch-npu\_stream\_switch - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/scope/npu_stream_switch.md - Description: 通过本接口指定图内多个算子分发到不同stream进行并行计算,提高资源利用率,实现\[多流表达功能\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/TorchAir/docs/zh/ascend\_ir/features/advanced/multi\_stream.md\)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_scope_npu_stream_switch_md.md ## PyTorch-npu\_wait\_tensor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/scope/npu_wait_tensor.md - Description: 图执行过程中,控制图内多stream并行计算的时序,使得算子a等待算子b执行完再执行,功能说明参见\[多流表达功能\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/TorchAir/docs/zh/ascend\_ir/features/advanced/multi\_stream.md\)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_scope_npu_wait_tensor_md.md ## PyTorch-op\_never\_timeout - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/scope/op_never_timeout.md - Description: 针对GE图中的算子添加\_op\_exec\_never\_timeout属性,即配置算子不超时,使其不参与超时检测,详细功能介绍参见\[图内算子不超时配置功能\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/TorchAir/docs/zh/ascend\_ir/features/advanced/op\_never\_tim - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_scope_op_never_timeout_md.md ## PyTorch-super\_kernel - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/scope/super_kernel.md - Description: 图执行过程中,标记图内能融合为SuperKernel的上下文算子范围,详细功能介绍参见\[图内标定SuperKernel范围\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/TorchAir/docs/zh/ascend\_ir/features/advanced/super\_kernel\_scope.md\)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_scope_super_kernel_md.md ## PyTorch-npu\_stream\_switch - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/scope/torchair-scope.md - Description: 通过本接口指定图内多个算子分发到不同stream进行并行计算,提高资源利用率,实现\[多流表达功能\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/TorchAir/docs/zh/ascend\_ir/features/advanced/multi\_stream.md\)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_scope_npu_stream_switch_md.md ## CompilerConfig类 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/torchair/compiler_config.md - Description: 该类用于构造传入torch.compiler backend的config参数,具体定义如下: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_torchair_compiler_config_md.md ## PyTorch-dynamo\_export - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/torchair/dynamo_export.md - Description: 用于导出TorchAir生成的离线图(air格式),导出的图不再依赖PyTorch框架,可直接由CANN软件栈加载执行,减少框架调度带来的性能损耗,方便在不同的环境上部署移植,功能详情参见\[Dynamo导图功能\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/TorchAir/docs/zh/ascend\_ir/ - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_torchair_dynamo_export_md.md ## PyTorch-get\_compiler - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/torchair/get_compiler.md - Description: 获取能够在NPU上运行的图编译器,可以将获取的图编译器传入自定义的后端中,以实现用户自定义的特性。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_torchair_get_compiler_md.md ## PyTorch-get\_npu\_backend - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/torchair/get_npu_backend.md - Description: 获取能够在NPU上运行的图编译后端npu\_backend,可作为backend参数传入torch.compile。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_torchair_get_npu_backend_md.md ## PyTorch-patch\_for\_hcom - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/torchair/patch_for_hcom.md - Description: 针对PyTorch 2.1版本,补齐PyTorch原生部分集合通信算子无法入图功能。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_torchair_patch_for_hcom_md.md ## PyTorch-register\_fx\_node\_ge\_converter - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/torchair/register_fx_node_ge_converter.md - Description: 将自定义算子注册到TorchAir。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_torchair_register_fx_node_ge_converter_md.md ## PyTorch-register\_replacement - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/torchair/register_replacement-0.md - Description: 将自定义算子融合规则注册到TorchAir中,在FX图编译后对图进行算子融合优化。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_torchair_register_replacement-0_md.md ## CompilerConfig类 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/torchair/torchair.md - Description: 该类用于构造传入torch.compiler backend的config参数,具体定义如下: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_torchair_compiler_config_md.md ## PyTorch-use\_internal\_format\_weight - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/api/torchair/use_internal_format_weight.md - Description: 将模型中的权重weight转成TorchAir定义的内部私有格式。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_api_torchair_use_internal_format_weight_md.md ## GE图模式快速上手 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/ascend_ir.md - Description: GE图模式一般通过TorchAir的CompilerConfig属性**mode\="max-autotune"**开启(该模式是系统默认模式),其将FX图转换为Ascend IR图,并通过GE图引擎实现图编译和执行。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_quick_start_md.md ## 计算与通信并行功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/cc_parallel.md - Description: 大模型切分部署场景中,通过对网络中AllReduce通信算子以及上下文中可以连续切分的算子切分,从而启用通信和计算并行运行,从而达到加速分布式推理的目的。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_cc_parallel_md.md ## 模型编译缓存功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/compile_cache.md - Description: torch.compile是一种即时编译器(Just-In-Time compiler),成图首次编译时间通常较长,而大模型推理场景对时延敏感,因此优化首次编译时长显得尤为重要。在推理服务和弹性扩容等业务场景中,使用编译缓存可有效缩短服务启动后的首次推理时延。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_compile_cache_md.md ## 算子Converter支持度导出功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/converter_export.md - Description: PyTorch模型启用图模式前,需要先识别FX图中IR是否有对应Converter实现。若有,表示算子支持接入Ascend IR计算图;否则不支持入图。对于不支持入图的算子,请根据实际情况进行Converter补齐,具体操作请参考\[Converter补齐\]\(https://gitcode.com/Ascend/torchair/blob/26.1.0/CONTRIBUTING.md\#convert - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_converter_export_md.md ## 算子data dump功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/data_dump.md - Description: 本功能可以Dump Ascend IR图执行时的算子输入、输出数据,用于后续问题定位和分析,如算子运行性能或精度问题。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_data_dump_md.md ## 动态shape图分档执行功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/dynamic_gears_merge_policy.md - Description: 当用户网络中仅Batch的少量维度发生了变化,且维度变化的范围是有限的、可被枚举的,可以开启动态shape图分档功能。通过将一张图划分为不同档位的方式,使一张图能支持多Batch,提升网络执行性能。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_dynamic_gears_merge_policy_md.md ## Dynamo导图功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/dynamo_export.md - Description: 离线推理场景下可通过torchair.dynamo\_export接口,导出TorchAir生成的离线图(air格式)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_dynamo_export_md.md ## 图编译统计信息导出功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/export_compile_stat.md - Description: 在线或离线图编译过程中,提供编译过程中统计信息导出功能(当前包括图融合和UB融合信息,即fusion\_result.json),实现程序异常退出时也能生成编译结果,方便用户进行问题定位和分析。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_export_compile_stat_md.md ## 固定权重类输入地址功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/frozen_parameter.md - Description: 推理场景下,\[Parameter类型\]\(https://pytorch.org/docs/2.1/generated/torch.nn.parameter.Parameter.html\)(权重类)的图输入内存地址通常保持不变,可以开启本功能缩短图下发时间,提升下发性能。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_frozen_parameter_md.md ## 算子融合规则配置功能(fusion\_switch\_file) - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/fusion_switch_file.md - Description: 图模式场景下执行模型时会自动融合算子,以降低网络推理时间、提高整网性能。算子融合方式主要包括如下两种: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_fusion_switch_file_md.md ## 算子在线编译选项 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/jit_compile.md - Description: 模型编译时,支持用户在线编译和使用编译好的算子二进制文件。用户根据实际情况自行设置。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_jit_compile_md.md ## AI Core和Vector Core限核功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/limit_cores.md - Description: 多流场景下,会出现所有核(Core)都被一个流占用的情况,导致算子执行并行度降低,因此需要把核分给不同的流使用,从而保证算子并行执行收益。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_limit_cores_md.md ## 多流表达功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/multi_stream.md - Description: 大模型推理场景下,对于一些可并行的场景,可以划分多个stream提升执行效率。通过在脚本中指定每个算子的执行stream,将原本需要串行的多个算子分发到不同stream进行并行计算,多个stream上的计算形成overlap,从而降低整体计算耗时。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_multi_stream_md.md ## 图编译多级优化选项 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/oo_level.md - Description: > \[\!NOTE\]须知 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_oo_level_md.md ## 图内算子不超时配置功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/op_never_timeout.md - Description: 在网络推理过程中,如果某些算子执行异常或耗时过长,可能会导致任务长时间等待,从而引发整体阻塞或卡顿。为提升任务的可靠性与恢复能力,可以为算子执行设置超时时间阈值,一旦执行时间超过阈值,便触发恢复流程,以保障业务的快速恢复。然而,由于不同的网络模型和算子特性存在较大差异,统一设置阈值面临一定困难。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_op_never_timeout_md.md ## 算子融合规则配置功能(optimization\_switch) - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/optimization_switch.md - Description: 算子编译时,可根据实际业务需要灵活地配置算子融合,以降低网络推理时间、提高整网性能。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_optimization_switch_md.md ## RefData类型转换功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/ref_data.md - Description: 在大模型推理场景下,如果存在Ref类算子(例如Assign、ScatterUpdate等算子,类似于PyTorch中的in-place类算子)改写输入内存的情况,可以在构图过程中将用户输入的Data类型转换为RefData类型,以减少重复数据拷贝,提高模型执行效率。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_ref_data_md.md ## 单流执行功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/single_stream.md - Description: 在静态Shape场景下,图执行过程中可手动开启单Stream执行功能,默认情况下不开启。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_single_stream_md.md ## 动静子图拆分场景性能优化 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/static_model_ops_lower_limit.md - Description: 动态图模式下,图中存在部分算子能够聚合成静态子图,如N个算子聚合成一个静态子图后只需要一次下发。静态子图中的算子数量对性能影响有如下特点: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_static_model_ops_lower_limit_md.md ## 图内标定SuperKernel范围 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/super_kernel_scope.md - Description: SuperKernel是一种算子二进制融合技术,与源码融合不同,它聚焦于内核函数(Kernel)的二进制调度方案优化,在已编译的二进制代码基础上融合创建一个超级Kernel函数(简称SuperKernel),以调用子函数的方式调用多个其它内核函数,达到优化计算任务、提升性能和资源利用率的目的。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_super_kernel_scope_md.md ## 图内Tensor打印功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/tensor_print.md - Description: 在图模式下,由于Python原生print函数会触发断图(graph break),导致图模式下无法使用print观察图执行过程中的tensor信息(包含value、shape、dtype)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_tensor_print_md.md ## Tiling调度优化功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/tiling_schedule_optimize.md - Description: 在静态图场景下,可以通过整图下沉优化调度性能。将完整的计算图一次性下发至Device侧,后续执行则无需Host参与,由Device自主完成计算,从而减少Host-Device交互开销,提升执行效率。部分算子的Tiling计算依赖运行时输入的具体数值(Tiling值依赖),需在执行时动态计算Tiling参数。针对该场景,可采用**Tiling下沉**优化方案:将Tiling计算下沉至Device侧的 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_tiling_schedule_optimize_md.md ## 图模式编译节点遍历选项 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/topology_sorting_strategy.md - Description: 推理场景下进行算子编译时,可以设置不同的图遍历模式,对静态图内存使用有不同的影响。用户需根据实际情况自行设置。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_topology_sorting_strategy_md.md ## View类算子优化功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/advanced/view_optimize.md - Description: 以TorchAir图方式调用算子时,如果存在多个View类算子,会带来冗余计算,增加计算耗时。默认情况下,TorchAir会开启View类算子优化功能,以提升算子执行性能。如果用户需要进行算子调优,尤其是精度比对,建议关闭本功能避免影响调优效果。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_advanced_view_optimize_md.md ## TorchAir Python层日志打印 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/basic/basic.md - Description: TorchAir的Python层日志(图编译过程中的日志信息)主要通过logger.setLevel函数设置,实现Python层功能调试和问题定位。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_basic_python_log_print_md.md ## 集合通信入图 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/basic/communication_graph.md - Description: 集合通信入图能够避免断图,并拥有更大的成图范围,从而获得更大的资源调度与融合收益,同时在整图层面实现通信与计算并行优化。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_basic_communication_graph_md.md ## TorchAir C++层日志打印 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/basic/cplus_log_print.md - Description: TorchAir的C++层日志(图执行过程中的日志信息)主要通过环境变量TNG\_LOG\_LEVEL开启,实现C++层功能调试和问题定位。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_basic_cplus_log_print_md.md ## 算子data dump功能(Eager模式) - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/basic/data_dump_eager.md - Description: Eager模式下,dump图计算过程中的输入、输出数据,用于后续问题定位和分析,如算子运行性能或精度问题。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_basic_data_dump_eager_md.md ## 多流并发死锁检测功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/basic/deadlock_check.md - Description: 本功能可以自动化检测\[多流并发\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/TorchAir/docs/zh/ascend\_ir/features/advanced/multi\_stream.md\)场景下可能存在的死锁风险。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_basic_deadlock_check_md.md ## 图编译Debug信息保存功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/basic/debug_save.md - Description: GE图模式下提供了多种调试定位方法,例如日志打印和文件dump等,需手动分别进行配置。该方式虽然具有一定灵活性,但也增加了操作的复杂性。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_basic_debug_save_md.md ## 图结构dump功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/basic/graph_dump.md - Description: 图模式场景下,如果模型执行出现异常(如模型精度不准确),可通过导出图结构来查看图执行节点信息,从而进行模型问题的分析和排查。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_basic_graph_dump_md.md ## FX图算子融合Pass配置功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/basic/pattern_fusion_pass.md - Description: TorchAir集成了PyTorch原生Pattern能力的算子融合功能,能够通过特定的算子替换规则,使用融合算子替换FX图中多个算子。这种优化可以有效减少部分场景下不必要的下发开销,提高模型执行效率。当与其它图优化策略结合使用时,可通过优化对比来选择最佳方案。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_basic_pattern_fusion_pass_md.md ## 自定义FX图Pass功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/basic/post_grad_custom_pass.md - Description: 用户可通过自定义图优化Pass,将其注册到TorchAir中,达到修改PyTorch FX图的目的。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_basic_post_grad_custom_pass_md.md ## TorchAir Python层日志打印 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/basic/python_log_print.md - Description: TorchAir的Python层日志(图编译过程中的日志信息)主要通过logger.setLevel函数设置,实现Python层功能调试和问题定位。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_basic_python_log_print_md.md ## 冗余算子消除功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/basic/remove_noop_ops.md - Description: 图模式场景下,TorchAir集成了冗余算子消除优化功能,能够自动识别并消除计算图中不影响程序逻辑或数据计算的冗余操作。这种优化可以有效减少不必要的计算开销,提高模型执行效率。当与其它图优化策略结合使用时,可通过优化对比来选择最佳方案。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_basic_remove_noop_ops_md.md ## run-eagerly功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/basic/run_eagerly.md - Description: 当模型执行出现问题时,无法确定是源于TorchAir本身图变换操作(IR converter、Cache compile等操作)还是图执行器导致的,此时可以**开启run-eagerly**。其可以在GE图模式执行之前提供Eager模式执行FX graph的能力,通过对比模型前后执行效果,辅助问题定界。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_basic_run_eagerly_md.md ## TorchAir Python层日志打印 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/features/features.md - Description: TorchAir的Python层日志(图编译过程中的日志信息)主要通过logger.setLevel函数设置,实现Python层功能调试和问题定位。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_features_basic_python_log_print_md.md ## GE图模式快速上手 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/ascend_ir/quick_start.md - Description: GE图模式一般通过TorchAir的CompilerConfig属性**mode\="max-autotune"**开启(该模式是系统默认模式),其将FX图转换为Ascend IR图,并通过GE图引擎实现图编译和执行。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_ascend_ir_quick_start_md.md ## PyTorch-本章介绍自定义PyTorch算子如何与TorchAir图模式配合工作(也叫**自 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/custom_op_graph/custom_op_graph.md - Description: 本章介绍自定义PyTorch算子如何与TorchAir图模式配合工作(也叫**自定义算子入图**)。阅读本节,您将了解自定义PyTorch算子与TorchAir配合的完整流程,以及流程涉及的交付件及其作用。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_custom_op_graph_overview_md.md ## In-place算子开发和入图样例 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/custom_op_graph/in_place_op_cases.md - Description: 本样例目标是自定义实现一个In-place类PyTorch算子,使其在Eager和TorchAir图模式下正常工作。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_custom_op_graph_in_place_op_cases_md.md ## 非In-place算子开发和入图样例 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/custom_op_graph/non_in_place_op_cases.md - Description: 本样例目标是自定义实现一个非In-place类PyTorch算子,使其在Eager和TorchAir图模式下正常工作。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_custom_op_graph_non_in_place_op_cases_md.md ## In-place算子开发和入图样例 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/custom_op_graph/op_adapt_torchair.md - Description: 本样例目标是自定义实现一个In-place类PyTorch算子,使其在Eager和TorchAir图模式下正常工作。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_custom_op_graph_in_place_op_cases_md.md ## 算子插件化适配TorchAir图模式 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/custom_op_graph/op_plugin_adapt_torchair.md - Description: 假设您已经实现了\[非In-place算子开发和入图样例\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/TorchAir/docs/zh/custom\_op\_graph/non\_in\_place\_op\_cases.md\)中的PyTorch算子torch.ops.npu.my\_op,并能在Eager模式下正常调用。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_custom_op_graph_op_plugin_adapt_torchair_md.md ## PyTorch-本章介绍自定义PyTorch算子如何与TorchAir图模式配合工作(也叫**自 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/custom_op_graph/overview.md - Description: 本章介绍自定义PyTorch算子如何与TorchAir图模式配合工作(也叫**自定义算子入图**)。阅读本节,您将了解自定义PyTorch算子与TorchAir配合的完整流程,以及流程涉及的交付件及其作用。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_custom_op_graph_overview_md.md ## 模型编译缓存功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/advanced/advanced.md - Description: torch.compile是一种即时编译器(Just-In-Time compiler),成图首次编译时间通常较长,而大模型推理场景对时延敏感,因此优化首次编译时长显得尤为重要。在推理服务和弹性扩容等业务场景中,使用编译缓存可有效缩短服务启动后的首次推理时延。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_advanced_compile_cache_md.md ## 模型编译缓存功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/advanced/compile_cache.md - Description: torch.compile是一种即时编译器(Just-In-Time compiler),成图首次编译时间通常较长,而大模型推理场景对时延敏感,因此优化首次编译时长显得尤为重要。在推理服务和弹性扩容等业务场景中,使用编译缓存可有效缩短服务启动后的首次推理时延。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_advanced_compile_cache_md.md ## AI Core和Vector Core限核功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/advanced/limit_cores.md - Description: 多流场景下,会出现所有核(Core)都被一个流占用的情况,导致算子执行并行度降低,因此需要把核分给不同的流使用,从而保证算子并行执行收益。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_advanced_limit_cores_md.md ## 多流表达功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/advanced/multi_stream.md - Description: 大模型推理场景下,对于一些可并行的场景,可以划分多个stream提升执行效率。通过在脚本中指定每个算子的执行stream,将原本需要串行的多个算子分发到不同stream进行并行计算,多个stream上的计算形成overlap,从而降低整体计算耗时。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_advanced_multi_stream_md.md ## 自定义FX图优化Pass功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/advanced/post_grad_custom_pass.md - Description: 用户可通过自定义图优化Pass,将其注册到npugraph\_ex中,达到修改PyTorch FX图的目的。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_advanced_post_grad_custom_pass_md.md ## SuperKernel融合优化功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/advanced/superkernel.md - Description: SuperKernel是一种算子二进制融合技术。与源码融合不同,它聚焦于内核函数(Kernel)的二进制调度方案优化,在已编译的二进制代码基础上融合创建一个超级Kernel函数(简称SuperKernel),以子函数调用的方式整合多个内核函数,从而优化计算任务、提升性能和资源利用率。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_advanced_superkernel_md.md ## npugraph\_ex API列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/api/api_list.md - Description: 本章介绍了npugraph\_ex场景下功能配置可能涉及的Python API,接口列表如下。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_api_api_list_md.md ## npugraph\_ex API列表 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/api/api.md - Description: 本章介绍了npugraph\_ex场景下功能配置可能涉及的Python API,接口列表如下。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_api_api_list_md.md ## PyTorch-cache\_compile - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/api/inference/cache_compile.md - Description: 开启\[模型编译缓存功能\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/TorchAir/docs/zh/npugraph\_ex/advanced/compile\_cache.md\)时需调用该接口实现编译缓存,降低成图编译耗时。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_api_inference_cache_compile_md.md ## PyTorch-readable\_cache - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/api/inference/readable_cache.md - Description: 开启\[模型编译缓存功能\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/TorchAir/docs/zh/npugraph\_ex/advanced/compile\_cache.md\)时需调用该接口读取封装的func函数缓存文件compiled\_module,并以可读文件格式(格式不限,如py、txt)呈现。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_api_inference_readable_cache_md.md ## PyTorch-cache\_compile - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/api/inference/torch-npu-npugraph_ex-inference.md - Description: 开启\[模型编译缓存功能\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/TorchAir/docs/zh/npugraph\_ex/advanced/compile\_cache.md\)时需调用该接口实现编译缓存,降低成图编译耗时。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_api_inference_cache_compile_md.md ## PyTorch-compile\_fx - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/api/npugraph_ex/compile_fx.md - Description: 返回编译后的可执行FX图对象,可直接调用执行。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_api_npugraph_ex_compile_fx_md.md ## PyTorch-register\_replacement - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/api/npugraph_ex/register_replacement.md - Description: 将自定义算子融合规则注册到npugraph\_ex中,在FX图编译后对图进行算子融合优化。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_api_npugraph_ex_register_replacement_md.md ## PyTorch-compile\_fx - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/api/npugraph_ex/torch-npu-npugraph_ex.md - Description: 返回编译后的可执行FX图对象,可直接调用执行。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_api_npugraph_ex_compile_fx_md.md ## PyTorch-limit\_core\_num - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/api/scope/limit_core_num.md - Description: aclgraph模式下,可通过本接口配置算子执行时使用的最大AI Core数和Vector Core数。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_api_scope_limit_core_num_md.md ## PyTorch-limit\_core\_num - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/api/scope/torch-npu-npugraph_ex-scope.md - Description: aclgraph模式下,可通过本接口配置算子执行时使用的最大AI Core数和Vector Core数。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_api_scope_limit_core_num_md.md ## force\_eager功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/basic/basic.md - Description: 当模型执行出现问题,无法确定是源于npugraph\_ex的图变换操作(IR converter、Cache compile等操作)还是图执行器导致的,建议启用本配置项。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_basic_force_eager_md.md ## 图捕获安全策略配置 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/basic/capture_error_mode.md - Description: aclgraph图模式下,在NPU图捕获过程中,`capture\_error\_mode`参数用于控制对某些可能不安全操作(如分配device内存)的处理策略,该参数最终会传递给`torch\_npu.npu.graph\(\)`上下文管理器。npugraph\_ex提供了`capture\_error\_mode`配置项,支持通过options参数灵活配置。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_basic_capture_error_mode_md.md ## 重捕获次数限制功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/basic/capture_limit.md - Description: npugraph\_ex后端(aclgraph)模式下,由于aclgraph本身不支持动态shape,因此执行过程中可能会因为输入shape的变化而多次重新捕获aclgraph。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_basic_capture_limit_md.md ## 集合通信入图 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/basic/communication_graph.md - Description: 集合通信入图能够避免断图,并拥有更大的成图范围,从而获得更大的资源调度与融合收益,同时在整图层面实现通信与计算并行优化。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_basic_communication_graph_md.md ## force\_eager功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/basic/force_eager.md - Description: 当模型执行出现问题,无法确定是源于npugraph\_ex的图变换操作(IR converter、Cache compile等操作)还是图执行器导致的,建议启用本配置项。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_basic_force_eager_md.md ## force\_recapture功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/basic/force_recapture.md - Description: 本配置项提供**强制每次执行时重新捕获aclgraph**的能力。当`force\_recapture`设置为True时,aclgraph在每次执行前都会进行重新捕获,而不是复用之前捕获的图。通过对比重捕获前后执行效果,辅助问题定界。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_basic_force_recapture_md.md ## 固定权重类输入地址功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/basic/frozen_parameter.md - Description: 推理场景下,\[Parameter类型\]\(https://pytorch.org/docs/2.1/generated/torch.nn.parameter.Parameter.html\)(权重类)的图输入内存地址通常保持不变。可以开启本功能缩短图下发时间,提升下发性能。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_basic_frozen_parameter_md.md ## FX图优化Pass配置功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/basic/inplace_pass.md - Description: aclgraph图模式下,可基于torch.compile生成的ATen IR表示FX Graph或GraphModule,通过对图中的ATen IR变换和分析,可在不修改原始模型代码的情况下对模型进行灵活修改,例如应用各种图优化Pass操作(算子融合、精度转换、量化等)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_basic_inplace_pass_md.md ## aclgraph间内存复用功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/basic/memory_reuse.md - Description: 本功能主要用于解决如下两种场景问题: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_basic_memory_reuse_md.md ## FX图算子融合Pass配置功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/basic/pattern_fusion_pass.md - Description: npugraph\_ex集成了PyTorch原生Pattern能力的算子融合功能,能够通过特定的算子替换规则,使用融合算子替换FX图中多个算子。这种优化可以有效减少部分场景下不必要的下发开销,提高模型执行效率。当与其它图优化策略结合使用时,可通过优化对比来选择最佳方案。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_basic_pattern_fusion_pass_md.md ## Cat算子消除功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/basic/remove_cat_ops.md - Description: 图模式场景下,当计算图中存在 \[torch.cat\]\(\)(对应 `torch.ops.aten.cat.default`)时,npugraph\_ex 内部会通过 Cat 算子消除 Pass 将其替换为「预分配输出张量 + slice + 原地写入」的模式,以减少内存拷贝和临时张量分配 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_basic_remove_cat_ops_md.md ## 冗余算子消除功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/basic/remove_noop_ops.md - Description: aclgraph图模式场景下,npugraph\_ex集成了冗余算子消除优化功能,能够自动识别并消除计算图中不影响程序逻辑或数据计算的冗余操作。这种优化可以有效减少不必要的计算开销,提高模型执行效率。当与其它图优化策略结合使用时,可通过优化对比来选择最佳方案。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_basic_remove_noop_ops_md.md ## 静态Kernel编译功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/basic/static_kernel_compile.md - Description: 对于纯静态shape网络或者shape变化较少的动态shape网络,如需提升网络执行性能,可通过算子预先静态编译达到目的,该方式简称为静态Kernel编译。它是指在模型编译时指定shape大小,运行时不需要指定shape大小,减少运行时开销,具体优势如下: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_basic_static_kernel_compile_md.md ## 算子Data Dump功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/dfx/data_dump.md - Description: 本功能可以Dump aclgraph模式下整图执行时的图输入、每个算子的输出数据,用于后续问题定位和分析,如算子运行性能或精度问题。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_dfx_data_dump_md.md ## 多流并发死锁检测功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/dfx/deadlock_check.md - Description: 本功能可以自动化检测\[多流并发\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/devguide/TorchAir/docs/zh/npugraph\_ex/advanced/multi\_stream.md\)场景下可能存在的死锁风险。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_dfx_deadlock_check_md.md ## 图编译Debug信息保存功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/dfx/debug_save.md - Description: 为方便问题定位过程中的信息收集,npugraph\_ex通过复用PyTorch**原生DEBUG环境变量TORCH\_COMPILE\_DEBUG**,当其设置为1时,将自动开启所有必要的日志打印与文件Dump。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_dfx_debug_save_md.md ## 图编译Debug信息保存功能 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/dfx/dfx.md - Description: 为方便问题定位过程中的信息收集,npugraph\_ex通过复用PyTorch**原生DEBUG环境变量TORCH\_COMPILE\_DEBUG**,当其设置为1时,将自动开启所有必要的日志打印与文件Dump。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_dfx_debug_save_md.md ## npugraph\_ex快速上手 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/npugraph_ex.md - Description: npugraph\_ex后端可以提供一个基于torch.compile的简单整图aclgraph加速方案,aclgraph又称为捕获模式,其实现原理请参考\[《CANN应用开发》\]\(https://hiascend.com/document/redirect/cannCommunityadev\)中的“ACL Graph > 任务更新”章节。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_quick_start_md.md ## npugraph\_ex快速上手 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/npugraph_ex/quick_start.md - Description: npugraph\_ex后端可以提供一个基于torch.compile的简单整图aclgraph加速方案,aclgraph又称为捕获模式,其实现原理请参考\[《CANN应用开发》\]\(https://hiascend.com/document/redirect/cannCommunityadev\)中的“ACL Graph > 任务更新”章节。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_npugraph_ex_quick_start_md.md ## PyTorch-TorchAir(Torch Ascend Intermediate Repre - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/devguide/TorchAir/docs/zh/overview.md - Description: TorchAir(Torch Ascend Intermediate Representation)是昇腾TorchNPU的图模式能力扩展库,提供了昇腾设备亲和的torch.compile图模式后端,实现了PyTorch网络在昇腾NPU上的图模式**推理加速**以及**性能优化**。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_devguide_TorchAir_docs_zh_overview_md.md ## PyTorch-TorchNPU - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/index/index.html - Description: 作为Ascend for PyTorch社区的核心组件,TorchNPU(原名Ascend Extension for PyTorch)是昇腾专为PyTorch打造的深度学习适配框架,使PyTorch框架能够直接调用昇腾NPU,为开发者提供强劲的AI算力支撑。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_index_index_html.md ## 编译libtorch\_npu - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/installguide/swinstall/docs/zh/installation_guide/building_libtorch_npu.md - Description: libtorch\_npu是TorchNPU插件的C++版本,包含运行TorchNPU插件所需的头文件、库文件以及CMake配置文件。用户可以通过libtorch\_npu使用TorchNPU插件中开放的C++接口。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_installguide_swinstall_docs_zh_installation_guide_building_libtorch_npu_md.md ## 方式二:源码安装 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/installguide/swinstall/docs/zh/installation_guide/compilation_installation_using_source_code.md - Description: 源码安装适用于二次开发场景,如自定义算子适配开发后,用户可以选择需要的分支版本自行编译PyTorch框架和TorchNPU插件。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_installguide_swinstall_docs_zh_installation_guide_compilation_installation_using_source_code_md.md ## 配置pip源 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/installguide/swinstall/docs/zh/installation_guide/configuring_pip_source.md - Description: 配置pip源,配置方法如下: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_installguide_swinstall_docs_zh_installation_guide_configuring_pip_source_md.md ## PyTorch-**问题描述** - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/installguide/swinstall/docs/zh/installation_guide/FAQ.md - Description: 问题描述 aarch64环境下进行libtorch推理测试,编译时依赖torch.libs/.so库,需要手动加载。 - 报错截图 - 报错文本 处理方法 在CMakeLists.txt编译文件中增加torch.libs/.so库的链接,代码示例如下: 问题描述 编译构建时,子模块缺失或需要更换子模块版本。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_installguide_swinstall_docs_zh_installation_guide_FAQ_md.md ## 安装说明 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/installguide/swinstall/docs/zh/installation_guide/installation_description.md - Description: 为使用PyTorch框架的开发者提供昇腾AI处理器的超强算力,昇腾开发TorchNPU用于适配PyTorch框架。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_installguide_swinstall_docs_zh_installation_guide_installation_description_md.md ## 方式一:离线安装(Whl) - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/installguide/swinstall/docs/zh/installation_guide/installation_via_binary_package.md - Description: 通过Whl包直接安装PyTorch和TorchNPU插件。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_installguide_swinstall_docs_zh_installation_guide_installation_via_binary_package_md.md ## 安装CMake 3.18.4版本 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/installguide/swinstall/docs/zh/installation_guide/installing_cmake_3-18-4.md - Description: 以下步骤请在**root**用户下执行。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_installguide_swinstall_docs_zh_installation_guide_installing_cmake_3-18-4_md.md ## 安装GCC 11.2.0版本 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/installguide/swinstall/docs/zh/installation_guide/installing_gcc_11-2-0.md - Description: 以root安装gcc 11.2.0为例演示编译安装操作,编译前请检查系统时间,确认与当前时间一致后再进行编译,避免编译安装gcc时陷入死循环。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_installguide_swinstall_docs_zh_installation_guide_installing_gcc_11-2-0_md.md ## 方式一:离线安装(Whl) - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/installguide/swinstall/docs/zh/installation_guide/installing_PyTorch.md - Description: 通过Whl包直接安装PyTorch和TorchNPU插件。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_installguide_swinstall_docs_zh_installation_guide_installation_via_binary_package_md.md ## 安装torchvision - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/installguide/swinstall/docs/zh/installation_guide/installing_torchvision.md - Description: torchvision为PyTorch的扩展库,主要用于计算机视觉任务。它包括许多常用的模型、数据集,使得处理图像数据变得更加简单高效。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_installguide_swinstall_docs_zh_installation_guide_installing_torchvision_md.md ## 编译libtorch\_npu - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/installguide/swinstall/docs/zh/installation_guide/Optional_installing_extension_modules.md - Description: libtorch\_npu是TorchNPU插件的C++版本,包含运行TorchNPU插件所需的头文件、库文件以及CMake配置文件。用户可以通过libtorch\_npu使用TorchNPU插件中开放的C++接口。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_installguide_swinstall_docs_zh_installation_guide_building_libtorch_npu_md.md ## 安装前准备 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/installguide/swinstall/docs/zh/installation_guide/preparing_installation.md - Description: 若用户使用预先训练好的模型进行数据处理和分析,即仅进行离线推理,请跳过此章节。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_installguide_swinstall_docs_zh_installation_guide_preparing_installation_md.md ## 配置pip源 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/installguide/swinstall/docs/zh/installation_guide/references.md - Description: 配置pip源,配置方法如下: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_installguide_swinstall_docs_zh_installation_guide_configuring_pip_source_md.md ## PyTorch-卸载 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/installguide/swinstall/docs/zh/installation_guide/uninstallation.md - Description: - 卸载PyTorch框架需执行如下命令: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_installguide_swinstall_docs_zh_installation_guide_uninstallation_md.md ## PyTorch-升级 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/installguide/swinstall/docs/zh/installation_guide/upgrade.md - Description: 1. 需要先手动卸载旧版本,具体可参见\[卸载\]\(https://www.hiascend.com/document/detail/zh/Pytorch/2610/installguide/swinstall/docs/zh/installation\_guide/uninstallation.md\)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_installguide_swinstall_docs_zh_installation_guide_upgrade_md.md ## 版本说明 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/releasenote/docs/zh/release_notes/release_notes.md - Description: 固件和驱动的版本配套表与所有的昇腾硬件及CANN版本相关,具体选择请参考CANN版本说明。 TorchNPU代码分支名称采用 \{PyTorch版本\}-\{TorchNPU版本\} 的命名规则,前者为TorchNPU匹配的PyTorch版本, - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_releasenote_docs_zh_release_notes_release_notes_md.md ## 快速入门 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/fastexperience/docs/zh/quick_start/quick_start.md - Description: 本快速入门以在Atlas 800T A2 训练服务器上运行为例。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_fastexperience_docs_zh_quick_start_quick_start_md.md ## 配套软件库 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/SuppLib/FrameworkPTAdapter/26.1.0/zh/supported_suites_and_third_party_libraries/supported_suites_and_third_party_libraries.md - Description: 为扩展TorchNPU能力,昇腾提供如下自研插件。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_SuppLib_FrameworkPTAdapter_2610_zh_supported_suites_and_third_party_libraries_supported_suites_and_third_party_libraries_md.md ## PyTorch-Inductor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/torchcompile/docs/zh/torch_compile/backend.md - Description: Inductor是`torch.compile\(\)`的默认后端编译器,通过 “Dynamo前端图捕获 + Inductor后端优化 + 高性能算子生成” 的协同方式,在不改变模型逻辑的前提下自动进行算子融合和代码生成,显著提升训练或推理的吞吐量。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_torchcompile_docs_zh_torch_compile_pytorch_inductor_desc_md.md ## Guard Filter - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/torchcompile/docs/zh/torch_compile/frontend.md - Description: `guard\_filter\_fn`是PyTorch Dynamo层的编译选项,作用于图捕获阶段,与下游编译后端无关。guard的生成和校验逻辑均由Dynamo统一管理,因此`guard\_filter\_fn`对所有后端通用。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_torchcompile_docs_zh_torch_compile_pytorch_guard_filter_md.md ## PyTorch-AOT\_Eager - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/torchcompile/docs/zh/torch_compile/pytorch_aoteager_desc.md - Description: `aot\_eager`是PyTorch原生的`torch.compile\(\)`后端之一。AOT\_Eager将`torch.compile`捕获的FX Graph通过Ahead-of-Time(AOT)自动微分机制进行编译,但最终回退到Eager模式执行,不做额外的算子融合或代码生成优化。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_torchcompile_docs_zh_torch_compile_pytorch_aoteager_desc_md.md ## PyTorch-`torch - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/torchcompile/docs/zh/torch_compile/pytorch_compilation_mode.md - Description: `torch.compile\(\)`是PyTorch 2.0推出的核心编译接口,通过“动态图捕获+静态图优化+高效代码生成”的方式显著加速模型训练和推理任务。TorchNPU 7.3.0版本开始支持`torch.compile\(\)`功能,仅需一行代码即可自动实现前端图捕获和后端优化,适用于全自动编译的场景。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_torchcompile_docs_zh_torch_compile_pytorch_compilation_mode_md.md ## PyTorch-NPUGraphs - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/torchcompile/docs/zh/torch_compile/pytorch_compile_npugraph_desc.md - Description: `npugraphs`是`torch.compile\(\)`的图捕获后端,基于NPUGraph\(ACLGraph\)技术实现。NPUGraphs捕获一系列NPU操作(如kernel调用、内存拷贝)组成静态图缓存在NPU设备上;一次捕获、多次复跑,避免重复的kernel启动开销(kernel launch overhead)。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_torchcompile_docs_zh_torch_compile_pytorch_compile_npugraph_desc_md.md ## Guard Filter - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/torchcompile/docs/zh/torch_compile/pytorch_guard_filter.md - Description: `guard\_filter\_fn`是PyTorch Dynamo层的编译选项,作用于图捕获阶段,与下游编译后端无关。guard的生成和校验逻辑均由Dynamo统一管理,因此`guard\_filter\_fn`对所有后端通用。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_torchcompile_docs_zh_torch_compile_pytorch_guard_filter_md.md ## PyTorch-Inductor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/torchcompile/docs/zh/torch_compile/pytorch_inductor_desc.md - Description: Inductor是`torch.compile\(\)`的默认后端编译器,通过 “Dynamo前端图捕获 + Inductor后端优化 + 高性能算子生成” 的协同方式,在不改变模型逻辑的前提下自动进行算子融合和代码生成,显著提升训练或推理的吞吐量。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_torchcompile_docs_zh_torch_compile_pytorch_inductor_desc_md.md ## PyTorch-NPUGraph\_EX - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/torchcompile/docs/zh/torch_compile/pytorch_npugraph_ex_desc.md - Description: NPUGraph\_EX是轻量化高性能图后端,融合了ACLGraph的图下沉调度能力,在PyTorch FX图上叠加亲和NPU的图优化和编译缓存复用等能力,进一步加速大模型在NPU上编译运行。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_torchcompile_docs_zh_torch_compile_pytorch_npugraph_ex_desc_md.md ## TorchAir-GE后端 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/torchcompile/docs/zh/torch_compile/pytorch_torchair_ge_desc.md - Description: TorchAir-GE后端将PyTorch的FX计算图转换为中间表示(IR, Intermediate Representation),并通过GE(Graph Engine, 图引擎)实现计算图的编译和执行。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_torchcompile_docs_zh_torch_compile_pytorch_torchair_ge_desc_md.md ## TorchNPU概述 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/torchnpuoverview/docs/zh/overview/product_overview.md - Description: TorchNPU插件是基于昇腾的深度学习适配框架,使昇腾NPU可以支持PyTorch框架,为PyTorch框架的使用者提供昇腾AI处理器的超强算力。TorchNPU插件采用**设备适配**的实现方案,将昇腾NPU作为新的后端设备注册到PyTorch的Device抽象层中,使其与CPU、CUDA等设备类型并列。开发者只需在代码中将设备指定为NPU,PyTorch原生的算子分发机制即可自动将计算任务路 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_torchnpuoverview_docs_zh_overview_product_overview_md.md ## 回显信息 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/command_output.md - Description: 回显信息通常比较多,许多组件都会在屏幕上进行错误信息的输出,可以大致分为如下几类: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_command_output_md.md ## 通信域建链超时 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/communication_domain_link_establishment_timeout.md - Description: 关键词"**Socket Timeout**" - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_communication_domain_link_establishment_timeout_md.md ## 通信算子传入非连续tensor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/communication_operator_transfers_Non-contiguous_tensors.md - Description: 回显信息中存在关键字“**RuntimeError: Tensors must be contiguous**”,类似如下打印信息: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_communication_operator_transfers_Non-contiguous_tensors_md.md ## 错误码信息 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/error_code_information.md - Description: 该错误码代表存在无效传参。“**”表示不同模块,例如ERR00001,“ERR”后面的“00”代表PTA模块,ERR00001代表在PTA侧存在无效参数。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_error_code_information_md.md ## PyTorch-用户执行模型构建、推理运行、训练脚本等场景时发生异常错误 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/error_codes_introduction.md - Description: 用户执行模型构建、推理运行、训练脚本等场景时发生异常错误,例如检测到输入错误(命令行输入参数错误、API输入参数错误、输入文件错误、算子不支持、Shape/Format不支持……)或环境错误,系统会在用户界面展示报错的错误码信息。实际问题定位中,需要结合具体的报错信息以及plog日志等共同定位。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_usage_instruction_md.md ## 报错信息分析说明 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/error_information_analysis_guide.md - Description: 用户在模型训练异常时可能遇到较多的错误信息,包括Python调用栈和异常信息、原生框架报错信息、TorchNPU错误码、CANN软件错误码以及plog日志等,本节主要对定位错误来源进行分析指导。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_error_information_introduction_md.md ## 报错信息分析流程 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/error_information_analysis_process.md - Description: 获取报错信息后可参考以下流程进行自助式问题分析,以便开发者快速定位并解决故障。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_error_information_analysis_process_md.md ## 报错信息分析流程 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/error_information_analysis.md - Description: 获取报错信息后可参考以下流程进行自助式问题分析,以便开发者快速定位并解决故障。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_error_information_analysis_process_md.md ## 回显信息 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/error_information_classification.md - Description: 回显信息通常比较多,许多组件都会在屏幕上进行错误信息的输出,可以大致分为如下几类: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_command_output_md.md ## 报错信息分析说明 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/error_information_introduction.md - Description: 用户在模型训练异常时可能遇到较多的错误信息,包括Python调用栈和异常信息、原生框架报错信息、TorchNPU错误码、CANN软件错误码以及plog日志等,本节主要对定位错误来源进行分析指导。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_error_information_introduction_md.md ## 调用算子参数校验失败 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/failed_verify_op_parameters.md - Description: 回显信息中存在关键字“**Expected all tensors to be on the same device. Expected NPU tensor, please check whether the input tensor device is correct.**”,类似如下打印信息: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_failed_verify_op_parameters_md.md ## HCCL超时 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/HCCL_timeout.md - Description: 关键词“**EI0002**” - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_HCCL_timeout_md.md ## 初始化报错 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/initialization_error.md - Description: 关键词"**at\_npu::native::AclSetCompileopt**" - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_initialization_error_md.md ## coredump问题定位 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/locating_coredump_faults.md - Description: 当应用程序运行过程中发生异常,即屏幕中显示了“Segmentation fault”字样,则表示出现了coredump。如果屏幕中没有显示“Segmentation fault”,没有Python堆栈,plog日志中也没有ERROR级别的日志,且有进程收到11号信号,则也表示出现了coredump。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_locating_coredump_faults_md.md ## 使用NZ格式后精度异常 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/nz_format_precision_issue.md - Description: 在网络调优时,用户开启\[`torch.npu.config.allow\_internal\_format \= True`\]\(https://gitcode.com/Ascend/op-plugin/blob/26.1.0/docs/zh/custom\_APIs/torch\_npu-npu/%EF%BC%88beta%EF%BC%89torch\_npu-npu-config-allow\_interna - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_nz_format_precision_issue_md.md ## 算子调用报错 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/operator_called_error.md - Description: 关键词"**Cannot find bin of op ...**" - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_operator_called_error_md.md ## plog日志信息 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/plog_log.md - Description: 应用程序运行完成后,默认可在“$HOME/ascend/log”下查看其应用类日志,如下图所示。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_plog_log_md.md ## 分布式任务端口号被占用 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/port_number_distributed_task_in_use.md - Description: 回显信息中存在关键字“**Address already in use**”,类似如下打印信息: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_port_number_distributed_task_in_use_md.md ## 主要进程与线程说明 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/process_thread_reference.md - Description: 本文档帮助用户在运行torch及TorchNPU训练或推理任务时,快速识别和理解系统中出现的各类进程与线程。当用户需要排查性能瓶颈、诊断异常进程/线程、了解系统资源占用情况或评估程序行为是否符合预期时,可通过本文档查询各进程/线程的归属、触发条件与生命周期。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_process_thread_reference_md.md ## 通信算子传入非连续tensor - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/troubleshooting_cases.md - Description: 回显信息中存在关键字“**RuntimeError: Tensors must be contiguous**”,类似如下打印信息: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_communication_operator_transfers_Non-contiguous_tensors_md.md ## 故障处理流程 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/troubleshooting_process.md - Description: 本文主要以开发者在执行推理、训练过程中可能遇到的各类异常故障现象为入口,提供自助式问题定位、问题处理方法,方便开发者快速定位并解决故障,内容包括:**屏幕打印的错误码信息及处理方法**、**一键式日志收集**以及**各类问题定位工具使用**。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_troubleshooting_process_md.md ## 调用不支持的算子 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/unsupported_op_called.md - Description: 关键字"Warning: CAUTION: The operator 'xxx' is not currently supported on the NPU backend and will fall back to run on the CPU. This may have performance implications. \(function npu\_cpu\_fallback\)" - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_unsupported_op_called_md.md ## PyTorch-用户执行模型构建、推理运行、训练脚本等场景时发生异常错误 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/usage_instruction.md - Description: 用户执行模型构建、推理运行、训练脚本等场景时发生异常错误,例如检测到输入错误(命令行输入参数错误、API输入参数错误、输入文件错误、算子不支持、Shape/Format不支持……)或环境错误,系统会在用户界面展示报错的错误码信息。实际问题定位中,需要结合具体的报错信息以及plog日志等共同定位。 - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_usage_instruction_md.md ## 用于梯度计算的变量被inplace操作 - URL: https://www.hiascend.com/document/detail/zh/Pytorch/latest/userguide/troubleshooting/docs/zh/troubleshooting/variables_used_gradient_computation_modified_by_in-place_op.md - Description: 回显信息中存在关键字“**one of the variables needed for gradient computation has been modified by an inplace operation**”,类似如下打印信息: - Detail: llms-content/document/detail/Pytorch/Pytorch_2610_userguide_troubleshooting_docs_zh_troubleshooting_variables_used_gradient_computation_modified_by_in-place_op_md.md ## TensorFlow商业版-本文用于指导开发人员 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg - Description: 本文用于指导开发人员,如何开发TensorFlow框架的Scope融合规则,把Scope内的多个小算子替换为一个大算子或多个算子组合,以提升TensorFlow计算图在AI处理器上的执行效率。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlastfscopedev_11_0002_html.md ## 接口列表 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0103.html - Description: 主要介绍Scope融合规则开发接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0103_html.md ## Scope构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0105.html - Description: Scope构造函数和析构函数。 无 Scope构造函数返回Scope类型的对象。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0105_html.md ## TensorFlow商业版-Init - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0106.html - Description: 初始化Scope对象。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0106_html.md ## TensorFlow商业版-Name - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0107.html - Description: 获取Scope的名称。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0107_html.md ## TensorFlow商业版-SubType - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0108.html - Description: 获取Scope子类型名称。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0108_html.md ## TensorFlow商业版-AllNodesMap - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0109.html - Description: 获取和Scope相关联的nodes map。 其中包括scope本身关联的node,子scope关联的node,层层递归下去,取得所有相关联的nodes。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0109_html.md ## TensorFlow商业版-GetSubScope - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0110.html - Description: 获取Scope的子Scope信息。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0110_html.md ## TensorFlow商业版-LastName - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0111.html - Description: 获取Scope名称字符串中,最后一个“/”分隔符后的字符串。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0111_html.md ## TensorFlow商业版-GetAllSubScopes - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0112.html - Description: 获取Scope关联的子Scope,子Scope关联的子Scope,层层递归下去,取得所有相关联的Scope集合。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0112_html.md ## TensorFlow商业版-GetFatherScope - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0113.html - Description: 获取Scope的父Scope信息。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0113_html.md ## FusionScopesResult构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0115.html - Description: FusionScopesResult构造函数和析构函数。 无。 FusionScopesResult构造函数返回FusionScopesResult类型的对象。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0115_html.md ## TensorFlow商业版-Init - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0116.html - Description: 初始化FusionScopesResult对象。 无。 返回Status类型的状态。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0116_html.md ## TensorFlow商业版-SetName - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0117.html - Description: 设置Scope result的名称。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0117_html.md ## TensorFlow商业版-SetType - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0118.html - Description: 设置Scope result的类型。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0118_html.md ## TensorFlow商业版-SetDescription - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0119.html - Description: 设置Scope result的描述信息。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0119_html.md ## TensorFlow商业版-Name - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0120.html - Description: 获取Scope result的名称。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0120_html.md ## TensorFlow商业版-Nodes - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0121.html - Description: 获取Scope result中的nodes信息。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0121_html.md ## TensorFlow商业版-InsertInputs - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0122.html - Description: 在FusionScopesResult中插入融合算子的输入信息。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0122_html.md ## TensorFlow商业版-InsertOutputs - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0123.html - Description: 在FusionScopesResult中插入融合算子的输出信息。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0123_html.md ## TensorFlow商业版-SetName - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0125.html - Description: 设置InnerNodeInfo的名称。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0125_html.md ## TensorFlow商业版-SetType - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0126.html - Description: 设置InnerNodeInfo的类型。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0126_html.md ## TensorFlow商业版-InsertInput - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0127.html - Description: 在InnerNodeInfo中插入输入算子相关信息。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0127_html.md ## TensorFlow商业版-InsertOutput - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0128.html - Description: 在InnerNodeInfo中插入输出算子相关信息。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0128_html.md ## TensorFlow商业版-BuildInnerNode - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0129.html - Description: 构建InnerNode。 无。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0129_html.md ## TensorFlow商业版-SetInputFormat - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0130.html - Description: 设置InnerNode输入格式。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0130_html.md ## TensorFlow商业版-SetOutputFormat - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0131.html - Description: 设置InnerNode输出算子格式。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0131_html.md ## TensorFlow商业版-SetDynamicInputFormat - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0132.html - Description: 设置DynamicInput格式。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0132_html.md ## TensorFlow商业版-SetDynamicOutputFormat - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0133.html - Description: 设置DynamicOutput格式。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0133_html.md ## TensorFlow商业版-MutableOperator - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0134.html - Description: 获取内部Operator对象的引用,用于修改Operator信息。 无。 返回ge::Operator类型指针。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0134_html.md ## TensorFlow商业版-GetName - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0135.html - Description: 获取InnerNodeInfo名。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0135_html.md ## TensorFlow商业版-GetType - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0136.html - Description: 获取InnerNodeInfo类型。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0136_html.md ## TensorFlow商业版-GetInputs - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0137.html - Description: 获取InnerNodeInfo输入信息。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 输入Vector信息。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0137_html.md ## TensorFlow商业版-GetOutputs - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0138.html - Description: 获取InnerNodeInfo输出信息。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 输出Vector信息。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0138_html.md ## InnerNodeInfo构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0139.html - Description: InnerNodeInfo构造函数和析构函数。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 InnerNodeInfo构造函数返回InnerNodeInfo类型的对象。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0139_html.md ## CHECK\_INNER\_NODE\_CONDITION宏 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0140.html - Description: 检查FusionScopesResult是否满足条件。FusionScopesResult详细信息请参考FusionScopesResult类。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0140_html.md ## TensorFlow商业版-AddInnerNode - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0141.html - Description: 增加InnerNode节点。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 返回InnerNodeInfo指针, - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0141_html.md ## TensorFlow商业版-MutableRecentInnerNode - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0142.html - Description: 最近添加的InnerNode节点。 无。 返回InnerNodeInfo指针或nullptr,代表返回最近添加的节点,如果是空指针则代表最近未新增过节点,新增节点列表为空。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0142_html.md ## TensorFlow商业版-MutableInnerNode - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0143.html - Description: 获取指定index的InnerNode,获取之后可以对该InnerNode进行修改。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0143_html.md ## TensorFlow商业版-CheckInnerNodesInfo - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0144.html - Description: 检查InnerNodeInfo输入输出。 无。 返回ge::graphStatus类型的状态码。ge::GRAPHSUCCESS表示成功,返回值其他表示失败。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0144_html.md ## ScopeTree构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0146.html - Description: ScopeTree构造函数和析构函数。 无。 ScopeTree构造函数返回ScopeTree类型的对象。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0146_html.md ## TensorFlow商业版-Init - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0147.html - Description: 初始化ScopeTree对象。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0147_html.md ## TensorFlow商业版-GetAllScopes - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0148.html - Description: 获取ScopeTree中包含的所有Scope信息。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0148_html.md ## ScopeGraph构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0150.html - Description: ScopeGraph构造函数和析构函数。 无。 ScopeGraph构造函数返回ScopeGraph类型的对象。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0150_html.md ## TensorFlow商业版-Init - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0151.html - Description: 初始化ScopeGraph对象。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0151_html.md ## TensorFlow商业版-GetScopeTree - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0152.html - Description: 获取ScopeTree对象实例。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0152_html.md ## TensorFlow商业版-GetNodesMap - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0153.html - Description: 获取ScopeGraph中包含的nodes信息。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0153_html.md ## ScopeAttrValue构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0155.html - Description: ScopeAttrValue构造函数和析构函数。 ScopeAttrValue构造函数返回ScopeAttrValue类型的对象。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0155_html.md ## TensorFlow商业版-SetIntValue - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0156.html - Description: 设置ScopeAttrValue的整型值。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0156_html.md ## TensorFlow商业版-SetFloatValue - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0157.html - Description: 设置ScopeAttrValue的浮点类型值。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0157_html.md ## TensorFlow商业版-SetStringValue - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0158.html - Description: 设置ScopeAttrValue的string类型值。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0158_html.md ## TensorFlow商业版-SetBoolValue - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0159.html - Description: 设置ScopeAttrValue的布尔类型值。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0159_html.md ## ScopeBaseFeature构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0161.html - Description: ScopeBaseFeature析构函数。 无。 无。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0161_html.md ## TensorFlow商业版-Match - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0162.html - Description: Scope融合匹配接口。 用户不直接调用。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0162_html.md ## NodeOpTypeFeature构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0164.html - Description: NodeOpTypeFeature构造函数和析构函数。 继承ScopeBaseFeature。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0164_html.md ## TensorFlow商业版-Match - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0165.html - Description: Scope融合匹配接口。 用户不直接调用。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0165_html.md ## NodeAttrFeature构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0167.html - Description: NodeAttrFeature构造函数和析构函数。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0167_html.md ## TensorFlow商业版-Match - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0168.html - Description: Scope融合匹配接口。 用户不直接调用。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0168_html.md ## ScopeFeature构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0170.html - Description: ScopeFeature构造函数和析构函数。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0170_html.md ## TensorFlow商业版-Match - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0171.html - Description: Scope融合匹配接口。 用户不直接调用。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0171_html.md ## ScopePattern构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0173.html - Description: ScopePattern构造函数和析构函数。 无。 ScopePattern构造函数返回ScopePattern类型的对象。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0173_html.md ## TensorFlow商业版-SetSubType - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0174.html - Description: Scope匹配到融合规则之后,设置该Scope的类型。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0174_html.md ## TensorFlow商业版-AddNodeOpTypeFeature - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0175.html - Description: 添加NodeOpTypeFeature对象到ScopePattern。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0175_html.md ## TensorFlow商业版-AddNodeAttrFeature - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0176.html - Description: 添加NodeAttrFeature对象到ScopePattern。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0176_html.md ## TensorFlow商业版-AddScopeFeature - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0177.html - Description: 添加ScopeFeature对象到ScopePattern。该函数将传入的feature对象复制到内部容器中,支持链式调用。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0177_html.md ## ScopesResult构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0179.html - Description: ScopesResult构造函数和析构函数。 ScopesResult构造函数返回ScopesResult类型的对象。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0179_html.md ## TensorFlow商业版-SetScopes - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0180.html - Description: 设置ScopeResult中包含的scopes。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0180_html.md ## TensorFlow商业版-SetNodes - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0181.html - Description: 设置ScopeResult中包含的nodes。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0181_html.md ## ScopeBasePass构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0183.html - Description: ScopeBasePass构造函数和析构函数。 无。 无。 无。 抽象类,不能被实例化,但是构造函数会在子类实例化之前被调用。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0183_html.md ## TensorFlow商业版-DefinePatterns - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0184.html - Description: 方法定义,子类实现各自的融合策略并构建Patterns。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0184_html.md ## TensorFlow商业版-PassName - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0185.html - Description: 方法定义,定义scope融合规则的名称。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0185_html.md ## TensorFlow商业版-LastMatchScopesAndOPs - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0186.html - Description: 方法定义,子类实现scope匹配及运算符融合方法。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0186_html.md ## TensorFlow商业版-GenerateFusionResult - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0187.html - Description: 方法定义,子类实现各自的融合结果,并设置最终融合算子的输入和输出。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0187_html.md ## TensorFlow商业版-StringReplaceAll - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0189.html - Description: 将字符串str中包含oldvalue的字符串用newvalue替换。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0189_html.md ## TensorFlow商业版-FreeScopePatterns - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0190.html - Description: 释放ScopePattern集的资源。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0190_html.md ## TensorFlow商业版-FreeOneBatchPattern - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0191.html - Description: 释放一个batch包含的ScopePattern资源。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0191_html.md ## ScopeFusionPassRegistry析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0193.html - Description: ScopeFusionPassRegistry析构函数。 无。 无。 无。 - 单例类,构造函数不可见。 - 用户不直接调用。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0193_html.md ## TensorFlow商业版-GetInstance - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0194.html - Description: 获得ScopeFusionPassRegistry单例对象。 无。 用户不直接调用。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0194_html.md ## TensorFlow商业版-RegisterScopeFusionPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0195.html - Description: 注册融合算子。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0195_html.md ## ScopeFusionPassRegistrar构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0197.html - Description: ScopeFusionPassRegistrar构造函数和析构函数。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0197_html.md ## TensorFlow商业版-REGISTER\_SCOPE\_FUSION\_PASS - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0198.html - Description: 注册Scope融合算子。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0198_html.md ## TensorFlow商业版-kScopeToMultiNodes - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0200.html - Description: 特殊定义的类型,融合结果中配置了这个类型表示希望将scope映射成多个D算子。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0200_html.md ## TensorFlow商业版-kScopeInvalidType - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0201.html - Description: 特殊定义的类型,融合结果中配置了这个类型表示有错误发生。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0201_html.md ## TensorFlow商业版-kInputFromFusionScope - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0202.html - Description: 表示小算子的输入来自scope边界。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0202_html.md ## TensorFlow商业版-kOutputToFusionScope - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlassfpapi_07_0203.html - Description: 表示小算子输入到scope边界。 无。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlassfpapi_07_0203_html.md ## TensorFlow商业版-本文用于指导开发人员 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlastfscopedev_11_0002.html - Description: 本文用于指导开发人员,如何开发TensorFlow框架的Scope融合规则,把Scope内的多个小算子替换为一个大算子或多个算子组合,以提升TensorFlow计算图在AI处理器上的执行效率。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlastfscopedev_11_0002_html.md ## 什么是Scope融合 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlastfscopedev_11_0004.html - Description: 为了实现高性能的计算,往往需要对子图中的小算子进行融合,使得融合后的大算子(多对一场景)或小算子组合(多对多场景)可以充分利用硬件加速资源。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlastfscopedev_11_0004_html.md ## Scope融合实现方案 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlastfscopedev_11_0005.html - Description: Scope融合实现方案包括Scope融合规则注册、Scope融合规则创建和执行。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlastfscopedev_11_0005_html.md ## Scope融合规则分类 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlastfscopedev_11_0006.html - Description: 系统提供内置的Scope融合规则,详细请参考《TensorFlow Parser Scope融合规则参考\(https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/900/Convergence/tfscopefusionref/atlasfr\_30\_0002.html\)》,同时开放接口供用户自定义,本文主要介绍如何自定义Sc - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlastfscopedev_11_0006_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlastfscopedev_11_0008.html - Description: 参见《CANN 软件安装\(https://www.hiascend.com/document/detail/zh/canncommercial/900/softwareinst/instg/instg\_0000.html\)》进行环境搭建,安装完成后: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlastfscopedev_11_0008_html.md ## 开发流程及关键接口 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlastfscopedev_11_0010.html - Description: Scope融合按照融合场景分为多对一融合场景和多对多融合场景。本节介绍两种场景的开发流程及关键接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlastfscopedev_11_0010_html.md ## 融合规则设计 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlastfscopedev_11_0011.html - Description: 融合规则设计包括明确融合方案、明确融合算子原型和明确融合对应关系。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlastfscopedev_11_0011_html.md ## 创建代码目录 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlastfscopedev_11_0012.html - Description: 用户可以直接单击Link\(https://gitee.com/ascend/samples/releases\),下载配套版本的sample包,从“samples/cplusplus/level1\_single\_api/4\_op\_dev/1\_custom\_op”目录中获取样例。并对其中的样例进行修改,追加自己的自定义融合规则。工程目录结构如下: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlastfscopedev_11_0012_html.md ## 定义融合规则类 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlastfscopedev_11_0014.html - Description: 在融合规则头文件(例如decode\_bbox\_v2\_scope\_fusion\_pass.h)中,定义Scope融合规则类,继承自ScopeBasePass类。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlastfscopedev_11_0014_html.md ## 定义融合规则 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlastfscopedev_11_0015.html - Description: 在融合规则实现文件(例如decode\_bbox\_v2\_scope\_fusion\_pass.cc)中,定义Scope的融合规则,便于系统基于此规则在全图的Scope中匹配,找到符合相应规则的Scope。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlastfscopedev_11_0015_html.md ## 设置融合规则名称 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlastfscopedev_11_0016.html - Description: 通过PassName设置融合规则名称,本例为DecodeBboxV2ScopeFusionPass。``` - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlastfscopedev_11_0016_html.md ## 设置最终匹配规则 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlastfscopedev_11_0017.html - Description: 设置最终匹配规则包括设置基本Scope匹配规则和Scope并列匹配规则。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlastfscopedev_11_0017_html.md ## 设置融合结果 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlastfscopedev_11_0018.html - Description: 通过GenerateFusionResult设置融合结果,包含融合算子的名字、类型、输入、输出、描述。最终融合结果保存在fusion\_rlt返回,返回结果的类型为FusionScopesResult类。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlastfscopedev_11_0018_html.md ## 注册融合规则 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlastfscopedev_11_0019.html - Description: 注册融合规则包括注册融合规则名称、注册融合规则类和设置融合规则是通用规则还是定制化规则。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlastfscopedev_11_0019_html.md ## Scope融合算子适配插件实现 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlastfscopedev_11_0020.html - Description: 本节介绍如何实现融合算子适配插件,将基于原始框架的小算子映射成适配AI处理器的融合算子,并将算子信息注册到GE中。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlastfscopedev_11_0020_html.md ## 多对多场景开发注意点 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlastfscopedev_11_0021.html - Description: 多对多场景开发注意点包括多对多场景开发流程、设置融合结果和内部小算子所需的信息处理。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlastfscopedev_11_0021_html.md ## 融合规则生效 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlastfscopedev_11_0022.html - Description: 在注册融合规则时,定义了融合规则的生效方式: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlastfscopedev_11_0022_html.md ## 样例参考 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopedevg/atlastfscopedev_11_0023.html - Description: 单击“tf\_scope\_fusion\_pass\(https://gitee.com/ascend/samples/tree/master/cplusplus/level1\_single\_api/4\_op\_dev/1\_custom\_op/framework/tf\_scope\_fusion\_pass\)”获取相关样例。融合规则样例的介绍、编译部署、验证方法请参考“1\_custom\_op\(https:// - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopedevg_atlastfscopedev_11_0023_html.md ## TensorFlow商业版-Scope融合是一种基于Scope来进行融合的能力 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopefusionref - Description: Scope融合是一种基于Scope来进行融合的能力,把Scope内的多个小算子替换为一个大算子或多个算子组合,以实现效率的提升。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopefusionref_atlasfr_30_0002_html.md ## TensorFlow商业版-Scope融合是一种基于Scope来进行融合的能力 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopefusionref/atlasfr_30_0002.html - Description: Scope融合是一种基于Scope来进行融合的能力,把Scope内的多个小算子替换为一个大算子或多个算子组合,以实现效率的提升。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopefusionref_atlasfr_30_0002_html.md ## TensorFlow商业版-ScopeLayerNormPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopefusionref/atlasfr_30_0004.html - Description: 将tf.layernorm生成的layernorm/batchnorm和layernorm/moments这两个Scope,融合为LayerNorm算子。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopefusionref_atlasfr_30_0004_html.md ## TensorFlow商业版-ScopeLayerNormGradPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopefusionref/atlasfr_30_0005.html - Description: 将tf.layernorm的反向Scope融合为LayerNormGrad算子。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopefusionref_atlasfr_30_0005_html.md ## TensorFlow商业版-ScopeBasicLSTMCellPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopefusionref/atlasfr_30_0006.html - Description: 将tf.nn.rnn\_cell.BasicLSTMCell生成的Scope内的小算子组合融合为BasicLSTMCell算子。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopefusionref_atlasfr_30_0006_html.md ## TensorFlow商业版-ScopeDynamicLSTMPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopefusionref/atlasfr_30_0007.html - Description: 将tf.nn.dynamic\_rnn或tf.nn.bidirectional\_dynamic\_rnn生成的Scope内的小算子组合融合为DynamicLSTM算子。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopefusionref_atlasfr_30_0007_html.md ## TensorFlow商业版-ScopeClipBoxesPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopefusionref/atlasfr_30_0008.html - Description: 将clip\_boxes Scope融合为ClipBoxes算子。Scope内包括tf.Maximum、tf.ReverseV2、tf.Tile和tf. Minimum这四个算子,不包含Gather\_2、TopKV2、Reshape\_2、Split、Greater、Squeeze、Gather、boolean\_mask、decode\_bbox\_target等算子。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopefusionref_atlasfr_30_0008_html.md ## TensorFlow商业版-ScopeROIAlignPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopefusionref/atlasfr_30_0009.html - Description: 将tf.AvgPool和tf.image.CropAndResize这两个Scope融合为ROIAlign算子,不包含Merge算子。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopefusionref_atlasfr_30_0009_html.md ## TensorFlow商业版-ScopeToAbsoluteBBoxPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopefusionref/atlasfr_30_0013.html - Description: 融合的scope为Map,Map下需要有while,while下需要有ToAbsoluteCoordinates,ToAbsoluteCoordinates下有scale,同时scope下有4个Mul算子,融合成ToAbsoluteBBox算子。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopefusionref_atlasfr_30_0013_html.md ## TensorFlow商业版-ScopeNormalizeBBoxPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopefusionref/atlasfr_30_0014.html - Description: 融合scope为Map,Map下需要有while,while下需要有ToNormalizedCoordinates,ToNormalizedCoordinates下有scale,融合成NormalizeBBox算子。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopefusionref_atlasfr_30_0014_html.md ## TensorFlow商业版-ScopeDecodeBboxV2Pass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopefusionref/atlasfr_30_0015.html - Description: 将含有如下两种Scope融合为DecodeBboxV2算子。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopefusionref_atlasfr_30_0015_html.md ## TensorFlow商业版-ScopeBatchMultiClassNMSPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopefusionref/atlasfr_30_0016.html - Description: 如下图结构进行融合成BatchMultiClassNonMaxSuppression算子,融合scope下有scope路径:map/while/MultiClassNonMaxSuppression/ - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopefusionref_atlasfr_30_0016_html.md ## TensorFlow商业版-ScopeKeepRatioResizeBilinearPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopefusionref/atlasfr_30_0017.html - Description: 将特定Scope进行融合成KeepRatioResizeBilinear + Shape + Slice*2 + ExpandDims + ConcatV2 + Tile + Const,Scope中包括图结构:map/while/ResizeToRange/,包括算子Maximum,Minimum,Round,ResizeBilinear。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopefusionref_atlasfr_30_0017_html.md ## TensorFlow商业版-ScopeBatchMultiClassNonMaxSuppressionPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopefusionref/atlasfr_30_0018.html - Description: 如下图结构进行融合成BatchMultiClassNonMaxSuppression算子,融合scope下有scope路径: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopefusionref_atlasfr_30_0018_html.md ## TensorFlow商业版-ScopeDynamicGRUPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopefusionref/atlasfr_30_0019.html - Description: 将含有如下算子的Scope融合为DynamicGRU算子。Scope内包括:5个AddV2算子、3个Mul算子、1个Tanh算子、不包含Transpose算子。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopefusionref_atlasfr_30_0019_html.md ## TensorFlow商业版-ScopeDynamicRNNPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/Convergence/tfscopefusionref/atlasfr_30_0020.html - Description: 将含有如下算子的Scope融合为DynamicRNN算子。Scope内包括:1个名为while的子Scope,不包含Transpose算子;while子Scope内包括:4的倍数个BiasAdd算子、2的倍数个Tanh算子、8个MatMul算子,1个Split算子。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_Convergence_tfscopefusionref_atlasfr_30_0020_html.md ## TensorFlow商业版-TensorFlow - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/index/index.html - Description: 昇腾提供TensorFlow适配插件TF Adapter,兼容TensorFlow主流深度学习框架,实现TensorFlow网络在昇腾平台上加速执行。当前TF Adapter仅支持TensorFlow 1.15和TensorFlow 2.6.5版本。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_index_index_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1 - Description: 描述本手册的读者对象,TensorFlow 1.15模型迁移的全流程,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000001_html.md ## TensorFlow商业版-TensorFlow Serving是一款针对机器学习模型的灵活 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/atlastfserv_26_0001.html - Description: TensorFlow Serving是一款针对机器学习模型的灵活,高性能的服务系统,专为生产环境设计。使用SavedModel格式模型,提供RESTful API + gRPC对外接口,依赖TensorFlow源码,官网链接:www.tensorflow.org/tfx/guide/serving?hl\=zh-cn\(https://www.tensorflow.org/tfx/guide/serv - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_atlastfserv_26_0001_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/atlastfserv_26_0003.html - Description: - 已安装CANN软件包与框架包,详细请参见 环境准备 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_atlastfserv_26_0003_html.md ## TF Serving集成TF Adapter - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/atlastfserv_26_0004.html - Description: 本节介绍TF Serving集成TF Adapter的操作方法,实际操作时请根据实际路径进行替换。本文中举例路径均需要确保安装用户具有读写权限。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_atlastfserv_26_0004_html.md ## 启动TF Serving - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/atlastfserv_26_0005.html - Description: 本节介绍启动TF Serving的操作方法,实际操作时请根据实际路径进行替换。本文中举例路径均需要确保安装用户具有读或读写权限。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_atlastfserv_26_0005_html.md ## 样例参考 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/atlastfserv_26_0006.html - Description: 在任意目录下创建Client文件夹(本节以$HOME目录为例),用于存放与服务端通信的脚本deploy.py和推理脚本tf\_serving\_infer.py,目录如下所示: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_atlastfserv_26_0006_html.md ## 源码安装0.24.1版本bazel - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/atlastfserv_26_0008.html - Description: 1. 安装系统依赖,此处以Ubuntu与CentOS操作系统为例。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_atlastfserv_26_0008_html.md ## 源码安装3.14.0版本CMake - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/atlastfserv_26_0009.html - Description: 1. 下载CMake源码压缩包\(https://cmake.org/files/v3.14/cmake-3.14.0.tar.gz\),将源码包上传至服务器任意路径下。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_atlastfserv_26_0009_html.md ## 手动安装java-11-openjdk - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/atlastfserv_26_0010.html - Description: 安装“java-11-openjdk”总共需要安装三个包,用户可通过在https://centos.pkgs.org\(https://centos.pkgs.org/\)网站右上角搜索“java-11-openjdk”查询以“.rpm”为后缀的软件包的URL。网站搜索结果如图1所示。根据系统版本选择相应软件进行下载,再通过“rpm”命令安装。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_atlastfserv_26_0010_html.md ## 手动下载TF Serving编译依赖包 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/atlastfserv_26_0011.html - Description: TF Serving编译过程中,需要下载依赖包,可能会因为网络问题下载失败,报错如图1所示: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_atlastfserv_26_0011_html.md ## SavedModel模型转换om模型 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/atlastfserv_26_0012.html - Description: 本章节主要介绍如何使用saved\_model2om.py\(https://gitee.com/ascend/tools/tree/master/saved\_model2om\)工具将训练保存的SavedModel模型转换为om模型,在部署TF Serving时使用转换后的om模型可以缩短编译时间,从而提升TF Serving部署性能。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_atlastfserv_26_0012_html.md ## 重新编译TF Serving - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/atlastfserv_26_0013.html - Description: 重新安装其他版本CANN软件后,直接启动tensorflow\_model\_server服务,可能会因为动态链接库链接错误导致服务启动失败,报错如图1所示: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_atlastfserv_26_0013_html.md ## 无法安装swig软件包 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/atlastfserv_26_0016.html - Description: 在安装TF Serving编译依赖的软件包时可能会出现无法安装swig软件包问题,并显示如下报错信息。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_atlastfserv_26_0016_html.md ## TF Serving编译时提示缺少builtins - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/atlastfserv_26_0017.html - Description: 在TF Serving编译过程中可能会出现builtins依赖模块查询失败问题,报错如图1所示。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_atlastfserv_26_0017_html.md ## TF Adapter编译结束未生成tfadapter.tar - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/atlastfserv_26_0018.html - Description: 提示编译成功,但output目录下未生成tfadapter.tar。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_atlastfserv_26_0018_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000001.html - Description: 描述本手册的读者对象,TensorFlow 1.15模型迁移的全流程,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000001_html.md ## TF Adapter简介 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000003.html - Description: TF Adapter为支持TensorFlow图在NPU上执行的TensorFlow插件,主要目的是将TensorFlow图转换为NPU上可执行的图。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000003_html.md ## TensorFlow商业版-在深度学习中 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000004.html - Description: 在深度学习中,当数据集和参数量的规模越来越大,训练所需的时间和硬件资源会随之增加,最后会变成制约训练的瓶颈。分布式训练可以降低对内存、计算性能等硬件的需求,是进行训练的重要优化手段。分布式训练通过将计算任务按照一定的方法拆分到不同的AI处理器上来加速模型的训练速度,拆分的计算任务之间通过集合通信来完成信息的汇总和交换,完成整个训练任务的并行处理,从而实现加快计算任务的目的。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000004_html.md ## 系统约束与限制 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000005.html - Description: 1. 该文档仅配套TensorFlow 1.15版本使用。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000005_html.md ## 安装驱动固件与CANN软件包 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000007.html - Description: 进行模型开发前,需要准备带有AI处理器的硬件环境,请参考《CANN 快速安装\(https://www.hiascend.com/cann/download\)》安装昇腾NPU驱动和CANN软件(包含Toolkit和ops包),并配置环境变量。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000007_html.md ## 安装开源框架TensorFlow 1.15 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000008.html - Description: TensorFlow 1.15配套的Python版本是:Python3.7.x(3.7.5~3.7.11)。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000008_html.md ## 安装框架插件包 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000009.html - Description: 昇腾提供了对接深度学习框架TensorFlow的适配插件TF Adapter,若开发者需要在NPU上执行TensorFlow网络的训练或在线推理,需要安装TensorFlow框架适配插件包TF Adapter。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000009_html.md ## 迁移方式比较 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000010.html - Description: 将基于TensorFlow的Python API开发的训练脚本迁移到AI处理器上执行训练,目前有两种迁移方式,用户可任选其一: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000010_html.md ## 自动迁移 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000011.html - Description: 描述如何使用迁移工具将TensorFlow 1.15网络自动迁移到昇腾平台。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000011_html.md ## Estimator单卡训练脚本改造为分布式训练脚本 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000013.html - Description: 对于Estimator的分布式脚本,使用迁移工具可支持直接迁移成分布式脚本。如果有用户原始脚本是单卡训练脚本,迁移工具迁移后的脚本并不能够进行分布式训练,但用户可以基于迁移后的脚本,通过少量手工修改使其支持分布式训练。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000013_html.md ## 自动迁移后如何进行sess.run分布式脚本改造 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000014.html - Description: 对于sess.run的分布式脚本,用户输入-d参数指定分布式策略完成自动迁移后,迁移工具不能进行彻底迁移,原因是:工具无法识别broadcast的插入位置,仅能对原生梯度优化器插入npu\_distributed\_optimizer\_wrapper实现allreduce的功能,因此工具迁移后,需要用户手写实现broadcast功能。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000014_html.md ## Estimator迁移 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000018.html - Description: 若原始TensorFlow网络基于Estimator API构造,可参见本节了解手工迁移全流程。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000018_html.md ## sess.run迁移 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000019.html - Description: 若原始TensorFlow网络基于sess.run API构造,可参见本节了解手工迁移全流程。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000019_html.md ## Keras迁移 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000020.html - Description: 若原始TensorFlow网络基于Keras API构造,可参见本节了解手工迁移全流程。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000020_html.md ## 支持数据并行(Allreduce) - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000022.html - Description: AllReduce是主流的数据并行架构,各个节点按照算法协同工作,适用于对训练算力要求高、设备规模大的场景。本节介绍如何将TensorFlow训练脚本在AI处理器上通过AllReduce架构进行分布式训练。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000022_html.md ## 支持数据并行(PS-Worker) - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000023.html - Description: 在推荐网络中,特征数据的数据量最大可能达到TB(terabyte,太字节,是一种信息计量单位,1TB\=1012字节)级别,无法在Device侧保存,因此需要通过PS-Worker方式将数据保存在Host侧的内存中。本节介绍如何将TensorFlow训练脚本在NPU上通过PS-Worker架构进行分布式训练。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000023_html.md ## Horovod脚本迁移 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000024.html - Description: Horovod是基于TensorFlow、Keras、PyTorch以及MXNet的分布式训练框架,目的是提升分布式训练的性能。不同于传统的TensorFlow分布式训练采用PS-Worker架构,Horovod使用AllReduce进行聚合梯度,能够更好地利用带宽,解决PS-Worker的瓶颈问题。本节介绍如何迁移基于Horovod开发的分布式训练脚本,使其在NPU进行分布式训练。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000024_html.md ## 执行单Device训练 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000026.html - Description: 本节介绍如何基于迁移好的TensorFlow训练脚本,在单Device上执行训练。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000026_html.md ## 使用前须知 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000028.html - Description: 执行分布式训练前,首先应参考本节了解一些注意事项。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000028_html.md ## 训练执行(通过rank table配置资源信息) - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000031.html - Description: 开发者可以通过rank table文件配置参与集合通信的NPU资源信息,并在后续启动训练进程时指定使用的NPU资源。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000031_html.md ## 通过环境变量配置资源信息 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000033.html - Description: 进行训练之前,需要配置参与集群训练的AI处理器的资源信息。开发者可以通过本节所述的环境变量组合的方式配置资源信息,完成集合通信组件的初始化。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000033_html.md ## 执行训练 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000034.html - Description: 通过环境变量方式配置好参与分布式训练的资源信息后,可参考本节启动训练进程,执行训练。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000034_html.md ## 结果说明 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000035.html - Description: 分布式训练执行完成后,开发者可以参考本章节检查执行结果、定位问题。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000035_html.md ## 性能调优流程 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000039.html - Description: 迁移到AI处理器进行训练的网络如果存在性能不达标的问题,可按照如下流程进行性能调优: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000039_html.md ## TensorFlow商业版-混合精度为业内通用的性能提升方式 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000042.html - Description: 混合精度为业内通用的性能提升方式,通过降低部分计算精度提升数据计算的并行度。混合精度训练方法是通过混合使用float16和float32数据类型来加速深度神经网络训练的过程,并减少内存使用和存取,从而可以训练更大的神经网络,同时又能基本保持使用float32训练所能达到的网络精度。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000042_html.md ## 设置混合精度模式 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000043.html - Description: 本节以将“precision\_mode\_v2”参数配置为“mixed\_float16”为例,说明如何设置混合精度模式。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000043_html.md ## 修改混合精度黑白灰名单 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000044.html - Description: 开启自动混合精度的场景下,系统会自动根据内置的优化策略,对网络中的某些数据类型进行降精度处理,从而在精度损失很小的情况下提升系统性能并减少内存使用。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000044_html.md ## Loss Scale - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000045.html - Description: 在混合精度计算中,使用float16数据格式时数据的动态范围会降低,造成梯度计算出现浮点溢出,从而导致部分参数更新失败。为了保证部分模型训练在混合精度训练过程中收敛,需要配置Loss Scale参数。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000045_html.md ## 亲和接口是否替换 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000046.html - Description: 对于原始网络中的dropout、gelu接口,请检查是否已替换为对应的NPU接口。若未替换,请按照如下示例进行替换。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000046_html.md ## 使用约束 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000048.html - Description: iterations\_per\_loop是针对一次session.run调用,在Device侧执行训练迭代的次数。Device侧会运行iterations\_per\_loop指定的迭代次数,然后再返回到Host侧,该参数可以减少Host与Device间的交互次数,缩短训练时长。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000048_html.md ## Estimator模式下使能训练迭代循环下沉 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000049.html - Description: 1. 在迁移后的脚本中查找“npu\_run\_config\_init”,找到运行配置参数(例如示例中的“run\_config”),在运行配置函数中传入session\_config参数,并在session\_config参数中添加“iterations\_per\_loop”配置。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000049_html.md ## session.run模式下使能训练迭代循环下沉 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000050.html - Description: session.run模式下,通过set\_iteration\_per\_loop设置iterations\_per\_loop参数,并修改session.run调用次数为原调用次数除以iterations\_per\_loop。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000050_html.md ## Keras模式下使能训练迭代循环下沉 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000051.html - Description: 在Ascend平台可以直接使用Keras原生API进行训练时,一次session.run调用在AI处理器执行训练迭代的次数固定为1。如需减少Host与Device间的交互次数,缩短训练时长,需要通过model\_to\_npu\_estimator接口,将通过Keras构建的模型转换为NPUEstimator对象,同时通过NPURunConfig中的iterations\_per\_loop参数,指定一次s - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000051_html.md ## AOE自动调优 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000052.html - Description: AOE自动调优工具通过生成调优策略、编译、在运行环境上验证的闭环反馈机制,不断迭代出更优的调优策略,最终得到最佳的调优策略,从而可以更充分利用硬件资源,提升网络的性能。模型训练阶段,分别使能AOE工具进行子图/算子与梯度切分的调优,调优完成后,最优调度策略会固化到知识库。模型再次训练时,无需开启调优,即可以享受知识库带来的性能收益。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000052_html.md ## 亲和性CPU自动绑核调优 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000053.html - Description: 相比于X86服务器,ARM服务器通常CPU核数更多,但单核性能更弱,因此更容易触发内核的负载均衡策略,该策略是通过启用进程迁移来降低繁忙的处理器压力。进程迁移会导致进程上下文切换、降低cache命中率和跨NUMA内存访问等,从而影响训练性能。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000053_html.md ## TensorFlow商业版-若基本调优操作不能达到性能要求 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000055.html - Description: 若基本调优操作不能达到性能要求,您可以借助Profiling工具采集训练过程中的性能数据并进行分析,从而准确定位系统的软、硬件性能瓶颈,提高性能分析的效率,通过针对性的性能优化方法,以最小的代价和成本提升业务性能。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000055_html.md ## Estimator模式 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000057.html - Description: 1. 检查迁移后的脚本是否存在“init\_resource”。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000057_html.md ## sess.run模式 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000058.html - Description: 1. 检查迁移后的脚本是否存在“init\_resource”。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000058_html.md ## Keras模式 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000059.html - Description: 1. 检查迁移后的脚本是否存在“init\_resource”。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000059_html.md ## 全局采集Profiling数据(环境变量方式) - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000060.html - Description: 除了通过修改训练脚本的方式采集Profiling数据外,用户还可以通过设置环境变量的方式开启Profiling采集功能。配置示例如下: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000060_html.md ## 局部采集Profiling数据(调用Profiler类方式) - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000061.html - Description: 开发者可通过调用npu\_bridge.profiler.profiler类实现局部采集性能数据的功能,即仅Profiler类作用域下的命令才会开启性能数据采集功能。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000061_html.md ## 解析并导出Profiling数据 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000062.html - Description: 下面以msprof命令行方式进行数据解析与导出为例进行说明:1. 切换到解析工具所在路径。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000062_html.md ## 分析Profiling数据 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000063.html - Description: 开发人员可通过分析Profiling工具解析得到的Timeline和Summary文件,识别性能瓶颈点。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000063_html.md ## 进阶调优 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000064.html - Description: 通过Profiling数据分析出性能瓶颈点,再进行对应的调优手段,需要开发者有丰富的调优经验,对开发人员要求较高。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000064_html.md ## 模型固化 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000065.html - Description: sess.run模式下,TensorFlow在训练过程中,通常使用saver \= tf.train.Saver\(\)和saver.save\(\)保存模型,一次saver.save\(\)后会生成如下文件: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000065_html.md ## 离线推理 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000066.html - Description: 得到训练好的pb模型后,您可以使用ATC模型转换工具,将pb模型转换成om离线模型,即可用于在AI处理器进行离线推理。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000066_html.md ## 在线推理简介 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000068.html - Description: 在线推理是指在TensorFlow框架内使用已经训练好的pb模型实时进行推理,相比于离线推理场景,在线推理类业务时效性要求较高,常用于数据中心推理场景。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000068_html.md ## 编译配置 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000069.html - Description: 在线推理脚本中需要进行必要的编译配置: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000069_html.md ## 样例参考 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000070.html - Description: 使用在线推理需要考虑到sess.run首次执行时需要对模型进行编译和优化,耗时会增多。在编写推理应用时,应尽量保证应用生命周期内不频繁初始化。本例中,我们将推理过程封装到Classifier类中,以便应用可以控制Classifier对象的生命周期。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000070_html.md ## 混合计算 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000074.html - Description: 针对在计算图中有不支持的算子的场景(例如py\_func),为提供灵活性和扩展性,提供混合计算模式,可将不支持的算子留在Host由前端框架执行。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000074_html.md ## Dump数据采集 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000075.html - Description: 当训练网络精度未达预期时,可以通过采集训练过程中各算子的运算结果(即Data Dump数据),然后借助精度比对工具,和业界标准算子(如TensorFlow)运算结果进行数据偏差对比,从而帮助开发人员快速定位算子精度问题。当前支持采集的算子数据主要包括: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000075_html.md ## 溢出数据采集 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000076.html - Description: 网络模型较大的情况下,直接进行算子精度分析时,会导致Dump出的数据非常多,而且网络随机性无法完全固定,很难与标杆数据对比分析到具体哪个算子的精度问题。这种情况下,可以先开启溢出数据采集功能,溢出检测目前有三种检测模式: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000076_html.md ## Log/Summary - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000077.html - Description: Log和Summary算子会下沉到Device侧执行,如果用户需要捕捉Device侧的Log/Summary信息,将对应step的信息回传到Host侧查看,请参考本节内容修改训练脚本。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000077_html.md ## 调整梯度切分策略 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000078.html - Description: 分布式训练场景下,各个Device之间计算梯度后执行梯度聚合操作。由于梯度数据会按顺序产生,且产生后不会再变化,为了提高训练性能,我们可以对梯度参数数据进行切分,同一分段中的梯度数据在产生后可以立即开始梯度聚合,使得一部分梯度参数数据聚合和前后向时间并行执行。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000078_html.md ## 集合通信初始化 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000079.html - Description: 使用集合通信接口前首先需要进行集合通信初始化,当前集合通信的初始化隐藏在initialize\_system接口中,如果在sess.run或者estimator.train之前调用get\_local\_rank\_id/get\_rank\_size/get\_rank\_id等集合通信接口,需要另外启动session执行initialize\_system,进行集合通信初始化,然后在训练结束后执行shutdow - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000079_html.md ## 权重更新(在线推理) - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000080.html - Description: 推理过程的同时,训练服务器不停训练得到新的权重,而推理部分希望直接更新最新的权重,不希望再走一遍保存pb、编译成离线模型、然后执行离线模型的流程,这种场景可以采用在线推理模式直接更新权重。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000080_html.md ## 动态分档(在线推理) - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000081.html - Description: 在线推理场景下,当前系统支持在用户脚本中指定配置动态档位信息,从而支持动态输入的场景。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000081_html.md ## 自动迁移样例 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000099.html - Description: 下面介绍如何通过工具迁移ResNet50网络。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000099_html.md ## 训练前准备 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000101.html - Description: ResNet50为一个深度残差网络,可用于对CIFAR-10和ImageNet的1000类数据集进行分类。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000101_html.md ## 脚本实现流程与关键文件介绍 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000102.html - Description: ResNet50原始网络脚本是Estimator模型的API,属于TensorFlow的高阶API,此训练脚本的实现流程为: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000102_html.md ## 数据预处理 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000103.html - Description: 数据预处理流程与原始模型一致,部分位置经改造以适配AI处理器并提升计算性能,展示的示例代码包含改动位置。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000103_html.md ## 模型构建 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000104.html - Description: 模型构建与原始模型一致,部分位置经过适应性改造以提升计算性能,展示的示例代码包含改动位置。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000104_html.md ## 运行配置 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000105.html - Description: 模型配置函数主要在resnet\_main\(\)中,其函数介绍如下: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000105_html.md ## 执行训练 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000106.html - Description: 训练模块函数接口如下: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000106_html.md ## 脚本执行 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000107.html - Description: 准备数据集并上传到运行环境的目录下,例如:/home/data/resnet50/imagenet。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000107_html.md ## 如何获取fp\_point与bp\_point - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000111.html - Description: fp\_point指的是forward propagation,bp\_point指的是backward propagation,此处特指网络计算图的第一个前向传播算子和最后一个反向传播算子。当用户需要采集训练迭代轨迹数据对训练任务进行性能分析时,需要输入前后向计算的打点算子,从而可以获取前后向计算时间。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000111_html.md ## 绑定训练进程到指定CPU - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000112.html - Description: 多P训练场景,为了使Host CPU调度均匀,从而进一步提高训练性能,用户可以参考如下步骤将训练进程绑定到指定的CPU上,用于平均分配Host CPU调度数,下面以8P举例说明: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000112_html.md ## 开启AI CPU Cast算子自动插入特性 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000113.html - Description: 模型编译时,若遇到AI CPU算子不支持某种数据类型导致编译失败的场景,可通过启用Cast算子自动插入特性快速将输入转换为算子支持的数据类型,从而实现网络的快速打通。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000113_html.md ## tf.is\_finite接口手工迁移 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000114.html - Description: CANN不支持tf.is\_finite接口,需要用户手工迁移。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000114_html.md ## tf.train.batch接口手工迁移 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000115.html - Description: TensorFlow不建议使用tf.train.batch接口通过队列形式处理输入数据,建议替换为tf.data.Dataset.batch\(batch\_size\)。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000115_html.md ## 仅在某个Device上保存Checkpoint数据 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000117.html - Description: 分布式训练场景下,如果用户只希望在某个device上保存checkpoint数据,而不希望在其他device上保存checkpoint数据,可以按照如下方法修改训练脚本。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000117_html.md ## 如何基于TensorFlow的C++接口适配NPU设备 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000118.html - Description: 开发者将TensorFlow源码与业务代码同时编译使用的场景下,文档中提供的基于Python将TensorFlow脚本迁移到NPU执行训练的方法不再适用。此处为用户提供了一种在TensorFlow源码层面适配NPU设备的方法(此方法仅供参考)。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000118_html.md ## 读取pb模型文件的节点名称 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000120.html - Description: 当用户无法获取.pb模型文件的节点名称时,可创建readNodeName\_from\_pb.py脚本并写入如下代码并执行。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000120_html.md ## 安装Python版本的proto - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000121.html - Description: 如果训练脚本依赖protobuf的Python版本进行序列化结构的数据存储(例如TensorFlow的序列化相关接口),则需要安装Python版本的proto。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000121_html.md ## Hook的index顺序改变导致训练异常 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000123.html - Description: 训练报错:AttributeError:'xxxxHook' object has no attribute 'xxxx'。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000123_html.md ## 数据集shuffle数量过大导致训练超时 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000124.html - Description: \#\#\#\# 问题现象 训练执行报错: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000124_html.md ## 数据预处理中存在资源类算子导致训练异常 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000125.html - Description: TensorFlow网络执行时,报如下错误: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000125_html.md ## 网络中存在ResourceConditionalAccumulator等算子导致训练性能不达标 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000126.html - Description: OSMN等网络中存在大量的ResourceConditionalAccumulator、ResourceAccumulatorTakeGradient资源类算子,导致训练性能不达标。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000126_html.md ## 变量初始化和数据预处理初始化在同一子图导致训练异常 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000127.html - Description: 某些网络,例如LeNet网络迁移至AI处理器上训练时,loss不收敛,且精度未达预期。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000127_html.md ## uint8和quint8加减溢出 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000128.html - Description: 含有累加累减的算子在uint8和quint8类型计算溢出时,计算结果和理论值不同。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000128_html.md ## 数据预处理中存在tf.Variable导致训练异常 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000129.html - Description: TensorFlow网络执行时,报如下错误: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000129_html.md ## 网络调测时ReduceSum算子性能差 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000130.html - Description: 网络调测时,网络整体性能较慢。通过Profiling工具获取网络的Profiling数据,并进行算子的性能数据分析,发现ReduceSum算子的性能很差。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000130_html.md ## 使用NPU Loss Scale优化器后,训练不收敛 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000131.html - Description: word2vec网络关闭NPU Loss Scale时,训练收敛;使用NPU Loss Scale优化器后,训练不收敛: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000131_html.md ## 混合精度场景下,由于极端模型超参导致算子溢出 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000132.html - Description: SSD-ResNet50V1-FPN网络,在allow\_mix\_precision精度模式下,设置静态lossscale\=1,执行单卡训练,发现global\_step不更新,且每个迭代都有Sub融合算子溢出: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000132_html.md ## 多优化器共用导致浮点异常检测存在问题 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000133.html - Description: 使用AI处理器进行混合精度计算时,在溢出情况下使用了饱和的计算方式,输出结果在溢出时不会有Inf的数值,而是以饱和到float16最大值的方式进行处理。饱和模式在检查溢出时,无法直接通过输出tensor中的数值进行检查,需要根据AI处理器上的状态位判断计算过程是否出现溢出。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000133_html.md ## 关闭memory\_optimization后发生core dump - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000134.html - Description: 迁移时关闭了TensorFlow的memory\_optimization功能,发生了core dump: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000134_html.md ## NPULossScaleOptimizer优化器使用常见问题 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000135.html - Description: 使用NPULossScaleOptimizer优化器时,如果训练脚本中存在如下类似情况: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000135_html.md ## V1版本控制流算子导致内存不足 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000136.html - Description: 模型执行时报错,内存超过31G,导致内存分配不足。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000136_html.md ## 动态shape网络执行时报V1控制流算子不支持的错误 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000137.html - Description: 模型执行时报如下错误: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000137_html.md ## 数据预处理使用tf.keras.backend.zeros生成变量,训练报错变量未初始化 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000138.html - Description: 训练报错变量算子未初始化: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000138_html.md ## 执行分布式训练时,出现get rank id error错误 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000140.html - Description: 屏显信息出现“get rank id error”的错误,如下所示: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000140_html.md ## HCCL初始化网卡失败,HCCP返回错误ret\[-17\] - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000141.html - Description: HCCL初始化网卡失败,HCCP(Huawei Collective Communication Process)返回错误:ra rdev init failed, ret \[-17\] - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000141_html.md ## GetNext算子超时,返回错误码E30008 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000142.html - Description: 执行训练脚本时出现GetNext算子超时。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000142_html.md ## 多Device上执行模型不同导致应用程序出错 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000143.html - Description: 分布式训练或推理场景,执行业务脚本时,出现进程停止响应的情况。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000143_html.md ## TensorFlow网络执行流程 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000150.html - Description: TensorFlow网络执行时,各组件交互流程如下图所示: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000150_html.md ## 迁移思路 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000151.html - Description: TF Adapter适配TensorFlow 1.15的思路是: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000151_html.md ## 快速入门 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000152.html - Description: 本节通过一个简单的TensorFlow脚本迁移样例,帮助用户快速了解TensorFlow脚本迁移到昇腾平台并执行的方法。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000152_html.md ## 自定义算子开发 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_000153.html - Description: 当TensorFlow网络中存在CANN不支持的算子时,开发者可通过自定义实现Ascend C算子并在TensorFlow框架适配完成,具体的流程如下图所示: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_000153_html.md ## 接口列表 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0001.html - Description: 用户可以基于深度学习框架TensorFlow 1.15进行训练或在线推理脚本的开发,TF Adapter提供了适配TensorFlow 1.15框架的用户接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0001_html.md ## TensorFlow商业版-| 产品 | 是否支持 | - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0003.html - Description: TF Adapter提供了系列session配置用于进行功能调试、性能提升、精度提升等,开发者在AI处理器上进行模型训练或在线推理时,可以使用这些session配置。 您可以在TensorFlow Adapter软件安装路径下的:python/site-packages/npubridge/estimator/npu/npuestimator.py文件中查看相关配置定义,如果相关参数本章节未列出, - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0003_html.md ## session配置参数说明 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0020.html - Description: 请注意动态分档场景下,“inputshape”、“dynamicdims”与“dynamicnodetype”三个参数需要配合使用。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0020_html.md ## TensorFlow商业版-| 产品 | 是否支持 | - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0023.html - Description: 开发者在AI处理器上通过Estimator模式进行模型训练或在线推理时,可通过NPURunConfig类的构造函数,指定Estimator的运行配置。 NPURunConfig类继承了tf.estimator的RunConfig类,关于对RunConfig类原生接口的支持情况可参见RunConfig参数支持说明。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0023_html.md ## NPURunConfig配置参数说明 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0040.html - Description: - 基础配置| 参数名 | 描述 | - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0040_html.md ## RunConfig参数支持说明 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0041.html - Description: 本节描述了TensorFlow RunConfig原生参数在NPURunConfig类中的支持情况。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0041_html.md ## ProfilingConfig构造函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0042.html - Description: ProfilingConfig类的构造函数,用于配置Profiling功能。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0042_html.md ## DumpConfig构造函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0043.html - Description: DumpConfig类的构造函数,用于配置dump功能。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0043_html.md ## MemoryConfig构造函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0044.html - Description: MemoryConfig类的构造函数,用于配置系统内存使用方式。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0044_html.md ## ExperimentalConfig构造函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0045.html - Description: ExperimentalConfig类的构造函数,调试功能扩展参数,后续版本可能会存在变动,不支持应用于商用产品中。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0045_html.md ## NPUEstimator构造函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0047.html - Description: NPUEstimator类的构造函数,NPUEstimator类继承了TensorFlow的Estimator类,可以调用基类的原生接口,用来训练、评估、推理TensorFlow模型。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0047_html.md ## NPUEstimatorSpec构造函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0048.html - Description: NPUEstimatorSpec类的构造函数,NPUEstimatorSpec类继承了TensorFlow的EstimatorSpec类,可以调用基类的原生接口,定义具体的模型对象。 EstimatorSpec是modelfn的返回数据结构,包含了mode,predictions,loss,trainop和exportoutputs等字段,传递到Estimator。直接使用EstimatorSpe - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0048_html.md ## NPUStrategy构造函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0050.html - Description: NPUStrategy类的构造函数。NPUStrategy继承了tf.distribute.Strategy类,可以调用基类的原生接口,用于在NPU环境中实现分布式训练。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0050_html.md ## NPUCheckpointSaverHook构造函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0052.html - Description: NPUCheckpointSaverHook类的构造函数,用于保存Checkpoint文件。NPUCheckpointSaverHook类继承了CheckpointSaverHook类,可以调用基类的原生接口,用于记录训练过程中的模型信息。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0052_html.md ## NPUOutputTensorHook构造函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0053.html - Description: NPUOutputTensorHook类的构造函数,NPUOutputTensorHook作用于NPUEstimator的train、evaluate、predict流程中的Hook,用于每N步或者结束时调用用户自定义的outputfn,打印输出tensors。NPUOutputTensorHook类继承了LoggingTensorHook类,可以调用基类的原生接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0053_html.md ## TellMeStepOrLossHook构造函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0054.html - Description: TellMeStepOrLossHook类的构造函数,TellMeStepOrLossHook用于告知底层软件“当前执行的步数和总的步数”或者“当前执行的loss和最终的目标loss”。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0054_html.md ## NPUDistributedOptimizer构造函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0056.html - Description: NPUDistributedOptimizer类的构造函数,用于包装用户提供的单机训练优化器,构造NPU分布式训练优化器。 支持单机单卡、单机多卡、多机多卡等组网形式下,各个Device之间计算梯度后执行梯度聚合操作。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0056_html.md ## NPUOptimizer构造函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0057.html - Description: NPUOptimizer类的构造函数,该优化器将NPUDistributedOptimizer和NPULossScaleOptimizer优化器合并。主要提供如下功能:- Loss Scaling:支持在混合精度训练中使能Loss Scaling,从而解决由于float16表示范围较小导致的下溢出问题。 - 分布式训练:包装用户提供的单机训练优化器,构造NPU分布式训练优化器,支持单机单卡、单机多 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0057_html.md ## KerasDistributeOptimizer构造函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0058.html - Description: KerasDistributeOptimizer类的构造函数,用于包装用户使用tf.Keras构造的脚本中的单机训练优化器,构造NPU分布式训练优化器。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0058_html.md ## TensorFlow商业版-npu\_distributed\_optimizer\_wrapper - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0059.html - Description: 对传入的optimizer中的求梯度的函数添加NPU的allreduce操作之后,将包含原生优化器求梯度和NPU的allreduce两个操作合并为一个函数,替换原生优化器的求梯度的函数,最终返回输入的优化器。该接口仅在分布式场景下使用。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0059_html.md ## TensorFlow商业版-npu\_allreduce - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0060.html - Description: 梯度计算完成后,对梯度进行allreduce和梯度更新。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0060_html.md ## NPUBroadcastGlobalVariablesCallback构造函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0062.html - Description: Keras场景下对变量进行广播,使得在分布式场景下每个device上的变量初始值保持一致。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0062_html.md ## NPULossScaleOptimizer构造函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0064.html - Description: NPULossScaleOptimizer类的构造函数,浮点计算的溢出模式为“饱和模式”的场景下,用于在混合精度训练中使能Loss Scaling。Loss Scaling解决了由于float16表示范围较小导致的下溢出问题。NPULossScaleOptimizer类继承了LossScaleOptimizer类,可以调用基类的原生接口。- 针对Atlas 350 加速卡,浮点计算支持两种溢出模式 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0064_html.md ## FixedLossScaleManager构造函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0066.html - Description: FixedLossScaleManager类的构造函数,浮点计算的溢出模式为“饱和模式”的场景下,可通过此接口定义训练场景下的静态LossScale参数。 - 针对Atlas 350 加速卡,浮点计算支持两种溢出模式:饱和模式与INF/NaN模式,请保持默认值INF/NaN模式。饱和模式仅用于兼容旧版本,后续不再演进,且此模式下计算精度可能存在误差。 - Atlas A3 训练系列产品 / Atl - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0066_html.md ## ExponentialUpdateLossScaleManager构造函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0067.html - Description: ExponentialUpdateLossScaleManager类的构造函数,浮点计算的溢出模式为“饱和模式”的场景下,用于定义训练场景下的动态LossScale参数,并通过定义lossscale变量动态获取和更新LossScale值。- 针对Atlas 350 加速卡,浮点计算支持两种溢出模式:饱和模式与INF/NaN模式,请保持默认值INF/NaN模式。饱和模式仅用于兼容旧版本,后续不再演进 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0067_html.md ## TensorFlow商业版-dropout - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0069.html - Description: 和tf.nn.dropout功能相同。以概率keepprob(保留概率)将输入Tensor中的元素置零,未被丢弃的元素值按“1/keepprob”缩放,最终输出Tensor的shape与输入Tensor保持一致。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0069_html.md ## TensorFlow商业版-LARSV2 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0070.html - Description: 该算子基于权重的范数和梯度的范数在不同层级上使用不同的学习率,对梯度缩放。通常用于提升大batch size场景下的训练精度,用于大规模集群训练,减少训练时间。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0070_html.md ## TensorFlow商业版-initialize\_system - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0071.html - Description: 一般执行训练不需要调用该接口,如果用户统计训练时间时不想包括GE初始化时间,可以使用该接口。使用集合通信接口时,需要先调用该接口进行集合通信初始化。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0071_html.md ## TensorFlow商业版-shutdown\_system - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0072.html - Description: 关闭所有Device,和initializesystem配合使用。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0072_html.md ## TensorFlow商业版-npu\_onnx\_graph\_op - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0073.html - Description: 以算子形式加载ONNX模型,将指定路径中onnx模型通过TensorFlow的框架执行在AI处理器。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0073_html.md ## TensorFlow商业版-npu\_dynamic\_rnn - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0075.html - Description: 创建由RNNCell指定的高性能神经网络。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0075_html.md ## DynamicRNN构造函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0077.html - Description: TensorFlow侧使用该接口,支持RNN类网络训练、推理。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0077_html.md ## DynamicGRUV2构造函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0078.html - Description: TensorFlow侧使用该接口,支持RNN类网络训练、推理。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0078_html.md ## TensorFlow商业版-without\_npu\_compile\_scope - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0080.html - Description: 混合计算场景下,配置在Host侧编译的算子。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0080_html.md ## TensorFlow商业版-keep\_dtype\_scope - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0081.html - Description: 指定哪些算子保持原有精度,如果原始网络模型中的算子精度在AI处理器上不支持,则系统内部自动采用算子支持的高精度来计算。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0081_html.md ## TensorFlow商业版-npu\_weight\_prefetch\_scope - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0082.html - Description: 用于标识哪些算子使用权重预取缓存池内存,并指定使用的缓存池的id以及大小。 预取缓存池内存是在AI处理器上分配出来的一块独立的内存区域,大小在编译前确定,预取任务按照缓存池大小进行控制,当缓存池已满,则重新从池的起始位置复用内存,复用内存的任务之间有时序控制。 对于超大模型的集群场景下,如果使能weight分布式存储优化,每个AI处理器上仅需存储1/N(N为参与训练的AI处理器数)weight数据 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0082_html.md ## TensorFlow商业版-subgraph\_multi\_dims\_scope - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0083.html - Description: 在线推理场景下指定需要进行子图动态分档的算子scope。 注意:此接口是试验接口,不建议开发者直接使用。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0083_html.md ## TensorFlow商业版-set\_iteration\_per\_loop - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0085.html - Description: 设置sess.run模式下小循环次数,即每次sess.run\(\)在Device侧执行训练迭代的次数,可以减少Host与Device间的交互次数,缩短训练时长。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0085_html.md ## TensorFlow商业版-create\_iteration\_per\_loop\_var - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0086.html - Description: 该接口和loaditerationperloopvar接口配合使用,用来实现sess.run模式下设置小循环次数,即每次sess.run\(\)在Device侧执行训练迭代的次数。该接口的主要作用是修改图,并通过loaditerationperloopvar接口来设置小循环次数。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0086_html.md ## TensorFlow商业版-load\_iteration\_per\_loop\_var - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0087.html - Description: 该接口和createiterationperloopvar接口配合使用,用来实现sess.run模式下设置小循环次数,即每次sess.run\(\)在Device侧执行训练迭代的次数。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0087_html.md ## TensorFlow商业版-set\_graph\_exec\_config - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0088.html - Description: 图级别的配置项接口,用于按计算图设置编译和运行选项。通过该接口调用之后,fetch节点会被打上设置的属性。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0088_html.md ## TensorFlow商业版-keep\_tensors\_dtypes - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0089.html - Description: 指定哪些算子保持原有精度。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0089_html.md ## TensorFlow商业版-set\_op\_input\_tensor\_multi\_dims - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0090.html - Description: 在线推理场景下,使用子图分档功能,用于指定当前算子的输入shape以及所有分档档位的shape信息。 注意:此接口是试验接口,不建议开发者直接使用。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0090_html.md ## TensorFlow商业版-model\_to\_npu\_estimator - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0092.html - Description: 将通过Keras构建的模型转换为NPUEstimator对象。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0092_html.md ## TensorFlow商业版-set\_device\_sat\_mode - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0094.html - Description: 设置针对浮点计算的进程级溢出模式。 - 饱和模式:计算出现溢出时,计算结果会饱和为浮点数极值(+-MAX)。 - INF/NaN模式:遵循IEEE 754标准,根据定义输出INF/NaN的计算结果。 针对Atlas 350 加速卡,支持两种溢出模式:饱和模式与INF/NaN模式,请保持默认值INF/NaN模式。饱和模式仅用于兼容旧版本,后续不再演进,且此模式下计算精度可能存在误差。 针对 Atla - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0094_html.md ## Profiler构造函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0096.html - Description: Profiler类的构造函数,用于局部打开Profiling功能,例如仅采集TensorFlow网络中局部子图的性能数据,或采集指定step的性能数据。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0096_html.md ## TensorFlow 1.15 API支持列表 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0131.html - Description: 本章节列出AI处理器对TensorFlow 1.15版本Python API的支持情况。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0131_html.md ## TensorFlow商业版-disable\_autofuse - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0134.html - Description: TensorFlow网络在CANN平台运行时,会自动根据图结构进行多个算子的自动融合,以获取更优的性能。若开发者不想让某些算子进行自动融合,可通过此接口进行标识。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0134_html.md ## TensorFlow商业版-ScopedGraphManager - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0136.html - Description: 可通过该接口一次性卸载变量初始化图,并释放其中常量节点占用的内存。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0136_html.md ## TensorFlow商业版-allreduce - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0138.html - Description: 集合通信算子AllReduce的操作接口,将group内所有节点的输入数据进行归约操作后,再把结果发送到所有节点的输出buf,其中归约操作类型由reduction参数指定。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0138_html.md ## TensorFlow商业版-allgather - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0139.html - Description: 集合通信算子AllGather的操作接口,将通信域内所有节点的输入按照rank id重新排序,然后拼接起来,再将结果发送到所有节点的输出。 针对AllGather操作,每个节点都接收按照rank id重新排序后的数据集合,即每个节点的AllGather输出都是一样的。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0139_html.md ## TensorFlow商业版-broadcast - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0140.html - Description: 集合通信算子Broadcast的操作接口,将通信域内root节点的数据广播到其他rank。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0140_html.md ## TensorFlow商业版-reduce\_scatter - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0141.html - Description: 集合通信算子ReduceScatter的操作接口,将通信域内所有rank的输入数据均分成rank size份,然后分别取每个rank的rank size之一份数据进行归约操作(如sum、prod、max、min)。最后,将结果按照编号分散到各个rank的输出buffer。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0141_html.md ## TensorFlow商业版-reduce - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0142.html - Description: 集合通信算子Reduce的操作接口,将所有rank的数据相加(或其他归约操作)后,再把结果发送到root节点的指定位置上。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0142_html.md ## TensorFlow商业版-send - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0143.html - Description: 提供group内点对点通信数据的send功能。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0143_html.md ## TensorFlow商业版-receive - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0144.html - Description: 提供group内点对点通信数据的receive功能。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0144_html.md ## TensorFlow商业版-alltoallv - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0145.html - Description: 集合通信算子AlltoAllV操作接口,向通信域内所有rank发送数据(数据量可以定制),并从所有rank接收数据。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0145_html.md ## TensorFlow商业版-alltoallvc - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0146.html - Description: 集合通信alltoallvc操作接口。向通信域内所有rank发送数据(数据量可以定制),并从所有rank接收数据。 alltoallvc通过输入参数sendcountmatrix传入所有rank的收发参数,与alltoallv相比,性能更优。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0146_html.md ## 代码示例 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0148.html - Description: 该代码示例针对TensorFlow 1.15网络,使用默认的全局通信域进行通信。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0148_html.md ## 样例执行 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0149.html - Description: 本节以单机8卡组网、通过rank table文件配置资源信息的方式为例,介绍如何运行代码示例中的样例代码。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0149_html.md ## TensorFlow商业版-TF Adapter提供了集合通信算子操作接口 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfadapi_0150.html - Description: TF Adapter提供了集合通信算子操作接口,可配合HCCL提供的Python语言的通信域管理接口进行使用。关于HCCL Python语言的通信域管理接口介绍可参见《HCCL通信域管理接口(Python)\(https://www.hiascend.com/document/detail/zh/canncommercial/900/API/hcclug/hcclpython\_07\_0001.htm - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfadapi_0150_html.md ## 精度调试流程 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfprecision_0002.html - Description: 当迁移后的模型在AI处理器上功能调通后,遇到精度不达标或收敛效果差的场景时,可参考本章内容进行精度调试。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfprecision_0002_html.md ## 检查项汇总 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfprecision_0004.html - Description: 精度调试前,请按照如下表格的要求进行检查,并记录相关检查结果,排除参考基准和模型迁移过程中可能存在的问题。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfprecision_0004_html.md ## 参考基准:多次训练验证精度一致 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfprecision_0006.html - Description: 基准模型多次训练需要得到相同的结果预期。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfprecision_0006_html.md ## 参考基准:正确使能混合精度训练 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfprecision_0007.html - Description: 基准模型为GPU-fp32/CPU-fp32训练时,需要调整为混合精度(GPU-fp16)训练并且能够得到相同的准确度结果。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfprecision_0007_html.md ## 模型迁移:在NPU上正确使能混合精度 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfprecision_0009.html - Description: 在精度调试前,首先需要确保模型迁移成功且在NPU上功能调通。如果涉及分布式训练,确保正确使能。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfprecision_0009_html.md ## 模型迁移:在NPU上正确使能Loss Scale - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfprecision_0010.html - Description: 在混合精度计算中使用float16数据格式数据动态范围降低,造成梯度计算出现浮点溢出,会导致部分参数更新失败。为了保证部分模型训练在混合精度训练过程中收敛,需要配置Loss Scale的方法。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfprecision_0010_html.md ## 数据处理:预处理流程与基准一致 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfprecision_0012.html - Description: 数据预处理流程与参考模型一致。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfprecision_0012_html.md ## 数据处理:多节点分片方式与基准一致 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfprecision_0013.html - Description: 多节点对数据的分片方式需要与参考模型一致。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfprecision_0013_html.md ## 训练流程:与基准一致 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfprecision_0014.html - Description: 训练的起始状态、中间过程、结果状态需要与参考基准一致,验证的样本、流程也需要与参考基准一致。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfprecision_0014_html.md ## 模型超参:与基准一致 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfprecision_0015.html - Description: 模型超参与参考基准一致。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfprecision_0015_html.md ## 精度分析工具部署 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfprecision_0016.html - Description: 为方便开发者进行训练场景的精度调试,一键式精度分析工具提供了对训练网络进行精度分析的常用功能,主要包括: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfprecision_0016_html.md ## 浮点异常检测 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfprecision_0017.html - Description: 训练网络执行过程中,当发生频繁浮点异常问题时,可参见本节内容进行浮点异常检测。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfprecision_0017_html.md ## 融合异常检测 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfprecision_0018.html - Description: 训练网络执行过程中,系统会根据内置的融合规则对网络中算子进行融合,以达到提高网络性能的效果。虽然大多数融合是自动识别的,但可能存在未考虑到的场景,导致精度问题,因此可以尝试关闭相应融合规则,定界网络问题是否由于融合导致。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfprecision_0018_html.md ## 整网数据比对 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfprecision_0019.html - Description: 排除以上问题后,在训练网络精度仍未达预期时,通过采集训练过程中各算子的运算结果(即dump数据),然后和业界标准算子(如TensorFlow)运算结果进行数据偏差对比,快速定位到具体算子的精度问题。主要过程为: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfprecision_0019_html.md ## 随机错误检测 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfprecision_0020.html - Description: 网络执行过程中,可能存在部分计算过程在相同输入的情况下给出了不同的输出的问题。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfprecision_0020_html.md ## 跨版本精度问题检测 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfprecision_0021.html - Description: 由于升级CANN版本导致的精度问题,需要基于前后版本,依次dump这两个版本的精度数据,进行数据比对,方法与随机错误检测一致。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfprecision_0021_html.md ## precision\_tool命令参考 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfprecision_0050.html - Description: 自动化检测命令,列出Fusion信息,解析算子溢出信息。 - -c:可选,进行整网比对。 - -l:可选,限制输出结果的条数(overflow解析的条数等)。 - 命令示例: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfprecision_0050_html.md ## 整网精度比对结果文件说明 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfprecision_0051.html - Description: 整网精度比对会生成比对结果文件result\_*.csv,文件内容如下图所示: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfprecision_0051_html.md ## 训练脚本去随机处理 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr1/tfmigr1_tfprecision_0052.html - Description: 整网数据比对前,需要先检查并去除训练脚本内部使用到的随机处理,避免由于输入数据不一致导致数据比对结果不可用。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr1_tfmigr1_tfprecision_0052_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2 - Description: 描述本手册的读者对象,TensorFlow 2.6.5模型迁移的全流程,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000001_html.md ## 学习向导 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000001.html - Description: 描述本手册的读者对象,TensorFlow 2.6.5模型迁移的全流程,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000001_html.md ## TF Adapter简介 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000003.html - Description: Ascend Adapter for TensorFlow 2.x (下称TF Adapter)是TensorFlow 2.x(下称TF2)框架与CANN软件栈间的适配层,用于帮助TF2训练框架的使用者便捷地将训练迁移到AI处理器(简称NPU)上执行。TF Adapter是无侵入的且与TF2有配套关系的Ascend发布件。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000003_html.md ## 系统约束与限制 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000004.html - Description: - 该文档仅配套TensorFlow 2.6.5版本使用。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000004_html.md ## 安装驱动固件与CANN软件包 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000006.html - Description: 进行模型开发前,需要准备带有AI处理器的硬件环境,请参考《CANN 快速安装\(https://www.hiascend.com/cann/download\)》安装昇腾NPU驱动和CANN软件(包含Toolkit和ops包),并配置环境变量。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000006_html.md ## 安装开源框架TensorFlow 2.6.5 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000007.html - Description: TensorFlow 2.6.5配套的Python版本是:Python3.7.x(3.7.5~3.7.11)、Python3.8.x、Python3.9.x。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000007_html.md ## 安装框架插件包 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000008.html - Description: 昇腾提供了对接深度学习框架TensorFlow的适配插件TF Adapter,若开发者需要在NPU上执行TensorFlow网络的训练或在线推理,需要安装TensorFlow框架适配插件包TF Adapter。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000008_html.md ## 工具简介 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000010.html - Description: TF Adapter提供了TensorFlow 2.6.5网络迁移工具,该工具适用于原生的TensorFlow训练脚本迁移场景,AI算法工程师通过该工具分析原生的TensorFlow Python API在AI处理器上的支持度情况,同时将原生的TensorFlow训练脚本自动迁移成AI处理器支持的脚本,迁移后的脚本能在AI处理器上执行训练,功能跑通。对于无法自动迁移的API,您可以参考工具输出的迁 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000010_html.md ## 迁移操作 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000011.html - Description: 在AI处理器进行模型迁移之前,建议用户事先准备好基于TensorFlow 2.6.5开发的训练模型以及配套的数据集,并要求在GPU或CPU上正常执行,精度收敛,且达到预期精度和性能要求。同时记录相关精度和性能指标,用于后续在AI处理器进行精度和性能对比。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000011_html.md ## TensorFlow商业版-本节主要介绍TensorFlow 2 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000013.html - Description: 本节主要介绍TensorFlow 2.6.5脚本迁移时涉及的迁移点及其作用或原因,您将在手工迁移与训练章节看到具体的迁移示例以加深理解。如果迁移点中提及的部分API未在下文中出现,可在TF Adapter 2.6接口参考中查阅API详细说明。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000013_html.md ## 添加@tf.function装饰器 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000014.html - Description: 通常,官方发布或设计良好的脚本都会自带@tf.function装饰器或者允许您通过脚本入参控制,您无需额外添加。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000014_html.md ## 设置NPU为默认设备 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000015.html - Description: TF Adapter提供了注册NPU设备的API,将NPU注册为TensorFlow的合法设备。开发者可以在带有@tf.function装饰器并在CPU或GPU下可以正常工作的脚本文件开头,添加如下代码,设置NPU为默认设备。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000015_html.md ## 预处理batch动作设置drop\_remainder - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000016.html - Description: 当原始网络脚本中使用dataset.batch\(batch\_size\)返回动态形状时,由于数据流中剩余的样本数可能小于batch大小,导致网络中最后一个step的shape与之前的shape不一致,此种场景下会进入动态shape编译流程。为提升网络编译性能,建议将drop\_remainder设置为True,丢弃文件中的最后几个样本,确保网络中每个step的shape一致。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000016_html.md ## 替换LossScaleOptimizer - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000017.html - Description: - 针对Atlas 350 加速卡,Atlas A3 训练系列产品 / Atlas A3 推理系列产品,Atlas A2 训练系列产品 / Atlas A2 推理系列产品,浮点计算的溢出模式默认采用“INF/NaN模式”,因此默认场景下,可直接跳过该迁移点。若您手工调用 set\_device\_sat\_mode - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000017_html.md ## 训练循环下沉时设置NPU上的循环次数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000018.html - Description: 该迁移点只要求设置一个NPU上的循环下沉次数,我们称之为npu loop size,有两种方法设置: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000018_html.md ## 分布式训练脚本适配(兼容单卡) - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000019.html - Description: NPU上的分布式部署形态如下图所示,每个TensorFlow进程只管理独享的一张NPU训练卡,多个TensorFlow进程间,通过CANN提供的集合通信接口进行集群同步。单独观察某个worker,可以发现其与NPU上的单卡训练,除额外进行了集群内的集合通信外完全一致。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000019_html.md ## 启动训练参数保持与单卡CPU形态一致 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000020.html - Description: 该迁移点通常要求您修改启动脚本时的分布式相关参数。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000020_html.md ## 迁移背景 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000022.html - Description: TensorFlow 2.6.5中的compat.v1模块用于兼容TensorFlow 1.x中的API,使开发者可以在TensorFlow 2.6.5中使用1.x版本的API。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000022_html.md ## Estimator迁移 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000023.html - Description: Estimator API属于TensorFlow的高阶API,可简化机器学习的编程过程。Estimator有很多优势,例如:对分布式的良好支持、简化了模型的创建工作、有利于模型开发者之间的代码分享等。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000023_html.md ## sess.run迁移 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000024.html - Description: sess.run API属于TensorFlow的低阶API,相对于Estimator来讲,灵活性较高,但模型的实现较为复杂。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000024_html.md ## Keras迁移 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000025.html - Description: Keras和Estimator类似,都属于TensorFlow高阶API,提供了方便的构图功能,并对训练、评估、验证、导出提供了方便的接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000025_html.md ## Horovod脚本迁移 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000026.html - Description: Horovod\(https://horovod.readthedocs.io/en/stable/tensorflow.html\)是基于TensorFlow、Keras、PyTorch以及MXNet的分布式训练框架,目的是提升分布式训练的性能。不同于传统的TensorFlow分布式训练采用PS worker架构,Horovod使用Allreduce来聚合梯度,能够更好地利用带宽,解决PS work - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000026_html.md ## 使用前须知 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000030.html - Description: 执行分布式训练前,首先应参考本节了解一些注意事项。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000030_html.md ## 训练执行(通过rank table配置资源信息) - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000033.html - Description: 开发者可以通过rank table文件配置参与集合通信的NPU资源信息,并在后续启动训练进程时指定使用的NPU资源。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000033_html.md ## 通过环境变量配置资源信息 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000035.html - Description: 进行训练之前,需要配置参与集群训练的AI处理器的资源信息。开发者可以通过本节所述的环境变量组合的方式配置资源信息,完成集合通信组件的初始化。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000035_html.md ## 执行训练 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000036.html - Description: 通过环境变量方式配置好参与分布式训练的资源信息后,可参考本节启动训练进程,执行训练。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000036_html.md ## 结果说明 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000037.html - Description: 分布式训练执行完成后,开发者可以参考本章节检查执行结果、定位问题。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000037_html.md ## 精度调试流程 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000039.html - Description: 用户迁移后的模型在AI处理器(简称NPU)上训练,功能已调通,但可能会遇到精度不达标或者收敛效果差的问题,用户模型在AI处理器上执行时,包括但不限于: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000039_html.md ## 检查项汇总 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000041.html - Description: 精度调试前,请按照如下表格的要求进行检查,并记录相关检查结果,排除参考基准和模型迁移过程中可能存在的问题。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000041_html.md ## 参考基准:多次训练验证精度一致 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000043.html - Description: 基准模型多次训练需要得到相同的结果预期。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000043_html.md ## 参考基准:正确使能混合精度训练 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000044.html - Description: 基准模型为gpu-fp32/cpu-fp32训练时,需要调整为混合精度(gpu-fp16)训练并且能够得到相同的准确度结果。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000044_html.md ## 模型迁移:在NPU上正确使能混合精度 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000046.html - Description: 在精度调试前,首先需要确保模型迁移成功且在NPU上功能调通。如果涉及分布式训练,确保正确使能。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000046_html.md ## 模型迁移:在NPU上正确使能Loss Scale - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000047.html - Description: 在混合精度计算中使用float16数据格式数据动态范围降低,造成梯度计算出现浮点溢出,会导致部分参数更新失败。为了保证部分模型训练在混合精度训练过程中收敛,需要配置Loss Scale的方法。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000047_html.md ## 数据处理:数据集与基准一致 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000048.html - Description: 数据集与参考数据集一致。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000048_html.md ## 数据处理:预处理流程与基准一致 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000049.html - Description: 数据预处理流程与参考模型一致。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000049_html.md ## 数据处理:多节点分片方式与基准一致 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000050.html - Description: 多节点对数据的分片方式需要与参考模型一致。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000050_html.md ## 训练流程:与基准一致 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000051.html - Description: 训练的起始状态、中间过程、结果状态需要与参考基准一致,验证的样本、流程也需要与参考基准一致。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000051_html.md ## 模型超参:与基准一致 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000052.html - Description: 模型超参与参考基准一致。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000052_html.md ## 工具部署 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000053.html - Description: 一键式精度分析工具,提供了对训练网络进行精度分析的常用功能,主要包括: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000053_html.md ## 浮点异常检测 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000054.html - Description: 训练网络执行过程中,可能发生频繁的浮点异常情况,即loss scale值下降次数较多或者直接下降为1,此时需要通过分析溢出数据,对频繁的浮点异常问题进行定界定位。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000054_html.md ## 融合异常检测 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000055.html - Description: 训练网络执行过程中,系统会根据内置的融合规则对网络中算子进行融合,以达到提高网络性能的效果。由于大多数融合是自动识别的,但可能存在未考虑到的场景,导致精度问题,因此可以尝试关闭相应融合规则,定界网络问题是否是由于融合导致。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000055_html.md ## 整网数据比对 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000056.html - Description: 排除以上问题后,在训练网络精度仍未达预期时,通过采集训练过程中各算子的运算结果(即Dump数据),然后和业界标准算子(如TensorFlow)运算结果进行数据偏差对比,快速定位到具体算子的精度问题。主要过程为: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000056_html.md ## 随机错误检测 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000057.html - Description: 网络执行过程中,可能存在部分计算过程在相同输入的情况下给出了不同的输出的问题。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000057_html.md ## 跨版本精度问题检测 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000058.html - Description: 由于升级CANN版本导致的精度问题,需要基于前后版本,依次dump这两个版本的精度数据,进行数据比对,方法与随机错误检测一致。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000058_html.md ## precision\_tool命令参考 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000060.html - Description: 自动化检测命令,列出Fusion信息,解析算子溢出信息。 - -c:可选,进行整网比对。 - -l:可选,限制输出结果的条数(overflow解析的条数等)。 - 命令示例: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000060_html.md ## 整网精度比对结果文件说明 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000061.html - Description: 整网精度比对会生成比对结果文件result\_*.csv,文件内容如下图所示: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000061_html.md ## 性能调优流程 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000064.html - Description: 迁移到AI处理器进行训练的网络如果存在性能不达标的问题,可按照如下流程进行性能调优: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000064_html.md ## 混合精度训练 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000066.html - Description: 混合精度为业内通用的性能提升方式,通过降低部分计算精度提升数据计算的并行度。混合精度训练方法是通过混合使用float16和float32数据类型来加速深度神经网络训练的过程,并减少内存使用和存取,从而可以训练更大的神经网络,同时又能基本保持使用float32训练所能达到的网络精度。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000066_html.md ## 替换GELU激活函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000067.html - Description: GELU是神经网络中一种常见的激活函数,全称为“Gaussian Error Linear Unit”,是ReLU的一种平滑版本,具体可以参考论文解释\(https://arxiv.org/abs/1606.08415\)。TensorFlow中GELU对应的实现接口为tf.nn.gelu和tf.keras.activations.gelu,部分网络如BERT中也会使用自定义的GELU实现.。使用近似 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000067_html.md ## AOE自动调优 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000068.html - Description: AOE自动调优工具通过生成调优策略、编译、在运行环境上验证的闭环反馈机制,不断迭代出更优的调优策略,最终得到最佳的调优策略,从而可以更充分利用硬件资源,提升网络的性能。模型训练阶段,分别使能AOE工具进行子图/算子与梯度切分的调优,调优完成后,最佳调优策略会固化到知识库。模型再次训练时,无需开启调优,即可享受知识库带来的性能收益。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000068_html.md ## 亲和性CPU自动绑核调优 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000069.html - Description: 相比于X86服务器,ARM服务器通常CPU核数更多,但单核性能更弱,因此更容易触发内核的负载均衡策略,该策略是通过启用进程迁移来降低繁忙的处理器压力。进程迁移会导致进程上下文切换、降低cache命中率和跨NUMA内存访问等,从而影响训练性能。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000069_html.md ## TensorFlow商业版-若基本调优操作不能达到性能要求 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000071.html - Description: 若基本调优操作不能达到性能要求,您可以借助Profiling工具采集训练过程中的性能数据并进行分析,从而准确定位系统的软、硬件性能瓶颈,提高性能分析的效率,通过针对性的性能优化方法,以最小的代价和成本提升业务性能。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000071_html.md ## 全局采集Profiling数据 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000072.html - Description: 修改训练脚本,在初始化NPU设备前通过添加“profiling\_config”相关参数指定调优模式:``` - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000072_html.md ## 局部采集Profiling数据 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000073.html - Description: TF Adapter 2.x暂不支持局部采集Profiling数据,但开发者可通过compat.v1模块调用TF Adapter 1.x中的Profiler类,从而实现局部采集性能数据的功能,即仅Profiler类作用域下的命令才会开启性能数据采集功能。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000073_html.md ## 解析并导出Profiling数据 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000074.html - Description: 下面以msprof命令行方式进行数据解析与导出为例进行说明:1. 切换到解析工具所在路径。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000074_html.md ## 分析Profiling数据 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000075.html - Description: 开发人员可通过分析Profiling工具解析得到Timeline和Summary文件,识别性能瓶颈点。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000075_html.md ## 进阶调优 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000076.html - Description: 通过Profiling数据分析出性能瓶颈点,再进行对应的调优手段,需要开发人员有丰富的调优经验,对开发人员要求较高。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000076_html.md ## 模型固化 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000077.html - Description: TensorFlow保存图graph、权重weights的过程称为freezing,在保存过程中会产生一个protobuf文件,简称pb文件。导出并保存pb文件的方法使用的是原生TensorFlow框架的能力,下面仅简要给出一些步骤示例。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000077_html.md ## 离线推理 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000079.html - Description: 模型固化完成后,您可以使用ATC模型转换工具,将得到的pb模型转换成om离线模型,即可用于在AI处理器进行离线推理。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000079_html.md ## 在线推理简介 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000081.html - Description: 在线推理是指在TensorFlow框架内使用已经训练好的pb模型实时进行推理,相比于离线推理场景,在线推理类业务时效性要求较高,常用于数据中心推理场景。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000081_html.md ## 迁移示例 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000082.html - Description: 下面,我们以ResNet50模型为例,介绍如何将基于TensorFlow 2.6.5框架和CPU/GPU环境运行的在线推理应用迁移到AI处理器上。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000082_html.md ## 完整代码示例 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000083.html - Description: 迁移到AI处理器的推理脚本: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000083_html.md ## 调整梯度切分策略 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000085.html - Description: 分布式训练场景下,各个Device之间计算梯度后执行梯度聚合操作。由于梯度数据会按顺序产生,且产生后不会再变化,为了提高训练性能,我们可以对梯度参数数据进行切分,同一分段中的梯度数据在产生后可以立即开始梯度聚合,使得一部分梯度参数数据聚合和前后向时间并行执行。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000085_html.md ## 自动迁移与训练 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000088.html - Description: 下面介绍如何通过工具迁移ResNet50网络。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000088_html.md ## 下载TF2官方ResNet50 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000090.html - Description: 首先,我们下载TensorFlow的官方models仓并check out到v2.6.0的tag版本: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000090_html.md ## 添加@tf.function装饰器 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000091.html - Description: 我们分析入口文件official/vision/image\_classification/resnet/resnet\_ctl\_imagenet\_main.py,可以看到官方脚本已经默认添加了@tf.function装饰器,因而这个迁移点我们直接迁移完成。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000091_html.md ## 设置NPU为默认设备 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000092.html - Description: 在入口文件official/vision/image\_classification/resnet/resnet\_ctl\_imagenet\_main.py的开头添加如下代码,添加完成后该迁移点即完成。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000092_html.md ## 替换LossScaleOptimizer - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000093.html - Description: 脚本分析后,我们发现该脚本并未使用LossScaleOptimizer,因而不需要替换,这个迁移点直接完成。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000093_html.md ## 预处理batch操作设置drop\_remainder - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000094.html - Description: 跟随训练脚本逻辑,找到数据预处理文件:official/vision/image\_classification/resnet/imagenet\_preprocessing.py。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000094_html.md ## 设置NPU上的循环次数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000095.html - Description: 在确定是否涉及该适配点前,需要您了解脚本是否采用了循环下沉的编码方式,实际上,阅读官方的脚本发现已经开放了开关供用户选择是否循环下沉。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000095_html.md ## 启动单卡训练 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000096.html - Description: 我们暂时略过了分布式训练脚本适配(兼容单卡)的分布式适配,初步验证下单卡迁移的结果。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000096_html.md ## 关键日志说明 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000097.html - Description: NPU上的单卡训练将很快完成,下面对执行日志的关键位置进行说明。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000097_html.md ## 分布式适配 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000098.html - Description: 在单卡模式下已经成功完成迁移,我们开始分布式模式的迁移,分布式迁移并不影响单卡功能,您的分布式脚本和单卡脚本最终是同一份脚本,可以同时以单卡或分布式方式执行。我们依次按照分布式迁移的过程开始迁移。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000098_html.md ## 调用TensorFlow的C++接口在NPU设备执行方法 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000103.html - Description: 开发者将TensorFlow源码与业务代码同时编译使用的场景下,文档中提供的基于Python将TensorFlow脚本迁移到NPU执行训练的方法则不再适用。此处为用户提供了一种在TensorFlow源码层面适配使用NPU设备的方法(此方法仅供参考)。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000103_html.md ## 安装Python版本的proto - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000105.html - Description: 如果训练脚本依赖protobuf的Python版本进行序列化结构的数据存储(例如TensorFlow的序列化相关接口),则需要安装Python版本的proto。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000105_html.md ## compat.v1模式下使用工具迁移Horovod脚本后,执行失败 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000107.html - Description: 工具在compat.v1模式下迁移Horovod脚本时,会自动替换相关Horovod接口,同时删除原始脚本中的Horovod相关包引用,此时对于原始脚本中的某些特殊写法,可能会导致关联代码报错,建议手工修改适配。例如: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000107_html.md ## 网络调测时ReduceSum算子性能差 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000108.html - Description: 网络调测时,网络整体性能较慢。通过Profiling工具获取网络的Profiling数据,并进行算子的性能数据分析,发现ReduceSum算子的性能未达预期。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000108_html.md ## 安装TensorFlow 2.6.5后,执行import tensorflow时报错 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000109.html - Description: 安装TensorFlow 2.6.5后,执行import tensorflow时报错:“RuntimeError: module compiled against API version 0x10 but this version of numpy is 0xd”。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000109_html.md ## 多Device上执行模型不同导致应用程序出错 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000110.html - Description: 分布式训练或推理场景,执行业务脚本时,出现进程停止响应的情况。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000110_html.md ## 自定义算子开发 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000111.html - Description: 当TensorFlow网络中存在CANN不支持的算子时,开发者可通过自定义实现Ascend C算子并在TensorFlow框架适配完成,具体的流程如下图所示: - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_000111_html.md ## 接口列表 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_tfadapi_0001.html - Description: 用户可以基于深度学习框架TensorFlow 2.6.5进行训练或在线推理脚本的开发,TF Adapter提供了适配TensorFlow 2.6.5框架的用户接口。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_tfadapi_0001_html.md ## npu.open - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_tfadapi_0002.html - Description: 用于注册NPU设备,当前必须连续调用asdefault设置NPU为默认设备。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_tfadapi_0002_html.md ## TensorFlow商业版-| 产品 | 是否支持 | - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_tfadapi_0004.html - Description: 返回NPU设备初始化全局单例配置对象,通过修改该全局单例对象的属性值,可以控制NPU设备初始化时的选项。该接口必须在调用npu.open接口初始化NPU设备前完成设置。 本节描述NPU提供的全局单例相关配置。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_tfadapi_0004_html.md ## 配置参数说明 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_tfadapi_0018.html - Description: 试验参数为调试功能扩展参数,后续版本可能会存在变更,不支持应用于商用产品中。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_tfadapi_0018_html.md ## npu.distribute.all\_reduce - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_tfadapi_0019.html - Description: 集合通信算子AllReduce的操作接口,用于NPU分布式部署场景下,worker间的聚合运算。 该接口可配合HCCL提供的Python语言的通信域管理接口进行使用,关于HCCL Python接口介绍可参见《HCCL通信域管理接口(Python)\(https://www.hiascend.com/document/detail/zh/canncommercial/900/API/hcclug/hc - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_tfadapi_0019_html.md ## npu.distribute.broadcast - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_tfadapi_0020.html - Description: 集合通信算子Broadcast的操作接口,用于NPU分布式部署场景下,worker间的变量同步。 该接口可配合HCCL提供的Python语言的通信域管理接口进行使用,关于HCCL Python接口介绍可参见《HCCL通信域管理接口(Python)\(https://www.hiascend.com/document/detail/zh/canncommercial/900/API/hcclug/hc - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_tfadapi_0020_html.md ## npu.distribute.npu\_distributed\_keras\_optimizer\_wrapper - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_tfadapi_0021.html - Description: 在更新梯度前,添加NPU的allreduce操作对梯度进行聚合,然后再更新梯度。该接口仅在分布式场景下使用。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_tfadapi_0021_html.md ## npu.distribute.shard\_and\_rebatch\_dataset - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_tfadapi_0022.html - Description: 用于NPU分布式部署场景下,不同worker上数据集分片及batch大小调整。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_tfadapi_0022_html.md ## npu.set\_npu\_loop\_size - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_tfadapi_0024.html - Description: 用于设置NPU循环下沉执行时的循环次数。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_tfadapi_0024_html.md ## npu.train.optimizer.NpuLossScaleOptimizer - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_tfadapi_0025.html - Description: NPU提供的LossScaleOptimizer,浮点计算的溢出模式为“饱和模式”的场景下,由于NPU上的溢出运算不保证输出Inf或者NaN,所以此种场景下,使用LossScaleOptimizer的脚本应当替换为该优化器,来屏蔽溢出检测的差异。 - 针对Atlas 350 加速卡,浮点计算支持两种溢出模式:饱和模式与INF/NaN模式,请保持默认值INF/NaN模式。饱和模式仅用于兼容旧版本,后 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_tfadapi_0025_html.md ## npu.ops.gelu - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_tfadapi_0026.html - Description: 计算高斯误差线性单元(GELU)激活函数。将输入Tensor乘以1个P\(X <\= x\),其中P\(X\) ~ N\(0, 1\)。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_tfadapi_0026_html.md ## TensorFlow商业版-set\_device\_sat\_mode - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_tfadapi_0028.html - Description: 设置针对浮点计算的进程级溢出模式,当前可支持两种溢出模式:饱和模式与INF/NaN模式。- 饱和模式:计算出现溢出时,计算结果会饱和为浮点数极值(+-MAX)。 - INF/NaN模式:遵循IEEE 754标准,根据定义输出INF/NaN的计算结果。 针对 Atlas 训练系列产品 ,默认值为“饱和模式”,且仅支持“饱和模式”。 针对 Atlas A2 训练系列产品 / Atlas A2 推理系列 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_tfadapi_0028_html.md ## TensorFlow 2.6 API支持列表 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_tfadapi_0029.html - Description: 请参考LINK\(https://gitcode.com/cann/tensorflow/tree/master/convert\_tf2npu/v2\)中的TF2.6\_api\_support\_list.xlsx文件。 - Detail: llms-content/document/detail/TensorFlowCommercial/TensorFlowCommercial_900_migration_tfmigr2_tfmigr2_tfadapi_0029_html.md ## TensorFlow社区版-本文用于指导开发人员 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg - Description: 本文用于指导开发人员,如何开发TensorFlow框架的Scope融合规则,把Scope内的多个小算子替换为一个大算子或多个算子组合,以提升TensorFlow计算图在AI处理器上的执行效率。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlastfscopedev_11_0002_html.md ## 接口列表 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0103.html - Description: 主要介绍Scope融合规则开发接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0103_html.md ## Scope构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0105.html - Description: Scope构造函数和析构函数。 无 Scope构造函数返回Scope类型的对象。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0105_html.md ## TensorFlow社区版-Init - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0106.html - Description: 初始化Scope对象。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0106_html.md ## TensorFlow社区版-Name - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0107.html - Description: 获取Scope的名称。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0107_html.md ## TensorFlow社区版-SubType - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0108.html - Description: 获取Scope子类型名称。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0108_html.md ## TensorFlow社区版-AllNodesMap - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0109.html - Description: 获取和Scope相关联的nodes map。 其中包括scope本身关联的node,子scope关联的node,层层递归下去,取得所有相关联的nodes。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0109_html.md ## TensorFlow社区版-GetSubScope - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0110.html - Description: 获取Scope的子Scope信息。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0110_html.md ## TensorFlow社区版-LastName - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0111.html - Description: 获取Scope名称字符串中,最后一个“/”分隔符后的字符串。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0111_html.md ## TensorFlow社区版-GetAllSubScopes - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0112.html - Description: 获取Scope关联的子Scope,子Scope关联的子Scope,层层递归下去,取得所有相关联的Scope集合。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0112_html.md ## TensorFlow社区版-GetFatherScope - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0113.html - Description: 获取Scope的父Scope信息。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0113_html.md ## FusionScopesResult构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0115.html - Description: FusionScopesResult构造函数和析构函数。 无。 FusionScopesResult构造函数返回FusionScopesResult类型的对象。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0115_html.md ## TensorFlow社区版-Init - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0116.html - Description: 初始化FusionScopesResult对象。 无。 返回Status类型的状态。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0116_html.md ## TensorFlow社区版-SetName - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0117.html - Description: 设置Scope result的名称。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0117_html.md ## TensorFlow社区版-SetType - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0118.html - Description: 设置Scope result的类型。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0118_html.md ## TensorFlow社区版-SetDescription - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0119.html - Description: 设置Scope result的描述信息。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0119_html.md ## TensorFlow社区版-Name - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0120.html - Description: 获取Scope result的名称。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0120_html.md ## TensorFlow社区版-Nodes - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0121.html - Description: 获取Scope result中的nodes信息。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0121_html.md ## TensorFlow社区版-InsertInputs - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0122.html - Description: 在FusionScopesResult中插入融合算子的输入信息。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0122_html.md ## TensorFlow社区版-InsertOutputs - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0123.html - Description: 在FusionScopesResult中插入融合算子的输出信息。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0123_html.md ## TensorFlow社区版-SetName - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0125.html - Description: 设置InnerNodeInfo的名称。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0125_html.md ## TensorFlow社区版-SetType - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0126.html - Description: 设置InnerNodeInfo的类型。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0126_html.md ## TensorFlow社区版-InsertInput - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0127.html - Description: 在InnerNodeInfo中插入输入算子相关信息。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0127_html.md ## TensorFlow社区版-InsertOutput - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0128.html - Description: 在InnerNodeInfo中插入输出算子相关信息。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0128_html.md ## TensorFlow社区版-BuildInnerNode - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0129.html - Description: 构建InnerNode。 无。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0129_html.md ## TensorFlow社区版-SetInputFormat - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0130.html - Description: 设置InnerNode输入格式。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0130_html.md ## TensorFlow社区版-SetOutputFormat - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0131.html - Description: 设置InnerNode输出算子格式。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0131_html.md ## TensorFlow社区版-SetDynamicInputFormat - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0132.html - Description: 设置DynamicInput格式。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0132_html.md ## TensorFlow社区版-SetDynamicOutputFormat - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0133.html - Description: 设置DynamicOutput格式。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0133_html.md ## TensorFlow社区版-MutableOperator - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0134.html - Description: 获取内部Operator对象的引用,用于修改Operator信息。 无。 返回ge::Operator类型指针。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0134_html.md ## TensorFlow社区版-GetName - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0135.html - Description: 获取InnerNodeInfo名。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0135_html.md ## TensorFlow社区版-GetType - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0136.html - Description: 获取InnerNodeInfo类型。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0136_html.md ## TensorFlow社区版-GetInputs - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0137.html - Description: 获取InnerNodeInfo输入信息。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 输入Vector信息。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0137_html.md ## TensorFlow社区版-GetOutputs - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0138.html - Description: 获取InnerNodeInfo输出信息。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 输出Vector信息。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0138_html.md ## InnerNodeInfo构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0139.html - Description: InnerNodeInfo构造函数和析构函数。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 InnerNodeInfo构造函数返回InnerNodeInfo类型的对象。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0139_html.md ## CHECK\_INNER\_NODE\_CONDITION宏 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0140.html - Description: 检查FusionScopesResult是否满足条件。FusionScopesResult详细信息请参考FusionScopesResult类。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0140_html.md ## TensorFlow社区版-AddInnerNode - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0141.html - Description: 增加InnerNode节点。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 返回InnerNodeInfo指针, - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0141_html.md ## TensorFlow社区版-MutableRecentInnerNode - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0142.html - Description: 最近添加的InnerNode节点。 无。 返回InnerNodeInfo指针或nullptr,代表返回最近添加的节点,如果是空指针则代表最近未新增过节点,新增节点列表为空。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0142_html.md ## TensorFlow社区版-MutableInnerNode - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0143.html - Description: 获取指定index的InnerNode,获取之后可以对该InnerNode进行修改。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0143_html.md ## TensorFlow社区版-CheckInnerNodesInfo - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0144.html - Description: 检查InnerNodeInfo输入输出。 无。 返回ge::graphStatus类型的状态码。ge::GRAPHSUCCESS表示成功,返回值其他表示失败。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0144_html.md ## ScopeTree构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0146.html - Description: ScopeTree构造函数和析构函数。 无。 ScopeTree构造函数返回ScopeTree类型的对象。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0146_html.md ## TensorFlow社区版-Init - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0147.html - Description: 初始化ScopeTree对象。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0147_html.md ## TensorFlow社区版-GetAllScopes - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0148.html - Description: 获取ScopeTree中包含的所有Scope信息。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0148_html.md ## ScopeGraph构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0150.html - Description: ScopeGraph构造函数和析构函数。 无。 ScopeGraph构造函数返回ScopeGraph类型的对象。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0150_html.md ## TensorFlow社区版-Init - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0151.html - Description: 初始化ScopeGraph对象。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0151_html.md ## TensorFlow社区版-GetScopeTree - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0152.html - Description: 获取ScopeTree对象实例。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0152_html.md ## TensorFlow社区版-GetNodesMap - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0153.html - Description: 获取ScopeGraph中包含的nodes信息。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0153_html.md ## ScopeAttrValue构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0155.html - Description: ScopeAttrValue构造函数和析构函数。 ScopeAttrValue构造函数返回ScopeAttrValue类型的对象。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0155_html.md ## TensorFlow社区版-SetIntValue - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0156.html - Description: 设置ScopeAttrValue的整型值。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0156_html.md ## TensorFlow社区版-SetFloatValue - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0157.html - Description: 设置ScopeAttrValue的浮点类型值。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0157_html.md ## TensorFlow社区版-SetStringValue - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0158.html - Description: 设置ScopeAttrValue的string类型值。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0158_html.md ## TensorFlow社区版-SetBoolValue - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0159.html - Description: 设置ScopeAttrValue的布尔类型值。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0159_html.md ## ScopeBaseFeature构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0161.html - Description: ScopeBaseFeature析构函数。 无。 无。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0161_html.md ## TensorFlow社区版-Match - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0162.html - Description: Scope融合匹配接口。 用户不直接调用。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0162_html.md ## NodeOpTypeFeature构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0164.html - Description: NodeOpTypeFeature构造函数和析构函数。 继承ScopeBaseFeature。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0164_html.md ## TensorFlow社区版-Match - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0165.html - Description: Scope融合匹配接口。 用户不直接调用。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0165_html.md ## NodeAttrFeature构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0167.html - Description: NodeAttrFeature构造函数和析构函数。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0167_html.md ## TensorFlow社区版-Match - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0168.html - Description: Scope融合匹配接口。 用户不直接调用。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0168_html.md ## ScopeFeature构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0170.html - Description: ScopeFeature构造函数和析构函数。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0170_html.md ## TensorFlow社区版-Match - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0171.html - Description: Scope融合匹配接口。 用户不直接调用。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0171_html.md ## ScopePattern构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0173.html - Description: ScopePattern构造函数和析构函数。 无。 ScopePattern构造函数返回ScopePattern类型的对象。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0173_html.md ## TensorFlow社区版-SetSubType - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0174.html - Description: Scope匹配到融合规则之后,设置该Scope的类型。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0174_html.md ## TensorFlow社区版-AddNodeOpTypeFeature - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0175.html - Description: 添加NodeOpTypeFeature对象到ScopePattern。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0175_html.md ## TensorFlow社区版-AddNodeAttrFeature - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0176.html - Description: 添加NodeAttrFeature对象到ScopePattern。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0176_html.md ## TensorFlow社区版-AddScopeFeature - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0177.html - Description: 添加ScopeFeature对象到ScopePattern。该函数将传入的feature对象复制到内部容器中,支持链式调用。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0177_html.md ## ScopesResult构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0179.html - Description: ScopesResult构造函数和析构函数。 ScopesResult构造函数返回ScopesResult类型的对象。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0179_html.md ## TensorFlow社区版-SetScopes - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0180.html - Description: 设置ScopeResult中包含的scopes。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0180_html.md ## TensorFlow社区版-SetNodes - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0181.html - Description: 设置ScopeResult中包含的nodes。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0181_html.md ## ScopeBasePass构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0183.html - Description: ScopeBasePass构造函数和析构函数。 无。 无。 无。 抽象类,不能被实例化,但是构造函数会在子类实例化之前被调用。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0183_html.md ## TensorFlow社区版-DefinePatterns - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0184.html - Description: 方法定义,子类实现各自的融合策略并构建Patterns。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0184_html.md ## TensorFlow社区版-PassName - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0185.html - Description: 方法定义,定义scope融合规则的名称。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0185_html.md ## TensorFlow社区版-LastMatchScopesAndOPs - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0186.html - Description: 方法定义,子类实现scope匹配及运算符融合方法。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0186_html.md ## TensorFlow社区版-GenerateFusionResult - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0187.html - Description: 方法定义,子类实现各自的融合结果,并设置最终融合算子的输入和输出。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0187_html.md ## TensorFlow社区版-StringReplaceAll - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0189.html - Description: 将字符串str中包含oldvalue的字符串用newvalue替换。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0189_html.md ## TensorFlow社区版-FreeScopePatterns - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0190.html - Description: 释放ScopePattern集的资源。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0190_html.md ## TensorFlow社区版-FreeOneBatchPattern - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0191.html - Description: 释放一个batch包含的ScopePattern资源。 无。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0191_html.md ## ScopeFusionPassRegistry析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0193.html - Description: ScopeFusionPassRegistry析构函数。 无。 无。 无。 - 单例类,构造函数不可见。 - 用户不直接调用。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0193_html.md ## TensorFlow社区版-GetInstance - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0194.html - Description: 获得ScopeFusionPassRegistry单例对象。 无。 用户不直接调用。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0194_html.md ## TensorFlow社区版-RegisterScopeFusionPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0195.html - Description: 注册融合算子。 数据类型为string的接口后续版本会废弃,建议使用数据类型为非string的接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0195_html.md ## ScopeFusionPassRegistrar构造函数和析构函数 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0197.html - Description: ScopeFusionPassRegistrar构造函数和析构函数。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0197_html.md ## TensorFlow社区版-REGISTER\_SCOPE\_FUSION\_PASS - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0198.html - Description: 注册Scope融合算子。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0198_html.md ## TensorFlow社区版-kScopeToMultiNodes - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0200.html - Description: 特殊定义的类型,融合结果中配置了这个类型表示希望将scope映射成多个D算子。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0200_html.md ## TensorFlow社区版-kScopeInvalidType - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0201.html - Description: 特殊定义的类型,融合结果中配置了这个类型表示有错误发生。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0201_html.md ## TensorFlow社区版-kInputFromFusionScope - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0202.html - Description: 表示小算子的输入来自scope边界。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0202_html.md ## TensorFlow社区版-kOutputToFusionScope - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlassfpapi_07_0203.html - Description: 表示小算子输入到scope边界。 无。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlassfpapi_07_0203_html.md ## TensorFlow社区版-本文用于指导开发人员 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlastfscopedev_11_0002.html - Description: 本文用于指导开发人员,如何开发TensorFlow框架的Scope融合规则,把Scope内的多个小算子替换为一个大算子或多个算子组合,以提升TensorFlow计算图在AI处理器上的执行效率。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlastfscopedev_11_0002_html.md ## 什么是Scope融合 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlastfscopedev_11_0004.html - Description: 为了实现高性能的计算,往往需要对子图中的小算子进行融合,使得融合后的大算子(多对一场景)或小算子组合(多对多场景)可以充分利用硬件加速资源。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlastfscopedev_11_0004_html.md ## Scope融合实现方案 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlastfscopedev_11_0005.html - Description: Scope融合实现方案包括Scope融合规则注册、Scope融合规则创建和执行。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlastfscopedev_11_0005_html.md ## Scope融合规则分类 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlastfscopedev_11_0006.html - Description: 系统提供内置的Scope融合规则,详细请参考《TensorFlow Parser Scope融合规则参考\(https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/910/Convergence/tfscopefusionref/atlasfr\_30\_0002.html\)》,同时开放接口供用户自定义,本文主要介绍如何自定义Sco - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlastfscopedev_11_0006_html.md ## 环境准备 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlastfscopedev_11_0008.html - Description: 参见《CANN软件安装\(https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/910/softwareinst/instg/instg\_0000.html\)》进行环境搭建,安装完成后: - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlastfscopedev_11_0008_html.md ## 开发流程及关键接口 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlastfscopedev_11_0010.html - Description: Scope融合按照融合场景分为多对一融合场景和多对多融合场景。本节介绍两种场景的开发流程及关键接口。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlastfscopedev_11_0010_html.md ## 融合规则设计 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlastfscopedev_11_0011.html - Description: 融合规则设计包括明确融合方案、明确融合算子原型和明确融合对应关系。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlastfscopedev_11_0011_html.md ## 创建代码目录 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlastfscopedev_11_0012.html - Description: 用户可以直接单击Link\(https://gitee.com/ascend/samples/releases\),下载配套版本的sample包,从“samples/cplusplus/level1\_single\_api/4\_op\_dev/1\_custom\_op”目录中获取样例。并对其中的样例进行修改,追加自己的自定义融合规则。工程目录结构如下: - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlastfscopedev_11_0012_html.md ## 定义融合规则类 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlastfscopedev_11_0014.html - Description: 在融合规则头文件(例如decode\_bbox\_v2\_scope\_fusion\_pass.h)中,定义Scope融合规则类,继承自ScopeBasePass类。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlastfscopedev_11_0014_html.md ## 定义融合规则 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlastfscopedev_11_0015.html - Description: 在融合规则实现文件(例如decode\_bbox\_v2\_scope\_fusion\_pass.cc)中,定义Scope的融合规则,便于系统基于此规则在全图的Scope中匹配,找到符合相应规则的Scope。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlastfscopedev_11_0015_html.md ## 设置融合规则名称 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlastfscopedev_11_0016.html - Description: 通过PassName设置融合规则名称,本例为DecodeBboxV2ScopeFusionPass。``` - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlastfscopedev_11_0016_html.md ## 设置最终匹配规则 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlastfscopedev_11_0017.html - Description: 设置最终匹配规则包括设置基本Scope匹配规则和Scope并列匹配规则。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlastfscopedev_11_0017_html.md ## 设置融合结果 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlastfscopedev_11_0018.html - Description: 通过GenerateFusionResult设置融合结果,包含融合算子的名字、类型、输入、输出、描述。最终融合结果保存在fusion\_rlt返回,返回结果的类型为FusionScopesResult类。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlastfscopedev_11_0018_html.md ## 注册融合规则 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlastfscopedev_11_0019.html - Description: 注册融合规则包括注册融合规则名称、注册融合规则类和设置融合规则是通用规则还是定制化规则。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlastfscopedev_11_0019_html.md ## Scope融合算子适配插件实现 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlastfscopedev_11_0020.html - Description: 本节介绍如何实现融合算子适配插件,将基于原始框架的小算子映射成适配AI处理器的融合算子,并将算子信息注册到GE中。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlastfscopedev_11_0020_html.md ## 多对多场景开发注意点 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlastfscopedev_11_0021.html - Description: 多对多场景开发注意点包括多对多场景开发流程、设置融合结果和内部小算子所需的信息处理。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlastfscopedev_11_0021_html.md ## 融合规则生效 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlastfscopedev_11_0022.html - Description: 在注册融合规则时,定义了融合规则的生效方式: - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlastfscopedev_11_0022_html.md ## 样例参考 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopedevg/atlastfscopedev_11_0023.html - Description: 单击“tf\_scope\_fusion\_pass\(https://gitee.com/ascend/samples/tree/master/cplusplus/level1\_single\_api/4\_op\_dev/1\_custom\_op/framework/tf\_scope\_fusion\_pass\)”获取相关样例。融合规则样例的介绍、编译部署、验证方法请参考“1\_custom\_op\(https:// - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopedevg_atlastfscopedev_11_0023_html.md ## TensorFlow社区版-Scope融合是一种基于Scope来进行融合的能力 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopefusionref - Description: Scope融合是一种基于Scope来进行融合的能力,把Scope内的多个小算子替换为一个大算子或多个算子组合,以实现效率的提升。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopefusionref_atlasfr_30_0002_html.md ## TensorFlow社区版-Scope融合是一种基于Scope来进行融合的能力 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopefusionref/atlasfr_30_0002.html - Description: Scope融合是一种基于Scope来进行融合的能力,把Scope内的多个小算子替换为一个大算子或多个算子组合,以实现效率的提升。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopefusionref_atlasfr_30_0002_html.md ## TensorFlow社区版-ScopeLayerNormPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopefusionref/atlasfr_30_0004.html - Description: 将tf.layernorm生成的layernorm/batchnorm和layernorm/moments这两个Scope,融合为LayerNorm算子。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopefusionref_atlasfr_30_0004_html.md ## TensorFlow社区版-ScopeLayerNormGradPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopefusionref/atlasfr_30_0005.html - Description: 将tf.layernorm的反向Scope融合为LayerNormGrad算子。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopefusionref_atlasfr_30_0005_html.md ## TensorFlow社区版-ScopeBasicLSTMCellPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopefusionref/atlasfr_30_0006.html - Description: 将tf.nn.rnn\_cell.BasicLSTMCell生成的Scope内的小算子组合融合为BasicLSTMCell算子。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopefusionref_atlasfr_30_0006_html.md ## TensorFlow社区版-ScopeDynamicLSTMPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopefusionref/atlasfr_30_0007.html - Description: 将tf.nn.dynamic\_rnn或tf.nn.bidirectional\_dynamic\_rnn生成的Scope内的小算子组合融合为DynamicLSTM算子。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopefusionref_atlasfr_30_0007_html.md ## TensorFlow社区版-ScopeClipBoxesPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopefusionref/atlasfr_30_0008.html - Description: 将clip\_boxes Scope融合为ClipBoxes算子。Scope内包括tf.Maximum、tf.ReverseV2、tf.Tile和tf. Minimum这四个算子,不包含Gather\_2、TopKV2、Reshape\_2、Split、Greater、Squeeze、Gather、boolean\_mask、decode\_bbox\_target等算子。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopefusionref_atlasfr_30_0008_html.md ## TensorFlow社区版-ScopeROIAlignPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopefusionref/atlasfr_30_0009.html - Description: 将tf.AvgPool和tf.image.CropAndResize这两个Scope融合为ROIAlign算子,不包含Merge算子。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopefusionref_atlasfr_30_0009_html.md ## TensorFlow社区版-ScopeToAbsoluteBBoxPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopefusionref/atlasfr_30_0013.html - Description: 融合的scope为Map,Map下需要有while,while下需要有ToAbsoluteCoordinates,ToAbsoluteCoordinates下有scale,同时scope下有4个Mul算子,融合成ToAbsoluteBBox算子。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopefusionref_atlasfr_30_0013_html.md ## TensorFlow社区版-ScopeNormalizeBBoxPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopefusionref/atlasfr_30_0014.html - Description: 融合scope为Map,Map下需要有while,while下需要有ToNormalizedCoordinates,ToNormalizedCoordinates下有scale,融合成NormalizeBBox算子。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopefusionref_atlasfr_30_0014_html.md ## TensorFlow社区版-ScopeDecodeBboxV2Pass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopefusionref/atlasfr_30_0015.html - Description: 将含有如下两种Scope融合为DecodeBboxV2算子。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopefusionref_atlasfr_30_0015_html.md ## TensorFlow社区版-ScopeBatchMultiClassNMSPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopefusionref/atlasfr_30_0016.html - Description: 如下图结构进行融合成BatchMultiClassNonMaxSuppression算子,融合scope下有scope路径:map/while/MultiClassNonMaxSuppression/ - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopefusionref_atlasfr_30_0016_html.md ## TensorFlow社区版-ScopeKeepRatioResizeBilinearPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopefusionref/atlasfr_30_0017.html - Description: 将特定Scope进行融合成KeepRatioResizeBilinear + Shape + Slice*2 + ExpandDims + ConcatV2 + Tile + Const,Scope中包括图结构:map/while/ResizeToRange/,包括算子Maximum,Minimum,Round,ResizeBilinear。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopefusionref_atlasfr_30_0017_html.md ## TensorFlow社区版-ScopeBatchMultiClassNonMaxSuppressionPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopefusionref/atlasfr_30_0018.html - Description: 如下图结构进行融合成BatchMultiClassNonMaxSuppression算子,融合scope下有scope路径: - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopefusionref_atlasfr_30_0018_html.md ## TensorFlow社区版-ScopeDynamicGRUPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopefusionref/atlasfr_30_0019.html - Description: 将含有如下算子的Scope融合为DynamicGRU算子。Scope内包括:5个AddV2算子、3个Mul算子、1个Tanh算子、不包含Transpose算子。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopefusionref_atlasfr_30_0019_html.md ## TensorFlow社区版-ScopeDynamicRNNPass - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/Convergence/tfscopefusionref/atlasfr_30_0020.html - Description: 将含有如下算子的Scope融合为DynamicRNN算子。Scope内包括:1个名为while的子Scope,不包含Transpose算子;while子Scope内包括:4的倍数个BiasAdd算子、2的倍数个Tanh算子、8个MatMul算子,1个Split算子。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_Convergence_tfscopefusionref_atlasfr_30_0020_html.md ## TensorFlow社区版-TensorFlow - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/index/index.html - Description: 昇腾提供TensorFlow适配插件TensorFlow Adapter(简称TF Adapter),兼容TensorFlow主流深度学习框架,实现TensorFlow网络在昇腾平台上加速执行。当前TF Adapter仅支持TensorFlow 1.15和TensorFlow 2.6.5版本。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_index_index_html.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2 - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000001.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000003.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000004.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000006.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000007.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000008.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000010.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000011.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000013.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000014.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000015.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000016.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000017.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000018.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000019.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000020.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000022.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000023.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000024.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000025.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000026.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000028.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000030.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000033.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000035.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000036.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000037.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000039.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000041.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000043.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000044.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000046.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000047.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000048.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000049.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000050.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000051.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000052.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000053.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000054.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000055.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000056.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000057.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000058.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000060.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000061.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000064.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000066.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000067.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000068.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000069.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000071.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000072.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000073.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000074.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000075.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000077.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000079.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000081.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000082.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000083.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000085.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000088.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000090.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000091.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000092.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000093.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000094.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000095.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000096.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000097.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000098.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000099.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000103.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000105.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000107.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000108.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000109.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000110.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_000111.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_tfadapi_0001.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_tfadapi_0002.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_tfadapi_0004.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_tfadapi_0018.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_tfadapi_0019.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_tfadapi_0020.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_tfadapi_0021.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_tfadapi_0022.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_tfadapi_0023.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_tfadapi_0024.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_tfadapi_0025.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_tfadapi_0026.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_tfadapi_0028.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## TensorFlow社区版-前言 - URL: https://www.hiascend.com/document/detail/zh/TensorFlowCommunity/latest/migration/tfmigr2/tfmigr2_tfadapi_0029.html - Description: 描述本手册的读者对象,以及使用本手册的一些注意点。 - Detail: llms-content/document/detail/TensorFlowCommunity/TensorFlowCommunity_910_migration_tfmigr2_docs_zh_tfadapter_2_introduction_md.md ## 入门视频-昇腾文档-昇腾社区 - URL: https://www.hiascend.com/document/video - Description: 提供体系化视频教程,帮助开发者轻松学昇腾,用昇腾。 - Keywords: 入门视频,昇腾文档,昇腾社区 - Detail: llms-content/document/zh_document_video.md ## 昇腾职业认证-认证课程-考试-昇腾社区 - URL: https://www.hiascend.com/edu/career-certification - Description: 提供华为认证AI工程师、华为认证AI模型开发高级工程师、华为认证AI应用开发高级工程师、华为认证AI开发专家等职业认证。 - Keywords: 昇腾职业认证,认证课程,考试,昇腾社区,AI HCIA,Model Developer HCIP,Model Developer,Application Developer HCIP,AI,Ap - Detail: llms-content/edu/zh_edu_career-certification.md ## 昇腾微认证-昇腾社区 - URL: https://www.hiascend.com/edu/certification - Description: 一站式在线学习、实验、考试,快速获取昇腾AI核心技能认证。 - Keywords: 昇腾微认证,昇腾社区,认证流程,完成微认证即享,CANN,MindSpore,MindStudio,MindX - Detail: llms-content/edu/zh_edu_certification.md ## 昇腾微认证-昇腾社区 - URL: https://www.hiascend.com/edu/certification/list - Description: 一站式在线学习、实验、考试,快速获取昇腾AI核心技能认证。 - Keywords: 昇腾微认证,昇腾社区,认证流程,完成微认证即享,CANN,MindSpore,MindStudio,MindX - Detail: llms-content/edu/zh_edu_certification_list.md ## 证书查询-人才认证-昇腾社区 - URL: https://www.hiascend.com/edu/certification/query - Description: 一站式在线学习、实验、考试,快速获取昇腾AI核心技能认证。 - Keywords: 昇腾微认证、微认证证书、证书查询 - Detail: llms-content/edu/zh_edu_certification_query.md ## 在线课程-CANN在线课程-昇腾大模型在线课程-开发者套件在线课程-昇腾官方在线课程-昇腾社区 - URL: https://www.hiascend.com/edu/courses - Description: 体系化的课程,轻松学昇腾、用昇腾 - Keywords: CANN,昇腾大模型在线课程,开发者套件在线课程,昇腾官方在线课程,昇腾社区,课程列表,MindSpore,MindStudio - Detail: llms-content/edu/zh_edu_courses.md ## 昇腾开发者认证-昇腾社区 - URL: https://www.hiascend.com/edu/developer-certification - Description: 基于开发场景和技术方向的认证,确保具备开发能力 - Keywords: 昇腾开发者认证,昇腾社区,开发者认证列表,基于开发场景,和技术方向的,认证,确保具备开发能力,ACDA - Detail: llms-content/edu/zh_edu_developer-certification.md ## 在线实验-CANN在线实验-Pytorch在线实验-开发者套件在线实验-昇腾社区 - URL: https://www.hiascend.com/edu/experiment - Description: 学以致用,在线实操,让理论融入实践 - Keywords: CANN,Pytorch,开发者套件在线实验,昇腾社区,MindSpore,MindX SDK,MindStudio,Ascend - Detail: llms-content/edu/zh_edu_experiment.md ## 开发者主页-昇腾社区 - URL: https://www.hiascend.com/edu/experiment/detail/60089ddedac74139a4253af31fa14d39 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 开发者主页,昇腾社区 - Detail: llms-content/edu/zh_edu_experiment_detail_60089ddedac74139a4253af31fa14d39.md ## 用户登录-昇腾社区 - URL: https://www.hiascend.com/edu/experiment/detail/d4ab185f399044faad97a80f368be83d - Description: 用户登录 - Keywords: 用户登录,昇腾社区,CAS,了解详情,登录 - Detail: llms-content/edu/zh_edu_experiment_detail_d4ab185f399044faad97a80f368be83d.md ## 学习路径-昇腾社区 - URL: https://www.hiascend.com/edu/growth - Description: 一站式成长计划,助力开发者领跑开发之路 - Keywords: 学习路径,昇腾社区,主题路径推荐,路径列表,CV,PyPTO Ascend,TileLang Triton,AscendNPU IR - Detail: llms-content/edu/zh_edu_growth.md ## AI系统专区-昇腾社区 - URL: https://www.hiascend.com/edu/growth/ai-system - Description: AI系统包括从AI芯片、AI编译器、AI推理和训练框架等围绕AI算力底座的理论知识和技术进行展开,您将了解 AI 系统的来龙去脉,对AI算力底座形成系统性与层次化的理解,为后续AI核心原理和昇腾相关开发工作打好坚实基础。 - Keywords: AI,系统专区,昇腾社区,从芯片到模型,全面学习,系统知识,学习列表,探索关联资源 - Detail: llms-content/edu/zh_edu_growth_ai-system.md ## Agent部署-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/00b6ad94863e44f4bd8d07fa8e8038f7 - Description: 昇腾Agent Skills将软硬件专家能力模块化,赋能Agent快速部署,优化和落地AI应用,显著降低开发门槛与部署成本。 - Keywords: Agent,部署,昇腾社区,Skills,Ascend,School,Magnetic,Space - Detail: llms-content/edu/zh_edu_growth_details_00b6ad94863e44f4bd8d07fa8e8038f7.md ## 大模型开发全流程-高级-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/0e562eefb3344672b628fc4c21ade471 - Description: 主要介绍MindStudio工具链,帮助开发者掌握将大模型迁移到昇腾 + PyTorch进行开发,并进行精度和性能调优的能力。高级课程兼顾训练调优使用的多种技术,开展基础应用(信息抽取、问答对话)以及智能体、安全攻防等前沿开发实践。 - Keywords: 大模型开发全流程,高级,昇腾社区,School,Magnetic,Space,课程,了解详情 - Detail: llms-content/edu/zh_edu_growth_details_0e562eefb3344672b628fc4c21ade471.md ## 昇腾集合通信定制开发教程-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/115dafe08ab949b4baef479ceaa61d68 - Description: HCCL系列课程分”使用篇“和”魔改篇“两大部分,本门课程是“魔改篇”,讨论如何修改HCCL,为其新增或修改算法实现。 - Keywords: 昇腾集合通信,定制开发教程,昇腾社区,HCCL,School,Magnetic,Space,了解详情 - Detail: llms-content/edu/zh_edu_growth_details_115dafe08ab949b4baef479ceaa61d68.md ## 大模型开发全流程-初级-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/193346d65491498f80ec50551b9fa5b4 - Description: 初级课程主要介绍大模型的发展过程、分类与当前代表性大模型等基础知识,然后基于昇腾使用快速易上手的大模型,帮助开发者学习开发环境搭建、训练数据准备、大模型预训练、推理、性能评估全流程,并进一步介绍提示学习和思维链提示的相关内容。 - Keywords: 大模型开发全流程,初级,昇腾社区,School,Magnetic,Space,课程,了解详情 - Detail: llms-content/edu/zh_edu_growth_details_193346d65491498f80ec50551b9fa5b4.md ## Resnet离线推理初体验-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/2b5bea0dcd854f3b9d22d9e423a75746 - Description: 完成本路径后,您将能够了解异构计算架构CANN基本概念,离线推理基本概念,能够看懂Ascend CL离线推理代码,并以Resnet50为例了解离线推理应用的部署。 - Keywords: Resnet,离线推理初体,昇腾社区,Ascend,School,Magnetic,Space,了解详情 - Detail: llms-content/edu/zh_edu_growth_details_2b5bea0dcd854f3b9d22d9e423a75746.md ## 检索应用开发-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/310d161ab02c45958f9bc3d8fbbec51e - Description: 对于大规模特征检索聚类的应用场景,Index SDK提供极简易用、高性能API,快速开发行业应用。本路径包括Index SDK的架构介绍、检索算法介绍、检索应用开发等课程。 - Keywords: 检索应用开发,昇腾社区,Index,SDK,Ascendcopdevg,School,Magnetic,Space - Detail: llms-content/edu/zh_edu_growth_details_310d161ab02c45958f9bc3d8fbbec51e.md ## 神经网络基础-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/39fbe6fc4a7e46e9bf19f470b6adefe4 - Description: 学完本路径内全部内容,您可以熟练掌握基于MindSpore AI框架完成深度学习全流程开发及相关接口的使用方法,并学会独立构建一个简单的神经网络。 - Keywords: 神经网络基础,昇腾社区,School,Magnetic,Space,了解详情,昇思,课程 - Detail: llms-content/edu/zh_edu_growth_details_39fbe6fc4a7e46e9bf19f470b6adefe4.md ## 生成式AI通用知识-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/3c370fa2c6e04dbaa62571ff29cfa03f - Description: 本课程主要介绍生成式AI基本概念以及其核心技术,并使用昇腾推理引擎MindIE,带领大家实际进行生成式AI大模型的部署和推理实践。 - Keywords: AI,生成式,通用知识,昇腾社区,School,Magnetic,Space,了解详情 - Detail: llms-content/edu/zh_edu_growth_details_3c370fa2c6e04dbaa62571ff29cfa03f.md ## MindSpeed LLM开发实践-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/3d94992123df4f0196f80feadbc93f34 - Description: 本课程通过介绍昇腾大模型训练框架 MindSpeed LLM,系统讲述了基于昇腾的大模型预训练、指令微调、偏好对齐等训练场景 - Keywords: 开发实践,昇腾社区,MindSpeed LLM,School,Magnetic,Space,了解详情,课程 - Detail: llms-content/edu/zh_edu_growth_details_3d94992123df4f0196f80feadbc93f34.md ## Triton-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/40da2182f5c94d4c9ddb2b582161e0f5 - Description: Triton是基于Python的tile级高效开发编译框架,开发者无需深入了解硬件细节就可快速开发高性能算子。本路径是面向昇腾Triton算子开发的系列教程,涵盖架构原理、算子开发、算子迁移、算子性能分析与优化等全流程。 - Keywords: 昇腾社区,Triton Triton,School,Magnetic,Space,算子开发,了解详情,面向昇腾 - Detail: llms-content/edu/zh_edu_growth_details_40da2182f5c94d4c9ddb2b582161e0f5.md ## CV/NLP预训练-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/42c727ca7a464bff9533d561e7cb5e4c - Description: 预训练是大模型构建的基础环节,以语言建模为基本任务,大量的训练数据是关键。本课程将介绍预训练的流程,包括确定模型结构、确定词表和分词器、数据准备、训练参数设置、根据损失和评测结果调整数据和训练参数等环节。 - Keywords: CV,NLP,预训练,昇腾社区,School,Magnetic,Space,了解详情 - Detail: llms-content/edu/zh_edu_growth_details_42c727ca7a464bff9533d561e7cb5e4c.md ## AI编译器知识-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/48228cfb0f83485ea170a79ed8287e19 - Description: 介绍AI编译器原理,将站在系统设计的角度,思考在设计现代机器学习系统中需要考虑的编译器问题,特别是针对 AI 计算图的中间表达乃至后端优化。 - Keywords: AI,编译器知识,昇腾社区,PyTorch,Python,School,Magnetic,Space - Detail: llms-content/edu/zh_edu_growth_details_48228cfb0f83485ea170a79ed8287e19.md ## 模型量化压缩-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/4a0ce7932c534d42816b6fa3b8ff4dbc - Description: 本路径介绍昇腾模型压缩工具msModelSlim,包含量化和压缩等一系列推理优化技术,实现大语言稠密模型、MoE模型、多模态理解模型、多模态生成模型等推理加速。 - Keywords: 模型量化压缩,昇腾社区,School,Magnetic,Space,了解详情,大模型推理量,智能助手 - Detail: llms-content/edu/zh_edu_growth_details_4a0ce7932c534d42816b6fa3b8ff4dbc.md ## 多机多卡并行推理-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/4e9c703842904f28b1289ae3e259e94a - Description: 本文档以DeepSeek模型为例,让开发者快速开始使用MindIE进行大模型推理流程。 - Keywords: 多机多卡并行推理,昇腾社区,DeepSeek,MindIE,LLM,Service,School,Magnetic - Detail: llms-content/edu/zh_edu_growth_details_4e9c703842904f28b1289ae3e259e94a.md ## 多模态预训练-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/52781129f89d44ee89a68166f330f5c3 - Description: 本教程旨在通过讲解典型应用范例,指导开发者基于昇腾NPU平台,利用MindSpeed MM套件快速完成多模态模型的预训练任务。 - Keywords: 多模态预训练,昇腾社区,MindSpeed,School,Magnetic,Space,了解详情,架构介绍和代 - Detail: llms-content/edu/zh_edu_growth_details_52781129f89d44ee89a68166f330f5c3.md ## 昇腾异构编程基础(速成班)-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/619dc0b408ff43df88b4f8eab35791f3 - Description: 本课程深入解析昇腾AI处理器的达芬奇架构,涵盖AI Core(矩阵/向量计算)、AI CPU(非矩阵任务)、层次化存储系统等核心组件。 - Keywords: 昇腾异构编程,基础,速成班,昇腾社区,Core,AI CPU,Triton,School - Detail: llms-content/edu/zh_edu_growth_details_619dc0b408ff43df88b4f8eab35791f3.md ## GEMM类算子调优-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/66ce04408bdc4e2b9db8169b66aff9a6 - Description: 本课程以通用矩阵乘法(GEMM)为基准,揭示昇腾NPU上算子调优的实操技巧。学员将学习Atlas 800T A2芯片的AIC/AIV分离架构特性,掌握MTE2/MTE3搬运单元的对齐策略。 - Keywords: GEMM,类算子调优,昇腾社区,Ascend,Double Buffer,School,Magnetic,Space - Detail: llms-content/edu/zh_edu_growth_details_66ce04408bdc4e2b9db8169b66aff9a6.md ## 昇腾大模型系统运维入门-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/68a27092f383426bafd44bbd924d11ba - Description: 旨在提升开发者大模型迁移过程中定位定界能力 - Keywords: 昇腾大模型系,统运维入门,昇腾社区,School,Magnetic,Space,了解详情,课程 - Detail: llms-content/edu/zh_edu_growth_details_68a27092f383426bafd44bbd924d11ba.md ## 文本生成推理-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/6bc86a3877c442308d6a92079765d899 - Description: 针对大模型推理,昇腾提供了高性能推理引擎,并对接业界主流推理框架,满足大语言模型的高性能推理需求。本路径包括推理部署、推理加速等系列课程。 - Keywords: 文本生成推理,昇腾社区,MindIE LLM,MindIE Motor,Ascend,MindIE,LLM,README - Detail: llms-content/edu/zh_edu_growth_details_6bc86a3877c442308d6a92079765d899.md ## 昇腾大模型训练开发(MindSpore)-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/6ce1cb8a880d4ab58c85ef843ded2c9d - Description: 基于昇思MindSpore AI框架及MindFormers大模型套件的LLM开发、预训练、微调流程 - Keywords: MindSpore,昇腾大模型训,练开发,昇腾社区,ChatGLM ChatGLM,LLaMA LLaMA,School,Magnetic - Detail: llms-content/edu/zh_edu_growth_details_6ce1cb8a880d4ab58c85ef843ded2c9d.md ## 昇思MindSpore:深度学习原理与实践-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/770e02e97c804b2284047c485fe9c4c9 - Description: 本课程无需读者对人工智能有任何前置知识,从最基础概念开始讲解,原理与实践相结合,适合作为AI入门课程。 - Keywords: MindSpore,昇思,深度学习原理,与实践,昇腾社区,School,Magnetic,Space - Detail: llms-content/edu/zh_edu_growth_details_770e02e97c804b2284047c485fe9c4c9.md ## LLM 后训练-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/785809de8b7a47d496e2acbb992f7858 - Description: 本教程旨在通过理论解析与实战演练相结合的方式,指导开发者基于昇腾NPU平台,利用MindSpeed RL套件快速完成大模型强化学习后训练任务。 - Keywords: LLM,后训练,昇腾社区,DanceGRPO,MindSpeed RL,Ascend,RL,MindSpeed - Detail: llms-content/edu/zh_edu_growth_details_785809de8b7a47d496e2acbb992f7858.md ## 多模态推理-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/7872eb9aef1a4a7990f4c508c161eff9 - Description: 完成本课程,学员将掌握多模态生成模型原理及演进,熟悉MindIE SD推理加速套件的架构和关键特性,并学会在昇腾平台上部署视频生成等多模态大模型 - Keywords: 多模态推理,昇腾社区,MindIE,School,Magnetic,Space,了解详情,推理加速套件 - Detail: llms-content/edu/zh_edu_growth_details_7872eb9aef1a4a7990f4c508c161eff9.md ## CV/NLP微调-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/8357640fdc2b40e8a9e42fc11a744fba - Description: 为进一步增强大模型在某些领域的能力,现实场景下常对预训练的大模型进一步微调。 - Keywords: CV,NLP,微调,昇腾社区,School,Magnetic,Space,了解详情 - Detail: llms-content/edu/zh_edu_growth_details_8357640fdc2b40e8a9e42fc11a744fba.md ## 视图生成推理-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/83b69002bfa541c4ab7d1cd338aacc29 - Description: 本路径介绍基于昇腾平台的多模态生成推理技术,包括多模态生成相关的融合算子、昇腾亲和量化算法等,实现模型的推理加速。 - Keywords: 视图生成推理,昇腾社区,MindIE,Ascend,SD,School,Magnetic,Space - Detail: llms-content/edu/zh_edu_growth_details_83b69002bfa541c4ab7d1cd338aacc29.md ## LLM微调-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/85a0535925534e73a8416e3d0cda65e2 - Description: 本教程旨在基于昇腾生态环境,完成Qwen2.5-7B大语言模型的训练与微调工作 - Keywords: LLM,微调,昇腾社区,MindSpeed,School,Magnetic,Space,了解详情 - Detail: llms-content/edu/zh_edu_growth_details_85a0535925534e73a8416e3d0cda65e2.md ## 企业级推理部署-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/89478efb20ed4592817deaf5f97f815d - Description: MindIE推理引擎介绍,包括大模型推理解决方案全栈介绍,包括LLM、文生视图等场景。 - Keywords: 企业级推理部署,昇腾社区,School,Magnetic,Space,了解详情,企业级推理部,推理部署与调 - Detail: llms-content/edu/zh_edu_growth_details_89478efb20ed4592817deaf5f97f815d.md ## Pytorch模型迁移-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/8bb5482e933c43e98237ac7cdb14d1dc - Description: 完成本课程后,学员将能独立完成PyTorch典型模型的迁移适配与分布式部署 - Keywords: Pytorch,模型迁移,昇腾社区,GroupedMatmul,School,Magnetic,Space,了解详情 - Detail: llms-content/edu/zh_edu_growth_details_8bb5482e933c43e98237ac7cdb14d1dc.md ## 神经网络算子全流程开发实践-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/928fac7ea13b44888b7d69faab21a75b - Description: 学完本路径内全部内容,您将了解Ascend C算子开发全流程,并学会独立开发一个神经网络算子,对其进行测试,并将其集成进您的神经网络进行调用。 - Keywords: 神经网络算子,全流程开发实,昇腾社区,Ascend,School,Magnetic,Space,了解详情 - Detail: llms-content/edu/zh_edu_growth_details_928fac7ea13b44888b7d69faab21a75b.md ## Ascend C编程-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/9614049b0d6044c28e291aea1d931a53 - Description: Ascend C是以标准C/C++为基础扩展,开发高性能算子。本路径是Ascend C算子开发的系列教程,涵盖Ascend C算子开发、算子调用、算子性能分析与优化等全流程。 - Keywords: 编程,昇腾社区,Ascend C Skills,Add Ascend C,Add,CannCommunityAscendCbase,Ascend,School - Detail: llms-content/edu/zh_edu_growth_details_9614049b0d6044c28e291aea1d931a53.md ## 多模态微调-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/9886471faf0045329c7c8ec51d818c4b - Description: 本教程目标是通过介绍典型模型使用方法,指导开发者在昇腾NPU环境中,实现MindSpeed MM预置模型开箱即用 - Keywords: 多模态微调,昇腾社区,School,Magnetic,Space,了解详情,多模态大模型,训练微调 - Detail: llms-content/edu/zh_edu_growth_details_9886471faf0045329c7c8ec51d818c4b.md ## 大模型开发全流程-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/9aeb1d56711242c5bd15d30a6308b7bf - Description: 本系列课程基于昇腾基础软硬件开发,以大模型实践教学为主,分为初级、中级、高级系列。 - Keywords: 大模型开发全流程,昇腾社区,MindSpeed,MindIE,RAG,School,Magnetic,Space - Detail: llms-content/edu/zh_edu_growth_details_9aeb1d56711242c5bd15d30a6308b7bf.md ## MindSpore经典模型ResNet50-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/9bfddf0dc0da4ea2b8eb3bc10a181138 - Description: 学完本路径内全部内容,您可以熟练掌握基于MindSpore AI框架完成CV领域经典模型ResNet50的构建,并学会基于Cifar10数据集独立实现ResNet50的微调,完成图像分类任务。 - Keywords: MindSpore,ResNet,经典模型,昇腾社区,School,Magnetic,Space,了解详情 - Detail: llms-content/edu/zh_edu_growth_details_9bfddf0dc0da4ea2b8eb3bc10a181138.md ## 大模型训练初体验-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/9e4f9adb505f4830b3dc370af4926a39 - Description: 对大模型训练迁移至昇腾产品的流程、大模型概念和核心能力有初步的了解进行的学习 - Keywords: 大模型训练初体验,昇腾社区,ChatGLM,School,Magnetic,Space,了解详情,课程 - Detail: llms-content/edu/zh_edu_growth_details_9e4f9adb505f4830b3dc370af4926a39.md ## 昇腾大模型训练开发\(PyTorch)-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/a4e2517feebc47eda47e35d516b5d3a1 - Description: 昇腾大模型训练迁移能力进阶提升 - Keywords: PyTorch,昇腾大模型训,练开发,昇腾社区,School,Magnetic,Space,了解详情 - Detail: llms-content/edu/zh_edu_growth_details_a4e2517feebc47eda47e35d516b5d3a1.md ## AI框架-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/a94d15a220cd463799982275bd489de8 - Description: 介绍 AI 框架核心技术,首先介绍任何一个 AI 框架都离不开的自动微分,通过自动微分功能后就会产生表示神经网络的图和算子,然后介绍 AI 框架前端的优化,还有最近很火的大模型分布式训练在 AI 框架中的关键技术。 - Keywords: AI,框架,昇腾社区,MindSpore Transformers,Python,School,Magnetic,Space - Detail: llms-content/edu/zh_edu_growth_details_a94d15a220cd463799982275bd489de8.md ## 神经网络算子开发入门-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/b72183df0a6b402691a026c90f80f403 - Description: 学完本路径内全部内容,您将了解神经网络算子基本概念,昇腾AI处理器及CANN软件栈基础,及其提供的Ascend C算子开发工具的基础知识。 - Keywords: 神经网络算子开发入门,昇腾社区,Ascend,School,Magnetic,Space,昇腾,了解详情 - Detail: llms-content/edu/zh_edu_growth_details_b72183df0a6b402691a026c90f80f403.md ## MindSpore经典模型RNN-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/bcd909d7098b4588a7b7856164d5dba3 - Description: 学完本路径内全部内容,您可以熟练掌握基于MindSpore AI框架完成NLP领域基础模型RNN的构建,并学会独立实现RNN的训练,完成情感分类任务。 - Keywords: MindSpore,RNN,经典模型,昇腾社区,School,Magnetic,Space,了解详情 - Detail: llms-content/edu/zh_edu_growth_details_bcd909d7098b4588a7b7856164d5dba3.md ## 基于昇思的业界大模型详解-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/c447942eb3c747b4bc45f08cabb67252 - Description: 介绍业界开源的经典大模型(如LLaMA、ChatGLM等),讲解大模型的结构,技术原理和实践 - Keywords: 基于昇思的业,界大模型详解,昇腾社区,ChatGLM MindSpore,ChatGLM,LLaMA MindSpore,LLaMA,MoE MindSpore,MoE,MindSpore,CP - Detail: llms-content/edu/zh_edu_growth_details_c447942eb3c747b4bc45f08cabb67252.md ## 推理引擎-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/c4ef987e0ae04fa3a3846c573c4766da - Description: 本路径将围绕深度学习推理系统的设计,实现与优化内容展开,同时还会在最后介绍部署和 MLOps 等内容。 - Keywords: 推理引擎,昇腾社区,MLOps,Python,School,Magnetic,Space,课程 - Detail: llms-content/edu/zh_edu_growth_details_c4ef987e0ae04fa3a3846c573c4766da.md ## 多模态大模型训练-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/c80f8b9d99bf42969ef0c67d286febfb - Description: MindSpeed MM支持主流多模态大模型训练,提供端到端的多模态训练解决方案,支持分布式训练、预训练、微调、在线推理等特性。 - Keywords: 多模态大模型训练,昇腾社区,MindSpeed,BB,BD,AE,BE,AD - Detail: llms-content/edu/zh_edu_growth_details_c80f8b9d99bf42969ef0c67d286febfb.md ## 推理应用调优实践-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/d1c1ac12e6284557a0230ba6ebb4ddc1 - Description: 学完本路径内全部内容,您可以熟练掌握基于Ascend CL提供的高级特性对您的推理应用进行调试调优,优化推理应用的精度和性能。 - Keywords: 推理应用调优实践,昇腾社区,Ascend CL,Ascend,School,Magnetic,Space,课程 - Detail: llms-content/edu/zh_edu_growth_details_d1c1ac12e6284557a0230ba6ebb4ddc1.md ## 基于华为昇腾CANN的从零手搓推理框架-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/d4462bcaab7148f0b8252d248f77eafe - Description: 本课程是一套系统性的推理框架开发教程,旨在帮助学习者从零开始构建一个完整的深度学习推理框架,课程内容基于真实开源推理部署框架nndeploy进行讲解,确保所学知识具备实际应用价值和工程实践意义。 - Keywords: CANN,基于华为昇腾,的从零手搓推,理框架,昇腾社区,MindIE,School,Magnetic - Detail: llms-content/edu/zh_edu_growth_details_d4462bcaab7148f0b8252d248f77eafe.md ## 算子模板库-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/d52fa0e6ca3144ddb093633a9631353f - Description: 本课程将介绍昇腾算子模板化开发(CATLASS)的实操经验,通过GroupGEMM的算子实现案例,掌握模板参数化设计在矩阵乘法中的扩展应用 - Keywords: 算子模板库,昇腾社区,CATLASS,Ascend,School,Magnetic,Space,了解详情 - Detail: llms-content/edu/zh_edu_growth_details_d52fa0e6ca3144ddb093633a9631353f.md ## RAG应用开发-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/d75ff158fb3046e087440a47745b40f1 - Description: 面向大语言模型知识增强应用场景,RAG SDK提供快速构建问答系统能力。本路径包括RAG技术原理、昇腾RAG SDK功能介绍、RAG应用开发、参考样例等课程。 - Keywords: RAG,应用开发,昇腾社区,SDK,School,Magnetic,Space,了解详情 - Detail: llms-content/edu/zh_edu_growth_details_d75ff158fb3046e087440a47745b40f1.md ## 高性能算子开发实践-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/d8aaa5c8f27c4dbb8029659f7aa038c8 - Description: 在本路径中,我们将一起讨论Ascend C算子开发相关的高级话题,包括Matmul类算子开发,算子的性能优化,融合算子开发,算子Tiling设计以及算子的多种集成方式等。 - Keywords: 高性能算子开发实践,昇腾社区,Ascend,School,Magnetic,Space,了解详情,高级 - Detail: llms-content/edu/zh_edu_growth_details_d8aaa5c8f27c4dbb8029659f7aa038c8.md ## 基于昇思的ChatGPT技术实践-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/dd66dd5b47b444479c99ce7cb9c3319e - Description: 从大模型的基础结构Transformers开始,介绍ChatGPT技术栈的实现全流程,手把手教开发者从头构建一个”简易版的ChatGPT“ - Keywords: ChatGPT,基于昇思的,技术实践,昇腾社区,Transformer MindSpore,Transformer,BERT MindSpore,BERT,Prompt Tuning MindS - Detail: llms-content/edu/zh_edu_growth_details_dd66dd5b47b444479c99ce7cb9c3319e.md ## MindCluster-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/e73027aabc0a4e01a0ee3692b63474a3 - Description: 面向大规模集群场景,提供NPU集群作业调度、运维监测、故障恢复等功能,使能伙伴基于MindCluster开发深度学习平台。本路径包括介绍MindCluster的架构、调度算法及应用开发等课程。 - Keywords: 昇腾社区,MindCluster MindCluster,School,Magnetic,Space,了解详情,课程,集群高可靠调 - Detail: llms-content/edu/zh_edu_growth_details_e73027aabc0a4e01a0ee3692b63474a3.md ## 推理性能调优 -昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/e73ec56894914c64bd0285101955e58b - Description: 本路径介绍昇腾推理预检与服务化调优工具,让开发者掌握推理引擎的参数预检工具和服务化调优工具,实现推理性能快速调优。 - Keywords: 推理性能调优,昇腾社区,Ascend,School,Magnetic,Space,了解详情,服务化调优工 - Detail: llms-content/edu/zh_edu_growth_details_e73ec56894914c64bd0285101955e58b.md ## AI芯片体系结构-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/ec9b703354614b24a44aecbb17ce0670 - Description: AI芯片概况,从芯片基础到 AI 芯片的范围都会涉及,芯片设计需要考虑上层 AI 框架的前端、后端编译、以及针对 AI 算法的实现角度等相关技术综合设计符合 AI 范式的芯片架构。 - Keywords: AI,芯片体系结构,昇腾社区,Python,GPU,School,Magnetic,Space - Detail: llms-content/edu/zh_edu_growth_details_ec9b703354614b24a44aecbb17ce0670.md ## Resnet图像分类应用开发-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/ee6adb761eda47a5903aecbde9d6142d - Description: 学完本路径内全部内容,您可以熟练掌握基于Ascend CL开发离线推理应用的全流程及相关接口的使用方法,并学会独立开发一个图像分类推理应用。 - Keywords: Resnet,图像分类应用,开发,昇腾社区,Ascend CL,PyTorch,Ascend,School - Detail: llms-content/edu/zh_edu_growth_details_ee6adb761eda47a5903aecbde9d6142d.md ## 基于昇思的大模型训推技术-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/f76a370e8e0649f98fe832f2b4e1dad9 - Description: 课程涵盖当前国内外最火的开源大模型在训推过程中微调及推理方法的介绍,包含高效参数微调、大模型文本生成,Prompt Engineering等。 - Keywords: 基于昇思的大,模型训推技术,昇腾社区,PEFT,Prompt Engineering MindSpore,Prompt Engineering,CN,MindSpore - Detail: llms-content/edu/zh_edu_growth_details_f76a370e8e0649f98fe832f2b4e1dad9.md ## 大语言模型训练-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/f81218a9cc1641fa8ca1467651da1418 - Description: MindSpeed LLM支持主流大语言模型训练,提供端到端的大语言模型训练解决方案,支持分布式预训练、分布式指令微调、LoRA微调以及配套的开发工具链。 - Keywords: 大语言模型训练,昇腾社区,MindSpeed LLM,Torch NPU,Pytorch,MindSpeed,School,Magnetic - Detail: llms-content/edu/zh_edu_growth_details_f81218a9cc1641fa8ca1467651da1418.md ## MindSpore Transformers大模型套件实践-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/f8b11cfd72b342d48b983e65cca981ee - Description: 介绍MindSpore Transformers大模型套件及其基础使用,基于MindSpore Transformers的大模型预训练、微调、推理、部署全流程,基于MindSpore Transformers的大模型迁移与调试调优 - Keywords: 大模型套件实,昇腾社区,MindSpore Transformers,Megatron,LM,CN,MindSpore,School - Detail: llms-content/edu/zh_edu_growth_details_f8b11cfd72b342d48b983e65cca981ee.md ## 大模型开发全流程中级-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/fb84ec2bac0949cfa71ea4aac7e81147 - Description: 中级课程主要介绍基于MindSpeed-LLM框架进行大模型训练,并使用MindIE进行推理部署的开发全流程,帮助开发者对包括RAG、智能体、越狱攻击、水印在内的大模型前沿应用研究有初步了解。 - Keywords: 大模型开发全流程中级,昇腾社区,MindSpeed,MindIE,RAG,School,Magnetic,Space - Detail: llms-content/edu/zh_edu_growth_details_fb84ec2bac0949cfa71ea4aac7e81147.md ## MindIE SD 之Wan2.1 模型部署推理-昇腾社区 - URL: https://www.hiascend.com/edu/growth/details/fdaa5216a1c342f0bee996ddd6d0227b - Description: 本教程将通过Wan2.1模型,展示如何利用昇腾视图生成推理框架MindIE SD,将开源社区模型迁移到NPU进行高性能推理。 - Keywords: Wan,模型部署推理,昇腾社区,MindIE SD,MindIE,SD,School,Magnetic - Detail: llms-content/edu/zh_edu_growth_details_fdaa5216a1c342f0bee996ddd6d0227b.md ## 学习路径-昇腾社区 - URL: https://www.hiascend.com/edu/growth/list - Description: 一站式成长计划,助力开发者领跑开发之路 - Keywords: 学习路径,昇腾社区,主题路径推荐,路径列表,CV,PyPTO Ascend,TileLang Triton,AscendNPU IR - Detail: llms-content/edu/zh_edu_growth_list.md ## 大模型开发学习专区-昇腾社区 - URL: https://www.hiascend.com/edu/growth/lm-development - Description: 本系列课程基于昇腾基础软硬件开发,以大模型实践教学为主,分为初级、中级、高级系列,旨在将前沿技术通过代码实践的方式,为相关研究者、开发者由浅入深地提供快速上手、应用昇腾已支持模型和全新模型迁移调优三条路径的全流程开发指南 - Keywords: 大模型开发学习专区,昇腾社区,学练结合,掌握大模型开发全流程,学习列表,探索关联资源,CANN,Kernel - Detail: llms-content/edu/zh_edu_growth_lm-development.md ## 昇腾计算OpenLab最终用户许可协议-昇腾社区 - URL: https://www.hiascend.com/legal/agreement - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: OpenLab,昇腾计算,最终用户许可,协议,昇腾社区,服务的使用,安全和数据隐私,责任限制 - Detail: llms-content/legal/zh_legal_agreement.md ## 华为镜像许可协议 2.0-昇腾社区 - URL: https://www.hiascend.com/legal/ascendhub-download - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 华为镜像许可协议,昇腾社区,适用范围,定义,许可,限制,免责声明,无担保 - Detail: llms-content/legal/zh_legal_ascendhub-download.md ## CANN软件许可协议 2.0-昇腾社区 - URL: https://www.hiascend.com/legal/cannua-download - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: CANN,软件许可协议,昇腾社区,定义,二,许可授权,三,使用限制 - Detail: llms-content/legal/zh_legal_cannua-download.md ## 昇腾社区Cookie政策-昇腾社区 - URL: https://www.hiascend.com/legal/cookies - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾社区,政策,Cookies,其他类似的技,Do,Track,请勿追踪,联系我们 - Detail: llms-content/legal/zh_legal_cookies.md ## 面向社区开发者的专项激励计划参加协议-昇腾社区 - URL: https://www.hiascend.com/legal/excite-plan - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 面向社区开发,者的专项激励,计划参加协议,昇腾社区,第一条,资格,第二条,详情 - Detail: llms-content/legal/zh_legal_excite-plan.md ## 关于人脸识别的说明-昇腾社区 - URL: https://www.hiascend.com/legal/facial-recognition - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 关于人脸识别的说明,昇腾社区,的说明,了解详情,我们在您实名,认证结束后 - Detail: llms-content/legal/zh_legal_facial-recognition.md ## KADC2026 隐私政策-昇腾社区 - URL: https://www.hiascend.com/legal/kadcPrivacy - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: KADC,隐私政策,昇腾社区,华为如何收集,和使用您的个,人信息,华为如何使用,Cookie - Detail: llms-content/legal/zh_legal_kadcPrivacy.md ## 昇腾社区法律声明-昇腾社区 - URL: https://www.hiascend.com/legal/law - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾社区法律声明,规则及昇腾社,区访问条件,昇腾社区网站内容,软件内容,您对本网站的使用,商标,隐私 - Detail: llms-content/legal/zh_legal_law.md ## 昇腾社区业务注销条款-昇腾社区 - URL: https://www.hiascend.com/legal/logoffAgreement - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾社区业务注销条款,如果您注销本服务,您知悉并接受,以下条件,注销流程,注销后果,其他,服务,昇腾社区业务,华为账号 - Detail: llms-content/legal/zh_legal_logoffAgreement.md ## 昇腾深度学习模型许可协议 3.0-昇腾社区 - URL: https://www.hiascend.com/legal/modelzoo_models_license - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾深度学习,模型许可协议,昇腾社区,适用范围,许可范围,使用限制,内容,模型使用承诺 - Detail: llms-content/legal/zh_legal_modelzoo_models_license.md ## 个人信息收集清单-昇腾社区 - URL: https://www.hiascend.com/legal/personal-information - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 个人信息收集清单,昇腾社区,登录社区,基本资料维护,开发者实名认,活动或大赛,大赛开发板申,参与大赛投票 - Detail: llms-content/legal/zh_legal_personal-information.md ## 昇腾社区隐私声明-昇腾社区 - URL: https://www.hiascend.com/legal/privacy - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾社区隐私声明,我们如何收集,您的个人信息,我们如何使用,Cookie,及类似技术,我们如何共享,披露 - Detail: llms-content/legal/zh_legal_privacy.md ## 关于昇腾开发者满意度问卷调查与隐私的声明-昇腾社区 - URL: https://www.hiascend.com/legal/questionnaire - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 关于昇腾开发,者满意度问卷,调查与隐私的,声明,昇腾社区,我们如何收集,和使用您的个,人信息 - Detail: llms-content/legal/zh_legal_questionnaire.md ## 法律-MindStudio-协议-昇腾社区 - URL: https://www.hiascend.com/legal/re/mindstudio/protocol - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾社区官网,昇腾万里,让智能无所不及 - Detail: llms-content/legal/zh_legal_re_mindstudio_protocol.md ## 法律-协议-昇腾社区 - URL: https://www.hiascend.com/legal/re/protocol - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾社区官网,昇腾万里,让智能无所不及 - Detail: llms-content/legal/zh_legal_re_protocol.md ## 第三方SDK列表-昇腾社区 - URL: https://www.hiascend.com/legal/sdk - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: SDK,列表,昇腾社区,第三方合作商名单,Wi,HMSCore,Guides,Android - Detail: llms-content/legal/zh_legal_sdk.md ## 第三方共享信息清单-昇腾社区 - URL: https://www.hiascend.com/legal/share-information - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 第三方共享信息清单,昇腾社区,第三方合作商名单,SDK,第三方公司名,华为技术有限,公司产品,类型 - Detail: llms-content/legal/zh_legal_share-information.md ## 软件许可协议 2.0-昇腾社区 - URL: https://www.hiascend.com/legal/softlicense - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 软件许可协议,昇腾社区,定义,二,许可授权,三,使用限制,四 - Detail: llms-content/legal/zh_legal_softlicense.md ## MindStudio软件许可协议-昇腾社区 - URL: https://www.hiascend.com/legal/software/mindstudio/protocol - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: MindStudio,软件许可协议,昇腾社区,许可,限制,无担保,无支持,无责任 - Detail: llms-content/legal/zh_legal_software_mindstudio_protocol.md ## 华为软件许可协议-昇腾社区 - URL: https://www.hiascend.com/legal/software/protocol - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 华为软件许可协议,昇腾社区,许可,限制,无担保,无责任,赔偿,终止 - Detail: llms-content/legal/zh_legal_software_protocol.md ## 关联第三方账号免责声明-昇腾社区 - URL: https://www.hiascend.com/legal/thirdAccount - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 关联第三方账,号免责声明,昇腾社区,API,三方平台账号,本人知悉并同 - Detail: llms-content/legal/zh_legal_thirdAccount.md ## 昇腾社区用户协议 更新日期:2026年7月15日 1.关于我们 “昇腾社区”及相关技术与功能(以下合称为“本服务”)由“华为缔约方&rdqu - URL: https://www.hiascend.com/legal/user - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾社区用户协议,更新日期,关于我们,昇腾社区,及相关技术与,功能,以下合称为,本服务 - Detail: llms-content/legal/zh_legal_user.md ## 推理开发-昇腾社区 - URL: https://www.hiascend.com/cn/developer/inference - Description: 根据大语言模型推理、多模态推理场景提供三大推理框架,为开发者提供文档、软件/工具丰富的模型资源库及最佳实践案例,帮助开发者快速掌握昇腾推理开发 - Keywords: 推理开发,昇腾社区,用户旅程,SGLang,MindIE,Ascend,FrameworkPTAdapter,Omni - Detail: llms-content/cms/zh_cn_developer_inference.md ## 昇腾算子开发场景-昇腾社区 - URL: https://www.hiascend.com/cn/developer/operator - Description: 面向算子开发场景,匹配用户开发习惯,支持算子极简编程,针对Python化编程需求,提供Triton语言支持,大幅降低算子开发门槛 - Keywords: 昇腾算子开发场景,昇腾社区,用户旅程,Ascend,CATLASS,Triton,MindStudio Insight,MindStudioInsight - Detail: llms-content/cms/zh_cn_developer_operator.md ## 推荐开发-昇腾社区 - URL: https://www.hiascend.com/cn/developer/recommendation - Description: 推荐开发基于昇腾平台提供完整的推荐系统训练框架和加速库全栈能力,支撑超大规模推荐场景,助力高效完成昇腾平台上推荐模型的训练与部署。 - Keywords: 推荐开发,昇腾社区,用户旅程,CATLASS,TorchRec,Rec SDK,Recsys,GR - Detail: llms-content/cms/zh_cn_developer_recommendation.md ## pytorch - URL: https://www.hiascend.com/cn/developer/software/ai-frameworks/pytorch ## pytorch - URL: https://www.hiascend.com/cn/developer/software/ai-frameworks/pytorch/ - Keywords: 产品堆栈,开发者日历,获取,开源资源,活动与资讯,PyTorch Ascend Extension,PyTorch,Dtensor - Detail: llms-content/cms/zh_cn_developer_software_ai-frameworks_pytorch_.md ## PyTorch 开发 - URL: https://www.hiascend.com/cn/developer/software/ai-frameworks/pytorch/develop - Keywords: Ascend,开始使用,PyTorch,AI,TorchNPU,NPU,OpPlugin,TC - Detail: llms-content/cms/zh_cn_developer_software_ai-frameworks_pytorch_develop.md ## MindCluster - URL: https://www.hiascend.com/cn/developer/software/mindcluster ## MindCluster - URL: https://www.hiascend.com/cn/developer/software/mindcluster/ - Keywords: MindCluster,产品堆栈,关键特性,开发者日历,获取,开源资源,BD,Master - Detail: llms-content/cms/zh_cn_developer_software_mindcluster_.md ## MindCluster 开发 - URL: https://www.hiascend.com/cn/developer/software/mindcluster/develop - Keywords: 开发,开始使用,CANN,TensorFlow,MindCluster Ascend FaultDiag,NPU,MindCluster,Ascend,TC - Detail: llms-content/cms/zh_cn_developer_software_mindcluster_develop.md ## MindEdge - URL: https://www.hiascend.com/cn/developer/software/mindedge - Keywords: MindEdge,产品堆栈,关键特性,开发者日历,获取,开源资源,BD,MEF Center - Detail: llms-content/cms/zh_cn_developer_software_mindedge.md ## MindEdge - URL: https://www.hiascend.com/cn/developer/software/mindedge/ - Keywords: MindEdge,产品堆栈,关键特性,开发者日历,获取,开源资源,BD,MEF Center - Detail: llms-content/cms/zh_cn_developer_software_mindedge_.md ## MindEdge 开发 - URL: https://www.hiascend.com/cn/developer/software/mindedge/develop - Keywords: MindEdge,开发,CANN,CCAE,FusionDirector,MEF,Ascend,TC - Detail: llms-content/cms/zh_cn_developer_software_mindedge_develop.md ## MindIE - URL: https://www.hiascend.com/cn/developer/software/mindie/ - Keywords: MindIE,助力昇腾易部,高性能推理,关键特性,开发者日历,获取,开源资源,活动与资讯 - Detail: llms-content/cms/zh_cn_developer_software_mindie_.md ## MindlE 开发 - URL: https://www.hiascend.com/cn/developer/software/mindie/develop - Keywords: 开发,开始使用,HiDevLab,MindIE LLM,Ascend,LLM,MindIE Motor,Motor,MindIE SD,Layer - Detail: llms-content/cms/zh_cn_developer_software_mindie_develop.md ## MindSDK - URL: https://www.hiascend.com/cn/developer/software/mindsdk ## MindSDK - URL: https://www.hiascend.com/cn/developer/software/mindsdk/ - Keywords: MindSDK,产品堆栈,关键特性,开发者日历,获取,开源资源,BD,Vision SDK - Detail: llms-content/cms/zh_cn_developer_software_mindsdk_.md ## MindSDK 开发 - URL: https://www.hiascend.com/cn/developer/software/mindsdk/develop - Keywords: MindSDK,开发,Rec SDK Rec,Ascend,RecSDK,README,Index SDK Index,IndexSDK - Detail: llms-content/cms/zh_cn_developer_software_mindsdk_develop.md ## MindSpeed - URL: https://www.hiascend.com/cn/developer/software/mindspeed - Keywords: MindSpeed,产品堆栈,关键特性,获取,开源资源,活动与资讯,LLM,Deepseek - Detail: llms-content/cms/zh_cn_developer_software_mindspeed.md ## MindSpeed - URL: https://www.hiascend.com/cn/developer/software/mindspeed/ - Keywords: MindSpeed,产品堆栈,关键特性,开发者日历,获取,开源资源,活动与资讯,LLM - Detail: llms-content/cms/zh_cn_developer_software_mindspeed_.md ## MindSpeed 开发 - URL: https://www.hiascend.com/cn/developer/software/mindspeed/develop - Keywords: 开发,开始使用,HiDevLab,MindSpeed LLM,Ascend,LLM,MindSpeed MM,MindSpeed,MM,AC - Detail: llms-content/cms/zh_cn_developer_software_mindspeed_develop.md ## MindStudio - URL: https://www.hiascend.com/cn/developer/software/mindstudio ## MindStudio - URL: https://www.hiascend.com/cn/developer/software/mindstudio/ - Keywords: MindStudio,助力昇腾高效,关键特性,开发者日历,获取,开源资源,活动与资讯,SDK - Detail: llms-content/cms/zh_cn_developer_software_mindstudio_.md ## MindStudio 开发 - URL: https://www.hiascend.com/cn/developer/software/mindstudio/develop - Keywords: MindStudio - Detail: llms-content/cms/zh_cn_developer_software_mindstudio_develop.md ## 训练开发-昇腾社区 - URL: https://www.hiascend.com/cn/developer/training - Description: 根据大语言模型训练、多模态模型训练、强化学习训练、分布式训练加速库、自动驾驶模型训练、传统模型训练六大类开发场景,为开发者提供文档、软件、工具等丰富的模型开发资源库及最佳实践案例,帮助开发者快速掌握昇腾训练开发 - Keywords: 大语言模型训练,多模态模型训练,强化学习训练,分布式训练加速库,自动驾驶模型训练,传统模型训练 - Detail: llms-content/cms/zh_cn_developer_training.md ## zh-昇腾社区 - URL: https://www.hiascend.com/zh - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: Ascend,昇腾产业,昇腾创新中心,昇腾万里,昇腾开放资源,Powered by ascend - Detail: llms-content/index.md ## 基于图像描述生成的盲人辅助方案-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230506-12?pageSize=10%26pageNo=1%26domainCode=%26id=20230506-12%26lang=zh - Description: 1. 应用场景根据中国残疾人联合会的数据,中国现存盲人数量已经超过两千万,多数盲人因为无法了解身处环境而封闭自己,只生活在自己熟悉的环境中,相对于常人活动范围和生活质量都比较低。本方案利用深度学习算法,根据周围环境生成描述语音,播放给盲人用户,帮助他们了解周围环境,融入到更加普遍的社会生活中。<\!--\[if--><\!--\[endif\]-->2. 解决方案解决方案包括两部分,基于HarmonyOS的 - Keywords: 基于图像描述,生成的盲人辅,助方案,昇腾社区,CCF A,KDD,AAAI,IJCAI - Detail: llms-content/activities/zh_activities_dynamic-news_20230506-12.md ## 共赢数智未来,昇腾AI亮相2023全球智博会-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230630-1?pageSize=10%26pageNo=1%26domainCode=%26id=20230630-1%26lang=zh - Description: 6月25日至27日,以“万物赋苏 智汇圆融”为主题的2023全球人工智能产品应用博览会(简称“全球智博会”)在苏州举办。在大会主论坛上,华为昇腾计算业务副总裁刘鑫发表了“共筑智能根基 共赢数智未来”主题演讲。刘鑫表示,AI大模型是一个复杂系统工程,每一个环节都存在着大量工程技术挑战。昇腾AI充分发挥软硬件协同优势,在集群建设、模型开发、推理部署、应用落地、生态开放等各个方面使能大模型全流程创新,携 - Keywords: 共赢数智未来,AI,亮相,全球智博会,昇腾社区,昇腾,Atlas,PUE - Detail: llms-content/activities/zh_activities_dynamic-news_20230630-1.md ## WAIC2023华为参会全览抢鲜看!-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230703-1?pageSize=10%26pageNo=1%26domainCode=%26id=20230703-1%26lang=zh - Description: 产业生态伙伴开发者 - Keywords: WAIC,华为参会全览,抢鲜看,昇腾社区,AI - Detail: llms-content/activities/zh_activities_dynamic-news_20230703-1.md ## “AI”大话三国 | 昇腾之使能大模型篇-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230705-1?pageSize=10%26pageNo=1%26domainCode=%26id=20230705-1%26lang=zh - Description: 产业开发者生态伙伴 - Keywords: AI,大话三国,昇腾之使能大模型篇,昇腾社区,昇腾之使能大,模型篇 - Detail: llms-content/activities/zh_activities_dynamic-news_20230705-1.md ## WAIC2023华为参会全览 | 7月6日-8日,敬请锁定昇腾AI!-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230706-1?pageSize=10%26pageNo=1%26domainCode=%26id=20230706-1%26lang=zh - Description: 产业开发者生态伙伴 - Keywords: 华为参会全览,敬请锁定昇腾,昇腾社区,WAIC,AI - Detail: llms-content/activities/zh_activities_dynamic-news_20230706-1.md ## 胡厚崑:让人工智能服务好千行百业,服务好科学研究-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230706-2?pageSize=10%26pageNo=1%26domainCode=%26id=20230706-2%26lang=zh - Description: 今日,2023世界人工智能大会在上海开幕。华为轮值董事长胡厚崑发表了题为《共赢人工智能新时代》的主题演讲。他认为,人工智能的发展,关键要“走深向实”,赋能产业升级。当前阶段,在人工智能领域,华为有两个着力点:第一,打造强有力的算力底座,支撑中国人工智能产业的发展。第二,从通用大模型到行业大模型,让人工智能服务好千行百业,服务好科学研究。发言全文ChatGPT的出现,使人工智能成为当前最热门的话题, - Keywords: 胡厚崑,让人工智能服,务好千行百业,服务好科学研究,昇腾社区,AI,Industry,Science - Detail: llms-content/activities/zh_activities_dynamic-news_20230706-2.md ## SAIL奖揭晓!昇思MindSpore使能大模型、AI4S,打造流体仿真重器-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230712-1?pageSize=10%26pageNo=1%26domainCode=%26id=20230712-1%26lang=zh - Description: 上周刚刚闭幕的世界人工智能大会WAIC2023(7月6日-7月8日)与华为开发者大会 2023(Cloud)(7月7日-7月9日)期间,昇思MindSpore AI框架助力孵化的30+大模型、12+AI4S创新成果,分别在重磅发布仪式、展览展示等环节亮相。在原生支持大模型领域,基于昇思MindSpore孵化、支持的重磅大模型超过30个,包括华为云盘古大模型3.0、中科院自动化所紫东太初2.0全模态 - Keywords: SAIL,MindSpore,奖揭晓,昇思,使能大模型,AI,打造流体仿真重器,昇腾社区 - Detail: llms-content/activities/zh_activities_dynamic-news_20230712-1.md ## 昇腾AI创新大赛2023四川赛区正式启动,等你来“噻”!-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230713-1?pageSize=10%26pageNo=1%26domainCode=%26id=20230713-1%26lang=zh - Description: 7月7日下午,2023华为开发者大会·成都分会场暨人工智能高峰论坛活动在成都智算中心圆满举办。政产学研代表齐聚一堂,探索人工智能前沿技术,共创更加美好的智能世界。大会期间,同步举行昇腾AI创新大赛2023四川赛区启动仪式,由华为川藏政企成都业务总经理邓浩、四川大学计算机学院雷文强教授、智算云腾(成都)科技有限公司常务副总经理谢一明、四川数聚智造科技有限公司副总经理朱琳、华为云川藏解决方案部部长胡铖 - Keywords: AI,创新大赛,四川赛区正式,启动,等你来,昇腾社区,昇腾 - Detail: llms-content/activities/zh_activities_dynamic-news_20230713-1.md ## 昇腾AI八大奖项重磅颁发,38家伙伴获奖-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230717-1?pageSize=10%26pageNo=1%26domainCode=%26id=20230717-1%26lang=zh - Description: 近年来,在一众合作伙伴的高质量参与下,昇腾AI生态体系日臻完善,产业蓬勃发展。昇腾AI正在与伙伴、客户一起,共同开创着人工智能的新时代。为表彰优秀合作伙伴,感谢他们为昇腾AI产业发展所做的努力及贡献,在2023世界人工智能大会(WAIC 2023)期间,昇腾AI举办颁奖典礼,本次设立人工智能计算中心生态建设先锋奖、人工智能计算中心运营优秀奖、人工智能计算中心卓越贡献奖、昇腾万里前程奖、昇腾万里优选 - Keywords: 八大奖项重磅,颁发,家伙伴获奖,昇腾社区,WAIC,昇腾,计算中心,有限公司 - Detail: llms-content/activities/zh_activities_dynamic-news_20230717-1.md ## 2023人工智能师资培训昇腾AI全国行江苏站成功举办-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230718-1?pageSize=10%26pageNo=1%26domainCode=%26id=20230718-1%26lang=zh - Description: 7月8-9日2023人工智能师资培训昇腾AI全国行江苏站在南京集成电路培训基地成功举办为支持昇腾AI根技术融入高校教学体系,信息技术新工科产学研联盟、江苏软件产业人才发展基金会联合华为、江苏鲲鹏·昇腾生态创新中心,举办了2023人工智能师资培训·昇腾AI全国行·江苏站活动。活动吸引了来自江苏高校的60多位师生齐聚一堂,共同开启昇腾AI基础软硬件技术知识的学习之旅,深入探讨人工智能人才培养新模式,持 - Keywords: AI,人工智能师资,培训昇腾,全国行江苏站,成功举办,昇腾社区,昇腾,江苏鲲鹏 - Detail: llms-content/activities/zh_activities_dynamic-news_20230718-1.md ## Nature子刊发表!基于昇思MindSpore打造的AI+科学计算新成果PeRCNN面世-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230727-1?pageSize=10%26pageNo=1%26domainCode=%26id=20230727-1%26lang=zh - Description: 近日,华为与中国人民大学高瓴人工智能学院孙浩教授团队合作,基于昇思MindSpore AI框架提出了物理编码递归卷积神经网络(Physics-encoded Recurrent Convolutional Neural Network,PeRCNN),该成果已在《Nature》子刊《Nature Machine Intelligence》上发表,相关代码已在开源社区Gitee的MindSpore - Keywords: Nature,MindSpore,AI,PeRCNN,子刊发表,基于昇思,打造的,科学计算新成 - Detail: llms-content/activities/zh_activities_dynamic-news_20230727-1.md ## 校企联合,河南科技大学基于昇腾AI,开启轴承检测的智能之眼-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230728-01?pageSize=10%26pageNo=1%26domainCode=%26id=20230728-01%26lang=zh - Description: 轴承看似普通,却是现代机械设备中不可缺少的核心基础零部件。经过半个多世纪的发展,洛阳已经成为国内轴承产品品种最全、用途最广的综合性轴承生产基地。通过与洛阳昇腾人工智能实验室合作,河南科技大学视觉检测技术实验室基于昇腾AI推出轴承滚子缺陷检测系统,加速了科研成果的转化与落地,为轴承行业提供了高效精准的行业AI解决方案。据估算,一台搭载该系统的轴承滚子综合检测机可代替6人工作量,每年能为企业用工降低不 - Keywords: 校企联合,AI,河南科技大学,开启轴承检测,的智能之眼,昇腾社区,基于昇腾 - Detail: llms-content/activities/zh_activities_dynamic-news_20230728-01.md ## 高重科技携手昇腾AI打造多模态智慧航空解决方案-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230731-01?pageSize=10%26pageNo=1%26domainCode=%26id=20230731-01%26lang=zh - Description: 近年来,以“平安、绿色、智慧、人文”为核心的四型机场,为中国机场未来发展指明了方向。伴随着国民经济持续高速增长,航空运输需求旺盛,国内机场进入高速建设期,以智慧机场为关键支撑的“四型机场”建设也进入了全新阶段。然而在机场的设计施工上,传统手段仍占主流,技术水平严重落后其它行业。目前,国内多数机场缺乏对飞行区及航站楼区域活动目标\(人员、车辆、航空器、物品\)的有效监测和管理手段,航班动态信息缺乏共享机 - Keywords: AI,高重科技携手,打造多模态智,慧航空解决方,昇腾社区,昇腾,ModelArts,Atlas - Detail: llms-content/activities/zh_activities_dynamic-news_20230731-01.md ## 智赋重庆 | 云从科技携手昇腾AI助力企业打造专属行业大模型,实现5倍效率提升!-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230801-01?pageSize=10%26pageNo=1%26domainCode=%26id=20230801-01%26lang=zh - Description: 近日,云从科技“从容大模型训推一体机”在重庆人工智能创新中心的支持下,顺利完成孵化和部署,在WAIC2023昇腾人工智能产业高峰论坛正式发布,云从科技董事长周曦被授予“昇腾MVP”,在昇腾展区,数千名参观者热情体验“从容大模型训推一体机”,并给予高度评价。在云从科技人工智能研究院、重庆人工智能创新中心技术团队、昇腾研发专家的共同努力下,“从容大模型训推一体机”在一个月内顺利完成精度与性能对齐、产品 - Keywords: 智赋重庆,AI,云从科技携手,助力企业打造,专属行业大模,倍效率提升,昇腾社区,昇腾 - Detail: llms-content/activities/zh_activities_dynamic-news_20230801-01.md ## 森罗智瞳携手昇腾AI打造集装袋缺陷智能检测系统-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230804-01?pageSize=10%26pageNo=1%26domainCode=%26id=20230804-01%26lang=zh - Description: 目前,编织袋的缺陷检测仍以人工肉眼检测为主,这是制约编织袋生产效率以及质量提高的主要瓶颈之一。随着编织袋自动化生产的程度不断提高,人工肉眼检测不仅效率低、漏检率高且易受主观因素影响,已无法满足编织袋表面缺陷的检测需求。由于机器视觉技术具有非接触性、效率高以及识别精度高等优点,因此其被广泛应用于多种工业产品的缺陷检测。利用机器视觉代替人眼检测缺陷,能够提高编织袋生产的效率,因此基于机器视觉的编织袋表 - Keywords: AI,森罗智瞳携手,打造集装袋缺,陷智能检测系,昇腾社区,昇腾,重庆森罗智瞳,科技有限公司 - Detail: llms-content/activities/zh_activities_dynamic-news_20230804-01.md ## 基于CANN的AI推理最佳实践丨多路高性能目标检测应用设计解密-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230807-01?pageSize=10%26pageNo=1%26domainCode=%26id=20230807-01%26lang=zh - Description: 目标检测是计算机视觉领域的一项关键技术,它的任务是找出图像中所有感兴趣的目标,确定它们的类别和位置。随着人工智能潜移默化地渗入人们的生活中,各行各业竞相通过引入目标检测等技术打开市场空间,关于目标检测的各类人工智能需求也奔涌而来。比如:● 在交通领域,目标检测可以用来检测道路上的行人、车辆、交通标志等物体,提升行驶安全和通行便利性。● 在医疗领域,目标检测可以用来识别身体部位、 - Keywords: CANN,AI,推理最佳实践,丨多路高性能,目标检测应用,设计解密,昇腾社区,基础应用分解 - Detail: llms-content/activities/zh_activities_dynamic-news_20230807-01.md ## 昇腾AI带你探秘斯美达光热生产研发基地的“AI太阳能超级工厂”-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230809-01?pageSize=10%26pageNo=1%26domainCode=%26id=20230809-01%26lang=zh - Description: 在山东省诸城市向西约20公里处,被称为“AI太阳能超级工厂”的斯美达光热生产研发基地在龙城上闪耀。该基地生产、检测、实验设备自主研发制造,年产高温集热管10万支、中温集热管26万支,可提供200MW槽式太阳能高温发电及660蒸吨/小时工业蒸汽的清洁能源。面对全球变暖,中国向全世界做出“2030碳达峰、2060碳中和”庄严承诺。太阳能利用是未来发展趋势,而在众多的太阳能利用方式中,光热能源应用由于安 - Keywords: AI,带你探秘斯美,达光热生产研,发基地的,太阳能超级工,昇腾社区,昇腾,碳达峰 - Detail: llms-content/activities/zh_activities_dynamic-news_20230809-01.md ## 基于昇腾AI | 云问 x 西安未来人工智能计算中心,“云中问道”大模型正式发布!-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230811-01?pageSize=10%26pageNo=1%26domainCode=%26id=20230811-01%26lang=zh - Description: 8月9日,云问科技与西安未来人工智能计算中心联合发布全新企业私有化知识大模型——“云中问道”。“云中问道”大模型基于昇腾AI基础软硬件平台,汇集了云问科技多年的知识沉淀和行业经验,旨在为企业提供高效、智能的知识管理和服务解决方案。作为一款集智慧与才华于一体的大模型,“云中问道”依托西安未来人工智能计算中心的强大算力,结合丰富的基座模型、百亿规模的Token语料模型和全量参数训练方法倾心打造,能够深 - Keywords: AI,基于昇腾,云问,西安未来人工,智能计算中心,云中问道,大模型正式发,昇腾社区 - Detail: llms-content/activities/zh_activities_dynamic-news_20230811-01.md ## “数智双擎,算融未来”,2023东湖算力与大数据创新大会圆满召开-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230814-01?pageSize=10%26pageNo=1%26domainCode=%26id=20230814-01%26lang=zh - Description: \[2023年8月11日,中国,武汉\] 2023东湖算力与大数据创新大会在武汉市举办,大会以“数智双擎,算融未来”为主题,邀请政府领导、院士专家、企业家、行业组织等共同探讨算力产业发展新趋势及新挑战,以算力建设促进数字经济高质量发展。-------------------------------------工业和信息化部电子信息司副司长徐文立在致辞中指出:“算力已成为支撑数字经济持续纵深发 - Keywords: 数智双擎,算融未来,东湖算力与大,数据创新大会,圆满召开,昇腾社区,Cell,Nature - Detail: llms-content/activities/zh_activities_dynamic-news_20230814-01.md ## 华为汪涛:引领智能时代-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230814-02?pageSize=10%26pageNo=1%26domainCode=%26id=20230814-02%26lang=zh - Description: 8月11日,在2023东湖算力与大数据创新大会上,华为常务董事、ICT基础设施业务管理委员会主任、企业BG总裁汪涛为大会致辞。他表示:华为将持续创新,打造领先的昇腾AI算力平台,为数智中国提供坚实的算力底座,携手伙伴共建繁荣生态,使能“百模千态”,加速千行万业走向智能化!华为常务董事、ICT基础设施业务管理委员会主任、企业BG总裁汪涛为大会致辞以下为汪涛演讲全文各位领导,各位来宾:大家上午好!非常 - Keywords: 华为汪涛,引领智能时代,昇腾社区,GLM,LuoJiaNet,昇腾,百模千态,东湖算力与大 - Detail: llms-content/activities/zh_activities_dynamic-news_20230814-02.md ## 引领AI驱动医疗变革,中国科学院香港院AI与机器人中心与华为携手深化手术大模型应用-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230816-01?pageSize=10%26pageNo=1%26domainCode=%26id=20230816-01%26lang=zh - Description: 2023年8月8日,开创性的一步在医疗科技领域迈出。中国科学院香港创新研究院人工智能与机器人创新中心(简称“中国科学院香港院AI与机器人中心”或“CAIR”)与全球科技领导者华为正式签署了一份MOU协议,旨在深化AI大模型在医疗手术上的应用。这一合作将不仅推动AI在手术场景的广泛应用,更将推动手术教学培训,操作方式的全面进步。在签署仪式上华为香港企业业务部总经理季翔作为华为代表发表欢迎致辞,“今年 - Keywords: AI,引领,驱动医疗变革,中国科学院香,港院,与机器人中心,与华为携手深,化手术大模型 - Detail: llms-content/activities/zh_activities_dynamic-news_20230816-01.md ## AI赋能,数字兴辽——沈阳、大连“国家新一代人工智能公共算力开放创新平台”正式揭牌-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230821-02?pageSize=10%26pageNo=1%26domainCode=%26id=20230821-02%26lang=zh - Description: 由辽宁省科学技术厅指导,沈阳市科技局、大连市科技局、华为技术有限公司、沈阳高新区管委会、大连市金普新区管委会主办,沈阳高新区科技创新局、沈阳昇腾人工智能生态创新中心、大连人工智能生态创新中心承办,辽宁省软件行业协会协办的人工智能科学家论坛于8月15日顺利举办。大会邀请政府主管部门领导、行业专家和企业领袖共计300余人,出席包括大连化物所、沈阳自动化所、东北大学、大连理工大学、东软集团、美行科技、小 - Keywords: AI,赋能,数字兴辽,沈阳,大连,国家新一代人,工智能公共算,力开放创新平 - Detail: llms-content/activities/zh_activities_dynamic-news_20230821-02.md ## 共话AI大模型创新方向,昇腾AI携手伙伴加速产业智能化转型-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230821-04?pageSize=10%26pageNo=1%26domainCode=%26id=20230821-04%26lang=zh - Description: 2023年8月11日,以“数智双擎,算融未来”为主题的2023东湖算力与大数据创新大会在武汉顺利举行。AI大模型创新成果与产业专题论坛同期举办,论坛邀请来自高校、研究机构,以及各行业企业大模型技术专家、资深工程师和产业精英代表等,分别从大模型应用、算法、AI基础软硬件等不同视角进行深入研讨,共话算力时代产业发展新趋势及新挑战。赋能万物,智领大模型应用未来2023年无疑是AI大模型的“爆发年”,大模 - Keywords: AI,共话,大模型创新方,携手伙伴加速,产业智能化转,昇腾社区,昇腾,昇思 - Detail: llms-content/activities/zh_activities_dynamic-news_20230821-04.md ## 2023中国软件教育年会在杭城召开-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230821-05?pageSize=10%26pageNo=1%26domainCode=%26id=20230821-05%26lang=zh - Description: 8月16日,由中国软件行业协会主办的2023中国软件教育年会在浙江省杭州市成功召开。本次会议汇集来自科研院所、高校计算机类专业负责人、教师和企业代表,共同探讨产业发展与人才培养之路。中国科学院物理研究所研究员曹则贤表示,计算的本质就是物理过程,当一个物理过程发生了就叫计算,这就是计算机工作的基本的物理逻辑。所以,当量子计算实现的时候,相应的软件逻辑可能要随之而改变。中国科学院物理研究所研究员 曹则 - Keywords: 中国软件教育,年会在杭城召,昇腾社区,认为,教授 - Detail: llms-content/activities/zh_activities_dynamic-news_20230821-05.md ## 基于昇腾AI | 长业智能携手中原人工智能计算中心打造智慧煤矿联合解决方案-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230821-06?pageSize=10%26pageNo=1%26domainCode=%26id=20230821-06%26lang=zh - Description: 煤炭是我国重要的能源燃料之一,在能源消费结构中煤炭长期以来一直占据着重要的位置,是保障国家能源安全与国民经济稳定发展的重要基础。煤矿开采本是一项极其艰苦的工作,但伴随着千行百业数字化进程加快,人工智能等新一代信息技术为煤矿智能化建设提供了技术与装备支撑,煤矿企业的智能化转型为改善煤矿开采工作条件带来了巨大的变革。河南长业智能科技发展有限公司是一家工业软件产品开发商及解决方案提供商,致力于运用信息技 - Keywords: AI,基于昇腾,长业智能携手,中原人工智能,计算中心打造,智慧煤矿联合,解决方案,昇腾社区 - Detail: llms-content/activities/zh_activities_dynamic-news_20230821-06.md ## 恒天翼携手昇腾AI打造智慧渔港平台,助力渔港管理数智化升级-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230828-01?pageSize=10%26pageNo=1%26domainCode=%26id=20230828-01%26lang=zh - Description: 海洋约占地球表面积的71%,它不仅是包括人类在内的众多生物赖以生存的基础,也对全球经济可持续发展具有重要意义,因而,智慧海洋的发展潜力十分可观。恒天翼是国内较早布局智慧海洋领域的服务商,积极投入人工智能研发,一直在用实际行动,推动智慧海洋各类应用场景的落地。近日,恒天翼联合昇腾AI打造智慧渔港平台,立足渔港监管领域业务痛点,实现了传统渔港管理的数智化转型升级。恒天翼智慧渔港解决方案,“智慧”在哪里 - Keywords: AI,恒天翼携手昇,打造智慧渔港,平台,助力渔港管理,数智化升级,昇腾社区,恒天翼智慧渔 - Detail: llms-content/activities/zh_activities_dynamic-news_20230828-01.md ## 基于昇腾AI | 秦岭·秦川交通大模型,赋能西安打造智慧交通创新支点-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230904-01?pageSize=10%26pageNo=1%26domainCode=%26id=20230904-01%26lang=zh - Description: “高度复杂、碎片化程度高、跨领域”一直是交通行业数智化升级路上的首要痛点。近日,由中科视语、西安市雁塔区政府、西安未来人工智能计算中心联合打造的参数规模千亿级的“秦岭·秦川交通大模型”,面向智慧交通领域,为西安及其周边地区打造智慧交通创新支点。“秦岭·秦川交通大模型”结合西安当地海量开放场景下的交通生态数据、中科视语自研的原创先进算法以及西安未来人工智能计算中心昇腾AI的强大算力,为路网监测、应急 - Keywords: AI,基于昇腾,秦岭,秦川交通大模型,赋能西安打造,智慧交通创新,支点,昇腾社区 - Detail: llms-content/activities/zh_activities_dynamic-news_20230904-01.md ## 昇腾AI联合智源FlagOpen(飞智),共促大模型生态创新-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230904-02?pageSize=10%26pageNo=1%26domainCode=%26id=20230904-02%26lang=zh - Description: 近期,昇腾AI与智源研究院FlagOpen(飞智)大模型技术开源体系展开深入合作,取得关键进展。基于面向多种AI硬件的一体化评测引擎FlagPerf,双方已完成对昇腾硬件在ResNet50模型上的测试评价,昇腾硬件性能表现优异。目前昇腾AI已支持智源自研开源语言大模型悟道·天鹰(Aquila)的单机和多机训练,训练性能业界领先。双方计划下半年开展对GLM、LLaMA等更多主流模型的评测,携手共建大 - Keywords: AI,FlagOpen,联合智源,飞智,共促大模型生态创新,昇腾社区,昇腾,Aquila - Detail: llms-content/activities/zh_activities_dynamic-news_20230904-02.md ## 昇腾AI@大连 | 怡升科技推出生态环境多模态人工智能系统,释放环保产业数据新价值-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230911-01?pageSize=10%26pageNo=1%26domainCode=%26id=20230911-01%26lang=zh - Description: 近年来,我国大力发展环境保护建设,在环境治理中引入了大量的监测设备及分析仪器,积累了海量的水、气、声、土壤等监测数据,然而,受限于数据处理能力,对于环境治理中所面临的实际问题,这些数据的价值并没有得到充分的发挥。怡升科技一直主张将人工智能原创技术成果与环保产业场景深度融合,致力于用科技守护绿水青山。为进一步解决AI技术应用中的算力和服务需求,9月1日,怡升科技与大连人工智能计算中心签署算力合作项目 - Keywords: AI,昇腾,大连,怡升科技推出,生态环境多模,态人工智能系,释放环保产业,数据新价值 - Detail: llms-content/activities/zh_activities_dynamic-news_20230911-01.md ## 基于昇腾,智谱AI、华鲲振宇打造自主创新大模型一体机,加速行业智能化-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230912-01?pageSize=10%26pageNo=1%26domainCode=%26id=20230912-01%26lang=zh - Description: 【2023年9月6日,北京】基于昇腾,智谱AI、华鲲振宇预发布了智谱GLM昇腾大模型一体机,共同推进昇腾基础软硬件在智谱GLM大模型上的适配。目前,昇腾基础软硬件平台已与智谱GLM大模型达成深度对接,充分发挥软硬件协同优势,便利开发者和用户,实现普惠AI。2022年底,以ChatGPT为标志的生成式AI场景引爆市场,引发了全行业对于AI大模型等技术的关注,AI发展跨越拐点,大模型逐渐成为新一轮科技 - Keywords: 基于昇腾,AI,智谱,华鲲振宇打造,自主创新大模,型一体机,加速行业智能化,昇腾社区 - Detail: llms-content/activities/zh_activities_dynamic-news_20230912-01.md ## “智算聚芯力 津彩新未来”天津市人工智能计算中心200P上线仪式暨天津人工智能应用创新论坛成功举办-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230912-02?pageSize=10%26pageNo=1%26domainCode=%26id=20230912-02%26lang=zh - Description: 9月10日,天津市人工智能计算中心200P上线仪式暨天津人工智能应用创新论坛成功举办。本次论坛以“智算聚芯力,津彩新未来”为主题,由天津市科技局、天津市工信局指导,天津市河北区人民政府、华为技术有限公司主办,政产学研各界人士齐聚一堂,共同见证天津市人工智能计算中心200P上线,探讨人工智能产业趋势及应用场景,推进天津市人工智能产业生态繁荣发展。天津市人工智能计算中心建设算力新高度,打造产业新引擎天 - Keywords: 智算聚芯力,津彩新未来,天津市人工智,能计算中心,上线仪式暨天,津人工智能应,用创新论坛成,功举办 - Detail: llms-content/activities/zh_activities_dynamic-news_20230912-02.md ## 华为汪涛:使能百模千态,赋能千行万业,加速行业智能化-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230921-01?pageSize=10%26pageNo=1%26domainCode=%26id=20230921-01%26lang=zh - Description: 2023年9月20日,在华为全联接大会2023(HUAWEI CONNECT 2023)期间,华为常务董事、ICT基础设施业务管理委员会主任、企业BG总裁汪涛发表了“加速行业智能化”主题发言,分享了加速行业智能化的最新思考与实践,正式发布了全新架构的昇腾AI计算集群Atlas 900 SuperCluster,并基于最新推出的行业智能化参考架构,发布了九大行业智能化解决方案。以下是发言精华智能社会 - Keywords: 华为汪涛,使能百模千态,赋能千行万业,加速行业智能化,昇腾社区,HUAWEI CONNECT,SuperCluster,Fi - Detail: llms-content/activities/zh_activities_dynamic-news_20230921-01.md ## 昇腾AI基础软硬件全面升级,以更开放易用的平台使能百模千态-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230922-02?pageSize=10%26pageNo=1%26domainCode=%26id=20230922-02%26lang=zh - Description: \[中国,上海,2023年9月22日\] 华为全联接大会2023期间,华为计算产品线总裁张熙伟发表了“算力为基,共筑智能新生态”主题演讲。他表示,华为深耕算力底座,聚焦鲲鹏、昇腾基础软硬件创新,携手伙伴开发者,打造更放易用的平台,共筑更高效协同的生态,使能百模千态,共赢智能未来。华为计算产品线总裁张熙伟发表主题演讲昇腾全面、深度开放,选择更灵活,使能开发者构筑差异化竞争力昇腾面向算子、框架、加速库和大 - Keywords: AI,基础软硬件全,面升级,以更开放易用,的平台使能百,模千态,昇腾社区,昇腾 - Detail: llms-content/activities/zh_activities_dynamic-news_20230922-02.md ## 一图读懂Atlas 900 SuperCluster-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230925-01?pageSize=10%26pageNo=1%26domainCode=%26id=20230925-01%26lang=zh - Description: 产业开发者生态伙伴 - Keywords: Atlas,一图读懂,SuperCluster,昇腾社区,昇腾 - Detail: llms-content/activities/zh_activities_dynamic-news_20230925-01.md ## 共建数字广西,共赴数智未来!2023广西鲲鹏昇腾人工智能产业生态大会成功举办-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230928-01?pageSize=10%26pageNo=1%26domainCode=%26id=20230928-01%26lang=zh - Description: 9月19日,由南宁市大数据发展局主办,华为技术有限公司、南宁产业投资集团有限责任公司共同承办的“2023广西鲲鹏昇腾人工智能产业生态大会”在南宁成功举办。自治区大数据发展局二级巡视员杨俭,华为全球数据中心Marketing与解决方案总裁邱峰,广西壮族自治区信息中心副主任彭新永,南宁市大数据发展局局长熊华,数字广西专家咨询委员会副主任委员兼秘书长、广西大数据学会会长钟穗,南宁产投集团副总经理赵东晨出 - Keywords: 共建数字广西,共赴数智未来,广西鲲鹏昇腾,人工智能产业,生态大会成功,举办,昇腾社区,SuperCluster - Detail: llms-content/activities/zh_activities_dynamic-news_20230928-01.md ## 昇腾AI@青岛 | 3倍性能提升!图灵科技发布智慧交通全场景AI感知方案-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230928-02?pageSize=10%26pageNo=1%26domainCode=%26id=20230928-02%26lang=zh - Description: 对交通态势全面、及时、精准的感知能力,是智慧交通的基础。为支撑交通管理实践应用,首先需要解决的就是对交通管理目标检测精度低、适应性差、数据依赖性高等局限性。关于青岛图灵科技有限公司青岛图灵科技有限公司长期聚焦交通核心业务,致力于打造新一代交通数智化物联操作系统,为各垂直领域的场景化AI应用提供基础支撑。近日,图灵科技基于昇腾AI基础软硬件平台,围绕交通、公路、高速、枢纽等4大业务场景,推出全场景A - Keywords: AI,青岛,倍性能提升,图灵科技发布,智慧交通全场,感知方案,昇腾社区,昇腾 - Detail: llms-content/activities/zh_activities_dynamic-news_20230928-02.md ## 携手昇腾AI,南方电网发布基于昇思打造的电力行业AI创新平台与大模型-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20230928-03?pageSize=10%26pageNo=1%26domainCode=%26id=20230928-03%26lang=zh - Description: 【2023年9月26日,广州】今日,9月26日,由南方电网公司主办的电力行业人工智能创新平台及自主创新电力大模型发布会在广州召开,对社会发布了电力行业人工智能创新平台(以下简称“人工智能平台”),同步发布了人工智能平台的首个产品——电力行业首个自主创新电力大模型(以下简称“电力大模型”),先面向南方电网系统应用。“人工智能平台”和“电力大模型”由南方电网人工智能科技有限公司自主研发,发布会上南方电 - Keywords: AI,携手昇腾,南方电网发布,基于昇思打造,的电力行业,创新平台与大,模型,昇腾社区 - Detail: llms-content/activities/zh_activities_dynamic-news_20230928-03.md ## PyTorch+昇腾 共促AI生态创新发展-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20231007-01?pageSize=10%26pageNo=1%26domainCode=%26id=20231007-01%26lang=zh - Description: 2023年10月5日(北京时间),PyTorch社区正式发布2.1版本,经过PyTorch社区与昇腾的持续合作和共同努力,Pytorch 2.1版本已同步支持昇腾NPU,意味着开发者可直接在PyTorch 2.1上基于昇腾进行模型开发。未来,通过持续的社区技术贡献,昇腾将与PyTorch社区版本同步演进及发布,共促AI技术创新和开源生态发展。图注:PyTorch 社区2.1版本的官方发布声明中宣布 - Keywords: PyTorch,AI,共促,生态创新发展,昇腾社区,GPT,昇腾,了解详情 - Detail: llms-content/activities/zh_activities_dynamic-news_20231007-01.md ## 昇腾AI@青岛|更快!更准!米塔碳携手昇腾AI打造新能源高精度预测平台-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20231108-01?pageSize=10%26pageNo=1%26domainCode=%26id=20231108-01%26lang=zh - Description: 近日, 在青岛昇腾人工智能生态创新中心的支持下,米塔碳公司的“璞云天空地一体化能源大数据平台”正式上线。该平台核心技术为高精度的璞云气象功率预报大模型,依托Atlas 系列硬件和昇思MindSpore AI框架进行开发,能够对15分钟级的气象及功率进行高精度预报,同时将计算速度从小时级提升至分钟级,效率显著提高。平台首页展示页基于米塔碳自研的璞云气象功率预报大模型,对近40年天气及多年功率数据(数 - Keywords: AI,昇腾,青岛,更快,更准,米塔碳携手昇,打造新能源高,精度预测平台 - Detail: llms-content/activities/zh_activities_dynamic-news_20231108-01.md ## 数聚廊坊 智享未来!河北人工智能计算中心上线仪式成功举行-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20231108-02?pageSize=10%26pageNo=1%26domainCode=%26id=20231108-02%26lang=zh - Description: 10月13日,以“数聚廊坊 智享未来”为主题的河北人工智能计算中心上线仪式暨电子信息产业创新发展大会在廊坊成功举办。大会现场,河北人工智能计算中心正式上线运营,多家企业、高校及科研院所完成算力服务合作签约,并有多项合作成果重磅发布。各界大咖齐聚一堂,共话智算加速赋能千行百业之道,推动河北数字经济迈向高质量发展新征程。本次会议由廊坊市人民政府、河北省发展和改革委员会主办,廊坊市发展和改革委员会承办, - Keywords: 数聚廊坊,智享未来,河北人工智能,计算中心上线,仪式成功举行,昇腾社区,ICT,华为技术有限 - Detail: llms-content/activities/zh_activities_dynamic-news_20231108-02.md ## 华为成为中国首个PyTorch基金会Premier会员-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20231108-03?pageSize=10%26pageNo=1%26domainCode=%26id=20231108-03%26lang=zh - Description: 2023年10月18日(北京时间),PyTorch 基金会正式宣布华为作为Premier会员加入基金会,这也是中国首个、全球第十个PyTorch基金会最高级别会员。未来,华为将进一步与其他成员公司共同协作,加速PyTorch社区发展,为全球人工智能社区带来更多灵感和创新,共建开源新生态。PyTorch 基金会是深度学习社区在开源 PyTorch 框架和生态系统上开展合作的中立家园。PyTorch - Keywords: PyTorch,Premier,华为成为中国,首个,基金会,会员,昇腾社区,Ibrahim Haddad - Detail: llms-content/activities/zh_activities_dynamic-news_20231108-03.md ## 昇腾AI,加速金融行业智能升级-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20231108-04?pageSize=10%26pageNo=1%26domainCode=%26id=20231108-04%26lang=zh - Description: 2023年10月17日,《银行家》杂志社组织的“2023 银行家金融创新论坛暨银行家金融创新成果发布会”在北京成功举办,其中中国社科院财经战略研究院院长何德旭、工行副行长张文武、建行首席信息官金磐石、北京农商银行、平安银行、中国民生银行、桂林银行等100+银行行长及重要嘉宾出席。华为昇腾计算业务总裁张迪煊发表《昇腾AI,加速金融行业智能升级》主题演讲,共同探讨昇腾AI助力金融业务创新,促进金融服务 - Keywords: AI,加速金融行业智能升级,昇腾社区,PoD,加速金融行业,智能升级,华为昇腾计算 - Detail: llms-content/activities/zh_activities_dynamic-news_20231108-04.md ## 胡厚崑:共筑联接底座 同赴数智未来-昇腾社区 - URL: https://www.hiascend.com/zh/activities/dynamic-news/20231201-01?pageSize=10%26pageNo=1%26domainCode=%26id=20231201-01%26lang=zh - Description: \[中国,广州,2023年10月13日\] 在2023中国移动全球合作伙伴大会上,华为公司轮值董事长胡厚崑发表了“共筑联接底座 同赴数智未来”主题演讲。胡厚崑强调,“作为中国移动的全面战略合作伙伴,华为公司会持续以领先的产品和服务,从发掘联接价值、共建智算底座、促进融合创新等方面,一如既往地支持好中国移动的战略落地。”胡厚崑在中国移动全球合作伙伴大会上发言发掘联接价值:保持5G持续领先,繁荣生态,加速 - Keywords: 共筑联接底座,同赴数智未来,昇腾社区,昇腾,胡厚崑表示 - Detail: llms-content/activities/zh_activities_dynamic-news_20231201-01.md ## 昇腾AI创新大赛2026-昇腾社区 - URL: https://www.hiascend.com/zh/developer/AAIC2026 - Description: 昇腾AI创新大赛是面向AI开发者打造的顶级赛事,旨在鼓励全产业开发者基于昇腾AI技术和产品,打造软/硬件解决方案、探索模型算法,加速AI与行业融合,促进开发者能力提升。大赛以“数智未来,因你而来”为主题,在新一代人工智能产业技术创新战略联盟(AITISA)和中国人工智能产业发展联盟(AIIA)指导下,由全国各昇腾生态创新中心与华为主办、OpenI启智社区协办,与广大AI开发者共同推动人工智能产业应 - Keywords: AI,创新大赛,昇腾社区,大赛简介,重磅赛事,当前赛季,奖金及权益,奖金为人民币 - Detail: llms-content/developer/zh_developer_AAIC2026.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/zh/developer/canncamp - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/developer/zh_developer_canncamp.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1531811776319827970 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1531811776319827970.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1532293114940469249 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1532293114940469249.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1532294202581835777 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1532294202581835777.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1532294778350723074 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1532294778350723074.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1532295229381009410 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1532295229381009410.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1544868536223354882 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1544868536223354882.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1548930093945556994 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1548930093945556994.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1548937280193122306 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1548937280193122306.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1548945088343281666 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1548945088343281666.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1555202650688548866 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1555202650688548866.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1559096386317148161 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1559096386317148161.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1559801448815353857 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1559801448815353857.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1559832705511964674 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1559832705511964674.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1570572338528079873 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1570572338528079873.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1570608186740916226 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1570608186740916226.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1572497605521793026 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1572497605521793026.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1573169424985575425 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1573169424985575425.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1573482960953491458 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1573482960953491458.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1573483677768704002 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1573483677768704002.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1573484963398377474 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1573484963398377474.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1573487418672500738 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1573487418672500738.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1579657120536670210 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1579657120536670210.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1579672383225102337 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1579672383225102337.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1579673977133502465 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1579673977133502465.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1579676214081654786 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1579676214081654786.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1587270014125752321 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1587270014125752321.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1627488815414808577 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1627488815414808577.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1627489957872480258 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1627489957872480258.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1627494761683783682 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1627494761683783682.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1630069928483196930 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1630069928483196930.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1638576084570705922 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1638576084570705922.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1638579647323086850 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1638579647323086850.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1638592307966611457 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1638592307966611457.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1639103621463805954 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1639103621463805954.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1640538446280265729 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1640538446280265729.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1640559058725900289 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1640559058725900289.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1640603651293147138 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1640603651293147138.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1640887402266980354 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1640887402266980354.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1641338912042926082 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1641338912042926082.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1641340262823759873 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1641340262823759873.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1645631431922724866 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1645631431922724866.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1645685917412839426 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1645685917412839426.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1645692174349152258 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1645692174349152258.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1663383934060789761 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1663383934060789761.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1673896153769955330 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1673896153769955330.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1676162863403225090 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1676162863403225090.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1676860115159470081 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1676860115159470081.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1676864664357150722 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1676864664357150722.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1676866050056585217 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1676866050056585217.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1679059522924683266 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1679059522924683266.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1679321450318241793 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1679321450318241793.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1679388822440329218 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1679388822440329218.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1679391929909485570 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1679391929909485570.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1679396137362628609 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1679396137362628609.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1679407372416663553 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1679407372416663553.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1679408593995120642 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1679408593995120642.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1679410425112403970 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1679410425112403970.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1679444203338285058 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1679444203338285058.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1682317724648259586 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1682317724648259586.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1686670895467843585 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1686670895467843585.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1687390499876962306 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1687390499876962306.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1688723602844684290 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1688723602844684290.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1691696509765107713 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1691696509765107713.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1696414606799486977 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1696414606799486977.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1696690858236694530 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1696690858236694530.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1696849243070386177 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1696849243070386177.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1696856540555366401 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1696856540555366401.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1697526802124754945 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1697526802124754945.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1698523470584467458 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1698523470584467458.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1699681837795819522 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1699681837795819522.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1699686553867042818 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1699686553867042818.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1701070244048584705 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1701070244048584705.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1701072651939790849 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1701072651939790849.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1701075152122462209 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1701075152122462209.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1701077821939564546 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1701077821939564546.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1701078668450775042 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1701078668450775042.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1701145495524655105 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1701145495524655105.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1701413262786084866 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1701413262786084866.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1701772897611202562 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1701772897611202562.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1701868449233420289 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1701868449233420289.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1704017788820078593 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1704017788820078593.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1704779693419479041 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1704779693419479041.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1706519048223801346 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1706519048223801346.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1706553444653940737 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1706553444653940737.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1706555137722499073 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1706555137722499073.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1706557436268199938 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1706557436268199938.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1706558371916759042 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1706558371916759042.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1706558930866487297 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1706558930866487297.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1706561127285080065 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1706561127285080065.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1706562229518811138 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1706562229518811138.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1710845346065682433 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1710845346065682433.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1710856347555250177 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1710856347555250177.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1710857760624656385 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1710857760624656385.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1711203279356084226 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1711203279356084226.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1711209479042764802 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1711209479042764802.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1711210682566885377 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1711210682566885377.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1711666708137119746 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1711666708137119746.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1712006429086949377 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1712006429086949377.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1712007281050128385 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1712007281050128385.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1712007996808732674 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1712007996808732674.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1712014720424845314 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1712014720424845314.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1712758880522051586 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1712758880522051586.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1713805891321044994 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1713805891321044994.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1714534129244676098 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1714534129244676098.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1717441967720316929 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1717441967720316929.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1717443181468979201 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1717443181468979201.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1717446669246664705 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1717446669246664705.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1722531607035813889 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1722531607035813889.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1722532476565368834 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1722532476565368834.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1722907124931014657 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1722907124931014657.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1722907799253463041 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1722907799253463041.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1724308050933751810 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1724308050933751810.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1724308661469229057 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1724308661469229057.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1724638060550860801 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1724638060550860801.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1724638780226318337 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1724638780226318337.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1731607547644866561 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1731607547644866561.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1734121108380180481 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1734121108380180481.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1740657493375332354 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1740657493375332354.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1747469465869824001 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1747469465869824001.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1747470523220303873 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1747470523220303873.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1747507346537652225 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1747507346537652225.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1747508855048445953 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1747508855048445953.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1753331100756963329 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1753331100756963329.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1754782533872214017 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1754782533872214017.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1754783224724418562 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1754783224724418562.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1760201051920887810 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1760201051920887810.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1762409405015617538 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1762409405015617538.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1762411664743030786 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1762411664743030786.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1762412563972452353 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1762412563972452353.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1762416179957424129 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1762416179957424129.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1762418235942330369 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1762418235942330369.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1762419538026262529 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1762419538026262529.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1762420310927433729 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1762420310927433729.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1763490197410181122 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1763490197410181122.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1763493825936125953 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1763493825936125953.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1765213671816200194 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1765213671816200194.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1765215024798007297 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1765215024798007297.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1768193870769991682 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1768193870769991682.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1768457697130504193 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1768457697130504193.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1769634033199030273 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1769634033199030273.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1770731322151936001 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1770731322151936001.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1788103519778725890 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1788103519778725890.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1788114761595572226 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1788114761595572226.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1788118090409144321 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1788118090409144321.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1788499957201338369 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1788499957201338369.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1789121674101768194 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1789121674101768194.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1789919361730461698 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1789919361730461698.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1795281013304832002 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1795281013304832002.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1800498548572803073 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1800498548572803073.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1806534028288471041 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1806534028288471041.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1806538199586709505 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1806538199586709505.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1806570096312328193 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1806570096312328193.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1806570963266576385 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1806570963266576385.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1808062861172969473 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1808062861172969473.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1808064381058711554 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1808064381058711554.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1809075093948243969 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1809075093948243969.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1809402223064158209 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1809402223064158209.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1809476171227369473 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1809476171227369473.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1809478971822874626 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1809478971822874626.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1809481540989259777 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1809481540989259777.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1811646749279428610 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1811646749279428610.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1828312845462016001 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1828312845462016001.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1828319410332110850 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1828319410332110850.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1828321326340513794 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1828321326340513794.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1828322510581272577 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1828322510581272577.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1828323429934960642 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1828323429934960642.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1828324280573366274 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1828324280573366274.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1828324861966819329 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1828324861966819329.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1829039601336717313 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1829039601336717313.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1829774561186156546 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1829774561186156546.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1829804152374173697 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1829804152374173697.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1829806864482443266 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1829806864482443266.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1829834904222572545 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1829834904222572545.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1830812756258627586 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1830812756258627586.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1830813349404516354 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1830813349404516354.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1830814510496915458 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1830814510496915458.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1830844038317400066 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1830844038317400066.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1831151126675496961 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1831151126675496961.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1831153887777439746 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1831153887777439746.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1831161535851716609 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1831161535851716609.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1831164879462785026 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1831164879462785026.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1831166757227503617 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1831166757227503617.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1831172363858518017 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1831172363858518017.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1831174523845386241 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1831174523845386241.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1831177242622599170 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1831177242622599170.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1831211648661889026 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1831211648661889026.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1831594492592701441 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1831594492592701441.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1845064123273801730 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1845064123273801730.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1847194087389487105 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1847194087389487105.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1847208334584545281 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1847208334584545281.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1847208745886384129 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1847208745886384129.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1848297160761507842 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1848297160761507842.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1858703316470493185 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1858703316470493185.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1858709375327154178 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1858709375327154178.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1858813435170533378 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1858813435170533378.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1861323151117418498 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1861323151117418498.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1861654031224565761 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1861654031224565761.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1861655183185965058 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1861655183185965058.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1862028569275826178 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1862028569275826178.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1862031437802274817 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1862031437802274817.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1862032030029611010 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1862032030029611010.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1871373977722732546 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1871373977722732546.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1872199134812995586 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1872199134812995586.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1872200627859406849 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1872200627859406849.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1872202813553147905 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1872202813553147905.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1872203390798430210 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1872203390798430210.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1873667409401028610 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1873667409401028610.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1873700537393946625 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1873700537393946625.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1894301976457695234 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1894301976457695234.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1894998002885771266 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1894998002885771266.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1895372935222571009 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1895372935222571009.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1896382373266018305 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1896382373266018305.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1900148365473435650 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1900148365473435650.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1900150676224565250 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1900150676224565250.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1900159830225936385 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1900159830225936385.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1902605523532206082 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1902605523532206082.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1902629273623420930 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1902629273623420930.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1902998153353056257 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1902998153353056257.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1902999638593843202 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1902999638593843202.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1905423090797862914 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1905423090797862914.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1905426177121935362 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1905426177121935362.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1906524655197753346 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1906524655197753346.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1906525736459960321 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1906525736459960321.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1906528436908064770 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1906528436908064770.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1906528741494231042 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1906528741494231042.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1906529115445788674 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1906529115445788674.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1906529488847896577 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1906529488847896577.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1906531742564880386 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1906531742564880386.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1906884355571458050 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1906884355571458050.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1906956768422273026 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1906956768422273026.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1907353366973255682 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1907353366973255682.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1909399063897702401 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1909399063897702401.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1909534251151663105 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1909534251151663105.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1910525882218713089 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1910525882218713089.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1910963014913622017 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1910963014913622017.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1912314754338553857 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1912314754338553857.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1913150801238708225 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1913150801238708225.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1913827320592232449 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1913827320592232449.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1913830352486821889 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1913830352486821889.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1913838514073923585 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1913838514073923585.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1915041447188799489 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1915041447188799489.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1915230320279846914 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1915230320279846914.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1915232653231431682 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1915232653231431682.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1915232714921246721 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1915232714921246721.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1915232806474510338 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1915232806474510338.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1915237566367830017 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1915237566367830017.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1915237680985575425 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1915237680985575425.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1915239674206920706 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1915239674206920706.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1915240718118846465 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1915240718118846465.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1915241773909057537 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1915241773909057537.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1915241801172033538 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1915241801172033538.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1915241856134189057 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1915241856134189057.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1915243342704578561 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1915243342704578561.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1915246001570357250 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1915246001570357250.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1915247976793939970 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1915247976793939970.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1915249496100859905 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1915249496100859905.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1919561189387886593 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1919561189387886593.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1922130757390131202 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1922130757390131202.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1923211251905150977 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1923211251905150977.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1925016082085007361 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1925016082085007361.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1925362775376744449 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1925362775376744449.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1925466587412258817 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1925466587412258817.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1925473416036966402 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1925473416036966402.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1925707689125974018 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1925707689125974018.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1925756142468173825 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1925756142468173825.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1927182358853140481 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1927182358853140481.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1927261931162787841 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1927261931162787841.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1932322531635093505 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1932322531635093505.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1935520434893606913 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1935520434893606913.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1935570808551755777 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1935570808551755777.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1938153539479527425 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1938153539479527425.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1940753236186640386 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1940753236186640386.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1945662286733029377 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1945662286733029377.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1945742508413202433 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1945742508413202433.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1948192791181451266 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1948192791181451266.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1950035905911316482 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1950035905911316482.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1953011814343786498 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1953011814343786498.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1954845113638858754 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1954845113638858754.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1957788225445179393 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1957788225445179393.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1970379749278314497 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1970379749278314497.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1976171693002731521 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1976171693002731521.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1976473854387433473 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1976473854387433473.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1976481306461888514 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1976481306461888514.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1976484348418617346 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1976484348418617346.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1976825370700959746 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1976825370700959746.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1978015321832583169 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1978015321832583169.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1978360059605577730 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1978360059605577730.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1978740479480320001 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1978740479480320001.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1979104740199133185 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1979104740199133185.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1979116414268362754 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1979116414268362754.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1980104111837466625 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1980104111837466625.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1980181286129303553 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1980181286129303553.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1980187680169578498 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1980187680169578498.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1980191609800413186 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1980191609800413186.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1980193057716084738 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1980193057716084738.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1980194995581026305 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1980194995581026305.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1980454811708755970 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1980454811708755970.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1980469166009548801 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1980469166009548801.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1980477288224710657 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1980477288224710657.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1980486228408852482 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1980486228408852482.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1980523908714778625 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1980523908714778625.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1980935679095181313 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1980935679095181313.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1981625694229983233 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1981625694229983233.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1981913065219571713 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1981913065219571713.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1981917054862503938 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1981917054862503938.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1981917874123321346 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1981917874123321346.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1981920232358170625 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1981920232358170625.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1981921455484325890 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1981921455484325890.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1981924099695198210 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1981924099695198210.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1981925118411952130 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1981925118411952130.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1983006423568498690 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1983006423568498690.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1983085265654001665 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1983085265654001665.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1983449864584704001 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1983449864584704001.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1983865484694413314 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1983865484694413314.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1984070165391622146 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1984070165391622146.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1985171206220767234 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1985171206220767234.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1985176367710289921 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1985176367710289921.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1985531958408454146 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1985531958408454146.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1986624555164057602 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1986624555164057602.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1988449990298521602 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1988449990298521602.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1988507264475942914 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1988507264475942914.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1988543822105104386 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1988543822105104386.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1989258666261299202 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1989258666261299202.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1990618591027802114 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1990618591027802114.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1990696096522833921 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1990696096522833921.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1991752909041184769 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1991752909041184769.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1993237676299390978 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1993237676299390978.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1993247708929794049 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1993247708929794049.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1993248369478148097 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1993248369478148097.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1993248932555079682 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1993248932555079682.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1993522123997458433 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1993522123997458433.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1993586634095857665 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1993586634095857665.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1994215116326772738 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1994215116326772738.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1994254704671924225 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1994254704671924225.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1994696159370625026 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1994696159370625026.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1995421335433535490 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1995421335433535490.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1995425210102222850 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1995425210102222850.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1995430849188757506 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1995430849188757506.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1996484673856901121 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1996484673856901121.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1997850567493312514 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1997850567493312514.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1998217338603737090 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1998217338603737090.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1998576696487342081 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1998576696487342081.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1998643482066972673 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1998643482066972673.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1998662211601461249 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1998662211601461249.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1998666722344722433 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1998666722344722433.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1998667697889513474 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1998667697889513474.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1998671414470676482 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1998671414470676482.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/1998692727008550913 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_1998692727008550913.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2004093014389059585 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2004093014389059585.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2004375881438490626 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2004375881438490626.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2004447992462995458 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2004447992462995458.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2007989377241772034 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2007989377241772034.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2007993212727246850 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2007993212727246850.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2007994176376979457 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2007994176376979457.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2007995194863042561 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2007995194863042561.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2007995954606686210 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2007995954606686210.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2009223774704074754 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2009223774704074754.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2009228856422154242 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2009228856422154242.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2009232425590308866 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2009232425590308866.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2009234890159132674 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2009234890159132674.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2009237366136475650 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2009237366136475650.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2009508616008204289 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2009508616008204289.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2009525333350514689 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2009525333350514689.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2009545800908128258 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2009545800908128258.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2012011612113838081 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2012011612113838081.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2013153653191442434 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2013153653191442434.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2016119383767752706 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2016119383767752706.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2016448591740112898 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2016448591740112898.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2019220764355624962 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2019220764355624962.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2032404351523446785 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2032404351523446785.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2033507068257988609 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2033507068257988609.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2034853803316178945 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2034853803316178945.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2036247568337567745 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2036247568337567745.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2037117351341809665 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2037117351341809665.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2038427710812057601 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2038427710812057601.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2038575201524109313 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2038575201524109313.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2041688011321896961 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2041688011321896961.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2042450463458320385 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2042450463458320385.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2043964321096265729 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2043964321096265729.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2044691037452255234 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2044691037452255234.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2044985858200956929 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2044985858200956929.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2046399878187466754 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2046399878187466754.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2046475214141014018 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2046475214141014018.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2046507711264477185 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2046507711264477185.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2046763915643473921 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2046763915643473921.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2047200629335781378 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2047200629335781378.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2047203003227951106 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2047203003227951106.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2047508550422646786 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2047508550422646786.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2047512422264360961 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2047512422264360961.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2047561668640395265 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2047561668640395265.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2048723740032012290 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2048723740032012290.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2048956322392866818 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2048956322392866818.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2048962530155732994 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2048962530155732994.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2048966907377516546 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2048966907377516546.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2049008829341143041 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2049008829341143041.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2049011020726571009 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2049011020726571009.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2052592432385925122 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2052592432385925122.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2054112141740703746 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2054112141740703746.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2055159711380357121 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2055159711380357121.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2055173276870983681 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2055173276870983681.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2056202679830798337 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2056202679830798337.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2056647289996673026 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2056647289996673026.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2056932020583751682 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2056932020583751682.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2057646310697541634 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2057646310697541634.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2059206542540251137 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2059206542540251137.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2060174102022684674 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2060174102022684674.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2060275536357588993 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2060275536357588993.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2061700710588108802 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2061700710588108802.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2062741661230182402 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2062741661230182402.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2064245957134270466 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2064245957134270466.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2064986190482132994 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2064986190482132994.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2065253543270830081 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2065253543270830081.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2065276409307607041 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2065276409307607041.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2066708374397267970 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2066708374397267970.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2069250548166967298 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2069250548166967298.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2070402553535156226 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2070402553535156226.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2071428481241497602 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2071428481241497602.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2071780934688358402 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2071780934688358402.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2071845112954408961 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2071845112954408961.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2071847262539395074 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2071847262539395074.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2071849100282081282 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2071849100282081282.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2072973797312876546 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2072973797312876546.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362934103 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362934103.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362934487 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362934487.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362934649 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362934649.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362935092 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362935092.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362935164 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362935164.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362935206 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362935206.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362935322 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362935322.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362937328 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362937328.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362937333 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362937333.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362937991 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362937991.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362938265 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362938265.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362938326 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362938326.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362938386 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362938386.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362938854 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362938854.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362939981 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362939981.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362940408 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362940408.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362940897 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362940897.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362941198 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362941198.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362941557 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362941557.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362942051 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362942051.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362942178 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362942178.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/2203141624362942599 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_2203141624362942599.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/384794730498494464 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_384794730498494464.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/388054058500231168 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_388054058500231168.md ## 在线课程详情 - URL: https://www.hiascend.com/zh/developer/courses/detail/388096758905704448 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 在线课程详情 - Detail: llms-content/developer/zh_developer_courses_detail_388096758905704448.md ## 昇腾开放资源-昇腾社区 - URL: https://www.hiascend.com/zh/developer/opensource - Description: 基于华为昇腾解决方案使能原生创新 - Keywords: 昇腾开放资源,昇腾社区,Ascend C,AOL,HCCL,GE,Ascend,PyTorch - Detail: llms-content/developer/zh_developer_opensource.md ## MindIE安装部署-昇腾社区 - URL: https://www.hiascend.com/zh/developer/software/mindie/download - Description: MindIE下载:MindIE一站式安装页面,提供最新版本MindIE安装部署命令。提供基于昇腾硬件的运行加速、调试调优、快速迁移部署的高性能深度学习推理框架。 - Keywords: MindIE,安装部署,昇腾社区,扩展资源,CANN,PyTorch,Torch,Whl - Detail: llms-content/developer/zh_developer_software_mindie_download.md ## 昇腾文档-昇腾社区 - URL: https://www.hiascend.com/zh/document - Description: 帮助开发者了解华为昇腾系列AI处理器软硬件,进行人工智能应用的开发 - Keywords: 昇腾文档,昇腾社区,其他资源,CANN,PyTorch,Ascend C API,Ascend,CATLASS - Detail: llms-content/document/zh_document.md ## 用户登录-昇腾社区 - URL: https://www.hiascend.com/zh/feedback - Description: 用户登录 - Keywords: 用户登录,昇腾社区,CAS,了解详情,登录 - Detail: llms-content/misc/zh_feedback.md ## 昇腾社区Cookie政策-昇腾社区 - URL: https://www.hiascend.com/zh/legal/cookies - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾社区,政策,Cookies,其他类似的技,Do,Track,请勿追踪,联系我们 - Detail: llms-content/legal/zh_legal_cookies.md ## 昇腾社区法律声明-昇腾社区 - URL: https://www.hiascend.com/zh/legal/law - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾社区法律声明,规则及昇腾社,区访问条件,昇腾社区网站内容,软件内容,您对本网站的使用,商标,隐私 - Detail: llms-content/legal/zh_legal_law.md ## 昇腾社区隐私声明-昇腾社区 - URL: https://www.hiascend.com/zh/legal/privacy - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾社区隐私声明,我们如何收集,您的个人信息,我们如何使用,Cookie,及类似技术,我们如何共享,披露 - Detail: llms-content/legal/zh_legal_privacy.md ## 昇腾社区用户协议 更新日期:2026年7月15日 1.关于我们 “昇腾社区”及相关技术与功能(以下合称为“本服务”)由“华为缔约方&rdqu - URL: https://www.hiascend.com/zh/legal/user - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾社区用户协议,更新日期,关于我们,昇腾社区,及相关技术与,功能,以下合称为,本服务 - Detail: llms-content/legal/zh_legal_user.md ## 用户登录-昇腾社区 - URL: https://www.hiascend.com/zh/report - Description: 用户登录 - Keywords: 用户登录,昇腾社区,CAS,了解详情,登录 - Detail: llms-content/misc/zh_report.md ## CANN - URL: https://www.hiascend.com/eng/cann/ - Keywords: CANN,Empowers,Atlas,AI,Computing,Compute,Architecture,Neural - Detail: llms-content/cms/zh_eng_cann_.md ## Domain-Specific Libraries - URL: https://www.hiascend.com/eng/cann/aal - Keywords: Domain,Specific Libraries Combine,Contents,SiP Library ATB Library Transformer,Key Features Ligh - Detail: llms-content/cms/zh_eng_cann_aal.md ## Operator Libraries - URL: https://www.hiascend.com/eng/cann/aol - Keywords: Libraries,Key,Features,Operator Library Deeply,Math,CV,NN,Transformer - Detail: llms-content/cms/zh_eng_cann_aol.md ## Operator Programming - URL: https://www.hiascend.com/eng/cann/ascend-c - Keywords: Operator Programming Accelerate,Atlas C,Harness,API,Key Features Standard,Compliant Development H - Detail: llms-content/cms/zh_eng_cann_ascend-c.md ## BiSheng Compiler - URL: https://www.hiascend.com/eng/cann/bisheng - Keywords: BiSheng Compiler Bridge AI,Atlas,Unleash,Key Features Heterogeneous Compilation Hardware,Software - Detail: llms-content/cms/zh_eng_cann_bisheng.md ## CANN Developments - URL: https://www.hiascend.com/eng/cann/develop - Keywords: CANN Developments Explore,Development Core Components Operator Libraries Deeply,Math,CV,NN,Trans - Detail: llms-content/cms/zh_eng_cann_develop.md ## Drivers - URL: https://www.hiascend.com/eng/cann/driver - Keywords: Drivers Power Atlas NPUs,Key Features AI Computing Resource Management High,Performance Communica - Detail: llms-content/cms/zh_eng_cann_driver.md ## Graph Engine - URL: https://www.hiascend.com/eng/cann/graph-engine - Keywords: Key,Features,Graph Engine Graph Engine,GE,Atlas,PyTorch,TensorFlow,ONNX - Detail: llms-content/cms/zh_eng_cann_graph-engine.md ## Communication Libraries - URL: https://www.hiascend.com/eng/cann/hccl - Keywords: Key,Features,Communication Libraries Leveraging,Atlas AI,Supporting,Contents,Huawei Xfer Library H - Detail: llms-content/cms/zh_eng_cann_hccl.md ## Runtime - URL: https://www.hiascend.com/eng/cann/runtime - Keywords: Runtime Power,AI,Atlas NPU Runtime,Orchestrate,NPU,Key Features,Device,Provides - Detail: llms-content/cms/zh_eng_cann_runtime.md ## Multimodal Generative Inference Technologies-1 - URL: https://www.hiascend.com/eng/learn/courses/2038503117544480769 - Keywords: Online Courses,Multimodal Generative Inference Technologies Multimodal Generative Inference Technol - Detail: llms-content/cms/zh_eng_learn_courses_2038503117544480769.md ## Operator Registration and Model Migration - 1 - URL: https://www.hiascend.com/eng/learn/courses/2038595940209913858 - Keywords: Operator Registration and Model Migration - Detail: llms-content/cms/zh_eng_learn_courses_2038595940209913858.md ## Full Process of Developing Large Models \(Intermediate\)-1 - URL: https://www.hiascend.com/eng/learn/courses/2038785535434289154 - Keywords: Intermediate,Online Courses,Full Process,Developing Large Models,Released On,Available Until,Duratio - Detail: llms-content/cms/zh_eng_learn_courses_2038785535434289154.md ## vLLM‑Ascend Inference Deployment and Tuning Overview-1 - URL: https://www.hiascend.com/eng/learn/courses/2038790772039606274 - Keywords: LLM,Online Courses,Ascend Inference Deployment,Tuning Overview Released On,Available Until,Duration - Detail: llms-content/cms/zh_eng_learn_courses_2038790772039606274.md ## MindSpeed Reinforcement Learning \(RL\)-1 - URL: https://www.hiascend.com/eng/learn/courses/2038792719698227201 - Keywords: RL,Online Courses,MindSpeed Reinforcement Learning,Released On,Available Until,Duration,Language,Eng - Detail: llms-content/cms/zh_eng_learn_courses_2038792719698227201.md ## Triton Operator Development for Ascend \(Basic\) - 1 - URL: https://www.hiascend.com/eng/learn/courses/2038794788807114754 - Keywords: Triton Operator Development for Ascend \(Basic\) - Detail: llms-content/cms/zh_eng_learn_courses_2038794788807114754.md ## Full Process of Developing Large Models \(advanced\)-1 - URL: https://www.hiascend.com/eng/learn/courses/2038797720222945282 - Keywords: Online Courses,Full Process,Developing Large Models,Released On,Available Until,Duration,Language,En - Detail: llms-content/cms/zh_eng_learn_courses_2038797720222945282.md ## Full Process of Developing Large Models \(Basic\)-1 - URL: https://www.hiascend.com/eng/learn/courses/2038803033516929025 - Keywords: Basic,Online Courses,Full Process,Developing Large Models,Released On,Available Until,Duration,Langu - Detail: llms-content/cms/zh_eng_learn_courses_2038803033516929025.md ## MindSpeed Foundation Model Training Process - URL: https://www.hiascend.com/eng/learn/courses/2038814742776377346 - Keywords: Online Courses,MindSpeed Foundation Model Training Process MindSpeed Foundation Model Training Proc - Detail: llms-content/cms/zh_eng_learn_courses_2038814742776377346.md ## Tutorial for Training and Fine-Tuning a Multimodal Model - URL: https://www.hiascend.com/eng/learn/courses/2038816548285837314 - Keywords: Training,Fine,Tuning,Online Courses,Multimodal Model Tutorial,Multimodal Model Released On,Availab - Detail: llms-content/cms/zh_eng_learn_courses_2038816548285837314.md ## MindSpeed-LLM Development Practices with Qwen2.5-7B - URL: https://www.hiascend.com/eng/learn/courses/2061334035028135937 - Keywords: MindSpeed,Qwen,Online Courses,LLM Development Practices,Released On,Available Until,Duration,Languag - Detail: llms-content/cms/zh_eng_learn_courses_2061334035028135937.md ## MindSpeed-LLM Development Practices-1 - URL: https://www.hiascend.com/eng/learn/courses/2061347415289909250 - Keywords: Online Courses,LLM Development Practices MindSpeed,LLM Development Practices Released On,Available - Detail: llms-content/cms/zh_eng_learn_courses_2061347415289909250.md ## Fine-Tuning for CV and NLP Models-1 - URL: https://www.hiascend.com/eng/learn/courses/2061624006632947714 - Keywords: Tuning,CV,Online Courses,NLP Models Fine,NLP Models Released On,Available Until,Duration,Language - Detail: llms-content/cms/zh_eng_learn_courses_2061624006632947714.md ## DanceGRPO – A Multimodal Generative RL Framework and Its Transfer Tuning Practices-1 - URL: https://www.hiascend.com/eng/learn/courses/2061633415232761857 - Keywords: DanceGRPO,Multimodal,Generative,RL,Framework,Its,Transfer,Tuning - Detail: llms-content/cms/zh_eng_learn_courses_2061633415232761857.md ## CATLASS Template Library Deep Dive - 1 - URL: https://www.hiascend.com/eng/learn/courses/2061988756420173825 - Keywords: CATLASS Template Library Deep Dive - Detail: llms-content/cms/zh_eng_learn_courses_2061988756420173825.md ## Kickstart Your CATLASS Operator Development Journey -1 - URL: https://www.hiascend.com/eng/learn/courses/2062436321536122882 - Keywords: Kickstart Your CATLASS Operator Development Journey - Detail: llms-content/cms/zh_eng_learn_courses_2062436321536122882.md ## Atlas Heterogeneous Programming Basics - 1 - URL: https://www.hiascend.com/eng/learn/courses/2062439998820855810 - Keywords: Atlas Heterogeneous Programming Basics - Detail: llms-content/cms/zh_eng_learn_courses_2062439998820855810.md ## Atlas-oriented Triton Operator Development \(Advanced\) - 1 - URL: https://www.hiascend.com/eng/learn/courses/2062736589200965634 - Keywords: Atlas-oriented Triton Operator Development \(Advanced\) - Detail: llms-content/cms/zh_eng_learn_courses_2062736589200965634.md ## Small Model Migration and Optimization-1 - URL: https://www.hiascend.com/eng/learn/courses/2063885737736421378 - Keywords: Online Courses,Optimization Small Model Migration,Optimization Released On,Available Until,Duratio - Detail: llms-content/cms/zh_eng_learn_courses_2063885737736421378.md ## Multimodal Generative Inference Technologies-2 - URL: https://www.hiascend.com/eng/learn/courses/start/2038503117544480769 - Keywords: Online Courses,Start Learning Contents,Multimodal Generative Inference Technologies Multimodal Gen - Detail: llms-content/cms/zh_eng_learn_courses_start_2038503117544480769.md ## Operator Registration and Model Migration - 2 - URL: https://www.hiascend.com/eng/learn/courses/start/2038595940209913858 - Keywords: Operator Registration and Model Migration - Detail: llms-content/cms/zh_eng_learn_courses_start_2038595940209913858.md ## Full Process of Developing Large Models \(Intermediate\)-2 - URL: https://www.hiascend.com/eng/learn/courses/start/2038785535434289154 - Keywords: Intermediate,Online Courses,Full Process,Developing Large Models,Start Learning Contents,Introducti - Detail: llms-content/cms/zh_eng_learn_courses_start_2038785535434289154.md ## vLLM‑Ascend Inference Deployment and Tuning Overview-2 - URL: https://www.hiascend.com/eng/learn/courses/start/2038790772039606274 - Keywords: LLM,Online Courses,Ascend Inference Deployment,Tuning Overview,Start Learning Contents,Video,Atlas - Detail: llms-content/cms/zh_eng_learn_courses_start_2038790772039606274.md ## MindSpeed Reinforcement Learning \(RL\) - URL: https://www.hiascend.com/eng/learn/courses/start/2038792719698227201 - Keywords: RL,Online Courses,MindSpeed Reinforcement Learning,Start Learning Contents,了解详情 - Detail: llms-content/cms/zh_eng_learn_courses_start_2038792719698227201.md ## Triton Operator Development for Ascend \(Basic\) - 2 - URL: https://www.hiascend.com/eng/learn/courses/start/2038794788807114754 - Keywords: Triton Operator Development for Ascend \(Basic\) - Detail: llms-content/cms/zh_eng_learn_courses_start_2038794788807114754.md ## Full Process of Developing Large Models \(advanced\)-2 - URL: https://www.hiascend.com/eng/learn/courses/start/2038797720222945282 - Keywords: Online Courses,Full Process,Developing Large Models,Start Learning Contents,Introduction,MindStudio - Detail: llms-content/cms/zh_eng_learn_courses_start_2038797720222945282.md ## Full Process of Developing Large Models \(Basic\)-2 - URL: https://www.hiascend.com/eng/learn/courses/start/2038803033516929025 - Keywords: Basic,Online Courses,Full Process,Developing Large Models,Start Learning Contents,Introduction,Foun - Detail: llms-content/cms/zh_eng_learn_courses_start_2038803033516929025.md ## MindSpeed Foundation Model Training Process - URL: https://www.hiascend.com/eng/learn/courses/start/2038814742776377346 - Keywords: Online Courses,MindSpeed Foundation Model Training Process,Start Learning Contents,Video,Courseware - Detail: llms-content/cms/zh_eng_learn_courses_start_2038814742776377346.md ## Tutorial for Training and Fine-Tuning a Multimodal Model - URL: https://www.hiascend.com/eng/learn/courses/start/2038816548285837314 - Keywords: Tutorial,Training,Fine,Tuning,Online Courses,Multimodal Model,Start Learning Contents,Video - Detail: llms-content/cms/zh_eng_learn_courses_start_2038816548285837314.md ## MindSpeed-LLM Development Practices with Qwen2.5-7B - URL: https://www.hiascend.com/eng/learn/courses/start/2061334035028135937 - Keywords: MindSpeed,Qwen,Online Courses,LLM Development Practices,Start Learning Contents,Video,LLM Data Proc - Detail: llms-content/cms/zh_eng_learn_courses_start_2061334035028135937.md ## MindSpeed-LLM Development Practices - URL: https://www.hiascend.com/eng/learn/courses/start/2061347415289909250 - Keywords: Online Courses,LLM Development Practices,Start Learning Contents,MindSpeed LLM Overview,Weight Conv - Detail: llms-content/cms/zh_eng_learn_courses_start_2061347415289909250.md ## Fine-Tuning for CV and NLP Models-2 - URL: https://www.hiascend.com/eng/learn/courses/start/2061624006632947714 - Keywords: Tuning,Online Courses,Start Learning Contents,NLP Models Based,Atlas Platform,Based CV Model Fine,A - Detail: llms-content/cms/zh_eng_learn_courses_start_2061624006632947714.md ## DanceGRPO – A Multimodal Generative RL Framework and Its Transfer Tuning Practices-2 - URL: https://www.hiascend.com/eng/learn/courses/start/2061633415232761857 - Keywords: DanceGRPO,Multimodal,Generative,RL,Framework,Its,Transfer,Tuning - Detail: llms-content/cms/zh_eng_learn_courses_start_2061633415232761857.md ## CATLASS Template Library Deep Dive - 2 - URL: https://www.hiascend.com/eng/learn/courses/start/2061988756420173825 - Keywords: CATLASS Template Library Deep Dive - Detail: llms-content/cms/zh_eng_learn_courses_start_2061988756420173825.md ## Kickstart Your CATLASS Operator Development Journey - 2 - URL: https://www.hiascend.com/eng/learn/courses/start/2062436321536122882 - Keywords: Kickstart Your CATLASS Operator Development Journey - Detail: llms-content/cms/zh_eng_learn_courses_start_2062436321536122882.md ## Atlas Heterogeneous Programming Basics - 2 - URL: https://www.hiascend.com/eng/learn/courses/start/2062439998820855810 - Keywords: Atlas Heterogeneous Programming Basics - Detail: llms-content/cms/zh_eng_learn_courses_start_2062439998820855810.md ## Atlas-oriented Triton Operator Development \(Advanced\) - 2 - URL: https://www.hiascend.com/eng/learn/courses/start/2062736589200965634 - Keywords: Atlas-oriented Triton Operator Development \(Advanced\) - Detail: llms-content/cms/zh_eng_learn_courses_start_2062736589200965634.md ## Small Model Migration and Optimization-2 - URL: https://www.hiascend.com/eng/learn/courses/start/2063885737736421378 - Keywords: Optimization,Online Courses,Small Model Migration,Start Learning Contents,Couseware,Lab Instruction - Detail: llms-content/cms/zh_eng_learn_courses_start_2063885737736421378.md ## Image Repository-Atlas Community - URL: https://www.hiascend.com/en/developer/ascendhub - Description: Find the Docker images for diverse software - Keywords: Community,Image Repository Image Repository Find,Docker,Filter Image Type Training Inference R - Detail: llms-content/developer/en_developer_ascendhub.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/en/developer/mindx-sdk/imagecolor - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/developer/en_developer_mindx-sdk_imagecolor.md ## Atlas 800 AI Server-Ascend Community - URL: https://www.hiascend.com/en/hardware/ai-server - Description: The Atlas 800 inference server \(Model 3000\) supports up to eight Atlas 300I/V Pro cards, delivering powerful real-time inference and video analysis capabilities, and is widely used in AI inference sce - Keywords: Atlas,AI,Server,Ascend,Community,Product,Features,Specifications - Detail: llms-content/hardware/en_hardware_ai-server.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/en/hardware/compatibility - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/hardware/en_hardware_compatibility.md ## PyTorch Adaptation-Atlas Community - URL: https://www.hiascend.com/en/software/ai-frameworks - Description: Community-driven, Atlas-adapted PyTorch supports mainstream third-party ecosystems of PyTorch. - Keywords: PyTorch,Adaptation,Atlas,Community,Development,Scenarios,Learning,Resources - Detail: llms-content/software/en_software_ai-frameworks.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/en/software/cann/community - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/software/en_software_cann_community.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/en/software/cann/community-history - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/software/en_software_cann_community-history.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/en/software/cann/notice - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/software/en_software_cann_notice.md ## MindStudio - URL: https://www.hiascend.com/en/software/mindstudio - Description: Equips Atlas AI developers with an E2E solution for building Atlas AI applications, accelerating the processes of training, inference, and operator development. - Keywords: MindStudio,Facilitates,Atlas,Native,Development,Key,Features,Use - Detail: llms-content/software/en_software_mindstudio.md ## 昇腾社区-官网丨昇腾万里 让智能无所不及 - URL: https://www.hiascend.com/en/software/mindstudio/download - Keywords: 昇腾社区,官网丨昇腾万里,让智能无所不及,昇腾开发者社区,昇腾开源,昇腾论坛,Ascend,Powered - Detail: llms-content/software/en_software_mindstudio_download.md ## Atlas Community - URL: https://www.hiascend.com/en/software/mindstudio/protocol - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: Atlas,Community,By,View Details - Detail: llms-content/software/en_software_mindstudio_protocol.md ## MindCluster-Atlas Community - URL: https://www.hiascend.com/en/software/mindx-dl - Description: Enables end-to-end cluster operations such as job scheduling, O&M monitoring, and fault recovery. - Keywords: MindCluster,Atlas,Community,Key,Features,Development,Resources,System Health Monitoring ClusterD - Detail: llms-content/software/en_software_mindx-dl.md ## MindEdge-Atlas Community - URL: https://www.hiascend.com/en/software/mindx-edge - Description: It provides a lightweight enabling framework for device-edge-cloud collaboration and an open framework for edge device operations and management. It delivers secure, trusted, and comprehensive capabil - Keywords: MindEdge,Atlas,Community,Product,Stack,Key,Features,Development - Detail: llms-content/software/en_software_mindx-edge.md ## MindSDK-Atlas Community - URL: https://www.hiascend.com/en/software/mindx-sdk - Description: Consolidate industry capabilities to enable ultra-simplified development and ultimate performance for industry applications, empowering a wide range of industries. - Keywords: MindSDK,Atlas,Community,Product,Stack,Key,Features,Development - Detail: llms-content/software/en_software_mindx-sdk.md ## Atlas Community - URL: https://www.hiascend.com/en/software/protocol - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: Atlas,Community,By,View Details - Detail: llms-content/software/en_software_protocol.md ## 昇腾开发者活动-最新活动信息-昇腾社区 - URL: https://www.hiascend.com/activities - Description: 获取最新最热的开发者活动信息,与昇腾技术专家一起体验最前沿的技术分享 - Keywords: 昇腾开发者活动,最新活动信息,昇腾社区,昇腾活动,获取最新最热,的开发者活动,信息,与昇腾技术专 - Detail: llms-content/activities/zh_activities.md ## 新闻资讯-昇腾产业资讯-昇腾社区 - URL: https://www.hiascend.com/activities/news - Description: 获取昇腾产业、昇腾开发者、高校教育、生态伙伴和创新中心的最新资讯,方便快速了解昇腾生态发展。 - Keywords: 新闻资讯,昇腾产业资讯,昇腾社区,Intern,Mobius,AFD,MindStudio,Agent - Detail: llms-content/activities/zh_activities_news.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/0010784f31b94b8e836c4d7b404cf46e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_0010784f31b94b8e836c4d7b404cf46e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/002279c420cf4206a7a503bdfa687d6f - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_002279c420cf4206a7a503bdfa687d6f.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/0049d0daa972416f8835d460e2b04a5c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_0049d0daa972416f8835d460e2b04a5c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/011b83fba0194e0d8b6de393342cf132 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_011b83fba0194e0d8b6de393342cf132.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/012ddb47b5d64e0896d9ccadd7a799b2 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_012ddb47b5d64e0896d9ccadd7a799b2.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/02567ca8d6194e86be438d8ba959f7da - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_02567ca8d6194e86be438d8ba959f7da.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/02a7371337114d389ca5c5ee59b6fd6e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_02a7371337114d389ca5c5ee59b6fd6e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/02c505569941430b821edb2fdc28e063 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_02c505569941430b821edb2fdc28e063.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/02cb3f8218654b6c99ecd26e948cb1ca - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_02cb3f8218654b6c99ecd26e948cb1ca.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/033d9c344d5a405e8ea6bc161cd74042 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,任务指南,二,激励规则,CANN,了解详情,智能助手,月社区任务 - Detail: llms-content/activities/zh_activities_task-center_details_033d9c344d5a405e8ea6bc161cd74042.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/03fb4bbbe03240bd865ab3fb919d7243 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_03fb4bbbe03240bd865ab3fb919d7243.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/0401ca9e799b4b72b851655abde8ff16 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,CANN,了解详情,智能助手,训练营,暑期季 - Detail: llms-content/activities/zh_activities_task-center_details_0401ca9e799b4b72b851655abde8ff16.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/047fc0c342ea40409de6d15507575598 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_047fc0c342ea40409de6d15507575598.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/04830c17e21745188b1ca7748ab46369 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_04830c17e21745188b1ca7748ab46369.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/049c9ad479bb46639211dc36ffcd238d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_049c9ad479bb46639211dc36ffcd238d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/052d90fc69574bd7b1b1033ad4786d88 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_052d90fc69574bd7b1b1033ad4786d88.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/056667f4d15c4c53a4c3cb2ec97242aa - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_056667f4d15c4c53a4c3cb2ec97242aa.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/05ea68bcd6674c1d83cdfc3328a3cc97 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_05ea68bcd6674c1d83cdfc3328a3cc97.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/0690b2114c704b59b85ecc402b9df311 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_0690b2114c704b59b85ecc402b9df311.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/0706fa3b6a5d4666a82289ca8da6e473 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_0706fa3b6a5d4666a82289ca8da6e473.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/071ffce696b047ee992c34e96c4e9b85 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_071ffce696b047ee992c34e96c4e9b85.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/07645c6a108c4ed68368a910c5f4aa2e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_07645c6a108c4ed68368a910c5f4aa2e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/07b3e44caea248fbaa9d283407e02520 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_07b3e44caea248fbaa9d283407e02520.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/0821734991d24d038b553fb6aee4e45c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_0821734991d24d038b553fb6aee4e45c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/09971160f1d740a3afe4478786b1ad02 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_09971160f1d740a3afe4478786b1ad02.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/0a8e3aad01784008af94a83c5e31401b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_0a8e3aad01784008af94a83c5e31401b.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/0ad7f2f193e64b71b5f9bd428df71248 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_0ad7f2f193e64b71b5f9bd428df71248.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/0b2e0bd83aeb4e7985437d227763b475 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_0b2e0bd83aeb4e7985437d227763b475.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/0b7196bd148c4c0e8bdba188cd9e1655 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_0b7196bd148c4c0e8bdba188cd9e1655.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/0cf07e393d0c4ecaa1562d1ef396a91e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_0cf07e393d0c4ecaa1562d1ef396a91e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/0e0edf09b04742cf8496f3030a12bbeb - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_0e0edf09b04742cf8496f3030a12bbeb.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/0e3b42c9444542c590bb3359e4fa55ad - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_0e3b42c9444542c590bb3359e4fa55ad.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/0ff3b32d17654ab7b083338ca63bda27 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_0ff3b32d17654ab7b083338ca63bda27.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/10937d819bae46108e5621e3aab0c92e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_10937d819bae46108e5621e3aab0c92e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/10c5677e30ee42e99f4297bd3e322973 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_10c5677e30ee42e99f4297bd3e322973.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/10e36c1aa4ab49f0a997b4ba3b742101 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_10e36c1aa4ab49f0a997b4ba3b742101.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/1266c3c8e34b4ee9b67129a52435c5a4 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_1266c3c8e34b4ee9b67129a52435c5a4.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/12a1cc995b4340ddbe042f33223301f0 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_12a1cc995b4340ddbe042f33223301f0.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/12f1b7e35c204c9e9d1ca42557c9472e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_12f1b7e35c204c9e9d1ca42557c9472e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/12fcfaae91484ceeb9c7e55b3a57463c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_12fcfaae91484ceeb9c7e55b3a57463c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/13318cb87ad94fcdb93da67ffe12f2fd - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,任务指南,二,激励规则,CANN,了解详情,智能助手,月社区任务 - Detail: llms-content/activities/zh_activities_task-center_details_13318cb87ad94fcdb93da67ffe12f2fd.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/1343b9fa7d434a599037cb2b4b395b73 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_1343b9fa7d434a599037cb2b4b395b73.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/1416ac1759264dd09d68af9e1b070a09 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_1416ac1759264dd09d68af9e1b070a09.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/14587adc4e5b4b50aedd1e9164b46d08 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_14587adc4e5b4b50aedd1e9164b46d08.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/146532cf17c44a95a2594d8930010b34 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_146532cf17c44a95a2594d8930010b34.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/154c931ef99e448c93cc7b45ddb95efc - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_154c931ef99e448c93cc7b45ddb95efc.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/158b243263b74b2c86fae20c5220523a - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_158b243263b74b2c86fae20c5220523a.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/164fb674f466471f9a89a4f0236bc423 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_164fb674f466471f9a89a4f0236bc423.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/17288e1c14f841c3b53de56b62b14523 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_17288e1c14f841c3b53de56b62b14523.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/1753e46dc9b744bebeca6a99be2a617e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,任务指南,报名步骤,任务开发,激励申请,二,激励规则,CANN - Detail: llms-content/activities/zh_activities_task-center_details_1753e46dc9b744bebeca6a99be2a617e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/1763b1ff7c334173b90611a75693990f - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_1763b1ff7c334173b90611a75693990f.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/17ac5567930c42d88873c1925a97414a - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_17ac5567930c42d88873c1925a97414a.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/1800571e00b64c75a01d9273851112a8 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_1800571e00b64c75a01d9273851112a8.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/19039dd70afe41cab359b68c252ff053 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_19039dd70afe41cab359b68c252ff053.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/19b5266c95a94501a2ae2e171af4a7e6 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_19b5266c95a94501a2ae2e171af4a7e6.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/19bb4e91d2bd4417837aa70a1f0fe6a1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_19bb4e91d2bd4417837aa70a1f0fe6a1.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/1a96e49ff4044557b7fd22da8c5bd517 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_1a96e49ff4044557b7fd22da8c5bd517.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/1af6a050039447bd8cbcda887715fbd2 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_1af6a050039447bd8cbcda887715fbd2.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/1b130fbbb007497f83dcf19160923bff - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_1b130fbbb007497f83dcf19160923bff.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/1b7cd9abf27448d28263ea3a4844d355 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_1b7cd9abf27448d28263ea3a4844d355.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/1b97dd92b2b4429fa9593c598998cd4a - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_1b97dd92b2b4429fa9593c598998cd4a.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/1be0e7bb8d7e4fa4b1760c2789dedde4 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_1be0e7bb8d7e4fa4b1760c2789dedde4.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/1c06f6f6ae6e41289712d4f4aab6b329 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_1c06f6f6ae6e41289712d4f4aab6b329.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/1d12802b578d492993df5b96bc7b1613 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_1d12802b578d492993df5b96bc7b1613.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/1de231a380e34ae9bee998c40178386d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_1de231a380e34ae9bee998c40178386d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/1f8ee1ba18ee43fda29e8908e5fe70ba - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_1f8ee1ba18ee43fda29e8908e5fe70ba.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/1fea4135adab4acfb7c5bc80143532e1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_1fea4135adab4acfb7c5bc80143532e1.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/2032816818a549f0a96611654b879dbf - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_2032816818a549f0a96611654b879dbf.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/20da02786aa0499da8b133b96a0e364e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_20da02786aa0499da8b133b96a0e364e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/2332f00152284ecf963391bf0da472f3 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_2332f00152284ecf963391bf0da472f3.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/23764a136a0849648315705eabb14f50 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_23764a136a0849648315705eabb14f50.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/240f171735f54869a0bd5e94449787d7 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_240f171735f54869a0bd5e94449787d7.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/2444ed396e6f4a6d85dd42112e58faed - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_2444ed396e6f4a6d85dd42112e58faed.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/265f6df04c014af7aee41b6c752bb548 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_265f6df04c014af7aee41b6c752bb548.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/2694ff67c9164ea08331266cf7e91f94 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,CANN,了解详情,智能助手,训练营,暑期季 - Detail: llms-content/activities/zh_activities_task-center_details_2694ff67c9164ea08331266cf7e91f94.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/26b60f94d37940c09a3c0ee58a126f69 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_26b60f94d37940c09a3c0ee58a126f69.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/26e984be01e64be1aceb767dd42c090c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_26e984be01e64be1aceb767dd42c090c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/27a6c99db2054a69ae2601ce34beac89 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_27a6c99db2054a69ae2601ce34beac89.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/296a5dbc3d2e4ba2b076b257ff85c6c4 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_296a5dbc3d2e4ba2b076b257ff85c6c4.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/2a3fb84ad43947e0b05fb13158844918 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_2a3fb84ad43947e0b05fb13158844918.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/2a69651bd6e9448b91cfcaee4cc4350b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_2a69651bd6e9448b91cfcaee4cc4350b.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/2b9a2399a7bd40b581ac5145d3e46751 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_2b9a2399a7bd40b581ac5145d3e46751.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/2bde3d080e0b41dda379f4657c566f1e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_2bde3d080e0b41dda379f4657c566f1e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/2cd373e939984a8dad4c7ab8e51e0aec - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_2cd373e939984a8dad4c7ab8e51e0aec.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/2db549211e3f4abf803e6c0ced9fe6f9 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_2db549211e3f4abf803e6c0ced9fe6f9.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/2e74a8ecf8e34b398bdbaffe615e6dcf - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_2e74a8ecf8e34b398bdbaffe615e6dcf.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/2f03cc5fa6824b5690e7ba80e6717bcb - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_2f03cc5fa6824b5690e7ba80e6717bcb.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/2f80bf924bd24a6caec405530cb53721 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_2f80bf924bd24a6caec405530cb53721.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/3023f238af4c4666807aa38d777ea57a - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_3023f238af4c4666807aa38d777ea57a.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/318907dd9bfa4babb9ac8ddf0a0672e0 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_318907dd9bfa4babb9ac8ddf0a0672e0.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/31cf612d6020460a956ba0a79d4f3f5e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_31cf612d6020460a956ba0a79d4f3f5e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/32a3942623eb4aab8f1938361fa65e1f - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_32a3942623eb4aab8f1938361fa65e1f.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/3360b60cdc364c2f9d12b8bf70a350e7 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_3360b60cdc364c2f9d12b8bf70a350e7.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/33883224bb804693b4f3debe8958ae7b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_33883224bb804693b4f3debe8958ae7b.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/33b066cec05d4bf0b89b5331e1c4c32e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_33b066cec05d4bf0b89b5331e1c4c32e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/33c2e595eb274fefa6ef88d33f2132c2 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_33c2e595eb274fefa6ef88d33f2132c2.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/33e8c833692a4d789b61e66882f0d3cd - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_33e8c833692a4d789b61e66882f0d3cd.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/34aa3269948049079ff4b5406d0e8a69 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_34aa3269948049079ff4b5406d0e8a69.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/35472d30c5fc471dbb532164e3275303 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_35472d30c5fc471dbb532164e3275303.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/3555cda2501d4c429591401646ed93ff - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_3555cda2501d4c429591401646ed93ff.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/3647c22f54e84be8a744cff846e7cc34 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_3647c22f54e84be8a744cff846e7cc34.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/36d3c0f3e6514a36b97111be8d2743bd - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_36d3c0f3e6514a36b97111be8d2743bd.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/372a404481ca487ca994cb3cb7babfe2 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_372a404481ca487ca994cb3cb7babfe2.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/383553c6bd244a1c9cb0e0ce77563f27 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_383553c6bd244a1c9cb0e0ce77563f27.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/384a125a7e734b5cb76648ef63dea487 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_384a125a7e734b5cb76648ef63dea487.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/398fee0f8de043eaa688c5d390c125e3 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_398fee0f8de043eaa688c5d390c125e3.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/3993e023c362443f8c6db56a25d510fe - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_3993e023c362443f8c6db56a25d510fe.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/39f1f106c04946349caa3d5cbe0b0da3 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_39f1f106c04946349caa3d5cbe0b0da3.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/3bd9ed5078884632a7c59f7c5d0eae9a - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_3bd9ed5078884632a7c59f7c5d0eae9a.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/3bf4fb5b929f4b3c9ab44a99cf87bad3 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_3bf4fb5b929f4b3c9ab44a99cf87bad3.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/3cf583181b4843e9abcc89dcbbc486d6 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_3cf583181b4843e9abcc89dcbbc486d6.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/3ddc72b416e240b996184c433c4bb347 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_3ddc72b416e240b996184c433c4bb347.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/3e76f9f260f94dfb9e4e6870f20d6ae0 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_3e76f9f260f94dfb9e4e6870f20d6ae0.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/3f1d1137645144348862b5e807c920f6 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_3f1d1137645144348862b5e807c920f6.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/400c0a544cff45a8b70fa993859d5337 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_400c0a544cff45a8b70fa993859d5337.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/4107ecbf6a344851be0813ed4076932a - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_4107ecbf6a344851be0813ed4076932a.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/41a1a8edb4c54586af35f26f957a6c72 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_41a1a8edb4c54586af35f26f957a6c72.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/41e4151bfd1d41dfa98aba90ab3d457c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_41e4151bfd1d41dfa98aba90ab3d457c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/443b1d34edce4575acb7d014deaa4a56 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_443b1d34edce4575acb7d014deaa4a56.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/444e5032257e49629acd623a57178583 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_444e5032257e49629acd623a57178583.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/470aa3f96f44416693529ccbb160ed28 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_470aa3f96f44416693529ccbb160ed28.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/473fddc131dc44dd9480957e53d8266e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_473fddc131dc44dd9480957e53d8266e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/47ecea34240e4507a468cdc71a897fe2 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_47ecea34240e4507a468cdc71a897fe2.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/49cc96502d2a4667999902021a5da512 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_49cc96502d2a4667999902021a5da512.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/49e654fc76884922981f8b99ebae960a - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_49e654fc76884922981f8b99ebae960a.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/4b45f05405cc41bb8b6d754c0abd7745 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_4b45f05405cc41bb8b6d754c0abd7745.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/4b546265523749409c407002c55440e4 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_4b546265523749409c407002c55440e4.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/4b8eb5c9227942cea2e62227e0e64e4e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_4b8eb5c9227942cea2e62227e0e64e4e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/4bcbfb3ace6e41f3baa99b417b1e6b38 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_4bcbfb3ace6e41f3baa99b417b1e6b38.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/4bf774d1cd474c1a9e047f8b2dd5e32d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_4bf774d1cd474c1a9e047f8b2dd5e32d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/4c14bb71e70e4a149a1e846ceaae7b1c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_4c14bb71e70e4a149a1e846ceaae7b1c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/4c1d164358254340ad6510684431e184 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_4c1d164358254340ad6510684431e184.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/4cacc41e15f7450b87cf40bcb95c37cb - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_4cacc41e15f7450b87cf40bcb95c37cb.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/4cc43ef4bc2349afa29990f3d20b45b6 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_4cc43ef4bc2349afa29990f3d20b45b6.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/4d5b390262024b719590516f1f7bef6e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_4d5b390262024b719590516f1f7bef6e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/4dd607cf25bf408f82e8ea8ac2dc791b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_4dd607cf25bf408f82e8ea8ac2dc791b.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/4e1ccd7daa354dcea7fd86fe36bfef1e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_4e1ccd7daa354dcea7fd86fe36bfef1e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/4f17dfdfb0a54aec9fc545677e869319 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_4f17dfdfb0a54aec9fc545677e869319.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/4fd45b4aea774d25b2794d4488dcc741 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_4fd45b4aea774d25b2794d4488dcc741.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/5035396365074fd9b561f2882ef962d9 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_5035396365074fd9b561f2882ef962d9.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/5174615f250b4ce6bcebd505f97561f3 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_5174615f250b4ce6bcebd505f97561f3.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/5179d3e77f584bb88ddcd94fa19bbf96 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_5179d3e77f584bb88ddcd94fa19bbf96.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/518abfcec950487f98baba5e4a55038e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_518abfcec950487f98baba5e4a55038e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/51da4cafb72e43a6a78e3f142e186d58 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_51da4cafb72e43a6a78e3f142e186d58.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/524bb22c4dab4f2c9ee4b735e0c85c17 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_524bb22c4dab4f2c9ee4b735e0c85c17.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/5250789b5e5243538e775afef0333135 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_5250789b5e5243538e775afef0333135.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/5387fadaef7c43128324cc6992e89606 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_5387fadaef7c43128324cc6992e89606.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/54d64097b4f947fe8c68f27249d18e0c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_54d64097b4f947fe8c68f27249d18e0c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/54dfc268867145bb873110805363e187 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_54dfc268867145bb873110805363e187.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/55e685adca054828aea2e5b579fbd6c6 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_55e685adca054828aea2e5b579fbd6c6.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/561adc1d5ef34f9d9455b694430b3af8 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_561adc1d5ef34f9d9455b694430b3af8.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/567005244b204bf59855da06493fbbaa - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_567005244b204bf59855da06493fbbaa.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/5827e6ea9da0485bbf2c82c4665ee567 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_5827e6ea9da0485bbf2c82c4665ee567.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/586b6a9a73074e32b28c9b33ee4c34b3 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_586b6a9a73074e32b28c9b33ee4c34b3.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/592a4023077d47d8aa9832b687ff0dfc - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_592a4023077d47d8aa9832b687ff0dfc.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/59bb79083a9749bfb55fc1527ddadd21 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_59bb79083a9749bfb55fc1527ddadd21.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/5a06f7b4a8f14f9d9820322898e0bda6 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_5a06f7b4a8f14f9d9820322898e0bda6.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/5a431027d2b74fed8a292ab087867b5c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_5a431027d2b74fed8a292ab087867b5c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/5b74b7fdec0a4d93a20b030c30a93808 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_5b74b7fdec0a4d93a20b030c30a93808.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/5bb7cf2b88d8490998a65383608dbc8d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_5bb7cf2b88d8490998a65383608dbc8d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/5c5ee0ae7a8442189c412db48ccd9077 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_5c5ee0ae7a8442189c412db48ccd9077.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/5d81433877bb4451b23f4dcb80c56bca - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_5d81433877bb4451b23f4dcb80c56bca.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/5e635d8fbcd14cc19bc3a0d72ec6aa3c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_5e635d8fbcd14cc19bc3a0d72ec6aa3c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/5e78634df4c64da08a08e5796a4bd954 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_5e78634df4c64da08a08e5796a4bd954.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/5f52061da5794d25a685f28553a7865f - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_5f52061da5794d25a685f28553a7865f.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/6032a808bd3147a28b9e5cada9414477 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_6032a808bd3147a28b9e5cada9414477.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/63a783ad139942b9beaee10113f2842c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_63a783ad139942b9beaee10113f2842c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/63eeb8ef5c6b4a91903f7ce84766927a - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_63eeb8ef5c6b4a91903f7ce84766927a.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/65881f127dd14c45bf5021b843b2a3c9 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_65881f127dd14c45bf5021b843b2a3c9.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/6872dd629e37455a96007e66b6d173d4 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_6872dd629e37455a96007e66b6d173d4.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/6901f4ae7cb0450ea4d8db11af334c2c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_6901f4ae7cb0450ea4d8db11af334c2c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/6af306469a8d4819affa00052366b921 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_6af306469a8d4819affa00052366b921.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/6b0391db794d42fa9bb073f76e4366ca - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_6b0391db794d42fa9bb073f76e4366ca.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/6bbde34bb6574e2a9c172e62300b6ba5 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_6bbde34bb6574e2a9c172e62300b6ba5.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/6bfb07281cf64f09abe4e671faef308f - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_6bfb07281cf64f09abe4e671faef308f.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/6c521e2cc81a43e7989957d6798d1aeb - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_6c521e2cc81a43e7989957d6798d1aeb.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/6d05b998b4b54731a0cfc4b9cf54f3ce - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_6d05b998b4b54731a0cfc4b9cf54f3ce.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/6d6aa3dfef1444e58a81a50cf79fbbb6 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_6d6aa3dfef1444e58a81a50cf79fbbb6.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/6da9b4e1760a4152858da44bc18cbcc2 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_6da9b4e1760a4152858da44bc18cbcc2.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/6e0935e5cd0747348f488b2f7e1e79c8 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_6e0935e5cd0747348f488b2f7e1e79c8.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/6e2cdfb0e04144809907eb59fcd26564 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_6e2cdfb0e04144809907eb59fcd26564.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/6ef9a43f655541ceb75f6311458d0ac4 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_6ef9a43f655541ceb75f6311458d0ac4.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/6f803d6930df4794b69b38250334c6d1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_6f803d6930df4794b69b38250334c6d1.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/6f9982690865456080d252ea5ff7d564 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_6f9982690865456080d252ea5ff7d564.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/6fb5610b108548b580408e579b24a0f6 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_6fb5610b108548b580408e579b24a0f6.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/704b8a2193214d44b70c5e29cafc0f78 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_704b8a2193214d44b70c5e29cafc0f78.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/705a4527eb1e42b6bc50d5b71bc4f89a - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_705a4527eb1e42b6bc50d5b71bc4f89a.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/707e64bbe8034f38bcb1de31507aad65 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_707e64bbe8034f38bcb1de31507aad65.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/70fc00ca218b487fac5b97e948b7ccbb - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_70fc00ca218b487fac5b97e948b7ccbb.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/71bdbd3e6d4f4dbc852f30077a6b3ce6 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_71bdbd3e6d4f4dbc852f30077a6b3ce6.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/71e4888d2c42432d95f9d15b7aa409e6 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_71e4888d2c42432d95f9d15b7aa409e6.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/7297597c2e4f49368667503d066d340b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_7297597c2e4f49368667503d066d340b.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/72f8488aa4b44742a5264732d6c9e974 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_72f8488aa4b44742a5264732d6c9e974.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/73527ff5038e406e895f04dc5c6ff648 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_73527ff5038e406e895f04dc5c6ff648.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/7394434a30ce4a86a953ae4754f893f2 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_7394434a30ce4a86a953ae4754f893f2.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/73cd3918644847d98bd9864eccbb4972 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_73cd3918644847d98bd9864eccbb4972.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/74cb9ca2c9af40b48f2ef66518d39c9c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_74cb9ca2c9af40b48f2ef66518d39c9c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/74e7dbf3c10445b9b5b390c8a27e323b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_74e7dbf3c10445b9b5b390c8a27e323b.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/76491f26c09d4fba9c89af53a68680ff - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_76491f26c09d4fba9c89af53a68680ff.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/7728d85ebb5a460c95a880742dfabcea - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_7728d85ebb5a460c95a880742dfabcea.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/773d43526b3845ada6341706b3d38366 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_773d43526b3845ada6341706b3d38366.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/77a25968d2514f7e80d27a6fbacf87ba - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_77a25968d2514f7e80d27a6fbacf87ba.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/77a3059d99f14f70be905ec3ad296478 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_77a3059d99f14f70be905ec3ad296478.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/77f59e00099b444586d53d63d9ac6dba - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_77f59e00099b444586d53d63d9ac6dba.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/78d82f9feb1e40c9a19ecb6e0bce6d67 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_78d82f9feb1e40c9a19ecb6e0bce6d67.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/796ccec98d0f4ea483ee8d964918580f - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_796ccec98d0f4ea483ee8d964918580f.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/7c4bfab471a9412f9485be6b82fcbd50 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_7c4bfab471a9412f9485be6b82fcbd50.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/7c73b333a883459bb401a81de3afb261 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_7c73b333a883459bb401a81de3afb261.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/7c79bfa189f342c8867a68cbf48a8226 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_7c79bfa189f342c8867a68cbf48a8226.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/7dc5fab84a874b3abaf7e3c5e7ebe661 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_7dc5fab84a874b3abaf7e3c5e7ebe661.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/7e41a5307d054e01b640a309e6b3d5ac - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_7e41a5307d054e01b640a309e6b3d5ac.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/7fad00098c444bd5a9ab56696850d7ae - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_7fad00098c444bd5a9ab56696850d7ae.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/7fc50287be4643c0915a5e8c3023b2fc - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_7fc50287be4643c0915a5e8c3023b2fc.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/7fdd65c8210b42db9e698b80104cd798 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_7fdd65c8210b42db9e698b80104cd798.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/8011546163d84d4e826c16aeb7d8709d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_8011546163d84d4e826c16aeb7d8709d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/81374519e3df4dab863f5036a717b34b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_81374519e3df4dab863f5036a717b34b.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/83283221606b4bc68ef637ff727ed12d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_83283221606b4bc68ef637ff727ed12d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/83d133985e7e449f8b85dd30d89bb365 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_83d133985e7e449f8b85dd30d89bb365.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/8444e352b51f411ea8293d54bc3e4e64 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_8444e352b51f411ea8293d54bc3e4e64.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/84874da98d3248b586e2382de84b7d07 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_84874da98d3248b586e2382de84b7d07.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/858172838dd04faca25e27fa8db5d789 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_858172838dd04faca25e27fa8db5d789.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/865a820d0ec64bc0b94695012a871f04 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_865a820d0ec64bc0b94695012a871f04.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/86b0605646dc469a964b2e4e5aee1594 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_86b0605646dc469a964b2e4e5aee1594.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/8708244ede58410986b29536178b4147 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_8708244ede58410986b29536178b4147.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/872bd902ddb44811915ade5685071b8b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_872bd902ddb44811915ade5685071b8b.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/8846d27e0fbd45a89e49ed84ea1bd96c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_8846d27e0fbd45a89e49ed84ea1bd96c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/8848fe17a677463582f3b5702de2c00d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_8848fe17a677463582f3b5702de2c00d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/88b0826dfab3424b91d594c64f515ac1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_88b0826dfab3424b91d594c64f515ac1.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/891b4ba0dcbf4505a66939258b6d1064 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_891b4ba0dcbf4505a66939258b6d1064.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/8ab798734db742bab65aa0cb1073d73d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_8ab798734db742bab65aa0cb1073d73d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/8b0fa2e918bf4cc8b9385fe6754fe53b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_8b0fa2e918bf4cc8b9385fe6754fe53b.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/8b2d499cf0de4100ade9140727465434 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_8b2d499cf0de4100ade9140727465434.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/8d0e7611be3a4b89b4253209723a71f1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_8d0e7611be3a4b89b4253209723a71f1.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/8d1d6c0556154651a992e19015841490 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_8d1d6c0556154651a992e19015841490.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/8d7fca77914a44a6bd51ab7a1a9c99b3 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_8d7fca77914a44a6bd51ab7a1a9c99b3.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/8efc3c95511f4692b1095b630ed91ecb - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_8efc3c95511f4692b1095b630ed91ecb.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/8fd772e452be42929c70113bf397bba7 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_8fd772e452be42929c70113bf397bba7.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/8fe5e4fcf469441d930f5e0d1333ed89 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_8fe5e4fcf469441d930f5e0d1333ed89.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/90ae777e8fbc4b3a9b87e68fc38f4423 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_90ae777e8fbc4b3a9b87e68fc38f4423.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/90c89505bffe428fa05a2cc9e1f33341 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_90c89505bffe428fa05a2cc9e1f33341.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/9205fb993f2440c9b1ebda09489cfb60 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_9205fb993f2440c9b1ebda09489cfb60.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/9211b96fcf6f4a5f83056c2840ca7eaa - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_9211b96fcf6f4a5f83056c2840ca7eaa.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/9295a243b9d64d419246f6fb513df52b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_9295a243b9d64d419246f6fb513df52b.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/937852696c8b4e8fb882692b06d79e46 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_937852696c8b4e8fb882692b06d79e46.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/939646f942f143da9b7edb75e4b8070e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_939646f942f143da9b7edb75e4b8070e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/95a04c20ae9f491e8c2f58c80161343b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_95a04c20ae9f491e8c2f58c80161343b.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/95a083ff2d2841ba916f6d5e8f3938c9 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_95a083ff2d2841ba916f6d5e8f3938c9.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/95ad2d090b294dddafc4a082e2954e07 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_95ad2d090b294dddafc4a082e2954e07.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/9681f876de254d9981e0a67bc0f8e2ea - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_9681f876de254d9981e0a67bc0f8e2ea.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/96a7ef9c2e354061b4ba21a781c15721 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_96a7ef9c2e354061b4ba21a781c15721.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/971bef9565b2498885428186a23c663d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_971bef9565b2498885428186a23c663d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/97f701ede95e4189965902ed409ce10f - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_97f701ede95e4189965902ed409ce10f.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/9866acd962524731b16bef5733b93208 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_9866acd962524731b16bef5733b93208.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/999511b7b8924d9c8a5235645a64f8aa - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_999511b7b8924d9c8a5235645a64f8aa.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/9b4b787019674cc2a1fee54f466a5f0d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_9b4b787019674cc2a1fee54f466a5f0d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/9b8ca54a86ce4379a5a2e0c1ba827e72 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_9b8ca54a86ce4379a5a2e0c1ba827e72.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/9bdca19bff8441b69ac062ce53ef967e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_9bdca19bff8441b69ac062ce53ef967e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/9d03a4f6de6942f7b0f37f35bb6c3381 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_9d03a4f6de6942f7b0f37f35bb6c3381.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/9dbd79f071fc401c815cac2fd397aa4f - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_9dbd79f071fc401c815cac2fd397aa4f.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/9ec2e63016534d1c9562f0f7bc773964 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_9ec2e63016534d1c9562f0f7bc773964.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/9ecf4f5a362e46818322cbed1d9a3e26 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_9ecf4f5a362e46818322cbed1d9a3e26.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/9ee31b205dab4904a6866a4e31f57fbe - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_9ee31b205dab4904a6866a4e31f57fbe.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/9f2fce3228e2417e86d015398dd99b7d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_9f2fce3228e2417e86d015398dd99b7d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/9f7b6ecacb324f9f9663d2a195568e10 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_9f7b6ecacb324f9f9663d2a195568e10.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/9f80b2827c06499c80a34a94221557fb - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_9f80b2827c06499c80a34a94221557fb.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a03a615fcbbc41a3872c2d6bd74c3bfe - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_a03a615fcbbc41a3872c2d6bd74c3bfe.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a10c3e1d45314e85a028748b470d7fce - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_a10c3e1d45314e85a028748b470d7fce.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a154492af9ee42638590162f541e0fcf - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_a154492af9ee42638590162f541e0fcf.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a1e441ee3e5d4756b99e814dd162d067 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_a1e441ee3e5d4756b99e814dd162d067.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a23773536b0a4afa9aa22d139dd80253 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_a23773536b0a4afa9aa22d139dd80253.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a26f5dff815c4eb0ad91918b96cd851f - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_a26f5dff815c4eb0ad91918b96cd851f.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a295eca5ed4e44be855306f38e80020e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_a295eca5ed4e44be855306f38e80020e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a29784bc54294909ba4e63b237b25f64 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_a29784bc54294909ba4e63b237b25f64.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a4d827b887844a6e994bddf07bd6579f - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_a4d827b887844a6e994bddf07bd6579f.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a56227a6b2334104b53a64252c8e1551 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_a56227a6b2334104b53a64252c8e1551.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a5773d060b3c40bf8d64751c7d51a70f - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_a5773d060b3c40bf8d64751c7d51a70f.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a5f86d17fddd4eadab032b0c772e4889 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_a5f86d17fddd4eadab032b0c772e4889.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a6433207ee1148b0848e78685b35f932 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_a6433207ee1148b0848e78685b35f932.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a7488e41686c48759ff1bcb3f336ebee - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_a7488e41686c48759ff1bcb3f336ebee.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a8036accdcf94f26aa0758e6c2da2582 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_a8036accdcf94f26aa0758e6c2da2582.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a821c73f906946d2afacdaf64222d545 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_a821c73f906946d2afacdaf64222d545.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a8694c6567544f6c990d45b0b57978a1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_a8694c6567544f6c990d45b0b57978a1.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a8b93de90003445b873ce85580b0e3a3 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_a8b93de90003445b873ce85580b0e3a3.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a8eb20ab03f7471c89b2faab82894e98 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_a8eb20ab03f7471c89b2faab82894e98.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a93379d492c94434b62dd40837fb082a - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_a93379d492c94434b62dd40837fb082a.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a99941f9c40543828ad3c779cd63593e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_a99941f9c40543828ad3c779cd63593e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/a9c63c4b2a4a4c77a9e5efa3dc38bc4d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_a9c63c4b2a4a4c77a9e5efa3dc38bc4d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/aab45f51b49f487c8f83c2b80f92ff0d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_aab45f51b49f487c8f83c2b80f92ff0d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/aafaa7ddc122493a967c9780618adff5 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_aafaa7ddc122493a967c9780618adff5.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/ac82f3843a87435fb4da977f9472550d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_ac82f3843a87435fb4da977f9472550d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/ad15844d99094d68956b30458d6e21dd - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_ad15844d99094d68956b30458d6e21dd.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/ae5df91dd96a4db082292f2e83a99ff9 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_ae5df91dd96a4db082292f2e83a99ff9.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/ae8562a16d4d45fca6ff8bfd3bdc0069 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_ae8562a16d4d45fca6ff8bfd3bdc0069.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/af18b25e751f439f99aa8ba419cf91c3 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_af18b25e751f439f99aa8ba419cf91c3.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/af92de7d28ad41269d672914ce799a7e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_af92de7d28ad41269d672914ce799a7e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/af9480c58cf647d88508e903d2e07fa5 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_af9480c58cf647d88508e903d2e07fa5.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b0a28354082e4879bc924e186e7f952b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_b0a28354082e4879bc924e186e7f952b.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b1b8cf14fcd049f7815b563fcf43c60a - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_b1b8cf14fcd049f7815b563fcf43c60a.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b225e3557361466d95b7d69f38c91795 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_b225e3557361466d95b7d69f38c91795.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b23ed72ce61a4aae885d672bc117c6a5 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_b23ed72ce61a4aae885d672bc117c6a5.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b24a925965ef49ebaf254e655b1265cc - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_b24a925965ef49ebaf254e655b1265cc.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b2b37763e4d042c7953d1c3b15cca54e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_b2b37763e4d042c7953d1c3b15cca54e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b401085660d841adaa869e82cc4f0bc0 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_b401085660d841adaa869e82cc4f0bc0.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b403ec66d5f84c9a97ba9c4f96e18e57 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_b403ec66d5f84c9a97ba9c4f96e18e57.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b43cfa1721424259a2e3de51596caad9 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_b43cfa1721424259a2e3de51596caad9.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b44e1c49c1024170b9563f35b897aec5 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_b44e1c49c1024170b9563f35b897aec5.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b464e64c59e2434c9931713e7add3ccf - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_b464e64c59e2434c9931713e7add3ccf.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b4df0dde6e324156811731e94a52c8dd - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_b4df0dde6e324156811731e94a52c8dd.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b5064243ace740d7ac8380c8089dfa66 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_b5064243ace740d7ac8380c8089dfa66.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b61719ea6cae4638a768c192d4c648a1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_b61719ea6cae4638a768c192d4c648a1.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b62d7b914a91429d93eb202529e24a42 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_b62d7b914a91429d93eb202529e24a42.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b6a09ddadecd446083f19f6a3471f7f1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_b6a09ddadecd446083f19f6a3471f7f1.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b6d9e8aaa2fc42689d0edcc1311c90e1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_b6d9e8aaa2fc42689d0edcc1311c90e1.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b6f0a31b2a8349b1aab03f881516cf6e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_b6f0a31b2a8349b1aab03f881516cf6e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b711580fbcbb4ae5a9006878433a54f1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_b711580fbcbb4ae5a9006878433a54f1.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b7dff962215844b0b8a403913de93e8c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_b7dff962215844b0b8a403913de93e8c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b86b2e773d1d49a48d4d170f03c7127c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_b86b2e773d1d49a48d4d170f03c7127c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b8bb7508f5ef43df9402dfb62bd57afa - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_b8bb7508f5ef43df9402dfb62bd57afa.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b9160acbc6b44e18af0b0c5793fc4323 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_b9160acbc6b44e18af0b0c5793fc4323.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/b97a00f6aa774673a3324d7273430841 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_b97a00f6aa774673a3324d7273430841.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/baa964d2254b4f8b8345114fb580fe08 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_baa964d2254b4f8b8345114fb580fe08.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/bab27405e1784b0bba2d5dd00355b512 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_bab27405e1784b0bba2d5dd00355b512.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/bb7e0daf70c14778b50f068fad148f55 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_bb7e0daf70c14778b50f068fad148f55.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/bbb4e2ffc2d34620b0ab48e6c16e0897 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_bbb4e2ffc2d34620b0ab48e6c16e0897.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/bcee7dd797e44353857ce87f39ca9b99 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_bcee7dd797e44353857ce87f39ca9b99.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/bd8490a5d9704c568ae576b4775803af - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_bd8490a5d9704c568ae576b4775803af.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/bdc748f1641a48f998dc99577fa20797 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_bdc748f1641a48f998dc99577fa20797.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/bdd99754360d4e9bbf0a0dc8b0bc433c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_bdd99754360d4e9bbf0a0dc8b0bc433c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/be55aac2f88546dda844c158076d9377 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_be55aac2f88546dda844c158076d9377.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/bf0a74e151d24dee9fa4eaf5deee70f4 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_bf0a74e151d24dee9fa4eaf5deee70f4.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/bf280a00425f4573a396cde06385e70f - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_bf280a00425f4573a396cde06385e70f.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/c15a5967c9e84c6a90bbfd90657f36e2 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_c15a5967c9e84c6a90bbfd90657f36e2.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/c1f3ac9f705045d98139c373a1705dfd - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_c1f3ac9f705045d98139c373a1705dfd.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/c21ce3fd85164cbba810a9de22897276 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_c21ce3fd85164cbba810a9de22897276.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/c25d445bb37c4909a10f564491d66c77 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_c25d445bb37c4909a10f564491d66c77.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/c33817b6eb984b57a0fc15ea595707ca - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_c33817b6eb984b57a0fc15ea595707ca.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/c38ce6159f0e4d93984cb372f84c6856 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_c38ce6159f0e4d93984cb372f84c6856.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/c3ba002f83784121a28beefb5944a2c5 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_c3ba002f83784121a28beefb5944a2c5.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/c5373519e890482daeeda12d55d3cbed - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_c5373519e890482daeeda12d55d3cbed.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/c70b78d8dc5644dc980f60dea5382a5e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_c70b78d8dc5644dc980f60dea5382a5e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/c768734bb5cb4721ba1cd9bf298570ec - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_c768734bb5cb4721ba1cd9bf298570ec.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/c80ea8574e0e454084b8bdd6dce9380d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_c80ea8574e0e454084b8bdd6dce9380d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/c8dcaf30a9504666afea09794043bd7d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_c8dcaf30a9504666afea09794043bd7d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/c96136758ddd49b2956389c149bc505c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_c96136758ddd49b2956389c149bc505c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/ca909b318fe9426c9be487eab7f2510f - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_ca909b318fe9426c9be487eab7f2510f.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/cb4f8d2dfa20463d91523fd848aab2db - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_cb4f8d2dfa20463d91523fd848aab2db.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/cb943e3d59414692aebfcf1ca2fdad6d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_cb943e3d59414692aebfcf1ca2fdad6d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/cc482e15af9243b4b6ad8fc7b4c8b912 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_cc482e15af9243b4b6ad8fc7b4c8b912.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/cd041f5cc2564ac2b1a8783d615177c8 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_cd041f5cc2564ac2b1a8783d615177c8.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/cda6a226bfee44b9b1cbc5f0aa4b1064 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_cda6a226bfee44b9b1cbc5f0aa4b1064.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/cdbf7a79cc2c4aba8d84dcf154dfc549 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_cdbf7a79cc2c4aba8d84dcf154dfc549.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/cf48033697ad4a829d5422e94c83b85c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_cf48033697ad4a829d5422e94c83b85c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/cf4b5943581046879dc4ae8c7571a47f - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_cf4b5943581046879dc4ae8c7571a47f.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/cfb51e78a3db40f1addc6eaa8068b496 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_cfb51e78a3db40f1addc6eaa8068b496.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/d00a4096e0e5414f9b9dc97e2aaf5ff7 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_d00a4096e0e5414f9b9dc97e2aaf5ff7.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/d27445fd707a40b289e2c38f90b39c5d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_d27445fd707a40b289e2c38f90b39c5d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/d276944388b5490ebd4c834cb30380b2 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_d276944388b5490ebd4c834cb30380b2.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/d289398b219148208b84df29e4446347 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_d289398b219148208b84df29e4446347.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/d3be5506aa344addbbc7e133bdcb50f6 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_d3be5506aa344addbbc7e133bdcb50f6.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/d3d885ebd7c34351bacc93fa979736b8 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,CANN,了解详情,智能助手,训练营,暑期季 - Detail: llms-content/activities/zh_activities_task-center_details_d3d885ebd7c34351bacc93fa979736b8.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/d5146cec01d843bc8bc6d241ac108d8c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_d5146cec01d843bc8bc6d241ac108d8c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/d5f84059daee4dc096d181933ff19f99 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_d5f84059daee4dc096d181933ff19f99.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/d688f16d7c7c42dfac27a1f4c2dc2a7c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_d688f16d7c7c42dfac27a1f4c2dc2a7c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/d6bf6c85998f4f5da44a751ffd31dd9b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_d6bf6c85998f4f5da44a751ffd31dd9b.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/d84cbbc71efa456baab8262421b28f2b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_d84cbbc71efa456baab8262421b28f2b.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/d9a52a8ad343428a90ca0796e7015e83 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_d9a52a8ad343428a90ca0796e7015e83.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/da4f0eacb7784de1a64c9dfe77c83d7e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_da4f0eacb7784de1a64c9dfe77c83d7e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/da6151642c774e9586e5d5d5a5ff0b4a - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_da6151642c774e9586e5d5d5a5ff0b4a.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/db3c909386724cd386e1686858a4240b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_db3c909386724cd386e1686858a4240b.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/dc22e319c8944c61beafcb918313e999 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_dc22e319c8944c61beafcb918313e999.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/dc701902dc1645cc9b9c3be120ee8da9 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_dc701902dc1645cc9b9c3be120ee8da9.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/dcdde30d25ad4f11825a5c4082516dc8 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_dcdde30d25ad4f11825a5c4082516dc8.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/dd7b1a1706244bfeafb0f790a98e9f9c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_dd7b1a1706244bfeafb0f790a98e9f9c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/de188c6c1fe94909b4a3f2661856ef0a - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_de188c6c1fe94909b4a3f2661856ef0a.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/dec67d85226b48818de1297ae01fcb28 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_dec67d85226b48818de1297ae01fcb28.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/df20b33378ba4cba9186b530177f9606 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_df20b33378ba4cba9186b530177f9606.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/df67096e7aea4ea093bf179466e2ce94 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_df67096e7aea4ea093bf179466e2ce94.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/e0f5141af6cd47ad8314f0de9bf086ff - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_e0f5141af6cd47ad8314f0de9bf086ff.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/e0fc71ed4bf144ac810bab7981d4df84 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_e0fc71ed4bf144ac810bab7981d4df84.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/e1bf2b08053540a5898729e6c73f769f - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_e1bf2b08053540a5898729e6c73f769f.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/e1c40de6f097454e99881f02384d648b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_e1c40de6f097454e99881f02384d648b.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/e20420c203df4f8c9c526636a674993e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_e20420c203df4f8c9c526636a674993e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/e25c33c93ea44a6e871bccd0d6a6f6cc - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_e25c33c93ea44a6e871bccd0d6a6f6cc.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/e283dcbc8ae447f8adef1a73a0788d59 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_e283dcbc8ae447f8adef1a73a0788d59.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/e3f1b632b01642c0ace2f31295b32507 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_e3f1b632b01642c0ace2f31295b32507.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/e49cbfdf65fd41aea8eebb3638e86e7b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_e49cbfdf65fd41aea8eebb3638e86e7b.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/e49e578b263a427db9b7e30038734fea - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_e49e578b263a427db9b7e30038734fea.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/e4eeaf56a4274078af5542de4878b7d5 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_e4eeaf56a4274078af5542de4878b7d5.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/e6c344ccea254793a7e803ac81d93e50 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_e6c344ccea254793a7e803ac81d93e50.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/e70f567fbac84160bb3a4caed488f0ef - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_e70f567fbac84160bb3a4caed488f0ef.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/e725c4a035c44676b595542a5a976bbe - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_e725c4a035c44676b595542a5a976bbe.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/e8161c1593da4e748471c37cd849e81a - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_e8161c1593da4e748471c37cd849e81a.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/e87e30091eb041ab9fb0c18aa4516337 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_e87e30091eb041ab9fb0c18aa4516337.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/e8ec9c5454b34620812fee124937e103 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_e8ec9c5454b34620812fee124937e103.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/eab90fdd25694b2dad3cb780720c19d5 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_eab90fdd25694b2dad3cb780720c19d5.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/ebb7168abf3c498da482849aa8e8ac4d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_ebb7168abf3c498da482849aa8e8ac4d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/ec3a1e4af52e4a1a82a6a27016c927fd - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_ec3a1e4af52e4a1a82a6a27016c927fd.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/ecd9faf609b44820ae0133f0a890b68b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_ecd9faf609b44820ae0133f0a890b68b.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/edade7ac435f47b59cdf917c9fcdc7df - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_edade7ac435f47b59cdf917c9fcdc7df.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/ee1bfc99562047459196db99a94630f0 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_ee1bfc99562047459196db99a94630f0.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/ee4d2d33cbc349a7972667a068f51a19 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_ee4d2d33cbc349a7972667a068f51a19.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/ee90738c17604851b4ecf0f808f22b1a - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_ee90738c17604851b4ecf0f808f22b1a.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/efc2539bbcfe428b83f719ea21938e01 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_efc2539bbcfe428b83f719ea21938e01.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/f001d977cf32495c970175a045857985 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_f001d977cf32495c970175a045857985.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/f13e3d4965884123ac05945af36bdb8b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_f13e3d4965884123ac05945af36bdb8b.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/f256c4f76f644558a97ce41aacec2ae8 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_f256c4f76f644558a97ce41aacec2ae8.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/f2767f7c4f43450d8734802fa6b8b22d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_f2767f7c4f43450d8734802fa6b8b22d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/f2d3b9b0878f4f708a610dc083b04917 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_f2d3b9b0878f4f708a610dc083b04917.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/f32b652b53c8454da7141f6ad030c9c4 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_f32b652b53c8454da7141f6ad030c9c4.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/f381a3964d61411aa7648e7a82235d4c - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_f381a3964d61411aa7648e7a82235d4c.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/f3af26f17843431e9955cb9dcc21551d - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,智能助手,了解详情,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_f3af26f17843431e9955cb9dcc21551d.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/f4a1058319d64d0ea6152e35dbd71589 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_f4a1058319d64d0ea6152e35dbd71589.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/f651d2b4e24a4a5e9f9cb3270db7018f - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_f651d2b4e24a4a5e9f9cb3270db7018f.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/f791a343ec3447e7a6b723b90220efce - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_f791a343ec3447e7a6b723b90220efce.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/f7d553dbae5d44ab990aa0ca41291e33 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_f7d553dbae5d44ab990aa0ca41291e33.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/f7f6309cde184317984b9eba8ed3639a - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_f7f6309cde184317984b9eba8ed3639a.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/f845403b23c24bd0a39b5de1bd524ebf - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,一期 - Detail: llms-content/activities/zh_activities_task-center_details_f845403b23c24bd0a39b5de1bd524ebf.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/f8f73be9cde54cc0b7060ffad28dd234 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_f8f73be9cde54cc0b7060ffad28dd234.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/f9107df41ace411faea174998d58b976 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_f9107df41ace411faea174998d58b976.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/f913ee5b4a3c4459bb6278097ded4780 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_f913ee5b4a3c4459bb6278097ded4780.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/faa9e62c5a4c4e12a7696aa25e39321f - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_faa9e62c5a4c4e12a7696aa25e39321f.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/fb08aee31483410f8550b58db9fd7ece - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_fb08aee31483410f8550b58db9fd7ece.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/fbaaf5046804410b8a402fc081d808d6 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_fbaaf5046804410b8a402fc081d808d6.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/fbdbde76ac6847aca6aa27565bd1b080 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_fbdbde76ac6847aca6aa27565bd1b080.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/fc751824b6a24f309fa91f81f74dcb6e - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_fc751824b6a24f309fa91f81f74dcb6e.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/fd08d58b648c4bab9d6c11c4657339d1 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_fd08d58b648c4bab9d6c11c4657339d1.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/fd1c668ba61a4ade8b8780e640be8e72 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_fd1c668ba61a4ade8b8780e640be8e72.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/fd2e107598f44bb9808c59b2fe9c4854 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_fd2e107598f44bb9808c59b2fe9c4854.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/fe0c722b578c4e6cb4ddb992ee6cab17 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场 - Detail: llms-content/activities/zh_activities_task-center_details_fe0c722b578c4e6cb4ddb992ee6cab17.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/ff4289dee40d424dae29fa033b1e6e38 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_ff4289dee40d424dae29fa033b1e6e38.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/ff878c93a81d47729efe676f0f684a92 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,二期 - Detail: llms-content/activities/zh_activities_task-center_details_ff878c93a81d47729efe676f0f684a92.md ## 任务广场 - URL: https://www.hiascend.com/activities/task-center/details/ffc7b543ad6d4c03a654b6808fb02f8b - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 任务广场,Ascend,PyTorch API,了解详情,智能助手,月社区任务第,三期 - Detail: llms-content/activities/zh_activities_task-center_details_ffc7b543ad6d4c03a654b6808fb02f8b.md ## 应用下线通知-昇腾社区 - URL: https://www.hiascend.com/app-offline-notice - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾社区官网,昇腾万里,让智能无所不及,APP,昇腾社区,下线站内信,Chrome,Edge - Detail: llms-content/misc/zh_app-offline-notice.md ## 鲲鹏昇腾开发者大会2026-KADC-昇腾社区 - URL: https://www.hiascend.com/ascend-2026KADC - Description: KADC鲲鹏昇腾开发者大会是华为面向开发者一年一度的技术盛会,旨在打造开放、共享、学习交流的平台,汇聚行业领袖、技术大咖、学术领军人物以及广大伙伴、高校、优秀开发者等,分享计算产业趋势、前沿AI技术、行业创新案例,优秀开发者实践等,使能开发者高效开发,共促行业解决方案和应用创新,加速行业智能化。 - Keywords: KADC、昇腾、鲲鹏、开发者大会、技术、AI - Detail: llms-content/activities/zh_ascend-2026KADC.md ## 昇腾开发者计划2026-昇腾社区 - URL: https://www.hiascend.com/developer-program - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾社区,开发者计划,昇腾社区权益 - Detail: llms-content/developer/zh_developer-program.md ## 用户登录-昇腾社区 - URL: https://www.hiascend.com/feedback - Description: 用户登录 - Keywords: 用户登录,昇腾社区,CAS,了解详情,登录 - Detail: llms-content/misc/zh_feedback.md ## 开源贡献评优激励-昇腾社区 - URL: https://www.hiascend.com/incentive/award - Description: 活跃有奖,贡献有酬,激励每一份开源热爱 - Keywords: 开源贡献评优激励,昇腾社区,年度贡献激励,月度活跃激励,参与流程,开源贡献评优,激励,智能助手 - Detail: llms-content/misc/zh_incentive_award.md ## 昇腾产品公告-版本发布-生命周期-版本配套-昇腾社区 - URL: https://www.hiascend.com/productbulletins - Description: 提供昇腾offering产品版本发布、生命周期、版本配套、文档动态等公告信息 - Keywords: 昇腾产品公告,版本发布,生命周期,版本配套,昇腾社区,CANN MindIE PyTorch TensorFlow MindStudio MindCluster MindEdge Min - Detail: llms-content/productbulletins/zh_productbulletins.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/624 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_624.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/667 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_667.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/670 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_670.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/677 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_677.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/678 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_678.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/680 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_680.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/706 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_706.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/712 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_712.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/731 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_731.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/737 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_737.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/756 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_756.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/757 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_757.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/758 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_758.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/778 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_778.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/780 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_780.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/785 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_785.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/788 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_788.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/789 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_789.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/791 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_791.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/804 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_804.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/805 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_805.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/806 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_806.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/808 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_808.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/809 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_809.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/810 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_810.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/811 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_811.md ## 产品公告-昇腾社区 - URL: https://www.hiascend.com/productbulletins/detail/812 - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 产品公告,昇腾社区 - Detail: llms-content/productbulletins/zh_productbulletins_detail_812.md ## 昇腾开发者榜单-昇腾社区 - URL: https://www.hiascend.com/rankings - Description: 昇腾社区官方开发者榜单,汇聚AI与计算领域顶尖贡献者。查看月度社区开源引航官、明星创作官、体验评测官、活跃开发者等优秀开发者排名,见证技术榜样力量,激励更多开发者加入昇腾生态,共创智能未来 - Keywords: 昇腾社区,开发者计划,开发者榜单,开源贡献,开发者荣誉 - Detail: llms-content/misc/zh_rankings.md ## 昇腾开发者往期榜单-昇腾社区 - URL: https://www.hiascend.com/rankings_history - Description: 昇腾社区官方开发者榜单,汇聚AI与计算领域顶尖贡献者。查看往期月度社区开源引航官、明星创作官、体验评测官、活跃开发者等优秀开发者排名,见证技术榜样力量,激励更多开发者加入昇腾生态,共创智能未来 - Keywords: 昇腾社区,开发者计划,开发者榜单,开源贡献,开发者荣誉 - Detail: llms-content/misc/zh_rankings_history.md ## 屏广-昇腾社区 - URL: https://www.hiascend.com/screen-ad - Description: 昇腾社区是基于昇腾系列处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,包括昇腾系列处理器、系列硬件、CANN异构计算架构、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。 - Keywords: 昇腾社区官网,昇腾万里,让智能无所不及,智能助手 - Detail: llms-content/misc/zh_screen-ad.md ## 昇腾大模型解决方案-文档课程资源-昇腾社区 - URL: https://www.hiascend.com/solutions/Foundation-Model - Description: 昇腾大模型解决方案,提供高可靠算力设备、全流程创新使能、生态开发兼容,从大模型的开发训练到推理部署,昇腾AI全流程使能大模型创新落地。 - Keywords: 昇腾大模型解决方案,文档课程资源,昇腾社区,AI,昇腾,全流程使能大,模型创新落地,从大模型的开 - Detail: llms-content/misc/zh_solutions_Foundation-Model.md ## 支持与服务-技术支持-人工服务-昇腾社区 - URL: https://www.hiascend.com/support - Description: 为您提供多样化的自助查询途径、专业高效的人工服务支持 - Keywords: 技术支持,人工服务,昇腾社区,开发者支持与服务,常见问题,CANN,AscendFAQ,CommuFunc - Detail: llms-content/misc/zh_support.md